http://blog.csdn.net/u010529217/article/details/24519135

關(guān)于神經(jīng)網(wǎng)絡(luò)歸一化方法的整理

問(wèn)題：如何在matlab中用簡(jiǎn)單點(diǎn)的方法實(shí)現(xiàn)矩陣歸一化，并落在0-1之間？

歸一化方法很多，一個(gè)比較簡(jiǎn)單的(X-min(X(:)))/(max(X(:))-min(X(:)))

關(guān)于神經(jīng)網(wǎng)絡(luò)（matlab）歸一化的整理由于采集的各數(shù)據(jù)單位不一致，因而須對(duì)數(shù)據(jù)進(jìn)行[-1，1]歸一化處理，歸一化方法主要有如下幾種，供大家參考：（by james）1、線性函數(shù)轉(zhuǎn)換，表達(dá)式如下：y=(x-MinValue)/(MaxValue-MinValue)說(shuō)明：x、y分別為轉(zhuǎn)換前、后的值，MaxValue、MinValue分別為樣本的最大值和最小值。2、對(duì)數(shù)函數(shù)轉(zhuǎn)換，表達(dá)式如下：y=log10(x)說(shuō)明：以10為底的對(duì)數(shù)函數(shù)轉(zhuǎn)換。3、反余切函數(shù)轉(zhuǎn)換，表達(dá)式如下：y=atan(x)*2/PI

歸一化是為了加快訓(xùn)練網(wǎng)絡(luò)的收斂性，可以不進(jìn)行歸一化處理 歸一化的具體作用是歸納統(tǒng)一樣本的統(tǒng)計(jì)分布性。歸一化在0-1之間是統(tǒng)計(jì)的概率分布，歸一化在-1--+1之間是統(tǒng)計(jì)的坐標(biāo)分布。歸一化有同一、統(tǒng)一和合一的意思。無(wú)論是為了建模還是為了計(jì)算，首先基本度量單位要統(tǒng)一，神經(jīng)網(wǎng)絡(luò)是以樣本在事件中的統(tǒng)計(jì)分別幾率來(lái)進(jìn)行訓(xùn)練（概率計(jì)算）和預(yù)測(cè)的，歸一化是同一在0-1之間的統(tǒng)計(jì)概率分布； 當(dāng)所有樣本的輸入信號(hào)都為正值時(shí)，與第一隱含層神經(jīng)元相連的權(quán)值只能同時(shí)增加或減小，從而導(dǎo)致學(xué)習(xí)速度很慢。為了避免出現(xiàn)這種情況，加快網(wǎng)絡(luò)學(xué)習(xí)速度，可以對(duì)輸入信號(hào)進(jìn)行歸一化，使得所有樣本的輸入信號(hào)其均值接近于0或與其均方差相比很小。

歸一化是因?yàn)閟igmoid函數(shù)的取值是0到1之間的，網(wǎng)絡(luò)最后一個(gè)節(jié)點(diǎn)的輸出也是如此，所以經(jīng)常要對(duì)樣本的輸出歸一化處理。所以這樣做分類(lèi)的問(wèn)題時(shí)用[0.9 0.1 0.1]就要比用[1 0 0]要好。但是歸一化處理并不總是合適的，根據(jù)輸出值的分布情況，標(biāo)準(zhǔn)化等其它統(tǒng)計(jì)變換方法有時(shí)可能更好。

關(guān)于用PRemnmx語(yǔ)句進(jìn)行歸一化：premnmx語(yǔ)句的語(yǔ)法格式是：[Pn,minp,maxp,Tn,mint,maxt]=premnmx(P,T)其中P，T分別為原始輸入和輸出數(shù)據(jù)，minp和maxp分別為P中的最小值和最大值。mint和maxt分別為T(mén)的最小值和最大值。premnmx函數(shù)用于將網(wǎng)絡(luò)的輸入數(shù)據(jù)或輸出數(shù)據(jù)進(jìn)行歸一化，歸一化后的數(shù)據(jù)將分布在[-1,1]區(qū)間內(nèi)。我們?cè)谟?xùn)練網(wǎng)絡(luò)時(shí)如果所用的是經(jīng)過(guò)歸一化的樣本數(shù)據(jù)，那么以后使用網(wǎng)絡(luò)時(shí)所用的新數(shù)據(jù)也應(yīng)該和樣本數(shù)據(jù)接受相同的預(yù)處理，這就要用到tramnmx。下面介紹tramnmx函數(shù)：[Pn]=tramnmx(P,minp,maxp)其中P和Pn分別為變換前、后的輸入數(shù)據(jù)，maxp和minp分別為premnmx函數(shù)找到的最大值和最小值。（by terry2008）matlab中的歸一化處理有三種方法1. premnmx、postmnmx、tramnmx2. restd、poststd、trastd3. 自己編程具體用那種方法就和你的具體問(wèn)題有關(guān)了 （by happy）pm=max(abs(p(i,:))); p(i,:)=p(i,:)/pm;和for i=1:27p(i,:)=(p(i,:)-min(p(i,:)))/(max(p(i,:))-min(p(i,:)));end 可以歸一到0 1 之間0.1+(x-min)/(max-min)*(0.9-0.1)其中max和min分別表示樣本最大值和最小值。這個(gè)可以歸一到0.1-0.9