知識點

疑點分析

寫編程作業時Octave GUI總是出現各種奇葩總是，所以一直在命令行下完成作業的編寫與提交。 特征縮放可以加快梯度下降速度，如圖： 梯度下降的方向為偏導數方向，即為該點的切線(面)方向。圖1 、圖2分別是未經特征縮放處理和經特征縮放處理過的特征圖像，由圖1可知，未經縮放處理的梯度下降曲曲折折迭代較多次才能從出發點A到目標點B，而圖2迭代次數就少的多。該過程可用數學推導，證明特征縮放的確可以加快梯度下降速度。 特征縮放公式：θ?=θ?averagemax?min$/theta^* = /frac{/theta - average}{max - min}$或θ?=θmax$/theta^*=/frac{/theta}{max}$, 其中θ$/theta$為待縮放特征，average為θ$/theta$的平均值，max為最大θ$/theta$，min為最小θ$/theta$。一般將特征縮放到[－1， 1]區間，也可以是[0, 2]，也可以是[－3，3]或[-0.2，0.2]，但一最好不要太大或太小，如[-1000, 1000]、[－0.001，0.001]都是不合適縮放區間。個人感覺不能縮放區間不能太大或太小的原因應該和計算機縮放時數據損失(如double型轉換成float型就會有精度損失)有關。

調試α$/alpha$，畫出代價函數與梯度下降迭代圖可以看出α$/alpha$是設置大了還是小了，如圖： 圖a可看出，代價函數很快就收斂了，證明此時的α$/alpha$設置恰到好處 圖b中代價函數一直在趨向收斂但是速度很慢，應該是α$/alpha$設置太小了。 圖c的代價函數趨向發散，很有可能是α$/alpha$大太導致的

Octave基本語法看這里，可以輸入help fun查看fun函數的作用及用法，常用函數有：sum max min mean var plot等

術語及個人理解