国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

tensorflow學習筆記之簡單的神經網絡訓練和測試

2020-02-22 23:40:07
字體:
來源:轉載
供稿:網友

本文實例為大家分享了用簡單的神經網絡來訓練和測試的具體代碼,供大家參考,具體內容如下

剛開始學習tf時,我們從簡單的地方開始。卷積神經網絡(CNN)是由簡單的神經網絡(NN)發展而來的,因此,我們的第一個例子,就從神經網絡開始。

神經網絡沒有卷積功能,只有簡單的三層:輸入層,隱藏層和輸出層。

數據從輸入層輸入,在隱藏層進行加權變換,最后在輸出層進行輸出。輸出的時候,我們可以使用softmax回歸,輸出屬于每個類別的概率值。借用極客學院的圖表示如下:

其中,x1,x2,x3為輸入數據,經過運算后,得到三個數據屬于某個類別的概率值y1,y2,y3. 用簡單的公式表示如下:

在訓練過程中,我們將真實的結果和預測的結果相比(交叉熵比較法),會得到一個殘差。公式如下:

y是我們預測的概率值,y'是實際的值。這個殘差越小越好,我們可以使用梯度下降法,不停地改變W和b的值,使得殘差逐漸變小,最后收斂到最小值。這樣訓練就完成了,我們就得到了一個模型(W和b的最優化值)。

完整代碼如下:

import tensorflow as tfimport tensorflow.examples.tutorials.mnist.input_data as input_datamnist = input_data.read_data_sets("MNIST_data/", one_hot=True)x = tf.placeholder(tf.float32, [None, 784])y_actual = tf.placeholder(tf.float32, shape=[None, 10])W = tf.Variable(tf.zeros([784,10]))    #初始化權值Wb = tf.Variable(tf.zeros([10]))      #初始化偏置項by_predict = tf.nn.softmax(tf.matmul(x,W) + b)   #加權變換并進行softmax回歸,得到預測概率cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_actual*tf.log(y_predict),reduction_indies=1))  #求交叉熵train_step = tf.train.GradientDescentOptimizer(0.01).minimize(cross_entropy)  #用梯度下降法使得殘差最小correct_prediction = tf.equal(tf.argmax(y_predict,1), tf.argmax(y_actual,1))  #在測試階段,測試準確度計算accuracy = tf.reduce_mean(tf.cast(correct_prediction, "float"))        #多個批次的準確度均值init = tf.initialize_all_variables()with tf.Session() as sess:  sess.run(init)  for i in range(1000):        #訓練階段,迭代1000次    batch_xs, batch_ys = mnist.train.next_batch(100)      #按批次訓練,每批100行數據    sess.run(train_step, feed_dict={x: batch_xs, y_actual: batch_ys})  #執行訓練    if(i%100==0):         #每訓練100次,測試一次      print "accuracy:",sess.run(accuracy, feed_dict={x: mnist.test.images, y_actual: mnist.test.labels})

每訓練100次,測試一次,隨著訓練次數的增加,測試精度也在增加。訓練結束后,1W行數據測試的平均精度為91%左右,不是太高,肯定沒有CNN高。

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 大埔县| 堆龙德庆县| 广水市| 武穴市| 芒康县| 泸定县| 日照市| 百色市| 无极县| 广宗县| 长兴县| 桂平市| 广元市| 曲水县| 寿宁县| 林西县| 五华县| 英吉沙县| 南投市| 开江县| 淮北市| 桦南县| 鹤庆县| 高碑店市| 察隅县| 和政县| 朝阳区| 高清| 屏东县| 饶阳县| 五常市| 抚顺县| 寿阳县| 石棉县| 克东县| 陆川县| 罗田县| 罗田县| 泗阳县| 克东县| 板桥市|