本文實例講述了kNN算法python實現和簡單數字識別的方法。分享給大家供大家參考。具體如下：

kNN算法算法優缺點：

優點：精度高、對異常值不敏感、無輸入數據假定
缺點：時間復雜度和空間復雜度都很高
適用數據范圍:數值型和標稱型

算法的思路：

KNN算法（全稱K最近鄰算法），算法的思想很簡單，簡單的說就是物以類聚，也就是說我們從一堆已知的訓練集中找出k個與目標最靠近的，然后看他們中最多的分類是哪個，就以這個為依據分類。

函數解析：

庫函數：

tile()
如tile(A,n)就是將A重復n次
代碼如下:a = np.array([0, 1, 2])
np.tile(a, 2)
array([0, 1, 2, 0, 1, 2])
np.tile(a, (2, 2))
array([[0, 1, 2, 0, 1, 2],[0, 1, 2, 0, 1, 2]])
np.tile(a, (2, 1, 2))
array([[[0, 1, 2, 0, 1, 2]],[[0, 1, 2, 0, 1, 2]]])
b = np.array([[1, 2], [3, 4]])
np.tile(b, 2)
array([[1, 2, 1, 2],[3, 4, 3, 4]])
np.tile(b, (2, 1))
array([[1, 2],[3, 4],[1, 2],[3, 4]])`
自己實現的函數

createDataSet()生成測試數組
kNNclassify(inputX, dataSet, labels, k)分類函數

inputX 輸入的參數
dataSet 訓練集
labels 訓練集的標號
k 最近鄰的數目

代碼如下:
#coding=utf-8
from numpy import *
import operator

def createDataSet():
    group = array([[1.0, 0.9], [1.0, 1.0], [0.1, 0.2], [0.0, 0.1]])
    labels = ['A','A','B','B']
    return group,labels
#inputX表示輸入向量（也就是我們要判斷它屬于哪一類的）
#dataSet表示訓練樣本
#label表示訓練樣本的標簽
#k是最近鄰的參數，選最近k個
def kNNclassify(inputX, dataSet, labels, k):
    dataSetSize = dataSet.shape[0]#計算有幾個訓練數據
    #開始計算歐幾里得距離
    diffMat = tile(inputX, (dataSetSize,1)) - dataSet
   
    sqDiffMat = diffMat ** 2
    sqDistances = sqDiffMat.sum(axis=1)#矩陣每一行向量相加
    distances = sqDistances ** 0.5
    #歐幾里得距離計算完畢
    sortedDistance = distances.argsort()
    classCount = {}
    for i in xrange(k):
        voteLabel = labels[sortedDistance[i]]
        classCount[voteLabel] = classCount.get(voteLabel,0) + 1
    res = max(classCount)
    return res

def main():
    group,labels = createDataSet()
    t = kNNclassify([0,0],group,labels,3)
    print t
   
if __name__=='__main__':