k-近邻算法 python实现

必要的注释已经写在code里面了；

import operator

from numpy import*

def init():

    grp=array([[1.0,1.1],[1.0,1.0],[0,0],[0,0.1]])

    lab=['A','A','B','B']

    return grp,lab

def Classify(inX,dataset,lab,k):

    # 用于分类的向量inX;数据集dataset;属性向量lab;k近邻

    datasize=dataset.shape[0]# 行大小

    difmt=tile(inX,(datasize,1))-dataset

    # tile: 将inX复制成一个 行大小为datasize，列大小为1的矩阵

    ######------ 计算欧几里得距离 ------#######

    sqrdif=difmt ** 2

    sqrdist=sqrdif.sum(axis=1)

    distance=sqrdist** 0.5

    ##########################################

    sortedDisIndex=distance.argsort()

    # 排序后获得索引值

    classcnt={}

    for i in range(k):# 取前k个

        vtlab=lab[sortedDisIndex[i]]

        classcnt[vtlab]=classcnt.get(vtlab,0)+1

    sortedClasscnt=sorted(classcnt.items(),key=operator.itemgetter(1),reverse=True)

    # sorted：itemgetter(1)按照第二关键字排序，即按照个数从大到小排序（因为reverse=True)

    return sortedClasscnt[0][0]

grp,lab=init()

ans=Classify([0,0],grp,lab,3)

print(ans)