K-means实战(一)

import numpy as np

import operator

"""

函数说明：创建数据集

Returns：

    group -数据集

    labels -分类标签

"""

def dataCreat():

    #四组二维空间

    group = np.array([[1,101],[5,89],[108,5],[115,8]])

    #四组特征的标签

    labels = ['爱情片','爱情片','动作片','动作片']

    return group,labels

if __name__ == '__main__':

    #创建数据集

    group,labels = dataCreat()

    #打印数据集

    print(group)

    print(labels)

"""

函数说明：knn算法，分类器

Parameters:

    inX - 用于分类的数据(测试集)

    dataSet - 用于训练的数据(训练集)

    labes - 分类标签

    k - kNN算法参数,选择距离最小的k个点

Returns:

    sortedClassCount[0][0] - 分类结果

"""

def classif(inX,dataSet,labels,k):

    #numpy库中的shape返回dataSet的行数

    dataSetSize = dataSet.shape[0]

    # dataSetSize == 4

    #在列向量方向上重复inX共1次(横向)，行向量方向上重复inX共dataSetSize次(纵向)

    diffMat = np.tile(inX, (dataSetSize, 1)) - dataSet#np.tile()这个函数是复制函数，y复制dataSetSize次，x不变

    #相当于[101,20]-[1,101]=[100,-81],其他一样

    #二维特征相减后平方

    sqdiffMat = diffMat ** 2

    #[10000,  6561],

    #[ 9216,  4761],

    #[   49,   225],

    #[  196,   144]]

    #sum()所有元素相加，sum(0)列相加，sum(1)行相加

    sqDistances = sqdiffMat.sum(axis=1)

    #[16561, 13977,   274,   340]

    # 开方，计算出距离

    distances = sqDistances ** 0.5

    #[128.68954892,货币代码 118.22436297,  16.55294536,  18.43908891]

    # 返回distances中元素从小到大排序后的索引值

    sortedDistIndices = distances.argsort()

    #[16.55294536,18.43908891,118.22436297,128.68954892]

    # 定一个记录类别次数的字典

    classCount = {}

    for i in range(k):

        # 取出前k个元素的类别

        voteIlabel = labels[sortedDistIndices[i]]

        # dict.get(key,default=None),字典的get()方法,返回指定键的值,如果值不在字典中返回默认值。

        # 计算类别次数

        classCount[voteIlabel] = classCount.get(voteIlabel, 0) + 1

    # python3中用items()替换python2中的iteritems()

    # key=operator.itemgetter(1)根据字典的值进行排序

    # key=operator.itemgetter(0)根据字典的键进行排序

    # reverse降序排序字典

    sortedClassCount = sorted(classCount.items(), key=operator.itemgetter(1), reverse=True)

    #返回次数最多的类别,即所要分类的类别

    return sortedClassCount[0][0]

if __name__ == '__main__':

    # 创建数据集

    group, labels = dataCreat()

    # 测试集

    test = [101, 20]

    # kNN分类

    test_class = classif(test, group, labels, 3)

    # 打印分类结果

    print(test_class)