Python之机器学习K-means算法实现

一、前言：

今天在宿舍弄了一个下午的代码，总算还好，把这个东西算是熟悉了，还不算是力竭，只算是知道了怎么回事。今天就给大家分享一下我的代码。代码可以运行，运行的Python环境是Python3.6以上的版本，需要用到Python中的numpy、matplotlib包，这一部分代码将K-means算法进行了实现。当然这还不是最优的代码，只是在功能上已经实现了该算法的功能。

二、代码部分：

import numpy as np
import random
from matplotlib import pyplot as plt

class K_means(object):
    def __init__(self,X,k,maxIter):
        self.X = X#数据集   是一个矩阵
        self.k = k#所需要分的类的数
        self.maxIter = maxIter#所允许的程序执行的最大的循环次数

    def K_means(self):
        row,col = self.X.shape#得到矩阵的行和列

        dataset = np.zeros((row,col + 1))#新生成一个矩阵，行数不变，列数加1 新的列用来存放分组号别  矩阵中的初始值为0
        dataset[:,:-1] = self.X
        print("begin:dataset:\n" + repr(dataset))
        # centerpoints = dataset[0:2,:]#取数据集中的前两个点为中心点
        centerpoints = dataset[np.random.randint(row,size=k)]#采用随机函数任意取两个点

        centerpoints[:,-1] = range(1,self.k+1)
        oldCenterpoints = None #用来在循环中存放上一次循环的中心点
        iterations = 1 #当前循环次数

        while not self.stop(oldCenterpoints,centerpoints,iterations):
            print("corrent iteration:" + str(iterations))
            print("centerpoint:\n" + repr(centerpoints))
            print("dataset:\n" + repr(dataset))

            oldCenterpoints = np.copy(centerpoints)#将本次循环的点拷贝一份 记录下来
            iterations += 1

            self.updateLabel(dataset,centerpoints)#将本次聚类好的结果存放到矩阵中

            centerpoints = self.getCenterpoint(dataset)#得到新的中心点，再次进行循环计算

        np.save("kmeans.npy", dataset)
        return dataset

    def stop(self,oldCenterpoints,centerpoints,iterations):
        if iterations > self.maxIter:
            return True
        return np.array_equal(oldCenterpoints,centerpoints)#返回两个点多对比结果


    def updateLabel(self,dataset,centerpoints):
        row,col = self.X.shape
        for i in range(0,row):
            dataset[i,-1] = self.getLabel(dataset[i,:-1],centerpoints)
            #[i,j] 表示i行j列

    #返回当前行和中心点之间的距离最短的中心点的类别，即当前点和那个中心点最近就被划分到哪一部分
    def getLabel(self,datasetRow,centerpoints):
        label = centerpoints[0, -1]#先取第一行的标签值赋值给该变量
        minDist = np.linalg.norm(datasetRow-centerpoints[0, :-1])#计算两点之间的直线距离
        for i in range(1, centerpoints.shape[0]):
            dist = np.linalg.norm(datasetRow-centerpoints[i, :-1])
            if dist < minDist:#当该变距离中心点的距离小于预设的最小值，那么将最小值进行更新
                minDist = dist
                label = centerpoints[i,-1]
        print("minDist:" + str(minDist) + ",belong to label:" + str(label))
        return label

    def getCenterpoint(self,dataset):
        newCenterpoint = np.zeros((self.k,dataset.shape[1]))#生成一个新矩阵，行是k值，列是数据集的列的值
        for i in range(1,self.k+1):
            oneCluster = dataset[dataset[:,-1] == i,:-1]#取出上一次分好的类别的所有属于同一类的点，对其求平均值
            newCenterpoint[i-1, :-1] = np.mean(oneCluster,axis=0)#axis=1表示对行求平均值，=0表示对列求平均值
            newCenterpoint[i-1, -1] = i#重新对新的中心点进行分类，初始类

        return newCenterpoint

    #将散点图画出来
    def drawScatter(self):
        plt.xlabel("X")
        plt.ylabel("Y")
        dataset = self.K_means()
        x = dataset[:, 0]  # 第一列的数值为横坐标
        y = dataset[:, 1]  # 第二列的数值为纵坐标
        c = dataset[:, -1]  # 最后一列的数值用来区分颜色
        color = ["none", "b", "r", "g", "y","m","c","k"]
        c_color = []

        for i in c:
            c_color.append(color[int(i)])#给每一种类别的点都涂上不同颜色，便于观察

        plt.scatter(x=x, y=y, c=c_color, marker="o")#其中x表示横坐标的值，y表示纵坐标的
        # 值，c表示该点显示出来的颜色，marker表示该点多形状，‘o’表示圆形
        plt.show()


if __name__ == '__main__':


    '''
    关于numpy中的存储矩阵的方法，这里不多介绍，可以自行百度。这里使用的是
    np.save("filename.npy",X)其中X是需要存储的矩阵
    读取的方法就是代码中的那一行代码，可以不用修改任何参数，导出来的矩阵和保存之前的格式一模一样，很方便。
    '''
    # X = np.load("testSet-kmeans.npy")#从文件中读取数据
    #自动生成数据
    X = np.zeros((1,2))
    for i in range(1000):
        X = np.row_stack((X,np.array([random.randint(1,100),random.randint(1,100)])))
    k = 5 #表示待分组的组数

    kmeans = K_means(X=X,k=k,maxIter=100)
    kmeans.drawScatter()

 三、显示效果：