建设多语言网站,php视频网站开发,网站管理员权限,百度竞价关键词前言
聚类算法又叫做”无监督分类“#xff0c;目标是通过对无标记训练样本来揭示数据的内在性质及 规律#xff0c;为进一步的数据分析提供基础。
Kmeans
作为聚类算法的典型代表#xff0c;Kmeans可以说是最简单的聚类算法#xff0c;没有之一#xff0c;那她是怎么完…前言
聚类算法又叫做”无监督分类“目标是通过对无标记训练样本来揭示数据的内在性质及 规律为进一步的数据分析提供基础。
Kmeans
作为聚类算法的典型代表Kmeans可以说是最简单的聚类算法没有之一那她是怎么完成聚类的呢?
算法接受参数k给定样本集 D { x 1 , x 2 , . . . , x n } D\{x_1,x_2,...,x_n\} D{x1,x2,...,xn}随机选点k个中心(质心)遍历样本集,先取距离最近的质心,从而根据质心分解样本集D簇划分 C { C 1 , C 2 , . . . , C k } C\{C_1,C_2,...,C_k\} C{C1,C2,...,Ck}最小化平方误差利用簇中均值等方法更新该簇类的中心k个重覆4-6的步骤,直至E不再更新 Kmeans中用的是欧式距离 kmeans的计算过程
现在有4组数据每组数据有2个维度对其进行聚类分为2类将其可视化一下。 通过比较将其进行归类。并使用平均法更新中心位置。再次计算每个点与更新后的位置中心的距离,直到上一次的类别标记无变化即可停止
import matplotlib.pyplot as plt
from sklearn.cluster import KMeans
from sklearn.datasets import make_blobs## 创建数据集
X, _ make_blobs(n_samples10000, centers2, random_state0)## kmeans超参数值列表
n_clusters_list [4, 8, 16]# 图的框架
fig, axs plt.subplots(1, len(n_clusters_list), figsize(12, 5)
)
axs axs.T
for j, n_clusters in enumerate(n_clusters_list):## 创建模型algo KMeans(n_clustersn_clusters, random_staterandom_state, n_init3)algo.fit(X)centers algo.cluster_centers_axs[j].scatter(X[:, 0], X[:, 1], s10, calgo.labels_)## 画质心axs[j].scatter(centers[:, 0], centers[:, 1], cr, s20)axs[j].set_title(f{n_clusters} clusters)
for ax in axs.flat:ax.label_outer()ax.set_xticks([])ax.set_yticks([])
plt.show()聚类算法用于降维
K-Means聚类最重要的应用之一是非结构数据图像声音上的矢量量化VQ。非结构化数据往往占用比较多的储存空间文件本身也会比较大运算非常缓慢我们希望能够在保证数据质量的前提下尽量地缩小非结构化数据的大小或者简化非结构化数据的结构。
一组40个样本的数据分别含有40组不同的信息(x1,x2)。将代表所有样本点聚成4类找出四个质心.这些点和他们所属的质心非常相似因此他们所承载的信息就约等于他们所在的簇的质心所承载的信息。使用每个样本所在的簇的质心来覆盖原有的样本有点类似四舍五入的感觉类似于用1来代替0.9和0.8。
这样40个样本带有的40种取值就被我们压缩了4组取值虽然样本量还是40个但是这40个样本所带的取值其实只有4个就是分出来的四个簇的质心。查看官方用例
主要参考
《机器学习理论十三Kmeans聚类》
