提供了编程的基础技术教程

zl程序教程

您现在的位置是：首页 >  后端

当前栏目

【OpenCV-Python】教程：7-3 理解KMeans

PythonOpencv教程 理解 Kmeans
2023-09-14 09:01:40 时间

OpenCV Python KMeans 的理解

【目标】

  • 理解KMeans聚类的基础概念
  • KMeans是如何工作的，

【理论】

Tshirt尺寸问题

有个公司，打算投放一批T-shirt到市场上售卖，但是不知道人们需要什么样的尺寸，而且工厂也不会制作所有的尺寸样衣，所以，他们需要想办法，用尽可能少的尺寸数量满足用户需求。

在这里插入图片描述

他们把人分为小、中、大三种，只生产这三种适合所有人的型号。这种将人分成三组的方法可以通过k-means聚类来实现，算法提供了满足所有人的最佳3个大小。如果没有，公司可以把人们分成更多的小组，可能是五组，以此类推。请看下图:

在这里插入图片描述

K-Means步骤

该算法就是一个迭代更新的过程，下面将一步一步的进行介绍。以下图数据为例（可以认定为T-shirt问题，下图的数据，我们将它们聚为2类）：

在这里插入图片描述

1. 随机选择聚类中心 C 1 C1 C1 和 C 2 C2 C2

2. 计算距离并标记

分别计算每个点到两个质心的距离，看与哪个质心更近，如果与 C 1 C1 C1 近，则认为属于类别0 , 与 C 2 C2 C2 近，认为属于类别 1。 （此处 0,1 为 设定的类别号），本例中0表示红色，1表示蓝色；

在这里插入图片描述

3. 重新计算分配

分别计算所有红色点和蓝色点的平均值，新的平均值就是新的质心，也是新的 C 1 C1 C1 和 C 2 C2 C2

不停的进行步骤2 和步骤 3, 得到下图的结果。

在这里插入图片描述

迭代进行以上步骤后，直到两个质心都收敛到固定点（或者收敛到我们设定的值，例如最大迭代次数，达到的精度等）。简单的说，就是 C 1 ↔ R e d P o i n t s C1↔RedPoints C1↔RedPoints 与 C 2 ↔ B l u e P o i n t s C2↔BluePoints C2↔BluePoints 距离和最小。

m i n i m i z e [ J = ∑ A l l R e d P o i n t s d i s t a n c e ( C 1 , R e d P o i n t ) + ∑ A l l B l u e P o i n t s d i s t a n c e ( C 2 , B l u e P o i n t ) ] minimize \lbrack J=\sum_{AllRedPoints}{distance(C1,RedPoint)} + \sum_{AllBluePoints}{distance(C2,BluePoint)} \rbrack minimize[J=AllRedPoints∑​distance(C1,RedPoint)+AllBluePoints∑​distance(C2,BluePoint)]

最终的效果如下：
在这里插入图片描述

这只是对KMeans的直观理解，若要理解更多的细节，请看专业的机器学习书籍。

【参考】

  1. Understanding K-Means Clustering
  2. Machine Learning Course, Video lectures by Prof. Andrew Ng (Some of the images are taken from this)

相关文章