KNN(K- Nearest Neighbor)法即 K 最邻近法,最初由 Cover 和 Hart 于 1968 年提出,是一个理论上比较成熟的方法,也是最简单的机器学习算法之一。该方法的思路非常简单直观:如果一个样本在特征空间中的 K 个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别,则该样本也属于这个类别。该方法在定类决策上只依据最邻近的一个或者几个样本的类别来决定待分样本所属的类。.
如上图,测试样本(绿色圆形)只能被归为第一类的蓝色方形或者第二类的红色三角形。若 k=3(实线圆圈)它被分配给第二类(红色三角形),因为离它最近的 3 个样本中有 2 个三角形和 1 个正方形;若 k=5(虚线圆圈),则它被分配到第一类( 3 个正方形与 2 个三角形在外侧圆圈之内)。
物以类聚,人以群分。
OpenCV 4 提供了 KNearest 类用于实现 K 近邻算法。KNearest 类继承 StatModel 类。
StatModel 类属于统计学习模块,通过 train