距离的度量

---

一、闵可夫斯基距离

给定两个$m$维样本
$$x_1=(x_1^1,x_1^2,x_1^3,...,x_1^m)$$
$$x_2=(x_2^1,x_2^2,x_2^3,...,x_2^m)$$
$x_1$和$x_2$之间的闵可夫斯基距离为
$$distance=(\sum _{k=1}^m|x_1^k-x_2^k{|}^p{)}^{\frac{1}{p}}$$

1. 当$p=1$，称为曼哈顿距离（Manhattan distance）；
2. 当$p=2$，称为欧式距离（Euclidean distance）；
3. 当$p=\infty$，称为切比雪夫距离（Chebyshev distance）；
   $$Chebyshevdistance=\underset{k}{\max }|x_1^k-x_2^k|$$
    

二、马哈拉诺比斯距离（马氏距离）

马氏距离考虑各个特征之间的相关性并与各个分量的尺度无关。
给定一个数据集$X$，协方差矩阵为$S$，样本$x_1$，$x_2$之间的马氏距离distance计算公式如下：
$$distance=[(x_1-x_2{)}^T{S}^{-1}(x_1-x_2){]}^{\frac{1}{2}}$$
当$S$为单位矩阵的时候，说明各个分量是互相独立且方差为1，此时马氏距离就是欧式距离。