【人工智能】距离空间（最基本的数学模型）

目录

一、说明

二、度量空间的意义

2.1 基于几何的定义

2.2 更抽象的距离问题

三、更广泛的距离空间定义

3.1  非物理意义的距离空间

3.2 代数学距离的定义

3.3  形形色色的距离模型

四、曼哈顿距离

4.1 曼哈顿距离定义

4.2 举个实际例子

4.3 下面证明，“曼哈顿距离”符合距离空间的定义。

五、欧几里得距离

5.1 欧氏距离定义

5.2 证明欧氏距离

5.2.1 首先柯西不等式

5.2.2 证明欧几里得距离          

六、闵可夫斯基距离

6.1 闵可夫斯基距离定义

6.2 闵可夫斯基距离证明

七、切比雪夫距离

7.1 切比雪夫距离定义

八、Hausdorff距离

九、单位圆 

---

一、说明

        纵观人类文明的历史，对事物性质的描述中，既然能用数，就说明有了“量”的概念；既然有了“量”就必然要解决，如何度量？量与量如何比较？这是无法回避的问题，距离空间就是度量空间，是“量”的具体化、关于度量的理论，本文将详细介绍各种度量机制的特点。

二、度量空间的意义

2.1 基于几何的定义

        距离空间是指将每个点之间的距离作为基本的度量方式来定义空间的一种数学结构。在距离空间中，任意两个点之间的距离都有明确的定义，而空间的形状和拓扑特征则由距离度量所决定。距离空间广泛应用于几何、分析、拓扑等领域，成为了研究空间性质的基本工具之一。

        在解析几何中，我们定义了欧几里得距离，那就是：

         在坐标平面中的两点A和B，它们的坐标为和，那么A和B的距离为：

                

        度量空间最熟悉的例子是 3 维欧几里德空间，其通常的距离概念。其他众所周知的例子是配备角距和双曲平面的球体。 

2.2 更抽象的距离问题

        距离模型，是最基本的数学模型。换句话说，如果一个数学模型不符合距离模型，那么这个数学模型将毫无用途。可以说，任何规模事物的量化比较，都有距离空间的影子。以下给出几个距离的实例：

1）在下面照片的三个山头中，哪两个更为相似？

2）在下面音频序列中，能否识别出同一个语句？

 3）在曲线处理中，能否用更简单的数据近似表示？

三、更广泛的距离空间定义

3.1  非物理意义的距离空间

        度量可能对应于隐喻的而非物理的距离概念：例如，100 个字符的 Unicode 字符串集可以配备汉明距离，它测量需要更改的字符数才能从一个字符串到另一个。

        由于它们非常通用，度量空间是许多不同数学分支中使用的工具。许多类型的数学对象具有距离的自然概念，因此承认度量空间的结构，包括黎曼流形、赋范向量空间和图。在抽象代数中，p 进数作为有理数上度量结构完成的元素出现。在度量几何[2]和度量空间分析[3]中也对度量空间进行了研究。

        数学分析的许多基本概念，包括球、完备性以及均匀性、Lipschitz 和 Hölder 连续性，都可以在度量空间的设置中定义。其他概念，例如连续性、紧致性、开集和闭集，可以为度量空间定义，也可以在更一般的拓扑空间设置中定义。

3.2 代数学距离的定义

        定义：（度量空间）对于有序对,其中M为集合，d是定义在M上的度量（metric）函数，即为函数

                 

        对于任意 ,下列条件成立：

                     1                   (非负性）

                     2                   那么

                     3          (对称性）

                     4        (三角不等式)

        对于任意的集合空间，它是否构成距离空间，换句话说，能否按照距离去度量，只要用以上定义进行

        因此，结论是：距离模型是多维向量到数量的一个映射函数。

        在数学中，度量空间是一个集合及其元素之间距离的概念，通常称为点。距离由称为度量或距离函数的函数测量。 [1]度量空间是研究许多数学分析和几何概念的最通用的设置。

   

3.3  形形色色的距离模型

        按照2.2 的定义，距离模型变得丰富多彩；二维空间内，有如下距离模型：

若A,B∈M，

        1）曼哈顿距离： 那么 d(x,y)=|XA−XB|+|YA−YB|构成距离。

        2）欧几里得距离：d(x,y)=2√(XA−XB)2+(YA−YB)2

        3）闵可夫斯基距离：d(x,y)=s√(XA−XB)s+(YA−YB)s

        4）切比雪夫距离：d(x,y)=∞√(XA−XB)∞+(YA−YB)∞

        5)  housdroff距离：

四、曼哈顿距离

        我们在学习计算机原理，常常遇到“曼哈顿距离”，曼哈顿距离是个啥？

4.1 曼哈顿距离定义

        有如下距离模型：若A,B∈M，

             那么 d(x,y)=|XA−XB|+|YA−YB|构成距离。

4.2 举个实际例子

        以上图说明曼哈顿距离：二维平面上，A坐标是（6，1），B点坐标（1，5），那么A到B距离函数为：

d(A,B)=5+4 =9 ;更加规范的表达是：

d(A,B)=|XA−XB|+|YA−YB|

4.3 下面证明，“曼哈顿距离”符合距离空间的定义。

        现在验证是否距离空间：

• 非负性：d(A,B)=|XA−XB|+|YA−YB|≥0，  成立
• 同一性：

                  d(A,B)=0,⇒A,BthesameA,Athesame⇒d(A,A)=0，两点重合距离为

• 对称性：d(A,B)=|XA−XB|+|YA−YB|=d(B,A)
• 三角不等式：须证明d(A,B)≤d(A,C)+d(C,B)验证如下：

d(A,B)=|XA−XB|+|YA−YB|d(A,C)=|XA−XC|+|YA−YC|d(C,B)=|XC−XB|+|YC−YB|

        只要证明目标不等式就可以了：

 |XA−XB|+|YA−YB|≤|XA−XC|+|YA−YC|+|XC−XB|+|YC−YB|−−(1)

 这里只验证X轴部分，同理推广到Y轴部分：

|XA−XC|≥XA−XC−−−−1|XA−XC|≥XC−XA−−−−2

|XB−XC|≥XB−XC−−−−3|XB−XC|≥XC−XB−−−−4

|XA−XC|+|XC−XB|≥XA−XB（通过以上1、4合并得到）

|XA−XC|+|XC−XB|≥XB−XA（通过以上2、3合并得到）

因此，|XA−XC|+|XC−XB|≥|XB−XA|

同样有: |YA−YC|+|YC−YB|≥|YB−YA|

因而以上（1）式成立，即曼哈顿距离符合距离空间。（证毕）

五、欧几里得距离

5.1 欧氏距离定义

        有如下距离模型：若A,B∈Md，设A=[a1,a2...ad]B=[b1,b2,...bd]

        欧几里得距离：d(A,B)=2√(a1−b1)2+(a2−b2)2...+(ad−bd)2

         

5.2 证明欧氏距离

5.2.1 首先柯西不等式

 也就是A和B的内积，永远小于A和B模的乘积。

证明：

1）对于两个维度的证明，假定A，B是二维，A=[a1,a2]B=[b1,b2]

要证a1b1+a2b2≤√a21+a22√b21+b22,只要：

(a1b1+a2b2)2≤(a21+a22)(b21+b22) 

 这很好证明，直接展开就可以了。

2）证明多维度扩展：如果n个维度成立，那么n+1维度也成立：

 假设以上不等式成立，那么：

 所以，从数学归纳法的角度，柯西不等式在任意维度上成立。

5.2.2 证明欧几里得距离

        首先说明：在A,B,W∈Md,   d(A,B)=d(A+W,B+W)这是因为W是的A，B等长平移，因此距离不变。所以：

要证明的不等式为： d(A,B)≤d(A,C)+d(C,B)

              d(A,C)=d(0,A−C)

          d(C,B)=d(0,B−C)

              d(A,B)=d(0,B−A)

令  U=A−C;V=B−C,因此，预期要证明：

d(A,B)≤d(A,C)+d(C,B),等价于证明：

d(0,U+V)⩽d(0,U)+d(0,V)，展开成坐标形式：

√(u1+v1)2+(u2+v2)2...+(ud+vd)2⩽√(u1)2+(u2)2...+(ud)2+√(v1)2+(v2)2...+(vd)2

两边都大于0；因此，不等式两遍可以平方；

(u1+v1)2+(u2+v2)2...+(ud+vd)2⩽[(u1)2+(u2)2...+(ud)2]+[(v1)2+(v2)2...+(vd)2]+2×√(u1)2+(u2)2...+(ud)2×√(v1)2+(v2)2...+(vd)2

消除等式两面相同项，简化不等式：

2(u1∗v1)+2(u2∗v2)...+2(ud∗vd)⩽2×√(u1)2+(u2)2...+(ud)2×√(v1)2+(v2)2...+(vd)2

而这个不等式就是柯西不等式，原命题得证！

六、闵可夫斯基距离

6.1 闵可夫斯基距离定义

 有如下距离模型：若A,B∈Md，设A=[a1,a2...ad]B=[b1,b2,...bd]

闵可夫斯基距离：d(A,B)=s√(a1−b1)s+(a2−b2)s...+(ad−bd)s

其中s属于正整数。

6.2 闵可夫斯基距离证明

（因为证明很抽象，因此，读者按自己的程度，自行查阅）

七、切比雪夫距离

7.1 切比雪夫距离定义

 有如下距离模型：若A,B∈Md，设A=[a1,a2...ad]B=[b1,b2,...bd]

闵可夫斯基距离：d(A,B)=∞√(a1−b1)∞+(a2−b2)∞...+(ad−bd)∞

切比雪夫距离

对于：d(A,B)=∞√(a1−b1)∞+(a2−b2)∞...+(ad−bd)∞

取  L=max[|a1−b1|,|a2−b2|...,|ad−bd|]

d(A,B)=∞√((a1−b1)∞+(a2−b2)∞...+(ad−bd)∞)L∞L∞

d(A,B)=|L|∞√((a1−b1)∞+(a2−b2)∞...+(ad−bd)∞)1L∞

d(A,B)=|L|

八、Hausdorff距离

关Hausdorff距离有专题论述，这里给出链接： 基础理论：集合的Hausdorff距离_豪斯多夫距离_

九、单位圆 

        下面用各种距离构成单位圆：

• 曼哈顿距离：红色
• 欧几里得距离：绿色
• 闵可夫距离：（N=3,4 ）蓝色-黄色
• 切比雪夫距离：紫色