• 相似度计算方法


    关于相似度的计算,现有的几种基本方法都是基于向量(Vector)的,其实也就是计算两个向量的距离,距离越近相似度越大。在推荐的场景中,在用户-物品偏好的二维矩阵中,我们可以将一个用户对所有物品的偏好作为一个向量来计算用户之间的相似度,或者将所有用户对某个物品的偏好作为一个向量来计算物品 之间的相似度。下面我们详细介绍几种常用的相似度计算方法

    1. 皮尔森(pearson)相关系数

    公式定义为: 两个连续变量(X,Y)的pearson相关性系数(Px,y)等于它们之间的协方差cov(X,Y)除以它们各自标准差的乘积(σX,σY)。

    范围:系数的取值总是在-1.0到1.0之间,接近0的变量被成为无相关性,接近1或者-1被称为具有强相关性。

    说明:1、 不考虑重叠的数量;2、 如果只有一项重叠,无法计算相似性(计算过程被除数有n-1);3、 如果重叠的值都相等,也无法计算相似性(标准差为0,做除数)。

    该相似度并不是最好的选择,也不是最坏的选择,只是因为其容易理解,在早期研究中经常被提起。使用Pearson线性相关系数必须假设数据是成对地从正态分布中取得的,并且数据至少在逻辑范畴内必须是等间距的数据。Mahout中,为皮尔森相关计算提供了一个扩展,通过增加一个枚举类型(Weighting)的参数来使得重叠数也成为计算相似度的影响因子。

     2.  欧几里德距离

    计算出来的欧几里德距离是一个大于0的数,为了使其更能体现用户之间的相似度,可以把它规约到(0, 1]之间。

    当用欧几里德距离表示相似度,一般采用以下公式进行转换规约到(0, 1]之间:距离越小,相似度越大。

    范围:[0,1],值越大,说明d越小,也就是距离越近,则相似度越大。

    说明:同皮尔森相似度一样,该相似度也没有考虑重叠数对结果的影响,同样地,Mahout通过增加一个枚举类型(Weighting)的参数来使得重叠数也成为计算相似度的影响因子。

    3. 余弦相似度

    定义

    余弦相似度(Cosine Similarity)是n维空间中两个n维向量之间角度的余弦。它等于两个向量的点积(向量积)除以两个向量长度(或大小)的乘积。

    公式

    Similarity(A,B)=\frac{A·B}{||A|| \times ||B||}= \frac{\displaystyle \sum^{n}_{i=1}(A_i \times B_i)}{\sqrt[]{\displaystyle \sum^{n}_{i=1}A^2_i} \times \sqrt[]{\displaystyle \sum^{n}_{i=1}B^2_i}}

    范围:值的范围为[-1,1],-1为完全不相似,1为完全相似。

    4. Spearman秩相关系数

    原理:Spearman秩相关系数通常被认为是排列后的变量之间的Pearson线性相关系数。

    范围:{-1.0,1.0},当一致时为1.0,不一致时为-1.0。

    说明:计算非常慢,有大量排序。针对推荐系统中的数据集来讲,用Spearman秩相关系数作为相似度量是不合适的。

    5. Tanimoto 系数(Tanimoto Coefficient)

    Tanimoto 系数也称为 Jaccard 系数,是 Cosine 相似度的扩展

    范围:[0,1],完全重叠时为1,无重叠项时为0,越接近1说明越相似。

    说明:处理无打分的偏好数据。

    6. 对数似然相似度

    原理:重叠的个数,不重叠的个数,都没有的个数

    说明:处理无打分的偏好数据,比Tanimoto系数的计算方法更为智能。

    7. 曼哈顿距离

    原理:曼哈顿距离的实现,同欧式距离相似,都是用于多维数据空间距离的测度

    范围:[0,1],同欧式距离一致,值越小,说明距离值越大,相似度越大。

    说明:比欧式距离计算量少,性能相对高。

    转自:http://t.csdnimg.cn/YWy7W

  • 相关阅读:
    【RocketMQ】RocketMQ快速入门
    AOP相关概念总结
    CentOS ARM 部署 kubernetes v1.24.6
    【附源码】Python计算机毕业设计培训机构学生管理系统
    14:00面试,14:06就出来了,问的问题有点变态。。。
    《UnityShader入门精要》学习1
    TCP/IP协议专栏——IP 详解——网络入门和工程维护必看
    ES6的模块化管理、立即执行函数(IIFE):在函数声明后面立即调用、函数劫持
    Spring AOP理论 +代理模式详解
    微信小程序导入js使用时候报错
  • 原文地址:https://blog.csdn.net/shadowismine/article/details/134075015