码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • KDD2022 Learning Backward Compatible Embeddings【个人笔记】


    文章链接

    KDD2022: https://cs.stanford.edu/people/jure/pubs/bcemb-kdd22.pdf

    文章主要内容

    文章本身说的情景并不适合。
    个人认为此方法适合的场景是:如何在低储存量的前提下交付多个下游用户。而不是文章说的在同一个模型不断迭代的情景下保持对某个用户的稳定节点表示。

    文章主要新意

    把原先只在face recognition的方法迁移到图表示上来。另外还做了些工程上的尝试。

    文章脉络

    3种应对场景的方法

    • keep all,把所有使用到的embedding都存储
    • keep latest,只存储最后一版emebdding,剩下的用B来转换到对应版本,文章在这一方法下做了6种不同的实验。
    • keep original, 只储存第一版embedding,但是文章除了用fine tune,并没有给出更多实验。

    3种实验setting:

    为了学到一个B矩阵,用来还原上一版,

    • Representation transformation:对上一步的embedding是否做linear变换。
    • Single/Multiple version of Regularizer:只对上一步的embedding做拉近还是对前多步的embedding做拉近。
    • Training: 先train再regularize,还是training与regularization一起。

    原本应该有222 共8种实验,但是文章只给出了6种。

    其他

    模型使用Pinsage,也就是graph sage。

    其他: 情景理由

    为了“稳定节点表示”而去倒推回原先的一套表示?那我新训练出来的新的embedding有什么用?

  • 相关阅读:
    AIPainter:创意绘画的智能助手
    虹科分享 | 赋能物流机器人:CANopen通信如何发挥重要作用?
    【场景化解决方案】慧穗云开票,让钉钉与业务数据流转更灵活
    《模拟电子技术》半导体原理部分笔记
    开路、断路和短路区别
    2—6GHz宽带一分四功分器设计
    Python —— 验证码的处理&执行JavaScript语句
    centos7服务器升级ssh版本&&修复ssh漏洞 CVE-2016-20012、 CVE-2021-41617
    PID学习
    啡鸟集:掌握咖啡6大撩人技法,提升个人魅力值
  • 原文地址:https://blog.csdn.net/Yonggie/article/details/128187059
  • 最新文章
  • 【JVM】编译执行与解释执行的区别是什么?JVM 使用哪种方式?
    用 Hashids 优雅解决 C 端自增 ID 暴露问题
    V8引擎 精品漫游指南--Ignition篇(上) 指令 栈帧 槽位 调用约定 内存布局 基础内容
    LLVM Pass快速入门(四):代码插桩
    milkup:桌面端 markdown AI续写和即时渲染
    基于项目工程构建SBOM(软件物料清单)的研究
    鸿蒙应用开发UI基础第二节:鸿蒙应用程序框架核心解析与实操
    .NET 中如何快速实现 List 集合去重?
    扣子Coze实战:从0到1打造抖音+小红书热点监控智能体
    浅谈数据访问层
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号