【KD】2022 ECCV Factorizing Knowledge in Neural Networks

目录

简介

AI模型也是可以拼装的吗？

ECCV2022 Factorizing Knowledge in Neural Networks

引言

结构分解与表征分解

实验与分析

知识分解提升了单个任务性能

知识分解能进行任务解耦合

知识分解得到的共用特征有利于迁移学习

总结与规划

参考

---

简介

世界是由一块块“积木”拼装起来的。这首先反映在人类对游戏世界的无限畅想中。

作为二十一世纪人类最有名的游戏IP之一，Minecraft构建了这样一个用积木造就的开放世界；其中所有的物体都是由一个个拥有不同材质不同功能的立方体组成。不同立方体虽然性质单一，但能够通过多样化的排列组合，合成新的材料或者工具。这样的世界观给予了玩家极大的自由度和游玩方式，成为了游戏史上一个重要的里程碑。

尽管游戏离我们的生活还很遥远，但现实中的通过将一个大的系统拆分为单元模块的设计方式已经深入我们生活的方方面面。科学家统称为这样的方法论为模块化设计。

当你随手拿起你的手机或电脑，当你打开你新买的汽车，当你搬家来到你的新房，你就可以看各式各样由零件拼装而来的人造产物。这些“积木”，可以是一颗颗螺丝，可以是精密的芯片，也可以是一块最不起眼的砖头。他们通过拼接组装的方式，自下而上的构建起人类社会的方方面面。