MMRazor理解

1. 简介

• 整合了主流的模型轻量化算法，包括模型结构搜索，模型剪枝与蒸馏，同时支持各类轻量化算法灵活组合应用于 OpenMMLab 其他算法库中，为模型在实际场景的使用提供了解决方案。
• MMrazor 是用于模型瘦身(model slimming)和 AutoML 的模型压缩工具包，包含 3 种主流技术：
  • Neural Architecture Search (NAS)：模型结构搜索
  • Pruning：模型剪枝
  • Knowledge Distillation (KD)：蒸馏
• 设计和实现
  
  • MMRazor的算法主要包含两部分：
    • 结构（architecture）
    • 算法组件（algorithm components）