• mindspore详解


    MindSpore1.6这个版本确实开发了比较长的时间,原因有两个:

    • 一是MindSpore1.6做了大量的架构性的特性,工作量比较大;
    • 二是团队也开始逐步掌控自己的节奏,争取把每个特性打磨好。

    所以说跳票本身不是一个坏事。

    下面,我想介绍一下MindSpore1.6的一些大的改进:

    架构类的大特性

    1、完善了静态图的控制流,支持副作用,灵活的微分

    经过长达一年的设计和开发,静态图控制流的架构终于稳定了,采用了创新的闭包方案,以前存在的不支持副作用、子图膨胀等问题都得到了解决。

    例如:AirNet网络子图数量由原来的162个降低至46个,减少了大量冗余计算,执行性能由12.3s/epoch优化至5.8s/epoch。

    AirNet网络优化前后子图数量与执行性能对比

    BFGS网络子图数量由原来的3236个降低至91个,执行性能由4.9s/epoch优化至0.6s/epoch。

    2、端边云的异构运行时全部统一

    我们原来在电信设备里面有一个支持异构的实时运行时,特点是资源占用少、性能高、支持异构芯片的调度;这次MindSpore重用了这个能力,基于此构建端边云统一的运行时,既能在手机上跑,也能在数据中心跑;同时我们在运行时上面增加了一个scheduler,实现算子、子图等灵活的调度模型。

    3、初步构建JIT Fallback的基础架构

    大家知道Python下面动态图到静态图转换一直存在很多困难,对研究到产业部署带来了很多不便,MindSpore1.6初步构建了JIT Fallback的能力,在Python AST转换到静态图的时候,如果有不认识的语法可以fallback到Python解释器,实现更多语法的兼容,这个特性当前还在持续完善中,不过已经取得了不错的效果。

    4、自定义算子能力全面升级,统一Custom接口帮助用户高效添加算子

    由于积累时间短,MindSpore当前在算子支持方面还是相对薄弱的,MindSpore内置的静态的算子库可能无法满足用户的需求,之前版本的MindSpore的自定义算子功能也存在着平台覆盖不到位,开发过程繁琐及第三方算子接入困难的问题。为了提供更好的自定义算子体验,1.6版本全面升级了自定义算子的能力,提供支撑包括Ascend,GPU和CPU在内的多平台的统一算子开发接口Custom,帮助用户在MindSpore方便快捷地进行不同类型自定义算子的定义和使用,可以满足包括快速验证,实时编译和第三方算子接入等不同场景下的用户需求。

    查看文档:

  • 相关阅读:
    人机杂感
    python 处理 dataframe的汇总
    零钱兑换,凑零钱问题,从暴力递归到动态规划(java)
    centos - 配置yum仓库
    vscode快捷键英文单词对照表
    二进制安装1.26版本k8s(docker)
    【学习笔记54】运动函数的分析
    c# 基础习题答案 20240709
    java计算机毕业设计基于springboo+vue的准妈妈孕期育儿婴幼儿交流平台
    JavaSE从基础到入门:抽象类和接口
  • 原文地址:https://blog.csdn.net/fishmai/article/details/126898621