码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 【MindSpore易点通】在开发环境下如何使用MindInsight可视化Dump数据


    1、为什么要使用开发环境中MindInsight离线调试器?

    在开发环境中使用MindInsight离线调试器可以方便地查看Dump数据,具有图码映射、自动格式转换等功能,帮助用户进行精度调优分析。

    2、Dump数据准备

    在训练脚本中写入收集Dump数据的代码,执行训练脚本可获取Dump数据,推荐使用异步Dump。

    注:一般网络的Dump数据都比较大(单卡单step能产生GB级别的数据),且保存时间长,对性能影响比较大,所以不建议在一个训练任务中收集过多step的Dump数据。

    3、创建开发环境并启动MindInsight的离线调试器

    3.1 创建开发环境

    在ModelArts控制台,进入“开发环境管理 > DevContainer”页面,创建开发环境实例,创建成功后,单击开发环境实例操作栏右侧的“打开 > 打开Notebook”,在线打开运行中的开发环境。

    打开方式如下图所示:

    3.2 上传Dump数据并启动离线调试器

    在保存Dump数据时,可以直接保存到/home/ma-user/work/xxx/中,也可通过自动回传mox操作放入OBS桶中,由于Dump数据所占磁盘空间较大,故在此推荐使用OBS方式。在开发环境中启动MindInsight时,开发环境会自动挂载OBS目录读取Dump数据,比较方便。

    在对话框中执行如下命令打开Mindinsight的离线调试器。

    1. %reload_ext mindinsight
    2. %mindinsight --port {PORT} --summary-base-dir {SUMMARY_BASE_DIR}

    参数解释:

    • --port {PORT}:指定Web可视化服务端口。可以不设置,默认使用8080端口。如果8080端口被占用了,需要在1~65535任意指定一个端口。
    • --summary-base-dir {SUMMARY_BASE_DIR}:表示数据在开发环境中的存储路径。
    • OBS桶的路径:obs://xxx/
    • 开发环境本地路径:./work/xxx(相对路径)或/home/ma-user/work/xxx(绝对路径)

    注:如需读取桶内数据请务必在路径前添加obs://

    此处路径中的xxx填写要求为:Dump配置中的{path}路径的上一层或上两层,推荐使用上两层。当有多个dump数据包时,可以在UI界面的Summary List列表中看到多个数据列表。

    eg:

    dump数据包路径为summary-base-dir/summary_dir/lenet/rank_0/.dump_metadata,则对应的{path}路径为summary-base-dir/summary_dir/lenet/

    运行成功后如下图所示:

    4、调试完成后关闭MindInsight

    在.ipynb文件框中输入命令,关闭 MindInsight。端口号应与启动MindInsight中设置一致。

    !mindinsight stop --port {port}

    关闭成功后如下图所示:

  • 相关阅读:
    大数据资产管理架构设计篇-来自《数据资产管理核心技术与应用》一书的权威讲解
    四种应用层协议——MQTT、CoAP、WebSockets和HTTP——在工业物联网监控系统中的性能比较
    Js基础:JS中怎么将数据转为布尔值
    场景实践:基于函数计算快速搭建Wordpress博客系统
    nginx代理socket链接集群后,频繁断开重连
    【Qt按钮基类】QAbstractButton[ 所有按钮基类 ]
    基于Transformer的目标检测:原理、应用与未来展望
    【前端笔记】Vue + Element UI开发小技巧,持续更新。。。
    JavaScript 乘除法运算时,有精度误差的风险,导致运算结果出现很长的小数点,这种情况怎么解决?
    88. 合并两个有序数组
  • 原文地址:https://blog.csdn.net/Kenji_Shinji/article/details/127727269
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号