码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 华为ModelArts训练Alexnet模型


    一、参考资料

    ModelArts Web训练

    二、关键步骤

    2.1 上传源码到obs

    .
    |-- dataset  # 数据集
    |   |-- train
    |   `-- val
    `-- train
        |-- data.py
        |-- model.py
        `-- train_npu.py  # 启动文件
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8

    2.2 obs创建目录

    obs目录结构

    log:日志存放路径
    output:训练输出路径
    
    • 1
    • 2

    在这里插入图片描述

    2.3 创建算法

    算法管理
    	---》创建
    
    • 1
    • 2
    名称:自定义
    描述:自定义
    创建方式:自定义
    	AI引擎:tensorflow_1.15-cann_5.0.3-py_3.7-euler_2.8.3-aarch64
    	代码目录:/xxx/alexnet/train/
    	启动文件:/xxx/alexnet/train/train_npu.py
    输入数据配置:数据集路径
    	映射名称:自定义(默认即可)
    	代码路径参数:data_url
    输出数据配置:训练输出路径
    	映射名称:自定义(默认即可)
    	代码路径参数:train_url
    其他:默认即可
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13

    在这里插入图片描述

    2.4 创建训练作业

    训练管理
    	---》训练作业
    		---》创建
    
    • 1
    • 2
    • 3
    名称:自定义
    描述:自定义
    算法:
    	---》我的算法
    		---》勾选刚创建的算法
    训练输入:
    	---》data_url:/xxx/alexnet/dataset/
    训练输出:
    	---》train_url:/xxx/alexnet/output/
    资源池:根据实际需求
    资源类型:Ascend
    规格:根据实际需求
    计算节点个数:根据实际需求
    作业日志路径:/xxx/alexnet/log/
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14

    在这里插入图片描述

    2.5 训练完成

    在这里插入图片描述

    三、FAQ

    Q:The input shape of GeOp5_0 is dynamic

    【南京大学】【MEMNET】【ID1085】 模型 npu迁移时报错: The input shape of GeOp5_0 is dynamic

    File "/home/ma-user/modelarts/user-job-dir/train/train_npu.py", line 114, in main
        test_loss, test_acc, summary = sess.run([cost, accuracy, summary_op], feed_dict=val_feed)
      File "/home/ma-user/anaconda/lib/python3.7/site-packages/tensorflow_core/python/client/session.py", line 956, in run
        run_metadata_ptr)
      File "/home/ma-user/anaconda/lib/python3.7/site-packages/tensorflow_core/python/client/session.py", line 1180, in _run
        feed_dict_tensor, options, run_metadata)
      File "/home/ma-user/anaconda/lib/python3.7/site-packages/tensorflow_core/python/client/session.py", line 1359, in _do_run
        run_metadata)
      File "/home/ma-user/anaconda/lib/python3.7/site-packages/tensorflow_core/python/client/session.py", line 1384, in _do_call
        raise type(e)(node_def, op, message)
    tensorflow.python.framework.errors_impl.InternalError: The input shape of GeOp5_0 is dynamic, please ensure that npu option[dynamic_input] is set correctly, for more details please refer to the migration guide.
    	 [[{{node GeOp5_0}}]]
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    错误原因:
    模型训练过程中存在输入shape变化的问题
    
    解决办法:
    train_npu.py中添加
    custom_op.parameter_map["dynamic_input"].b = True
    custom_op.parameter_map["dynamic_graph_execute_mode"].s = tf.compat.as_bytes("lazy_recompile")
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
  • 相关阅读:
    服务号转为订阅号可以吗
    金仓数据库KingbaseES客户端编程接口指南-DCI(5. 程序示例)
    使用VUE3.0版本搭建H5模板
    【项目】仿muduo库One Thread One Loop式主从Reactor模型实现高并发服务器(TcpServer板块)
    Android -- 每日一问:两个 Activity 之间如何传递参数?
    英语演讲常用连接词和句子
    网络丢包,网络延迟?这款神器帮你搞定所有!
    食品行业报告:辣椒市场现状研究分析与发展前景预测
    Hive案例
    【JavaScript 逆向】极验四代滑块验证码逆向分析
  • 原文地址:https://blog.csdn.net/m0_37605642/article/details/125475010
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号