码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 提升网络训练的准确率


    1 问题

    模型训练结果的准确率只有百分之60多,因此需要提升准确率。

    2 方法

    mnist 数据集有60000张图片作为训练数据,10000张图片作为测试数据。假设现在选择 Batch_Size = 100对模型进行训练。迭代30000次。

    • 每个 Epoch 要训练的图片数量:60000(训练集上的所有图像)

    • 训练集具有的 Batch 个数:60000 / 100 = 600

    • 每个 Epoch 需要完成的 Batch 个数:600

    • 每个 Epoch 具有的 Iteration 个数:600(完成一个Batch训练,相当于参数迭代一次)

    • 每个 Epoch 中发生模型权重更新的次数:600(一次训练包含正向+反向,反向就是一次权重更新)

    • 训练 10 个Epoch后,模型权重更新的次数:10 * 600 = 6000

    • 总共完成30000次迭代,相当于完成了个Epoch

    不同Epoch的训练,其实用的是同一个训练集的数据。第1个Epoch和第10个Epoch虽然用的都是训练集的图片,但是对模型的权重更新值却是完全不同的。因为不同Epoch的模型处于代价函数空间上的不同位置,模型的训练代越靠后,越接近谷底,其代价越小。

    3 结语

    一个时期=所有训练样本的一个正向传递和一个反向传递。也即所有的数据进行了一次完整的训练。当数据量十分大的时候,一次性投入训练效果往往会变差,为此需要对数据进行分批次的训练,用epoch进行周期训练达到提升准确率的目的。

  • 相关阅读:
    【面试官让我十分钟实现一个链表?一个双向带头循环链表甩给面试官】
    PHORHUM(CVPR2022)-3D重建论文解读
    Python的基础语法知识:循环语句、字符串格式化、运算符的优先级
    golang 实现并发任务同步
    字符串相关算法
    封装全局异常处理
    《CGNF: CONDITIONAL GRAPH NEURAL FIELDS》阅读笔记
    asp.net+sqlserver婚纱影楼摄影管理系统C#
    gitlab
    shiro安全框架初识--shiro简介、认证与授权
  • 原文地址:https://blog.csdn.net/gschen_cn/article/details/127418861
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号