-
yolov8在设置amp=False 之后map 训练依旧为0 解决办法
可能原因 是cuda 版本导致的半精度浮点数计算出现nan的bug
- 解决办法 设置amp=False 就是不使用混合精度训练。
- 或者直接改用低版本的cuda和pytorch。cuda11.6 以下
直接有效 - 也有可能是学习率过高 降低学习率 。测试发现有些网络 学习率 要降低到0.000000001 可能解决问题
- 可能是batch 过小 逐步增大batch-size。实际发现 batch 逐步翻倍 有可能解决问题
设置amp=False之后还是存在问题 是因为yolov8库的问题 按以下修改
找到torch_utils.py 修改425行 去掉 half()
-
相关阅读:
WSL2的安装与配置（创建Anaconda虚拟环境、更新软件包、安装PyTorch、VSCode）
一款基于vuepress的个人博客主题
基础矩阵和本质矩阵
MySQL—多表查询（概述、基本实操、分类）
理解case when then else end 的使用，基础概念，建表语句，用例讲解
【OceanBase诊断调优】—— SQL 执行报错 -4119，RPC packet to send too long
苍穹外卖集成 Apache POI Java实现Excel文件的读写下载
从意义中恢复，而不是从数据包中恢复
0基础,跟我一起学python--基础篇(3)
【C++】红黑树的模拟实现
- 原文地址：https://blog.csdn.net/qq_26696715/article/details/132916567