知识经验分享——YOLOv5-6.0训练出错及解决方法(RuntimeError)
2023-09-14 09:12:42 时间
>>>深度学习Tricks,第一时间送达<<<
目录
步骤2:找到 for i in range(self.nl) 函数(Ctrl+F),作以下替换:
步骤3:找到# Append部分(Ctrl+F),作以下替换:
一、问题bug
不知道小伙伴们在训练YOLOv5-6.0或者其他版本有没有遇到以下问题:
RuntimeError: result type Float can't be cast to the desired output type long int
二、解决方法
步骤1:打开utils/loss.py文件
步骤2:找到 for i in range(self.nl) 函数(Ctrl+F),作以下替换:
👇👇👇
替换代码:
anchors, shape = self.anchors[i], p[i].shape
替换之后:
步骤3:找到# Append部分(Ctrl+F),作以下替换:
👇👇👇
替换代码:
indices.append((b, a, gj.clamp_(0, shape[2] - 1), gi.clamp_(0, shape[3] - 1)))
替换之后:
步骤4:顺利运行train.py文件
关于算法改进及论文投稿可关注并留言博主的CSDN/QQ
>>>一起交流!互相学习!共同进步!<<<
相关文章
- VggNet10模型的cifar10深度学习训练
- Pytorch模型训练实用教程学习笔记:一、数据加载和transforms方法总结
- 预训练模型与传统方法在排序上有啥不同?
- 总结!语义信息检索中的预训练模型(下)
- 训练深度学习神经网络的常用5个损失函数
- 一块RTX3050搞定DLRM训练!仅需1%Embedding参数,硬件成本降低至十分之一 | 开源
- 她用10年日记训练GPT-3,对话童年的自己,网友:AI最治愈的应用
- [ICLR | 论文简读] OntoProtein:用基因本体论嵌入的蛋白质预训练
- Patterns | 自监督图预训练模型整合大规模分子网络以探寻疾病相关基因的内在互作机制
- 深入理解Pytorch中的分布式训练
- ICLR 2022 | DBD: 基于分割后门训练过程的后门防御方法
- 第十四届蓝桥杯集训——练习解题阶段(无序阶段)-ALGO-246 算法训练 猴子吃包子
- 【指针训练——八道题】
- “GPT们”背后,谁来支撑大模型训练需要的极致算力?
- 推翻OpenAI结论,DeepMind重新定义预训练的参数和规模关系!
- LDA主题模型的训练算法和预测算法详解大数据