基于Tensorrtx 实现 darknet Yolov4-tiny 模型

本文内容都是基于wang-xinyu 、tjuskyzhang、 WongKinYiu 大佬们的基础上改造的。

---

yolov4-tiny.cfg 🚀

1. AlexeyAB 和 WongKinYiu 唯一不同在于 route 层， AlexeyAB 采用的是 groups 和 group_id 的方式，而 WongKinYiu 采用的是 route_lhalf 的方式。

	[route]
	layers=-1 # 切分上一层
	groups=2  # 切分成两组
	group_id=1 # 取第几组数据
		
	[route_lhalf]
	layers=-1
1
2
3
4
5
6
7

---

生成wts 🙄

1. 如何生成 wts , 参考：https://github.com/wang-xinyu/tensorrtx/tree/master/scaled-yolov4

2. 如果使用 WongKinYiu 的模型，则无需更改。如果使用AlexeyAB模型，则需要将models.py内容改动下.

elif mdef['type'] == 'route':  # nn.Sequential() placeholder for 'route' layer
     layers = mdef['layers']
     if mdef.__contains__("groups") and  mdef['groups'] == 2:
        filters = sum([output_filters[l + 1 if l > 0 else l] for l in layers]) // 2
        routs.extend([i + l if l < 0 else l for l in layers])
        modules = FeatureConcat_l(layers=layers)
     else:
        filters = sum([output_filters[l + 1 if l > 0 else l] for l in layers])
        routs.extend([i + l if l < 0 else l for l in layers])
        modules = FeatureConcat(layers=layers)
1
2
3
4
5
6
7
8
9
10

---

生成engine 🎅​

1. 生成 engine，参考: https://github.com/tjuskyzhang/Scaled-YOLOv4-TensorRT

2. 如果使用 WongKinYiu 的模型，则无需更改，直接生成即可。

3. 如果使用 AlexeyAB 的模型，则需要将 yolov4-tiny.cpp route层改下, 因为 AlexeyAB 采用的是 groups 和 groups_id 方式，group_id 我理解应该是从下标0开始，groups_id=1, 代表后一组数据。在网上查，有博主说是按分组的倒序取值 ，具体可参考: https://blog.csdn.net/YMilton/article/details/118338422 这里如果取第一组，则最后没有输出结果。(坑了我好久.)

//ISliceLayer* l3= network->addSlice(*l2->getOutput(0),Dims3{0,0,0},Dims3{32, INPUT_W / 4, INPUT_H / 4},Dims3{1,1,1});
ISliceLayer* l3 = network->addSlice(*l2->getOutput(0), Dims3{ 32,0,0 }, Dims3{ 32, INPUT_W / 4, INPUT_H / 4 }, Dims3{1,1,1});

//ISliceLayer* l11= network->addSlice(*l10->getOutput(0),Dims3{0,0,0},Dims3{64,INPUT_W / 8, INPUT_H / 8},Dims3{1,1,1});
ISliceLayer* l11 = network->addSlice(*l10->getOutput(0), Dims3{ 64,0,0 }, Dims3{ 64,INPUT_W / 8, INPUT_H / 8 }, Dims3{ 1,1,1 });

//ISliceLayer* l19= network->addSlice(*l18->getOutput(0),Dims3{0,0,0},Dims3{128,INPUT_W / 16, INPUT_H / 16},Dims3{1,1,1});
ISliceLayer* l19 = network->addSlice(*l18->getOutput(0), Dims3{ 128,0,0 }, Dims3{ 128,INPUT_W / 16, INPUT_H / 16 }, Dims3{ 1,1,1 }
1
2
3
4
5
6
7
8

---

END

1. 以上内容都是基于大佬们的基础上改造的，抱拳了。
2. 内容都是经过本人真实有效验证过的，有兴趣的童鞋，可以参考参考。