训练V3识别模型，一开启训练就爆显存

[Alanhzl]

使用的是4090D，显存24G，在开启训练后显存占用从500M+升到24100M+，然后训练信息打印一次左右就报错：
Out of memory error on GPU 0. Cannot allocate 129.394531MB memory on GPU 0, 23.586792GB memory has been allocated and available memory is only 49.250000MB.

使用的配置文件是ch_PP-OCRv3_rec_distillation.yml
修改点：

另外想问一下：

这里是不是表示开启了五组学生教师模型？是不是这里导致爆显存？如果是的话应该怎么改？

[SWHL]

batch_size是不是太大了

PaddleOCR/configs/rec/PP-OCRv3/ch_PP-OCRv3_rec_distillation.yml

Line 182 in 862b4d4

batch_size_per_card: 128

[Alanhzl]

batch_size是不是太大了

PaddleOCR/configs/rec/PP-OCRv3/ch_PP-OCRv3_rec_distillation.yml

Line 182 in 862b4d4

batch_size_per_card: 128

和这个配置文件一样，batch_size_per_card: 128，num_workers: 4

[SWHL]

这个配置训练所用机器显存可能比你的大，你尝试改成1试试

[Alanhzl]

batch_size是不是太大了

PaddleOCR/configs/rec/PP-OCRv3/ch_PP-OCRv3_rec_distillation.yml

Line 182 in 862b4d4

batch_size_per_card: 128

和这个配置文件一样，batch_size_per_card: 128，num_workers: 4

刚刚试了下，从128改为100确实能跑起来了，显存占用19349MiB / 24564MiB。这个配置文件是给多卡训练用的所以用的128吗？

[SWHL]

这个参数batch_size_per_card应该是单卡的batch_size。如果有多卡，默认其他卡也是这个数。
单卡和多卡配置文件都是这个

[SWHL]

好奇为啥不用v4的训练呢？一般旧版本，维护的就少了

[Alanhzl]

因为需要用到安卓设备上，我目前看到的文档好像是需要转为nb模型的，V4我尝试了下转不了，不清楚是不是paddlepaddle版本原因。

[SWHL]

建议先多尝试v4的，毕竟v3的不怎么维护了。
v4的遇到问题，大家也好一起商量解决

[Alanhzl]

好的，我之后尝试下V4,。在我的实际应用场景中，机器的配置会很低，且对识别时间有一定要求。V4的识别时间比V3,V2长很多的话，那我应该不能用V4了。

[SWHL]

嗯呢，我这里先行关闭Discussions了哈，有问题再重新开