固定shape后无法正常检测

[YuLionel]

🔎 Search before asking

• I have searched the PaddleOCR Docs and found no similar bug report.
• I have searched the PaddleOCR Issues and found no similar bug report.
• I have searched the PaddleOCR Discussions and found no similar bug report.

🐛 Bug (问题描述)

问题：将shape固定为960时正常，固定位640, 320都出现无法正常识别现象。
目标：通过缩小shape加速识别（板端RK3588）
提问：如何能解决问题，或能加速识别？

🏃‍♂️ Environment (运行环境)

Ubuntu20.04
RK3588

🌰 Minimal Reproducible Example (最小可复现问题的Demo)

No code

[SWHL]

可以尝试按照比例缩小图像

[YuLionel]

图像是320的，resize成960并输入960onnx能识别。但resize320,640并输入对应onnx就无法检测到

[SWHL]

输入到对应onnx，啥意思？不是paddle格式的图像嘛？

[GreatV]

针对你将图像输入 size 固定为较小尺寸（如 640×640 或 320×320）后 PaddleOCR 无法正常识别的问题，结合你所述运行环境（RK3588）和目标（缩小 shape 以加速运行），可从以下几个方面进行排查和优化：

一、原因分析

1. 模型训练和推理时输入 shape 不一致：
   如果 Detection 模型（如 PP-OCRv4）训练时输入图像大小为 960×960，你在部署时将其强行调整为 640×640，可能导致模型无法有效提取特征，识别效果下降或完全失效。即使 shape 能被模型处理，但由于字体等细节过小可能被模糊，影响检测框生成。

2. anchors/prior 矩阵无法适配：
   一些模型（如 DB/CTPN）检测头对特定的输入特征图尺寸有依赖。若缩小尺寸，那些 anchor 的匹配机制可能无法覆盖真实文本位置，导致检测失败。

3. Shape 过小导致文本图像信息无法保留：
   特别是检测模型中，文本本身可能比较细长或小，缩放时容易被压缩模糊，而无法识别。

4. 图像缩放时 aspect ratio 失衡：
   如果图像缩放到固定 size 时未维持原始比例，识别可能失败。建议在 inference 阶段使用 auto_adjust 参数，或修改图像预处理 pipeline，以适配缩放策略。

二、解决建议

1. 使用合理的固定大小：
   若需固定 shape 加速运行，建议逐步缩减原始输入尺寸，测试模型在不同尺寸下的准确率。同时尝试例如 736×736、800×800 等非过小尺寸，这在边缘端具备不错的平衡性。

2. 修改训练配置同步 shape 训练：
   若你打算部署在 RK3588 上运行，建议在训练阶段就将 input shape 配置为目标部署尺寸（如 640×640）。否则，不建议直接缩放输入。

3. 文字检测过程中开启「多尺度测试」作为补救：
   可以通过修改 inference 配置，使用 multi-scale 测试策略以增强模型泛化能力。例如通过配置中 Global.use_dilation=True，但这会降低速度。

4. 开启模型量化增强部署性能：
   针对边缘侧（如 RK3588）部署建议开启 INT8量化，PaddleOCR 已支持部署量化模型，可以带来推理速度大幅提升，同时保证精度。具体可参考：https://github.com/PaddlePaddle/PaddleOCR/blob/release/2.6/deploy/slim/quantization/README.md

5. 使用 PP-OCRv3/v4 的轻量学生模型进行训练微调：
   如果还未训练检测模型，可尝试 ch_PP-OCRv4_det_student 模型，原本即用于边缘端部署，更适合在低功耗设备上使用。

三、额外建议

• 确保使用的是正确后处理参数，如 DBPostProcess 中的 unclip_ratio、box_thresh，在小图输入下应随之调整；
• 避免图像被严重压缩、模糊，可考虑使用 adaptive_resize 策略；
• 可使用 latest 官方版本，因 main 分支迭代频繁，建议锁定版本（如 release/2.6）以避免兼容性问题；

四、相关问题参考

你的 bug 与以下 issue 有一定关联，可参考但并非完全对应：

• Issue 报错：TypeError: __call__() missing 1 required positional argument: 'shape_list' #14049 报错：TypeError: __call__() missing 1 required positional argument: 'shape_list' #14049 发生在推理阶段出现 shape 参数缺失报错，类似问题可能因不兼容模型与预测函数参数造成；

五、总结

建议按照以下步骤操作：

1. 训练模型时将输入尺寸固定为 640×640；
2. 调整配置文件保持训练与推理一致；
3. 启用量化加速部署；
4. 控制拉伸缩放比例防止信息损失；
5. 在模型部署在 RK3588 后记录不同输入尺寸性能与准确度变化，选择最优平衡方案。

如仍有性能瓶颈，可考虑结合 Paddle Lite 进行边缘推理部署优化。若有部署代码或配置文件，也欢迎贴出进一步排查。

---

Response generated by 🤖 feifei-bot | chatgpt-4o-latest

⚠️ This is an AI-generated response. Please verify any critical information.