PaddleX v3.0-rc1
·
6 commits
to release/3.0-rc1
since this release
PaddleX 3.0 rc1 全面适配 PaddlePaddle 3.0正式版,核心升级如下:
-
全面适配飞桨框架3.0新特性:支持编译器训练,训练命令通过追加
-o Global.dy2st=True即可开启编译器训练,在 GPU 上,多数模型训练速度可提升 10% 以上,少部分模型训练速度可以提升 30% 以上。推理方面,模型整体适配飞桨 3.0 中间表示技术(PIR),拥有更加灵活的扩展能力和兼容性,静态图模型存储文件名由xxx.pdmodel改为xxx.json。 -
新增飞桨自研文档图像理解多模态大模型 PP-DocBee:在学术界及内部业务场景文档理解评测榜单上,PP-DocBee 均达到同参数量级别模型的 SOTA 水平。可应用到财报、研报、合同、说明书、法律法规等文档 QA 场景。
-
全面支持 ONNX 格式模型,支持通过Paddle2ONNX插件转换模型格式。
-
升级高性能推理:
- 新增对 ONNX、OM 格式模型的支持: PaddleX 可以根据需要智能选择模型格式;
- 扩展支持的产线和模块: 所有静态图推理的单功能模块与产线均可使用高性能推理插件来提升推理性能;
- 支持 CLI、API、配置文件 3 种配置方式: 支持更精细的配置,用户可以在子产线、子模块粒度启用和禁用高性能推理插件。
-
多硬件支持扩展:
- NPU:昇腾全面验证的模型数量提升到 200 个。此外,通用 OCR、图像分类、目标检测等常用产线支持 OM 模型格式推理,推理速度能够提升 113.8%-226.4%,支持在 Atlas 200、Atlas 300 系列产品上推理部署。
- GCU:燧原正式纳入飞桨例行发版体系,完成了 PaddleX 生态适配。支持 90 个模型的训练和推理。