vlm-vllm-engine 是否可以更换模型？

[medwang1]

想在 mineru 使用 PaddlePaddle/PaddleOCR-VL-1.5

[dosubot[bot]]

vlm-vllm-engine 支持更换模型，但前提是新模型必须兼容 vllm 推理框架（通常为 Transformer 架构的视觉语言大模型，如 CLIP+Qwen2ForCausalLM），不能直接加载 PaddleOCR-VL-1.5 这类 PaddlePaddle 格式的模型。如果你想在 MinerU 使用 PaddleOCR-VL-1.5，只能在 pipeline 模式下替换 ./paddleocr 目录下的模型文件，或者自行修改 OCR 初始化相关代码，适配新模型。vlm-vllm-engine 目前没有原生支持 PaddleOCR-VL-1.5，也没有插件化机制直接切换 OCR 引擎，如需深度集成需进行较多代码开发参考1参考2参考3。

To reply, just mention @dosu.

---

^{How did I do? Good | Irrelevant | Incorrect | Verbose | Hallucination | Report 🐛 | Other}

   

[myhloli]

处理流程和模型是深度绑定的，不支持更换模型