请问有人使用npu并成功运行vlm模式吗？

[dawnaliens]

npu能否在vlm模式下跑呢？我没找到对应的入口修改

[dosubot[bot]]

Hi @dawnaliens! I'm Dosu and I’m helping the MinerU team.

已经有用户在MinerU中成功用NPU跑通了VLM模式，关键是升级到2.0.4及以上版本，并确保NPU配置为eager模式即可正常运行。你可以通过命令行参数（如--device npu 或 --device npu:0）或直接修改配置文件（如 /root/magic-pdf.json，把device字段设为npu或npu:0）来指定NPU设备，无需深度改代码，入口就在CLI参数和配置文件里。参考1 参考2

代码层面，device选择逻辑已集成NPU（会自动检测torch_npu.npu.is_available()），Unimernet等模型也已支持npu:xxx的device参数，并自动切换到eager模式。参考3

注意：部分算子（如torchvision::nms）在NPU上不支持，会fallback到CPU，但整体NPU加速仍然有效。多卡NPU目前没有官方脚本，可以参考现有GPU多卡脚本自行适配。参考4

如果遇到device id无效等问题，建议检查NPU驱动和设备号，或直接在配置文件里指定npu:0、npu:1等。参考5

To reply, just mention @dosu.

---

^{How did I do? Good | Irrelevant | Incorrect | Verbose | Hallucination | Report 🐛 | Other}   

[myhloli]

https://opendatalab.github.io/MinerU/zh/usage/acceleration_cards/Ascend/