在conda环境A里安装了lmdeploy，在另一个环境B里安装了minerU，mineru怎么调用lmdeploy？

[loowace]

这是lmdeploy的安装命令， C:\mienv\envs\minm\python.exe -m pip install 'lmdeploy[all]'

这种cli命令如何调用lmdeploy？mineru -p ./test_pdfs/input.pdf -o test_output/ --backend vlm-transformers --device cuda

该怎么设置才能让cli命令运行时会调用lmdeploy加速？ @myhloli

[dosubot[bot]]

MinerU 支持 lmdeploy 作为推理引擎，但需要注意以下几点：

关于 --backend vlm-transformers 参数：这个参数值不存在。正确的后端选项是 vlm-auto-engine 或 hybrid-auto-engine（默认）。

如何使用 lmdeploy 加速：

1. 方案一（推荐）：在同一环境安装
   将 lmdeploy 安装到 MinerU 的 conda 环境 B 中，然后使用：

   mineru -p ./test_pdfs/input.pdf -o test_output/ -b vlm-auto-engine --lmdeploy_backend pytorch --lmdeploy_device cuda

   或者通过环境变量：

   export MINERU_LMDEPLOY_BACKEND=pytorch
   export MINERU_LMDEPLOY_DEVICE=cuda
   mineru -p ./test_pdfs/input.pdf -o test_output/ -b vlm-auto-engine

2. 方案二：HTTP Server 模式（跨环境）
   如果一定要分开两个环境，可以使用 HTTP client/server 模式：

   • 在环境 A（lmdeploy）中启动服务
   • 在环境 B（MinerU）中使用 -b vlm-http-client 连接

自动选择机制：在 Windows 上使用 *-auto-engine 后端时，系统会优先选择 lmdeploy，如果检测到已安装的话。

最简单的方式是把 lmdeploy 直接安装到 MinerU 所在的环境 B 中，这样自动引擎选择就能识别并使用它。

To reply, just mention @dosu.

---

^{How did I do? Good | Irrelevant | Incorrect | Verbose | Hallucination | Report 🐛 | Other}

   

[loowace]

A里安装了lmdeploy，在另一个环境B里安装了minerU，使用 *-auto-engine 后端时，mineru能检测到另一个环境里的lmdeploy？

[dosubot[bot]]

不能。MinerU 的自动引擎选择机制只会检测当前运行环境中已安装的包，无法跨 conda 环境检测。

如果你想使用 lmdeploy 加速，有两个选择：

1. 推荐：在 MinerU 所在的环境 B 中也安装 lmdeploy

   conda activate B
   pip install 'lmdeploy[all]'

2. 跨环境方案：使用 HTTP Server 模式

   • 在环境 A 启动 lmdeploy 服务
   • 在环境 B 使用 mineru -b vlm-http-client 连接远程服务

To reply, just mention @dosu.

---

^{How did I do? Good | Irrelevant | Incorrect | Verbose | Hallucination | Report 🐛 | Other}