纯CPU通过指令部署的，我如何使用mineru-api 这种方式提供外部服务调用。目前调用报错

[GuanJD]

报错信息如下：
Start MinerU FastAPI Service: http://0.0.0.0:8000
API documentation: http://0.0.0.0:8000/docs
INFO: Started server process [74553]
INFO: Waiting for application startup.
INFO: Application startup complete.
INFO: Uvicorn running on http://0.0.0.0:8000 (Press CTRL+C to quit)
2026-01-28 17:16:42.087 | WARNING | mineru.utils.pdf_page_id:get_end_page_id:8 - end_page_id is out of range, use images length
2026-01-28 17:16:43.019 | INFO | mineru.utils.engine_utils:get_vlm_engine:32 - Using vllm-async-engine as the inference engine for VLM.
INFO 01-28 17:16:45 [init.py:220] No platform detected, vLLM is running on UnspecifiedPlatform
WARNING 01-28 17:16:46 [_custom_ops.py:20] Failed to import from vllm._C with ImportError('libcuda.so.1: cannot open shared object file: No such file or directory')
2026-01-28 17:16:47.025 | INFO | mineru.backend.vlm.utils:enable_custom_logits_processors:26 - CUDA not available, disabling custom_logits_processors
2026-01-28 17:16:47.039 | ERROR | mineru.cli.fast_api:parse_pdf:332 - Device string must not be empty

[dosubot[bot]]

Hi @GuanJD! I'm Dosu and I’m helping the MinerU team.

你的报错是因为 MinerU 默认选择了 vllm-async-engine 作为后端，但 vllm 只支持 CUDA GPU，不支持纯 CPU 环境，导致 device string 为空，出现 “Device string must not be empty” 的错误，并且会有 CUDA 相关的警告和报错（如 libcuda.so.1 找不到）参考。

解决方法如下：

1. 切换后端为支持 CPU 的类型
   推荐使用 pipeline 或 vlm-transformers 作为后端，这两个后端支持纯 CPU 部署。
   启动命令示例：

   MINERU_DEVICE_MODE=cpu mineru-api --host 0.0.0.0 --port 8000 --backend pipeline

   或者

   MINERU_DEVICE_MODE=cpu mineru-api --host 0.0.0.0 --port 8000 --backend vlm-transformers

2. 环境变量强制 CPU 模式
   如果没有 --backend 参数，可以通过环境变量强制 MinerU 只用 CPU：

   export MINERU_DEVICE_MODE=cpu
   export CUDA_VISIBLE_DEVICES=""
   mineru-api --host 0.0.0.0 --port 8000

   这样可以避免自动检测到 vllm 并尝试用 GPU。

3. 常见坑点

   • vllm 相关后端（如 vllm-async-engine、vlm-vllm-async-engine）不支持 CPU-only，会直接报错。
   • pipeline、vlm-transformers 后端才支持纯 CPU。
   • 如果是离线部署，确保所有模型已提前下载到本地，并设置 MINERU_MODEL_SOURCE=local，mineru.json 配置好本地模型路径参考。
   • 不要频繁切换 pipeline 和 vllm 后端，否则可能导致服务不稳定参考。

最简 CPU-only 启动示例：

export MINERU_DEVICE_MODE=cpu
export CUDA_VISIBLE_DEVICES=""
mineru-api --host 0.0.0.0 --port 8000 --backend pipeline

如还有问题，可以补充你的 backend 配置和完整启动命令。

To reply, just mention @dosu.

---

^{How did I do? Good | Irrelevant | Incorrect | Verbose | Hallucination | Report 🐛 | Other}

   

[turndown]

Hi @GuanJD! I'm Dosu and I’m helping the MinerU team.

你的报错是因为 MinerU 默认选择了 vllm-async-engine 作为后端，但 vllm 只支持 CUDA GPU，不支持纯 CPU 环境，导致 device string 为空，出现 “Device string must not be empty” 的错误，并且会有 CUDA 相关的警告和报错（如 libcuda.so.1 找不到）参考。

解决方法如下：

1. 切换后端为支持 CPU 的类型
   推荐使用 pipeline 或 vlm-transformers 作为后端，这两个后端支持纯 CPU 部署。
   启动命令示例：

   MINERU_DEVICE_MODE=cpu mineru-api --host 0.0.0.0 --port 8000 --backend pipeline

   或者

   MINERU_DEVICE_MODE=cpu mineru-api --host 0.0.0.0 --port 8000 --backend vlm-transformers

2. 环境变量强制 CPU 模式
   如果没有 --backend 参数，可以通过环境变量强制 MinerU 只用 CPU：

   export MINERU_DEVICE_MODE=cpu
   export CUDA_VISIBLE_DEVICES=""
   mineru-api --host 0.0.0.0 --port 8000

   这样可以避免自动检测到 vllm 并尝试用 GPU。

3. 常见坑点

   • vllm 相关后端（如 vllm-async-engine、vlm-vllm-async-engine）不支持 CPU-only，会直接报错。
   • pipeline、vlm-transformers 后端才支持纯 CPU。
   • 如果是离线部署，确保所有模型已提前下载到本地，并设置 MINERU_MODEL_SOURCE=local，mineru.json 配置好本地模型路径参考。
   • 不要频繁切换 pipeline 和 vllm 后端，否则可能导致服务不稳定参考。

最简 CPU-only 启动示例：

export MINERU_DEVICE_MODE=cpu
export CUDA_VISIBLE_DEVICES=""
mineru-api --host 0.0.0.0 --port 8000 --backend pipeline

如还有问题，可以补充你的 backend 配置和完整启动命令。

To reply, just mention @dosu.

How did I do? Good | Irrelevant | Incorrect | Verbose | Hallucination | Report 🐛 | Other

   

请问纯cpu推理的话，有对应的Dockerfile和compose文件嘛，官方docker部署的教程里都是vllm的原始镜像，在compose文件里配置环境变量MINERU_DEVICE_MODE=cpu也不行

[myhloli]

cpu只支持pipeline作为backend，调用的时候指定下backend即可