mineru更新很频繁很活跃回复也很快，但是更新了十几次没有提高识别的速度

[loowace]

vlm模式太慢了，接近一分钟一页，太慢了，如果能达到一分钟15页基本能达到预期了，一个pdf有1000多页能在一个小时内完整

[myhloli]

我们测试下来使用消费级显卡是可以做到一秒不到1页的，需要使用vllm作为推理加速后端。

[loowace]

推理
vlm 能做到一秒一页？不可能的，硬件是3060 12g显存应该够的没用满，我用的就是vlm模式vlm-transformers，vlm模式比pipeline慢，40-50秒一页，我是一次性读取pdf到内存，在内存中把每页作为独立pdf文件输入生成每页md作为独立文件输出，因为mineru不支持每页独立输出md文件

[myhloli]

vlm是一种技术方案，vllm是一个推理框架

[loowace]

vlm是一种技术方案，vllm是一个推理框架
vllm不是uv pip install -U "mineru[core]" -i https://mirrors.aliyun.com/pypi/simple 这样安装的吗？ mineru有vllm的安装教程吗？

[wozai604]

我生产上是 A800，用的 minieru-api + mineru-vllm-server。使用时传入完整pdf文件，从开始传入到结果返回算，平均每页2秒左右。

[loowace]

我生产上是 A800，用的 minieru-api + mineru-vllm-server。使用时传入完整pdf文件，从开始传入到结果返回算，平均每页2秒左右。

比不了，我用的消费级3060 12g显存，40-50秒/页，没用上vllm，不知道vllm怎么安装mineru