How about 3.0.0? Discuss here!!!!!! 收集 3.0.0 版本的使用体验！！！

[CUsopp]

just talk~

[finch-xu]

实测非常稳定、非常快、支持高并发。
启动mineru-router配置两个节点，一个节点15G显存，进行大批量的pdf跑批，pdf是80页到400多页都有。
一个节点占用内存大约22G，CPU突发在12C到20C变化，资源占用少而且非常稳定，以前经常爆内存。
以前vllm部署最大显存控制不住，时间长了经常增长，比如80G显存给0.2大约16G，时间长了经常到20G显存，现在能稳定控制住了显存在16G以内不变。
每个pdf的解析速度都加快了相比之前，而且都是并发解析的。
mineru内部对pdf进行了切分，经常分成三份解析，暂不知道切分逻辑。

[CUsopp]

这个api是基于什么引擎呢？如果是pipe的话，会不会有点太高了？

[myhloli]

默认是单节点3个并发，如果设备比较好的话可以通过环境MINERU_API_MAX_CONCURRENT_REQUESTS 变量调高一点

[finch-xu]

这个api是基于什么引擎呢？如果是pipe的话，会不会有点太高了？

vlm-auto-engine

[nplus-yi]

方便分享一下硬件环境吗？

[finch-xu]

A800的服务器，生产环境用的，cpu内存管够，但是docker部署的时候控制了一下防止过度占用。