Skip to content
Discussion options

You must be logged in to vote

你现在只看到 pipeline、vlm-auto-engine、hybrid-auto-engine,是因为 mineru-gradio 默认只显示这些选项。要让 http-client(在 UI 里叫 vlm-http-client)出现在 Gradio 下拉框,需要在启动命令里加上 --enable-http-client true 参数,否则不会显示 参考

你的 YAML 只写了 --enable-vllm-engine true,这个只会让 vlm-auto-engine 出现,不会让 http-client 相关选项出现 参考

修改方法:
把 command 部分改成这样(注意加上 --enable-http-client true):

command:
  --server-name 0.0.0.0
  --server-port 7861
  --enable-vllm-engine true
  --enable-http-client true

注意事项:

  • http-client(vlm-http-client)需要你单独启动一个 vLLM API server(比如 mineru-vllm-server),Gradio 里选 vlm-http-client 后要填对应的 server_url 参考
  • 如果 command 里有多余或冲突的参数,也可能导致 client 选项无法显示 参考
  • 2.7.0 版本支持 vlm-http-client,不需要升级 参考

小结:
加上 --enable-http-client true,重启容器,Gr…

Replies: 1 comment

Comment options

You must be logged in to vote
0 replies
Answer selected by CUsopp
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Category
Q&A
Labels
None yet
1 participant