Knowledge Base里进行new的时候到了Chunks报错

[ad0814]

下面是点击index按钮后报错信息，然后弹窗报错如图，这是什么问题呀

docker输出.txt

[Kaguya-19]

这个问题有点怪，现在是ultrarag-ui的输出，您能提供ultrarag这个容器的输出吗，我排查下

[xiyuxixixixi-wq]

这个问题有点怪，现在是ultrarag-ui的输出，您能提供ultrarag这个容器的输出吗，我排查下

VLLM模块里模型最大上下文是65536，消费级显卡是否会造成显存爆炸呢，请问您运行是什么卡。我看vllm日志一直循环启动vllm。

[xiyuxixixixi-wq]

这个问题有点怪，现在是ultrarag-ui的输出，您能提供ultrarag这个容器的输出吗，我排查下

vllm加载模型成功后，日志会输出类似http://0.0.0.0:8000语句吗？

[xiyuxixixixi-wq]

这个问题有点怪，现在是ultrarag-ui的输出，您能提供ultrarag这个容器的输出吗，我排查下
这是所有的log日志，图片是前端报错信息，循环报错。
milvus-1.txt
milvus-etcd-1.txt
milvus-minio-1.txt
ultrarag-ui-1.txt
ultratag-1.txt
vllm-1.txt

[Kaguya-19]

这个问题有点怪，现在是ultrarag-ui的输出，您能提供ultrarag这个容器的输出吗，我排查下

vllm加载模型成功后，日志会输出类似http://0.0.0.0:8000语句吗？

会的

[Kaguya-19]

看起来vllm正在加载模型，要不您先试试cpu版

[ad0814]

看起来vllm正在加载模型，要不您先试试cpu版

请问需要改什么配置吗，现在模型一直加载不出来，我看日志好像缺个sayhello.ymal文件

[Kaguya-19]

看起来vllm正在加载模型，要不您先试试cpu版

请问需要改什么配置吗，现在模型一直加载不出来，我看日志好像缺个sayhello.ymal文件

Huggingface无法访问时，您可以通过modelscope离线下载好模型放到UltraRAG/agentcpm-report-demo/models/agentcpm-report中，然后在.env中设置为本地路径：

VLLM_MODEL_HOST_PATH=
VLLM_MODEL_CONTAINER_PATH=/models/agentcpm-report
VLLM_MODEL=/models/agentcpm-report
VLLM_SERVED_MODEL_NAME=agentcpm-report