Skip to content

[Bug]本地源码部署,首次对话超级漫长的等待过程 #3491

@BInyLU

Description

@BInyLU

Contact Information

[email protected]

MaxKB Version

1.10

Problem Description

本地源码部署,首次对话超级漫长的等待过程,对话模型使用的是联网的qwen-plus,知识库是只有两百多字的文本,提示词是官方的默认,不管是什么检索模式,不管是什么模型,第一次回答总是很久很久才输出,虽然后续对话没问题,但是隔段时间不对话又开始慢了,首次对话体验太差,是什么原因导致的呢?可以告知一下我这边手动改吗?

Steps to Reproduce

本地源码部署,首次对话超级漫长的等待过程,对话模型使用的是联网的qwen-plus,知识库是只有两百多字的文本,提示词是官方的默认,不管是什么检索模式,不管是什么模型,第一次回答总是很久很久才输出,虽然后续对话没问题,但是隔段时间不对话又开始慢了,首次对话体验太差,是什么原因导致的呢?可以告知一下我这边手动改吗?

The expected correct result

No response

Related log output

Additional Information

No response

Metadata

Metadata

Assignees

Labels

No labels
No labels

Type

No type

Projects

No projects

Milestone

No milestone

Relationships

None yet

Development

No branches or pull requests

Issue actions