Skip to content

[Bug] The output is incomplete after inputting long text #2852

@dllucyboy

Description

@dllucyboy

Contact Information

No response

MaxKB Version

专业版 v1.10.3-lts

Problem Description

创建了一个文本重排应用,主要是要将输入的文本,按照提示词设定的格式,重新编排并输出。文本总字数大概2000多,输出的时候不全。如果每次输入1000左右字数的,那么输出是完整的。通过xinference部署的本地模型,在xinference客户端的WEB UI界面测试,也能复现问题,但是调整xinference Web UI界面的max tokens后就正常了。但是返回MaxKB中,调整模型参数的最大输出tokens没有效果。感觉在MaxKB中设置这个max tokens参数没有效果。

Steps to Reproduce

xinference Web UI界面调整参数后就正常了。

Image

The expected correct result

No response

Related log output

Additional Information

No response

Metadata

Metadata

Assignees

Type

No type

Projects

No projects

Milestone

Relationships

None yet

Development

No branches or pull requests

Issue actions