Skip to content

希望能增加xLLM最佳实践的文档 #287

@zhanghw0354

Description

@zhanghw0354

希望xLLM能给出针对典型模型(如deepseek r1)在典型场景(如64GB 910B2 NPU 8卡双机PD混合场景及多机PD分离场景)下进行推理的最佳实践文档,根据最佳实践文档可以获得在对应场景下的最佳性能,或者可以得到要获得最佳性能进行参数调优的方法论。

Metadata

Metadata

Assignees

No one assigned

    Labels

    documentationImprovements or additions to documentation

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions