mxfp4模型要去哪里找？ 除了gptoss20b和120b外我尝试加载了很多modelscope上的mxfp4模型，都报错，只有gpt的可以，请问是需要自己自行量化吗？能否告知是否存在qwen3系列的mxfp4量化模型（可以lmdeploy加载的）

[sysugxh]

[lvhan028]

关于 mxfp4，lmdeploy目前仅支持了 gpt-oss。组内正在做一项工作，支持 llm-compressor 量化出的模型。首先会支持 awq，之后会扩展到其他的量化精度

[sysugxh]

收到，谢谢