怎么把Qwen2.5vl-3b转换成onnx格式

[ljpsummer]

请问怎么把怎么把Qwen2.5vl-3b转换成onnx格式。谢谢

[DakeQQ]

使用此脚本，填写好相关路径并下载好原模型，最後执行脚本即可。

[ljpsummer]

请问能不能把A...F这很多模型合并在一个模型呢，就是把最开始的Qwen2.5（safetensors格式）转换成一个onnx格式模型？因为我最终还要onnx格式转换成om格式，在华为昇腾的边缘设备上运行。谢谢

[DakeQQ]

[ljpsummer]

那请问大佬有没有办法把Qwen2.5vl-3b转换成om格式呢。
另外，话说CSDN有一个博客和你这个一样的，付费订阅，结果还支付了100块钱。

[DakeQQ]

建议您将分块的模型逐一转换至目标格式，最后透过推理流水线串起运行。全部融合到一份模型文件真不合适。

恩那个博客挺有商业头脑的，但不是我：）

[ljpsummer]

另外，请问有没有了解过，官方有没有这种格式转换的代码呢，现在经常需要把各种safetensors格式的转换成onnx格式或其他格式，但是好像没有现成的工具啊。

[DakeQQ]

当前这个Github就是为此而生：）

阿里MNN团队也有提供各式LLM转换到ONNX的脚本。