如何进行API调用？

[williamsnow]

目前只能通过终端调用，请问如何通过API调用？

[LieWell]

直接使用 fastchat 部署就可以，测试使用 MING-MOE-1.8B 没问题。

[EniKot]

直接使用 fastchat 部署就可以，测试使用 MING-MOE-1.8B 没问题。

您好，我想询问一些关于使用fastchat部署MING-MOE系列模型的问题，请问需要先将MING-MOE与对应的基座模型先合并吗

[BlueZeros]

直接使用 fastchat 部署就可以，测试使用 MING-MOE-1.8B 没问题。

您好，我想询问一些关于使用fastchat部署MING-MOE系列模型的问题，请问需要先将MING-MOE与对应的基座模型先合并吗

用本仓库提供的代码不需要，运行脚本需要同时传递基座模型参数和PEFT参数，合并在脚本内自动完成。

[EniKot]

直接使用 fastchat 部署就可以，测试使用 MING-MOE-1.8B 没问题。

您好，我想询问一些关于使用fastchat部署MING-MOE系列模型的问题，请问需要先将MING-MOE与对应的基座模型先合并吗

用本仓库提供的代码不需要，运行脚本需要同时传递基座模型参数和PEFT参数，合并在脚本内自动完成。

所以想要进行对MING-MOE系列模型进行API调用的话，还得自己写model_worker脚本和controller脚本对吗（