api模式下是不能实现工具调用吗？

[4ooooo]

我在服务器上起server，然后在本地终端调用api，
response = client.chat.completions.create(
model="chatglm3_6b", # 填写需要调用的模型名称
messages=messages,
tools=tools,
tool_choice="auto",
)
这样是无法识别到工具的，请问有什么好的解决办法吗？需要通过api实现

[JefferyLJF1129]

Hi我也在尝试使用api实现工具调用，模型一直都不会去调用工具。不知道跟你是不是一样的情况~

[JefferyLJF1129]

方便问下跑的是哪个代码吗

[4ooooo]

Qwen-7B-Chat，阿里通义千问的开源，直接用他github上的openai-api.py那个代码起服务，就可以了，能调用工具。GLM4我看还没有给出api_server的代码

[JefferyLJF1129]

大佬方便发一下qwen这个openai的链接吗

[JefferyLJF1129]

起服务的代码和调工具的代码

[4ooooo]

https://github.com/QwenLM/Qwen/tree/main main里的openai_api.py和example里的function_call.py