使用阿里百炼的Qwen3系列模型时需要修改下源码

[lizz0725]

Qwen3 、Qwen3-Omni-Flash、Qwen3-VL模型。这些模型，需要额外传递 enable_thinking 参数，不然会报错。参数样例：extra_body={"enable_thinking": True/False}.

涉及修改的python代码，代码: genie_tool/util/llm_util.py , 代码参考下面的评论。 修改片段 起始到终止为止：

# --- 兼容qwen3模型 修改部分开始 ---

# --- 修改部分结束 ---

[lizz0725]

# -*- coding: utf-8 -*-
# =====================
# 
# 
# Author: liumin.423
# Date:   2025/7/8
# =====================
import json
import os
from typing import List, Any, Optional

from litellm import acompletion

from genie_tool.util.log_util import timer, AsyncTimer
from genie_tool.util.sensitive_detection import SensitiveWordsReplace


@timer(key="enter")
async def ask_llm(
        messages: str | List[Any],
        model: str,
        temperature: float = None,
        top_p: float = None,
        stream: bool = False,

        # 自定义字段
        only_content: bool = False,     # 只返回内容

        extra_headers: Optional[dict] = None,
        **kwargs,
):
    if isinstance(messages, str):
        messages = [{"role": "user", "content": messages}]
    if os.getenv("SENSITIVE_WORD_REPLACE", "false") == "true":
        for message in messages:
            if isinstance(message.get("content"), str):
                message["content"] = SensitiveWordsReplace.replace(message["content"])
            else:
                message["content"] = json.loads(
                    SensitiveWordsReplace.replace(json.dumps(message["content"], ensure_ascii=False)))

    # --- 兼容qwen3模型 修改部分开始 ---
    # 获取 kwargs 中已有的 extra_body 或创建一个新的空字典
    existing_extra_body = kwargs.get('extra_body', {})
    merged_extra_body = {**existing_extra_body, "enable_thinking": stream}
    # 将合并后的 extra_body 放回 kwargs
    kwargs['extra_body'] = merged_extra_body
    # --- 修改部分结束 ---
    response = await acompletion(
        messages=messages,
        model=model,
        temperature=temperature,
        top_p=top_p,
        stream=stream,
        extra_headers=extra_headers,
        **kwargs
    )
    async with AsyncTimer(key=f"exec ask_llm"):
        if stream:
            async for chunk in response:
                if only_content:
                    if chunk.choices and chunk.choices[0] and chunk.choices[0].delta and chunk.choices[0].delta.content:
                        yield chunk.choices[0].delta.content
                else:
                    yield chunk
        else:
            yield response.choices[0].message.content if only_content else response


if __name__ == "__main__":
    pass

[lizz0725]

除此之外，qwen的模型， genie-tool / .env_template 中的modelName相关的配置。 需要改为：dashscope/qwen3-32b。 如果是用公网api，base_url配置需要修改。

OPENAI_API_KEY=sk-xxxxxxxxxxxxxxxxxxxxxxxx
OPENAI_BASE_URL=https://dashscope.aliyuncs.com/compatible-mode/v1

[lizz0725]

使用公网的千问，java工程中有人遇到 tool_name 冲突的情况。即：code_interpreter。 根据之前伙伴提供的思路，有两种改法。
1.genie-backend/src/main/resources/application.yml 里的 tool_list 改成 '{"default":"search,report"}， 这么改少一个tool
2.修改java代码，修改com.jd.genie.agent.tool.common.CodeInterpreterTool.java中，getName() 函数的 return值，即code_interpreter改为其他值 ，参考示例：

public String getName() {
        return "code_interpreter2";
    }