LLM Configuration Chinese

⚙️ AionUi 大模型配置教程

本教程将详细介绍如何在 AionUi 中配置各种大语言模型，包括 Gemini、OpenAI、ModelScope、OpenRouter 等平台，以及多 API Key 轮换等高级功能。

English | 简体中文

🎯 配置概览

AionUi 支持 25+ 大模型平台，包括官方平台、云服务提供商、中国平台和国际平台。每种平台都有不同的配置方式：

平台分类

官方平台

• Gemini - API Key / Google 登录 | ✅ 多 Key 支持 | 图像生成、工具调用
• Gemini (Vertex AI) - API Key | ✅ 多 Key 支持 | 企业级 AI 服务
• OpenAI - API Key | ✅ 多 Key 支持 | 函数调用、图像生成
• Anthropic - API Key | ✅ 多 Key 支持 | Claude 系列模型

云服务提供商

• AWS Bedrock - Access Key / Profile | ❌ 多 Key 支持 | AWS 企业级 AI 服务
• New API - API Key | ✅ 多 Key 支持 | 统一多模型网关

中国平台

• Dashscope (Qwen) - API Key | ✅ 多 Key 支持 | 通义千问系列
• Zhipu - API Key | ✅ 多 Key 支持 | 智谱 AI
• Moonshot (China) - API Key | ✅ 多 Key 支持 | 月之暗面（中国）
• Moonshot (Global) - API Key | ✅ 多 Key 支持 | 月之暗面（全球）
• Qianfan - API Key | ✅ 多 Key 支持 | 百度千帆
• Hunyuan - API Key | ✅ 多 Key 支持 | 腾讯混元
• Lingyi - API Key | ✅ 多 Key 支持 | 零一万物
• ModelScope - API Key | ✅ 多 Key 支持 | 魔搭社区
• InfiniAI - API Key | ✅ 多 Key 支持 | 无限 AI
• Ctyun - API Key | ✅ 多 Key 支持 | 天翼云
• StepFun - API Key | ✅ 多 Key 支持 | 阶跃星辰

国际平台

• DeepSeek - API Key | ✅ 多 Key 支持 | DeepSeek 模型
• MiniMax - API Key | ✅ 多 Key 支持 | MiniMax AI
• OpenRouter - API Key | ✅ 多 Key 支持 | 多模型聚合网关
• SiliconFlow-CN - API Key | ✅ 多 Key 支持 | SiliconFlow（中国）
• SiliconFlow - API Key | ✅ 多 Key 支持 | SiliconFlow（全球）
• xAI - API Key | ✅ 多 Key 支持 | xAI Grok 模型
• Ark - API Key | ✅ 多 Key 支持 | 火山引擎 Ark
• Poe - API Key | ✅ 多 Key 支持 | Poe 平台

自定义平台

• Custom - API Key | ✅ 多 Key 支持 | OpenAI 兼容接口（支持 Ollama、LM Studio 等本地模型）

---

🌟 方式一：Google 账号登录（推荐）

优势

• 无需 API Key: 直接使用 Google 账号登录
• 自动更新: Token 自动刷新，无需手动维护
• 安全可靠: 使用 OAuth 2.0 标准认证
• 功能完整: 支持所有 Gemini 功能

配置步骤

1. 进入 Gemini 设置

   • 点击左侧边栏的 "设置" 图标
   • 选择 "Gemini 设置"

2. Google 登录

   • 点击 "Google 登录" 按钮
   • 在弹出的浏览器窗口中完成 Google 账号登录
   • 授权 AionUi 访问你的 Google 账号

3. 验证登录状态
   • 登录成功后，界面会显示你的 Google 账号信息
   • 可以点击 "退出登录" 按钮切换账号

常见登录问题

如果 Google 登录遇到问题，请尝试以下解决方案：

1. 网络问题

• VPN 设置：建议将 VPN 挂在美国地区
• 代理配置：在 Gemini 设置中填写代理地址
• 网络检查：确保网络连接稳定，可以正常访问 Google 服务

2. Cloud Project ID 问题

• 解决方案：需要创建 Google Cloud Project，详细步骤请参考 快速开始指南 中的 "📋 Google Cloud Project ID 创建详细教程" 章节

---

🔑 方式二：API Key 配置

Gemini 平台配置

1. 获取 Gemini API Key

   • 访问 Google AI Studio
   • 使用 Google 账号登录
   • 在 "API Keys" 页面创建新的 API Key

2. 在 AionUi 中配置

   • 点击左侧边栏的 "设置" 图标
   • 选择 "大模型设置"
   • 点击 "添加模型" 按钮
   • 选择平台：Gemini
   • 输入 API Key
   • 系统会自动获取可用的模型列表

New API 平台配置

New API 是一个统一的多模型网关，可以聚合访问多种 LLM 模型。

1. 获取 New API Key

   • 访问 New API GitHub 了解部署方式
   • 或使用已部署的 New API 服务
   • 获取 API Key

2. 在 AionUi 中配置

   • 选择平台：New API
   • 输入 Base URL（New API 服务地址）
   • 输入 API Key
   • 选择模型（支持多种协议：OpenAI、Gemini、Anthropic）
   • 可选：为特定模型配置协议覆盖（modelProtocols）

💡 提示：New API 支持为不同模型配置不同的协议，例如 Gemini 模型使用 gemini 协议，Claude 模型使用 anthropic 协议。

AWS Bedrock 平台配置

AWS Bedrock 是 AWS 的企业级 AI 服务平台，支持多种认证方式。

1. 准备 AWS 凭证

   • 方式一：Access Key
     • 在 AWS IAM 中创建用户并生成 Access Key ID 和 Secret Access Key
     • 确保用户有 Bedrock 访问权限
   • 方式二：Profile
     • 在本地配置 AWS CLI Profile（aws configure --profile <profile-name>）
     • 使用已配置的 Profile 名称

2. 在 AionUi 中配置

   • 选择平台：AWS Bedrock
   • 选择认证方式：Access Key 或 Profile
   • 如果选择 Access Key：
     • 输入 AWS Region（如 us-east-1）
     • 输入 Access Key ID
     • 输入 Secret Access Key
   • 如果选择 Profile：
     • 输入 AWS Region
     • 输入 Profile 名称（已在本地配置的 AWS CLI Profile）
   • 系统会自动获取可用的 Claude 模型列表

支持的 AWS Region：

• us-east-1 - US East (N. Virginia)
• us-west-2 - US West (Oregon)
• eu-west-1 - Europe (Ireland)
• eu-central-1 - Europe (Frankfurt)
• ap-southeast-1 - Asia Pacific (Singapore)
• ap-northeast-1 - Asia Pacific (Tokyo)
• ap-southeast-2 - Asia Pacific (Sydney)
• ca-central-1 - Canada (Central)

Gemini (Vertex AI) 平台配置

Vertex AI 是 Google Cloud 的企业级 AI 服务平台。

1. 获取 Vertex AI 凭证

   • 在 Google Cloud Console 中创建项目
   • 启用 Vertex AI API
   • 创建服务账号并下载 JSON 密钥文件
   • 或使用 Application Default Credentials (ADC)

2. 在 AionUi 中配置

   • 选择平台：Gemini (Vertex AI)
   • 输入 Google Cloud Project ID
   • 输入 API Key（或配置服务账号）
   • 系统会自动获取可用的 Vertex AI 模型列表

自定义平台配置

自定义平台允许您配置任何支持 OpenAI 兼容接口的模型服务，包括本地部署的模型。

1. 获取 API Key

   • 访问对应平台的 API Key 管理页面
   • 登录账号并创建新的 API Key
   • 复制 API Key 备用

2. 在 AionUi 中配置

   • 选择平台：Custom
   • 输入对应的 Base URL
   • 输入 API Key
   • 选择要使用的模型

常用平台 Base URL：

• OpenAI: https://api.openai.com/v1
• Anthropic: https://api.anthropic.com/v1
• xAI: https://api.x.ai/v1
• DeepSeek: https://api.deepseek.com/v1
• Moonshot (China): https://api.moonshot.cn/v1
• Moonshot (Global): https://api.moonshot.ai/v1
• Zhipu: https://open.bigmodel.cn/api/paas/v4
• Dashscope: https://dashscope.aliyuncs.com/compatible-mode/v1
• SiliconFlow-CN: https://api.siliconflow.cn/v1
• SiliconFlow: https://api.siliconflow.com/v1
• Ark: https://ark.cn-beijing.volces.com/api/v3
• Qianfan: https://qianfan.baidubce.com/v2
• Hunyuan: https://api.hunyuan.cloud.tencent.com/v1
• Lingyi: https://api.lingyiwanwu.com/v1
• Poe: https://api.poe.com/v1
• InfiniAI: https://cloud.infini-ai.com/maas/v1
• Ctyun: https://wishub-x1.ctyun.cn/v1
• StepFun: https://api.stepfun.com/v1

本地模型支持：

• Ollama: http://localhost:11434/v1（本地部署）
• LM Studio: http://localhost:1234/v1（本地部署）

预设平台快速配置

AionUi 提供了多个预设平台，选择后会自动填充 Base URL，您只需输入 API Key 即可。

中国平台配置示例：

1. Dashscope (Qwen)

   • 访问 Dashscope 控制台
   • 创建 API Key
   • 在 AionUi 中选择 Dashscope，输入 API Key

2. Zhipu (智谱 AI)

   • 访问 Zhipu 开放平台
   • 创建 API Key
   • 在 AionUi 中选择 Zhipu，输入 API Key

3. Moonshot (月之暗面)

   • 访问 Moonshot 控制台
   • 创建 API Key
   • 在 AionUi 中选择 Moonshot (China) 或 Moonshot (Global)，输入 API Key

4. ModelScope (魔搭)

   • 访问 ModelScope
   • 登录阿里云账号，创建访问令牌
   • 在 AionUi 中选择 ModelScope，输入 API Key

国际平台配置示例：

1. OpenRouter

   • 访问 OpenRouter
   • 注册账号并创建 API Key
   • 在 AionUi 中选择 OpenRouter，输入 API Key
   • 支持访问多种开源和商业模型

2. DeepSeek

   • 访问 DeepSeek 控制台
   • 创建 API Key
   • 在 AionUi 中选择 DeepSeek，输入 API Key

3. SiliconFlow

   • 访问 SiliconFlow 或 SiliconFlow Global
   • 创建 API Key
   • 在 AionUi 中选择 SiliconFlow-CN 或 SiliconFlow，输入 API Key

💡 提示：所有预设平台都支持多 API Key 轮换，只需在 API Key 字段中输入多个 Key（逗号或换行分隔）即可。

---

🔄 多 API Key 轮换配置

功能说明

AionUi 支持多 API Key 自动轮换，提高服务可靠性和可用性：

• 自动轮换: 当某个 API Key 遇到错误时自动切换到下一个
• 智能黑名单: 失败的 Key 会被临时黑名单 90 秒
• 错误恢复: 黑名单过期后自动恢复使用
• 负载均衡: 随机选择起始 Key，分散请求压力

配置方法

1. 在 API Key 字段中输入多个 Key

   sk-xxx1,sk-xxx2,sk-xxx3
   

   或使用换行分隔：

   sk-xxx1
   sk-xxx2
   sk-xxx3
   

2. 支持的平台

   • ✅ Gemini: 支持多 Key 轮换
   • ✅ Gemini (Vertex AI): 支持多 Key 轮换
   • ✅ OpenAI: 支持多 Key 轮换
   • ✅ Anthropic: 支持多 Key 轮换
   • ✅ 自定义平台: 支持多 Key 轮换（使用 OpenAI 兼容接口）
   • ✅ New API: 支持多 Key 轮换
   • ✅ 所有使用 OpenAI 兼容接口的平台: 支持多 Key 轮换
     • ModelScope、OpenRouter、Dashscope、DeepSeek、MiniMax、SiliconFlow、Zhipu、Moonshot、xAI、Ark、Qianfan、Hunyuan、Lingyi、Poe、InfiniAI、Ctyun、StepFun 等
   • ❌ AWS Bedrock: 不支持多 Key 轮换（使用 AWS 凭证认证）

轮换机制详解

1. 错误检测

   • 检测到 401（认证失败）、429（限流）、503（服务不可用）等错误
   • 自动将当前 Key 加入黑名单

2. 自动切换

   • 从可用 Key 列表中随机选择下一个
   • 更新环境变量，重新初始化客户端

3. 黑名单管理

   • 失败的 Key 被黑名单 90 秒
   • 黑名单过期后自动恢复使用
   • 避免频繁切换导致的性能问题

---

❓ 常见问题

Q: 如何知道配置是否成功？

A: 检查方法：

• 在模型列表中能看到配置的平台和模型
• 在对话界面能选择到配置的模型
• 发送消息能正常收到回复

Q: 多 API Key 轮换不工作？

A: 检查要点：

• 确保 Key 格式正确（逗号或换行分隔）
• 检查平台是否支持多 Key（支持的平台：Gemini、Vertex AI、OpenAI、Anthropic、New API 和所有使用 OpenAI 兼容接口的平台）
• 查看控制台日志了解轮换状态
• 注意：AWS Bedrock 不支持多 Key 轮换，因为它使用 AWS 凭证认证而非 API Key

Q: 模型列表为空或加载失败？

A: 可能原因：

• API Key 无效或过期
• Base URL 配置错误
• 网络连接问题
• 平台服务暂时不可用

Q: 如何切换不同的模型？

A: 切换方法：

• 在开始新对话时选择不同的模型
• 当前对话过程中暂时不支持切换模型
• 系统会记住你的选择偏好

Q: 配置的模型在对话中看不到？

A: 检查配置：

• 确保模型支持 function_calling 能力
• 重新保存配置并重启应用

---

📚 相关文档

• 快速入门: 快速入门指南
• 图像生成配置: 图像生成配置指南
• 多Agent模式配置: 多Agent模式配置
• 常见问题: 常见问题

---

需要帮助？

• 🐛 报告问题
• 💬 社区讨论
• 📖 完整文档

配置完成后，你就可以享受多平台、多模型的 AI 体验了！