Skip to content

Latest commit

 

History

History
114 lines (72 loc) · 4.73 KB

provider_doc.md

File metadata and controls

114 lines (72 loc) · 4.73 KB

服务商 ☁️(Providers) 使用说明文档

文档更新时间：2026年1月27日

为了让您能够自由选择最适合自己的 AI 模型（无论是 OpenAI 官方，还是各类中转 API 服务商），Anywhere 提供了灵活且强大的服务商管理系统。

本文档将指导您如何配置 API 连接，管理模型列表，并高效组织您的服务商。

1. 添加与配置服务商

在「服务商」页面，您可以管理所有的模型来源。

1.1 添加服务商

  1. 点击左下角的 “+ 添加服务商”。
  2. 输入一个易于识别的名称（例如：OpenAI官方、DeepSeek、公司内部API）。

1.2 核心参数配置

选中左侧列表中的服务商后，在右侧进行详细配置：

  • API 密钥 (API Key)：
    • 输入服务商提供的 Key（通常以 sk- 开头）。
    • 多 Key 轮询：Anywhere 支持高可用配置。您可以输入多个 Key，使用英文逗号 , 分隔。系统会在每次请求时随机选择一个 Key，有效避免单 Key 速率限制（Rate Limit）。
  • API URL (Base URL)：
    • 接口的基础地址。必须兼容 OpenAI 格式（即支持 /v1/chat/completions 路径）。
    • 示例：
      • OpenAI: https://api.openai.com/v1
      • DeepSeek: https://api.deepseek.com/v1
      • 自定义中转: https://api.your-proxy.com/v1
  • 启用开关：右上角的开关可一键停用该服务商，停用后其下的所有模型将不可选。

2. 模型管理

配置好服务商后，您需要告诉 Anywhere 该服务商提供了哪些模型。

2.1 自动获取 (推荐)

点击 “🔄 从 API 获取模型” 按钮。

  • Anywhere 会尝试向 URL/models 端点发送请求。
  • 如果成功，系统会弹出一个列表，展示所有可用模型。
  • 点击模型右侧的 “+” 号即可将其加入您的可用列表。

2.2 手动添加

如果服务商不支持模型列表查询，或您想添加自定义微调模型：

  1. 点击 “+ 手动添加”。
  2. 输入准确的模型 ID（例如 gpt-4o、claude-3-5-sonnet-20240620）。

2.3 排序与整理

  • 拖拽排序：在模型列表中，长按模型标签即可拖拽调整顺序。这个顺序将决定它们在聊天界面下拉菜单中的显示顺序。
  • 删除：点击模型标签上的 x 即可移除。

3. 分组与文件夹

随着接入的服务商增多，左侧列表可能会变得杂乱。Anywhere 支持文件夹管理功能。

  • 创建文件夹：点击左下角的 “📂 (新建目录)” 图标。
  • 移动服务商：
    1. 选中某个服务商。
    2. 在右侧配置底部的 “目录” 选项中，选择目标文件夹。
  • 管理文件夹：
    • 点击文件夹名称可折叠/展开。
    • 悬浮在文件夹名称上，可点击编辑或删除图标。
    • 注意：删除文件夹时，其中的服务商不会被删除，而是会移动到根目录。

4. 排序与优先级

  • 服务商排序：在右侧顶部，使用 ⬆️ (上移) 和 ⬇️ (下移) 按钮调整服务商的优先级。这通常用于管理展示顺序。

5. 常见问题 (FAQ)

Q1: 为什么“从 API 获取模型”失败？

A:

  1. 请检查 API URL 是否正确（通常需要包含 /v1，但也取决于服务商，有的不需要）。
  2. 请检查 API Key 是否有效且有余额。
  3. 部分中转服务商可能未实现 /models 标准接口，此时请尝试“手动添加”模型 ID。

Q2: 什么是 OpenAI 兼容格式？

A: Anywhere 的核心通信协议基于 OpenAI 的接口标准。这意味着只要服务商（如 DeepSeek、Moonshot、Yi、LocalAI、Ollama）提供了兼容 OpenAI 的接口（输入输出格式一致），就可以接入 Anywhere。

  • Ollama 用户提示：通常 URL 为 http://localhost:11434/v1。

Q3: 多 Key 轮询是如何工作的？

A: 当您在“API 密钥”字段填入 sk-aaa,sk-bbb,sk-ccc 时，Anywhere 发起每一次对话请求前，都会从这三个 Key 中随机抽取一个使用。这是一种客户端层面的简单负载均衡。

Q4: 我删除了一个服务商，之前的对话还能用吗？

A: 历史对话记录是静态保存的，内容不会丢失。但是，如果您尝试继续该对话，由于原服务商配置已不存在，系统可能会提示错误或自动回退到默认服务商/模型。建议在删除前确认不再需要使用。

如需更多帮助，请访问我们的开源社区或联系开发者。祝您使用愉快！顺便求个Star🌟>.Q

GITHUB开源项目 AI Anywhere GITEE开源项目 AI Anywhere QQ群：1065512489