Skip to content

Releases: NLP-LOVE/personal-llm-api

V1.3

04 Feb 14:43

Choose a tag to compare

feat(Stark): 新增 Aihubmix 模型的支持。

V1.2

11 Jan 15:02

Choose a tag to compare

feat(Stark): 新增 seedream 视觉模型的支持

V1.1

31 Dec 14:49

Choose a tag to compare

feat(Stark): 新增自定义模型参数设置

V1.0

28 Dec 09:16

Choose a tag to compare

🚀 Personal LLM API v1.0.0 正式发布!

我们很高兴地宣布 Personal LLM API 第一个正式版本 v1.0 正式发布!🎉

这是一个专为个人开发者和 AI 爱好者打造的轻量级 LLM 接口管理方案。如果你觉得 One-API 过于繁重,或者希望有一个更贴合个人使用习惯、易于二次开发的接口调度中心,那么 Personal LLM API 将是你的理想选择。

✨ 版本亮点

1. 极简架构,极致体验

  • Python 原生: 基于 FastAPI 构建,性能卓越,代码结构精简,方便个人开发者深度定制。
  • 丝滑流式响应: 深度优化数据传输协议,配合 Cherry Studio 等高颜值客户端,可实现完美的“打字机”式输出,告别卡顿。

2. 多模型聚合与调度

  • 主流厂商支持: 已内置接入火山引擎(方舟)、阿里云(百炼)、硅基流动、OpenRouter、深言(Nano Banana Pro)等。
  • 轮询负载均衡: 支持相同模型配置多个渠道,自动实现轮询负载。
  • OpenAI 协议兼容: 标准的 /v1/chat/completions 接口,无缝对接市场上的 LLM 客户端(如 Chatbox, Lobe-Chat 等)。

3. 可视化管理与监控

  • amis 低代码后台: 采用百度 amis 框架开发的后台,无需掌握复杂前端技术即可管理模型与密钥。
  • 多维度统计: 实时监控 LLM 接口消耗量,查看详细的对话历史记录,盈亏尽在掌握。

4. 增强功能集成

  • Web Search 转换: 独家支持将火山云的 response 接口转换为普通 chat 接口,让不支持联网搜索的客户端也能轻松获取实时信息。
  • 灵活部署: 支持 SQLite(默认)和 MySQL,支持系统/手动代理设置,适配各种网络环境。

🛠️ 技术栈更新

  • Backend: FastAPI (Python 3.9+)
  • Frontend: amis-v6.13.0
  • Database: 支持 SQLite / MySQL 双数据库切换