Releases: NLP-LOVE/personal-llm-api
Releases · NLP-LOVE/personal-llm-api
V1.3
V1.2
V1.1
V1.0
🚀 Personal LLM API v1.0.0 正式发布!
我们很高兴地宣布 Personal LLM API 第一个正式版本 v1.0 正式发布!🎉
这是一个专为个人开发者和 AI 爱好者打造的轻量级 LLM 接口管理方案。如果你觉得 One-API 过于繁重,或者希望有一个更贴合个人使用习惯、易于二次开发的接口调度中心,那么 Personal LLM API 将是你的理想选择。
✨ 版本亮点
1. 极简架构,极致体验
- Python 原生: 基于 FastAPI 构建,性能卓越,代码结构精简,方便个人开发者深度定制。
- 丝滑流式响应: 深度优化数据传输协议,配合 Cherry Studio 等高颜值客户端,可实现完美的“打字机”式输出,告别卡顿。
2. 多模型聚合与调度
- 主流厂商支持: 已内置接入火山引擎(方舟)、阿里云(百炼)、硅基流动、OpenRouter、深言(Nano Banana Pro)等。
- 轮询负载均衡: 支持相同模型配置多个渠道,自动实现轮询负载。
- OpenAI 协议兼容: 标准的
/v1/chat/completions接口,无缝对接市场上的 LLM 客户端(如 Chatbox, Lobe-Chat 等)。
3. 可视化管理与监控
- amis 低代码后台: 采用百度 amis 框架开发的后台,无需掌握复杂前端技术即可管理模型与密钥。
- 多维度统计: 实时监控 LLM 接口消耗量,查看详细的对话历史记录,盈亏尽在掌握。
4. 增强功能集成
- Web Search 转换: 独家支持将火山云的
response接口转换为普通chat接口,让不支持联网搜索的客户端也能轻松获取实时信息。 - 灵活部署: 支持 SQLite(默认)和 MySQL,支持系统/手动代理设置,适配各种网络环境。
🛠️ 技术栈更新
- Backend: FastAPI (Python 3.9+)
- Frontend: amis-v6.13.0
- Database: 支持 SQLite / MySQL 双数据库切换