Skip to content

Commit 34c3b79

Browse files
committed
update readme
1 parent a8dfb1f commit 34c3b79

File tree

1 file changed

+2
-0
lines changed

1 file changed

+2
-0
lines changed

README.md

Lines changed: 2 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -16,6 +16,7 @@
1616

1717
1. 支持**Chat****Embedding****ReRanker****text-moderation(文本审核,分类)****ASR****TTS(支持声音克隆)** 模型的 **openai**规范 接口服务。
1818
2. 支持**HF****vLLM****LMDeploy****SGLang** 多种加速推理后端引擎。
19+
3. 多个模型共用**openai server**的同一个端口进行调用,自动进行模型调度。
1920

2021
如果 GPT Server 对您有帮助,欢迎留下一个 ⭐ Star!
2122
<br>
@@ -119,6 +120,7 @@
119120
* [X] 支持Reranker模型动态组批(实现方式:infinity后端)
120121
* [X] 可视化启动界面(不稳定,对开发人员来说比较鸡肋,后期将弃用!)
121122
* [X] 并行的function call功能(tools)
123+
* [ ] 支持 文生图模型
122124
* [ ] 支持 pip install 方式进行安装
123125

124126

0 commit comments

Comments
 (0)