Skip to content

Commit ec17493

Browse files
committed
adjusting the table in readme
1 parent fe0f016 commit ec17493

File tree

1 file changed

+0
-19
lines changed

1 file changed

+0
-19
lines changed

README_CN.md

Lines changed: 0 additions & 19 deletions
Original file line numberDiff line numberDiff line change
@@ -92,23 +92,6 @@ res = requests.post(url, headers=headers, json=json.dumps(data))
9292
![modelcache modules](docs/modelcache_modules_20231114.png)
9393
## 功能对比
9494
功能方面,为了解决huggingface网络问题并提升推理速度,增加了embedding本地推理能力。鉴于SqlAlchemy框架存在一些限制,我们对关系数据库交互模块进行了重写,以更灵活地实现数据库操作。在实践中,大型模型产品需要与多个用户和多个模型对接,因此在ModelCache中增加了对多租户的支持,同时也初步兼容了系统指令和多轮会话。
95-
<html>
96-
<head>
97-
<style>
98-
table, th, td {
99-
border-collapse: collapse;
100-
text-align: left;
101-
padding: 8px;
102-
margin-left: 20px;
103-
margin-right: 20px;
104-
}
105-
.checkmark {
106-
font-size: 24px;
107-
}
108-
109-
</style>
110-
</head>
111-
<body>
11295

11396
<table>
11497
<tr>
@@ -231,8 +214,6 @@ table, th, td {
231214
</tr>
232215
</table>
233216

234-
</body>
235-
</html>
236217
## 核心功能
237218
在ModelCache中,沿用了GPTCache的主要思想,包含了一系列核心模块:adapter、embedding、similarity和data_manager。adapter模块主要功能是处理各种任务的业务逻辑,并且能够将embedding、similarity、data_manager等模块串联起来;embedding模块主要负责将文本转换为语义向量表示,它将用户的查询转换为向量形式,并用于后续的召回或存储操作;rank模块用于对召回的向量进行相似度排序和评估;data_manager模块主要用于管理数据库。同时,为了更好的在工业界落地,我们做了架构和功能上的升级,如下:
238219

0 commit comments

Comments
 (0)