RAG SDK的接口包含知识管理接口、数据库接口、模型管理接口、评估模块接口、检索接口、Chain类等接口。用户可调用接口完成二次开发。
RAG SDK接口遵循异常处理机制,故用户必须在try/except语句块内进行调用以及异常处理,防止在使用的过程中出现异常抛出导致程序退出的情况。
[!NOTICE] 须知 RAG SDK如果使用Cache对问题-答案缓存,生成的数据库未做加密存储,如果涉及银行卡号、身份证号、护照号、口令等个人数据,请勿存放到数据库中。
| 接口类名 | 导航链接 |
|---|---|
| 通用类 | universal_api |
| 知识管理 | knowledge_management |
| 数据库 | databases |
| 对接模型客户端 | llm_client |
| 向量化 | embedding |
| 排序 | reranker |
| 模型推理加速 | model_inference_acceleration |
| embedding模型微调 | embedding_model_fine_tuning |
| 评估模块 | evaluation_module |
| 缓存模块 | cache_module |
| 检索 | retrieval |
| 文档总结 | document_summary |
| Prompt压缩 | prompt_compression |
| 大模型Chain | llm_chains |
| 知识图谱 | knowledge_graph |