Skip to content

Commit a43a5a1

Browse files
authored
Update Technologies.mdx
1 parent c36f630 commit a43a5a1

File tree

1 file changed

+7
-1
lines changed

1 file changed

+7
-1
lines changed

docs/pages/Technologies.mdx

Lines changed: 7 additions & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -27,7 +27,7 @@ RAG (Retrieval-Augmented Generation)技术是提升智能体知识准确性
2727
- **检索策略优化**:RAG 的性能取决于检索的准确性。企业需要优化检索策略,包括关键词检索、语义检索、混合检索等,确保能够从知识库中检索最相关的文档片段。同时,构建好高效的多路召回机制进一步提升检索准确率。
2828
- **生成与融合**:将检索到的信息与 LLM 的生成能力相结合,确保 LLM 在生成回答时能够充分利用检索到的知识,并以自然流畅的语言呈现。这涉及到提示词工程的优化,引导 LLM 更好地融合外部知识。
2929

30-
## 10.3.工具调用(Tool Use
30+
## 10.3.工具调用(Tool Uses
3131

3232
工具调用是智能体实现“手脚”的关键,它使智能体能够与外部系统进行交互,执行具体动作,从而将 LLM 的语言理解能力转化为实际行动。
3333
- **工具库的构建与管理**:企业需要根据业务场景,构建丰富的工具库,包括 API 接口请求工具(如 CRM 系统 API、ERP 系统 API)、数据库操作工具、文件读写工具、网络爬虫工具、计算工具等。工具的定义应清晰、功能单一,并提供详细的描述,以便 LLM 理解其用途和调用方式。
@@ -75,7 +75,10 @@ LLM 首先学习并理解企业数据库的结构(Schema),包括数据表
7575
## 10.7.人在回路(Human-on-the-loop)机制
7676
“人在回路”(Human-on-the-loop, HoTL)机制是确保企业智能体在关键业务场景中的可靠性、安全性与合规性的必要手段。现有大模型和智能体在处理复杂、高风险或涉及伦理判断的任务时存在局限性,通过将人类专家的判断和监督嵌入到智能体的决策和执行流程中,实现人机协同工作。
7777

78+
<div align="center">
7879
表格 2 :人在回路的关键应用场景与机制
80+
</div>
81+
7982
| 机制类别 | 关键应用场景 | 机制描述 | 技术实现要点 |
8083
|------------|----------|----------------|------------|
8184
| 高风险操作确认| 涉及敏感数据修改、财务交易、核心系统配置变更等不可逆或高成本操作。| 智能体在生成或确定执行高风险动作(如调用删除数据的 API、发送关键邮件)前,暂停执行,并向人类专家发出通知和待执行的动作清单。只有在收到人类专家的明确指令或审批后,智能体才能继续执行。 | 智能体状态管理: 需具备任务挂起、通知触发、超时处理和恢复执行能力。集成审批流: 与企业内部的工单系统或审批流程(如 OA 系统)集成。 |
@@ -89,7 +92,10 @@ LLM 首先学习并理解企业数据库的结构(Schema),包括数据表
8992
## 10.8.安全风险管控
9093
智能体作为高度集成的 AI 应用,其安全风险是企业建设中不可忽视的核心环节。风险管控应贯穿智能体设计的全生命周期,涵盖 LLM 本身的安全、智能体与外部系统的交互安全以及数据隐私保护。
9194

95+
<div align="center">
9296
表格 3 :核心安全风险与管控措施
97+
</div>
98+
9399
| 风险类别 | 风险描述 | 管控措施 |
94100
|----------|----------|----------------|
95101
|模型内容安全|幻觉(Hallucination): LLM生成虚假、不准确或带有偏见的内容,影响结果和决策。| **RAG 技术增强**: 强制LLM优先引用可信的外部知识库信息。**内容过滤**: 在输出层进行二次校验和敏感词过滤。**事实核查**: 引入可信数据源进行事实比对。 |

0 commit comments

Comments
 (0)