File tree Expand file tree Collapse file tree 1 file changed +7
-1
lines changed
Expand file tree Collapse file tree 1 file changed +7
-1
lines changed Original file line number Diff line number Diff line change @@ -27,7 +27,7 @@ RAG (Retrieval-Augmented Generation)技术是提升智能体知识准确性
2727- ** 检索策略优化** :RAG 的性能取决于检索的准确性。企业需要优化检索策略,包括关键词检索、语义检索、混合检索等,确保能够从知识库中检索最相关的文档片段。同时,构建好高效的多路召回机制进一步提升检索准确率。
2828- ** 生成与融合** :将检索到的信息与 LLM 的生成能力相结合,确保 LLM 在生成回答时能够充分利用检索到的知识,并以自然流畅的语言呈现。这涉及到提示词工程的优化,引导 LLM 更好地融合外部知识。
2929
30- ## 10.3.工具调用(Tool Use )
30+ ## 10.3.工具调用(Tool Uses )
3131
3232工具调用是智能体实现“手脚”的关键,它使智能体能够与外部系统进行交互,执行具体动作,从而将 LLM 的语言理解能力转化为实际行动。
3333- ** 工具库的构建与管理** :企业需要根据业务场景,构建丰富的工具库,包括 API 接口请求工具(如 CRM 系统 API、ERP 系统 API)、数据库操作工具、文件读写工具、网络爬虫工具、计算工具等。工具的定义应清晰、功能单一,并提供详细的描述,以便 LLM 理解其用途和调用方式。
@@ -75,7 +75,10 @@ LLM 首先学习并理解企业数据库的结构(Schema),包括数据表
7575## 10.7.人在回路(Human-on-the-loop)机制
7676“人在回路”(Human-on-the-loop, HoTL)机制是确保企业智能体在关键业务场景中的可靠性、安全性与合规性的必要手段。现有大模型和智能体在处理复杂、高风险或涉及伦理判断的任务时存在局限性,通过将人类专家的判断和监督嵌入到智能体的决策和执行流程中,实现人机协同工作。
7777
78+ <div align = " center" >
7879表格 2 :人在回路的关键应用场景与机制
80+ </div >
81+
7982| 机制类别 | 关键应用场景 | 机制描述 | 技术实现要点 |
8083| ------------| ----------| ----------------| ------------|
8184| 高风险操作确认| 涉及敏感数据修改、财务交易、核心系统配置变更等不可逆或高成本操作。| 智能体在生成或确定执行高风险动作(如调用删除数据的 API、发送关键邮件)前,暂停执行,并向人类专家发出通知和待执行的动作清单。只有在收到人类专家的明确指令或审批后,智能体才能继续执行。 | 智能体状态管理: 需具备任务挂起、通知触发、超时处理和恢复执行能力。集成审批流: 与企业内部的工单系统或审批流程(如 OA 系统)集成。 |
@@ -89,7 +92,10 @@ LLM 首先学习并理解企业数据库的结构(Schema),包括数据表
8992## 10.8.安全风险管控
9093智能体作为高度集成的 AI 应用,其安全风险是企业建设中不可忽视的核心环节。风险管控应贯穿智能体设计的全生命周期,涵盖 LLM 本身的安全、智能体与外部系统的交互安全以及数据隐私保护。
9194
95+ <div align = " center" >
9296表格 3 :核心安全风险与管控措施
97+ </div >
98+
9399| 风险类别 | 风险描述 | 管控措施 |
94100| ----------| ----------| ----------------|
95101| 模型内容安全| 幻觉(Hallucination): LLM生成虚假、不准确或带有偏见的内容,影响结果和决策。| ** RAG 技术增强** : 强制LLM优先引用可信的外部知识库信息。** 内容过滤** : 在输出层进行二次校验和敏感词过滤。** 事实核查** : 引入可信数据源进行事实比对。 |
You can’t perform that action at this time.
0 commit comments