探索 RAG 与接地用例

学习目标

• 解释检索增强生成（RAG）和接地如何增强大型语言模型，并探索其实际业务用途。

您已经成功应对了将 LLM 集成到业务应用程序中的复杂性，并掌握了提示工程以引导其行为的技巧。然而，即使使用最完美的提示，一个根本性挑战依然存在：LLM 默认缺乏对当前信息以及特定专有业务知识的实时访问。这种局限可能导致不准确和"幻觉"，而这在企业环境中是不可接受的。

这正是 Grounding（接地） 和 检索增强生成（RAG） 这两个关键概念发挥作用的地方。正如您在先前学习 SAP 的 AI 策略时所了解到的，确保 LLM 响应基于您特定的、真实的企业数据至关重要。本课将准确定义接地这一目标，并探讨 RAG 作为实现该目标的主流方法论，它将显著提升您生成式 AI 解决方案的事实准确性、相关性和整体性能。

通过接地获得真实且符合上下文的数据

企业中的 LLM 知识缺口与幻觉

如前所述，基础 LLM 天然存在知识截止点，这意味着它们无法访问实时数据或您组织的专有信息。当面对知识缺口时，LLM 可能生成听起来可信但不正确或凭空捏造的信息。对于准确性和可信度不容妥协的企业级应用程序而言，克服这些固有限制至关重要。

通过接地将 AI 输出锚定在真实且符合上下文的数据中

为应对这些挑战，我们转向 Grounding（接地）。 在 SAP Business AI 的语境中，接地是指将 AI 输出锚定在可靠、符合上下文且真实的数据中。 这一原则确保 LLM 的响应不仅流畅，而且准确、可信，并与您组织相关的特定知识或经过验证的外部来源直接一致。

接地的核心目的是将基于 LLM 的应用程序的输出锚定在可验证的业务事实之上。通过确保其响应源自受信任的数据源（例如您的 SAP 系统、内部文档或经过策管的外部数据库），接地可以：

• 减少幻觉： 通过提供正确的信息，引导 LLM 避免生成虚假陈述。

• 提升可靠性与可信度： 输出变得可靠，因为它们由可验证的数据作为支撑。

• 与组织知识保持一致： LLM 使用您业务的语言，并了解您的特定规则和数据。

• 确保相关性： 响应与用户的即时上下文以及组织当前运营状态相关。

接地是 SAP"可靠"和"负责任"AI 原则的关键组成部分，确保 AI 驱动的应用程序交付一致、可审计且与业务相关的结果。

RAG 方法

虽然接地是期望的结果和一项基本原则，但 RAG 是一种更广泛的方法论，它将接地作为关键组成部分纳入其中。 RAG 提供了系统性地实现接地的架构模式和工作流。它涉及从外部知识库或数据库中检索相关数据，并使用这些数据增强 LLM 的生成能力。RAG 确保模型能够访问实时、领域特定的信息，使其能够生成符合上下文且真实的输出。

以下是 RAG 方法论在实践中实现接地的方式：

1. 第 1 步：检索（RAG 中的 "R"）- 获取相关上下文：

• 当您的应用程序收到用户查询（例如，"销售订单 12345 的状态是什么？"）时，它首先触发检索过程。

• 此过程会智能地搜索您指定的内部数据源（例如 SAP S/4HANA、CRM、内部文档、数据库、数据湖），以查找与查询高度相关的信息。

• 这通常涉及将您的文档和数据转换为数值表示（嵌入），并将其存储在专用数据库（向量数据库）中，以便进行高效的相似性搜索。用户的查询也会转换为嵌入，然后通过搜索找到语义上最相关的信息"块"。

2. 第 2 步：增强 - 丰富 LLM 的提示：

• 随后，检索到的权威信息会被动态地直接添加到发送给 LLM 的提示中。

• 这意味着 LLM 不仅收到原始用户查询，还收到其制定准确答案所需的特定、可验证的事实。这一关键步骤将 LLM"接地"在您的数据中。

3. 第 3 步：生成（RAG 中的 "G"）- 生成接地后的响应：

• 借助这个经过丰富（增强并接地）的提示，LLM 随后生成其响应。由于必要的事实已明确提供在其上下文窗口内，LLM 被引导去综合出一个准确、相关且没有幻觉的答案，直接取材于所提供的源材料。

RAG 对 LLM 性能与可靠性的影响

通过 RAG 方法论实现接地，您将为企业 AI 应用程序解锁显著收益：

• 增强事实准确性： 通过确保响应基于来自您受信任内部来源的可验证、最新事实，直接对抗幻觉。这是接地的主要收益。

• 访问实时和专有数据： RAG 弥合了知识缺口，使 LLM 能够访问动态的、内部的以及业务特定的信息，而这些信息从未包含在其原始训练数据中。

• 减少模型重新训练/微调的需求： 无需为获取新信息而对 LLM 进行昂贵且耗时的重新训练，您只需更新内部知识库。RAG 确保 LLM 在无需更改模型的情况下访问最新版本。

• 提升可解释性与信任： 由于 LLM 的响应源自检索到的文档，您通常可以提供对原始源材料的引用或参考，从而提高透明度并建立用户信任。

• 成本效益：对于动态信息而言，通常比完整的模型微调更经济，因为模型本身基本保持不变，只需更新知识库。

• 缓解偏见： 通过将响应接地在您特定的、经过策管的且通常更受控的内部数据中，您可以缓解从基础模型通用训练数据中继承的一些广泛偏见，前提是您的内部数据源得到负责任的管理。

RAG 与接地的一些实际企业用例

RAG 是在各种企业场景中构建可靠 LLM 应用程序的基础模式，尤其是那些利用 SAP 数据的场景：

• 智能知识库与问答系统：

• • 内部 IT 支持： 机器人通过检索最新的 IT 政策文档来回答："根据内部政策，我如何重置我的 SAP 密码？"

• 客户服务代理： AI 助手通过从产品规格和维修手册中提取数据，为产品提供准确的保修详细信息或故障排除步骤。

• 人力资源自助服务： 员工询问："公司对航班的差旅费用政策是什么？"并获得基于最新 HR 政策文档的答案。

• 增强的商业智能与报表：

• • "总结欧洲 2024 年第四季度财务报告中的关键财务趋势。"（RAG 从 SAP 系统中的财务报告中检索特定章节）。

• "基于最新市场研究文档提供竞争分析。"

本课小结

接地是将 LLM 输出锚定在真实、符合上下文的数据中以确保准确性和可信度的关键目标。RAG 是实现这种接地的主流方法论，在实时数据和专有数据至关重要的企业环境中尤其有价值。通过编排相关信息的检索以增强 LLM 的提示，RAG 显著提升事实准确性、减少幻觉，并优化您生成式 AI 应用程序的可靠性和性能。这些知识使您能够构建稳健且值得信赖的解决方案，充分利用您组织的宝贵数据。

本课其余配图

本课其余配图

本课其余配图

本课其余配图