探索编排服务

学习目标

  • 识别编排服务。

生成式 AI 中枢提供对多种大语言模型（LLM）的访问，并通过 SAP AI Launchpad 提供模型选择和提示管理等功能。现在，当您准备构建更精密、更稳健的 AI 应用时，您将拥有需要针对数据过滤或数据匿名化等多种任务进行集成的工作流。

这正是生成式 AI 中枢中的**编排服务（Orchestration Service）**不可或缺之处。它将您的生成式 AI 能力提升到超越单个 LLM 交互的层面，使您能够设计、管理和执行复杂的 AI 工作流。本课将向您介绍这一强大的服务，阐明其用途、核心功能，以及它如何确保您的 AI 解决方案在企业中不仅智能，而且合规、高效且可扩展。

编排服务是 SAP AI Core 中的一项托管服务，提供对生成式 AI 模型的统一访问、控制和执行。这里的编排指的是系统性地管理和协调多个 AI 模型、服务和数据流，以实现统一的业务目标。它充当中央协调者，管理多个 AI 模型和服务以完成复杂任务。

编排服务简化了各种 AI 模型的集成和管理，使企业无需在模型或版本更新时更改应用代码，即可高效利用先进的 AI 功能。

编排对企业 AI 至关重要

编排服务解决了构建生产就绪的 AI 应用所固有的若干关键挑战：

  • 无缝集成与提供者无关性： 在快速演进的 AI 格局中，出于专业化任务、性能或成本方面的原因，您可能需要使用来自不同提供者的不同 LLM。编排服务提供统一的 API，使您的应用能够与不同的基础模型交互，而无需与特定提供者紧密耦合。这意味着您可以轻松切换或比较模型，而无需更改核心应用逻辑。

  • 增强的控制与合规性： 企业解决方案要求严格遵守标准、隐私法规和道德准则。编排服务提供内置机制以确保符合 SAP 标准，并对您的 AI 工作流提供集中控制。例如，它提供数据掩码和数据匿名化等功能以确保数据隐私。这保证了跨 SAP 解决方案的 AI 操作一致且可靠。

  • 更高的效率与可扩展性： 复杂的业务问题往往需要的不仅仅是一次 LLM 调用。它们需要一个连贯的工作流，其中一个模块的输出可以自动成为下一个模块的输入，从而简化流程并自动化多步骤任务。此外，它还支持这些编排工作流的部署，为高容量的企业用例提供所需的灵活性和可扩展性。

  • 可扩展性与适应性： AI 市场的动态特性意味着新能力不断涌现。编排具有内在的可扩展性，允许您根据需要轻松添加内容过滤、数据掩码、接地和翻译等新功能，确保您的 AI 解决方案能够高效适应不断变化的技术和商业要求。

编排服务的核心功能

视频：本节含 SAP 官方视频（视频 ID 1_q508frk2），需在 learning.sap.com 在线观看。

编排服务提供了一套可以串联在一起的功能强大的模块。您将了解到，虽然这些模块的顺序是结构化设计的，以强制执行逻辑处理和安全保障，但每个模块的配置都为各种用例提供了广泛的灵活性。这些模块包括：

  • 接地： 编排服务有助于集成外部的、特定领域的或实时的数据源（例如您的 SAP 系统），以增强 AI 模型输出的上下文相关性和事实准确性。这是对抗幻觉并确保可靠性的关键机制。

  • 模板化： 此功能允许您创建带占位符的提示。这些占位符在推理期间用实时数据或上下文动态填充，使您的提示在各种场景中灵活且可复用。

  • 内容过滤： 为保持合规性和安全性，该服务可以限制传入和传出生成式 AI 模型的内容类型。这有助于防止生成或处理不适当或敏感的信息。

  • 数据掩码： 支持在生成式 AI 模型处理敏感数据之前对其进行匿名化或假名化。至关重要的是，当使用假名化时，它还能够在响应中对数据解除掩码，从而在确保数据隐私的同时保持可用性。

  • 翻译： 对于全球化企业，该服务支持直接在编排工作流中翻译输入和输出数据，从而支持多语言用例并打破语言障碍。

使用编排服务的前提条件

要开始利用编排服务，必须具备某些基础要素：

  • SAP BTP 账户： 您需要一个有效的 SAP BTP 账户作为底层平台。

  • SAP AI Core 实例： 必须在您的 BTP 账户中设置一个 SAP AI Core 实例，因为编排服务在此基础设施上运行。

  • 扩展的 SAP AI Core 服务计划： 通常需要 SAP AI Core 的扩展服务计划，因为包括编排在内的生成式 AI 中枢功能通常不在免费或标准层级中提供。

  • 编排部署： 确保在某个资源组中至少创建或使用了一个编排部署，以提供 AI 工作流的可执行定义。一个资源组会有一个默认部署。您可以创建并使用自己的部署来自定义可用的模型。

使用 SDK

SAP Cloud SDK for AI 提供了一种直接的方式，让您开始使用编排服务处理 AI 驱动的任务。通过设置模板并将其连接到 GPT-5 或 Gemini 2.5 Pro 之类的 LLM，用户可以以最小的投入自动化翻译或内容生成等流程。SDK 负责处理编排逻辑，使用户能够定义输入、配置模型行为并获取结果——全部通过简洁明了的接口完成。

这种设置使构建可扩展且可复用的 AI 工作流变得轻松。只需几行代码，用户就可以连接到编排端点，使用预定义模板运行任务，并获得符合其需求的一致输出。这是将生成式 AI 集成到日常运营中的一个实用起点。

本课小结

现在您已经了解了 SAP AI Core 中的编排服务，并认识到它在构建复杂的企业级生成式 AI 应用中的关键作用。您理解了它在统一对多种 LLM 的访问和控制方面的用途，以及它在确保合规性、效率和可扩展性方面的重要性。您还了解了它的核心功能，如模板化、内容过滤、数据掩码、接地和翻译，这些功能使您能够创建稳健可靠的 AI 工作流。这一基础为进一步探索其能力并在 SAP 生态系统中设计精密的 AI 解决方案奠定了基础。

本课其余配图

Orchestration Workflows

本课其余配图

Orchestration Workflows

本课其余配图

Orchestration Workflows

本课其余配图

Orchestration Workflows