探索生成式 AI Hub
学习目标
识别 AI Foundation 与生成式 AI hub。
随着人工智能迅速重塑商业格局，各组织都在寻求强大而又安全、集成的方式来利用其潜力。对许多人而言，这段旅程始于理解支撑 AI 驱动创新的核心基础设施。
作为企业应用领域的领导者，SAP 致力于通过 SAP Business AI 将智能能力直接注入您业务流程的核心。
本课将向您介绍使这一切成为可能的基础基础设施：SAP 的 AI Foundation。您将探索该基础的一个关键组件——生成式 AI hub。您将看到它作为网关的角色，帮助您安全、有效地利用大语言模型（LLM）来构建企业级解决方案。无论您是业务领导者、顾问还是技术专家，理解这种分层方法对于在您的组织中释放生成式 AI 的全部潜力都至关重要。
AI Foundation
AI 是各组织的战略需求。然而，当它们寻求更快创新和更高效运营时，往往面临管理 AI 开发、部署和治理方面日益增长的复杂性。这正是 SAP 的 AI Foundation 发挥作用的地方。
AI Foundation 充当 SAP 的 AI 操作系统， 使各组织能够以安全、负责任且高效的方式，在 SAP Business Technology Platform（SAP BTP）上大规模地 构建、扩展和运营 自定义 AI 解决方案。
它是 SAP Business AI 的骨干，提供所需的基础设施、工具和服务，以将前沿技术与深厚的业务上下文编排在一起。
AI Foundation 为何重要：
当今的组织面临若干挑战，包括引入 AI 模型所需的高资源投入、碎片化的工具，以及难以跨区域和跨法规负责任地扩展 AI。AI Foundation 通过提供以下能力直接应对这些挑战：
统一的开发与编排平台： 为所有 AI Foundation 工具提供集中、集成的访问入口，简化协作与治理。
内置的治理与安全： 从一开始就确保合乎道德、安全且合规的 AI 运营，显著降低风险。
无缝集成： 轻松连接 SAP 和非 SAP 的数据、基础设施和合作伙伴模型，实现广泛的适用性并利用现有投资。
AI Foundation 的核心产品与架构
SAP 的 AI Foundation 构建在复杂的分层架构之上，旨在支持企业级 AI 运营并兑现 SAP 的核心 AI 承诺。它组合了成熟完善的组件，并通过单一入口点提供它们：统一 AI 门户。该门户充当所有 AI Foundation 工具的集中访问枢纽，简化协作与生命周期管理。
集成到 AI Foundation 的关键产品包括：
Joule Studio： 一个低代码／无代码环境，专门用于构建和定制 AI 代理以及扩展 Joule 技能，使开发人员和业务用户能够快速创新。
生成式 AI hub： 这一关键组件提供对顶级 LLM 和高级提示工程工具的安全、受管访问，是本课程的核心关注点。它通过实现受控且高效的 LLM 利用来加速 AI 开发。
SAP Document AI： 在广泛的非结构化文档中自动处理数据，显著提升关键业务工作流中数据处理的准确性和质量。
底层技术：
SAP Knowledge Graph： 连接海量 SAP 数据和外部数据，创建丰富的上下文智能网络，使能够开发更智能、更相关的 AI 成果。
SAP Foundation Model： 基于 SAP 应用数据生成可靠的预测，并解决 AI 和 LLM 的一些局限。
AI Foundation 的架构分为四个关键层，以确保稳健且可扩展的 AI 运营：
OS 接口层： 这是开发、运营和管理的统一入口点。AI Playground 和 Joule Studio 等面向用户的工具位于此层，实现直观的交互。
AI 内核层： 这一核心层管理 AI 代理、工作负载、模型及其整个生命周期。它处理资源分配和调度等关键任务，以确保安全、合规且高效的 AI 运营。
AI 集成层： 该层促进与多样数据源、各种模型和各种服务的无缝连接。它支持工作负载管理、数据集成管道，以及跨不同环境的复杂 AI 模型编排。
外围与数据层： 这一基础层通过集成 SAP 和非 SAP 数据源、利用现有 IT 基础设施并连接到合作伙伴模型，提供必要的基础设施。它还提供 AI 流程所需的原材料和计算能力。
这种分层结构确保 AI Foundation 不仅仅是一组工具的集合，而是一个内聚的 AI 操作系统，作为 SAP 内部使用的所有 AI 技术和解决方案的骨干。同时，它为客户和开发人员提供了一套全面的工具，使其能够大规模构建、扩展和运行自定义 AI 解决方案及代理。SAP 还通过其开放的方式培育强大的合作伙伴生态系统，允许与领先的 AI 和数据合作伙伴无缝集成，以利用一流的模型和行业专业知识。
SAP AI Core
SAP AI Core 是 SAP BTP 的一个组件。它以标准化、可扩展且与超大规模云无关的方式，支持 AI 资产的管理、执行和运营。
资源组
SAP AI Core 使用资源组来分隔不同的机器学习资源和任务。
资源组是一个 SAP AI Core 账户内相关项的虚拟文件夹。当您开始使用时，会自动获得一个默认资源组。如果您是管理员，可以使用 SAP AI Launchpad 添加或移除更多资源组。资源组可以根据各个租户的具体需求及其各自的用例进行配置。
生成式 AI hub：在 AI Foundation 内为 LLM 提供动力
不断增长的 LLM 格局带来了前所未有的潜力，但也引入了系统化模型选择、访问和治理方面的复杂性。生成式 AI hub 是 SAP AI Foundation 的重要组成部分，位于 SAP AI Core 之中，旨在满足企业需求。它的设计目标是实现系统化、工具辅助的 LLM 模型选择、访问和探索，确保它们基于业务数据和上下文数据。
在利用 LLM 时，生成式 AI hub 是 SAP 承诺实现 相关、可靠且负责任（Relevant, Reliable, and Responsible）的 AI 的基础：
相关（以业务上下文为基础）： 该 hub 使 LLM 能够以您独特的业务数据和上下文数据为基础。这意味着您的 LLM 响应和应用程序不只是通用的，而是专门针对您组织的实时信息量身定制，显著提升准确性和直接的业务适用性。这通过由 SAP HANA Vector Engine 提供支持的 Grounding 等功能实现。它使得查找与查询相关的业务文档并将其用作 LLM 的上下文变得更加容易。
可靠（可信访问与性能）： 它整合了可信的 LLM 和基础模型访问，通过支持来自多个提供者的多样模型来减少对单一供应商的依赖。这确保您的 AI 应用程序持续可用，并具备模型版本的自动和手动升级选项等功能。
负责任（设计即安全与合规）： 生成式 AI hub 通过内置的治理、安全措施和道德考量确保合规性与可信度。它包含内容过滤和数据脱敏等关键功能，以防止提示注入和越狱等风险，同时遵循 SOC 2、NIST 和 ISO 认证等严格安全标准。您的数据在生成式 AI hub 中得到完全保护与隔离。SAP 不会与外部供应商共享客户数据用于模型训练。客户数据永远不会被其他客户访问。SAP 使用不会存储 API 输入或输出的企业级 LLM，确保对客户信息的完整保护。
生成式 AI hub 的关键能力
生成式 AI Hub 覆盖生成式 AI 应用程序的整个生命周期：
访问多个模型： 提供对来自各提供者的前沿 AI 模型的精简访问，以及灵活的计算资源分配。这确保您可以轻松连接到最适合您具体用例的 LLM。
模型无关的开发： 您可以轻松地在模型之间切换、即时调整编排配置，并管理针对不同 LLM 的提示变体。这一能力意味着您可以按自己的节奏推动 AI 适配，利用新的和改进的模型，而不会中断现有解决方案，也不需要迁移到其他服务。
探索与开发： 提供用于构建自定义 AI 解决方案的全面工具集。这包括提示编辑器、强大的提示管理（注册表、库）和软件开发工具包（SDK）。集成的 AI playground 和聊天环境允许安全地探索不同的模型、元数据和参数变更，以找出最合适的技术。
SDK 与客户端库： 利用面向开发人员的工具，包括强大的 SDK 和客户端库，高效地将生成式 AI 集成到您的应用程序中，并加速定制 AI 解决方案的开发。SAP Cloud SDK for AI 是 SAP AI Core、生成式 AI hub 和编排的官方 SDK。它提供模型访问能力，使生成式 AI hub 的能力能够与 SpringAI、Langchain 和 Langgraph 等常见框架集成。
编排： 促进协调和管理包括 LLM 在内的各种 AI 组件。它支持执行多个 AI 模型、管理数据流、优化计算资源、集成内容审核和数据脱敏等功能，并简化端到端 AI 工作流。
部署与交付： 软件部署涉及使某个软件系统或更新可供其目标用户使用所必需的步骤、流程和活动。目前，大多数 IT 组织和软件开发人员使用手动和自动化方法来部署软件更新、补丁和新应用程序。您自带模型（例如微调的开源模型、专有模型）并部署它们。这些能力实现 AI 模型和应用程序的高效部署与交付，确保它们可运行且用户可访问。
治理： 实施稳健的策略和程序，以符合法规和组织标准的方式管理 AI 的开发、部署和运营。功能包括用于审计的全面日志记录、计量、监控、多租户支持，以及明确的角色与职责。
对模型生命周期的支持
生成式 AI hub 支持使用 AI 模型的不同方式：
自托管模型： 组织可以部署自己的模型（例如微调的开源模型或专有模型），并管理模型制品、依赖项和整个生命周期。这包括监督基础设施、扩展、安全、合规、监控、成本、更新、版本管理和性能。
SAP 托管模型： 这种方式提供对来自第三方提供者的各种 LLM 的预集成、受管访问（例如 Azure OpenAI GPT-5、Google Gemini 2.5 Pro、AWS Claude Sonnet 4 等）。用户无需为这些 LLM 单独获取许可证，因为 SAP 管理商业协议和技术集成。SAP 还负责通过生成式 AI hub 访问的 LLM 所涉及的数据隐私、安全和保密要求，涵盖相关的运营活动。
LLM 会持续变化；提供者发布新版本、停用旧版本，并可能调整性能和成本等方面。因此，应用程序使用的特定 LLM 版本可能并不总是保持可用。
生成式 AI hub 通过支持对特定 LLM 最新版本的自动升级和手动升级，确保这些 LLM 版本变化不会影响您的应用程序。您可以监控模型版本的弃用日期，使用自动升级或手动升级策略来维持服务的持续性，并从最新进展中获益。
SAP 托管模型：
这些模型由 SAP 托管和管理在其自有基础设施中，确保与 SAP 系统和应用程序的无缝集成。SAP 负责安全、合规、性能优化和运营管理的所有方面，使各组织无需管理基础设施或技术复杂性即可利用 AI 能力。这些模型已预先配置为可在 SAP 生态系统中使用，提供为业务需求量身定制的可靠、安全的 AI 驱动解决方案。
有关生成式 AI hub 中所有可用模型的最新信息，请参阅Note 3437766。
访问生成式 AI hub
要开始使用生成式 AI hub，用户必须通过设置 SAP BTP 全局账户、配置 SAP AI Core 并确保分配合适的角色和权限来建立访问。生成式 AI hub 在 SAP AI Core 内运行，主要通过 SAP AI Launchpad 界面或通过 API 和 SDK 以编程方式访问。访问建立之后，用户可以部署来自各领先提供者的 LLM，并配置模型类型和版本等基本参数。
每个部署的 LLM 都会获得一个安全端点，用于集成企业应用程序，并在支持版本监控和升级的情况下简化消费与管理。这一基础流程使各组织能够在其 SAP 环境中快速利用生成式 AI 推动业务创新。
本课小结
您现在已探索了在 SAP 生态系统中实现企业级 AI 的基础基础设施。您了解了 SAP 的 AI Foundation 如何充当操作系统，以内置的相关性、可靠性和责任性来实现这些解决方案的 构建、扩展和运行。生成式 AI hub 是这一基础中的核心组件。它简化了对前沿 LLM 的安全访问，提供开发和部署的基本工具，并确保您的生成式 AI 应用程序以您独特的业务数据为基础，为您的组织带来可信、具备上下文感知且高价值的成果。它支持对您的 LLM 应用程序进行模型生命周期管理，以确保业务连续性并跟进最新的模型进展。
本课其余配图
本课其余配图
本课其余配图
本课其余配图