探索生成式 AI 中枢界面

学习目标

浏览生成式 AI 中枢界面。

一旦你访问了生成式 AI 中枢并部署了模型，下一步就是熟悉 SAP AI Launchpad 的用户界面，它用于访问生成式 AI 中枢。使用这一环境不仅是探索多个模型、提升日常工作效率的绝佳方式，它还提供了强大的功能来管理你的提示和 LLM 应用生命周期，最终帮助你更有效地解决复杂的业务问题。

本课将为你提供 SAP AI Launchpad 的概览，重点聚焦生成式 AI 中枢。你将看到生成式 AI 中枢的各项功能如何在一个安全可靠的地方，为使用多个模型、管理提示以及编排工作流提供一个高效的环境。

SAP AI Launchpad 界面

SAP AI Launchpad 是 SAP BTP 上的多租户软件即服务（SaaS）应用程序。你可以使用 SAP AI Launchpad 跨多个 AI 运行时实例（例如 SAP AI Core）管理 AI 用例（即场景）。

一旦你获得 SAP AI Launchpad 的访问权限，就会看到界面中包含以下一些主要应用。

注意

这些应用仅对贵组织中的管理员和开发者开放。作为业务用户，你将访问并使用后文所述的生成式 AI 中枢。

工作区（Workspaces）： 该应用允许技术用户管理 API 连接并组织资源。每个 API 连接代表一个唯一的租户，租户中还可包含多个资源组，以便以流线化方式管理生成式 AI 中枢的访问。

生成式 AI 中枢（Generative AI hub）： 这是我们将重点介绍的核心应用。它提供使用生成式 AI 所需的全部功能，包括管理模型、开发提示，以及监督 LLM 应用的生命周期。

SAP AI core Administrator： 管理员和开发者使用该应用管理底层基础设施组件，例如 Git 仓库、应用程序部署、Docker 注册表密钥以及各种连接密钥。它确保对生成式 AI 中枢各项能力的安全且经授权的访问。

ML Operations： 该应用用于管理可用于创建可执行对象和配置的场景。这些可执行元素可用于在生成式 AI 中枢中部署模型和编排服务。该应用还支持引入你的数据集、模型和结果集以及任何其他工件，以管理 LLM 应用的原型设计与生命周期。

生成式 AI 中枢界面

SAP AI Launchpad 中的生成式 AI 中枢提供了一整套界面，包括模型库、聊天、提示编辑器、提示管理、编排和管理。

模型库

模型库显示生成式 AI 中枢中所有可用模型的列表，是选择合适模型的资源。它提供全面的信息，帮助你在考虑性能、成本和专业性等因素的基础上，决定哪个模型最适合你的用例。

它提供以下可用于选择模型的模式。

目录模式：

该模式显示所有可用模型及其元数据。使用筛选器细化你的选择，或按名称搜索模型。选择某个模型时会显示 模型卡。

模型卡提供详细信息，包括数据输入类型、可能的成本以及相关的性能指标。

你也可以在此处启动部署或检查已部署模型的状态。

注意

如需快速测试，请在聊天或提示编辑器中使用该模型。

排行榜模式：

该模式显示模型在一系列基准测试中的得分。你可以应用筛选器缩小选项范围、按名称搜索，或根据特定基准重新排列列表。

你还可以比较多个模型的上下文窗口和相关成本，并为你的用例选择最佳模型。只需将鼠标悬停在每个基准或参数上，即可了解其含义，从而做出明智的决定。选定某个模型后，你将看到与目录模式下相同的模型卡。

图表模式：

该模式提供任意两个基准或参数之间的可视化比较。

例如，你可以选择上下文窗口和输出词元成本，然后选择一个上下文窗口最大且输出词元成本最低的模型。你可以详细查看模型卡，并为你的用例选择最优模型。你还可以缩小图表以便更好地分析。这是生成式 AI 中枢众多有价值的功能之一，可帮助你优化 LLM 应用并大规模解决业务问题。

如需了解更多信息，请访问 SAP AI Launchpad Help Portal - 模型库。

用例示例： 假设你需要一个 LLM 来总结冗长的公司内部报告。在模型库中，你可以根据模型的“上下文窗口”（一次能读取多少文本）和“每输出词元成本”来比较不同模型。这有助于你快速找到能够高效且经济地处理大型文档的模型，确保你的解决方案既高效又符合预算。

聊天界面

聊天界面是一个用于与模型交互的对话平台，通过个性化交互提升用户体验。你可以以对话方式与模型交互，会话中会保留先前消息的上下文。该功能使开发者能够对可高效扩展的应用程序进行原型设计和构建。

你可以使用“配置聊天设置”齿轮选择任何可用模型。

使用选择选项打开模型库，并为你的场景选择合适的模型。

你还可以更新每个模型的可用参数。

你还可以更新上下文历史以获得更大的聊天上下文，并使用消息角色和变量等高级功能，为你的业务需求定制对话。

你可以通过选择下载图标下载聊天记录。文本数据将以 JSON 格式保存在本地；请注意，图像不包含在下载内容中。

要从单条聊天消息或回复中复制文本数据，请使用复制图标。图像无法复制。

用例示例：

你有一个 AI 助手构想，可帮助销售团队回答常见产品问题。你可以使用聊天界面，用示例问题（“S/4HANA Cloud 的主要功能有哪些？”或“我们的产品与竞争对手相比如何？”）快速测试不同的 LLM。这使你能够快速制作对话流的原型，并在构建完整应用之前了解各个模型的理解和响应效果。这是人机交互的一个示例，用于直接对话交互和测试。

接地管理

接地管理界面用于管理数据流水线的生命周期。这些数据流水线用于借助存储在 SharePoint 或 S3 等云存储中的文档，为 LLM 提供更多上下文。

有关接地技术的更多信息，请访问使用 SAP 生成式 AI 中枢的高级 AI 技术课程。

提示编辑器

提示编辑器提供了一个全面的环境，用于创建提示、选择模型、保存提示和配置参数。

主要功能：

消息块： 这是用于为系统、助手和用户角色编写提示的专用区域。你可以在一个版本中为多个角色添加多个块。

变量定义： 你可以向提示中添加变量，使其在各种情况下灵活且可自定义。通过使用默认值或当前值，你可以为你的用例复用提示。使用 SDK 时，变量让你能够在运行时通过用户界面或系统工作流输入信息。

模型选择： 你可以从生成式 AI 中枢中提供的各种模型中进行选择，并直接在编辑器中修改其参数，以获得针对你特定用例量身定制的最佳结果。

元数据： 你可以添加组织元数据，例如标签和备注，以有效地对提示进行分类和管理。

保存提示与版本管理： 提示编辑器允许你保存提示，甚至可以分配集合名称来组织它们。这确保了可追溯性，并支持迭代式改进。

响应： 你可以查看响应并保存结果。你可以在同一窗口中继续编辑提示，并保存多个版本以供日后参考。

用例示例： 你的企业需要为不同的客户细分群体生成个性化营销邮件。使用提示编辑器，你可以编写一个主提示，其中包含客户姓名、产品兴趣和促销优惠等变量。你可以测试并保存该提示的多个版本，每个版本面向不同的细分群体，确保 LLM 稳定生成高质量、有针对性的邮件。这展示了生成式 AI 中枢如何通过 AI 交互支持人面向软件的交互。

该界面是创建、管理和检索提示以进行原型设计和提示生命周期管理的首选之处。

AI 中枢中的该界面还支持人机交互和软件到 AI 的交互。你可以使用直接提示，或输入软件生成的报告以作进一步分析。

提示管理

保存提示后，你可以在提示管理中访问并复用它。

你可以查看提示中使用的所有版本和模型。

你可以访问所有版本及其详细信息，并选择特定版本以在提示编辑器中打开。

用例示例： 团队开发了一个成功的提示，用于从发票中提取关键数据以进行自动化处理。在提示管理中，可以轻松找到这个经过验证的提示，查看其历史记录，然后由其他开发团队在不同项目中复用。这确保了一致性，节省了开发时间，并避免了重复劳动。

编排

该界面专为创建和测试编排工作流而设计。它使你能够设计涉及 LLM 的复杂操作序列，其中的提示可以在推理期间动态填充各种数据，以执行复杂的业务逻辑。下一个单元将更深入地介绍这一强大的能力。

下一个单元将提供有关编排的更多细节。

本课小结

现在你已经对 SAP AI Launchpad 中的生成式 AI 中枢界面进行了一次导览。你了解了它的关键组件，包括用于选择模型的模型库、用于交互式原型设计的聊天界面、用于数据集成的接地管理、用于编写和管理提示的提示编辑器，以及用于构建复杂工作流的编排界面。对该界面的全面理解使你能够高效地利用 LLM 的能力、管理其生命周期，并构建安全、可靠且高性能的生成式 AI 应用程序，从而在 SAP 生态内创造业务价值。