从构思到产品化

学习目标

  • 评估面向生成式 AI 用例的 SAP 产品管理生命周期。

我们在前一个单元中确立了 SAP 的“相关、可靠、负责任”战略。现在,我们将重点从“为什么”转向“如何做”。一个使用生成式 AI 的有前景的想法,如何成为 SAP 应用程序中真正的企业级功能?

本课提供该过程的战略地图。使用生成式 AI 进行开发需要结构化、迭代且审慎的方法。通过理解从简单概念到已部署产品的完整旅程,您将清楚地看到我们将在下一课中介绍的动手集成工作在整个图景中的位置。

SAP 的生成式 AI 产品生命周期

将生成式 AI 用例推向市场是一项团队协作的努力。虽然您作为开发人员或数据科学家的角色至关重要,但您还需要与产品管理(定义愿景)、用户体验(UX)专家(设计用户交互)和解决方案管理(确保市场契合度)共同协作。以下多阶段流程确保在您开始编写生产代码时,用例已经过验证、界定范围并降低了风险。

阶段 1:构思

这是创造性的起点,完全聚焦于业务价值,而非技术。

  • 流程:产品经理、解决方案专家和客户识别生成式 AI 可以带来显著优势的用户痛点。此阶段旨在通过客户协作探索各种可能性。

  • 想法示例:“我们的项目经理每周要花数小时编写状态报告。我们能否为他们自动生成初稿?”

  • 您的角色(作为技术专家):您充当顾问,帮助评估该问题是否适合发挥 LLM 的优势(例如摘要、生成),还是更适合由传统自动化完成的任务。

阶段 2:可行性分析与范围界定

一旦选定某个想法,就会对其进行严格的可行性研究,以确保其可行、安全且负责任。这是关键的风险管理步骤。

  • 流程:团队调查该想法的技术、财务和伦理方面。

  • 关键的 AI 特定问题:

  • 适用性:这个问题是否真的适合 LLM 用例?一个关键的排除标准是确定性逻辑。例如,需要精确计算或严格基于规则处理的任务,更适合由传统算法处理,而不是由概率性的 LLM 处理。

  • 接地数据:我们能否从相关的 SAP 系统安全地访问所需的项目状态数据(例如时间线、预算、风险)?

  • 幻觉风险:100% 的事实准确性有多关键?报告草稿可以容忍由人工审阅者发现的小错误,而自动化的财务记账则不能。

  • 可行性:该用例是否有正向的业务案例?这涉及高层次的成本效益分析。例如,运行 LLM 的成本(API 调用、基础设施)是否会低于所创造的价值(例如项目经理节省的时间)?

  • 您的角色:您是关键的调查者,负责探索数据源、对潜力和风险提供技术评估,并帮助判断该任务是否从一开始就适合 LLM。

阶段 3:原型设计与概念验证(PoC)

在此阶段,该想法首次得到检验。目标是构建一个最小的、可运行的原型,以证明核心概念可行,而无需构建完整应用程序。

  • 流程:团队使用生成式 AI 中枢操场等工具,快速试验不同的模型和提示工程技巧。

  • PoC 示例:开发人员取用示例项目数据,精心编写详细的提示,并在中枢中针对各种 LLM 进行测试,看哪一个能生成最准确、格式最规范的报告草稿。

  • 您的角色:这是动手实验。您的目标是找到数据、提示和模型的有效组合。成果是经过验证的概念以及下一阶段明确的需求集。

阶段 4:产品化与集成

PoC 成功后,该功能获批进行完整开发。原型在这里演变为稳健、可扩展且安全的产品功能。本阶段是我们下一课的主要焦点。

  • 流程:这是核心软件开发生命周期。它涉及构建用户界面、数据检索流水线,以及与生成式 AI 中枢的安全集成。

  • 您的角色:现在,您从实验操场转向您的开发环境。您将使用 SAP AI SDK 等产品,将您的应用程序连接到生成式 AI 中枢。

阶段 5:部署与监控

一旦开发和测试完成,该功能就会部署给客户。对于 AI 应用程序而言,发布并不意味着工作结束。

  • 流程:该功能上线,并对其性能、质量和使用情况进行密切监控,以确保它持续负责任地交付价值。这包括收集用户反馈(例如对报告的“点赞/点踩”)、安全地记录提示以供分析,以及跟踪成本。

  • 您的角色:您帮助构建必要的日志记录和反馈机制,并分析数据,为未来的改进和迭代提供依据。

持续维护与模型演进

与传统软件不同,已部署的生成式 AI 解决方案需要持续的维护和调整。LLM 的能力发展迅速,其实际表现也会随时间漂移。

  • 流程:此阶段涉及对响应质量、相关性、幻觉率和成本效益等关键指标进行持续监控。它还包括管理模型版本和规划升级。用户行为的变化、底层数据漂移,或发布更新、更强大的 LLM(可能提供更好的性能或更低的成本)等因素,都需要定期重新评估。

  • 注意事项:当新的模型或平台功能可用时(例如在生成式 AI 中枢中),开发人员必须评估其影响。这通常包括重新设计现有提示、更新集成代码,并进行充分的测试(如 A/B 测试),以确保升级能够提升而非降低应用程序的性能和用户体验。保持稳健的反馈闭环并分析日志,对于确定何时何地需要更新至关重要。

  • 您的角色:您持续参与跟踪新的模型版本、评估其潜在收益、实施必要的代码更改,并为未来的更新定义需求,确保生成式 AI 应用程序保持高性能、安全,并与业务需求保持一致。

本课小结

您现在已拥有面向生成式 AI 的 SAP 产品生命周期的战略地图。这是一个经过深思熟虑的协作旅程,从构思走向严格的可行性检查,通过原型得到验证,在产品化过程中构建,并通过监控加以维护。

本课其余配图

Gen AI Cycle

本课其余配图

Gen AI Cycle

本课其余配图

Gen AI Cycle

本课其余配图

Gen AI Cycle