Building AI that can work across the enterprise
TL;DR · AI 摘要
企业级AI需要统一数据基础、明确业务目标和治理框架,才能实现规模化应用。
核心要点
- AI部署需要统一的数据基础和语义丰富的层,以确保跨流程的可靠性。
- 在关键业务流程中,AI的准确率需达到90%以上,否则可能导致严重后果。
- AI应用应通过影响、可行性与可扩展性三个维度进行评估。
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- 企业级AI部署
- 数据基础
- 统一数据层
- 语义丰富性
- 治理与风险
- 政策与访问控制
- 监控与审计
- AI应用评估
- 影响
- 可行性
- 可扩展性
金句 / Highlights
值得收藏与分享的关键句。
AI是绝对依赖数据基础的,公司需要一个连接、语义丰富的层。
在供应链或财务关闭等关键领域,80%的准确率是‘非常糟糕的结果’。
缺乏治理不会加速AI采用,而是会积累风险,最终导致更剧烈的停顿和审计。
构建可跨企业运作的人工智能 | MIT Technology Review
Sponsored
人工智能
构建可跨企业运作的人工智能
要将人工智能从孤立的试点项目扩展到更广泛的应用,需要坚实的数据基础、明确的商业成果以及适合企业规模的治理机制。
By
- MIT Technology Review Insights archive page
2026年11月16日
与Infosys合作
多年来,企业一直将人工智能视为一系列独立的实验。如今,随着人工智能代理开始进入驱动业务的流程,这种模式开始显得不足。那些从孤立的试点项目转向人工智能代理和自主工作流程的企业,正面临着更深层次的挑战:重新思考数据、业务流程、治理和人员如何协同运作,将人工智能从一系列工具转变为企业运营模型的一部分。
对于SAP Business AI Platform Ecosystem的全球负责人Thorsten Leiduck来说,这种转变始于将人工智能视为企业平台,而不是一系列相互脱节的项目。“人工智能完全依赖于数据基础,”他说,并认为企业在能够可靠地在各个流程中部署人工智能之前,需要建立一个连接且语义丰富的数据层,以反映其业务。当人工智能进入关键任务的工作流程时,风险也随之增加。对于一些日常应用,“80%的准确率可能已经足够”,他说,但在供应链或财务结算等关键领域,这种准确度却“是一个非常糟糕的结果”。
这一基础也决定了哪些人工智能应用值得追求。Infosys的SAP BAIP和SAP AI战略北美地区高级副总裁Satinder Pal Singh将人工智能代理描述为“数字同事”,并建议通过三个视角来评估潜在的应用场景:影响力、可行性以及可扩展性。企业应识别出人工智能代理可以推动重要业务指标的领域,确定其数据和人才是否能够支持该应用场景,然后判断成功应用是否可以复制。“无法扩展的试点只是一个实验,”他说。
扩展应用还使治理变得更加重要。清晰的政策、访问控制、监控和监督是确保代理保持可信并符合业务需求的必要条件。“缺乏治理并不会加快人工智能的采用,”Singh说。“它会积累风险,”最终可能迫使企业采取更具破坏性的停止和审计措施。
随着人工智能代理承担越来越多作为数字同事的责任,这些考虑因素将变得更加重要。两位高管都看到了一个未来,其中代理系统将在各个应用程序之间协调工作,而客户特定的知识图谱和受控数据将成为关键的企业资产。对于Singh来说,长期的机会是将人工智能从一种提高生产率的工具转变为“人工智能作为决策伙伴”,帮助领导者了解当前情况,预测下一步可能发生的事情,并决定如何应对。
本集Business Lab由Infosys合作制作。
完整转录文本
Megan Tatum:来自MIT Technology Review,我是Megan Tatum,这是Business Lab,这档节目帮助商业领袖理解从实验室走向市场的新技术。
本期节目由 Infosys 联合制作。如今,人工智能工具的开发和普及有潜力重塑企业的运营方式。然而,在应用程序从最初实验阶段扩展的当下,我们仍然看到高层管理者在人工智能的价值、风险以及其带来的复杂性方面感到困惑。很明显,与以往的自动化方式不同,人工智能需要真正的思维方式转变。简单来说,这项技术不能简单地添加到企业现有的工具包中。它需要对现有内容和使用方式进行彻底的重新配置。
我用两个词来概括:有意识的配置。今天我的嘉宾是 SAP 业务人工智能平台生态系统全球负责人 Thorsten Leiduck,以及 SAP 业务人工智能平台和 SAP 人工智能战略北美地区高级副总裁 Satinder Pal Singh。欢迎 Thorsten 和 Satinder。
Thorsten Leiduck:是的,感谢你们的邀请。非常高兴能与我们宝贵的合作伙伴 Infosys 一起在这里。期待接下来的交流。
Satinder Pal Singh:嗨,Megan。感谢你今天的邀请。期待接下来的讨论。
Megan:我也是。非常感谢你们二位的到来。Thorsten,如果可以的话,我想先问你一个问题。我们知道许多高层管理者了解人工智能的变革潜力,但他们仍然在实施的某些方面感到困难。例如,许多项目仍然停留在试点阶段。当你与客户交流时,他们在将人工智能整合到其技术堆栈时面临的主要障碍是什么?
Thorsten:是的,Megan,正如你所说,人工智能如今是每个客户对话中的重点议题,但许多客户在如何将这种兴趣转化为可操作的模型,以及如何在企业范围内释放人工智能的价值方面确实面临挑战。原因在于,太多项目以不同人工智能技术上的孤立试点(POC)开始,并且基于不一致、碎片化的数据基础。这导致了大量重复、不一致的表现,以及缺乏明确的扩展路径。同时,领导者对部署人工智能代理时的安全性、可观测性、可靠性以及一些伦理影响高度关注。这一点在一些研究中也有所体现。例如,BCG 发布的一份报告显示,74% 的组织仍停留在试点阶段,没有扩展计划。而在 Anthropic 的一项调查中,数据显示,42% 的组织在获取数据和数据质量方面确实面临巨大挑战,从而难以在整个组织范围内扩展人工智能能力。前进的路径是将人工智能不仅仅视为一个项目,而是更全面地将其视为一个企业平台,一个能够持续连接统一数据层与应用程序流程背景,并在整个生命周期中嵌入人工智能能力的平台。为了实现这一点,我们在 SAP 推出了 SAP 自主企业框架,使组织能够从试点阶段迈向可扩展的成果。
Megan:是的,确实如此,以提供这种支持。Satinder,你是否同意,为什么我们看到企业在这里几乎出现了人工智能瘫痪?需要发生怎样的思维方式转变,以及为什么组织现在需要考虑这一点?
Satinder:当然,Megan。而且,如果你特别关注“自主型AI”(agentic AI)的话,这个问题会更加清晰。Infosys和HFS研究对全球2000多家企业进行了调查,发现只有14%的企业成功地将AI规模化应用。其余86%的企业仍处于早期探索、概念验证或碎片化的试点阶段。对于一项连续两年占据所有董事会会议议程首位的技术,这个失败率令人震惊。而这86%的核心问题,我称之为“AI作为部门陷阱”。
发生的情况是,一个组织创建了一个AI团队或卓越中心,却将其与业务部门隔离开来。这个团队构建了技术上非常出色的试点项目,但这些项目与业务本身没有直接关联,最终导致AI解决方案在寻找问题,而不是问题在寻找AI解决方案。思维转变是显而易见的。要从将AI视为一项技术倡议,转变为将其视为运营模式的转型。AI不再只是IT为业务所做的事情,而是整个组织共同参与的事情。每个职能、每个工作流程,从一开始就应嵌入AI。
为什么现在这个问题变得如此紧迫?先行者正在构建优势。你无法通过后期购买相同平台来弥补差距。18个月的代理行为数据、校准后的知识图谱、真正内化AI的员工队伍,这是一些结构性优势,会随着时间不断积累。Infosys知识研究所的AI成熟度指数显示,目前只有8%的企业被归类为“原生AI企业”,但这些企业通过AI实现的收入贡献是落后企业的四倍。如果你今天没有构建AI,你不是在原地踏步,而是在加速落后。
Megan:没错。正如你所说,领先者和落后者之间确实存在明显的两极分化。当我们从试点转向规模化应用时,第一步可能是评估AI是否是合适的工具。AI在许多企业中已经成为默认的解决方案。Thorsten,如今是否有一种趋势,将AI当作一种粗略的工具来使用?在初期,高级领导者如何更好地评估哪些应用场景值得他们投入时间和资源,以减少后期的复杂性?
Thorsten:是的,Megan,我认为每个人都需要意识到,将AI在组织中进行采用和推广,与技术部署一样,也是一场变革管理的旅程。当你意识到这一点时,把AI展示给尽可能多的团队就变得非常有意义,因为你希望建立规范性、激发创意,同时人们也能看到AI在组织中的好处。当你想到旅行协助、通过Copilot生成的会议摘要,或是AI驱动的工作流程,这些都能提高生产力,每个人都能在日常工作中感受到这一点。显然,这会激发创造力,也为组织从自下而上的角度带来创新的规模。
然而,随着参与人数的增加,讨论的重点,这也是我们与许多领导者和客户讨论的内容,逐渐转向经济性和治理。诸如令牌成本、模型性能、安全性和责任归属等问题变得越来越重要。当你采用AI代理作为执行特定业务流程任务的数字员工时,这意味着从AI的角度来看,并非所有任务都值得投入。
在某些情况下,人力投入仍然是更经济或更有效的方式。明智的做法,也是我们真正建议客户采取的方式,是从一组明确定义的、可能较小的高价值用例开始,这些用例在前期就设定了明确的成功指标。例如,如周期时间的减少、准确性的提高、每笔交易的成本或收入增长等,然后将那些成功的用例进行扩展。这些用例可以与业务线领域或行业场景相关联。
从 SAP 的角度来看,我们与 Infosys 合作,真正帮助客户取得成功。作为我们自主套件的一部分,我们提供相应的领域支持,这些支持能够端到端地运行业务流程,并能为单个端到端业务流程步骤带来可观的投资回报率。
最后但同样重要的是,在许多场景中,我认为这已经成为一种非常常见的模式,尤其是在大型行业人工智能用例中,采取联合的方法。我们与 Infosys 等合作伙伴一起,也与客户一起进行现场部署的工程工作,以便与客户紧密合作,明确定义具有特定成果的人工智能特定用例,并将其作为初始项目交付。理想情况下,可以将这些用例扩展到其他客户,并将其作为最佳实践带回,推广到其他组织中。
Megan:对,你刚才说的非常清楚,不是吗?你清楚地知道你想要实现的目标,以及哪些事情值得你花时间。那么,Satinder,你在这里的建议是什么,如何完善人工智能战略,以确保组织能够专注于人工智能可以带来最大回报的领域?
Satinder:当然,Megan。我认为 Thorsten 将人工智能代理描述为数字同事,这种描述迫使我们在制定代理人工智能战略语言时更加精确。当你问我们需要哪些数字同事,以及它们在哪些地方能创造最大价值时,答案会从第一步开始变得清晰。在 Infosys,通过我们的 Topaz 以人工智能为中心的框架,我们同时推动客户从三个角度进行审视。第一个角度是影响。部署代理能对哪些关键数字产生影响?收入、成本、营运资本风险。我们已经建立了涵盖各行业的300多个企业用例库,因此我们从不会从一张白纸开始。第二个角度是可行性。根据你目前的数据基础平台和人才,你实际上能够执行哪些高影响力用例?可行性决定了你的执行顺序。在一个数据基础薄弱的情况下,高影响力用例是不可行的。当数据基础正确时,结果会非常显著。在一次 Infosys 的项目中,将复杂的 SAP 规格文档的处理时间从86人小时减少到6人小时,减少了92%。第三个角度是可扩展性。一旦你通过明确的投资回报率指标证明了一个用例,如周期时间的减少、准确性的提高、每笔交易的成本,那么什么样的架构可以让你复制它?一个无法扩展的试点只是一个实验。我的实际建议是:将你的人工智能组合视为一个投资组合,快速的胜利可以为项目提供资金,中期的赌注,一两个大胆的长期投资,以在每个阶段保持利益相关者的参与,而不仅仅是在第三年。
Megan:这是一个非常有用框架,供人们使用。鉴于当前的紧迫性,Thorsten,组织如何以更结构化和高效的方式接近和管理人工智能?首先,目前一些组织可能忽视了哪些基本要素?我知道Infosys和SAP谈论平台和数据,然后是人工智能,例如。
Thorsten:是的,Megan,我认为许多组织忽视的基本要素是数据,而数据是人工智能的基础。因为最终,如果没有数据结构和在正确的时间访问正确信息的能力,以及基本上以有意义的受控和语义化的方式将各种结构化和非结构化数据源整合在一起,就不可能实现成功的人工智能。人工智能完全依赖于数据基础。我认为这常常被忽视,这就是为什么我说当你在不同组织或组织的不同部分使用不同技术启动POC时,很难在数据和人工智能方面建立一个端到端的一致模型。
公司需要实现的一个关键目标是,这就是为什么我们真正强调你必须首先从数据和平台开始,即建立一个语义丰富且互联的数据层,真正反映你的业务,这样代理人才能真正扎根于公司的现实,而不是仅仅基于通用模式。
然后,我认为第二个重要的要素是准确性。在企业环境中,这一点非常重要。例如,在消费者环境中,80%的准确性可能可以接受,甚至在工作环境中,当你创建PowerPoint或撰写电子邮件草稿时,再由人工进行优化,80%的准确性可能已经足够。但当你真正考虑供应链中的关键任务或业务关键流程,如结账时,80%的准确性是一个非常糟糕的结果。
风险太高了,你需要更高的准确性。这就是为什么将业务流程逻辑和行业背景嵌入数据和模型中非常重要,这些数据和模型构成了人工智能的骨干,当然,也构成了ERP和业务系统中的数据的骨干。
最后但同样重要的是,另一个关键要素,你显然在新闻中看到,所有代理都失控了,是治理、合规性和安全性。在企业环境中,这非常关键。你需要制定明确的政策和访问控制。你需要具备监控能力,以确保人工智能议程能力或代理执行的内容完全一致、值得信赖且可扩展。
Megan:是的。这对组织来说有很多需要考虑的事情。Satinder,SAP和Infosys如何与组织合作,以简化这些流程,或许让释放人工智能的能力变得更容易一些?
Satinder:Megan,我认为首先我要承认的是,在Infosys,我们与SAP的关系使我们处于独特的位置,因为我们既是SAP的客户,也是其关键的全球供应商。SAP和Infosys的合作方式是围绕Thorsten描述的架构设计的,该架构定义了一个连贯的合作伙伴关系。
SAP 提供平台基础、面向语义丰富的企业的业务数据云、受控 LLMX 的生成式 AI 中心,以及用于生命周期治理的企业级代理中心,从第一天起即具备企业级能力。Infosys 提供实施深度、行业背景和用例加速器。通过 Infosys Topaz,我们在 Business AI 平台上构建了 50 多个预配置的 AI 用例,这些配置已具备生产就绪条件,无需从零开始构建即可部署。我们在 SAP 行业 AI 项目中与客户共同开发用例,并明确客户特定的 FTE 指标。这种对结果的共同责任与典型的实施项目不同。
在实践中,一个全球 S/4HANA 转型项目使用 AI 辅助交付工具,在五个月内完成了超过 480 个 RICEF 对象,这种速度是传统交付方式无法维持的。在另一个案例中,一个 AI 驱动的平台每月自动分类超过 12 万个 SAP 事件,且无需分析师介入。这种综合效应使从价值实现所需的时间从 12 到 18 个月缩短至 4 到 6 个月。
我想强调的是变更管理带来的影响。技术的部署越来越容易,Thorsten 之前也提到过这一点。困难之处在于帮助组织认识到他们的代理是数字同事,而不是自动化。这种思维方式的转变是平台本身无法单独解决的 70% 的实施挑战,而 Infosys 和 SAP 正在共同开展采用计划,同时解决这两个维度的问题。
Megan:精彩。那里还有一些很好的现实案例。Thorsten,你能再多告诉我们一些关于 SAP 的 Business AI 平台(BAIP)的信息吗?它是如何运作的,与其他平台相比有什么独特之处?
Thorsten:是的,SAP Business AI 平台可以看作是我们 SAP 自主企业框架的基础,该框架实际上由一个统一的用户界面组成,并通过我们称之为 Joule 的代理式编排层进行启用。你有自主读取功能,与所有应用程序一起运行,然后你有 Business AI 平台,它支持其他功能,并与之紧密连接,基本上围绕三个核心支柱组织。
第一个支柱,我们称之为“构建”。这意味着你提供基于意图的开发工具,使客户或像 Infosys 这样的合作伙伴能够真正使用一流的工具和模型,创建和开发代理、应用程序和工作流程,以扩展 SAP 自己的助手,或对其进行定制,或根据需要构建自己的代理。
补充 Satinder 所说的内容,对我们来说,拥有一个充满活力的生态系统至关重要,这个生态系统具有创新精神,并在构建创新,同时补充我们自己的 SAP 代理产品组合。我们专注于特定的业务领域,从行业业务线的角度出发,在我们组织内部提供协助,但为了真正从最后一公里执行方面进行定制,补充我们未覆盖的领域,并真正推动面向客户的创新,我们的生态系统是倍增力量,而 Infosys 在这里与我们合作,发挥着引领作用。
第二点,我们之前也提到过,就是我们称之为“情境化与推理”支柱。作为数据基础,我们通过 SAP Data Cloud 和全面的数据战略来解决这个问题,我们在合作伙伴平台(如 Databricks、Snowflake)上建立了一个端到端的数据织网,我们推动实现对数据的零复制访问。对于客户来说,这一点非常重要。因此,我们基本上会向客户推广,如果您在这些平台上有任何投资,我们建议保留这些投资,只需利用 BDC 进行连接,而无需将数据从例如 Databricks、Snowflake 环境转移到 BDC。
通过这种方法,我们建立了统一的语义数据层,该数据层可以在整个企业中的任何 AI 场景中使用,结合不同的数据源而不会造成任何干扰。这一部分的另一个关键要素是生成式 AI 中心。我们已经将超过 50 个模型,包括语言模型和我们自己的部分模型,整合到一个统一的控制面板中,这样客户就可以访问并选择这些 50 个模型中的任意一个,作为生成式 AI 中心的一部分,该中心是平台的一部分。
此外,作为关键的差异化因素,我们将大量的业务语义和上下文信息转移到了知识图谱中,这有助于导航代理,就像公司中的神经或导航系统一样,真正为决策和执行提供与业务相关、针对客户的具体信息,适用于任何代理执行框架。
最后,我们还谈到了治理。这是第三个支柱,非常重要,而且是内置的。因此,我们作为第三个支柱,拥有 SAP 代理中心,它可以说是企业级 AI 和代理治理的指挥中心。您可以治理 SAP 代理,也可以治理非 SAP 代理,只要它们通过 A2A 与 SAP 集成。因此,团队可以在客户方面,对代理和功能的整个生命周期(从雇佣到退休)进行管理。
Megan:太棒了。这是一个非常全面的概述。非常感谢。Satinder,你能分享一些例子吗?也许可以说明一下,组织是如何在实践中使用 SAP Business AI 平台来改进他们使用 AI 的方式的?也许可以说明他们面临了什么挑战,流程是怎样的,以及他们解锁了哪些好处?
Satinder:当然,Megan。我认为 Thorsten 刚才已经解释了 Business AI 平台有多么强大。这已经是我们几十年来的工作成果。我们也在使用这个平台,我将分享两个来自 Infosys 实际项目中的例子,这两个例子都展示了 BIP 的三个支柱在生产环境中的样子。
第一个案例是一家拥有大规模 SAP 系统的全球多元化制造商。其挑战在于月末结账,涉及 80 多个 SAP 交易代码,结账团队需要在夜间和周末工作,L1 支持团队每月要处理超过 300 起事件,仅来自结账周期本身。在 Business AI 平台上,我们部署了 Topaz Fabric,这是 Infosys 的智能代理协调平台,由一个主代理协调五个专业子代理,分别是 WBS 计提、收入确认、公司间结算、主数据对账以及 SOX 审计轨迹生成。这些代理可以自主运行,只有在出现真正的异常情况时才会升级给人类处理。结果,整个 L1.5 支持层级被完全消除,每月 300 多起事件由系统自动处理,无需人工干预。结账团队也从被动应对转向前瞻性的财务分析。每年节省的费用超过 100 万美元。
第二个案例是北美一家正在向 S/4HANA 迁移的公用事业公司。他们的挑战是开发速度,复杂的 SAP 功能规范文档通常需要 80 多人参与,成为整个项目的瓶颈。通过使用 Business AI 平台上的 AI 原生开发环境,并结合由 Claude 驱动的检索系统,我们将这些规范的开发时间从 86 小时减少到 6 小时,减少了 92%,在 51 种 SAP 任务类型上验证准确率达到 95%。该架构现在正在其他客户中复制使用。在两个案例中,模式都与 Thorsten 所描述的一致,即以数据治理为基础,结合 SAP 业务流程上下文,通过 SAP Agent Hub 实现对代理的全面可观测性。这就是一个自主运营的企业,作为日常运营的一部分,而不仅仅是一个概念。
Megan:我认为这些非常具体且令人信服的结果对大家来说会非常有帮助。当然,负责任的 AI 或清晰的治理框架也是 AI 整合过程中至关重要的组成部分。我们知道像 LLM 这样的工具很少是内置合规性的。Thorsten,你对此有什么建议,如何确保在 ERP 中嵌入属性治理?
Thorsten:是的,Megan,你完全正确。治理合规性和安全性对于在企业规模上交付相关、可靠且值得信赖的 AI 来说至关重要。理解公共 LLM 服务是如何运作的非常重要。许多这些服务都是在互联网规模的数据上训练的,这意味着它们是公开模型。根据提供商的政策和设置,它们可能会保留用于模型改进的输入数据,这意味着如果公司向模型提供数据,这些公司数据将进入公共领域。例如,管道信息或预测信息,这些信息变得越来越关键,因为这会将你的组织置于重大风险之中。
虽然 LLM 在处理大量文本和其他非结构化数据方面非常强大,但它们在处理 EOP 系统或一般业务应用中的结构化表格时效果较差,通常也缺乏对业务流程、逻辑和上下文的细微理解。这就是为什么一个强大的治理框架是必不可少的。我们之前讨论了生成式 AI,以及我们如何在一个统一的仪表板中聚合这些模型。
然后,另一个我们之前提到过、Satinder也提到过的元素,始终是自定义示例的一部分,即SAP代理中心(SAP Agent Hub),或者更一般地说,当我们谈到AI生命周期治理中的能力时,这实际上包括代理注册表、LMN注册表、MCP注册表,因此,它是一个用于管理所有AI工件的单一工具源,可以管理身份和访问控制,从而确保代理具有高度的灵活性,并且可以真正提供适当的权限,即哪些代理可以访问哪些数据。此外,还有代理可观测性、代理挖掘,以及将代理技能映射到组织,这非常关键。
正如我之前提到的,所有这些能力都完全嵌入到SAP Business AI Platform中,从而能够开箱即用地提供这种治理框架,并完全嵌入到SAP所做的一切中。
Megan:这非常重要,因为当组织在试验或扩展多个AI项目和工具时,有时候会增加真正的复杂性。我想问,Satinder,你是否可以补充一些关于组织如何在技术堆栈相当复杂的情况下,构建这种强大治理层的建议?
Satinder:在Infosys,我们有Infosys Knowledge Institute,他们每年都会发布一份生成式AI雷达报告,该报告发现,48%的公司已经部署了生成式AI,但没有正式的治理政策。几乎一半的企业在运行AI时,没有记录的框架、监督、问责或合规措施。这就是Thorsten所描述的差距,必须在事故发生之前主动弥补,而不是等到事故发生后才被迫进行反应性的停止或审计,这会比提前建立治理框架更具破坏性。Thorsten刚刚在SAP Agent Hub中描述的内容,正是使企业级治理成为可能的平台层,值得明确整体架构,因为没有它,治理只是理论上的。我与客户使用的框架有三个层次,它们必须协同工作。第一层是政策,即明确的组织级AI使用政策,规定代理可以和不能自主执行的操作,数据如何用于AI训练,披露义务以及对结果的问责。这需要法律、合规和技术团队的共同努力,以及董事会级别的支持。没有这一基础,每次部署都会变成临时的治理讨论。第二层是平台。这正是SAP Business AI Platform,特别是SAP Agent Hub成为企业控制塔的地方。Thorsten描述的能力,如代理LLM、MCP注册表作为单一事实来源、可验证的代理身份和受限的访问轨迹、代理可观测性、用于漂移检测的代理挖掘,这些不仅仅是治理功能。它们为领导者提供了跨复杂多代理环境的实时可见性。你可以看到正在运行的内容、它所消耗的资源,以及它是否按预期运行。这正是将复杂的技术堆栈从治理负担转化为治理资产的关键。
最后一层是流程,包括持续进行的治理仪式,例如季度AI风险审查、偏见审计周期、以及将模型性能与业务KPI进行对比的审查。这些结构化的对话确保人类在一段时间内对代理行为负责。组织们一致发现,这种三层结构实际上加速了AI的部署。每一个新的使用案例都有明确的审批路径和治理架构可以接入。缺乏治理并不会加快AI的采用,反而会积累风险,最终迫使停止并进行审计,这种中断比建立治理能力更加具有破坏性。
Megan:这是一个非常有趣的观点,非常感谢你的分享。我们已经讨论了很多内容,为了以未来视角结束今天的讨论,我们今天谈到了市场上大量正在涌现的AI工具,许多工具旨在改变企业级运营。我想问一下,Thorsten,你认为未来会出现哪些可能真正改变游戏规则的技术?
Thorsten:我认为,我们很快就会看到一个持续快速采用AI的时期,辅助工具和代理将作为数字同事运行。它们将像今天的员工一样嵌入我们的组织中,并在人们执行任务时嵌入到流程中。随着这一趋势的发展,重心将越来越多地从单一的软件应用层转移到一个代理价值层,该层能够跨系统和不同环境协调工作,这些协调必须非常完善。我认为我们还将看到,至少在规模上,这将是一个真正的变革,即交付过程将实现工业化。当你想到代理工厂和教堂服务(这里指某种组织或机制),它们真正设计、测试和治理大规模代理,或者说大规模代理框架时,我认为我们会看到商业模式的演变,这些模式将从目前以消费为基础,转向真正以价值和结果为基础的协议,并与明确的业务KPI挂钩。在技术方面,我认为在大语言模型(LLM)领域仍有很多进展,包括新的架构和训练方法。我认为我们将显著降低总体拥有成本,同时控制和可行性也将得到提升。我认为市场中最近的例子表明,人们已经意识到这一点,而且我认为创新将变得可操作。从这个角度来看,一个重要的问题是,中国在全球背景下将扮演什么角色,以及这些模型如何真正嵌入其中。最后但同样重要的是,我认为本体论和客户特定的知识图谱将成为一级资产,我认为这将是未来的关键区别点,因为它们将在代码流程、语义、政策(Satinder提到的内容)和数据关系方面发挥主导作用。它们是未来安全、高性能企业代理架构的蓝图。
Megan:当然,这正是我们所追求的目标。Satinder,你怎么看?你认为哪些领域的发展特别令人兴奋?
Satinder:当然,Megan。我认为最让我兴奋的是AI从生产力工具转变为决策伙伴的转变。这是Thorsten的架构所实现的最重要的演变。几十年来,企业系统只是告诉我们发生了什么。下一代系统则帮助领导者了解当前正在发生什么,接下来可能发生什么,以及应该采取哪些行动。
我反复提到的一个场景是,一位CFO在一天开始时与一个代理合作,该代理持续分析财务、供应链、采购和员工数据等领域的信号,主动揭示最可能影响本季度的三个问题,并提供推荐的行动方案,量化财务影响。这不是一个仪表板,而是一种根本不同的决策模型。通过Infosys Topaz,我们正在帮助客户迈向以AI为核心的企业,这种企业能够在不同领域持续感知、学习、决策和适应。
同样让我感到兴奋的是AI的演变速度。在过去的科技浪潮中,限制因素是稳定的。你识别出一个限制,然后围绕它设计架构,持续数年。AI则不同。在项目开始时看似受到限制的用例,通常在上线前就已解决。SAP之前的模型在明确LLM差距后,一次就改变了结构化数据推理。决策智能的出现速度比大多数组织所计划的要快。
获胜的策略是为18个月后的AI进行设计,构建灵活的架构、值得信赖的数据基础以及能够吸收创新的治理机制。那些这样做的组织在每次新能力出现时都会实现价值的复合增长。
因此,下一个前沿不是AI能做更多的工作,而是AI能够充分理解你的业务,从而帮助你做出更好的决策。这正是SAP、Infosys和我们的客户最大的机会所在,即记录系统与智能系统的融合。
Megan:太棒了。当然,未来还有很多值得期待的事情。非常感谢你们今天加入我们。刚才与我们对话的是Thorsten Leiduck,SAP Business AI平台的高级副总裁兼全球负责人,以及Satinder Pal Singh,SAP Business AI平台和SAP AI战略北美区的副总裁,我从英国的Brighton与他进行了对话。
这就是本期Business Lab的全部内容。我是主持人Megan Tatum。我是Insights的特约编辑和主持人,Insights是MIT Technology Review定制出版部门。我们于1899年在麻省理工学院成立,您可以在印刷版、网络上以及全球各地每年举办的活动中找到我们。有关我们和节目的更多信息,请访问我们的网站thetechnologyreview.com。本节目可在您获取播客的任何地方收听。如果您喜欢本期节目,我们希望您花一点时间给我们评分和评论。Business Lab由MIT Technology Review制作,本期节目由Giro Studios制作。非常感谢您的收听。再见。
本内容由Insights制作,Insights是MIT Technology Review的定制内容部门,而非其编辑团队。它由人类进行研究和撰写,任何可能使用的AI工具均限于在人类监督下的生产流程中使用。
深度解析
人工智能
别被误导了——LLM不会推理
AlphaGo与围棋冠军李世石比赛十年后,如今的AI仍未利用使那次胜利成为可能的机制。
- Thore Graepel档案页面
“我们一直看错了”: 颠覆AI世界的爆炸性主张
独家采访Nick Cammarata,这位研究人员撰写的26,000字病毒式博客文章让AI安全专家们欣喜若狂。
- Will Douglas Heaven 归档页面
别被这个AI炒作的夏天所迷惑
关于AGI和新功能的激动人心的主张,在受到审视时很快就会崩溃。
- Timnit Gebru 归档页面
- Emily M. Bender 归档页面
代理网络已经到来
随着个人AI助手的兴起,互联网不再只是为人类服务。
- Grace Huckins 归档页面
保持联系
插图由Rose Wong绘制
获取MIT Technology Review的最新动态
发现特别优惠、热门故事、即将举行的活动等更多信息。