T
traeai
登录
返回首页
Microsoft Azure Blog

AI单独不会改变你的业务。它的运行系统会。

8.5Score
AI单独不会改变你的业务。它的运行系统会。

TL;DR · AI 摘要

AI在企业中的应用正在迅速发展,但成功的关键在于其运行的系统,而非单一模型。

核心要点

  • AI的成功取决于其运行的系统,而不仅仅是单个模型。
  • 企业需要一个全面的代理平台,支持多种模型,并为真实用例设计。
  • 这样的系统必须满足三个关键原则:集成、安全设计和持续改进。

结构提纲

按章节快速跳转。

  1. AI在企业中的应用正在迅速发展,但成功的关键在于其运行的系统,而非单一模型。

  2. 成功的AI系统需要满足三个关键原则:集成、安全设计和持续改进。

  3. 必须支持多种模型,并在一个统一的系统中进行构建、部署、治理和优化。

  4. 通过将开发与生产环境结合,利用现有的身份、访问、合规性和安全基础架构来实现治理。

  5. 系统应能够从实际业务流程中学习并改进,以适应企业的独特需求。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • AI in Enterprise Systems
    • 集成系统
      • 支持多种模型
    • 安全设计
      • 使用现有安全基础设施
    • 持续改进
      • 从实际业务流程中学习

金句 / Highlights

值得收藏与分享的关键句。

  • 赢家不是拥有最多演示的企业,而是那些将其AI转化为受控、持续改进的系统来运行真实工作的企业。

    第 1 段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • 治理很容易声明,但很难实现。使其成为现实意味着从开发到生产的整个堆栈开始,利用企业已经信任的身份、访问、合规性和安全基础架构...

    第 4 段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • 随着系统的运行,模型、工作流和代理变得更加能力和更加具体,以适应企业的独特业务流程。

    第 6 段

    ⬇︎ 下载 PNG𝕏 分享到 X
#AI#企业系统#平台架构
打开原文

AI 已经进入了企业,这一转变正在同时发生。每一个功能、每一个角色、每一个工作流都在被重新塑造。与此同时,一个新的组织类别正在浮现,它将从根本上不同于定义了上一个商业时代的公司。赢家不会是那些拥有最多演示的人,而是那些将 AI 转化为一种受控的、持续改进的系统来运行真实工作的公司。

这不仅仅是关于聊天机器人的问题。这些体验是有用的,但它们并不能改变大型组织的运作方式。真正的机会在于团队中的代理执行长期跨软件交付、支持、财务、人力资源和运营等功能的工作——需要身份、上下文、政策和人类监督,以在生产中信任他们。

为了实现这一点,企业不仅需要访问强大的 AI 模型或可扩展的计算资源。决定胜负的是围绕 AI 的系统:工程团队如何构建和部署代理,如何在企业中进行语境化,如何在生产中进行管理和观察,以及如何安全地改进。没有这样的系统,AI 仍然是碎片化的、脆弱的,并且难以大规模信任。

我们采用了完全不同的方法。我们正在构建一个全面的代理平台:一个支持多种模型、开放并提供你在堆栈每一层的选择和灵活性的平台。我们有目的地将其设计为中心开发者。今天,这个平台的下一个部分正在逐渐成型。

**为企业代理构建系统**

要在这个新时代取得成功,代理平台必须达到更高的标准。它必须运行真实的生产工作负载,映射真实的企业复杂性,并管理真实的企业责任。

我们围绕三个关键原则进行构建:

首先,它必须是一个单一、集成的系统,支持各种模型。

企业无法逐步组装他们的代理策略。事后拼凑在一起的不相关工具会减慢团队的速度并引入不必要的风险。应该在一个一致的系统内构建、语境化、运行、管理和改进代理。这就是为什么我们将 Azure、GitHubMicrosoft IQFabricFoundryWindows、Microsoft 安全和 Microsoft 365 统一为一个系统的原因,你可以使用它来在企业规模上部署代理。企业还需要灵活选择适合任务的正确模型,平衡质量、速度和成本——包括微软模型、合作伙伴模型和开源模型。

其次,它必须通过设计得到保护和治理。

治理很容易声明,但很难实现。使其成为现实意味着从开发到生产的整个堆栈开始,建立在企业已经信任的身份、访问、合规性和安全基础之上。通过扩展 Entra、Purview、Defender、Agent 365 和更广泛的微软安全堆栈,治理成为系统的一部分,而不是稍后附加的,支持人工智能优先企业的雄心,而不损害控制。

第三,它必须持续改进。

企业 AI 系统不能静态不变。代理行为、结果和人类反馈必须反馈到系统中,以便在人类监督下安全地改进。随着系统的运行,模型、工作流和代理变得更加能力和更加符合企业独特的业务流程。结果是一个系统,在其使用寿命越长就越有价值。

这些特性正在成为必备条件,与这三个原则对齐其 AI 奋斗目标的企业将在季度而非数年内脱颖而出。

那么,像这样的系统是如何在真实企业内部形成的呢?它从工作开始的地方开始,即代理的构建方式。让我们看看在我们构建的平台上是什么样的。

1. 在 GitHub 构建

GitHub 是你的开发者已经工作的地方。那里住着你的依赖项,保存着你的应用程序和代码上下文,与你依赖的开源社区协作,并推动创新。在其他地方构建代理意味着放弃所有这一切。

代理应该像生产软件一样构建。你可以使用 GitHub Copilot 编写代码以更快地移动。你会把最重要的资产聚集在一起:代码库、工作项、代理技能和工具。而且因为代理不仅仅是代码,你还把评估和可观测性资产一起带入其中,就像任何生产系统一样进行版本控制。

代理必须遵循生命周期:源码、测试、部署、观察和改进。GitHub 从一开始就设置好了这个生命周期,并提供了必要的控制。结果是一个为构建代理设计的具有正确护栏的工作流。并且你可以在同一个地方完成所有这些操作,在一个 新应用 中为这个系统而创建。

2. 使用 Microsoft IQ 进行语境化

代码只是智能代理的一部分。要发挥作用,智能代理还需要理解你的业务:你的客户、产品、合同和流程。没有可信赖的企业上下文和情报,再有能力的模型也只是猜测。

企业需要各种各样的模型,并且能够将合适的模型与合适的任务匹配,但单凭模型选择是不够的。Microsoft IQ 通过连接到你业务数据的各个角落为企业智能代理提供坚实的基础,来自 Microsoft 365你的核心业务系统(如客户和收入数据),以及企业已经依赖的其他系统,比如知识库 如知识库 和你的网站。借助 Web IQ,这是 IQ 平台最新的添加项,智能代理也可以在适当的时候从网上获取相关信息。

将智能代理置于企业数据中不仅仅是关于访问权限的问题。将 AI 指向原始信息效率低下且脆弱。Microsoft IQ 组织、保护并以实际可用的形式呈现正确的信息,这样智能代理就可以获得准确的见解而不会被噪音淹没或幻觉出答案。

一旦智能代理获得了正确的背景,企业可以走得更远。使用 Frontier Tuning,你不仅仅调用 AI 模型。你可以利用你的数据和真实世界的流程来改进它们的行为。

这包括微软的 七个新的 MAI 模型,涵盖了图像、语音、转录、编码和推理等。这个模型家族一起设计用于处理现实世界中重要的任务,并且至关重要的是,这些模型不是静态的终点。它们是为了学习如何在你的业务中实际完成工作而构建的。

我们的强化学习环境允许我们的模型通过你在环境中的实际结果得到强化。把它们想成 AI 的训练健身房。在这里,智能代理学习你非常具体的流程、标准和工作方式。它变得专门化并适应你,从而实现可衡量的更好的 ROI。

此外,你的自定义或后训练模型都保留在你的环境中。你的知识产权、专有数据以及实际工作的运作方式成为你的智能代理进行推理和行动的一部分。产生的智慧运行在你的环境中,在你的控制之下,学习也属于你。

如果没有上下文和 Frontier Tuning,智能代理只能成为能力一般的通才。有了它,它们就成了一个了解自己所在业务的定制伙伴。

3. 在 Foundry 中运行

一旦智能代理建立并进行了语境化,它们就需要一个地方运行。不是作为实验。而是用于生产。

智能代理及其团队对运行时的需求与传统应用程序不同。它们需要推理、行动、调用工具、与其他智能代理协调,并随时间不断适应,同时在企业控制下操作。 Foundry 就是为此种现实而设计的运行时

  • 最大的模型集合: 不同的智能代理在不同的价格点上需要擅长不同的事情。无论任务是什么,无论成本结构如何,Foundry 都提供了访问正确的模型的方式,并且优化的模型路由器帮助你为每个智能代理平衡质量、速度和成本。
  • 针对开放模型的优化性能: 使用 Fireworks AI on Foundry,企业可以直接进入平台获得更快、更高效的推断。
  • 支持任何智能代理,包括那些不基于我们堆栈构建的智能代理: 引入基于 Microsoft Agent Framework、LangGraph、GitHub Copilot SDK、Claude Agent SDK 或自定义绑定器构建的智能代理。
  • 工具和动作: 智能代理通过 MCP、连接器、API 和工作流对企业系统进行操作,具有默认的安全执行。
  • 评估和跟踪: 可观察性和跟踪使智能代理的行为可测量。如果你无法测量它,你就无法改进它。
  • 持续优化: Foundry 允许随时间调整模型、绑定器、IQ、工具和动作,随着智能代理在你的世界中运行,提高性能。

整个运行时都有信任、安全和政策轨道。政策在访问上下文、工具调用、优化更新、跟踪和响应交付方面保持一致。智能代理不仅工作。它是按照你的企业要求的方式工作。

这就是你的智能代理不再是一个项目,开始成为一个生产系统的时刻。

4. 使用 Agent 365 管理

现在将该智能代理乘以数百倍。然后乘以数千倍。这就是企业在企业内部的不同团队构建智能代理时会发生的情况。有些设计得很好。有些则不然。有些拥有不该拥有的访问权限。其他人正在进行有价值的工作,但组织内的其他人并未从中受益。

企业的治理不可或缺。企业需要一种方法来查看正在运行的内容,理解它可以访问什么内容,监控任务遵守情况,并在整个智能代理资产中强制执行政策。

Agent 365,连同 Entra、Purview、Defender 以及 更广泛的 Microsoft 安全套件,共同完成了这一任务。如果你对除了保护 AI 之外还使用 AI 来保护安全感兴趣,还有 "MDASH"。

组织中的每个智能代理都会出现在单一目录中,无论是在 Foundry 中还是在其他地方创建的。IT 可以看到谁部署了智能代理,它可以访问哪些数据和工具,它的行为如何,以及它的成本。他们可以在需要时强制执行政策或采取行动。

一个地方。全貌可见。对你代理的行为拥有真正的控制权。

5. 持续改进

代理不能静态存在。每个代理行为都会产生信号:轨迹、结果、反馈。系统会捕捉这些信号,进行优化,并反馈回去。观察。评估。改进。安全地推出。重复。

这个学习循环持续运行,在生产环境中。

大多数收益始于对代理本身的驱动性改进:提示、语境、技能和工具。随着清晰模式的出现,学习可以扩展到模型跨多个模型的路由、微调或强化学习。但这一切都锚定在评估上,以提高代理质量和ROI,达到业务所需水平。

该循环由人管理,而非封闭。企业需要审计它,纠正它,并控制如何推出更改。随着时间推移,系统变得越来越有能力,受到人类监督和日益自主的引导,但永远不会超出你的掌控范围。

这就是爬山模型的运作方式:系统级别的改进,在系统运行的同时持续发生。

6. 在人们工作的地方展示,并在Azure上扩展

当然,如果无法触达那些正在工作的人,这一切都没有意义。

代理直接出现在工作流程中,在Teams、Microsoft 365以及你自己的应用和体验中展示。身份、安全和合规性从一开始就建立起来,所以你的团队每天依赖的代理继承了与整个环境相同的信任模型。

我们支持多种平台,但你的代理可以在Windows上以优化和安全的方式开发和运行。你可以将模型部署在云端和本地机器上,并且最佳的沙盒技术让你能够安全地运行始终在线的代理。

当你需要计算优化用于AI、全球主权基础设施或市场路线时,系统会在Azure上扩展,这是几十年来客户一直信赖的企业基础。

**系统复利**

每个领先的公司将采用这种模式:一个中央AI平台,协调整个企业的各项任务,将数据、模型、代理和人类判断结合在一个不断改进和安全的系统中。

当该系统运行时,其价值会复利增长。速度加快,瓶颈从努力转移到人类创造力和协调。人们能够独立完成更多工作,得益于共享上下文和更少的手动操作,同时业务能够更快地前进而不会增加摩擦。

我们正处于一场深刻的变革时期。在这个时刻,引领的企业将是那些能够随着条件变化而适应、简化企业内部工作协调方式,并持续将智慧转化为实际成果的企业。微软的代理平台旨在实现这一点:它解锁了构建、语境化、运行、治理和改进代理作为单一集成系统的功能。

到了那时,平台就不仅仅是构建层了。它成为大规模企业AI的操作系统,其中智能和信任设计而成。

标签:AIGitHubMicrosoft Agent 365Microsoft Build

AI 可能会生成不准确的信息,请核实重要内容