Mastering the AI era: Integrating frontier operations into your technology operating model

掌握人工智能时代：将前沿运营融入技术运营模式

Component | Article_teaser

2026年7月28日

5分钟阅读

人工智能

Andreas Spanner

澳大利亚和新西兰首席架构师

Subpattern | social_share_set

Component | social_share

分享

Subpattern | subscribe

Component | social_icon

订阅RSS

Component | Icon

© Red Hat, Inc. CC-BY-4.0授权

Subpattern | results_nav

组布局

Component | Nav_links

• 返回所有文章

Component | Generic

组织无法再依赖静态的运营模式。AI能力每天都在扩展，重塑人类与机器协作的可能。为了安全且快速地抓住这些潜力，企业需要一种新的组织能力：前沿运营。

前沿运营作为组织差异化能力及其与控制工程和实验追踪的关联

什么是前沿运营？

前沿运营是指通过调整人员、流程和技术，持续将不断演进的AI能力与业务战略对齐的实践。它将集成从一次性项目转变为持续性学科——随着能力变化，支持风险降低、成本效率和收入增长。

向前沿运营的转变

在技术运营模式中，目标不再是达到固定的技能水平或完成静态的培训课程。持续学习和新知识的整合成为常态。团队必须设计人机协作的边界，明确人工干预与自主执行的切换点，同时保持对代理失败场景和人工价值创造点的清晰判断。

嵌入前沿运营需要五大持续性技能：

• 边界感知：保持人类应负责领域与代理可靠处理领域之间的准确动态映射。边界快速变化，映射必须同步移动。

• 衔接设计：构建清晰、可验证且易于审计的人类与代理交接流程。随着能力变化需重新设计衔接点，而非将其视为永久架构。

• 失败模式维护：理解代理在特定场景下的失败方式。失败模式不是静态事实，而是随模型、提示、数据和用例演变的动态特征。

• 能力预测：通过有纪律的短期努力预测AI能力的发展方向，使团队能在变化发生前准备相应的工作流。

• 杠杆校准：确定人工关注带来最高回报的场景：审查阈值、升级路径、监督比例和审批关卡。

从提示工程到控制工程

前沿运营推动团队超越基础提示工程，向意图工程演进：以实用、可评估和可重复的方式，提前定义期望结果、约束条件和验证标准。

组织差异化体现在控制工程——自动化代理评估的完整生命周期：

• 实验追踪：捕获元数据、输入和上下文，确保结果可复现且可随时间比较。

• 持续评估：将评估视为持续运行的能力，而非发布前的检查点。持续评估的团队能更快学习并更自信地部署。

意图工程与控制工程的结合，将AI采纳从手工试错转变为可管理的能力。

构建反脆弱思维模式

现代技术运营模型不能仅仅通过抵抗变化来降低风险。它必须吸收变化以提升创新速度。如《云与边缘技术运营模型》所述，反脆弱系统在压力和不确定性下会变得更强大，而不是更脆弱。

前沿操作支持这种思维模式。组织不再被动应对每个新模型的发布，而是培养能力以持续感知边界、重新设计接口、更新故障模型、预测能力变化，并重新校准人力杠杆。

Red Hat AI：前沿操作的实用起点

前沿操作本身是一种能力，而非幻灯片演示。它需要一个能够支持持续变化并保持运营控制的平台。Red Hat AI 是最佳起点，因为它在一个金属到代理的堆栈中实现了前沿操作的技术基础——治理、评估、可观测性以及混合云和边缘一致性。

大多数组织在AI试点和生产之间停滞不前，因为工具碎片化导致的工作流程不一致。推理、提示、代理各自使用不同堆栈，操作人员缺乏共享可见性，最终导致信任缺失，因为AI安全性和安全性难以复现。Red Hat AI 通过将推理、数据到模型的工作流程以及代理操作统一在混合云基础架构上，填补了这一差距——该基础架构是企业应用团队已使用的 Red Hat OpenShift、Red Hat Enterprise Linux（RHEL）以及经过验证的开源组件（如 vLLM、MLflow 和 llm-d）。

将前沿操作映射到 Red Hat AI

前沿操作技能

Red Hat AI 如何实现它

边界感知

模型即服务（MaaS）为操作人员提供受控接口，用于筛选开发者可使用的模型、跟踪使用情况并执行策略。MCP 网关和 MCP 目录控制代理可访问的工具。基于 SPIFFE/SPIRE 的代理身份将操作与经过验证的实体绑定，遵循最小权限访问原则。

接口设计

受控提示管理（提示实验室、注册表、MLflow 支持的版本控制）使人工编写的意图成为代理行为的受控交接点。代理可追溯性记录每个大语言模型调用、工具执行和推理步骤，使人工审查和升级路径可审计，而非假设。

故障模型维护

EvalHub 为模型、应用和代理提供框架无关的评估控制平面，用可复现的基准替代临时测试。AI 安全性和红队演练（包括基于 NVIDIA Garak 的扫描）在生产前揭示越狱、注入和偏见风险。故障转化为数据，而非轶事。

能力预测

模型目录和可互换的推理层使团队可通过 MaaS 交换或添加模型而无需重建应用。llm-d 的分布式推理与硬件灵活性（GPU、CPU、NPU）使测试“下一步可能实现什么”在当前平台即可实现。

杠杆校准

使用跟踪、成本返还、请求优先级和自动扩展帮助操作人员根据实际负载而非理论比例调整成本和人工监督。集中式指标和代理执行追踪显示自动化有效的位置以及需要人工干预的位置。

内置的工程能力

Red Hat AI 不仅是运行模型的平台，更是运行评估循环的平台：

• MLflow 集成提供代理追踪功能，记录参数、指标和工件，实现生成式和预测式工作负载的可复现比较。

• EvalHub 通过统一的 API、仪表板和原生 Kubernetes 控制器，将基准测试能力从开发人员笔记本扩展到生产流水线。

• AgentOps 将追踪、可观测性和评估嵌入代理生命周期——从原型到生产——无论使用何种代理框架。

这就是产品化的 Harness 工程：平台自动化处理前沿运营团队原本需要手动拼接的复杂流程。

为什么从这里开始？

三个特性使 Red Hat AI 特别适合作为前沿运营的基础：

• 运营连续性：管理传统应用的混合云模式同样适用于 AI 推理和代理。运营人员不需要学习平行宇宙或增加认知负担，他们只是在现有运营模型基础上进行扩展。

• 开放且可移植的堆栈：支持任意模型、任意加速器、任意代理框架，并可在本地、边缘和公有云部署，降低成本并使能力预测变得可行。当前沿技术演进时，您只需更换模型和策略——无需重构整个架构。

• AI 构建者与 IT 运维人员的桥梁：开发人员获得自助式 API 和原型工具；平台团队获得治理、身份、安全扫描和可观测性。运维人员可专注于稳定性、控制、可审计性和安全性。构建者则能以业务速度推进（创新、功能、修复）。前沿运营需要双方协同，Red Hat AI 明确为此设计了这种分工。

如果您在本地部署模型，可以完全避免“推动采用与降低每 token 成本”之间的摩擦。

实用的前 90 天计划

您不需要在第一天就完成完整的代理转型。可信的前沿运营计划可以在 Red Hat AI 上逐步启动：

• 建立受控推理：部署带有精选模型和使用策略的 MaaS。确立第一个边界：哪些模型、哪些团队、哪些环境。

• 扩展前先进行监控：为一个高价值用例启用 MLflow 实验跟踪和 EvalHub。用基准测试的可重复结果取代主观判断“看起来更好”。

• 全面追踪运行一个代理：使用 AgentOps 追踪、提示版本管理和 MCP 管理的工具访问，试点单个代理工作流。记录故障模式和人工升级触发条件。按周期重新校准——每月审查追踪记录、评估结果、成本指标和安全扫描。随着能力变化调整接口和监督比例。

• 评估与预期成果的匹配度。

这一流程在构建前沿运营组织能力的同时，每一步都提供生产价值。

最后思考

前沿运营为组织、管理者和个体贡献者提供了处理动态 AI 的共同原则和安全边界。通过将 AI 模型能力集成视为动态实践，将评估视为持续性学科，组织可以在不放弃控制、问责或战略对齐的前提下，安全地采用新 AI 能力。

Red Hat AI 将这些原则付诸实践。它提供了从金属到代理的平台——MaaS、EvalHub、AgentOps、受控提示和混合云一致性，使边界感知、接缝设计、故障模型维护、能力预测和杠杆校准变得可操作，而非仅仅是愿景。

对于准备从 AI 实验转向受控、反脆弱操作的团队而言，Red Hat AI 是将前沿操作投入生产的最直接路径。

访问 Red Hat AI 学习中心，了解更多并立即开始试用。

Block | Dynamic pattern deluxe promo

Component | Band_header

Resource

适应性强的企业：为何 AI 准备度即颠覆准备度

这本电子书由 Red Hat 首席运营官兼首席安全官 Michael Ferris 所著，帮助 IT 领导者应对当前面临的变革速度和技术颠覆挑战。

Component | spacer

Component | Cta_multi_basic

Subpattern | simple_cta

Component | CTA

获取资源

Deluxe mbox

Component | Card_header

关于作者

Subpattern | speaker

Card layout

Component | Image_embed

Component | Person

Andreas Spanner

Andreas Spanner 负责 Red Hat 在澳大利亚和新西兰的云战略与数字化转型工作。Spanner 在欧洲、北美和亚太地区多个行业参与了广泛项目，包括全规模 ERP 迁移、人力资源、财务与会计、制造业、供应链物流转型以及可扩展的核心银行战略，以支持区域业务增长战略。他拥有德国拉文斯堡大学的工程学位。

阅读该作者的更多文章

类似内容推荐

Dynamic pattern

Blog post

Red Hat OpenShift 机密计算和沙箱功能最新进展

介绍 asago：开源 AI 安全与治理编排工具

Original podcast

技术演讲 | 用开源定义主权 AI

技术演讲 | 解析开源 AI 战略

Subpattern | card_flex

Subpattern | text_basic

继续探索

• 什么是智能体 AI？文章

• 预测性 AI 与生成性 AI 对比 文章

• 构建生产就绪 AI/ML 环境的首要考虑因素 电子书

• 以 Ansible 方式实现生成性 AI 视频

• 通过现代应用平台实现创新与转型 电子书

Keep Exploring mbox

Subpattern | simple_text

按频道浏览

探索所有频道

Pattern | raw_html

自动化

关于 IT 自动化的最新动态，涵盖技术、团队和环境

人工智能

平台更新，让客户能够随时随地运行 AI 工作负载

混合云

探索我们如何通过混合云构建更加灵活的未来

安全

关于如何在不同环境和技术中降低风险的最新动态

边缘计算

关于简化边缘操作平台的最新动态

基础设施

关于全球领先的企业的 Linux 平台的最新动态

应用程序

深入探讨我们解决最复杂应用程序挑战的方案

虚拟化

企业虚拟化的未来，适用于本地或跨云的工作负载