Building trusted agentic AI in financial services: From data to autonomous action

在金融服务领域构建可信的自主AI：从数据到自主行动 | Elastic Blog

在金融服务领域构建可信的自主AI：从数据到自主行动

当金融机构从AI实验转向自主运营时，可信的上下文、治理和可观测性成为企业级自主AI的基础。

作者：

Karen Mcdermott

2026年8月6日

• 在Twitter上分享
• 在LinkedIn上分享
• 在Facebook上分享
• 通过电子邮件分享
• 打印本页

金融服务领域的人工智能正进入一个新时代。

历史上，金融服务公司一直专注于部署生成式AI以提高生产力、增强客户体验、加速软件开发并优化运营流程。如今，讨论焦点正在转向自主AI——能够进行推理、协调工作流程并在整个企业中采取行动的智能系统。

麦肯锡《2026年人工智能信任状况：迈向自主时代》报告指出，各组织正在迅速向企业级人工智能部署迈进。然而，只有约30%的组织在人工智能战略、治理和自主AI控制方面达到了更高的成熟度。随着人工智能变得越来越自主，挑战不再仅仅是部署AI，而是部署可信赖的AI。

对金融机构而言，信任不是可有可无的附加项，而是负责任地扩展AI的基础。

自主AI改变了风险方程式

传统的生成式AI用于回答问题，但自主AI会采取行动。

AI助手可能总结可疑交易或解释合规报告，但AI代理可以调查欺诈警报、获取客户信息、在多个系统中关联证据、推荐后续步骤并启动工作流程。

潜在的商业价值巨大，但如果AI系统基于不完整、不准确或治理不当的信息采取行动，后果同样严重。

每个自主决策都不仅仅依赖于强大的基础模型，更取决于AI是否能够访问正确的上下文，例如反映组织内实时可信信息的当前数据。

缺乏这一基础，组织可能会将错误自动化，而非加速更优决策。

信任始于上下文

金融服务行业一直以信任为先的环境运作。

无论是在遵守DORA、欧盟人工智能法案、纽约州DFS网络安全法规，还是内部模型风险管理标准时，机构都必须向监管机构和审计人员证明数据的来源、决策过程以及结果是否可追溯。

麦肯锡的研究反映了这一成熟度，将金融服务行业列为负责任人工智能领域的领先行业之一，原因在于其强大的治理和风险管理基础。

这种领导地位创造了机会。

投入负责任AI的组织更有可能报告更高的AI成熟度和更强的业务成果。治理不会阻碍创新，反而会促进创新。

对于自主AI而言，治理始于上下文。

上下文是AI代理在采取行动前用于理解情境的信息。在金融服务领域，这意味着将运营遥测数据、客户信息、交易历史、应用数据、安全事件、监管政策和机构知识整合为统一视图。

缺乏丰富上下文时，即使最先进的模型也可能产生不完整的建议。而拥有可信上下文后，AI代理可以更准确地推理、解释结论，并以更高信心采取行动。

更好的上下文始于更优质的数据

可信AI始于可信数据。对金融机构而言，这意味着打破数据孤岛、提升数据质量，并确保AI系统能够访问完整、及时且相关的信息。没有这一基础，即使最复杂的AI模型也可能产生不完整、不准确或无法解释的结果。

这在组织向自主AI过渡时尤为重要，因为自主系统在有限人工干预下，越来越多地进行推理、做决策并发起行动。这些决策的质量取决于它们接收到的上下文质量。

在RSAC 2026的讨论中，Elastic安全业务总经理Mike Nichols与纽约人寿保险安全工程执行副总裁Sal Picheria以及theCUBE的Dave Vellante共同探讨了组织如何为AI驱动威胁时代做好安全运营准备。Picheria表示，纽约人寿并非将AI视为起点，而是通过多年努力构建以数据为核心的基础，精心整理运营数据，避免形成"数据沼泽"，并在扩展AI辅助安全运营前优先实现实时可见性。

这一经验远超网络安全领域。无论部署AI用于欺诈检测、合规自动化、客户服务优化还是软件交付加速，金融机构都必须首先确保数据准确、可观测、可搜索且安全。正如Nichols总结的："实现AI就绪的第一步是获得对现有数据的可见性和控制力。"

可信上下文使AI从实验性能力转变为可信赖的企业资产。

可观测性成为AI的控制平面

随着AI代理日益自主，组织需要的可见性不再局限于应用和基础设施。

他们需要对AI本身实现可见性。

领导者越来越需要回答以下问题：

• AI代理访问了哪些系统？
• 哪些信息影响了其建议？
• 为什么选择某个行动而非其他选项？
• 能否重建其推理过程的每一步？

回答这些问题需要跨指标、追踪和日志的统一视图。

指标揭示性能趋势。追踪展示请求在分布式应用中的流动路径。日志提供每笔交易背后的详细操作事件。这些遥测信号共同构建出理解事件发生原因所需的运营上下文。

可观测性不再仅仅是基础设施监控，它已成为治理AI的控制平面。

安全性必须与自主AI同步演进

麦肯锡发现，近三分之二的组织将安全和风险问题视为扩展自主AI的最大障碍。与此同时，74%的受访者指出AI的不准确性，72%的人将网络安全列为高度相关的风险。

对金融机构而言，这些担忧是合理的。

每个AI代理都会与企业系统、API、敏感客户信息和第三方服务产生新的交互。每个自主行动都必须受到监控、验证和治理。

自主安全运营平台通过使AI能够调查警报、跨日志、指标、追踪、威胁情报和历史调查关联活动，并向分析师提供事件的全面视图，从而帮助解决这一挑战。

重要的是，人类仍然保持控制权。

AI加速调查并减少重复性工作，同时在高度监管的环境中保留所需的治理和监督。

摩根士丹利的观点反映了这一演变。在最近由Elastic举办的纽约市客户活动中，摩根士丹利首席数据官兼董事总经理Rachel Wilson将网络安全描述为本质上是数据问题，强调了整合欺诈、网络安全、隐私和信息管理数据的重要性。随着组织采用自主AI，这种统一的视角变得越来越重要。

企业搜索提供可信上下文

大型语言模型提供推理能力。企业搜索提供上下文。

当AI代理跨企业检索信息时，搜索确保他们访问当前、权限感知且受管控的知识，而不是仅仅依赖模型在训练期间学到的内容。

例如，调查潜在欺诈的AI代理可能会结合客户记录、交易历史、操作日志、欺诈指标、监管政策、客户沟通和之前的调查，然后再推荐行动方案。

企业搜索使这些连接成为可能，无论信息存储在哪里，都能将AI扎根于权威的企业知识中。丰富的上下文不仅提高准确性，还提高可解释性、治理和信任。

在部署自主AI之前，每个金融机构都应提出的5个问题

在将AI代理投入生产之前，金融服务领导者应询问：

• AI是否具备正确的上下文？
• 每个决策是否可以解释和审计？
• 我们能否通过统一的日志、指标和追踪观察AI行为？
• 我们的运营数据是否已为自主AI做好准备？
• 在保持人类控制的同时，能否持续验证AI驱动的操作安全性？

能够自信地对这些问题回答“是”的组织将更有能力负责任地扩展自主AI。

从AI实验到可信的自主运营

麦肯锡得出结论，AI信任正变得不仅仅是合规练习，它越来越成为业务推动因素。对金融机构而言，这种信任建立在上下文之上。

它结合了可信的企业数据、AI辅助的数据准备、企业搜索、统一的可观测性、智能安全运营以及确保人类对AI驱动结果负责的治理。

金融服务行业数十年来通过韧性、透明度和严谨的风险管理赢得了信任。随着行业迈入自主AI时代，这些原则仍是成功的关键。

引领行业的机构不会仅仅部署更多自主AI。他们将部署基于可信上下文的AI，确保每个决策都基于正确的数据，每个行动均可观察，每个结果均可解释，每项创新都增强信任而非损害信任。因为在金融服务领域，未来不属于拥有最多AI的组织，而属于拥有最受信任AI的组织。

立即联系我们，了解Elastic如何助力您的可信自主AI之旅。

相关博客：

• 财富500强金融机构的风险管理策略
• 用AI重塑金融服务：释放增长、创新与洞察
• 基于AI的欺诈检测：Elastic如何保护金融服务
• 金融服务中的自主AI：自主智能的崛起
• 智能银行的崛起：在AI时代统一欺诈、安全与合规

本文所述任何功能或特性的发布及发布时间表均由Elastic完全自主决定。目前尚未提供的任何功能可能无法按时或根本不会推出。

在本文中，我们可能使用或引用了第三方生成式AI工具，这些工具由其各自所有者拥有和运营。Elastic对第三方工具没有任何控制权，也不对这些工具的内容、操作或使用承担任何责任或义务，也不对因使用这些工具而可能产生的任何损失或损害负责。在使用AI工具处理个人、敏感或机密信息时请格外谨慎。您提交的任何数据可能会用于AI训练或其他目的。无法保证您提供的信息将被安全或保密地处理。在使用任何生成式AI工具之前，请务必熟悉其隐私政策和使用条款。

Elastic、Elasticsearch及相关标识是elasticsearch B.V.在美国和其他国家的商标、标志或注册商标。所有其他公司和产品名称均为其各自所有者的商标、标志或注册商标。

Share