文章详情

XM交易:微软与多家企业启动AI透明度倡议 强化企业对AI模型和智能体的信任

币界网报道:

微软在其新的 AI Transparency Initiative 框架下,与包括 Accenture、Adobe、KPMG、Mastercard 和 Volvo Cars 在内的 40 多家公司合作,推动在 AI 模型和供应商层面形成统一的透明度、安全性和治理方法。微软还表示,将提升外界对 AI 模型和智能体如何与企业数据交互的可见度,覆盖其全部产品和服务。

美国华盛顿州雷德蒙德,2026 年 11 月 19 日 /PRNewswire/ -- 企业可以观察到围绕 AI 模型的大量活动,但往往无法还原一次请求与一次结果之间到底发生了什么,这使得独立验证模型行为变得困难。微软首席执行官萨提亚·纳德拉在周二的 Microsoft Ignite 大会上宣布了微软在让 AI 更安全方面的下一步举措:AI Transparency Initiative 是一项与客户和合作伙伴协作的努力,旨在为跨模型和供应商的安全与治理建立一种共同、开放的方法。该倡议基于一个简单原则:AI 自主性越强,所需透明度就越高。

微软安全部门执行副总裁 Hayete Gallot 表示:“为了让安全控制真正有效,每个组织都需要对模型本身有更高的透明度。通过这项工作,我们将为所有模型带来更多透明度。这是让隔离更智能、更有效的关键一步,也将帮助我们更好地说明责任和可追溯性。”

企业正在把 AI 模型连接到数据、工具、凭证和基础设施,使智能体能够在无需每一步都获得人工批准的情况下行动。现有控制机制可以观察到 AI 模型周边的大量活动,但无法看到模型内部发生了什么,也无法独立验证模型对自身行为的描述。这限制了组织理解智能体行动上下文的能力。这种缺乏证据的状况会带来安全、合规、审计和责任方面的风险。安全团队需要一种新的信任架构,以应对日益强大的 AI 智能体带来的不断上升的内部风险。

Adobe 安全负责人 Aanchal Gupta 表示:“随着 AI 智能体更深入地融入企业运营,安全团队需要清晰了解这些智能体访问了什么、采取了什么行动,以及这些行动如何被验证。推动整个行业形成共同的 AI 透明度方法,对于增强信任至关重要,也有助于组织在保持安全和责任的同时,自信地创新。”

从原则到实践

该倡议包含三个部分。首先,微软将扩大其在美国国家标准与技术研究院(NIST)SI Agent Standards 倡议中的参与,并基于相关研究开发面向行业的开放标准,涵盖 AI 透明度、安全性和治理。其次,微软正与 40 多家公司合作,包括 Accenture、Adobe、KPMG、Mastercard 和 Volvo Cars,共同推动面向 AI 系统的开放标准,使其具备可问责、可独立验证、并在设计之初就安全,无论使用何种模型或供应商。

第三,微软将把这项工作整合进 Microsoft AI、Microsoft Foundry 和 Microsoft Copilot,使客户能够将获得的证据用于其安全和合规工具,无论这些工具来自微软还是其他供应商。

KPMG International 全球信息安全负责人 John Israel 表示:“我们的客户希望更快地推进 AI,但他们不应该在创新和安全之间做选择。对 AI 的信任需要透明度、可解释性和负责任的监督。我们很自豪能与微软合作推进 AI Transparency Initiative,帮助建立行业开放标准,为组织提供负责任、大规模部署 AI 所需的可见性和控制力。”

责任明确

拥有数据、工具和凭证访问权限的智能体,其风险特征与特权内部人员相似,但它们以机器的速度和规模运行,因此独立监督至关重要。

责任仍然在企业本身。发生重大事件时,管理层必须向客户、员工、董事会、审计师和监管机构负责。把责任归咎于 AI 不是解决办法,“信任模型”也不是一种控制手段。

该倡议旨在兼容不同模型和供应商,包括封闭权重和开放权重模型,这样开发团队就可以更换或更新驱动其智能体的模型,而不会削弱 IT 和安全团队安全管理这些智能体的能力,也不会削弱合规团队审计其行为的能力。

Accenture 全球网络安全负责人 Harpreet Sidhu 表示:“随着组织在 AI 转型中迈入新阶段,它们需要一个坚实的信任基础。像微软这样采取开放、行业导向的 AI 透明度方法的倡议,可以帮助我们保护 AI 模型,并为其配备合适的控制和治理。Accenture 很自豪能与微软及该领域的其他领导者合作。”

看见、验证、控制

微软认为,每个组织都应该能够看到 AI 系统访问了什么、做了什么,独立验证其行为,并控制其被允许执行的操作。

  • 看见:了解 AI 被要求做什么、被允许做什么,使用了哪个模型和哪个运行环境,访问了哪些数据和工具,以及采取了哪些行动。持续监控智能体活动和风险信号,并对照既定政策和阈值进行检查。
  • 验证:智能体不能成为其自身行为的唯一真相来源,也不能指望前沿模型自我治理。与智能体身份、委托意图和行动相关的证据必须标明来源(模型、其周边的运行环境,或身份和策略等独立系统),以便模型报告的信号能够与独立观察记录相互验证。组织应当能够使用自身的安全和合规系统独立验证 AI 活动,而不是仅依赖模型供应商对其行为的说法。
  • 控制:对 AI 被允许做什么保持控制。关于每个工作流的目标、所有者、数据和委托权限的清晰证据,有助于组织在重大行动发生前执行政策,并在调查、隔离、恢复和审计过程中还原事件经过。即使更换模型和供应商,这些证据也应继续保留。组织必须继续控制其智能体可以访问哪些数据,以及这种访问如何受到治理,无论使用何种模型或供应商。

参与方式

有意参与塑造该倡议或跟踪其进展的企业,可访问 aka.ms/learnmoreAItransparency 了解更多并注册。

微软还表示,关注 Microsoft Ignite 的最新进展,微软及行业领袖将分享他们对组织如何自信管理 AI 模型和智能体的看法。更多信息可在 Microsoft Security 博客上查看。