ITBear旗下自媒体矩阵:

微软集结40多家组织发起AI透明度与治理标准合作

   时间:2026-11-18 10:21:02 来源:互联网编辑:快讯 IP:北京 发表评论无障碍通道
 

企业把AI模型接入内部数据和工具之后,智能体已经可以在没有逐步人工审批的情况下自行完成任务。11月18日,微软在Ignite大会上推出AI透明度计划,试图回应这种变化带来的安全管理、合规审计和责任追溯压力。该计划与埃森哲、Adobe、毕马威、万事达卡、沃尔沃汽车等40多家组织共同推进。

微软董事长兼CEO萨提亚・纳德拉说,公司会与客户和合作伙伴一同建设开放、通用的AI安全与治理框架。按照微软的说明,传统安全机制通常只覆盖AI活动的一部分,既难呈现模型从收到请求到给出结果的完整链路,也无法独立核对模型对自己行为的说明。

计划分三方面落地。其一,微软将更深入参与美国国家标准与技术研究院的AI智能体标准计划,并借相关研究推动覆盖透明度、安全与治理的行业开放标准。其二,微软将与40多家组织一起制定跨模型、跨服务商的开放标准,让AI系统可问责、可独立验证,并在设计阶段嵌入安全机制;这套标准同时适用于闭源模型和开放权重模型,企业更换或升级底层模型时,现有IT安全管理和合规审计机制能够继续使用。其三,微软会把成果融入Microsoft AI、Microsoft Foundry和Microsoft Copilot,企业客户可将AI活动证据接入微软或其他供应商的安全与合规工具。

微软将实施路径归纳为观察、验证和控制。观察要求企业掌握AI收到了什么指令、得到了哪些授权、调用了什么模型和运行环境、访问了哪些数据与工具、实际执行了哪些操作,并持续跟踪智能体活动与风险信号。

验证则强调,AI智能体不能成为证明自身行为的唯一来源。企业要结合模型、运行环境、身份认证、策略管理等独立系统留下的记录,交叉核对AI身份、授权意图和实际操作,不能只听模型服务提供商的说明。控制要求企业继续掌握AI权限,限制智能体可访问的数据、可执行的操作和可获得的授权;一旦出现安全事件,还要能借记录还原过程,用于调查、风险控制、恢复和审计。

微软安全业务执行副总裁Hayete Gallot表示,安全控制要起作用,企业需要更清楚地看到模型内部运行情况。Adobe首席安全官Aanchal Gupta和毕马威国际全球首席信息安全官John Israel也表达了类似关注:企业需要知道AI智能体访问了哪些资源、执行了哪些操作,以及怎样独立验证这些行为。

微软称,AI智能体越深入企业运营,组织就越要继续为其行为承担责任,不能把AI本身当作免责理由。

 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version