美国微软联合40余家机构启动AI透明度倡议

2026-11-18 10:11
收藏

11月17日,美国微软在旧金山举行的Ignite 2026大会上启动“AI透明度倡议”,联合埃森哲、Adobe、毕马威、万事达卡、沃尔沃汽车等40余家机构,制定适用于不同人工智能模型及供应商的透明度、安全和治理开放标准。微软计划扩大与美国国家标准与技术研究院(NIST)的合作,并将相关技术成果纳入旗下人工智能产品与服务。

微软将进一步参与NIST智能体标准倡议,利用相关研究成果推进AI透明度、安全性和治理要求的行业标准制定。合作机构将共同研究AI系统行为记录、独立验证及权限控制机制,标准覆盖闭源模型和开放权重模型,并适用于不同模型供应商提供的产品。

相关标准将逐步整合至Microsoft AI、Microsoft Foundry和Microsoft Copilot产品及服务。企业客户可通过微软或第三方安全与合规工具,获取AI模型和智能体的行为证据,并开展独立安全审查及合规验证。

微软提出的技术机制包括AI行为可观察、可验证和可控制三个部分。行为记录将覆盖智能体接收的任务、使用的模型与运行环境、访问的数据及工具、执行的操作,以及相关权限和风险信号。验证机制将区分模型自行生成的行为记录与运行环境、身份管理及策略系统形成的独立证据,支持企业核查智能体的实际操作。

权限控制机制将记录AI工作流程的任务目的、责任主体、数据使用范围和授权权限,支持企业在关键操作执行前实施安全策略,并在安全调查、事件处置和审计过程中追溯智能体操作记录。相关行为证据可在企业更换模型或供应商后继续用于安全管理和合规审查。

本文来自全球互联网及战略合作伙伴信息的编译与转载,仅为读者提供交流,有侵权或其它问题请及时告知,本站将予以修改或删除,未经正式授权严禁转载本文。邮箱:news@wedoany.com