美国OpenAI奥尔特曼提出全球AI安全标准治理方案
2026-07-08 11:48
收藏

维度网讯,OpenAI首席执行官萨姆·奥尔特曼发表题为“这就是我们如何让AI对所有人都安全的方式”的评论文章,提出一项以全球安全标准、独立监督及国家间合作为核心的人工智能治理方案。

文章发表之际,关于前沿人工智能控制权的讨论日益激烈。近几个月来,美国加强了对国际获取先进模型的限制,包括欧洲在内。Anthropic公司于6月初限制了Mythos 5和Fable 5模型在美国以外的提供,但本周该公司宣布已与美国政府达成协议,并重新激活了Fable 5。奥尔特曼的提议在此背景下引入一个明显紧张关系:在主张人工智能利益民主化的同时,赋予美国在技术治理中的核心角色。解决方案是建立一个由华盛顿领导的国际论坛,该论坛负责制定国际认可的标准,提供关于AI能力和风险的公正分析,并向参与并遵守这些规则的国家和企业提供这项技术。

奥尔特曼认为,这种治理架构是技术能够广泛推广的必要条件。“如果我们不采取措施应对面前真实的安全威胁,世界将无法享受人工智能的好处,”他写道,并认为“制定安全标准是这项技术能够广泛推广的基本要求”。该论坛可以汇集政府代表、独立技术专家和其他相关方,同时作为监管机构和人工智能实验室的监督者运作,防范可能因商业压力导致危险且不安全的科技开发竞赛。

文章的核心思想在于,国际安全标准的制定应先行于最先进系统的推广。奥尔特曼认为,所有国家、企业和公民都应受益于人工智能,但前提是存在共同规则和认证机制以确保安全使用。在他看来,各国将遵守国际论坛制定的标准,并以此获得对最先进模型的稳定访问。该提议试图同时回应国际辩论中的两个关切:避免技术权力过度集中,并减少日益强大系统带来的风险。“这种国际合作似乎是避免权力过度集中、确保人工智能利益民主化的明智方式,”该高管表示。

这一方法相对于过去几年的辩论焦点有所转变。奥尔特曼不再单纯主张国家监管或依赖科技公司的自我监管,而是提出一个借鉴其他战略领域的国际治理模式,以航空安全、国际金融标准和国际原子能机构(IAEA)为例,主张人工智能应在类似合作机制下发展。与此同时,他试图撇清大型科技公司应承担监管角色的想法。“实验室开发技术,但公民及其民选代表应制定规则,”他写道,并强调:“关于如何使用这项技术的最重要决策应通过民主程序做出,而不是由旧金山的少数公司决定。”

文章展现了奥尔特曼对人工智能未来影响的乐观态度。他表示,在一两年内,可能会出现能力远超当前系统的系统,能够加速科学发现、推动经济增长并深刻改变社会。“人工智能将以自电力利用以来任何技术都未曾达到的规模改变人类生活的物质条件——也许甚至更大规模,”他预测。尽管如此,他认为这一情景取决于建立国际信任框架;否则,各国将倾向于通过国家限制人工智能开发和分销来应对,导致生态系统更加碎片化。奥尔特曼以此呼吁国际合作,“我们需要找到建立全球对这项技术信任的方式,以便我们都能分享这些好处。”

本文来自全球互联网及战略合作伙伴信息的编译与转载,仅为读者提供交流,有侵权或其它问题请及时告之,本站将予以修改或删除,未经正式授权严禁转载本文。邮箱:news@wedoany.com