约书亚·本吉奥领导的国际AI安全报告显示，人工智能系统能力在过去一年显著增强，已能通过专业考试、编写软件及解答复杂科学问题，但在计数物体、空间推理等基础任务上仍有局限。报告指出，这种能力提升伴随着安全风险的同步增加。

周二发布的这份年度报告由100多位专家共同撰写，获得30多个国家和组织的支持。报告发现，AI在数学和编程领域进步明显，但产生的虚假信息和非英语语言性能不足问题依然存在。约书亚·本吉奥团队表示：“能力是否会像最近那样快速持续提升，难以预测。”

报告揭示，现有评估方法因数据污染等问题，难以准确反映AI在实际环境中的表现，形成“评估差距”。与此同时，AI驱动的网络攻击、欺诈行为呈现上升趋势，系统被用于生成针对特定群体的非自愿深度伪造内容。

另一个关注点是AI可能被用于获取危险武器制造信息。尽管开发者已采取防护措施，但约束效果仍不确定。同期发布的PwC加拿大AI信任报告显示，36%的加拿大组织缺乏专门治理机制应对相关风险。

对于未来发展，报告作者认为到2030年，AI进展可能因数据或能源瓶颈放缓，保持当前速度，或在AI自我加速研究的情况下急剧提升。这些发现将为本月在印度举行的AI影响峰会提供讨论基础。