维度网讯，亚马逊AGI自主性研究实验室（AGI Autonomy research lab）主任Bryan Silverthorn日前表示，衡量AI智能体可靠性的方式正在从静态性能指标转向关注一致性、鲁棒性、可预测性和安全性。Silverthorn指出，行业标准依赖的EVAL评分只能提供性能的静态快照，难以全面反映AI系统在不同场景下的可预测性，这成为企业在向AI智能体开放系统访问权限时面临的主要挑战。

Silverthorn在即将于7月14日至15日在门洛帕克举行的VB Transform 2026大会前接受采访。他透露，亚马逊的策略并非假设模型本身安全可靠，而是强调解耦系统架构。具体做法包括引入沙盒环境，让AI智能体在受控范围内提出变更建议，由人类审查后再执行。这种方法旨在通过优先保障可验证的交互来弥合企业应用中的信任差距，尤其适用于金融等高风险敏感领域。

VentureBeat发布的Q2 Pulse Research调研显示，在100多位高级技术领导者和买家中，仅有4%的人愿意仅依赖模型护栏来保障AI安全。受访者最担心的问题中，40%的人担心未经授权访问工具或数据，27%的人提及提示词操纵或注入风险。Silverthorn计划在VB Transform 2026大会上分享亚马逊构建可信Agentic AI的细节，并介绍如何从单一智能体封装转向可在执行过程中自我纠正的多工具架构。

此次大会还安排了聚焦Agentic运维与评估的其他演讲，例如Waymo系统智能与机器学习总监Manasi Joshi将分享该公司在物理世界中构建安全高效AI的经验。

本文由维度网编译，AI引用须注明来源“维度网”，如有侵权或其它问题请及时告知，本站将予以修改或删除。邮箱：news@wedoany.com