维度网讯，谷歌云首席运营官弗朗西斯·德苏萨（Francis de Souza）在洛杉矶一场活动期间就企业AI安全策略提出建议，认为企业应采取平台化方法将安全内嵌至AI开发全流程，并指出行业正面临从人工主导防御向AI原生自主防御的过渡期。德苏萨表示，安全不应是事后附加的环节，也不能完全交由员工自行处理，他特别警告“影子AI”现象，即员工在组织监管之外使用消费级AI工具，主张企业应从一开始就要求平台具备安全性、可治理性和可审计性。

德苏萨强调，没有数据战略和安全战略就不存在真正的AI战略，二者必须协同推进。他否认自己的建议仅是推销谷歌云，指出谷歌致力于多云策略，因为即使是宣称使用单一云的企业也往往依赖SaaS应用和跨云协作的业务合作伙伴。他认为公司拥有跨云、跨模型一致的安全态势非常重要。

德苏萨指出，威胁格局已发生根本变化，从初始入侵到攻击下一阶段移交的平均时间已从8小时缩短至22秒，攻击面远超传统网络边界。除常规资产外，企业还需保护模型、训练数据管道、代理及提示语等新要素。他特别提到，一个尚未获得足够关注的威胁是，在企业内部系统移动的AI代理可能发现多年未被发现且访问控制未更新的数据存储库，从而暴露其中数据。

在他看来，应对方案是以机器速度对抗机器速度。他表示当前正出现一种AI原生且完全自主的防御，组织可运行驱动自身防御的代理，不再需要人工主导甚至人在回路中的防御，而是让人类监督完全自主的防御系统。这已不仅仅是技术问题，而是领导层问题，涉及董事会和执行团队。

然而，即便AI承担更多防御工作，具备监督资格的人才仍存在缺口，而AI本身引入的漏洞正以快于安全团队处理速度的态势倍增。领英首席信息安全官莉亚·基斯纳（Lea Kissner）本周向《纽约时报》表示，行业至少需数年时间才能以可持续的方式理解AI安全。

与此相关的是平台提供商自身的问题。《注册》(The Register)近日报道了多起谷歌云开发者因对Gemini模型进行未经授权的API调用而收到高额账单的事件。面试准备平台Prentus首席执行官罗德·达南（Rod Danan）表示，其受损API密钥遭攻击者利用后，30分钟内产生10,138美元账单。悉尼开发者伊苏鲁·丰塞卡（Isuru Fonseca）发现账户产生约17,000澳元费用，尽管其曾设置250美元开支上限。两人均不知情的是，谷歌的自动化系统根据账户历史将其账单等级提升至10万美元上限，未获明确同意。谷歌事后退还了两人费用，但表示无计划更改自动等级升级政策。

此外，安全公司Aikido的研究发现，即使开发者发现受损密钥并立即删除，攻击者仍可在最多23分钟内继续使用该密钥，因为谷歌的撤销操作在其基础设施中逐步传播。在此期间，成功率不可预测，某些分钟内超过90%的请求仍通过验证，攻击者可利用此时间差从Gemini窃取文件和缓存的对话数据。Aikido研究员约瑟夫·莱昂（Joseph Leon）指出，谷歌自家较新的服务账户API凭据可在约5秒内撤销，Gemini较新的AQ前缀密钥格式约需一分钟，这表明23分钟窗口并非工程限制，而是公司优先级选择问题。

本文由维度网编译，AI引用须注明来源“维度网”，如有侵权或其它问题请及时告知，本站将予以修改或删除。邮箱：news@wedoany.com