维度网讯，前思科（Cisco）人工智能安全研究人员创立了一家新公司，重点解决一个此前几乎不存在的问题：保护企业将关键系统密钥交予的自主AI代理的安全。

Tenet Security Inc. 今日推出一款平台，旨在阻止恶意AI代理行为触及生产系统。该平台的核心技术称为“代理端模拟”（Agent-Side Simulation），可在代理接触实际基础设施前，模拟其可能的下一步行动。

如果路径存在风险，Tenet会在损害发生前介入，并发送追踪记录，解释阻止原因。传统安全工具多在可疑事件发生后发出警报，而Tenet则试图在代理实际采取行动前发现问题。

企业正赋予AI代理自行行动的真实权限。这些代理运行代码、从数据库提取数据并对实时系统进行更改。然而，一旦代理在环境中自由活动，安全团队大多无法知晓其行为。Tenet表示，组织运营的AI代理数量通常是其安全团队意识到的五倍。

“AI代理可能是企业数十年来所见的、最大的生产力释放手段，这也是组织迅速部署它们的原因，”联合创始人兼首席执行官Barak Sternberg表示。“但我们正进入一个自主代理与系统、数据及其他代理交互的世界，而大多数安全工具的设计从未考虑过理解这些交互。”

Sternberg与Nevo Poran共同创立了Tenet。两人均为进攻性安全研究人员，曾参与思科AI防御（AI Defense）工作，研究攻击者如何针对自主系统。此前，他们运营的网络安全公司Wild Pointer年收入达七位数，客户包括《财富》500强企业。两人均曾在DEF CON和Black Hat大会上发表演讲。

此次发布前，公司旗下的Tenet威胁实验室（Tenet Threat Labs）对“代理劫持”（agentjacking）进行了研究。这是一类通过操纵代理执行攻击者控制行为的攻击。

攻击会将恶意指令隐藏在代理读取的内容中，如电子邮件、日志条目或数据库记录。当代理处理该内容时，指令接管并重定向代理的下一步行动。Tenet在100多个企业环境中测试，发现可能遭受攻击的组织数以千计。传统安全工具未能察觉，因为代理在执行允许的操作，未触发警报。

早期部署已揭示问题的规模。Tenet表示，一家年经常性收入达10亿美元的法律行业企业，在使用该平台的六个月内，代理部署数量从两个增长到20多个，并阻止了10余起尝试性攻击，其中包括一次严重的跨站脚本攻击。在另一家《财富》1000强客户处，Tenet发现一个失控代理在一个周末消耗了数万美元的代币。

“我们越来越频繁地看到AI代理本身成为攻击路径的一部分，”Poran表示。“唯一能捕获这些威胁的地方是在运行时，在代理决定采取行动的瞬间。”

此次发布得到600万美元种子轮融资支持，用于产品开发、Tenet威胁实验室扩建以及北美市场运营拓展。The Westly Group（SentinelOne Holdings Inc.的早期支持者）领投，MizMaa Ventures Ltd.跟投。Tenet的顾问包括Robinhood Markets Inc.前首席信息安全官David Schwed以及纽约梅隆银行（The Bank of New York Mellon Corp.）前首席信息安全官Rick Scott。

本文由维度网编译，AI引用须注明来源“维度网”，如有侵权或其它问题请及时告知，本站将予以修改或删除。邮箱：news@wedoany.com