在德克萨斯州奥斯汀举行的SXSW大会上，Signal总裁梅雷迪思·惠特克(Meredith Whittaker)对代理人工智能(AI)的隐私和安全风险发出了强烈警告。她将AI代理的使用比喻为“把你的大脑放在一个罐子里”，并指出这种新兴技术范式在隐私和安全方面存在“深刻的问题”。

惠特克解释说，AI代理被宣传为一种能够通过处理各种在线任务来提升生活便利性的工具。例如，AI代理可以查找音乐会、预订门票、安排日历活动，甚至向朋友发送消息。然而，她强调，这种便利性是以牺牲隐私和安全为代价的。

“为了实现这些功能，AI代理需要访问我们的网络浏览器、信用卡信息、日历和消息应用程序，”惠特克指出，“它需要类似root权限的系统访问权，以驱动这些进程并访问明文数据，因为模型无法处理加密数据。”

她进一步警告说，支持这些功能的强大AI模型无法在设备上运行，数据几乎肯定会被发送到云服务器进行处理。这种数据处理方式打破了应用程序层和操作系统层之间的“血脑屏障”，导致数据混淆和隐私泄露。

惠特克特别提到，如果像Signal这样的消息应用程序与AI代理集成，用户消息的隐私将受到严重威胁。AI代理需要访问应用程序以发送消息并提取数据以总结文本内容，这将破坏端到端加密的保护机制。

她的评论呼应了她在小组讨论中提出的观点，即AI行业建立在大量数据收集的监控模型之上。她批评“越大越好”的AI范式，认为这种模式可能导致不良后果。惠特克总结道，代理AI以“神奇精灵机器人”的名义进一步侵蚀了隐私和安全，呼吁业界重新审视这一技术的潜在风险。