维度网讯，美国人工智能企业OpenAI推出名为“封锁模式”的新安全功能，旨在加强对使用大型语言模型处理敏感信息的用户和组织的保护。

该模式的设计目的是检测并防御通过提示注入攻击将敏感数据泄露给不当人员的企图。OpenAI表示，封锁模式并非面向所有用户，而是为那些处理敏感数据、希望更严格防范与提示注入相关的数据泄露风险的人员和组织设计。

提示注入攻击是黑客采用的一种新方法，攻击者可将代码文档等指令隐藏在网页中，上传至大型语言模型。在处理这些内容时，攻击者可操控AI系统获取敏感信息。OpenAI选择在该攻击趋势上升的背景下推出此模式。

启用封锁模式后，ChatGPT将限制多项大型语言模型功能，包括不抓取互联网图片或生成图片，用户下载文件以供分析的操作也将受限。但用户仍可上传文件、图片和文档以供分析。OpenAI澄清，该模式不会影响对话记忆和对话分享设置。在企业环境中，管理员将拥有全部配置和更改权限。

此外，ChatGPT新增了名为“活跃会话管理器”的工具，用户可查看已登录设备甚至浏览器，并可从不需要的设备远程退出账户。

本文由维度网编译，AI引用须注明来源“维度网”，如有侵权或其它问题请及时告知，本站将予以修改或删除。邮箱：news@wedoany.com