维度网讯，OpenAI在2026年选举周期前推出了一系列保障措施，旨在应对AI生成选举假信息带来的风险。该公司表示，工作重点将集中在帮助用户获取投票信息、支持网络安全防御者以及提高AI生成内容的透明度上。

OpenAI指出，用户已使用ChatGPT以多种语言询问公民活动相关问题，包括如何注册、投票地点、截止日期以及官方选举结果查询。从今年秋季开始，在美国和巴西，ChatGPT将在选举夜提供来自美联社的实时选举结果。在美国，OpenAI与Democracy Works合作，当用户提问时，系统将提供投票和登记信息，涵盖投票地点等后勤事宜。该公司称，全球范围内将持续优化网络搜索，以更有效展示带有来源链接的有用信息。

研究人员发现，生成式AI系统在特定提示下可产生选举假信息，引发了对AI如何影响舆论和传播欺骗性政治内容的担忧。OpenAI警告说，用户越来越多地使用AI工具创建在社交媒体、即时通讯应用和网站上分享的内容，这加剧了对深度伪造和被操纵媒体的担忧。为遏制此类问题，OpenAI投资了一种多层次来源验证方法，帮助验证内容是否由AI创建或修改。上周，OpenAI引入SynthID数字水印到通过ChatGPT、Codex和OpenAI API生成的图像中，该水印在屏幕截图或修改后仍可检测。该公司表示，将继续限制工具用于政治冒名、选民压制和欺骗性竞选活动，并开发旨在提高AI生成内容和合成媒体透明度的系统。

自乌克兰入侵以来，俄罗斯多次被指控通过网络攻击、虚假信息运动等方式破坏支持基辅国家的稳定。去年德国选举前夕，与俄罗斯相关的机器人网络传播了虚假视频和媒体内容，德国当局称这是一次协调干扰活动。OpenAI总结说，让用户能够使用AI系统了解、探索和讨论政治问题，同时限制不良行为者的滥用，这很重要。

本文由维度网编译，AI引用须注明来源“维度网”，如有侵权或其它问题请及时告知，本站将予以修改或删除。邮箱：news@wedoany.com