上个月，谷歌推出了SynthID Detector，这一新工具旨在检测AI生成的内容，包括文本、图像、视频和音频。然而，该工具目前仅通过候补名单向“早期测试人员”开放，且主要适用于使用Google AI服务生成的内容，如Gemini(文本)、Veo(视频)、Imagen(图像)和Lyria(音频)。

SynthID的工作原理是在AI模型的输出中嵌入水印，这些水印是特殊的机器可读元素，用于确保内容来源或作者身份信息随内容一起传输。然而，这一工具无法直接检测AI生成内容的存在，而是依赖于识别谷歌AI产品及其他一些产品嵌入的水印。因此，若用户尝试使用SynthID Detector来检测非谷歌AI服务生成的内容，如ChatGPT生成的内容，将无法得到预期结果。

当前，AI检测工具市场呈现出碎片化状态。包括Meta在内的多家人工智能公司已经开发了自己的水印工具和检测器，但这些都是“特定于模型”的解决方案，而非通用解决方案。研究人员呼吁建立一个统一的AI检测系统，但这一目标尚未实现。与此同时，另一项工作则侧重于元数据，即关于媒体来源、作者和编辑历史的编码信息。然而，元数据在内容上传到社交媒体或转换为其他文件格式时容易被剥离，从而影响其作为验证手段的有效性。

不同AI检测工具的有效性差异巨大。在内容完全由AI生成时，一些工具表现更佳。然而，当人工智能被用来编辑或转换人类创作的内容时，检测器的准确性就会受到严重影响。此外，AI检测工具通常不会解释其决策过程，这加剧了人们的困惑，并在某些情况下引发了道德争议。

尽管如此，AI检测工具在多个领域仍具有潜在应用价值。例如，在保险索赔中，它们可以帮助保险公司验证客户分享的图片是否符合其声称的内容;在新闻领域，记者和事实核查员可以利用这些工具来辅助判断信息的真实性;在招聘过程中，雇主和求职者可以使用它们来评估对方的真诚性;在约会应用中，用户可以利用它们来识别潜在的爱情骗局;在紧急救援中，这些工具甚至可以节省资源和生命。