维度网讯，德国联邦信息安全局（BSI，Bundesamt für Sicherheit in der Informationstechnik）与弗劳恩霍夫光学、系统技术及图像评估研究所（Fraunhofer IOSB）联合开发了一种名为RealOrRender的深度伪造检测方法，旨在识别AI生成的虚假图像并使其检测过程可追溯。当前，AI生成图像与视频的逼真程度持续提升，大型语言模型已能呈现解剖学正确的肢体、逼真的阴影投射甚至模拟心跳，这加大了区分真实拍摄与深度伪造的难度。欧盟计划收紧法律可能难以根本改变这一局面，因此技术解决方案成为研究重点。
BSI指出，自动化检测方法通常仅在特定条件下才能可靠运行。为此，BSI与Fraunhofer IOSB合作开发了RealOrRender方法。该方法采用两部分流程：首先使用AI图像生成器重建输入图像，随后通过一个AI模型进行分类并混合计算重建误差。Fraunhofer IOSB视频辅助安全与辅助系统研究组高级科学家Andreas Specker解释说，此过程能识别出图像是否为深度伪造。
RealOrRender的具体机制是：系统接收图像后，使用预训练扩散模型进行逆向处理，生成图像的数学指纹（噪声图）以及重建结果，即故意再次伪造原始图像。随后，系统扫描图像中的错误。该方法的逻辑是：若原始图像为深度伪造，其数学指纹与RealOrRender的重建结果相似；若为真实照片，则会产生更多重建误差，因为真实照片包含更多不精确和自然噪声。系统借助一个包含来自18个图像生成器的约12万张图像的训练数据集，计算预估偏差，并给出是否为深度伪造的评估。据研究人员称，该检测性能在85%到91%之间。
RealOrRender还集成了可解释AI（XAI，explainable AI）组件，在分析结束时生成热力图，标记原始图像中指向伪造的细节，包括面部、头发、手等特征以及背景中的物体。这有助于用户理解系统发现了哪些深度伪造迹象，并增强对模型及结果的信任。据悉，RealOrRender已在BSI内部以演示器形式投入使用。
