深度伪造与AI生成图像：实际区别是什么

这些标签常被混用，实则含义不同。当你需要判断检测分数的可信度时，深度伪造与AI生成图像的区别至关重要。深度伪造是一种特定技术，而AI生成图像是更宽泛的类别。大致而言，所有深度伪造都是生成或经过处理的，但大多数AI生成图像并非深度伪造。

什么是深度伪造

深度伪造使用训练模型替换或合成特定人物的肖像，其核心特征是针对可识别的个人，并试图逼真地保留其身份。大多数深度伪造是视频，部分是图像，该技术的定义是意图描绘真实人物未做过的行为。实际影响：深度伪造通常能较好地保留人脸，但在其他方面会出现缺陷，比如背景几何、光照一致性，以及人脸边缘的细节。

什么是AI生成图像

AI生成图像由生成模型制作，要么完全基于提示词，要么对现有图像进行大幅重绘，可能不涉及特定个人。风景、产品图、新闻场景或抽象插画都可以是AI生成的，且不一定是深度伪造。实际影响：其失效模式更宽泛且难以预测，手、文字、重复结构和物理合理性是常见弱点，但精心生成可以避免所有这些问题。

为什么这种区别会改变你的检测方式

如果你怀疑是深度伪造，最有价值的检测是聚焦身份的：人脸是否与同一光照下该人物的其他验证图像匹配？人脸边界是否与图像其他部分一致？该特定文件是否附带provenance记录？如果你怀疑是普通AI生成图像，身份检测无关紧要，图像可能根本没有可识别的人物，你需要场景级检测：物理合理性、光照方向一致性、重复模式，以及是否存在任何provenance层。对合成风景进行人脸聚焦分析不会产生有用结果，对精心制作的深度伪造进行场景分析可能会忽略实际的处理痕迹。

检测分数对二者的处理方式不同

在生成图像数据集上训练的detector通常对深度伪造的表现参差不齐，反之亦然，因为统计特征不同。针对扩散伪影调整的模型可能对表征人脸交换的混合接缝不敏感。这是单一分数不可靠的原因之一：在同一文件上，不同数据集训练的两个detector可能会产生截然不同的结果，有时这种分歧能告诉你该图像属于哪个类别。我们的方法论解释了如何处理这种情况。

两种标签都无法告诉你的信息

两种标签都无法告诉你所描绘的事件是否真实发生。真实人物在真实地点的深度伪造仍然是伪造的，标注为插画的虚构场景生成图像不会伤害任何人。值得回答的问题不是“这是深度伪造吗”，而是“这是什么文件，它经历了什么，我实际能确定什么”，这种框架适用于新一代技术。在provenance缺失且不存在原始文件的情况下，诚实的立场是该问题尚未解决，应升级至人工审核，而非由分数定论。这种缺失不是处理的证据，而干净的结果也不是真实性的证据。样本报告展示了当信号冲突时如何撰写报告。如果你需要确定特定文件是什么，启动免费审核，结合provenance和detector层进行判断，而非单独信任其中任何一个。