常言道“眼见为实”，然而深度伪造（deepfake）技术的出现，正在摧毁我们对现实的认知和数字信息的信任。在此背景下，18新利体育 科技传播研究中心主任王国燕教授领衔的科技传播跨学科团队与中国科学技术大学网络空间安全学院院长俞能海教授领衔的深度伪造技术团队合作开展了一系列 “技术+人文”的深度伪造专题实证研究，其中探索信息线索对视频感知可信度影响机制的研究成果以“Assessing the perceived credibility of deepfakes: The impact of system-generated cues and video characteristics”为题，2023年9月25日在线发表于新闻传播学领域的SSCI一区期刊New Media & Society，这也是18新利体育 在该期刊上发表的首篇论文。
图1 蒙娜丽莎“换脸”
（图片来源：Gulf News）
深度伪造基于自动化图像识别、深度学习、神经网络等计算机技术，能够将个人的声音、面部表情及肢体动作叠加到目标图像上，合成虚假内容，被称为人工智能换脸技术（AI face swap)。作为“视觉转向”下的新型虚假信息，深度伪造视频具有高度欺骗性，带来了隐私侵犯、虚假信息、金融诈骗甚至政治操纵等问题频发。目前，政策制定者与研究人员主要运用技术和法律手段进行治理，但是效果却不尽如人意，因此以受众为中心的解决方案应该受到更多重视。在此背景下，我们需要了解在当前的社交媒体环境中用户如何评估深度伪造视频的可信度。而先前的研究表明视频模态的信息会增加个体的认知负担，加之数字时代的信息过载，受众往往会依赖启发式线索（heuristic cues）或者说外围线索来评估信息的可信度。
图2 两组实验视频的截图
研究通过两组2x2x2的控制实验（N=518），探究了环境生成的外围线索（包括视频流行度，视频描述和来源粉丝数量）和视频固有的内生线索（包括视频清晰度、视频时长和视频剪辑）如何影响个体对深度伪造视频感知可信度的判断。研究结果显示社交媒体用户会依赖社会背书启发式线索（social endorsements heuristics）和技术质量启发式线索（technical quality heuristics）来评估视频的可信度。一方面，视频的流行度和来源的粉丝数量对深度伪造视频的感知可信度有显著的正向影响，说明在社交媒体上用户对视频信息的评估并非处于“真空”中，而是具有明显的趋同性和群体归属性。另一方面，当用户感知到较高的视频质量时（例如高清晰度），深度伪造视频可能被误认为是真实的，这提醒我们必须警惕高质量深度伪造视频潜在的强大欺骗性。同时研究发现，在较短的视频中，经过剪辑的深度伪造视频具有较低的感知可信度，但是在较长的视频中，剪辑的影响却消失了。这可能是因为剪辑痕迹容易触发不可信的认知启发（the cognitive heuristic of non-credibility），而在较长的视频中，当画面差异较小时，用户难以辨别出视频是否经过剪辑，这可能暴露出用户视觉素养的不足。
图3 视频长度与视频剪辑的交互作用
这项工作丰富了有关深度伪造的研究，有助于洞察用户对于视频信息加工方式，为制定策略以提高个体对深度伪造的审查能力、降低深度伪造技术的负面影响提供了一定的参考价值。研究特别强调了视觉素养教育的重要性，培养公众对视觉内容的批判性消费意识，提高公众对视觉材料的解读能力，可能是应对深度伪造技术风险的有效路径。同时，鉴于个体对认知捷径的依赖，利用启发式信息线索引导公众进行正确的可信度评估，例如在信息流中设置实时的警示线索，可能有助于解决当下网络环境中泛滥成灾的虚假信息问题。
根据2023年期刊引用报告New Media & Society的影响因子为5.0，每年发表的中国学者论文约10余篇。该期刊出版来自社会科学和人文学科的同行评审内容，基于广泛的学科视角以及理论和实证研究，对新媒体发展过程中的关键问题进行批判性讨论。自2021年以来，18新利体育 传媒学院王国燕教授课题组围绕深度伪造开展了一系列探索性的实证研究，为厘清深度伪造识别的影响因素提供了丰富的见解，团队撰写的网络治理研究专报已被国家部委多个单位采纳。中国科学技术大学俞能海教授团队长期从事网络安全与AI安全的相关研究，在深度学习模型保护、深度伪造检测等方向硕果累累，还在全球最大规模的Deepfake检测竞赛Kaggle Deepfake Detection Challenge（DFDC）中获得全球第二的优异成绩。
18新利体育 博士研究生金心怡为论文的第一作者，王国燕教授为通讯作者，高博文、高树青两位老师以及硕士研究生张卓越参与其中。该研究受到了国家自然科学基金（No. 82273744）和江苏省社会科学基金（No. 22XWD001）资助。