布鲁金斯学会报告：深度伪造与国际冲突

深度伪造（Deepfake）技术之所以投入使用，得益于近期机器学习领域上的突破。最近机器学习革命的核心是深度神经网络，通常被称为“深度学习”。有了足够的数据和计算能力，深度学习模型可以变得非常强大，包括生成真实的图像、音频和文本。事实上，它们非常有效，因此从深度学习中的“深度”产生了“深度伪造”这个术语。为了生成深度伪造的视频，通常使用特定的深度学习算法，即生成式对抗网络，简称GAN。

GAN由两个关键部分组成：试图生成假图像的生成器算法和试图区分真假图像的判别器算法。想象一下，有人想用一组真实图像生成白宫的合成图像。一开始，生成器将创建一个基本上是随机噪音的图像，一点也不像白宫。判别器算法将迅速简单地识别出生成器的图像，通过与真实图像对比，判断其是假的。生成器现在了解到它必须生成一个与先前生成的图像不同的图像。基于这一反馈，生成器算法可以生成一个更好的假图像，骗过判别器。随着这个过程不断重复，生成器会生成越来越逼真的图像，而判别器在区分真实图像和假图像方面会变得越来越差。当达到一个稳定的状态时，GAN就会收敛，这样，无论是判别器的性能还是生成器的性能都不会随着时间的推移而继续提高。

随着深度伪造在愚弄人类方面越来越成功，科学家开始开发相关技术检测深度伪造视频。简单的监测技术包括寻找深度伪造技术人员所犯的错误，更复杂的包括检查图像的技术属性和所使用的相机。深度伪造检测方法还可以在真实与深度伪造的图像和视频中寻找人脸的地标点--如鼻尖或眼睛的中心，以及这些地标点与口语音频之间的不一致之处。

随着机器学习变得越来越强大，成本效益越来越高，受操控的媒体对民主构成的挑战也越来越大。政府常常利用成本低廉的深度伪造技术，在社交媒体发布领导人的虚假视频，进行海外舆论战。鉴于社交媒体的传播速度，不论是真实还是虚假信息，其传播速度往往很快，并产生信息级联。由于虚假信息无处不在，这可能导致其被广泛接受。

今天，深度伪造技术使得虚假信息变得更为强大，深度伪造技术现已应用于国际冲突，且其作用将在未来变得愈发凸显，包括以下：

一、使战争和暴动合法化：长期以来，各国一直利用虚假信息和民众的愤怒情绪作为发动战争的借口。2017年，一些海湾国家与卡塔尔关系恶化，原因是一次电脑黑客攻击导致传播了一些虚假的卡塔尔最高领袖埃米尔的言论。如今，深度伪造技术所伪造的音频和视频更加真实，可以“揭示”入侵计划或其他邪恶意图。

二、伪造命令：深度伪造技术通过伪造音频和视频内容，伪造指挥官发号的命令。俄罗斯曾伪造泽连斯基指示乌克兰士兵放下武器、向入侵的俄罗斯军队投降的视频。一些伪造命令的视频内容包括高层领导人命令士兵放下武器、撤退、发射根本不存在的化学武器，或者以其他方式鼓励大规模投降、驱逐防御严密的部队，这将使军队变得脆弱。

三、制造混乱：当平民和士兵被要求无视领导人的指示时，他们可能也会无意中忽视真实的命令，这会在危险时期制造混乱。当真实和虚假的消息混合在一起，使人们无法分辨两者的区别时，虚假信息便最为有效。从本质上讲，这种无意的混乱就如同虚假命令的镜像：正确的指令遭到无视，无人遵循。

四、分裂军队：分裂的军队通常战斗力低下，因此，保持部队的凝聚力和团队精神是训练和领导的重要组成部分。敌人可以伪造信息，显示最高政治或军事领导人发表种族主义言论，表达对其士兵和官员的蔑视，嘲笑死伤者，或以其他方式诋毁他们。这种深度伪造还可能显示军事领导人质疑上级的权威，或将一场正在进行的战斗或战争描述为一个失败的计划，导致下层士兵缺乏战斗意愿。

五、削弱民众支持：对于军队，高昂的士气是最重要因素，士兵需要感到他们在为一件有价值的事业而战斗。对叛乱分子而言，民众的支持对于确保他们有足够的食物和安全通道也是至关重要的。深度伪造可能会谎称军队侵犯人权、偏袒某个群体、逃跑而不是勇敢战斗、实施抢劫和偷窃，或者以其他方式背叛他们声称要捍卫的事业和人民。

六、分化社会：俄罗斯已试图利用假新闻来分化美国社会，渲染抗议活动引发的紧张局势。深度伪造可能会加剧这种紧张局势，因为它展示了白人警察在枪杀手无寸铁的黑人时高喊种族歧视言论。这种做法可能会增加军队内部的分歧，并导致对政治领导人的信心下降。

七、分裂盟友：盟国有不同的安全优先事项和国内政治关切，虚假内容会加剧差异。深度伪造提供了一种令人信服的方式，来展示领导人对盟友及其伤亡做出的轻蔑、漠不关心的评论；对盟友的敏感问题的嘲笑；或以其他方式破坏双边或多边关系。

八、抹黑领导人：深度伪造可以用来抹黑领导人。深度伪造视频的内容可能是一名领导人发表种族主义、冷酷无情或麻木不仁的言论；嘲笑伤亡人员或政治伙伴；或以其他方式冒犯重要国家、人民和选区。

九、成功的虚假信息活动往往利用目标对其的反应：冷战期间，美国情报部门向东德贸易部门在世界各地的客户发送了伪造信件，声称这些信件来自东德贸易部，指出东德由于经济问题无法再接受订单。不出所料，东德谴责该伪造信件，因为不确定哪些客户收到了这封信，不得不向所有客户发出解释，严重损害了其声誉，并使客户感到困惑。

深度伪造的潜在应用范围之广，给美国和其他民主国家的政策制定者和安全分析人士带来了严峻的挑战。深度伪造对情报分析师、记者和其他试图实时分析真相的人构成了挑战。对于单一来源的信息，必须更加谨慎。考虑到欺骗的可能性，放慢速度并验证信息更为重要，但不小心的分析师往往会填补由此产生的信息空白，导致更多人相信深度伪造信息。同样，记者可以模仿情报产品，讨论判断的“置信水平”，或以其他方式使不确定性水平更清晰。相比之下，对于民主国家的官员自己应该在何时以及如何使用深度伪造技术，政策关注相对较少。一方面，民主国家在维护国内和全球信息环境的完整性方面具有既得利益，不应采取可能损害公众对真实信息共享的能力的信心和信任的策略。出于该原因，民主国家的官员不应将深度伪造作为公共信息运作的一部分。但另一方面，鉴于民主政府几乎肯定会考虑生成和传播深度伪造内容，它们应该建立强有力的监督和问责机制来进行管理。

一种方法是在联合国的主持下，就各国政府使用深度伪造产品制定一项国际协议或行为准则。深度伪造的一个有用模型是漏洞公平裁决程序，美国政府开发了该模型，作为对发现零日网络安全漏洞的响应。由于这些漏洞可能构成最严重的网络相关风险，政府需要开发一种逐案方法来权衡利用给定漏洞和不公开漏洞的好处和风险。

美国和其他民主政府应该考虑建立深度伪造公平裁决程序，因为有理由担心深度伪造对信息环境的潜在影响，不应轻易做出生成和使用深度伪造的决定，也不能没有仔细考虑权衡。深度伪造技术的使用，尤其是那些在冲突环境下攻击高价值目标的技术，将对政府部门和机构产生广泛影响。建立这样一个基础广泛的审议过程是确保民主政府负责任地使用深度伪造产品的最佳途径。