Deepfakes是如何破坏真相，威胁民主的？

Deepfake，是一种为了恶意的目的，像是引发暴力或诽谤政客和记者，来伪造视频或音频的技术。它的使用在逐渐变成一种真实的威胁。随着这方面的工具变的更加便捷，做出来的产品更加真实，它们将如何塑造我们对世界的看法？在这个演讲中，法律教授 Danielle Citron展示了Deepfakes技术如何放大了我们的不信任感，并且提出了一些保护真相的方法。

【此演讲包含成人内容】

Rana Ayyub
是一位印度记者。

她的工作揭露了政府腐败

和人权侵犯。

这些年来，

她已经习惯了工作中的残酷和争议。

但这些都不足以让她准备好来
面对2018年4月份的事情。

当时她和一个朋友坐在
咖啡厅，第一次看见了

她自己出现在一个
2分20秒的性爱视频里。

她不能相信自己的眼睛。

她从来没有拍摄过这样的视频。

但是很不幸的是，成千上万的人

选择相信就是她。

我在大约三个月前
采访了Ayyub女士，

为了我的关于性隐私的书籍。

我是一个法律教授，
律师和民权倡导者。

所以我非常沮丧，因为我知道

现在的法律几乎帮不到她。

当我们在谈话的时候，

她解释道她应该更早意识到
虚假性爱视频的到来。

她说：‘’毕竟，性爱经常
被用来贬低和羞辱女性，

特别是少数民族的妇女，

尤其是敢于挑战权势
的少数民族妇女。”

就像她在工作所做的那样。

那个伪造的性爱视频
在48小时之内像病毒一样传播。

她所有的线上账户
都被这些视频截屏淹没，

同时还有图片形式的强奸和死亡威胁

和对她穆斯林信仰的诽谤。

网上的帖子说她可以
随意跟其他人进行性行为。

并且她已经被“人肉”，

也就是说她的家庭住址和手机号

已经在互联网上随处可见。

那个视频已经被分享了超过4万次。

如今，这样的网络暴力，

其伤害是非常深远的。

Rana Ayyub的生活已经彻底改变。

几周时间里，
她几乎不吃饭也不说话。

她不再写文章，
关闭了所有社交媒体账户，

这是作为一个记者很难应付的事情。

她不敢走出家门。

如果那些发帖的人
真的进行了威胁呢？

联合国人权理事会
确认她没有精神问题。

他们发布了一个声明，
表示担心她的人身安全。

Rana Ayyub面对的是deepfake ：
(“深度学习”和“伪造”的混合词)

一种机器学习技术，

能够操纵或者伪造视频和音频

来展示人们做了或者说了

他们从来没有做过或说过的事情。

Deepfake让这些看起来
是真实的，但事实上并不是；

这些都是虚假的视频。

尽管这项技术还在
这种复杂性中发展，

但已经广泛被使用。

大家最近对deepfakes最关注的，

就像很多网上的事情一样，

是色情媒介。

在2018年早期，

有人在Reddit论坛上发布了一个工具，

可以让用户在色情视频中插入人脸。

这促成了一系列伪造的色情视频，

使用了人们最喜爱的女星的面貌。

现在，你在YoutTube上能搜索到

不计其数步骤详细的教学视频

教你如何在电脑上制作这种视频。

很快，我们也许也可以
在我们的手机上制作。

此时，正是我们最基本的
人性弱点和网络工具的

相互作用

使得deepfakes变成了武器。

让我解释一下。

作为人类，我们对音频
和视频有直观的反应。

我们相信反应是真实的，

理论上当然你应该相信

你的眼睛和耳朵告诉你的事情。

并且正是那种机制

削弱了我们共有的对现实的感觉。

尽管我们相信deepfakes
是真的，但它不是。

我们被那些淫秽和挑衅吸引了。

我们倾向于去相信和共享

消极和新奇的信息。

研究者们发现网上的骗局比真实故事

的传播速度快10倍。

我们也容易被迎合

我们观点的信息吸引。

心理学家称这种倾向为
“验证性偏见”。

同时社交媒体平台
极大鼓励了这种倾向，

允许我们即刻并广泛地分享

符合我们自我观点的信息。

Deepfakes能够对个人
和社会造成严重的潜在危害。

想象一个deepfake视频

显示美国士兵在阿富汗焚烧可兰经。

你可以想象这个视频会挑起

针对这些士兵的暴力行为。

然后如果第二天

又有另一个deepfake视频出现，

展示在伦敦的一位有名的
伊玛目（伊斯兰教领袖的称号）

在赞美对士兵的袭击行为呢？

我们可能会看见暴力和内乱，

不仅出现在阿富汗和英国，

而是全世界。

你可能会对我说，

“拜托， Danielle，你说的太牵强了。 ”

但并不是。

我们已经看见了许多虚假信息

在WhatsApp和其它
在线聊天服务里传播，

导致了对少数民族的暴力。

而那还仅仅是文字——

如果是视频呢？

Deepfakes有可能会腐蚀
我们在民主机构里

的所拥有的信任。

想象一下在选举的前一晚，

Deepfake展示了
其中一个主要党派的候选人

生了重病。

它可以颠覆这个选举

并动摇我们认为选举合法的想法。

接下来，想象在一个跨国银行的

首次公开募股的前夜，

deepfake显示银行的CEO

因为喝醉宣扬阴谋论。

这个视频可以降低IPO的估值，

更糟的是，动摇我们认为
金融市场稳定的感觉。

所以，deepfakes可以利用
并放大我们对政客，商业领袖

和其他有影响力的领导人
已有的深深的不信任性。

它们找到了愿意相信它们的观众。

对真相的追寻也岌岌可危。

技术人员认为，
未来随着人工智能的进步，

想要分辨出真视频和假视频

可能将会变得非常困难。

那么真相如何才能在一个deepfake
驱使的思想市场中产生？

我们仅仅沿着阻力最小的路前进

并相信我们想去相信的，

而真相已经被诅咒了吗？

而且不仅是我们相信虚假，

可能是我们也开始不相信真相。

我们已经见过人们
利用deepfakes的现象

来质疑能证明他们
错误行为的真实证据。

我们也听过政客回应
他们令人不安的评论，

“拜托，那是假新闻。

你不能相信你的眼睛
和耳朵告诉你的事情。”

这是一种风险，

Robert Chesney教授和我
把它叫做“撒谎者的福利”：

撒谎者利用deepfakes来

逃避他们为错误行为负责的风险。

所以我们知道我们的工作
非常艰难，毋庸置疑。

我们需要一个
主动积极的解决方案，

来自于科技公司，国会议员，

执法者和媒体。

并且我们将需要健康的社会复原力。

当下我们正在与科技公司

进行关于社会责任的公开谈话。

我对社交媒体平台的建议

已经影响了他们的
服务条款和社区准则，

来禁止deepfakes造成危害。

那种决心需要人类的判断，

并且代价很大。

但是我们需要人类

去看看deepfake的内容和背景，

弄清楚它是否是有害的伪装，

或者相反，是否是有价值的
讽刺，艺术或教育。

接下来，法律呢？

法律是我们的教育家。

它教育我们什么是有害的，
什么是错误的。

法律通过惩罚肇事作案者
和保护对受害者的补救

来规范行为。

现在，法律还无法应对
deepfakes带来的挑战。

在全球范围内，

我们缺少精心制定的法律，

解决数字伪造问题的法律，

针对会侵犯性隐私，

毁坏名誉

并造成情绪困扰的事件的法律。

发生在Rana Ayyub身上的
事情越来越普遍。

但是，当她去德里
的执法部门举报时，

她被告知他们无能为力。

并且令人悲伤的事实是，
在美国和欧洲

可能是同样的情况。

所以我们需要填补这一法律空白。

我和同事Mary Anne Franks博士
正在和美国国会议员一起

制定可以禁止有危害的数字伪造，

相当于身份盗窃的法律。

同时我们看见了

在冰岛，英国和澳大利亚
有类似的过程在进行。

但是当然，这只是
整个监管难题的一小部分。

我知道法律并不是灵丹妙药。

它是一个武器。

我们需要智慧地使用它。

法律也有一些实际的障碍。

你不能利用法律对抗
你无法找到和定位的人。

如果一个作案者居住在

不同于受害者的国家，

那么你可能无法强制作案者

来到当地法庭

来接受审判。

因此我们需要一项协调一致的，
联合全球的响应策略。

教育也是我们响应策略中的一部分。

执法者不会去强制执行

他们不知道的法律，

也不会提出他们不明白的问题。

在我关于网络追踪的研究中，

我发现执法者缺少

了解可供使用的法律

和网络暴力问题的培训。

所以他们经常告诉受害者，

“把电脑关掉就行了，
不要管，自然就没了。”

我们在Rana Ayyub的案例中
也发现了这点。

她被告知：
“拜托，你太小题大做了。

他们只是不懂事的孩子。”

所以我们需要展开针对新法律的培训。

媒体也同样需要接受相关的培训。

记者们需要接受关于
deepfakes现象的培训，

这样它们就不会被放大和传播。

这正是我们所有人
需要参与其中的部分。

我们每个人都需要这方面的教育。

我们点击，我们分享，我们点赞，
但是我们没有认真去思考。

我们需要做得更好。

我们需要针对虚假事件
更敏锐的雷达。

所以在我们研究解决方案的时候，

会有很多痛苦和折磨围绕着我们。

Rana Ayyub仍在和后果搏斗。

她还是无法自在地
在线上和线下表达自己。

就像她告诉我的，

她仍然感觉有上千双眼睛
在看着她的裸体，

尽管理智上她知道
那并不是她的身体。

而且她经常遭受惊吓，

特别是当有陌生人试图去偷拍她。

“如果他们想拍来做另一个
deepfake呢？”她不禁想。

所以为了像Rana Ayyub一样的个人，

为了我们的民主，

我们现在就要有所作为。

谢谢大家。

（掌声）