2013 年 4 月 23 日，
美联社在推特上发布了 这样一条推文：
“突发新闻：
白宫发生两起爆炸，
巴拉克·奥巴马受伤。”
在不到五分钟的时间里， 这条推文被转发了四千次，
随后也在网络上被疯传。
不过，这条推文并不是 美联社发布的真实新闻。
事实上，这是一则不实新闻， 或者说是虚假新闻，
是由入侵了美联社推特账号
的叙利亚黑客扩散的。
他们的目的是扰乱社会， 但他们扰乱的远不止于此。
因为自动交易算法
立刻捕捉了这条推文的情感， 【注：机器学习中对主观性文本的情感分析】
并且根据美国总统在这次爆炸中
受伤或丧生的可能性，
开始了交易。
而当他们开始发推时，
股市迅速随之崩盘，
一日之内便蒸发了 1400 亿美元的市值。
美国特别检察官罗伯特·穆勒
起诉了三家俄罗斯公司
以及十三个俄罗斯人，
指控他们干预 2016 年美国总统大选，
合谋诓骗美国。
而这次起诉讲述的
是互联网研究机构的故事，
即俄罗斯政府在社交媒体上 布下的影影绰绰的手腕。
仅在总统大选期间，
互联网机构就
影响了 1.26 亿名 美国 Facebook 用户，
发布了 300 万条推文，
以及 43 个小时的 Youtube 内容。
这一切都是虚假的——
通过精心设计的虚假信息， 在美国总统大选中播下不和的种子。
牛津大学最近的一项研究显示，
在近期的瑞典大选中，
在社交媒体上传播 的关于大选的信息中，
有三分之一
是虚假或谬误信息。
另外，这些通过社交媒体 进行的误导活动
可以传播所谓的“种族清洗宣传”，
例如在缅甸煽动对罗兴亚人的迫害，
或者在印度引发暴徒杀人。
我们在虚假新闻变成热点之前
就开始了对虚假新闻的研究。
最近，我们发表了一项 迄今最大型的关于虚假新闻
在网络传播的纵向研究，
在今年三月登上了《科学》期刊封面。
我们研究了推特上传播的所有
核实过的真假新闻，
范围是自 2006 年推特创立到 2017 年。
在我们研究这些讯息时，
我们通过六家独立的 事实核查机构验证，
以确认新闻故事的真实性。
所以我们清楚哪些新闻是真的，
哪些是假的。
我们可以测量 这些新闻的扩散程度，
扩散速度，
以及深度与广度，
有多少人被卷入这个信息级联。 【注：人们加入信息更具说服力的团体】
我们在这篇论文中
比较了真实新闻和 虚假新闻的传播程度。
这是我们的研究发现。
我们发现，在我们研究 的所有新闻类别中，
虚假新闻都比真实新闻传播得
更远、更快、更深、更广，
有时甚至超出一个数量级。
事实上，虚假的政治新闻 传播速度最快。
它比任何其他种类的虚假新闻
都扩散得更远、更快、更深、更广。
我们看到这个结果时，
我们立刻感到担忧， 但同时也很好奇。
为什么？
为什么虚假新闻比真相
传播得更远、更快、更深、更广？
我们想到的第一个假设是，
“可能传播虚假新闻的人 有更多的关注者，或者关注了更多人，
或者发推更频繁，
或者他们中有更多 推特的‘认证’用户，可信度更高，
或者他们在推特上的时间更长。”
因此，我们挨个检验了这些假设。
我们发现，结果恰恰相反。
假新闻散布者有更少关注者，
关注的人更少，活跃度更低，
更少被“认证”，
使用推特的时间更短。
然而，
在控制了这些和很多其他变量之后，
虚假新闻比真实新闻 被转发的可能性高出了 70%。
我们不得不提出别的解释。
于是，我们设想了一个 “新颖性假设”。
如果各位对文献有所了解，
会知道一个广为人知的现象是， 人类的注意力会被新颖性所吸引，
也就是环境中的新事物。
如果各位了解社会学文献的话，
你们应该知道，我们喜欢分享 新鲜的信息。
这使我们看上去像是 能够获得内部消息，
通过传播这类信息， 我们的地位可以获得提升。
因此我们把刚收到的真假推文
和用户前 60 天内 在推特上看过的语库比较，
以衡量刚收到的推文的新颖度。
但这还不够， 因为我们想到，
“可能在信息论的层面 虚假新闻更加新颖，
但也许在人们的感知里， 它并没有很新鲜。”
因此，为了理解 人们对虚假新闻的感知，
我们研究了对真假推文的回复中
包含的信息和情感。
我们发现，
在多种不同的情感量表上——
惊讶，厌恶，恐惧，悲伤，
期待，喜悦，信任——
对虚假新闻的回复里 明显表现出了
更多的惊讶和厌恶。
而对真实新闻的回复里，
表现出的则是
更多的期待、喜悦，和信任。
这个意外事件证实了 我们的新颖性假设。
这很新鲜、很令人惊讶， 所以我们更可能把它分享出去。
同时，在美国国会两院前 进行的国会作证
提到了机器人账号（注：一种使用 自动化脚本执行大量简单任务的软件）
在传播虚假信息时的作用。
因此我们也对这一点进行了研究——
我们使用多个复杂的 机器人账号探测算法，
寻找并提取出了 我们数据中的机器人账号。
我们把机器人账号移除， 再把它们放回去，
并比较其对我们的测量 产生的影响。
我们发现，确实，
机器人账号加速了 虚假新闻在网络上的传播，
但它们也在以大约相同的速度
加速真实新闻的传播。
这意味着，机器人账号
并不是造成网上虚实信息 传播差距的原因。
我们不能推脱这个责任，
因为要对这种传播负责的， 是我们人类自己。
对于我们大家来说 都很不幸的是，
刚刚我告诉各位的一切
都是好消息。
原因在于，形势马上要大幅恶化了。
而两种特定的技术 会将形势变得更加糟糕。
我们将会目睹 一大波合成媒体的剧增。
虚假视频、虚假音频， 对于人类来说都能以假乱真。
这是由两项技术支持的。
其一是所谓的“生成对抗网络”。
这是一个由两个网络组成 的机器学习模型：
一个是判别网络，
负责分辨样本的真假；
另一个是生成网络，
负责产生合成媒体。
生成网络产生 合成视频或音频，
而判别网络则试图分辨， “这是真的还是假的？”
事实上，生成网络的任务是
尽可能地欺骗判别网络， 让判别网络误以为
它合成的视频和音频
其实是真的。
想象一台处于超级循环中的机器，
试图变得越来越擅长欺骗我们。
第二项技术， 简而言之，
就是在民众中 的人工智能的民主化，
即让任何人
不需要任何人工智能或
机器学习的背景，
也能调用这些算法 生成人工合成媒体。
这两种技术相结合， 让制作视频变得如此容易。
白宫曾发布过一个 虚假的、篡改过的视频，
内容为一名记者和一个试图抢夺 他的麦克风的实习生的互动。
他们从视频中移除了一些帧，
让他的行动显得更有攻击性。
而当摄影师和替身演员
被采访问及这种技术时，
他们说，“是的，我们经常 在电影中使用这种技术,
让我们的出拳和踢腿动作 看上去更具打击感，更加有气势。”
他们于是发布了这个视频，
将其作为部分证据，
试图撤销视频中的记者， 吉姆·阿考斯塔
的白宫新闻通行证。
于是 CNN 不得不提出诉讼， 要求恢复该新闻通行证。
我能想到我们可以走 的五条不同道路，
以试图解决当今我们面对 的这些异常艰难的问题。
每一种措施都带来希望，
但每一种也有其自身的挑战。
第一种措施是贴上标签。
可以这么想：
当你去超市购买食品时，
食品上会有详细的标签。
你可以得知它有多少卡路里，
含有多少脂肪——
然而当我们摄取信息时， 我们没有任何标签。
这个信息中含有什么？
其来源是否可信？
这个信息是从哪里收集的？
在我们摄取信息时，
我们并没有以上的任何信息。
这是一种可能的解决办法， 但它有自身的挑战。
比如说，在社会中， 有谁能决定信息的真伪？
是政府吗？
是 Facebook 吗？
是由事实核查机构 组成的独立联盟吗？
谁又来对事实核查机构 进行核查呢？
另一种可能的解决手段是奖励措施。
我们知道，在美国总统大选期间，
有一波虚假信息来源于马其顿，
他们没有任何政治动机，
相反，他们有经济动机。
这个经济动机之所以存在，
是因为虚假新闻比真相传播得
更远、更快、更深，
你可以使用这类信息 博取眼球、吸引注意，
从而通过广告赚钱。
但如果我们能抑制 这类信息的传播，
或许就能在源头减少
生产这类信息的经济动机。
第三，我们可以考虑进行监管，
毫无疑问，我们应当考虑这个选项。
现在，在美国，
我们在探索当 Facebook 和其它平台 受到监管时，会发生什么事情。
我们应当考虑的措施包括： 监管政治言论，
对政治言论进行标签，
确保外国参与者无法资助政治言论，
但这也有自己的风险。
举个例子，马来西亚刚刚颁布法案， 对任何散布不实消息的人
处以六年监禁。
而在独裁政权中，
这种政策可以被利用 以压制少数群体的意见，
继续扩大压迫。
第四种可能的解决方法是透明度。
我们想了解 Facebook 的算法是怎样运作的。
数据是怎样与算法结合，
得出我们看到的结果？
我们想让他们开诚布公，
为我们披露 Facebook 内部 具体是如何运作的。
而如果我们想知道 社交媒体对社会的影响，
我们需要科学家、研究人员
和其他人能够入手这种信息。
但与此同时，
我们还要求 Facebook 锁上一切，
保证所有数据的安全。
因此，Facebook 和其他社交媒体平台
正面对我称之为的“透明性悖论”。
我们要求他们
在开放、透明的同时 保证安全。
这是非常艰难的挑战，
这些公司必须直面挑战，
才能在实现社交科技承诺的同时
回避它们带来的危害。
我们能想到的最后一个解决手段是 算法和机器学习。
有的科技被开发出来， 用于拔除和理解虚假新闻，
了解它们的传播方式， 并试图降低其扩散。
人类需要跟进这种科技，
因为我们无法逃避的是，
在任何科技解答或手段的背后
都有一个根本的伦理与哲学问题：
我们如何定义真实和虚伪，
我们将定义真伪的权力托付于谁，
哪些意见是合法的，
哪种言论能被允许， 诸如此类。
科技并非对这个问题的解答,
伦理学和哲学才是。
人类决策、人类合作和人类协调
的几乎每一个理论，
其核心都存在某种程度的真相。
但随着虚假新闻、
虚假视频、
虚假音频的崛起，
我们正在现实终结 的边缘摇摇欲坠，
在这里我们无法分辨 何为真实，何为虚假。
这有可能是极度危险的。
我们必须保持警惕，拒绝虚假信息，
捍卫真相——
通过我们的技术，我们的政策，
以及，或许也是最重要的，
通过我们自己的责任感、
决定、行为，和举动。
谢谢大家。
（掌声）