0:00:01.000,0:00:03.018
大约五年前，

0:00:03.042,0:00:05.434
我突然发现我在丧失

0:00:05.458,0:00:07.958
与立场不同的人交流的能力。

0:00:08.917,0:00:12.559
单是跟美国同胞讨论[br]争议性话题这个想法

0:00:12.583,0:00:14.976
让我感到心累的程度，

0:00:15.000,0:00:19.125
甚至就超过了我和海外可疑的[br]极端主义者有过的交流。

0:00:19.750,0:00:23.351
这开始让我感到更加痛苦和沮丧。

0:00:23.375,0:00:24.809
于是就这样，

0:00:24.833,0:00:26.643
我把我的焦点

0:00:26.667,0:00:29.101
从影响全球国家安全的威胁，

0:00:29.125,0:00:32.351
转移到了寻找那个导致

0:00:32.375,0:00:35.601
国内民众两极化的原因上。

0:00:35.625,0:00:37.976
作为一名前中情局警官和外交官，

0:00:38.000,0:00:41.434
我在解决反极端主义的问题上[br]有着多年的工作经验。

0:00:41.458,0:00:45.309
我开始担心，这对[br]我们国家的民主造成的威胁

0:00:45.333,0:00:47.851
会超过来自国外对手的威胁。

0:00:47.875,0:00:49.684
于是我开始深究，

0:00:49.708,0:00:51.226
开始发声，

0:00:51.250,0:00:54.059
后来脸谱网聘请了我，

0:00:54.083,0:00:56.768
也最终引领我来到了这里，

0:00:56.792,0:01:01.745
使我能继续警告各位，[br]这些平台在如何

0:01:01.745,0:01:03.643
操控和极端化我们的思想，

0:01:03.667,0:01:06.625
并谈谈我们应该如何[br]夺回自己的公共空间。

0:01:07.625,0:01:09.601
就在 911 事件发生的几年后，

0:01:09.625,0:01:12.684
我曾担任过肯尼亚外交官，

0:01:12.708,0:01:15.268
那时我在索马里的[br]边境领导了一个叫

0:01:15.292,0:01:17.226
“心灵与精神”的项目。

0:01:17.250,0:01:20.559
我的主要工作是与那些最容易

0:01:20.583,0:01:23.292
被极端主义思想[br]影响的群体建立信任。

0:01:24.125,0:01:28.309
我花了大量的时间与[br]直言不讳的反西方教士喝茶，

0:01:28.333,0:01:31.559
甚至跟疑似恐怖份子的人[br]进行过谈话，

0:01:31.583,0:01:34.976
虽然这些交谈都是从[br]互相怀疑开始的，

0:01:35.000,0:01:38.809
他们却从来没有大喊[br]或说过任何辱骂的话，

0:01:38.833,0:01:42.917
有些时候，我们甚至能在[br]共同感兴趣的领域一起合作。

0:01:44.000,0:01:48.143
我们拥有的最有效的工具[br]就是聆听、学习

0:01:48.167,0:01:49.893
还有建立同理心。

0:01:49.917,0:01:52.976
这就是“心灵与精神”[br]这份工作的核心，

0:01:53.000,0:01:56.268
因为我多次发现，[br]他们大多数人想要的

0:01:56.292,0:02:00.059
无非是被聆听、被认可，[br]还有被尊重。

0:02:00.083,0:02:02.726
我相信这也是我们[br]大多数人想要的。

0:02:02.750,0:02:06.059
可如今，网络上[br]发生的一切却令我心碎，

0:02:06.083,0:02:08.167
也让我明白，这是一个[br]很难解决的问题。

0:02:08.917,0:02:12.684
我们正被目前的[br]信息网络操纵，

0:02:12.708,0:02:16.476
陷入了绝对主义中，

0:02:16.500,0:02:19.476
在这里，“妥协”已经成为[br]一个肮脏的字眼。

0:02:19.500,0:02:20.809
因为当今，

0:02:20.833,0:02:22.976
类似于脸谱网的社交媒体公司

0:02:23.000,0:02:26.851
通过为我们提供[br]个性化的内容来获利，

0:02:26.875,0:02:30.726
而这些内容既认可，[br]也利用了我们的偏见。

0:02:30.750,0:02:34.184
他们的底线就是，[br]通过激起强烈的情绪

0:02:34.208,0:02:35.893
来让我们沉迷，

0:02:35.917,0:02:40.184
持续强调那些煽性的，[br]十分两极化的声音，

0:02:40.208,0:02:44.643
直到找到共同点变得不再可能。

0:02:44.667,0:02:48.893
虽然越来越多的人开始[br]要求这些平台做出改变，

0:02:48.917,0:02:52.226
但单靠它们是明显不够的。

0:02:52.250,0:02:55.143
所以，政府必须定义

0:02:55.167,0:02:58.976
这些对社会造成危害的商业模式[br]需承担什么样的责任，

0:02:59.000,0:03:01.768
并让它们因严重损害

0:03:01.792,0:03:07.101
我们的公共健康、公共空间，[br]还有我们的民主付出代价。

0:03:07.125,0:03:11.768
但不幸的是，在美国大选[br]之前这都不可能发生，

0:03:11.792,0:03:14.559
所以我只能继续发出警告，

0:03:14.583,0:03:17.643
因为即使有一天[br]我们有了强有力的法律，

0:03:17.667,0:03:20.417
还是需要大家一起来解决问题。

0:03:21.417,0:03:24.018
当我的注意力从海外威胁

0:03:24.042,0:03:26.184
转移到已然破碎的[br]国内民众对话时，

0:03:26.208,0:03:30.268
我曾想过，是否可以重新利用[br]“心灵与精神”这个项目

0:03:30.292,0:03:32.393
来缓解国内的分歧。

0:03:32.417,0:03:36.226
我们过去 200 多年的[br]民主实验之所以有效，

0:03:36.250,0:03:40.143
很大程度是因为我们[br]可以公开并且热情地

0:03:40.167,0:03:42.976
讨论想法，[br]以找到最佳解决方案。

0:03:43.000,0:03:44.809
我始终坚信，

0:03:44.833,0:03:47.101
面对面的民间对话是有效的，

0:03:47.125,0:03:48.768
但它确实难以对抗

0:03:48.792,0:03:52.601
如今社交媒体带来的[br]两极分化的效应和规模。

0:03:52.625,0:03:54.976
与我曾经合作过的[br]那些弱势群体相比，

0:03:55.000,0:03:56.309
那些沉陷于

0:03:56.333,0:03:59.976
社交媒体上激进内容的人

0:04:00.000,0:04:03.476
更难脱离他们的固有观念。

0:04:03.500,0:04:05.809
所以在 2018 年，[br]当脸谱网找到我，

0:04:05.833,0:04:07.143
并给我提供了这份

0:04:07.167,0:04:11.143
负责政治广告管理的工作时，

0:04:11.167,0:04:13.184
我觉得我必须答应。

0:04:13.208,0:04:15.934
我知道我可能[br]无法解决所有的问题，

0:04:15.958,0:04:17.601
但有了这个可以

0:04:17.625,0:04:19.809
引导民众的机会，

0:04:19.833,0:04:21.375
我必须至少尝试一下。

0:04:22.667,0:04:24.934
虽然我们没有研究过两极分化，

0:04:24.958,0:04:29.393
但是我确实研究过哪些问题[br]最容易引起社会分裂，

0:04:29.417,0:04:33.226
在选举干扰中也最易被利用，

0:04:33.250,0:04:35.833
这也是俄罗斯在 2016 年前的策略。

0:04:36.583,0:04:38.934
所以我从提问开始。

0:04:38.958,0:04:41.851
我想找到导致这一切发生的

0:04:41.875,0:04:44.309
潜在的系统性问题，

0:04:44.333,0:04:46.417
以便找到解决的方法。

0:04:47.625,0:04:50.184
现在，我仍然相信互联网的力量

0:04:50.208,0:04:52.726
能让更多的声音参与进来，

0:04:52.750,0:04:55.851
尽管它们宣称的目标是建立社区，

0:04:55.875,0:04:59.184
目前最大的[br]社交媒体公司的构建方式

0:04:59.208,0:05:02.809
与理性言论的概念[br]却是背道而驰的。

0:05:02.833,0:05:05.351
在一个把优化用户参与度

0:05:05.375,0:05:06.976
和用户增长量

0:05:07.000,0:05:10.643
作为衡量成功的两大指标的行业里，

0:05:10.667,0:05:14.018
你没有办法奖励倾听、[br]鼓励民众讨论，

0:05:14.042,0:05:17.268
你也没有办法去保护[br]那些诚恳提问的人。

0:05:17.292,0:05:20.726
没有任何激励因素[br]去帮助人们慢下来，

0:05:20.750,0:05:23.976
没有去建立足够的摩擦[br]让人们不得不停下来，

0:05:24.000,0:05:26.601
认识到自己[br]对某事的情绪化反应，

0:05:26.625,0:05:29.292
并且在参与之前[br]质疑自己的假设。

0:05:30.625,0:05:32.601
令人遗憾的事实是：

0:05:32.625,0:05:35.518
在一个优化无摩擦的，[br]病毒式传播的世界里，

0:05:35.542,0:05:39.268
网络上的谎言比真相更吸引人，

0:05:39.292,0:05:42.333
淫秽信息胜过了[br]基于事实的推理。

0:05:43.167,0:05:46.601
只要算法的目标是保持我们的参与，

0:05:46.625,0:05:50.684
它们就会继续“喂”迎合[br]我们最糟糕的本能

0:05:50.708,0:05:52.167
和人性弱点的毒药。

0:05:52.958,0:05:55.976
当然，愤怒、不信任、

0:05:56.000,0:05:57.726
恐惧和仇恨的文化：

0:05:57.750,0:06:00.601
这些在美国都不是新事物。

0:06:00.625,0:06:03.976
但近年来，社交软件[br]充分利用了这一切，

0:06:04.000,0:06:07.601
并且在我看来，[br]还起到了决定性的作用。

0:06:07.625,0:06:10.018
脸谱网也深谙这一点。

0:06:10.042,0:06:11.934
《华尔街日报》最近的一篇文章

0:06:11.958,0:06:16.101
披露的一项脸谱网 [br]2018 年的内部演示中，

0:06:16.125,0:06:19.893
特别提到了该公司自己的算法

0:06:19.917,0:06:23.434
让越来越多的极端组织信息[br]出现在其平台上，

0:06:23.458,0:06:25.625
并导致了用户两极分化。

0:06:26.708,0:06:30.393
但让我们参与其中[br]正是它们赚钱的方式。

0:06:30.417,0:06:34.643
现代信息环境是通过[br]我们的信息画像而构建的，

0:06:34.667,0:06:37.643
再将我们分割成[br]越来越细小的类别，

0:06:37.667,0:06:40.976
从而完善这个个性化的过程。

0:06:41.000,0:06:44.809
然后，我们被可以证实[br]我们观点的信息狂轰滥炸，

0:06:44.833,0:06:46.684
强化我们的偏见，

0:06:46.708,0:06:50.226
并且让我们感觉属于某类群体。

0:06:50.250,0:06:53.643
这些策略和那些[br]恐怖分子用于招募

0:06:53.667,0:06:55.851
弱势青少年的伎俩如出一辙，

0:06:55.875,0:06:59.726
尽管是用比社交媒体更小、[br]更本土化的方式，

0:06:59.750,0:07:03.018
但最终目标都是灌输某种行为。

0:07:03.042,0:07:08.309
不幸的是，我从未被脸谱网[br]授权去产生实质影响。

0:07:08.333,0:07:12.101
事实上，在我工作的第二天，[br]我的头衔和具体工作就发生了变化，

0:07:12.125,0:07:15.101
并且被排除在决策会议外。

0:07:15.125,0:07:16.434
我最大的努力，

0:07:16.458,0:07:17.851
试图制定计划，

0:07:17.875,0:07:21.476
以打击政治广告中的[br]虚假信息和投票权压制

0:07:21.500,0:07:23.059
被拒绝了。

0:07:23.083,0:07:25.583
所以我只坚持了[br]不到 6 个月就辞职了。

0:07:26.125,0:07:29.726
但这是我在这段期间最大的收获。

0:07:29.750,0:07:32.226
成千上万的人在脸谱网工作，

0:07:32.250,0:07:34.268
充满热情的投入于这个

0:07:34.292,0:07:37.976
他们相信能将世界[br]变得更美好的产品，

0:07:38.000,0:07:41.684
但是，只要公司依然仅仅只是

0:07:41.708,0:07:44.434
在内容政策和合理性的边缘试探，

0:07:44.458,0:07:45.768
而不考虑

0:07:45.792,0:07:49.018
整个平台的设计和赚钱方式，

0:07:49.042,0:07:52.393
那它们永远不会真正解决[br]平台是如何助长

0:07:52.417,0:07:56.601
仇恨、分裂和激进这些问题的。

0:07:56.625,0:08:00.893
而这也正是我在那里[br]从未听到过的对话，

0:08:00.917,0:08:03.976
因为那将会需要你从根本上接受

0:08:04.000,0:08:08.143
你所创造的东西可能[br]不是对社会最有益的东西，

0:08:08.167,0:08:11.292
并同意改变整个产品和盈利模式。

0:08:12.500,0:08:14.333
那么我们能做些什么呢？

0:08:15.042,0:08:18.643
我并不是说社交媒体[br]要为我们国家的现状

0:08:18.667,0:08:20.809
承担唯一的责任。

0:08:20.833,0:08:26.268
显然，我们有一些根深蒂固的[br]社会问题需要解决。

0:08:26.292,0:08:30.434
但脸谱网的回应[br]只是社会的一面镜子，

0:08:30.458,0:08:33.476
这是一种转移其平台

0:08:33.500,0:08:37.768
放大有害言论，并将一些用户

0:08:37.792,0:08:40.833
推向极端观点的责任的方便说辞。

0:08:41.583,0:08:44.434
当然，如果脸谱网[br]的确有这方面的主观意愿，

0:08:44.458,0:08:46.309
是可以解决其中一些问题的。

0:08:46.333,0:08:50.184
他们可以停止推荐和放大[br]阴谋理论家、

0:08:50.208,0:08:52.893
仇恨组织和[br]虚假信息散布者的影响，

0:08:52.917,0:08:56.768
是的，在某些情况下，[br]甚至包括我们的总统。

0:08:56.792,0:09:02.018
它们可以停止使用[br]与推销跑鞋同样的个性化推荐服务

0:09:02.018,0:09:04.434
来传递政治说辞。

0:09:04.458,0:09:06.184
它们可以重新修改算法，

0:09:06.208,0:09:08.393
去专注于一个[br]非用户互动类的度量指标，

0:09:08.417,0:09:12.726
也可以建立信息护栏，[br]防止某些内容在被审核之前

0:09:12.750,0:09:14.417
像病毒一样被传播。

0:09:14.875,0:09:17.143
他们可以做到所有这一切。

0:09:17.167,0:09:21.351
而不必成为他们所谓的[br]“真理仲裁者”。

0:09:21.375,0:09:24.184
但是他们已经明确表示，[br]除非被强制这样做，

0:09:24.208,0:09:27.018
否则他们就不会[br]积极采取正确的行动，

0:09:27.042,0:09:29.976
毕竟，坦白说，[br]他们为什么要这么做呢？

0:09:30.000,0:09:33.934
市场一直在奖励他们，[br]他们也没有违法。

0:09:33.958,0:09:35.268
因为就现在的情况而言，

0:09:35.292,0:09:40.184
美国并没有法律强制脸谱网[br]或者其他社交媒体公司

0:09:40.208,0:09:41.976
去保护我们的公共广场、

0:09:42.000,0:09:43.309
民主，

0:09:43.333,0:09:45.768
甚至是我们的选举。

0:09:45.792,0:09:49.893
我们已经将制定和执行[br]哪些计划的决定权交给了

0:09:49.917,0:09:53.000
盈利性互联网公司的[br]首席执行官们。

0:09:53.750,0:09:55.768
这是我们想要的吗？

0:09:55.792,0:09:59.018
一个有毒言论和部落主义

0:09:59.042,0:10:02.337
彻底压倒打造沟通桥梁[br]和追求共识的后真相世界？

0:10:02.667,0:10:08.052
我仍然乐观的认为，我们要比[br]现存的媒体和网络环境所描绘的彼此

0:10:08.052,0:10:10.434
拥有更多的共同点，

0:10:10.458,0:10:13.559
我也坚信相信，拥有更多视角

0:10:13.583,0:10:17.184
会让民主更加健康和包容，

0:10:17.208,0:10:20.018
但不是以目前的方式。

0:10:20.042,0:10:24.268
需要强调的是，[br]我并不想搞垮这些公司。

0:10:24.292,0:10:27.518
我只想让它们承担[br]一定程度的责任，

0:10:27.542,0:10:29.458
就像社会中的其他人一样。

0:10:30.542,0:10:34.893
我们的政府是时候站出来

0:10:34.917,0:10:36.559
做好保护我们公民的工作了。

0:10:36.583,0:10:39.643
虽然还没有一项神奇的立法

0:10:39.667,0:10:41.143
可以解决所有的问题，

0:10:41.167,0:10:45.851
但我的确相信，[br]政府可以，而且必须在

0:10:45.875,0:10:48.018
保护自由言论和让这些平台

0:10:48.042,0:10:52.351
为它们的社会影响负责之间找到平衡。

0:10:52.375,0:10:56.684
他们可以通过保证[br]这些推荐引擎如何工作，

0:10:56.708,0:11:02.765
如何进行管理、[br]放大和定位的透明度

0:11:02.765,0:11:04.518
来做到这一点。

0:11:04.542,0:11:06.976
我希望这些公司

0:11:07.000,0:11:10.101
不仅是对个人发布虚假信息

0:11:10.125,0:11:11.601
或者极端言论负责，

0:11:11.625,0:11:15.476
还要对他们的推荐引擎[br]如何传播这些信息，

0:11:15.500,0:11:18.726
他们的算法如何[br]引导人们使用这些信息，

0:11:18.750,0:11:22.042
以及他们的工具[br]如何被用来针对这些人负责。

0:11:23.417,0:11:27.101
我试图从脸谱网内部[br]做出改变，但是我失败了，

0:11:27.125,0:11:30.268
所以在过去几年，[br]我一直在用自己的声音

0:11:30.292,0:11:32.518
不断发出警告，

0:11:32.542,0:11:36.934
希望能激发更多的人[br]来要求这种责任。

0:11:36.958,0:11:39.601
我要传递给你们的信息很简单：

0:11:39.625,0:11:41.809
对你们的政府代表施压，[br]让他们站出来，

0:11:41.833,0:11:47.268
停止将我们的公共空间[br]拱手让给以营利为目的获利行为。

0:11:47.292,0:11:49.143
帮助你的朋友和家人了解

0:11:49.167,0:11:52.309
他们在网上是如何被操纵的。

0:11:52.333,0:11:55.851
推动自己和没有共同想法的人交流。

0:11:55.875,0:11:58.518
把这个问题当作优先事项。

0:11:58.542,0:12:01.958
我们需要一个能动员[br]全社会的方法来解决它。

0:12:03.250,0:12:08.809
我对我的前雇主，[br]脸谱网的领导们想要说的是：

0:12:08.833,0:12:14.643
现在，人们正在使用[br]你们设计好的工具

0:12:14.667,0:12:17.268
传播仇恨、分裂和不信任，

0:12:17.292,0:12:21.434
而你们不仅允许了，[br]而且还在加剧这种情况。

0:12:21.458,0:12:23.934
没错，在全球范围内

0:12:23.958,0:12:27.643
你们的平台上发生了很多积极的事，

0:12:27.667,0:12:30.893
但这并不意味着这一切[br]都是可以接受的。

0:12:30.917,0:12:33.893
随着选举的临近，[br]情况越来越糟，

0:12:33.917,0:12:35.684
更值得担忧的是，

0:12:35.708,0:12:38.184
如果选举结果不被信任，[br]如果暴力事件爆发，

0:12:38.208,0:12:42.351
那么迄今为止[br]最大的潜在危机将不可避免。

0:12:42.375,0:12:47.393
所以到 2021 年，当你们再说，[br]“我们知道我们必须做得更好”时，

0:12:47.417,0:12:50.101
我想要你们记住现在这一刻，

0:12:50.125,0:12:53.351
因为这再也不只是[br]一些局外人的声音。

0:12:53.375,0:12:55.643
民权领袖、学者、

0:12:55.667,0:12:58.643
记者、广告商和你们自己的员工

0:12:58.667,0:13:00.726
都会在屋顶上大声呼吁，

0:13:00.750,0:13:03.351
你们的政策和商业行为

0:13:03.375,0:13:05.792
一直都在危害人民和民主。

0:13:06.875,0:13:09.226
决定权在你们手中，

0:13:09.250,0:13:12.917
但是你们再也不能说，[br]你们不可能预见这样的后果。

0:13:14.167,0:13:15.417
谢谢。