WEBVTT

00:00:01.000 --> 00:00:03.018
大约五年前，

00:00:03.042 --> 00:00:05.434
我突然发现我在丧失

00:00:05.458 --> 00:00:07.958
与立场不同的人交流的能力。

00:00:08.917 --> 00:00:12.559
单是跟美国同胞讨论
争议性话题这个想法

00:00:12.583 --> 00:00:14.976
让我感到心累的程度，

00:00:15.000 --> 00:00:19.125
甚至就超过了我和海外可疑的
极端主义者有过的交流。

00:00:19.750 --> 00:00:23.351
这开始让我感到更加痛苦和沮丧。

00:00:23.375 --> 00:00:24.809
于是就这样，

00:00:24.833 --> 00:00:26.643
我把我的焦点

00:00:26.667 --> 00:00:29.101
从影响全球国家安全的威胁，

00:00:29.125 --> 00:00:32.351
转移到了寻找那个导致

00:00:32.375 --> 00:00:35.601
国内民众两极化的原因上。

00:00:35.625 --> 00:00:37.976
作为一名前中情局警官和外交官，

00:00:38.000 --> 00:00:41.434
我在解决反极端主义的问题上
有着多年的工作经验。

00:00:41.458 --> 00:00:45.309
我开始担心，这对
我们国家的民主造成的威胁

00:00:45.333 --> 00:00:47.851
会超过来自国外对手的威胁。

00:00:47.875 --> 00:00:49.684
于是我开始深究，

00:00:49.708 --> 00:00:51.226
开始发声，

00:00:51.250 --> 00:00:54.059
后来脸谱网聘请了我，

00:00:54.083 --> 00:00:56.768
也最终引领我来到了这里，

00:00:56.792 --> 00:01:01.745
使我能继续警告各位，
这些平台在如何

00:01:01.745 --> 00:01:03.643
操控和极端化我们的思想，

00:01:03.667 --> 00:01:06.625
并谈谈我们应该如何
夺回自己的公共空间。

00:01:07.625 --> 00:01:09.601
就在 911 事件发生的几年后，

00:01:09.625 --> 00:01:12.684
我曾担任过肯尼亚外交官，

00:01:12.708 --> 00:01:15.268
那时我在索马里的
边境领导了一个叫

00:01:15.292 --> 00:01:17.226
“心灵与精神”的项目。

00:01:17.250 --> 00:01:20.559
我的主要工作是与那些最容易

00:01:20.583 --> 00:01:23.292
被极端主义思想
影响的群体建立信任。

00:01:24.125 --> 00:01:28.309
我花了大量的时间与
直言不讳的反西方教士喝茶，

00:01:28.333 --> 00:01:31.559
甚至跟疑似恐怖份子的人
进行过谈话，

00:01:31.583 --> 00:01:34.976
虽然这些交谈都是从
互相怀疑开始的，

00:01:35.000 --> 00:01:38.809
他们却从来没有大喊
或说过任何辱骂的话，

00:01:38.833 --> 00:01:42.917
有些时候，我们甚至能在
共同感兴趣的领域一起合作。

00:01:44.000 --> 00:01:48.143
我们拥有的最有效的工具
就是聆听、学习

00:01:48.167 --> 00:01:49.893
还有建立同理心。

00:01:49.917 --> 00:01:52.976
这就是“心灵与精神”
这份工作的核心，

00:01:53.000 --> 00:01:56.268
因为我多次发现，
他们大多数人想要的

00:01:56.292 --> 00:02:00.059
无非是被聆听、被认可，
还有被尊重。

00:02:00.083 --> 00:02:02.726
我相信这也是我们
大多数人想要的。

NOTE Paragraph

00:02:02.750 --> 00:02:06.059
可如今，网络上
发生的一切却令我心碎，

00:02:06.083 --> 00:02:08.167
也让我明白，这是一个
很难解决的问题。

00:02:08.917 --> 00:02:12.684
我们正被目前的
信息网络操纵，

00:02:12.708 --> 00:02:16.476
陷入了绝对主义中，

00:02:16.500 --> 00:02:19.476
在这里，“妥协”已经成为
一个肮脏的字眼。

00:02:19.500 --> 00:02:20.809
因为当今，

00:02:20.833 --> 00:02:22.976
类似于脸谱网的社交媒体公司

00:02:23.000 --> 00:02:26.851
通过为我们提供
个性化的内容来获利，

00:02:26.875 --> 00:02:30.726
而这些内容既认可，
也利用了我们的偏见。

00:02:30.750 --> 00:02:34.184
他们的底线就是，
通过激起强烈的情绪

00:02:34.208 --> 00:02:35.893
来让我们沉迷，

00:02:35.917 --> 00:02:40.184
持续强调那些煽性的，
十分两极化的声音，

00:02:40.208 --> 00:02:44.643
直到找到共同点变得不再可能。

00:02:44.667 --> 00:02:48.893
虽然越来越多的人开始
要求这些平台做出改变，

00:02:48.917 --> 00:02:52.226
但单靠它们是明显不够的。

00:02:52.250 --> 00:02:55.143
所以，政府必须定义

00:02:55.167 --> 00:02:58.976
这些对社会造成危害的商业模式
需承担什么样的责任，

00:02:59.000 --> 00:03:01.768
并让它们因严重损害

00:03:01.792 --> 00:03:07.101
我们的公共健康、公共空间，
还有我们的民主付出代价。

00:03:07.125 --> 00:03:11.768
但不幸的是，在美国大选
之前这都不可能发生，

00:03:11.792 --> 00:03:14.559
所以我只能继续发出警告，

00:03:14.583 --> 00:03:17.643
因为即使有一天
我们有了强有力的法律，

00:03:17.667 --> 00:03:20.417
还是需要大家一起来解决问题。

NOTE Paragraph

00:03:21.417 --> 00:03:24.018
当我的注意力从海外威胁

00:03:24.042 --> 00:03:26.184
转移到已然破碎的
国内民众对话时，

00:03:26.208 --> 00:03:30.268
我曾想过，是否可以重新利用
“心灵与精神”这个项目

00:03:30.292 --> 00:03:32.393
来缓解国内的分歧。

00:03:32.417 --> 00:03:36.226
我们过去 200 多年的
民主实验之所以有效，

00:03:36.250 --> 00:03:40.143
很大程度是因为我们
可以公开并且热情地

00:03:40.167 --> 00:03:42.976
讨论想法，
以找到最佳解决方案。

00:03:43.000 --> 00:03:44.809
我始终坚信，

00:03:44.833 --> 00:03:47.101
面对面的民间对话是有效的，

00:03:47.125 --> 00:03:48.768
但它确实难以对抗

00:03:48.792 --> 00:03:52.601
如今社交媒体带来的
两极分化的效应和规模。

00:03:52.625 --> 00:03:54.976
与我曾经合作过的
那些弱势群体相比，

00:03:55.000 --> 00:03:56.309
那些沉陷于

00:03:56.333 --> 00:03:59.976
社交媒体上激进内容的人

00:04:00.000 --> 00:04:03.476
更难脱离他们的固有观念。

NOTE Paragraph

00:04:03.500 --> 00:04:05.809
所以在 2018 年，
当脸谱网找到我，

00:04:05.833 --> 00:04:07.143
并给我提供了这份

00:04:07.167 --> 00:04:11.143
负责政治广告管理的工作时，

00:04:11.167 --> 00:04:13.184
我觉得我必须答应。

00:04:13.208 --> 00:04:15.934
我知道我可能
无法解决所有的问题，

00:04:15.958 --> 00:04:17.601
但有了这个可以

00:04:17.625 --> 00:04:19.809
引导民众的机会，

00:04:19.833 --> 00:04:21.375
我必须至少尝试一下。

00:04:22.667 --> 00:04:24.934
虽然我们没有研究过两极分化，

00:04:24.958 --> 00:04:29.393
但是我确实研究过哪些问题
最容易引起社会分裂，

00:04:29.417 --> 00:04:33.226
在选举干扰中也最易被利用，

00:04:33.250 --> 00:04:35.833
这也是俄罗斯在 2016 年前的策略。

00:04:36.583 --> 00:04:38.934
所以我从提问开始。

00:04:38.958 --> 00:04:41.851
我想找到导致这一切发生的

00:04:41.875 --> 00:04:44.309
潜在的系统性问题，

00:04:44.333 --> 00:04:46.417
以便找到解决的方法。

NOTE Paragraph

00:04:47.625 --> 00:04:50.184
现在，我仍然相信互联网的力量

00:04:50.208 --> 00:04:52.726
能让更多的声音参与进来，

00:04:52.750 --> 00:04:55.851
尽管它们宣称的目标是建立社区，

00:04:55.875 --> 00:04:59.184
目前最大的
社交媒体公司的构建方式

00:04:59.208 --> 00:05:02.809
与理性言论的概念
却是背道而驰的。

00:05:02.833 --> 00:05:05.351
在一个把优化用户参与度

00:05:05.375 --> 00:05:06.976
和用户增长量

00:05:07.000 --> 00:05:10.643
作为衡量成功的两大指标的行业里，

00:05:10.667 --> 00:05:14.018
你没有办法奖励倾听、
鼓励民众讨论，

00:05:14.042 --> 00:05:17.268
你也没有办法去保护
那些诚恳提问的人。

00:05:17.292 --> 00:05:20.726
没有任何激励因素
去帮助人们慢下来，

00:05:20.750 --> 00:05:23.976
没有去建立足够的摩擦
让人们不得不停下来，

00:05:24.000 --> 00:05:26.601
认识到自己
对某事的情绪化反应，

00:05:26.625 --> 00:05:29.292
并且在参与之前
质疑自己的假设。

00:05:30.625 --> 00:05:32.601
令人遗憾的事实是：

00:05:32.625 --> 00:05:35.518
在一个优化无摩擦的，
病毒式传播的世界里，

00:05:35.542 --> 00:05:39.268
网络上的谎言比真相更吸引人，

00:05:39.292 --> 00:05:42.333
淫秽信息胜过了
基于事实的推理。

00:05:43.167 --> 00:05:46.601
只要算法的目标是保持我们的参与，

00:05:46.625 --> 00:05:50.684
它们就会继续“喂”迎合
我们最糟糕的本能

00:05:50.708 --> 00:05:52.167
和人性弱点的毒药。

00:05:52.958 --> 00:05:55.976
当然，愤怒、不信任、

00:05:56.000 --> 00:05:57.726
恐惧和仇恨的文化：

00:05:57.750 --> 00:06:00.601
这些在美国都不是新事物。

00:06:00.625 --> 00:06:03.976
但近年来，社交软件
充分利用了这一切，

00:06:04.000 --> 00:06:07.601
并且在我看来，
还起到了决定性的作用。

00:06:07.625 --> 00:06:10.018
脸谱网也深谙这一点。

00:06:10.042 --> 00:06:11.934
《华尔街日报》最近的一篇文章

00:06:11.958 --> 00:06:16.101
披露的一项脸谱网 
2018 年的内部演示中，

00:06:16.125 --> 00:06:19.893
特别提到了该公司自己的算法

00:06:19.917 --> 00:06:23.434
让越来越多的极端组织信息
出现在其平台上，

00:06:23.458 --> 00:06:25.625
并导致了用户两极分化。

00:06:26.708 --> 00:06:30.393
但让我们参与其中
正是它们赚钱的方式。

00:06:30.417 --> 00:06:34.643
现代信息环境是通过
我们的信息画像而构建的，

00:06:34.667 --> 00:06:37.643
再将我们分割成
越来越细小的类别，

00:06:37.667 --> 00:06:40.976
从而完善这个个性化的过程。

00:06:41.000 --> 00:06:44.809
然后，我们被可以证实
我们观点的信息狂轰滥炸，

00:06:44.833 --> 00:06:46.684
强化我们的偏见，

00:06:46.708 --> 00:06:50.226
并且让我们感觉属于某类群体。

00:06:50.250 --> 00:06:53.643
这些策略和那些
恐怖分子用于招募

00:06:53.667 --> 00:06:55.851
弱势青少年的伎俩如出一辙，

00:06:55.875 --> 00:06:59.726
尽管是用比社交媒体更小、
更本土化的方式，

00:06:59.750 --> 00:07:03.018
但最终目标都是灌输某种行为。

NOTE Paragraph

00:07:03.042 --> 00:07:08.309
不幸的是，我从未被脸谱网
授权去产生实质影响。

00:07:08.333 --> 00:07:12.101
事实上，在我工作的第二天，
我的头衔和具体工作就发生了变化，

00:07:12.125 --> 00:07:15.101
并且被排除在决策会议外。

00:07:15.125 --> 00:07:16.434
我最大的努力，

00:07:16.458 --> 00:07:17.851
试图制定计划，

00:07:17.875 --> 00:07:21.476
以打击政治广告中的
虚假信息和投票权压制

00:07:21.500 --> 00:07:23.059
被拒绝了。

00:07:23.083 --> 00:07:25.583
所以我只坚持了
不到 6 个月就辞职了。

00:07:26.125 --> 00:07:29.726
但这是我在这段期间最大的收获。

00:07:29.750 --> 00:07:32.226
成千上万的人在脸谱网工作，

00:07:32.250 --> 00:07:34.268
充满热情的投入于这个

00:07:34.292 --> 00:07:37.976
他们相信能将世界
变得更美好的产品，

00:07:38.000 --> 00:07:41.684
但是，只要公司依然仅仅只是

00:07:41.708 --> 00:07:44.434
在内容政策和合理性的边缘试探，

00:07:44.458 --> 00:07:45.768
而不考虑

00:07:45.792 --> 00:07:49.018
整个平台的设计和赚钱方式，

00:07:49.042 --> 00:07:52.393
那它们永远不会真正解决
平台是如何助长

00:07:52.417 --> 00:07:56.601
仇恨、分裂和激进这些问题的。

00:07:56.625 --> 00:08:00.893
而这也正是我在那里
从未听到过的对话，

00:08:00.917 --> 00:08:03.976
因为那将会需要你从根本上接受

00:08:04.000 --> 00:08:08.143
你所创造的东西可能
不是对社会最有益的东西，

00:08:08.167 --> 00:08:11.292
并同意改变整个产品和盈利模式。

NOTE Paragraph

00:08:12.500 --> 00:08:14.333
那么我们能做些什么呢？

00:08:15.042 --> 00:08:18.643
我并不是说社交媒体
要为我们国家的现状

00:08:18.667 --> 00:08:20.809
承担唯一的责任。

00:08:20.833 --> 00:08:26.268
显然，我们有一些根深蒂固的
社会问题需要解决。

00:08:26.292 --> 00:08:30.434
但脸谱网的回应
只是社会的一面镜子，

00:08:30.458 --> 00:08:33.476
这是一种转移其平台

00:08:33.500 --> 00:08:37.768
放大有害言论，并将一些用户

00:08:37.792 --> 00:08:40.833
推向极端观点的责任的方便说辞。

NOTE Paragraph

00:08:41.583 --> 00:08:44.434
当然，如果脸谱网
的确有这方面的主观意愿，

00:08:44.458 --> 00:08:46.309
是可以解决其中一些问题的。

00:08:46.333 --> 00:08:50.184
他们可以停止推荐和放大
阴谋理论家、

00:08:50.208 --> 00:08:52.893
仇恨组织和
虚假信息散布者的影响，

00:08:52.917 --> 00:08:56.768
是的，在某些情况下，
甚至包括我们的总统。

00:08:56.792 --> 00:09:02.018
它们可以停止使用
与推销跑鞋同样的个性化推荐服务

00:09:02.018 --> 00:09:04.434
来传递政治说辞。

00:09:04.458 --> 00:09:06.184
它们可以重新修改算法，

00:09:06.208 --> 00:09:08.393
去专注于一个
非用户互动类的度量指标，

00:09:08.417 --> 00:09:12.726
也可以建立信息护栏，
防止某些内容在被审核之前

00:09:12.750 --> 00:09:14.417
像病毒一样被传播。

00:09:14.875 --> 00:09:17.143
他们可以做到所有这一切。

00:09:17.167 --> 00:09:21.351
而不必成为他们所谓的
“真理仲裁者”。

NOTE Paragraph

00:09:21.375 --> 00:09:24.184
但是他们已经明确表示，
除非被强制这样做，

00:09:24.208 --> 00:09:27.018
否则他们就不会
积极采取正确的行动，

00:09:27.042 --> 00:09:29.976
毕竟，坦白说，
他们为什么要这么做呢？

00:09:30.000 --> 00:09:33.934
市场一直在奖励他们，
他们也没有违法。

00:09:33.958 --> 00:09:35.268
因为就现在的情况而言，

00:09:35.292 --> 00:09:40.184
美国并没有法律强制脸谱网
或者其他社交媒体公司

00:09:40.208 --> 00:09:41.976
去保护我们的公共广场、

00:09:42.000 --> 00:09:43.309
民主，

00:09:43.333 --> 00:09:45.768
甚至是我们的选举。

00:09:45.792 --> 00:09:49.893
我们已经将制定和执行
哪些计划的决定权交给了

00:09:49.917 --> 00:09:53.000
盈利性互联网公司的
首席执行官们。

00:09:53.750 --> 00:09:55.768
这是我们想要的吗？

00:09:55.792 --> 00:09:59.018
一个有毒言论和部落主义

00:09:59.042 --> 00:10:02.337
彻底压倒打造沟通桥梁
和追求共识的后真相世界？

00:10:02.667 --> 00:10:08.052
我仍然乐观的认为，我们要比
现存的媒体和网络环境所描绘的彼此

00:10:08.052 --> 00:10:10.434
拥有更多的共同点，

00:10:10.458 --> 00:10:13.559
我也坚信相信，拥有更多视角

00:10:13.583 --> 00:10:17.184
会让民主更加健康和包容，

00:10:17.208 --> 00:10:20.018
但不是以目前的方式。

00:10:20.042 --> 00:10:24.268
需要强调的是，
我并不想搞垮这些公司。

00:10:24.292 --> 00:10:27.518
我只想让它们承担
一定程度的责任，

00:10:27.542 --> 00:10:29.458
就像社会中的其他人一样。

00:10:30.542 --> 00:10:34.893
我们的政府是时候站出来

00:10:34.917 --> 00:10:36.559
做好保护我们公民的工作了。

00:10:36.583 --> 00:10:39.643
虽然还没有一项神奇的立法

00:10:39.667 --> 00:10:41.143
可以解决所有的问题，

00:10:41.167 --> 00:10:45.851
但我的确相信，
政府可以，而且必须在

00:10:45.875 --> 00:10:48.018
保护自由言论和让这些平台

00:10:48.042 --> 00:10:52.351
为它们的社会影响负责之间找到平衡。

00:10:52.375 --> 00:10:56.684
他们可以通过保证
这些推荐引擎如何工作，

00:10:56.708 --> 00:11:02.765
如何进行管理、
放大和定位的透明度

00:11:02.765 --> 00:11:04.518
来做到这一点。

NOTE Paragraph

00:11:04.542 --> 00:11:06.976
我希望这些公司

00:11:07.000 --> 00:11:10.101
不仅是对个人发布虚假信息

00:11:10.125 --> 00:11:11.601
或者极端言论负责，

00:11:11.625 --> 00:11:15.476
还要对他们的推荐引擎
如何传播这些信息，

00:11:15.500 --> 00:11:18.726
他们的算法如何
引导人们使用这些信息，

00:11:18.750 --> 00:11:22.042
以及他们的工具
如何被用来针对这些人负责。

00:11:23.417 --> 00:11:27.101
我试图从脸谱网内部
做出改变，但是我失败了，

00:11:27.125 --> 00:11:30.268
所以在过去几年，
我一直在用自己的声音

00:11:30.292 --> 00:11:32.518
不断发出警告，

00:11:32.542 --> 00:11:36.934
希望能激发更多的人
来要求这种责任。

NOTE Paragraph

00:11:36.958 --> 00:11:39.601
我要传递给你们的信息很简单：

00:11:39.625 --> 00:11:41.809
对你们的政府代表施压，
让他们站出来，

00:11:41.833 --> 00:11:47.268
停止将我们的公共空间
拱手让给以营利为目的获利行为。

00:11:47.292 --> 00:11:49.143
帮助你的朋友和家人了解

00:11:49.167 --> 00:11:52.309
他们在网上是如何被操纵的。

00:11:52.333 --> 00:11:55.851
推动自己和没有共同想法的人交流。

00:11:55.875 --> 00:11:58.518
把这个问题当作优先事项。

00:11:58.542 --> 00:12:01.958
我们需要一个能动员
全社会的方法来解决它。

NOTE Paragraph

00:12:03.250 --> 00:12:08.809
我对我的前雇主，
脸谱网的领导们想要说的是：

00:12:08.833 --> 00:12:14.643
现在，人们正在使用
你们设计好的工具

00:12:14.667 --> 00:12:17.268
传播仇恨、分裂和不信任，

00:12:17.292 --> 00:12:21.434
而你们不仅允许了，
而且还在加剧这种情况。

00:12:21.458 --> 00:12:23.934
没错，在全球范围内

00:12:23.958 --> 00:12:27.643
你们的平台上发生了很多积极的事，

00:12:27.667 --> 00:12:30.893
但这并不意味着这一切
都是可以接受的。

00:12:30.917 --> 00:12:33.893
随着选举的临近，
情况越来越糟，

00:12:33.917 --> 00:12:35.684
更值得担忧的是，

00:12:35.708 --> 00:12:38.184
如果选举结果不被信任，
如果暴力事件爆发，

00:12:38.208 --> 00:12:42.351
那么迄今为止
最大的潜在危机将不可避免。

00:12:42.375 --> 00:12:47.393
所以到 2021 年，当你们再说，
“我们知道我们必须做得更好”时，

00:12:47.417 --> 00:12:50.101
我想要你们记住现在这一刻，

00:12:50.125 --> 00:12:53.351
因为这再也不只是
一些局外人的声音。

00:12:53.375 --> 00:12:55.643
民权领袖、学者、

00:12:55.667 --> 00:12:58.643
记者、广告商和你们自己的员工

00:12:58.667 --> 00:13:00.726
都会在屋顶上大声呼吁，

00:13:00.750 --> 00:13:03.351
你们的政策和商业行为

00:13:03.375 --> 00:13:05.792
一直都在危害人民和民主。

00:13:06.875 --> 00:13:09.226
决定权在你们手中，

00:13:09.250 --> 00:13:12.917
但是你们再也不能说，
你们不可能预见这样的后果。

NOTE Paragraph

00:13:14.167 --> 00:13:15.417
谢谢。