1
00:00:01,000 --> 00:00:03,018
大约五年前，

2
00:00:03,042 --> 00:00:05,434
我突然发现我在丧失

3
00:00:05,458 --> 00:00:07,958
与立场不同的人交流的能力。

4
00:00:08,917 --> 00:00:12,559
单是跟美国同胞讨论
争议性话题这个想法

5
00:00:12,583 --> 00:00:14,976
让我感到心累的程度，

6
00:00:15,000 --> 00:00:19,125
甚至就超过了我和海外可疑的
极端主义者有过的交流。

7
00:00:19,750 --> 00:00:23,351
这开始让我感到更加痛苦和沮丧。

8
00:00:23,375 --> 00:00:24,809
于是就这样，

9
00:00:24,833 --> 00:00:26,643
我把我的焦点

10
00:00:26,667 --> 00:00:29,101
从影响全球国家安全的威胁，

11
00:00:29,125 --> 00:00:32,351
转移到了寻找那个导致

12
00:00:32,375 --> 00:00:35,601
国内民众两极化的原因上。

13
00:00:35,625 --> 00:00:37,976
作为一名前中情局警官和外交官，

14
00:00:38,000 --> 00:00:41,434
我在解决反极端主义的问题上
有着多年的工作经验。

15
00:00:41,458 --> 00:00:45,309
我开始担心，这对
我们国家的民主造成的威胁

16
00:00:45,333 --> 00:00:47,851
会超过来自国外对手的威胁。

17
00:00:47,875 --> 00:00:49,684
于是我开始深究，

18
00:00:49,708 --> 00:00:51,226
开始发声，

19
00:00:51,250 --> 00:00:54,059
后来脸谱网聘请了我，

20
00:00:54,083 --> 00:00:56,768
也最终引领我来到了这里，

21
00:00:56,792 --> 00:01:01,745
使我能继续警告各位，
这些平台在如何

22
00:01:01,745 --> 00:01:03,643
操控和极端化我们的思想，

23
00:01:03,667 --> 00:01:06,625
并谈谈我们应该如何
夺回自己的公共空间。

24
00:01:07,625 --> 00:01:09,601
就在 911 事件发生的几年后，

25
00:01:09,625 --> 00:01:12,684
我曾担任过肯尼亚外交官，

26
00:01:12,708 --> 00:01:15,268
那时我在索马里的
边境领导了一个叫

27
00:01:15,292 --> 00:01:17,226
“心灵与精神”的项目。

28
00:01:17,250 --> 00:01:20,559
我的主要工作是与那些最容易

29
00:01:20,583 --> 00:01:23,292
被极端主义思想
影响的群体建立信任。

30
00:01:24,125 --> 00:01:28,309
我花了大量的时间与
直言不讳的反西方教士喝茶，

31
00:01:28,333 --> 00:01:31,559
甚至跟疑似恐怖份子的人
进行过谈话，

32
00:01:31,583 --> 00:01:34,976
虽然这些交谈都是从
互相怀疑开始的，

33
00:01:35,000 --> 00:01:38,809
他们却从来没有大喊
或说过任何辱骂的话，

34
00:01:38,833 --> 00:01:42,917
有些时候，我们甚至能在
共同感兴趣的领域一起合作。

35
00:01:44,000 --> 00:01:48,143
我们拥有的最有效的工具
就是聆听、学习

36
00:01:48,167 --> 00:01:49,893
还有建立同理心。

37
00:01:49,917 --> 00:01:52,976
这就是“心灵与精神”
这份工作的核心，

38
00:01:53,000 --> 00:01:56,268
因为我多次发现，
他们大多数人想要的

39
00:01:56,292 --> 00:02:00,059
无非是被聆听、被认可，
还有被尊重。

40
00:02:00,083 --> 00:02:02,726
我相信这也是我们
大多数人想要的。

41
00:02:02,750 --> 00:02:06,059
可如今，网络上
发生的一切却令我心碎，

42
00:02:06,083 --> 00:02:08,167
也让我明白，这是一个
很难解决的问题。

43
00:02:08,917 --> 00:02:12,684
我们正被目前的
信息网络操纵，

44
00:02:12,708 --> 00:02:16,476
陷入了绝对主义中，

45
00:02:16,500 --> 00:02:19,476
在这里，“妥协”已经成为
一个肮脏的字眼。

46
00:02:19,500 --> 00:02:20,809
因为当今，

47
00:02:20,833 --> 00:02:22,976
类似于脸谱网的社交媒体公司

48
00:02:23,000 --> 00:02:26,851
通过为我们提供
个性化的内容来获利，

49
00:02:26,875 --> 00:02:30,726
而这些内容既认可，
也利用了我们的偏见。

50
00:02:30,750 --> 00:02:34,184
他们的底线就是，
通过激起强烈的情绪

51
00:02:34,208 --> 00:02:35,893
来让我们沉迷，

52
00:02:35,917 --> 00:02:40,184
持续强调那些煽性的，
十分两极化的声音，

53
00:02:40,208 --> 00:02:44,643
直到找到共同点变得不再可能。

54
00:02:44,667 --> 00:02:48,893
虽然越来越多的人开始
要求这些平台做出改变，

55
00:02:48,917 --> 00:02:52,226
但单靠它们是明显不够的。

56
00:02:52,250 --> 00:02:55,143
所以，政府必须定义

57
00:02:55,167 --> 00:02:58,976
这些对社会造成危害的商业模式
需承担什么样的责任，

58
00:02:59,000 --> 00:03:01,768
并让它们因严重损害

59
00:03:01,792 --> 00:03:07,101
我们的公共健康、公共空间，
还有我们的民主付出代价。

60
00:03:07,125 --> 00:03:11,768
但不幸的是，在美国大选
之前这都不可能发生，

61
00:03:11,792 --> 00:03:14,559
所以我只能继续发出警告，

62
00:03:14,583 --> 00:03:17,643
因为即使有一天
我们有了强有力的法律，

63
00:03:17,667 --> 00:03:20,417
还是需要大家一起来解决问题。

64
00:03:21,417 --> 00:03:24,018
当我的注意力从海外威胁

65
00:03:24,042 --> 00:03:26,184
转移到已然破碎的
国内民众对话时，

66
00:03:26,208 --> 00:03:30,268
我曾想过，是否可以重新利用
“心灵与精神”这个项目

67
00:03:30,292 --> 00:03:32,393
来缓解国内的分歧。

68
00:03:32,417 --> 00:03:36,226
我们过去 200 多年的
民主实验之所以有效，

69
00:03:36,250 --> 00:03:40,143
很大程度是因为我们
可以公开并且热情地

70
00:03:40,167 --> 00:03:42,976
讨论想法，
以找到最佳解决方案。

71
00:03:43,000 --> 00:03:44,809
我始终坚信，

72
00:03:44,833 --> 00:03:47,101
面对面的民间对话是有效的，

73
00:03:47,125 --> 00:03:48,768
但它确实难以对抗

74
00:03:48,792 --> 00:03:52,601
如今社交媒体带来的
两极分化的效应和规模。

75
00:03:52,625 --> 00:03:54,976
与我曾经合作过的
那些弱势群体相比，

76
00:03:55,000 --> 00:03:56,309
那些沉陷于

77
00:03:56,333 --> 00:03:59,976
社交媒体上激进内容的人

78
00:04:00,000 --> 00:04:03,476
更难脱离他们的固有观念。

79
00:04:03,500 --> 00:04:05,809
所以在 2018 年，
当脸谱网找到我，

80
00:04:05,833 --> 00:04:07,143
并给我提供了这份

81
00:04:07,167 --> 00:04:11,143
负责政治广告管理的工作时，

82
00:04:11,167 --> 00:04:13,184
我觉得我必须答应。

83
00:04:13,208 --> 00:04:15,934
我知道我可能
无法解决所有的问题，

84
00:04:15,958 --> 00:04:17,601
但有了这个可以

85
00:04:17,625 --> 00:04:19,809
引导民众的机会，

86
00:04:19,833 --> 00:04:21,375
我必须至少尝试一下。

87
00:04:22,667 --> 00:04:24,934
虽然我们没有研究过两极分化，

88
00:04:24,958 --> 00:04:29,393
但是我确实研究过哪些问题
最容易引起社会分裂，

89
00:04:29,417 --> 00:04:33,226
在选举干扰中也最易被利用，

90
00:04:33,250 --> 00:04:35,833
这也是俄罗斯在 2016 年前的策略。

91
00:04:36,583 --> 00:04:38,934
所以我从提问开始。

92
00:04:38,958 --> 00:04:41,851
我想找到导致这一切发生的

93
00:04:41,875 --> 00:04:44,309
潜在的系统性问题，

94
00:04:44,333 --> 00:04:46,417
以便找到解决的方法。

95
00:04:47,625 --> 00:04:50,184
现在，我仍然相信互联网的力量

96
00:04:50,208 --> 00:04:52,726
能让更多的声音参与进来，

97
00:04:52,750 --> 00:04:55,851
尽管它们宣称的目标是建立社区，

98
00:04:55,875 --> 00:04:59,184
目前最大的
社交媒体公司的构建方式

99
00:04:59,208 --> 00:05:02,809
与理性言论的概念
却是背道而驰的。

100
00:05:02,833 --> 00:05:05,351
在一个把优化用户参与度

101
00:05:05,375 --> 00:05:06,976
和用户增长量

102
00:05:07,000 --> 00:05:10,643
作为衡量成功的两大指标的行业里，

103
00:05:10,667 --> 00:05:14,018
你没有办法奖励倾听、
鼓励民众讨论，

104
00:05:14,042 --> 00:05:17,268
你也没有办法去保护
那些诚恳提问的人。

105
00:05:17,292 --> 00:05:20,726
没有任何激励因素
去帮助人们慢下来，

106
00:05:20,750 --> 00:05:23,976
没有去建立足够的摩擦
让人们不得不停下来，

107
00:05:24,000 --> 00:05:26,601
认识到自己
对某事的情绪化反应，

108
00:05:26,625 --> 00:05:29,292
并且在参与之前
质疑自己的假设。

109
00:05:30,625 --> 00:05:32,601
令人遗憾的事实是：

110
00:05:32,625 --> 00:05:35,518
在一个优化无摩擦的，
病毒式传播的世界里，

111
00:05:35,542 --> 00:05:39,268
网络上的谎言比真相更吸引人，

112
00:05:39,292 --> 00:05:42,333
淫秽信息胜过了
基于事实的推理。

113
00:05:43,167 --> 00:05:46,601
只要算法的目标是保持我们的参与，

114
00:05:46,625 --> 00:05:50,684
它们就会继续“喂”迎合
我们最糟糕的本能

115
00:05:50,708 --> 00:05:52,167
和人性弱点的毒药。

116
00:05:52,958 --> 00:05:55,976
当然，愤怒、不信任、

117
00:05:56,000 --> 00:05:57,726
恐惧和仇恨的文化：

118
00:05:57,750 --> 00:06:00,601
这些在美国都不是新事物。

119
00:06:00,625 --> 00:06:03,976
但近年来，社交软件
充分利用了这一切，

120
00:06:04,000 --> 00:06:07,601
并且在我看来，
还起到了决定性的作用。

121
00:06:07,625 --> 00:06:10,018
脸谱网也深谙这一点。

122
00:06:10,042 --> 00:06:11,934
《华尔街日报》最近的一篇文章

123
00:06:11,958 --> 00:06:16,101
披露的一项脸谱网 
2018 年的内部演示中，

124
00:06:16,125 --> 00:06:19,893
特别提到了该公司自己的算法

125
00:06:19,917 --> 00:06:23,434
让越来越多的极端组织信息
出现在其平台上，

126
00:06:23,458 --> 00:06:25,625
并导致了用户两极分化。

127
00:06:26,708 --> 00:06:30,393
但让我们参与其中
正是它们赚钱的方式。

128
00:06:30,417 --> 00:06:34,643
现代信息环境是通过
我们的信息画像而构建的，

129
00:06:34,667 --> 00:06:37,643
再将我们分割成
越来越细小的类别，

130
00:06:37,667 --> 00:06:40,976
从而完善这个个性化的过程。

131
00:06:41,000 --> 00:06:44,809
然后，我们被可以证实
我们观点的信息狂轰滥炸，

132
00:06:44,833 --> 00:06:46,684
强化我们的偏见，

133
00:06:46,708 --> 00:06:50,226
并且让我们感觉属于某类群体。

134
00:06:50,250 --> 00:06:53,643
这些策略和那些
恐怖分子用于招募

135
00:06:53,667 --> 00:06:55,851
弱势青少年的伎俩如出一辙，

136
00:06:55,875 --> 00:06:59,726
尽管是用比社交媒体更小、
更本土化的方式，

137
00:06:59,750 --> 00:07:03,018
但最终目标都是灌输某种行为。

138
00:07:03,042 --> 00:07:08,309
不幸的是，我从未被脸谱网
授权去产生实质影响。

139
00:07:08,333 --> 00:07:12,101
事实上，在我工作的第二天，
我的头衔和具体工作就发生了变化，

140
00:07:12,125 --> 00:07:15,101
并且被排除在决策会议外。

141
00:07:15,125 --> 00:07:16,434
我最大的努力，

142
00:07:16,458 --> 00:07:17,851
试图制定计划，

143
00:07:17,875 --> 00:07:21,476
以打击政治广告中的
虚假信息和投票权压制

144
00:07:21,500 --> 00:07:23,059
被拒绝了。

145
00:07:23,083 --> 00:07:25,583
所以我只坚持了
不到 6 个月就辞职了。

146
00:07:26,125 --> 00:07:29,726
但这是我在这段期间最大的收获。

147
00:07:29,750 --> 00:07:32,226
成千上万的人在脸谱网工作，

148
00:07:32,250 --> 00:07:34,268
充满热情的投入于这个

149
00:07:34,292 --> 00:07:37,976
他们相信能将世界
变得更美好的产品，

150
00:07:38,000 --> 00:07:41,684
但是，只要公司依然仅仅只是

151
00:07:41,708 --> 00:07:44,434
在内容政策和合理性的边缘试探，

152
00:07:44,458 --> 00:07:45,768
而不考虑

153
00:07:45,792 --> 00:07:49,018
整个平台的设计和赚钱方式，

154
00:07:49,042 --> 00:07:52,393
那它们永远不会真正解决
平台是如何助长

155
00:07:52,417 --> 00:07:56,601
仇恨、分裂和激进这些问题的。

156
00:07:56,625 --> 00:08:00,893
而这也正是我在那里
从未听到过的对话，

157
00:08:00,917 --> 00:08:03,976
因为那将会需要你从根本上接受

158
00:08:04,000 --> 00:08:08,143
你所创造的东西可能
不是对社会最有益的东西，

159
00:08:08,167 --> 00:08:11,292
并同意改变整个产品和盈利模式。

160
00:08:12,500 --> 00:08:14,333
那么我们能做些什么呢？

161
00:08:15,042 --> 00:08:18,643
我并不是说社交媒体
要为我们国家的现状

162
00:08:18,667 --> 00:08:20,809
承担唯一的责任。

163
00:08:20,833 --> 00:08:26,268
显然，我们有一些根深蒂固的
社会问题需要解决。

164
00:08:26,292 --> 00:08:30,434
但脸谱网的回应
只是社会的一面镜子，

165
00:08:30,458 --> 00:08:33,476
这是一种转移其平台

166
00:08:33,500 --> 00:08:37,768
放大有害言论，并将一些用户

167
00:08:37,792 --> 00:08:40,833
推向极端观点的责任的方便说辞。

168
00:08:41,583 --> 00:08:44,434
当然，如果脸谱网
的确有这方面的主观意愿，

169
00:08:44,458 --> 00:08:46,309
是可以解决其中一些问题的。

170
00:08:46,333 --> 00:08:50,184
他们可以停止推荐和放大
阴谋理论家、

171
00:08:50,208 --> 00:08:52,893
仇恨组织和
虚假信息散布者的影响，

172
00:08:52,917 --> 00:08:56,768
是的，在某些情况下，
甚至包括我们的总统。

173
00:08:56,792 --> 00:09:02,018
它们可以停止使用
与推销跑鞋同样的个性化推荐服务

174
00:09:02,018 --> 00:09:04,434
来传递政治说辞。

175
00:09:04,458 --> 00:09:06,184
它们可以重新修改算法，

176
00:09:06,208 --> 00:09:08,393
去专注于一个
非用户互动类的度量指标，

177
00:09:08,417 --> 00:09:12,726
也可以建立信息护栏，
防止某些内容在被审核之前

178
00:09:12,750 --> 00:09:14,417
像病毒一样被传播。

179
00:09:14,875 --> 00:09:17,143
他们可以做到所有这一切。

180
00:09:17,167 --> 00:09:21,351
而不必成为他们所谓的
“真理仲裁者”。

181
00:09:21,375 --> 00:09:24,184
但是他们已经明确表示，
除非被强制这样做，

182
00:09:24,208 --> 00:09:27,018
否则他们就不会
积极采取正确的行动，

183
00:09:27,042 --> 00:09:29,976
毕竟，坦白说，
他们为什么要这么做呢？

184
00:09:30,000 --> 00:09:33,934
市场一直在奖励他们，
他们也没有违法。

185
00:09:33,958 --> 00:09:35,268
因为就现在的情况而言，

186
00:09:35,292 --> 00:09:40,184
美国并没有法律强制脸谱网
或者其他社交媒体公司

187
00:09:40,208 --> 00:09:41,976
去保护我们的公共广场、

188
00:09:42,000 --> 00:09:43,309
民主，

189
00:09:43,333 --> 00:09:45,768
甚至是我们的选举。

190
00:09:45,792 --> 00:09:49,893
我们已经将制定和执行
哪些计划的决定权交给了

191
00:09:49,917 --> 00:09:53,000
盈利性互联网公司的
首席执行官们。

192
00:09:53,750 --> 00:09:55,768
这是我们想要的吗？

193
00:09:55,792 --> 00:09:59,018
一个有毒言论和部落主义

194
00:09:59,042 --> 00:10:02,337
彻底压倒打造沟通桥梁
和追求共识的后真相世界？

195
00:10:02,667 --> 00:10:08,052
我仍然乐观的认为，我们要比
现存的媒体和网络环境所描绘的彼此

196
00:10:08,052 --> 00:10:10,434
拥有更多的共同点，

197
00:10:10,458 --> 00:10:13,559
我也坚信相信，拥有更多视角

198
00:10:13,583 --> 00:10:17,184
会让民主更加健康和包容，

199
00:10:17,208 --> 00:10:20,018
但不是以目前的方式。

200
00:10:20,042 --> 00:10:24,268
需要强调的是，
我并不想搞垮这些公司。

201
00:10:24,292 --> 00:10:27,518
我只想让它们承担
一定程度的责任，

202
00:10:27,542 --> 00:10:29,458
就像社会中的其他人一样。

203
00:10:30,542 --> 00:10:34,893
我们的政府是时候站出来

204
00:10:34,917 --> 00:10:36,559
做好保护我们公民的工作了。

205
00:10:36,583 --> 00:10:39,643
虽然还没有一项神奇的立法

206
00:10:39,667 --> 00:10:41,143
可以解决所有的问题，

207
00:10:41,167 --> 00:10:45,851
但我的确相信，
政府可以，而且必须在

208
00:10:45,875 --> 00:10:48,018
保护自由言论和让这些平台

209
00:10:48,042 --> 00:10:52,351
为它们的社会影响负责之间找到平衡。

210
00:10:52,375 --> 00:10:56,684
他们可以通过保证
这些推荐引擎如何工作，

211
00:10:56,708 --> 00:11:02,765
如何进行管理、
放大和定位的透明度

212
00:11:02,765 --> 00:11:04,518
来做到这一点。

213
00:11:04,542 --> 00:11:06,976
我希望这些公司

214
00:11:07,000 --> 00:11:10,101
不仅是对个人发布虚假信息

215
00:11:10,125 --> 00:11:11,601
或者极端言论负责，

216
00:11:11,625 --> 00:11:15,476
还要对他们的推荐引擎
如何传播这些信息，

217
00:11:15,500 --> 00:11:18,726
他们的算法如何
引导人们使用这些信息，

218
00:11:18,750 --> 00:11:22,042
以及他们的工具
如何被用来针对这些人负责。

219
00:11:23,417 --> 00:11:27,101
我试图从脸谱网内部
做出改变，但是我失败了，

220
00:11:27,125 --> 00:11:30,268
所以在过去几年，
我一直在用自己的声音

221
00:11:30,292 --> 00:11:32,518
不断发出警告，

222
00:11:32,542 --> 00:11:36,934
希望能激发更多的人
来要求这种责任。

223
00:11:36,958 --> 00:11:39,601
我要传递给你们的信息很简单：

224
00:11:39,625 --> 00:11:41,809
对你们的政府代表施压，
让他们站出来，

225
00:11:41,833 --> 00:11:47,268
停止将我们的公共空间
拱手让给以营利为目的获利行为。

226
00:11:47,292 --> 00:11:49,143
帮助你的朋友和家人了解

227
00:11:49,167 --> 00:11:52,309
他们在网上是如何被操纵的。

228
00:11:52,333 --> 00:11:55,851
推动自己和没有共同想法的人交流。

229
00:11:55,875 --> 00:11:58,518
把这个问题当作优先事项。

230
00:11:58,542 --> 00:12:01,958
我们需要一个能动员
全社会的方法来解决它。

231
00:12:03,250 --> 00:12:08,809
我对我的前雇主，
脸谱网的领导们想要说的是：

232
00:12:08,833 --> 00:12:14,643
现在，人们正在使用
你们设计好的工具

233
00:12:14,667 --> 00:12:17,268
传播仇恨、分裂和不信任，

234
00:12:17,292 --> 00:12:21,434
而你们不仅允许了，
而且还在加剧这种情况。

235
00:12:21,458 --> 00:12:23,934
没错，在全球范围内

236
00:12:23,958 --> 00:12:27,643
你们的平台上发生了很多积极的事，

237
00:12:27,667 --> 00:12:30,893
但这并不意味着这一切
都是可以接受的。

238
00:12:30,917 --> 00:12:33,893
随着选举的临近，
情况越来越糟，

239
00:12:33,917 --> 00:12:35,684
更值得担忧的是，

240
00:12:35,708 --> 00:12:38,184
如果选举结果不被信任，
如果暴力事件爆发，

241
00:12:38,208 --> 00:12:42,351
那么迄今为止
最大的潜在危机将不可避免。

242
00:12:42,375 --> 00:12:47,393
所以到 2021 年，当你们再说，
“我们知道我们必须做得更好”时，

243
00:12:47,417 --> 00:12:50,101
我想要你们记住现在这一刻，

244
00:12:50,125 --> 00:12:53,351
因为这再也不只是
一些局外人的声音。

245
00:12:53,375 --> 00:12:55,643
民权领袖、学者、

246
00:12:55,667 --> 00:12:58,643
记者、广告商和你们自己的员工

247
00:12:58,667 --> 00:13:00,726
都会在屋顶上大声呼吁，

248
00:13:00,750 --> 00:13:03,351
你们的政策和商业行为

249
00:13:03,375 --> 00:13:05,792
一直都在危害人民和民主。

250
00:13:06,875 --> 00:13:09,226
决定权在你们手中，

251
00:13:09,250 --> 00:13:12,917
但是你们再也不能说，
你们不可能预见这样的后果。

252
00:13:14,167 --> 00:13:15,417
谢谢。