脸谱网，你们正在破坏民主

“在网络上，谎言比真相更有吸引力”，前美国中情局分析官、前外交官，以及前脸谱网（Facebook）员工的耶尔·艾森斯塔（Yaël Eisenstat）如是说。“只要社交媒体算法的目的是保持我们的参与度，他们就会提供迎合我们最恶劣的本能和人性弱点的毒药。”在这场大胆的演讲中，艾森斯塔探讨了像脸谱网这样的社交媒体企业是如何鼓励煽动性内容，促进政治两极化和不信任的文化，并且呼吁政府追究平台责任以维护民事讨论和民主。

大约五年前，

我突然发现我在丧失

与立场不同的人交流的能力。

单是跟美国同胞讨论
争议性话题这个想法

让我感到心累的程度，

甚至就超过了我和海外可疑的
极端主义者有过的交流。

这开始让我感到更加痛苦和沮丧。

于是就这样，

我把我的焦点

从影响全球国家安全的威胁，

转移到了寻找那个导致

国内民众两极化的原因上。

作为一名前中情局警官和外交官，

我在解决反极端主义的问题上
有着多年的工作经验。

我开始担心，这对
我们国家的民主造成的威胁

会超过来自国外对手的威胁。

于是我开始深究，

开始发声，

后来脸谱网聘请了我，

也最终引领我来到了这里，

使我能继续警告各位，
这些平台在如何

操控和极端化我们的思想，

并谈谈我们应该如何
夺回自己的公共空间。

就在 911 事件发生的几年后，

我曾担任过肯尼亚外交官，

那时我在索马里的
边境领导了一个叫

“心灵与精神”的项目。

我的主要工作是与那些最容易

被极端主义思想
影响的群体建立信任。

我花了大量的时间与
直言不讳的反西方教士喝茶，

甚至跟疑似恐怖份子的人
进行过谈话，

虽然这些交谈都是从
互相怀疑开始的，

他们却从来没有大喊
或说过任何辱骂的话，

有些时候，我们甚至能在
共同感兴趣的领域一起合作。

我们拥有的最有效的工具
就是聆听、学习

还有建立同理心。

这就是“心灵与精神”
这份工作的核心，

因为我多次发现，
他们大多数人想要的

无非是被聆听、被认可，
还有被尊重。

我相信这也是我们
大多数人想要的。

可如今，网络上
发生的一切却令我心碎，

也让我明白，这是一个
很难解决的问题。

我们正被目前的
信息网络操纵，

陷入了绝对主义中，

在这里，“妥协”已经成为
一个肮脏的字眼。

因为当今，

类似于脸谱网的社交媒体公司

通过为我们提供
个性化的内容来获利，

而这些内容既认可，
也利用了我们的偏见。

他们的底线就是，
通过激起强烈的情绪

来让我们沉迷，

持续强调那些煽性的，
十分两极化的声音，

直到找到共同点变得不再可能。

虽然越来越多的人开始
要求这些平台做出改变，

但单靠它们是明显不够的。

所以，政府必须定义

这些对社会造成危害的商业模式
需承担什么样的责任，

并让它们因严重损害

我们的公共健康、公共空间，
还有我们的民主付出代价。

但不幸的是，在美国大选
之前这都不可能发生，

所以我只能继续发出警告，

因为即使有一天
我们有了强有力的法律，

还是需要大家一起来解决问题。

当我的注意力从海外威胁

转移到已然破碎的
国内民众对话时，

我曾想过，是否可以重新利用
“心灵与精神”这个项目

来缓解国内的分歧。

我们过去 200 多年的
民主实验之所以有效，

很大程度是因为我们
可以公开并且热情地

讨论想法，
以找到最佳解决方案。

我始终坚信，

面对面的民间对话是有效的，

但它确实难以对抗

如今社交媒体带来的
两极分化的效应和规模。

与我曾经合作过的
那些弱势群体相比，

那些沉陷于

社交媒体上激进内容的人

更难脱离他们的固有观念。

所以在 2018 年，
当脸谱网找到我，

并给我提供了这份

负责政治广告管理的工作时，

我觉得我必须答应。

我知道我可能
无法解决所有的问题，

但有了这个可以

引导民众的机会，

我必须至少尝试一下。

虽然我们没有研究过两极分化，

但是我确实研究过哪些问题
最容易引起社会分裂，

在选举干扰中也最易被利用，

这也是俄罗斯在 2016 年前的策略。

所以我从提问开始。

我想找到导致这一切发生的

潜在的系统性问题，

以便找到解决的方法。

现在，我仍然相信互联网的力量

能让更多的声音参与进来，

尽管它们宣称的目标是建立社区，

目前最大的
社交媒体公司的构建方式

与理性言论的概念
却是背道而驰的。

在一个把优化用户参与度

和用户增长量

作为衡量成功的两大指标的行业里，

你没有办法奖励倾听、
鼓励民众讨论，

你也没有办法去保护
那些诚恳提问的人。

没有任何激励因素
去帮助人们慢下来，

没有去建立足够的摩擦
让人们不得不停下来，

认识到自己
对某事的情绪化反应，

并且在参与之前
质疑自己的假设。

令人遗憾的事实是：

在一个优化无摩擦的，
病毒式传播的世界里，

网络上的谎言比真相更吸引人，

淫秽信息胜过了
基于事实的推理。

只要算法的目标是保持我们的参与，

它们就会继续“喂”迎合
我们最糟糕的本能

和人性弱点的毒药。

当然，愤怒、不信任、

恐惧和仇恨的文化：

这些在美国都不是新事物。

但近年来，社交软件
充分利用了这一切，

并且在我看来，
还起到了决定性的作用。

脸谱网也深谙这一点。

《华尔街日报》最近的一篇文章

披露的一项脸谱网
2018 年的内部演示中，

特别提到了该公司自己的算法

让越来越多的极端组织信息
出现在其平台上，

并导致了用户两极分化。

但让我们参与其中
正是它们赚钱的方式。

现代信息环境是通过
我们的信息画像而构建的，

再将我们分割成
越来越细小的类别，

从而完善这个个性化的过程。

然后，我们被可以证实
我们观点的信息狂轰滥炸，

强化我们的偏见，

并且让我们感觉属于某类群体。

这些策略和那些
恐怖分子用于招募

弱势青少年的伎俩如出一辙，

尽管是用比社交媒体更小、
更本土化的方式，

但最终目标都是灌输某种行为。

不幸的是，我从未被脸谱网
授权去产生实质影响。

事实上，在我工作的第二天，
我的头衔和具体工作就发生了变化，

并且被排除在决策会议外。

我最大的努力，

试图制定计划，

以打击政治广告中的
虚假信息和投票权压制

被拒绝了。

所以我只坚持了
不到 6 个月就辞职了。

但这是我在这段期间最大的收获。

成千上万的人在脸谱网工作，

充满热情的投入于这个

他们相信能将世界
变得更美好的产品，

但是，只要公司依然仅仅只是

在内容政策和合理性的边缘试探，

而不考虑

整个平台的设计和赚钱方式，

那它们永远不会真正解决
平台是如何助长

仇恨、分裂和激进这些问题的。

而这也正是我在那里
从未听到过的对话，

因为那将会需要你从根本上接受

你所创造的东西可能
不是对社会最有益的东西，

并同意改变整个产品和盈利模式。

那么我们能做些什么呢？

我并不是说社交媒体
要为我们国家的现状

承担唯一的责任。

显然，我们有一些根深蒂固的
社会问题需要解决。

但脸谱网的回应
只是社会的一面镜子，

这是一种转移其平台

放大有害言论，并将一些用户

推向极端观点的责任的方便说辞。

当然，如果脸谱网
的确有这方面的主观意愿，

是可以解决其中一些问题的。

他们可以停止推荐和放大
阴谋理论家、

仇恨组织和
虚假信息散布者的影响，

是的，在某些情况下，
甚至包括我们的总统。

它们可以停止使用
与推销跑鞋同样的个性化推荐服务

来传递政治说辞。

它们可以重新修改算法，

去专注于一个
非用户互动类的度量指标，

也可以建立信息护栏，
防止某些内容在被审核之前

像病毒一样被传播。

他们可以做到所有这一切。

而不必成为他们所谓的
“真理仲裁者”。

但是他们已经明确表示，
除非被强制这样做，

否则他们就不会
积极采取正确的行动，

毕竟，坦白说，
他们为什么要这么做呢？

市场一直在奖励他们，
他们也没有违法。

因为就现在的情况而言，

美国并没有法律强制脸谱网
或者其他社交媒体公司

去保护我们的公共广场、

民主，

甚至是我们的选举。

我们已经将制定和执行
哪些计划的决定权交给了

盈利性互联网公司的
首席执行官们。

这是我们想要的吗？

一个有毒言论和部落主义

彻底压倒打造沟通桥梁
和追求共识的后真相世界？

我仍然乐观的认为，我们要比
现存的媒体和网络环境所描绘的彼此

拥有更多的共同点，

我也坚信相信，拥有更多视角

会让民主更加健康和包容，

但不是以目前的方式。

需要强调的是，
我并不想搞垮这些公司。

我只想让它们承担
一定程度的责任，

就像社会中的其他人一样。

我们的政府是时候站出来

做好保护我们公民的工作了。

虽然还没有一项神奇的立法

可以解决所有的问题，

但我的确相信，
政府可以，而且必须在

保护自由言论和让这些平台

为它们的社会影响负责之间找到平衡。

他们可以通过保证
这些推荐引擎如何工作，

如何进行管理、
放大和定位的透明度

来做到这一点。

我希望这些公司

不仅是对个人发布虚假信息

或者极端言论负责，

还要对他们的推荐引擎
如何传播这些信息，

他们的算法如何
引导人们使用这些信息，

以及他们的工具
如何被用来针对这些人负责。

我试图从脸谱网内部
做出改变，但是我失败了，

所以在过去几年，
我一直在用自己的声音

不断发出警告，

希望能激发更多的人
来要求这种责任。

我要传递给你们的信息很简单：

对你们的政府代表施压，
让他们站出来，

停止将我们的公共空间
拱手让给以营利为目的获利行为。

帮助你的朋友和家人了解

他们在网上是如何被操纵的。

推动自己和没有共同想法的人交流。

把这个问题当作优先事项。

我们需要一个能动员
全社会的方法来解决它。

我对我的前雇主，
脸谱网的领导们想要说的是：

现在，人们正在使用
你们设计好的工具

传播仇恨、分裂和不信任，

而你们不仅允许了，
而且还在加剧这种情况。

没错，在全球范围内

你们的平台上发生了很多积极的事，

但这并不意味着这一切
都是可以接受的。

随着选举的临近，
情况越来越糟，

更值得担忧的是，

如果选举结果不被信任，
如果暴力事件爆发，

那么迄今为止
最大的潜在危机将不可避免。

所以到 2021 年，当你们再说，
“我们知道我们必须做得更好”时，

我想要你们记住现在这一刻，

因为这再也不只是
一些局外人的声音。

民权领袖、学者、

记者、广告商和你们自己的员工

都会在屋顶上大声呼吁，

你们的政策和商业行为

一直都在危害人民和民主。

决定权在你们手中，

但是你们再也不能说，
你们不可能预见这样的后果。

谢谢。