一个“洁净”网络的代价

每天有数百万图像与视频被上传到网络，然而我们在社交媒体的推送中鲜少看到令人震惊或不安的内容。谁在为我们维持网络的“洁净”？在这个令人大开眼界的演讲中，纪录片导演汉斯·布洛克（Hans Block）和莫里兹·里斯维克（Moritz Riesewieck）将带领我们进入网络审查员的暗影幢幢的世界——这些人们与Facebook、推特，和谷歌这样的大型平台签约，为网络清理有毒的内容。你将了解这类工作带来的心理影响——以及“数字清扫”如何影响我们大家的所见所想。

【本演讲包含成人内容】

莫里兹·里斯维克：
2013 年 3 月 23 日，

世界各地的用户
在他们的新闻推送里

发现了一个年轻女孩
被年长男性强奸的视频。

在这个视频从 Facebook 上被移除前，

它已经被转发了 1.6 万次，

甚至被点赞了 4 千次。

这个视频被疯转，
像病毒一样侵染了网络。

汉斯·布洛克：
也正是在这一刻，我们问自己，

这种东西是怎么得以
出现在 Facebook 上的？

同时，为什么我们没有
更加频繁地看见这种内容？

毕竟网络上有很多
令人反胃的资料信息，

但为什么我们很少在 Facebook 、
推特，或谷歌上看到这样的垃圾？

莫：虽说图像识别软件

可以在图片和视频中

分辨性器官、血或者裸体，

它很难从度假照片、阿多尼斯雕像，

或乳腺癌检查的宣传活动中，

区分出色情内容。

它无法区分舞台上
罗密欧与朱丽叶的死亡，

和现实中的持刀袭击。

它无法区分讽喻和煽动，

反语和仇恨，
如此种种。

因此，需要人类来判断

可疑内容中哪些应被删除，

哪些可以保留。

我们对这些人几乎一无所知，

因为他们进行的是秘密工作。

他们签了保密协议，

禁止他们谈论与分享

自己在屏幕上看到了什么，
以及这份工作对他们造成的影响。

他们被迫使用暗号
以隐藏他们的雇主。

他们被私人安保公司监控，

以确保他们不会同记者交谈。

而要是他们发声，
便会被威胁处以罚款。

这些听起来像是
某个离奇的犯罪故事，

但这是真实的。

这些人是存在的，

他们被称为“网络审查员”。

汉：我们是专题纪录片《The Cleaners》
（《网络清道夫》）的导演。

请让我们将你们带往

一个你们大多数人
可能还未曾知晓的世界。

这是我们电影的一个片段。

（音乐）

（视频）审查员：我必须匿名，
因为我们签了合同。

我们不被允许透露
我们在为谁工作。

我之所以和你对话的原因

是因为世界应当知道
我们在这里。

有人在检查社交媒体。

我们在尽自己所能

为他们所有人
维持一个安全的平台。

删除。

忽略。

删除。

忽略。

删除。

忽略。

忽略。

删除。

汉：这个被称作“网络审查员”的群体

并不是直接从Facebook、
推特，或谷歌拿工资，

而是受雇于世界各地的外包公司，

以降低时薪成本。

成千上万的年轻人

看着我们不应当看到的一切。

我们指的是斩首、残割、

处决、尸奸、酷刑、儿童虐待。

一次轮值要处理几千张图像——

忽略，删除——
不论昼夜。

这项工作大部分是在
马尼拉进行的，

多年来西方世界
都用集装箱船

将有毒的电子垃圾
输向这里，

如今数字垃圾正通过
光纤电缆倾倒在同一个地方。

而正如同所谓的拾荒者

在城市边缘的
巨大垃圾山里翻捡一样，

网络审查员点击着鼠标，
趟过一片无边无际的、

由图像、视频和各种知识垃圾
构成的充满毒素的汪洋，

感谢于此，
我们无需亲自面对这些内容。

莫：但和拾荒者们身上的伤口不同，

网络审查员的伤口是看不见的。

这些图片和视频充斥着
令人震惊与不安的内容，

烙印在他们的记忆里，

随时可能造成难以预计的影响：

饮食失调、性欲丧失、

焦虑症、酗酒、

抑郁症，甚至可能造成自杀。

那些图片和视频感染了他们，

往往再也不会放过他们。

如果不幸的话，他们会像
从战场归来的士兵一样，

患上创伤后应激障碍（PTSD）。

在影片里，我们讲述了
一个年轻人的故事：

他的工作是监控
自残以及自杀企图的直播，

周而复始，

然而最终，他也以自杀的方式
结束了自己的生命。

我们被告知的是，
这样的事并非个例。

这是我们所有人，

为了我们所谓的干净、安全、
且“健康”的社交媒体环境，

付出的代价。

在人类历史中，
从未有哪个时代

能像现在这样轻易地

在数秒之内便触及
全球各地的数百万人。

在社交媒体上发布的内容
传递得如此之快，

迅速爆红疯转，
刺激全球所有人的神经。

在它被删除之前，

往往已为时晚矣。

数百万人已经
被憎恨和愤怒感染，

他们抑或在网上变得活跃，

继续传播或放大憎恨，

抑或走上街头，
诉诸暴力。

汉：因此，
一支由网络审查员形成的军队，

守在屏幕前，
防止新的附带损害产生。

他们必须尽快做出决断，

是否保留某条内容——忽略；

还是让它消失——删除。

但并不是每个决定

都能像对儿童虐待的视频那样
迅速做出清晰明了的判断。

对于由民权活动人士、
公民记者上传的

有争议的、模棱两可的内容，
该怎么处理呢？

网络审查员在判断这些案例时，

通常和处理泾渭分明的案例时
使用同样的速度。

莫：下面我们会让大家
观看一段视频，

我们想让你们决定：

你们会删除它吗？

还是不删除它呢？

（视频）（空袭声）

（爆炸）

（人们用阿拉伯语交谈）

莫：没错，我们已为大家
对视频进行了打码处理。

一个孩子要是看到这样的内容，

可能会感到严重不安，
以及极度恐惧。

那么，你们觉得删了更好？

但要是说，这段视频能帮助调查
在叙利亚发生的战争罪行呢？

要是因为Facebook、Youtube、
推特都决定撤除这段视频，

导致无人得知这场空袭呢？

Airwars 是一个位于伦敦的
非政府组织，

他们试图在这些视频
上传到社交网络时，

尽快找到这些视频，

以便对它们进行归档记录。

因为他们知道，这些内容迟早
会被Facebook、Youtube、推特删除，

拥有手机的人们能曝光

记者们通常难以接触的事情。

人权组织为了让他们的录像

能迅速向广大观众公开，

除了上传到社交媒体
常常没有更好的选择。

这难道不是万维网应当拥有的
能够赋予力量的潜力吗？

这难道不是万维网初具雏形时，

人们对它抱有的梦想吗？

这样的图片和视频

难道无法劝说已对事实
变得麻木的人们

开始反思吗？

汉：然而，一切可能
造成不安的内容都被删除了。

在社会中还有这样的
一种变化趋势。

比如说，媒体更加频繁地

在有人可能感到冒犯
或者不安的文章顶部

使用“敏感警告”。

美国的大学校园内
有越来越多的学生

要求从课程中剔除

描写性暴力或性侵犯的古典内容。

但这些行为的尺度该如何把握？

在世界各地的宪法中，

身体健全是被保障的基本人权。

欧盟的《基本权利宪章》明文规定，

这项权利同样适用于心理健全。

但即使图像和视频
带来的潜在创伤难以预测，

我们是否想变得如此谨小慎微，

以至于要冒险失去
对不公的社会意识？

那么该怎么做呢？

马克·扎克伯格最近声明

在未来，用户们，
即我们，或者几乎是任何人，

将会通过个人过滤设定，

个人独立决定在平台上
想看到的内容。

也就是说任何人能轻松地声称

看到战争和暴力冲突的图像时
能不为所动，比如说——

莫：我是那种不介意
看到胸部的男人，

我对全球变暖很感兴趣，

但不怎么喜欢战争。

汉：嗯，我就比较相反，

我对胸部或者裸体
压根没有一点兴趣。

但何不谈谈枪支？
没错，我喜欢枪。

莫：看嘛，如果我们没有
共享相似的社会意识，

我们该如何讨论社会问题？

我们该如何呼吁人们行动？

更多互相孤立的泡泡会浮现。

核心问题之一是：

“在未来，我们该如何平衡
言论自由与人们对保护的需求。”

这是个原则性的问题。

我们想为数字空间

设计一个相较开放
或是封闭的社会？

问题的核心是
“自由 vs. 安全感”。

Facebook 一直想成为
一个“健康”的平台。

重中之重的是，
用户应当感到安全。

在我们的很多采访中，

菲律宾的网络审查员们

也使用了同样的遣词。

（视频）我相信，
我们正生活的世界，

并不是真的健康。

（音乐）

在这世界上，
确实存在着邪恶。

（音乐）

我们需要警惕它。

（音乐）

我们需要控制它——无论好坏。

（音乐）

[年轻人，抬头看！——上帝]

莫：这些来自信奉天主教的菲律宾的
年轻网络审查员们，

对于他们来说，这份工作
和基督教的使命有所联系。

为了对抗在网络上传播的

这个世界的罪恶。

“清洁近于圣洁”，

这个说法在菲律宾人尽皆知。

汉：其他人则将自己与他们的总统
罗德里戈·杜特尔特相比较，

以此激励自身。

他自 2016 年当选以来
一直掌权菲律宾，

他凭借“我会进行清扫”的承诺
在当年的选举中胜出。

而这个承诺的意思是

通过杀掉街上被视为罪犯的人，
不管这是什么意思，

从而达到
排除社会上各种问题的目的。

自从他当选以后，

估计有 2 万人被杀。

我们影片中的一位审查员说：

“杜特尔特在街头上怎么做，

我在网络上也怎么做。”

这就是他们，
我们的“自我标榜的超级英雄”，

在数字世界里维持法制与秩序。

他们进行扫除，
把一切擦拭得干干净净，

他们将我们
从一切邪恶中解放出来。

曾经为国家机关保留的任务

如今落到了二十岁出头的
大学毕业生肩上，

他们接受完三天到五天的训练，

——这便是他们的资格证，

他们的工作不亚于拯救世界。

莫：国家权能被外包给私人公司，

他们又将自己的责任
托付给第三方。

情况就是——
外包，再外包，再外包。

对于社交网络，

我们要处理的是一个全新的架构，

它有着自己的运行机制，

自己的行为逻辑，

因而也有其特定的潜在新危险。

这些危险在电子化时代以前的
公共领域中不曾存在过。

汉：当马克·扎克伯格在美国国会

或者欧洲议会时，

他面对的是各式各样的批评。

而他的反应总是千篇一律的：

“这一点我们会改进，

那一点我们团队会跟进。”

可是这样的辩论

不应该在 Facebook 、推特
或谷歌的幕后进行——

这样的辩论应当被公开探讨，
在崭新的、国际化的议会中，

在新的机构中——
它们应当能反映

“为全球化网络理想工程
做出贡献的人们的多元化”。

考虑到全球用户的价值观
虽说看上去不可能

但值得相信的是，

我们之间的
联系将比隔阂更强大。

莫：没错，
在这个民粹主义抬头的时点，

为症状辩解、

将它们消除、将它们隐形，

这样的做法变得普及。

这种观念正在全世界扩散，

无论在现实里还是在网络上，

而我们的义务

是在为时已晚前阻止它。

自由和民主的问题

并不能只有这两个选项。

汗：删除。

莫：或者忽略。

汗：谢谢大家。

（掌声）