无论你是谁或者住在哪,
我猜你们身边至少有一位
喜欢转发那些电子邮件的亲戚。
你们知道我说的那些邮件
是带有可疑声明
或阴谋论录像的邮件。
而且你们可能已经在
Facebook 上屏蔽了他们,
不想收到这种信息,像这个。
这是一张香蕉的图片,
香蕉中间有一个奇怪的红色十字。
旁边的文字在警告人们
不要吃这样的水果,
指出了它们已经被注射了
被 HIV 病毒污染的血液。
而且它上面的分享消息写着:
“为了拯救生命,请转发。”
事实审查员多年来
一直在揭露这一说法的真相,
但这只是那些
永远不会消失的传闻之一。
一个僵尸谣言。
当然它是完全虚假的。
去嘲笑这样一个例子可能很诱人,
大家会说:
“反正,谁会相信这个呢?”
但说这是僵尸谣言的原因是
它利用了关于人们对自身安全
和他们所爱之人的
最深层次的恐惧。
而且如果你们花费和我一样多
的时间来看这个误传,
你们会知道这只是众多
利用人们最深层的
恐惧和脆弱的例子之一。
每一天,在世界范围内,
我们都能看到 Instagram 上出现的
大量新表情包在鼓励父母
不要给孩子接种疫苗。
我们看到 YoutTube 上的新视频
在解释说气候变化问题是个骗局。
在所有平台上,我们看见了
因为种族、宗教或性取向的不同,
而妖魔化他人的无穷无尽的帖子。
欢迎来到我们这个时代
的主要挑战之一。
我们如何在维护互联网
言论自由核心的同时,
也能确保正在传播的内容
不会对我们的民主、我们的社区
和我们的身心健康
造成不可弥补的伤害?
因为我们生活在信息时代,
但是我们所有人都依赖的
中央货币——信息——
不再完全值得信赖,
而且有时会显得非常危险。
这部分“归功”于
社交共享媒体的迅猛发展,
让我们可以在谎言和真相
并存的世界里滑屏浏览,
但是没有任何
传统的可信赖的信号。
天啊——我们关于这方面
的语言极其混乱。
人们仍然沉迷于“假新闻”这一短语,
尽管事实是,该短语毫无帮助,
并且被用来描述一系列实际上
非常不同的东西:
谎言、谣言、恶作剧、
阴谋、宣传鼓吹……
我非常希望我们可以停止使用
这一世界各地的政治家
共同选择的一个短语,
从左派到右派,
停止将它作为武器来攻击
自由和独立的新闻媒体。
(掌声)
因为我们比以往任何时候
都更需要我们的专业新闻媒体。
而且除此之外,大多数内容
甚至都没有被伪装成新闻,
而是以表情包、视频、
社交帖子的形式存在。
而且大部分内容
不是假的,而是误导。
我们倾向于专注在真假上。
但是最大的担忧实际上是
语境的武器化。
因为最有效的虚假信息
一直是具有真实内核的那些。
举一个 2017 年 3 月伦敦的例子,
在威斯敏斯特桥
恐怖袭击事件发生后
的一个广为流传的推文。
这是个真实的图片,不是假的。
照片里的女子在事后接受了采访,
她解释到
她精神上完全受到了打击。
事件发生当时
她和爱人在打电话,
出于尊重,
她没有看向身旁的受害者。
但是它仍然以
伊斯兰恐惧症为主题广为流传,
并带有多个主题标签,
包括:#BanIslam(禁止伊斯兰人)。
如果你在推特工作,
你会怎么做?
你会把它撤下平台,
还是让它留在那?
我的直觉和情感反应
是把它撤下来。
我讨厌对这个图片的“包装”。
但是言论自由是人类的权力,
如果我们开始
把让我们感到不舒服的言论撤下,
我们就有麻烦了。
而且这个可能看起来是
一个清晰明了的案例,
但实际上,大多数言论不是。
这些边界很难描绘。
一个人的善意决定
是对下一个人的公然审查。
现在我们知道的是,
这个账户,德克萨斯孤星,
是一个更大的
俄罗斯造谣运动的一部分,
此后已经被扳倒。
这会改变你的看法吗?
会改变我的,
因为现在这个案子的性质
变成了一场播种不和谐种子的
协作运动。
而对于你们中那些认为
人工智能将会解决我们
所有问题的人来说,
我认为我们可以同意
在人工智能能够理解这种帖子前
我们还有很长的一段路要走。
所以我想解释一下
让这事变得如此复杂的
三个环环相扣的问题,
然后琢磨出些方法来思考这些挑战。
首先,我们只是没有
与信息建立起理性关系,
我们的关系是感性的。
并非更多的事实真相
会让一切顺利,
因为决定我们
能看见什么内容的算法,
是被设计来
奖励我们的情感反应。
而当我们恐惧时,
过于简化的叙述、阴谋论解释,
和妖魔化事物的语言
更加有效。
此外,有很多公司,
他们的商业模式
与人们的关注度息息相关,
这意味着这些算法
总是会偏向情感。
第二,我现在谈论的
大多数言论是合法的。
如果我在说的是
儿童性虐待图片,
或者是煽动暴力的内容,
就是另外一回事。
公开撒谎可以是完全合法的。
但是人们一直在讨论撤下
“有问题的”或“有害的”内容,
但是并没有对它们是什么
有明确的定义,
包括马克·扎克伯格,
他最近呼吁
全球监管来缓和言论。
而我的担心是,我们看见了
世界各地的政府
推出仓促的政策决定,
但是它可能实际上触发了
对于我们的言论更严重的后果。
而且即使我们可以决定
哪个言论留住或撤下来,
我们从来没有过
现在这么多的言论。
每一秒,几百万的内容,
以不同的语言
被世界各地的人上传,
吸取了上千种不同的文化背景。
我们根本没有有效的机制,
无论是通过人工还是技术手段
去缓和这种规模的言论内容,
然后第三,这些公司——
谷歌,推特,脸书,WhatsApp ——
它们是广阔的
信息生态系统的一部分。
我们喜欢把所有责任
都推到他们身上,但事实是,
大众媒体和民选官员
只要他们想,
也可以在扩大谣言和阴谋上
发挥同等作用。
我们也一样,当我们漫不经心地
转发分裂性或误导性的内容时,
甚至没有费力。
我们正在加剧这种“污染”。
我知道我们都在
寻找简单的解决方法。
但就是一个都没有。
任何解决方案都必须
以大规模推出,互联网的规模,
而且的确,这些平台
已经习惯在那种级别的规模上运行。
但是我们可以并应该
允许他们来解决这些问题吗?
他们当然在努力。
但是我们大多数人都会同意,
实际上,我们不希望跨国公司
成为网上真理与公平的守护者。
我也认为这些平台也会同意。
此时此刻,
他们正在展现属于自己的成果。
他们想告诉我们
他们实施的干预措施正在奏效,
但是因为他们编写的是
他们自己的透明度报告,
我们无法独立验证实际的情况。
(掌声)
我们也要清楚,
大多数我们看到的变化
只发生在记者进行了调查
并找到了存在
违反社区规则的偏见
和内容的证据之后。
所以是的,这些公司必须
在这个过程中扮演重要角色,
但是他们无法控制它。
那么政府呢?
很多人相信全球监管
是清理我们信息生态系统的
最后希望。
但是我看见的是正在努力跟上
技术迅速变革的立法者。
更糟的是,
他们在黑暗中摸索工作,
因为他们没有获取数据的权限
来了解这些平台上
正在发生些什么。
更何况,我们会相信
哪个政府来做这件事呢?
我们需要全球的回应,
不是国家的。
所以缺少的环节是我们。
是每天使用这些技术的那些人。
我们能不能设计一个新的基础设施
来支持高质量信息?
我相信我们可以,
我已经有了一些想法,
关于我们实际上可以做什么。
所以首先,如果认真考虑
让公众参与进来,
我们可以从维基百科
汲取一些灵感吗?
他们已经向我们展示了可能的方法。
是的,它并不完美,
但是他们已经用正确的结构,
全球的视野
和很高很高的透明度证明了
你们可以建立一些
将赢得大多数人信任的东西。
因为我们必须找到一种方法,
充分利用集体的智慧
和所有用户的经验。
妇女,有色人种和
未能充分代表大众的群体
尤其如此。
猜猜为什么?
他们是仇恨和虚假信息方面的专家,
因为他们很久以来都是
这些信息运动的目标。
多年来,他们一直摇旗呐喊,
但是从来没有被听见。
这必须改变。
所以我们能否为信任
创建一个维基百科?
我们能否找到一种
用户可以真正提供见解的方法?
他们可以对有难度的
内容审核决定提出见解。
当平台决定要推出新变更时,
他们可以提出反馈。
第二,人们对信息的体验
是个性化的。
我脸书上的新闻推荐
与你们的非常不同。
你们的 YouTube 推荐
与我的也很不同。
这使得我们无法实际检查
大家看到的是什么信息。
那么,我们是否可以想象
为匿名数据
开发某种集中式开放存储库,
并内置隐私和道德问题?
因为想象一下,
如果我们建立一个
由关心且忧虑的
公民组成的全球网络,
他们希望将其社交数据捐赠给科学,
那么我们将学到什么?
因为我们实际上对
仇恨和虚假信息对
人们态度和行为产生的
长期后果知之甚少。
而我们知道的是,
其中大部分是在美国进行的,
尽管这是一个全球性问题。
我们也需要为此努力。
第三点,
我们可以找到方法来连接个体吗?
没有一个部门可以解决这个问题,
更不用说非营利组织,初创企业
或政府部门了。
但是世界各地有
那些非常聪明的人们
在应对这些挑战,
包括新闻编辑部,民间社会组织,
学术界和维权组织。
你们在这可以看见其中的一些。
有些正在建立内容可信度的指标。
其他人在做事实核查,
以至于虚假声明,视频和图像
可以被平台撤下。
我协助建立的一个非营利组织,
名叫“初稿”(First Draft),
正在与世界各地通常竞争激烈的
新闻编辑室合作,
以帮助他们建立调查性协作项目。
丹尼·希利斯, 一个软件设计师,
正在设计一个
叫做 The Underlay 的新系统,
它将记录所有与其来源相连接的
公开事实陈述,
以便人们和算法可以
更好地判断什么是可信的。
而且世界各地的教育者
在测试不同的技术,
以找到能使人们对所看到内容
产生批判的方法。
所有的这些努力都很棒,
但是他们埋头各自为战,
而且很多都严重资金不足。
在这些公司内部
也有成百上千的聪明人在努力,
但是同样,
这些努力让人感到不够连贯,
因为他们正在为同样的问题
建立不同的解决方案。
我们怎么能找到一种方法,
把这些人同时
聚集在同一个地点几天或几周,
这样他们可以真正从不同角度
共同解决这些问题?
那么我们能做到吗?
我们能否建立一种协调一致,
雄心勃勃的应对措施,
使其与问题的规模和复杂性相匹配?
我真的认为我们可以。
加入我们,重建我们的信息共享吧。
谢谢。
(掌声)