Return to Video

我们如何消灭网上儿童性侵内容

  • 0:01 - 0:03
    【该演讲包含成人内容】
  • 0:06 - 0:07
    五年前,
  • 0:07 - 0:11
    我接到了一个改变我人生的电话。
  • 0:12 - 0:15
    我至今还能清晰的记起那天,
  • 0:15 - 0:17
    大概是那年的这个时候,
  • 0:17 - 0:19
    我正在办公室坐着。
  • 0:20 - 0:23
    我记得阳光透过窗户照射进来,
  • 0:24 - 0:25
    然后电话响了,
  • 0:26 - 0:27
    我接起电话,
  • 0:28 - 0:32
    是两个联邦调查局特工,
    想要我帮助他们
  • 0:32 - 0:34
    确认一个
  • 0:34 - 0:40
    出现在网络数百张儿童
    性侵图片中的小女孩身份。
  • 0:41 - 0:44
    他们刚开始调查这个案件,
  • 0:44 - 0:47
    但他们知道
  • 0:47 - 0:51
    这个女孩被性侵的过程已
    通过儿童性侵主题的暗网
  • 0:51 - 0:57
    散播到世界各地多年。
  • 0:58 - 1:02
    她的施虐者技术非常老道:
  • 1:02 - 1:07
    每几周都有新的照片和视频流出,
  • 1:07 - 1:11
    但几乎没法找到线索
    来确认小女孩是谁,
  • 1:11 - 1:12
    或是她在哪。
  • 1:13 - 1:15
    于是他们打电话给我,
  • 1:15 - 1:17
    因为他们听说我们是个
    新的专注于搭建技术
  • 1:17 - 1:21
    来阻止儿童性侵的非营利组织。
  • 1:22 - 1:24
    但是我们只成立了两年,
  • 1:24 - 1:27
    还仅仅在与儿童性交易抗争。
  • 1:28 - 1:30
    所以我只能告诉他们
  • 1:30 - 1:31
    我们无能为力。
  • 1:32 - 1:37
    我们没有任何办法
    来帮助他们阻止这场性侵。
  • 1:37 - 1:41
    那些特工又用了一年
  • 1:41 - 1:44
    才终于找到了那个孩子。
  • 1:45 - 1:47
    然而等到她被获救时,
  • 1:47 - 1:54
    那些记录她被强暴的
    上百图像和视频早已被大肆传播,
  • 1:54 - 1:55
    从那个暗网
  • 1:55 - 1:58
    传到P2P网络上,私人聊天室中,
  • 1:58 - 2:01
    以及你我每天都在使用
  • 2:01 - 2:04
    的互联网上。
  • 2:05 - 2:09
    现在,当她在努力康复的时候,
  • 2:09 - 2:11
    同时也要接受一个事实:
  • 2:11 - 2:16
    世界上有成千上万的网民仍会
    继续看她被性侵的内容。
  • 2:18 - 2:20
    在这五年中,我逐渐了解到,
  • 2:20 - 2:23
    这样的儿童性侵案件绝不罕见。
  • 2:24 - 2:28
    我们的社会怎么变成了这样?
  • 2:29 - 2:33
    在1980年末,儿童色情片,
  • 2:33 - 2:39
    或从本质上说,儿童性侵的内容
  • 2:39 - 2:40
    几乎已经销声匿迹了。
  • 2:41 - 2:44
    新出台的法律和增加的诉讼
  • 2:44 - 2:47
    使得通过邮件进行此类交易风险过高,
  • 2:48 - 2:52
    但随后由于互联网的出现,这一市场
    又死灰复燃,开始呈爆炸式增长。
  • 2:53 - 2:57
    如今在网上流通的内容量
  • 2:57 - 3:00
    巨大且增长迅速。
  • 3:00 - 3:04
    这是一个切实的全球性问题,
  • 3:04 - 3:06
    但倘若我们仅聚焦美国:
  • 3:06 - 3:08
    去年,仅在美国就有
  • 3:08 - 3:14
    超过4500万儿童性侵
    的图像和视频内容
  • 3:14 - 3:17
    被举报至国家失踪与受虐儿童中心,
  • 3:17 - 3:22
    且较前一年,这数字几乎翻倍。
  • 3:23 - 3:28
    我们更是难以想象
    这些数字背后的细节真相:
  • 3:28 - 3:34
    超过60%的图像
    拍摄的是不到12岁的孩子,
  • 3:34 - 3:38
    而且大多包含极端性暴力行为。
  • 3:39 - 3:44
    虐待者在专门讨论虐待儿童
    的聊天室里颇受欢迎,
  • 3:44 - 3:47
    随着更强的侵犯
    和更多受害者的出现,
  • 3:47 - 3:50
    他们在那里的排名和地位就更高。
  • 3:50 - 3:53
    在这个市场中,
  • 3:53 - 3:57
    内容本身就是货币。
  • 3:58 - 4:02
    显然,施暴者
    一直在快速掌握新技术,
  • 4:02 - 4:05
    但是我们作为一个社会整体
    的回应却严重滞后。
  • 4:06 - 4:10
    这些施暴者不会阅读
    网站的用户协议,
  • 4:10 - 4:14
    而且内容也不分国界。
  • 4:15 - 4:21
    当我们每次只关注一小块拼图时,
    那些施暴者就赢了,
  • 4:21 - 4:25
    而这正是今天我们对策的设计原理。
  • 4:25 - 4:28
    执法工作仅在一个司法管辖区进行,
  • 4:28 - 4:32
    企业只专注于他们自己的平台,
  • 4:32 - 4:34
    不论他们收集到什么数据
  • 4:35 - 4:37
    都几乎很少分享。
  • 4:37 - 4:43
    很明显这种彼此隔离的方法
    根本不起作用。
  • 4:44 - 4:48
    我们必须为数字化时代下
    儿童性侵的大范围蔓延
  • 4:48 - 4:49
    重新制定对策。
  • 4:50 - 4:53
    这正是我们索恩 (Thorn) 公司所做的。
  • 4:53 - 4:57
    我们建造连接那些端点的技术,
  • 4:57 - 4:59
    武装前线的每个用户——
  • 4:59 - 5:02
    执法机构,非政府组织和企业,
  • 5:02 - 5:06
    为他们装备最终消灭
  • 5:06 - 5:08
    网上儿童性侵内容所需的工具。
  • 5:10 - 5:11
    我来详细解释一下。
  • 5:11 - 5:12
    (掌声)
  • 5:12 - 5:14
    谢谢。
  • 5:14 - 5:16
    (掌声)
  • 5:18 - 5:20
    让我们谈谈那些端点是什么。
  • 5:21 - 5:25
    可以想像,这些内容
    令人不悦且恐怖。
  • 5:25 - 5:28
    如果没必要看到这个内容,
    那你肯定不会想要看。
  • 5:28 - 5:34
    于是,大部分持有此内容
    的企业或执法机构
  • 5:34 - 5:35
    都可以将每个文件
  • 5:35 - 5:39
    转化为唯一的数字字符串,
  • 5:39 - 5:40
    我们称之为“哈希”。
  • 5:40 - 5:42
    它本质上是
  • 5:42 - 5:45
    每一个文件或视频
    的特定“数字指纹”。
  • 5:45 - 5:49
    这允许他们使用调查中的信息,
  • 5:49 - 5:52
    或者从自家平台上移除这一内容,
  • 5:52 - 5:58
    而无需每次重复观看
    每一个图像和视频。
  • 5:58 - 6:00
    不过当今的问题是,
  • 6:00 - 6:04
    现在有上亿哈希值
  • 6:04 - 6:08
    散落在世界各地独立的数据库中。
  • 6:08 - 6:09
    在一个数据库中,
  • 6:09 - 6:12
    它可能对一个
    拥有控制权的代理商有效,
  • 6:12 - 6:17
    但是无法连接这些数据,这意味着
    我们无从知晓有多少哈希是唯一的。
  • 6:17 - 6:20
    我们不知道哪些代表
    “已经被救出的孩子”,
  • 6:20 - 6:23
    哪些代表仍旧“需要辨识身份”。
  • 6:23 - 6:27
    因此我们第一个最基础的假定是,
  • 6:27 - 6:30
    所有数据都必须连接起来。
  • 6:30 - 6:36
    在全球范围内,有两个方法
    可以将数据和软件结合起来,
  • 6:37 - 6:40
    从而在这个领域产生变革性影响。
  • 6:40 - 6:43
    第一个方法是与执法机构合作:
  • 6:43 - 6:47
    帮助他们更快辨识新受害者身份,
  • 6:47 - 6:48
    停止性侵行为,
  • 6:48 - 6:51
    并阻止施虐者制作此类媒体内容。
  • 6:51 - 6:54
    第二个方法是和公司合作:
  • 6:54 - 6:58
    在今天的内容流通中使用它
    来作为识别数百万文件
  • 6:58 - 6:59
    的线索,
  • 6:59 - 7:00
    并在这些文件
  • 7:00 - 7:07
    能被大肆传播前
    阻止这些新文件的上传。
  • 7:10 - 7:11
    四年前,
  • 7:11 - 7:13
    那个案件结案时,
  • 7:14 - 7:18
    我们整个团队有一种……
  • 7:20 - 7:23
    深深的挫败感,可以这么说,
  • 7:23 - 7:26
    因为在联邦特工
    找寻这女孩的下落时,
  • 7:26 - 7:28
    我们也关注了
    这个案件一整年。
  • 7:28 - 7:32
    我们看了每个被调查的地方,
  • 7:32 - 7:34
    那时如果相关技术已经存在,
  • 7:34 - 7:37
    他们本可以更快的找到她。
  • 7:38 - 7:40
    于是我们从那个案件回归工作,
  • 7:40 - 7:43
    做了一件我们知道如何去做的事:
  • 7:43 - 7:45
    我们开始开发软件技术。
  • 7:46 - 7:48
    我们从执法机构入手。
  • 7:48 - 7:52
    我们的梦想就是在世界上每个警官
    的桌面上放置一个“警铃”,
  • 7:52 - 7:57
    如果哪个人敢在网上
    发布新受害者的媒体材料,
  • 7:57 - 8:00
    那么某个警官
    就能立刻开始寻找他们。
  • 8:01 - 8:04
    显然我无法介绍我们软件的细节,
  • 8:04 - 8:07
    但是截止到今天,
    它已运用于38个国家,
  • 8:07 - 8:10
    令警方找到孩子的所用时间
  • 8:10 - 8:12
    缩短超过65%。
  • 8:12 - 8:17
    (掌声)
  • 8:21 - 8:24
    现在,我们开启了第二阶段:
  • 8:24 - 8:30
    开发软件以帮助企业
    识别和移除此类媒体内容。
  • 8:31 - 8:34
    让我们说一下这些企业。
  • 8:34 - 8:40
    我刚才说了,去年光在美国就有
    4500万个儿童性侵的图像和视频。
  • 8:40 - 8:44
    它们仅仅来自于12个企业平台。
  • 8:46 - 8:52
    12个企业,
    4500万儿童性侵的媒体内容。
  • 8:52 - 8:55
    这些还只是那些有足够资金
  • 8:55 - 9:00
    建立基础设施
    来移除这些内容的公司。
  • 9:00 - 9:02
    但是成百上千的其他企业,
  • 9:02 - 9:05
    尤其是全球范围的中小型公司,
  • 9:05 - 9:07
    需要在这方面下功夫,
  • 9:07 - 9:12
    但是他们要么无法想象
    自己的企业平台会被利用,
  • 9:12 - 9:18
    要么没有资金去支持无利润业务。
  • 9:19 - 9:22
    所以我们主动去帮他们搭建。
  • 9:22 - 9:27
    现在,随着更多公司的加入,
    我们的系统正变得更加智能。
  • 9:28 - 9:30
    举个例子,
  • 9:30 - 9:34
    我们第一个合作伙伴,Imgur,
    你可能没有听说过这个公司,
  • 9:34 - 9:38
    它是美国访问量最高的网站之一,
  • 9:38 - 9:43
    每天有用户生产
    的数百万内容被上传,
  • 9:43 - 9:45
    目的是为了让互联网
    变成一个更加有趣的地方。
  • 9:46 - 9:48
    他们最早和我们合作。
  • 9:48 - 9:51
    在开始使用我们系统的20分钟内,
  • 9:51 - 9:55
    有人尝试上传一个已知
    的儿童性侵内容。
  • 9:55 - 9:57
    Imgur因此能够
    及时阻止,移除内容,
  • 9:57 - 10:00
    并向国家失踪与受虐儿童中心报告。
  • 10:00 - 10:02
    但是他们更进一步,
  • 10:02 - 10:07
    找到并审查了内容发布人的账号,
  • 10:07 - 10:12
    发现了其他上百个我们没看过的
  • 10:12 - 10:14
    儿童性侵媒体内容。
  • 10:14 - 10:18
    我们由此才开始看到
    这个软件产生的指数级影响。
  • 10:18 - 10:19
    我们移除内容,
  • 10:20 - 10:23
    并且将其报告给
    国家失踪与受虐儿童中心,
  • 10:23 - 10:26
    然后那些哈希再返回到系统,
  • 10:26 - 10:28
    令每个使用该软件的企业受益。
  • 10:28 - 10:33
    当数百万的哈希值指向更多内容时,
  • 10:33 - 10:37
    全世界的企业就能实时
    识别并移除此类内容,
  • 10:37 - 10:42
    我们从全球的网络上
    移除儿童性侵媒体内容
  • 10:42 - 10:46
    的速度将会大大提升。
  • 10:46 - 10:52
    (掌声)
  • 10:54 - 10:57
    但这也是我们为何不能局限于
    软件和数据的原因,
  • 10:57 - 10:59
    它必须能够大规模应用。
  • 10:59 - 11:03
    如果科技能让我们在世界范围内
    超越那些加害者,
  • 11:03 - 11:05
    并拆除那些使儿童性虐待
  • 11:05 - 11:09
    正常化的社区。
  • 11:09 - 11:13
    我们就必须充分动员
    世界范围内数千名警官,
  • 11:13 - 11:15
    以及数百家企业。
  • 11:15 - 11:18
    现在就是一个契机。
  • 11:18 - 11:24
    我们不能再说
    我们不知道这对孩子们的影响。
  • 11:25 - 11:29
    第一代受到侵犯的媒体资料
    被大肆传播的孩子们
  • 11:29 - 11:31
    已经长大成人。
  • 11:31 - 11:34
    加拿大儿童保护中心
  • 11:34 - 11:37
    最近针对这些年轻人做了一个研究,
  • 11:37 - 11:41
    以了解他们在自知所受
    的侵犯将持续被传播时,
  • 11:41 - 11:44
    需要尝试客服的独特创伤。
  • 11:45 - 11:50
    80%的这些年轻人有过自杀的想法,
  • 11:51 - 11:55
    超过60%曾尝试自杀。
  • 11:56 - 12:01
    他们的大部分人
    每天都生活在恐惧中:
  • 12:01 - 12:05
    当他们走上街头,
    或参加一个面试,
  • 12:05 - 12:08
    或是去学校,
  • 12:08 - 12:10
    或是在网上碰见的某个人,
  • 12:10 - 12:14
    这些人碰巧看过他们
    被侵犯的网络内容。
  • 12:15 - 12:19
    而他们中有超过30%人,
    噩梦成为现实。
  • 12:20 - 12:25
    他们因为网上性侵的内容被认出。
  • 12:26 - 12:29
    这条路不简单,
  • 12:29 - 12:32
    但并不是不可能。
  • 12:32 - 12:35
    现在需要展现
  • 12:35 - 12:36
    我们社会的决心,
  • 12:37 - 12:40
    去着手解决非常难以直面的问题,
  • 12:40 - 12:42
    在黑暗中创造希望,
  • 12:42 - 12:45
    让那些孩子的声音能被听见;
  • 12:46 - 12:51
    去展现企业们的决心,采取
    一切措施并确保他们的平台
  • 12:51 - 12:54
    不与儿童侵犯者共谋;
  • 12:55 - 13:01
    去展现政府部门的决心,
    投资执法部门破案设施,
  • 13:01 - 13:04
    来调查数字先行的犯罪,
  • 13:04 - 13:08
    即便受害者无法为自己申辩。
  • 13:10 - 13:13
    这大胆的承诺是展现决心的一部分。
  • 13:14 - 13:20
    这是一场对抗人性
    阴暗邪恶的宣战。
  • 13:20 - 13:22
    但是我所坚持的
  • 13:22 - 13:26
    是一个对未来的投资,
  • 13:26 - 13:29
    在那里,每个孩子
    都可以保留单纯的本性。
  • 13:29 - 13:31
    谢谢。
  • 13:31 - 13:37
    (掌声)
Title:
我们如何消灭网上儿童性侵内容
Speaker:
朱莉·科杜瓦
Description:

社会企业家朱莉·科杜瓦(Julie Cordua)致力于解决一个难以启齿的问题:互联网上以图片和视频形式存在的儿童性侵。在索恩(Thorn)公司,她正在开发相关技术,来连接各个技术行业企业、执法机构和政府——以便我们能够迅速结束儿童侵犯媒体资料的病毒式传播,更快速的把孩子救出。了解更多关于能够帮助拆解全球范围内正常化儿童性侵社区的可规模化解决方案。(这项雄心计划是TED激励和资助全球变革倡议“大胆计划“(‘“Audacious Project’”)的一部分)。

more » « less
Video Language:
English
Team:
closed TED
Project:
TEDTalks
Duration:
13:50

Chinese, Simplified subtitles

Revisions