WEBVTT

00:00:00.792 --> 00:00:03.059
每一天， 每一个星期，

00:00:03.083 --> 00:00:05.268
我们都会同意各种服务条款。

00:00:05.292 --> 00:00:06.768
每当我们这样做，

00:00:06.792 --> 00:00:09.268
我们其实就赋予了公司法律上的权利，

00:00:09.292 --> 00:00:12.976
用我们的数据去做任何事，

00:00:13.000 --> 00:00:15.375
也包括我们孩子的数据。

00:00:16.792 --> 00:00:19.768
这难免使我们感到困惑：

00:00:19.792 --> 00:00:22.684
我们到底提供了多少
关于孩子的数据，

00:00:22.708 --> 00:00:24.708
它们的用途又是什么？

NOTE Paragraph

00:00:26.500 --> 00:00:27.893
我是个人类学家，

00:00:27.917 --> 00:00:30.518
也是两个女孩的母亲。

00:00:30.542 --> 00:00:35.018
2015 年，我开始关注这个问题，

00:00:35.042 --> 00:00:37.768
当时我突然发现很多科技公司

00:00:37.792 --> 00:00:40.809
从孩子那里搜集到了

00:00:40.833 --> 00:00:44.000
庞大到无法想象的数据信息。

00:00:44.792 --> 00:00:46.768
所以我启动了一个研究项目，

00:00:46.792 --> 00:00:49.268
叫“儿童数据市民”，

00:00:49.292 --> 00:00:51.417
希望能够填补空缺的信息。

NOTE Paragraph

00:00:52.583 --> 00:00:55.601
现在，你们有可能以为我在责怪你们

00:00:55.625 --> 00:00:58.393
在社交网络上传了孩子的照片，

00:00:58.417 --> 00:01:00.559
但是这不是重点。

00:01:00.583 --> 00:01:04.000
实际问题比分享要严重得多。

00:01:04.792 --> 00:01:08.893
这事关系统，而不是个人。

00:01:08.917 --> 00:01:11.208
你的行为习惯并没有错。

NOTE Paragraph

00:01:12.833 --> 00:01:15.684
历史上首次，

00:01:15.708 --> 00:01:18.268
我们开始追踪孩子的个人数据，

00:01:18.292 --> 00:01:20.059
从他们出生之前——

00:01:20.083 --> 00:01:22.768
有时候是从受孕开始，

00:01:22.792 --> 00:01:25.143
然后贯穿他们的一生。

00:01:25.167 --> 00:01:28.268
通常，当家长决定要一个孩子，

00:01:28.292 --> 00:01:31.268
他们会在网上搜索 “怎么怀孕”，

00:01:31.292 --> 00:01:34.042
或者下载排卵期追踪软件。

00:01:35.250 --> 00:01:37.851
等到真的怀孕了，

00:01:37.875 --> 00:01:41.018
他们会在社交网络上
发布宝宝的超音波图像，

00:01:41.042 --> 00:01:43.059
下载关于怀孕的软件，

00:01:43.083 --> 00:01:46.809
或者在谷歌上搜索相关信息。

00:01:46.833 --> 00:01:48.351
比如，

00:01:48.375 --> 00:01:50.934
“乘飞机时的流产风险”

00:01:50.958 --> 00:01:53.726
或者“怀孕早期的腹痛”。

00:01:53.750 --> 00:01:55.559
我知道这些，
因为我也有过类似的经历，

00:01:55.583 --> 00:01:57.208
而且是很多次。

00:01:58.458 --> 00:02:01.268
等到宝宝出生后， 
他们会用不同的技术

00:02:01.268 --> 00:02:01.999
记录每个午觉、

00:02:01.999 --> 00:02:05.167
每次喂食和每个重要时刻。

00:02:06.083 --> 00:02:07.559
所有这些技术

00:02:07.583 --> 00:02:13.726
都会通过把宝宝的资料分享给别人

00:02:13.750 --> 00:02:15.542
从而换取利润。

NOTE Paragraph

00:02:16.583 --> 00:02:18.726
先给各位举一个例子，

00:02:18.750 --> 00:02:23.474
在 2019 年，
英国医学杂志发布了一项研究：

00:02:23.474 --> 00:02:27.601
在 24 个健康类的手机软件里，

00:02:27.625 --> 00:02:31.083
有 19 个把用户资料
分享给了第三方，

00:02:32.083 --> 00:02:37.917
而这些第三方又分享给了
216 个其他的组织。

00:02:38.875 --> 00:02:42.309
而这 216 个第四方机构，

00:02:42.333 --> 00:02:45.476
只有三个属于健康类机构，

00:02:45.500 --> 00:02:50.018
其他的则是大型科技公司，

00:02:50.042 --> 00:02:53.559
比如谷歌，脸书或甲骨文，

00:02:53.583 --> 00:02:56.184
都是数据广告类的公司，

00:02:56.208 --> 00:03:00.333
而且还有消费信贷的报告机构。

00:03:01.125 --> 00:03:02.559
所以你的猜测是对的：

00:03:02.583 --> 00:03:07.708
广告公司和信贷机构
已经有了宝宝们的数据。

00:03:09.125 --> 00:03:11.893
但是手机软件、网站搜索和社交媒体

00:03:11.917 --> 00:03:15.018
只是冰山一角，

00:03:15.042 --> 00:03:17.633
因为孩子们的日常生活

00:03:17.633 --> 00:03:19.643
已经被很多科技追踪了。

00:03:19.667 --> 00:03:23.809
他们被家里的设备和虚拟助手追踪，

00:03:23.833 --> 00:03:25.809
他们被教育网站

00:03:25.833 --> 00:03:28.018
和学校里的教育技术追踪。

00:03:28.042 --> 00:03:29.643
他们被诊所的

00:03:29.667 --> 00:03:32.684
网上记录和门户网站追踪。

00:03:32.708 --> 00:03:35.059
他们也在被连网的玩具、

00:03:35.083 --> 00:03:36.393
在线游戏

00:03:36.417 --> 00:03:39.083
和很多很多其他的技术追踪。

NOTE Paragraph

00:03:40.250 --> 00:03:41.893
在我的研究过程中，

00:03:41.917 --> 00:03:46.059
很多家长问我，“那又怎么样？

00:03:46.083 --> 00:03:49.000
就算我的孩子被追踪，那又怎么样？

00:03:50.042 --> 00:03:51.935
我们又没什么见不得人的秘密。”

00:03:52.958 --> 00:03:54.458
但是，这真的很重要。

00:03:55.083 --> 00:04:01.101
因为现如今，个人信息不仅仅被追踪，

00:04:01.125 --> 00:04:05.226
还会被用来创建网络个人档案。

00:04:05.250 --> 00:04:09.059
那些公司会用人工智能和预测分析

00:04:09.083 --> 00:04:12.726
从不同渠道搜集越来越多的

00:04:12.750 --> 00:04:14.601
个人数据：

00:04:14.625 --> 00:04:19.143
家庭历史、购物习惯和社交媒体评论，

00:04:19.167 --> 00:04:21.018
然后将这些信息结合在一起

00:04:21.042 --> 00:04:23.792
去做出关于你的决定。

00:04:24.792 --> 00:04:28.226
这些技术几乎无处不在。

00:04:28.250 --> 00:04:30.643
银行利用这些信息
决定批准谁的贷款，

00:04:30.667 --> 00:04:33.042
保险公司用它们决定保费额度，

00:04:34.208 --> 00:04:36.684
招聘人员和雇主用它们

00:04:36.708 --> 00:04:39.625
来决定你们到底适不适合某个工作。

00:04:40.750 --> 00:04:43.851
警察和法庭也利用它们

00:04:43.875 --> 00:04:47.393
去决定这个人是不是罪犯，

00:04:47.417 --> 00:04:50.042
或者有没有可能犯罪。

NOTE Paragraph

00:04:52.458 --> 00:04:56.518
这些购买、售卖
和处理我们信息的人

00:04:56.542 --> 00:05:00.184
究竟如何调查我们和我们的孩子，

00:05:00.208 --> 00:05:02.917
我们对此一无所知，
也没有任何控制权。

00:05:03.625 --> 00:05:07.667
但这些信息会
严重影响我们的权益。

NOTE Paragraph

00:05:08.917 --> 00:05:11.125
举个例子，

00:05:13.792 --> 00:05:17.851
2018 年《纽约时报》
发布的一则新闻称，

00:05:17.875 --> 00:05:19.851
由线上大学规划服务

00:05:19.875 --> 00:05:22.934
搜集的数据——

00:05:22.958 --> 00:05:27.684
这些数据都来自
全美数百万正在寻找

00:05:27.708 --> 00:05:31.351
大学项目或奖学金的高中生——

00:05:31.375 --> 00:05:34.417
已经被售卖给了教育数据经纪人。

00:05:35.792 --> 00:05:41.226
福特汉姆的研究人员在对一些
教育数据经纪人进行分析之后透露，

00:05:41.250 --> 00:05:46.476
这些公司根据以下类别
对不小于两岁的孩子

00:05:46.500 --> 00:05:49.559
进行了分组：

00:05:49.583 --> 00:05:53.768
种族、宗教、家庭富裕程度、

00:05:53.792 --> 00:05:55.851
社交恐惧症，

00:05:55.875 --> 00:05:58.809
以及很多其他的随机分类。

00:05:58.833 --> 00:06:03.851
然后他们会将这些资料，
以及孩子的名字、

00:06:03.875 --> 00:06:06.684
地址和联系方式

00:06:06.708 --> 00:06:08.559
出售给不同的公司，

00:06:08.583 --> 00:06:11.042
包括贸易和职业发展机构，

00:06:12.083 --> 00:06:13.111
学生贷款

00:06:13.111 --> 00:06:15.125
和学生信用卡公司。

00:06:16.542 --> 00:06:17.893
更夸张的是，

00:06:17.917 --> 00:06:21.726
研究人员要求教育数据经纪人

00:06:21.750 --> 00:06:27.559
提供一份对家庭生育服务感兴趣，

00:06:27.583 --> 00:06:30.958
年龄在 14 至 15 岁的少女名单。

00:06:32.208 --> 00:06:34.684
数据经纪人同意了。

00:06:34.708 --> 00:06:39.583
所以不难想象，我们孩子的隐私
得到了何等程度的侵犯。

00:06:40.833 --> 00:06:44.809
但是教育数据经纪人的例子
只是冰山一角。

00:06:44.833 --> 00:06:49.518
诚然，孩子们的信息
正以不可控的方式被人操纵着，

00:06:49.542 --> 00:06:52.958
但这会极大地影响他们以后的人生。

NOTE Paragraph

00:06:54.167 --> 00:06:57.643
所以我们要扪心自问：

00:06:57.667 --> 00:07:02.351
这些搜集孩子们信息的技术
还值得信任吗？

00:07:02.375 --> 00:07:03.625
值得吗？

00:07:05.708 --> 00:07:06.958
我的答案是否定的。

00:07:07.792 --> 00:07:08.919
作为一个人类学家，

00:07:08.919 --> 00:07:12.851
我相信人工智能和
预测分析可以很好的

00:07:12.875 --> 00:07:14.893
预测疾病的发展过程

00:07:14.917 --> 00:07:16.750
或者对抗气候变化。

00:07:18.000 --> 00:07:19.643
但是我们需要摒弃

00:07:19.643 --> 00:07:23.351
这些技术可以客观的分析人类数据，

00:07:23.375 --> 00:07:26.559
我们能够以数据为依据做出
关于个人生活的决定

00:07:26.583 --> 00:07:28.476
这一想法。

00:07:28.500 --> 00:07:31.059
因为它们做不到。

00:07:31.083 --> 00:07:34.434
数据无法反映我们的真实情况。

00:07:34.458 --> 00:07:36.419
人类往往心口不一，

00:07:36.419 --> 00:07:39.018
言行不一。

00:07:39.042 --> 00:07:41.518
算法预测或者数据实践

00:07:41.542 --> 00:07:46.708
无法应对人类经验的
不可预测性和复杂性。

NOTE Paragraph

00:07:48.417 --> 00:07:49.976
但是在此之上，

00:07:50.000 --> 00:07:52.684
这些科技总是——

00:07:52.708 --> 00:07:53.976
总是——

00:07:54.000 --> 00:07:55.917
以这样或那样的方式存在偏见。

00:07:57.125 --> 00:08:02.184
要知道，算法的定义是
被设计成实现一个具体结果的

00:08:02.208 --> 00:08:05.917
很多套规则或步骤，对吧？

00:08:06.833 --> 00:08:09.559
但是这些都不是客观的，

00:08:09.583 --> 00:08:11.536
因为它们都是
由带有特殊文化背景，

00:08:11.536 --> 00:08:13.500
被特殊文化价值所塑造的人类

00:08:13.500 --> 00:08:16.000
设计出来的。

00:08:16.667 --> 00:08:18.393
所以当机器在学习的时候，

00:08:18.417 --> 00:08:20.667
它们利用的是带有偏见的算法，

00:08:21.625 --> 00:08:24.833
以及往往同样带有偏见的数据。

NOTE Paragraph

00:08:25.833 --> 00:08:29.559
如今，我们已经看到了
第一批算法偏见的例子，

00:08:29.583 --> 00:08:33.083
其中有一些真的很可怕。

00:08:34.500 --> 00:08:38.559
今年，位于纽约的
人工智能现在研究所（AI Now Institute）

00:08:38.583 --> 00:08:40.976
发表的一份报告揭示了

00:08:41.000 --> 00:08:44.476
预测警务领域的人工智能技术

00:08:44.500 --> 00:08:47.625
是使用非常糟糕的数据进行训练的。

00:08:48.333 --> 00:08:51.226
这些数据基本上都是

00:08:51.250 --> 00:08:55.434
在历史上存在已知的种族偏见
和不透明的警察行为时期

00:08:55.458 --> 00:08:57.708
收集的数据。

00:08:58.542 --> 00:09:02.601
因为这些技术都是
用这类数据训练的，

00:09:02.625 --> 00:09:04.059
它们无法做到客观，

00:09:04.083 --> 00:09:08.601
结果只是放大和进一步深化

00:09:08.625 --> 00:09:10.250
警察的偏见和错误。

NOTE Paragraph

00:09:13.167 --> 00:09:16.309
所以我觉得我们是在面对社会中的

00:09:16.333 --> 00:09:17.976
一个基本问题。

00:09:18.000 --> 00:09:22.792
我们正在放心大胆的
用各种技术对人类信息进行分析。

00:09:23.750 --> 00:09:26.268
我们知道在这方面，

00:09:26.292 --> 00:09:29.101
这些技术总是有偏见的，

00:09:29.125 --> 00:09:31.851
结果也永远不可能准确。

00:09:31.875 --> 00:09:34.809
所以我们现在需要
一个政治层面的解决方案。

00:09:34.833 --> 00:09:39.542
我们需要让政府认识到，
我们的数据权利也是人权。

NOTE Paragraph

00:09:40.292 --> 00:09:44.375
（鼓掌和欢声）

NOTE Paragraph

00:09:47.833 --> 00:09:51.917
在这样的转变发生之前，
我们无法期待一个更加公平的未来。

00:09:52.750 --> 00:09:55.476
我担心我的女儿们会暴露在

00:09:55.500 --> 00:09:59.226
各种算法的歧视与错误判断中。

00:09:59.250 --> 00:10:01.643
我和我女儿的区别就在于，

00:10:01.667 --> 00:10:04.851
我的童年并没有公开的记录，

00:10:04.875 --> 00:10:08.893
当然，我十几岁时做过的傻事

00:10:08.917 --> 00:10:11.059
和那些荒唐的想法也没有被记录。

NOTE Paragraph

00:10:11.083 --> 00:10:12.583
（笑声）

NOTE Paragraph

00:10:13.833 --> 00:10:16.583
但是我的女儿们就不同了。

00:10:17.292 --> 00:10:20.476
今天从她们那里搜集的数据

00:10:20.500 --> 00:10:24.309
在将来有可能被用来
评判她们的未来，

00:10:24.333 --> 00:10:27.292
并可能阻止她们的希望和梦想。

NOTE Paragraph

00:10:28.583 --> 00:10:30.101
我觉得是时候了，

00:10:30.125 --> 00:10:31.559
是时候

00:10:31.583 --> 00:10:34.059
采取行动——

00:10:34.083 --> 00:10:35.518
无论是个人，

00:10:35.542 --> 00:10:38.059
还是组织和机构——

00:10:38.083 --> 00:10:41.184
在一切还来得及之前就开展合作，
为我们和我们的孩子

00:10:41.208 --> 00:10:42.705
争取更大程度的

00:10:42.705 --> 00:10:44.143
数据公正。

NOTE Paragraph

00:10:44.167 --> 00:10:45.434
谢谢大家！

NOTE Paragraph

00:10:45.458 --> 00:10:46.875
（掌声）