[Script Info] Title: [Events] Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text Dialogue: 0,0:00:13.96,0:00:17.10,Default,,0000,0000,0000,,大家好,我是乔,一位编码诗人, Dialogue: 0,0:00:17.12,0:00:22.11,Default,,0000,0000,0000,,正致力阻止一股正崛起的未知力量, Dialogue: 0,0:00:22.14,0:00:24.99,Default,,0000,0000,0000,,我称这种力量为“代码凝视”, Dialogue: 0,0:00:25.02,0:00:28.32,Default,,0000,0000,0000,,也是我给“算法偏见”起的别名。 Dialogue: 0,0:00:28.35,0:00:32.65,Default,,0000,0000,0000,,算法偏见与人类的偏见一样,\N都会产生不公。 Dialogue: 0,0:00:32.67,0:00:38.62,Default,,0000,0000,0000,,但是,算法就像病毒一样,\N会使偏见大规模的传播 Dialogue: 0,0:00:38.62,0:00:40.86,Default,,0000,0000,0000,,且速度特别快。 Dialogue: 0,0:00:40.86,0:00:44.43,Default,,0000,0000,0000,,算法偏见也会导致排斥现象 Dialogue: 0,0:00:44.43,0:00:47.43,Default,,0000,0000,0000,,以及差别对待。 Dialogue: 0,0:00:47.43,0:00:49.49,Default,,0000,0000,0000,,让我向你展示一下: Dialogue: 0,0:00:49.58,0:00:50.68,Default,,0000,0000,0000,,(视频) Dialogue: 0,0:00:50.68,0:00:53.24,Default,,0000,0000,0000,,Joy: 你好,镜头!\N我的脸在这儿。 Dialogue: 0,0:00:53.24,0:00:55.11,Default,,0000,0000,0000,,你能识别我的脸吗? Dialogue: 0,0:00:55.13,0:00:56.76,Default,,0000,0000,0000,,摘掉眼镜呢? Dialogue: 0,0:00:58.46,0:01:00.21,Default,,0000,0000,0000,,你可以识别她的脸。 Dialogue: 0,0:01:01.08,0:01:02.69,Default,,0000,0000,0000,,但我的脸呢? Dialogue: 0,0:01:05.58,0:01:06.76,Default,,0000,0000,0000,,(笑声) Dialogue: 0,0:01:07.08,0:01:10.66,Default,,0000,0000,0000,,我带上了面具,\N你能识别我的面具吗? Dialogue: 0,0:01:11.91,0:01:14.28,Default,,0000,0000,0000,,这到底是怎么一回事? Dialogue: 0,0:01:14.30,0:01:17.44,Default,,0000,0000,0000,,为什么我要坐在电脑面前 Dialogue: 0,0:01:17.47,0:01:18.89,Default,,0000,0000,0000,,戴着白色面具, Dialogue: 0,0:01:18.92,0:01:22.57,Default,,0000,0000,0000,,试着让一台廉价的网络摄像机识别我呢? Dialogue: 0,0:01:22.59,0:01:26.45,Default,,0000,0000,0000,,当我不作为编码诗人\N与代码凝视作斗争时, Dialogue: 0,0:01:26.45,0:01:29.72,Default,,0000,0000,0000,,我是MIT媒体实验室的一个研究生, Dialogue: 0,0:01:29.74,0:01:34.66,Default,,0000,0000,0000,,我有机会参加各种异想天开的项目, Dialogue: 0,0:01:34.69,0:01:36.71,Default,,0000,0000,0000,,包括 Aspire Mirror, Dialogue: 0,0:01:36.74,0:01:41.87,Default,,0000,0000,0000,,它是我做的一个项目,\N可以将数码面具投射在我的映像上。 Dialogue: 0,0:01:41.90,0:01:44.24,Default,,0000,0000,0000,,在早晨,如果我想感受充满力量的感觉, Dialogue: 0,0:01:44.27,0:01:45.70,Default,,0000,0000,0000,,我可以带上一个狮子面具。 Dialogue: 0,0:01:45.73,0:01:49.22,Default,,0000,0000,0000,,如果我想给自己打打气,\N屏幕上会显示一句名言。 Dialogue: 0,0:01:49.25,0:01:52.24,Default,,0000,0000,0000,,我使用了通用面部识别软件 Dialogue: 0,0:01:52.26,0:01:53.61,Default,,0000,0000,0000,,来建立这个系统, Dialogue: 0,0:01:53.64,0:01:59.41,Default,,0000,0000,0000,,但是我发现它真的很难测试, \N除非我戴一个白色面具。 Dialogue: 0,0:01:59.72,0:02:04.07,Default,,0000,0000,0000,,不幸的是,\N之前我也遇到过类似的问题。 Dialogue: 0,0:02:04.09,0:02:08.44,Default,,0000,0000,0000,,当我还是个本科生时,\N在佐治亚理工大学学习计算机科学, Dialogue: 0,0:02:08.46,0:02:10.51,Default,,0000,0000,0000,,我曾研究社交机器人, Dialogue: 0,0:02:10.54,0:02:14.32,Default,,0000,0000,0000,,我的任务之一是和机器人玩躲猫猫, Dialogue: 0,0:02:14.34,0:02:16.27,Default,,0000,0000,0000,,一个简单的轮次游戏 Dialogue: 0,0:02:16.30,0:02:20.62,Default,,0000,0000,0000,,参与者需要先遮住自己的脸,\N然后喊“躲猫猫!”露出脸。 Dialogue: 0,0:02:20.74,0:02:25.17,Default,,0000,0000,0000,,问题是,如果看不见对方\N这个游戏就玩不成了。 Dialogue: 0,0:02:25.19,0:02:27.69,Default,,0000,0000,0000,,我的机器人看不见我。 Dialogue: 0,0:02:27.72,0:02:31.67,Default,,0000,0000,0000,,但我借用室友的脸完成了这个项目, Dialogue: 0,0:02:31.69,0:02:33.07,Default,,0000,0000,0000,,提交了功课, Dialogue: 0,0:02:33.10,0:02:36.85,Default,,0000,0000,0000,,想着,总有别人会解决这个问题的。 Dialogue: 0,0:02:37.50,0:02:39.50,Default,,0000,0000,0000,,不久之后, Dialogue: 0,0:02:39.53,0:02:43.68,Default,,0000,0000,0000,,我在香港参加一个创业竞赛。 Dialogue: 0,0:02:44.17,0:02:46.28,Default,,0000,0000,0000,,主办方决定带领所有参赛者 Dialogue: 0,0:02:46.28,0:02:49.28,Default,,0000,0000,0000,,去参观当地的初创企业。 Dialogue: 0,0:02:49.28,0:02:52.02,Default,,0000,0000,0000,,其中一个有一个社交机器人, Dialogue: 0,0:02:52.02,0:02:53.93,Default,,0000,0000,0000,,他们决定做一个演示。 Dialogue: 0,0:02:53.96,0:02:56.94,Default,,0000,0000,0000,,机器识别了每个人的脸,\N终于轮到我了, Dialogue: 0,0:02:56.96,0:02:58.88,Default,,0000,0000,0000,,也许你们可以猜到。 Dialogue: 0,0:02:58.91,0:03:01.87,Default,,0000,0000,0000,,它不能识别我的脸。 Dialogue: 0,0:03:01.90,0:03:04.41,Default,,0000,0000,0000,,我问开发者到底是怎么回事, Dialogue: 0,0:03:04.43,0:03:09.97,Default,,0000,0000,0000,,发现我们用的是\N一样的通用面部识别软件。 Dialogue: 0,0:03:09.99,0:03:11.64,Default,,0000,0000,0000,,绕了半个世界, Dialogue: 0,0:03:11.66,0:03:14.22,Default,,0000,0000,0000,,我明白了算法偏见的传播速度 Dialogue: 0,0:03:14.22,0:03:18.71,Default,,0000,0000,0000,,与从网络下载文件一样快。 Dialogue: 0,0:03:19.58,0:03:22.65,Default,,0000,0000,0000,,那到底发生了什么呢?\N为什么我的脸不能被识别呢? Dialogue: 0,0:03:22.68,0:03:26.03,Default,,0000,0000,0000,,我们必须看看人们\N是怎么给机器设置视觉。 Dialogue: 0,0:03:26.06,0:03:29.46,Default,,0000,0000,0000,,计算机视觉利用机器学习 Dialogue: 0,0:03:29.49,0:03:31.37,Default,,0000,0000,0000,,来识别人脸。 Dialogue: 0,0:03:31.39,0:03:35.29,Default,,0000,0000,0000,,你需要创造一个人脸样本训练集。 Dialogue: 0,0:03:35.31,0:03:38.13,Default,,0000,0000,0000,,这是一张脸。这也是一张脸。\N这不是一张脸。 Dialogue: 0,0:03:38.16,0:03:42.67,Default,,0000,0000,0000,,通过长时间的训练,\N你可以教计算机如何识别人脸。 Dialogue: 0,0:03:42.70,0:03:46.69,Default,,0000,0000,0000,,但是,如果训练集中的脸没有多样化, Dialogue: 0,0:03:46.71,0:03:50.06,Default,,0000,0000,0000,,一张与所建范围内的样本\N有所不同的脸 Dialogue: 0,0:03:50.08,0:03:51.73,Default,,0000,0000,0000,,将很难被识别。 Dialogue: 0,0:03:51.76,0:03:53.72,Default,,0000,0000,0000,,这就是发生在我身上的事情。 Dialogue: 0,0:03:53.74,0:03:56.13,Default,,0000,0000,0000,,不用担心,还有一些好消息。 Dialogue: 0,0:03:56.15,0:03:58.92,Default,,0000,0000,0000,,训练集不是凭空而有的, Dialogue: 0,0:03:58.94,0:04:00.73,Default,,0000,0000,0000,,我们可以创造它们。 Dialogue: 0,0:04:00.76,0:04:04.93,Default,,0000,0000,0000,,所以,我们有机会\N去创造一个全面完善的训练集, Dialogue: 0,0:04:04.96,0:04:08.78,Default,,0000,0000,0000,,来反应更丰富的人物肖像。 Dialogue: 0,0:04:08.80,0:04:11.03,Default,,0000,0000,0000,,你们已经看到了我的例子: Dialogue: 0,0:04:11.05,0:04:12.82,Default,,0000,0000,0000,,我是如何通过社交机器人 Dialogue: 0,0:04:12.84,0:04:17.45,Default,,0000,0000,0000,,发现算法偏见产生排斥现象。 Dialogue: 0,0:04:17.48,0:04:22.29,Default,,0000,0000,0000,,算法偏见也会导致差别对待。 Dialogue: 0,0:04:23.27,0:04:24.72,Default,,0000,0000,0000,,在美国, Dialogue: 0,0:04:24.74,0:04:28.94,Default,,0000,0000,0000,,警察机关正在使用人脸识别软件 Dialogue: 0,0:04:28.97,0:04:31.42,Default,,0000,0000,0000,,来打击犯罪。 Dialogue: 0,0:04:31.45,0:04:33.46,Default,,0000,0000,0000,,乔治敦法学院发表了一份报告: Dialogue: 0,0:04:33.49,0:04:40.25,Default,,0000,0000,0000,,美国成年人,大约一亿一千七百万人, Dialogue: 0,0:04:40.27,0:04:43.81,Default,,0000,0000,0000,,其中的二分之一的人的脸\N在于人脸识别网络中。 Dialogue: 0,0:04:43.83,0:04:48.38,Default,,0000,0000,0000,,警察机关可以不受约束得\N使用这些网络, Dialogue: 0,0:04:48.41,0:04:52.69,Default,,0000,0000,0000,,使用尚未被审查过准确性的算法。 Dialogue: 0,0:04:52.72,0:04:56.58,Default,,0000,0000,0000,,然而,人脸识别并非万无一失, Dialogue: 0,0:04:56.60,0:05:00.78,Default,,0000,0000,0000,,准确标明人脸仍旧是个挑战。 Dialogue: 0,0:05:00.81,0:05:02.57,Default,,0000,0000,0000,,你可能在Facebook上见过这个 Dialogue: 0,0:05:02.59,0:05:05.58,Default,,0000,0000,0000,,我和我的朋友总是觉得好笑:\N当我们看见其他人名 Dialogue: 0,0:05:05.61,0:05:08.06,Default,,0000,0000,0000,,被错误标识在我们的照片中。 Dialogue: 0,0:05:08.09,0:05:13.68,Default,,0000,0000,0000,,但是错误识别一个嫌疑犯\N可不是闹着玩的事, Dialogue: 0,0:05:13.70,0:05:16.53,Default,,0000,0000,0000,,侵犯公民自由也并非儿戏。 Dialogue: 0,0:05:16.55,0:05:19.76,Default,,0000,0000,0000,,机器学习正被用于面部识别, Dialogue: 0,0:05:19.78,0:05:24.29,Default,,0000,0000,0000,,也被用于计算机视觉之外的领域。 Dialogue: 0,0:05:25.10,0:05:29.11,Default,,0000,0000,0000,,在《数学毁灭性武器》一书中\N(Weapons of Math Destruction") Dialogue: 0,0:05:29.14,0:05:35.82,Default,,0000,0000,0000,,作者兼数据科学家Cathy O'Neil \N谈论到崛起的数学毁灭性武器—— Dialogue: 0,0:05:35.84,0:05:40.19,Default,,0000,0000,0000,,既神秘又具有破坏性的算法\N被广泛使用, Dialogue: 0,0:05:40.22,0:05:43.18,Default,,0000,0000,0000,,人们越来越依靠它们来做出决定 Dialogue: 0,0:05:43.21,0:05:46.38,Default,,0000,0000,0000,,影响我们生活的各个方面。 Dialogue: 0,0:05:46.41,0:05:48.28,Default,,0000,0000,0000,,谁将被雇用或解雇呢? Dialogue: 0,0:05:48.30,0:05:50.41,Default,,0000,0000,0000,,你能拿到那笔借贷?\N你上的了保险了吗? Dialogue: 0,0:05:50.44,0:05:53.94,Default,,0000,0000,0000,,你被心仪的大学录取了吗? Dialogue: 0,0:05:53.96,0:05:57.47,Default,,0000,0000,0000,,你我在同一购物平台上\N购买的同一产品 Dialogue: 0,0:05:57.50,0:05:59.94,Default,,0000,0000,0000,,价格是否一样呢? Dialogue: 0,0:05:59.96,0:06:03.72,Default,,0000,0000,0000,,执法部门也正开始使用机器学习 Dialogue: 0,0:06:03.75,0:06:06.04,Default,,0000,0000,0000,,用于预测警务。 Dialogue: 0,0:06:06.06,0:06:09.55,Default,,0000,0000,0000,,一些法官使用机器生成的\N风险分数来判定 Dialogue: 0,0:06:09.58,0:06:13.98,Default,,0000,0000,0000,,犯人会在监狱里待多久。 Dialogue: 0,0:06:14.00,0:06:16.46,Default,,0000,0000,0000,,我们必须再三思考这些决策。 Dialogue: 0,0:06:16.48,0:06:17.66,Default,,0000,0000,0000,,他们真的公平吗? Dialogue: 0,0:06:17.69,0:06:20.58,Default,,0000,0000,0000,,正如我们所见那样, Dialogue: 0,0:06:20.60,0:06:23.98,Default,,0000,0000,0000,,算法偏见不总能得出公平的结果。 Dialogue: 0,0:06:23.100,0:06:25.96,Default,,0000,0000,0000,,那我们可以做些什么呢? Dialogue: 0,0:06:25.99,0:06:29.67,Default,,0000,0000,0000,,我们可以开始思考\N如何创造更具包容性的代码 Dialogue: 0,0:06:29.69,0:06:32.68,Default,,0000,0000,0000,,并且采用具有包容性的代码实践。 Dialogue: 0,0:06:32.70,0:06:35.01,Default,,0000,0000,0000,,编码由人而起。 Dialogue: 0,0:06:35.54,0:06:37.50,Default,,0000,0000,0000,,谁编写项目代码非常重要。 Dialogue: 0,0:06:37.52,0:06:41.64,Default,,0000,0000,0000,,我们有与不同的人一起\N组建多样性的团队, Dialogue: 0,0:06:41.67,0:06:44.08,Default,,0000,0000,0000,,相互检查出对方的盲点吗? Dialogue: 0,0:06:44.10,0:06:47.65,Default,,0000,0000,0000,,在技术方面,如何编写代码也非常重要。 Dialogue: 0,0:06:47.67,0:06:51.32,Default,,0000,0000,0000,,我们在开发系统时是否考虑到了公平性? Dialogue: 0,0:06:51.34,0:06:54.26,Default,,0000,0000,0000,,最后,我们编程的原因也很重要。 Dialogue: 0,0:06:54.62,0:06:59.70,Default,,0000,0000,0000,,我们已使用计算机工具\N解锁了巨大财富。 Dialogue: 0,0:06:59.72,0:07:04.17,Default,,0000,0000,0000,,现在,我们有机会用它\N来实现更好的平等, Dialogue: 0,0:07:04.19,0:07:07.12,Default,,0000,0000,0000,,前提是,优先考虑社会变革 Dialogue: 0,0:07:07.15,0:07:09.32,Default,,0000,0000,0000,,而非在事后想到。 Dialogue: 0,0:07:09.84,0:07:14.36,Default,,0000,0000,0000,,这些也是“译码运动” 的三条准则:\N(Incoding Movement) Dialogue: 0,0:07:14.38,0:07:16.04,Default,,0000,0000,0000,,谁编写代码很重要。 Dialogue: 0,0:07:16.06,0:07:17.60,Default,,0000,0000,0000,,如何编写项目代码很重要。 Dialogue: 0,0:07:17.63,0:07:19.65,Default,,0000,0000,0000,,为什么要编写项目代码也很重要。 Dialogue: 0,0:07:19.67,0:07:22.77,Default,,0000,0000,0000,,在”译码运动“中,我们可以开始思考 Dialogue: 0,0:07:22.80,0:07:25.96,Default,,0000,0000,0000,,如何建立能够识别偏见的平台, Dialogue: 0,0:07:25.98,0:07:29.06,Default,,0000,0000,0000,,通过收集人们的经历\N例如我之前所提到的, Dialogue: 0,0:07:29.09,0:07:32.16,Default,,0000,0000,0000,,我们也需要审查现有软件。 Dialogue: 0,0:07:32.18,0:07:35.95,Default,,0000,0000,0000,,我们也可以开始创造\N更具包容性的训练集。 Dialogue: 0,0:07:35.97,0:07:38.77,Default,,0000,0000,0000,,想象一个”全民自拍“活动 Dialogue: 0,0:07:38.80,0:07:42.19,Default,,0000,0000,0000,,你我的加入可以帮助开发者\N测试和创建 Dialogue: 0,0:07:42.19,0:07:44.57,Default,,0000,0000,0000,,更具包容性的训练集。 Dialogue: 0,0:07:45.13,0:07:47.96,Default,,0000,0000,0000,,我们也可以开始从道德上思考 Dialogue: 0,0:07:47.98,0:07:53.38,Default,,0000,0000,0000,,我们发展的科技的社会影响。 Dialogue: 0,0:07:53.40,0:07:55.79,Default,,0000,0000,0000,,为了开展“译码运动”, Dialogue: 0,0:07:55.82,0:07:58.66,Default,,0000,0000,0000,,我推出了“算法正义联盟” Dialogue: 0,0:07:58.69,0:08:04.56,Default,,0000,0000,0000,,任何一个关心平等的人\N都可以帮助打击“代码凝视”。 Dialogue: 0,0:08:04.58,0:08:07.88,Default,,0000,0000,0000,,在codedgaze.com,\N你可以举报算法偏见、 Dialogue: 0,0:08:07.90,0:08:10.35,Default,,0000,0000,0000,,请求审核、\N成为一名测试者、 Dialogue: 0,0:08:10.37,0:08:13.14,Default,,0000,0000,0000,,参与话题讨论: Dialogue: 0,0:08:13.17,0:08:15.45,Default,,0000,0000,0000,,#代码凝视。 Dialogue: 0,0:08:16.57,0:08:19.06,Default,,0000,0000,0000,,我邀请您与我一起 Dialogue: 0,0:08:19.08,0:08:22.80,Default,,0000,0000,0000,,创造一个科技服务全民的世界, Dialogue: 0,0:08:22.83,0:08:24.72,Default,,0000,0000,0000,,不仅仅是部分人, Dialogue: 0,0:08:24.75,0:08:29.40,Default,,0000,0000,0000,,一个重视包容和社会变革的世界。 Dialogue: 0,0:08:29.42,0:08:30.59,Default,,0000,0000,0000,,谢谢。 Dialogue: 0,0:08:30.62,0:08:35.91,Default,,0000,0000,0000,,(掌声) Dialogue: 0,0:08:41.44,0:08:44.65,Default,,0000,0000,0000,,最后,我有个问题: Dialogue: 0,0:08:44.65,0:08:47.22,Default,,0000,0000,0000,,你是否会和我一同战斗? Dialogue: 0,0:08:47.56,0:08:48.84,Default,,0000,0000,0000,,(笑声) Dialogue: 0,0:08:48.84,0:08:50.75,Default,,0000,0000,0000,,(掌声)