大家好 我是乔伊 一位写代码的诗人 我正努力阻止一股 逐渐凸显的无形力量 一种我称为 代码的凝视 的力量 这是我用来定义算法偏见的术语 正如人类之间的偏见 算法偏见也会导致不公平 然而算法就像病毒一样 会以飞快的速度大范围地 扩散偏见 算法也将会导致排他的经历和 歧视性的做法 给大家举个例子 （录像）乔伊·博拉维尼： 嘿 摄像头 我来了 你可以看到我的脸吗 没有戴眼镜的脸呢 你可以看到她的脸 那么我的脸呢 我戴上了一个面罩 你可以看到我的面罩吗 乔伊·博拉维尼： 这是怎么回事呢 为什么我坐在一台电脑前 戴着一个白色的面罩 尝试着被一个廉价的 网络摄像头检测到 当我的身份不是写代码的诗人 与 代码的凝视 较劲的时候 我是MIT媒体实验室的 一位硕士生 在那里我有机会参与 各种不同的项目 包括激励镜子 一个可以将数字面罩 投射在我的映像上的项目 在早上的时候 如果我想充满力量 我可以放上一个狮子的图像 如果我想要感到积极向上 我也许就会放上一句格言 我使用通用的人脸识别软件 来搭建系统 但是我发现除非我戴上白色的面罩 否则测试很难成功 遗憾的是 我以前 也曾遇到过这种问题 当我在佐治亚理工学院 读计算机科学专业本科的时候 我曾经在一个 社交机器人上进行实验 我的任务之一是 让机器人玩躲猫猫 一个简单的轮换游戏 在游戏中玩伴盖住他们的脸 然后掀开说“躲猫猫！“ 问题是躲猫猫在我不能 看见你的时候不起作用 而我的机器人看不见我 我只好借了我室友的脸 去完成这个项目 递交了作业 寻思着总会有人 来解决这个问题的把 不久之后 我在香港参加一次创业比赛 组织者决定将各位参与者 带到当地的初创企业参观 其中一个创业公司 有一个社交机器人 他们决定进行一个项目演示 这个项目演示对除我之外的 每个人都有效果 你恐怕可以猜到 它不能检测到我的脸 我问开发师到底发生了什么 结果是我们使用了同一款 通用面部识别软件 在地球的另一边 我意识到算法偏见 传播得如此之快 只需要从互联网上 下载一些文件 那么到底发生了什么 为什么我的脸没有被检测到 我们需要了解我们 如何教会机器识别 计算机视觉使用机器学习技术 来进行面部识别 所以你要用一系列脸的样本 创建一个训练体系 这是一张脸 这是一张脸 而这不是一张脸 慢慢地你可以教电脑 如何识别其它的脸 然而如果这个训练集 不是那么的多样化 那些与已建立的标准 偏差较多的脸 将会难以被检测到 而这正是我遭遇的问题 不过别担心 我们还有好消息 训练集并不是凭空产生的 实际上我们可以创造它们 现在就有机会去创造 全波段光谱的训练集 可以反映更加饱满的人类面貌 现在你看到了在我的例子中 社交机器人 使我发现了算法偏见的排他性 不过算法偏见还会导致 各种歧视性的做法 美国境内的警察局 在打击犯罪的过程中 开始使用面部识别软件 乔治敦大学法学院 发表了一个报告 表明在全美两个成年人中就有一个 也就是近1.2亿的人口 他们的面部信息 被储存在了面部识别网络中 警察局如今可以访问 这些未被规范的 使用着未审核准确性的 算法的面部识别网络 然而我们知道面部识别 并非万无一失 而持续地给面部标签 还是很有挑战性的 你也许在Facebook上见过这个 当我和我的朋友看到其他人 在我们的照片上被错误标注时 都会捧腹大笑 但是误认一个犯罪嫌疑人 可不是闹着玩儿的 对公民自由的侵犯也不容忽视 机器学习正被用于面部识别 但也延伸到了计算机视觉领域之外 在数据科学家凯西·欧奈尔在她 《数学杀伤性武器》一书中 叙述了逐渐严重的 新型大规模杀伤性武器 即 广泛应用而又神秘的 具有破坏性的算法 正在被越来越多地 运用于决策制定上 而这些决策影响着 我们生活的方方面面 谁被录用 又有谁被解雇 你得到了贷款吗 你买到了保险吗 你被心目中的理想大学录取了吗 在同一平台上的同一件产品 你和我是否支付同样的价格 为了实现警情预测 执法机构也开始 使用起机器学习 一些法官使用机器生成的 危险评分来决定 囚犯要在监狱里呆多久 我们真的应该 仔细思考这些决定 它们公平吗 我们已经清楚了 算法偏见 不一定总能带来公平的结果 那我们应该怎么做呢 我们可以开始思考如何 创造更具有包容性的代码 并且运用有包容性的编程实践 这真的要从人开始 由谁来编程很重要 我们组建的全光谱团队中 是否包括各种各样的个体 他们可以弥补彼此的盲区吗 在技术层面上 我们如何编程很重要 我们在研发系统的同时 有没有也考虑到公平的因素 最后一点 我们为什么编程也很重要 我们用计算机创建的工具 创造了巨大的财富 现在我们有机会去 创造进一步的平等 我们应该优先考虑社会变革 而不是想着事后优化 所以这三个宗旨 将构成“译码”运动 由谁来编程很重要 我们如何编程很重要 以及我们为什么编程很重要 所以就译码来说 我们可以开始考虑 建立一个我们可以辨识偏见的平台 通过收集人们与我类似的经历 不过也要审查现有的软件 我们也可以创造一些 更有包容性的训练集 想象一个为了包容性的自拍运动 在那里 你和我可以帮助 程序员测试以及创造 更具包容性的训练集 我们还可以开始更认真地思考 关于正在发展的科技 造成的社会影响 为了开启译码运动 我发起了算法正义联盟 在那里任何关心公平的人 可以出力来对抗 代码的凝视 在codedgaze.com网站 你可以举报偏见 请求审核 成为测试者 以及加入正在进行的谈话 标签就是 代码的凝视 我在此邀请各位加入我 去创造一个让科技为我们 所有人服务的世界 而不是只服务于部分人 一个我们珍惜包容和 聚焦社会变革的世界 谢谢 （掌声） 不过我还有一个问题 你会与我并肩战斗吗 （笑声） （掌声）