大家好，我是乔，一位编码诗人，
正致力阻止一股正崛起的未知力量，
我称这种力量为“代码凝视”，
也是我给“算法偏见”起的别名。
算法偏见与人类的偏见一样，
都会产生不公。
但是，算法就像病毒一样，
会使偏见大规模的传播
且速度特别快。
算法偏见也会导致排斥现象
以及差别对待。
让我向你展示一下：
（视频）
Joy: 你好，镜头！
我的脸在这儿。
你能识别我的脸吗？
摘掉眼镜呢？
你可以识别她的脸。
但我的脸呢？
（笑声）
我带上了面具，
你能识别我的面具吗？
这到底是怎么一回事？
为什么我要坐在电脑面前
戴着白色面具，
试着让一台廉价的网络摄像机识别我呢？
当我不作为编码诗人
与代码凝视作斗争时，
我是MIT媒体实验室的一个研究生，
我有机会参加各种异想天开的项目，
包括 Aspire Mirror，
它是我做的一个项目，
可以将数码面具投射在我的映像上。
在早晨，如果我想感受充满力量的感觉，
我可以带上一个狮子面具。
如果我想给自己打打气，
屏幕上会显示一句名言。
我使用了通用面部识别软件
来建立这个系统，
但是我发现它真的很难测试，
除非我戴一个白色面具。
不幸的是，
之前我也遇到过类似的问题。
当我还是个本科生时，
在佐治亚理工大学学习计算机科学，
我曾研究社交机器人，
我的任务之一是和机器人玩躲猫猫，
一个简单的轮次游戏
参与者需要先遮住自己的脸，
然后喊“躲猫猫!”露出脸。
问题是，如果看不见对方
这个游戏就玩不成了。
我的机器人看不见我。
但我借用室友的脸完成了这个项目，
提交了功课，
想着，总有别人会解决这个问题的。
不久之后，
我在香港参加一个创业竞赛。
主办方决定带领所有参赛者
去参观当地的初创企业。
其中一个有一个社交机器人，
他们决定做一个演示。
机器识别了每个人的脸，
终于轮到我了，
也许你们可以猜到。
它不能识别我的脸。
我问开发者到底是怎么回事，
发现我们用的是
一样的通用面部识别软件。
绕了半个世界，
我明白了算法偏见的传播速度
与从网络下载文件一样快。
那到底发生了什么呢？
为什么我的脸不能被识别呢？
我们必须看看人们
是怎么给机器设置视觉。
计算机视觉利用机器学习
来识别人脸。
你需要创造一个人脸样本训练集。
这是一张脸。这也是一张脸。
这不是一张脸。
通过长时间的训练，
你可以教计算机如何识别人脸。
但是，如果训练集中的脸没有多样化，
一张与所建范围内的样本
有所不同的脸
将很难被识别。
这就是发生在我身上的事情。
不用担心，还有一些好消息。
训练集不是凭空而有的，
我们可以创造它们。
所以，我们有机会
去创造一个全面完善的训练集，
来反应更丰富的人物肖像。
你们已经看到了我的例子：
我是如何通过社交机器人
发现算法偏见产生排斥现象。
算法偏见也会导致差别对待。
在美国，
警察机关正在使用人脸识别软件
来打击犯罪。
乔治敦法学院发表了一份报告：
美国成年人，大约一亿一千七百万人，
其中的二分之一的人的脸
在于人脸识别网络中。
警察机关可以不受约束得
使用这些网络，
使用尚未被审查过准确性的算法。
然而，人脸识别并非万无一失，
准确标明人脸仍旧是个挑战。
你可能在Facebook上见过这个
我和我的朋友总是觉得好笑：
当我们看见其他人名
被错误标识在我们的照片中。
但是错误识别一个嫌疑犯
可不是闹着玩的事，
侵犯公民自由也并非儿戏。
机器学习正被用于面部识别，
也被用于计算机视觉之外的领域。
在《数学毁灭性武器》一书中
(Weapons of Math Destruction")
作者兼数据科学家Cathy O'Neil
谈论到崛起的数学毁灭性武器——
既神秘又具有破坏性的算法
被广泛使用，
人们越来越依靠它们来做出决定
影响我们生活的各个方面。
谁将被雇用或解雇呢？
你能拿到那笔借贷？
你上的了保险了吗？
你被心仪的大学录取了吗？
你我在同一购物平台上
购买的同一产品
价格是否一样呢？
执法部门也正开始使用机器学习
用于预测警务。
一些法官使用机器生成的
风险分数来判定
犯人会在监狱里待多久。
我们必须再三思考这些决策。
他们真的公平吗？
正如我们所见那样，
算法偏见不总能得出公平的结果。
那我们可以做些什么呢？
我们可以开始思考
如何创造更具包容性的代码
并且采用具有包容性的代码实践。
编码由人而起。
谁编写项目代码非常重要。
我们有与不同的人一起
组建多样性的团队，
相互检查出对方的盲点吗？
在技术方面，如何编写代码也非常重要。
我们在开发系统时是否考虑到了公平性?
最后，我们编程的原因也很重要。
我们已使用计算机工具
解锁了巨大财富。
现在，我们有机会用它
来实现更好的平等，
前提是，优先考虑社会变革
而非在事后想到。
这些也是“译码运动” 的三条准则：
(Incoding Movement)
谁编写代码很重要。
如何编写项目代码很重要。
为什么要编写项目代码也很重要。
在”译码运动“中，我们可以开始思考
如何建立能够识别偏见的平台，
通过收集人们的经历
例如我之前所提到的，
我们也需要审查现有软件。
我们也可以开始创造
更具包容性的训练集。
想象一个”全民自拍“活动
你我的加入可以帮助开发者
测试和创建
更具包容性的训练集。
我们也可以开始从道德上思考
我们发展的科技的社会影响。
为了开展“译码运动”，
我推出了“算法正义联盟”
任何一个关心平等的人
都可以帮助打击“代码凝视”。
在codedgaze.com，
你可以举报算法偏见、
请求审核、
成为一名测试者、
参与话题讨论：
#代码凝视。
我邀请您与我一起
创造一个科技服务全民的世界，
不仅仅是部分人，
一个重视包容和社会变革的世界。
谢谢。
（掌声）
最后，我有个问题：
你是否会和我一同战斗?
（笑声）
（掌声）