0:00:01.765,0:00:04.765
人工智能，

0:00:04.789,0:00:08.318
以能颠覆所有行业广为人知。

0:00:08.961,0:00:11.004
那冰淇淋呢？

0:00:11.879,0:00:15.518
我们是否能利用先进的人工智能

0:00:15.542,0:00:18.518
生成令人震惊的新口味呢？

0:00:19.011,0:00:23.172
我和 Kealing 中学的程序员组了个队

0:00:23.196,0:00:25.437
想要找到答案。

0:00:25.461,0:00:30.542
他们收集了超过 1600 种[br]现有的冰淇淋口味，

0:00:30.566,0:00:36.088
接着我们一起把这些口味输入[br]到算法中看看会有什么结果。

0:00:36.112,0:00:39.865
接下来给大家展示一些[br]人工智能所想到的口味。

0:00:40.444,0:00:41.915
【南瓜垃圾破裂】

0:00:41.939,0:00:43.341
(笑声)

0:00:43.365,0:00:45.834
【花生酱稀泥】

0:00:46.822,0:00:48.165
【草莓奶油病】

0:00:48.189,0:00:50.315
(笑声)

0:00:50.339,0:00:54.936
这些口味听起来并没有[br]我们想象中美味。

0:00:54.960,0:00:56.824
所以问题来了：怎么回事？

0:00:56.848,0:00:58.242
到底哪里出问题了？

0:00:58.266,0:01:00.225
人工智能是想要干掉我们？

0:01:01.027,0:01:05.337
还是说它努力想要回应[br]我们的要求，但是却出问题了？

0:01:06.567,0:01:09.031
在电影中，当人工智能出了错，

0:01:09.055,0:01:11.767
通常是因为它们决定

0:01:11.791,0:01:14.063
再也不要听从人类的指令，

0:01:14.087,0:01:16.710
它开始有了自己的目标，[br]不劳驾人类了。

0:01:17.266,0:01:20.482
然而现实生活中，[br]我们现有的人工智能

0:01:20.506,0:01:22.369
还没达到那样的水平。

0:01:22.781,0:01:25.763
它的计算能力大概跟

0:01:25.787,0:01:27.063
一条小虫子差不多，

0:01:27.087,0:01:30.490
又或者顶多只是一只小蜜蜂，

0:01:30.514,0:01:32.729
实际上可能更弱。

0:01:32.753,0:01:35.347
我们持续从大脑学习到新事物，

0:01:35.371,0:01:39.731
使我们越来越清楚人工智能[br]与真正的大脑之间的距离。

0:01:39.755,0:01:45.418
现在人工智能所达到的大体就是[br]在图片中识别出行人的程度，

0:01:45.442,0:01:48.425
但是它并没有[br]对于行人的概念，

0:01:48.449,0:01:53.273
除此之外它所做的只是[br]收集线条，质地之类的信息。

0:01:53.792,0:01:56.313
但是它并不知道人类到底是什么。

0:01:56.822,0:02:00.104
那么现在的人工智能[br]能否达到我们的要求？

0:02:00.128,0:02:01.722
能力允许的情况下它会，

0:02:01.746,0:02:04.472
但是它所做的可能[br]并不是我们真正想要的。

0:02:04.496,0:02:06.911
假设你想要用人工智能

0:02:06.935,0:02:09.554
利用一堆机器人的零件

0:02:09.578,0:02:13.775
组装成一个机器人[br]从 A 点移动到 B 点。

0:02:13.799,0:02:16.280
如果你想要通过编写[br]一个传统的计算机程序

0:02:16.304,0:02:18.655
来解决这个问题，

0:02:18.679,0:02:22.096
你需要输入一步步的指令，

0:02:22.120,0:02:23.449
指示它怎样拿起零件，

0:02:23.473,0:02:25.880
怎样把这些零件安装成[br]一个带脚的机器人，

0:02:25.904,0:02:28.846
以及如何用脚走到 B 点。

0:02:29.441,0:02:31.781
但是当你利用人工智能[br]来解决这个问题的时候，

0:02:31.805,0:02:32.979
情况不太一样。

0:02:33.003,0:02:35.385
你不用告诉它[br]要怎样解决问题，

0:02:35.409,0:02:36.888
你只需要给它一个目标，

0:02:36.912,0:02:40.174
它会通过试错[br]来解决这个问题，

0:02:40.198,0:02:41.682
来实现目标。

0:02:42.254,0:02:46.356
结果是，貌似人工智能在[br]解决这一类问题的时候

0:02:46.380,0:02:47.864
会这么做：

0:02:47.888,0:02:51.255
它把自己搭建成[br]一座塔然后倾倒，

0:02:51.279,0:02:53.106
最后在 B 点落下。

0:02:53.130,0:02:55.959
从技术的层面上看，的确解决了问题。

0:02:55.983,0:02:57.622
从技术上来说的确到达了 B 点。

0:02:57.646,0:03:01.911
人工智能的危险[br]不在于它会反抗我们，

0:03:01.935,0:03:06.209
而是它们会严格按照[br]我们的要求去做。

0:03:06.876,0:03:09.374
所以和人工智能共事的技巧变成了：

0:03:09.398,0:03:13.226
我们该如何设置问题才能让它[br]做我们真正想做的事？

0:03:14.726,0:03:18.032
这一台小机器人[br]由人工智能操控。

0:03:18.056,0:03:20.870
人工智能想到了一个[br]机器人脚部的设计，

0:03:20.894,0:03:24.972
然后想到了如何[br]利用它们绕过障碍。

0:03:24.996,0:03:27.737
但是当大卫·哈[br]在做这个实验的时候，

0:03:27.761,0:03:30.617
他不得不对人工智能[br]容许搭建起来的脚

0:03:30.641,0:03:33.933
设立非常、非常严格的限制，

0:03:33.957,0:03:35.507
不然的话...

0:03:43.058,0:03:46.989
（笑声）

0:03:48.563,0:03:52.308
从技术上说，他的确[br]到达了障碍路线的终点。

0:03:52.332,0:03:57.274
现在我们知道了，仅仅是让人工智能[br]实现简单的行走就有多困难。

0:03:57.298,0:04:01.118
当看到人工智能这么做的时候，[br]你可能会说，这不公平。

0:04:01.142,0:04:03.722
你不能只是变成[br]一座塔然后直接倒下，

0:04:03.746,0:04:07.181
你必须得用脚去走路，

0:04:07.205,0:04:09.964
结果是，[br]那往往也不行。

0:04:09.988,0:04:12.747
这个人工智能的任务是快速移动。

0:04:13.115,0:04:16.708
他们没有说它应该面向前方奔跑，

0:04:16.732,0:04:18.990
也没有说不能使用它的手臂。

0:04:19.487,0:04:24.105
这就是当你训练人工智能[br]快速移动时所能得到的结果，

0:04:24.129,0:04:27.663
你能得到的就是像这样的[br]空翻或者滑稽漫步。

0:04:27.687,0:04:29.087
太常见了。

0:04:29.667,0:04:32.846
在地板上扭动前进[br]也是一样的结果。

0:04:32.870,0:04:34.020
（笑声）

0:04:35.241,0:04:38.495
在我看来，更奇怪的

0:04:38.519,0:04:39.915
就是“终结者”机器人。

0:04:40.256,0:04:44.011
要是有可能的话，人工智能[br]还真会入侵“黑客帝国"。

0:04:44.035,0:04:46.552
如果你用仿真环境[br]训练一个人工智能的话，

0:04:46.576,0:04:50.689
它会学习如何入侵到[br]一个仿真环境中的数学错误里，

0:04:50.713,0:04:52.920
并从中获得能量。

0:04:52.944,0:04:58.419
或者会计算出如何通过[br]不断地在地板上打滑来加快速度。

0:04:58.443,0:05:00.028
当你和人工智能一起工作的时候，

0:05:00.052,0:05:02.441
不太像是在跟另一个人一起工作，

0:05:02.465,0:05:06.094
而更像是在和某种[br]奇怪的自然力量工作。

0:05:06.562,0:05:11.185
一不小心就很容易让人工[br]智能去破解错误的问题，

0:05:11.209,0:05:15.747
往往直到出现问题[br]我们才察觉到不妥。

0:05:16.242,0:05:18.322
所以我做了这样的一个实验，

0:05:18.346,0:05:21.528
我想要让人工智能[br]利用左边的颜色列表

0:05:21.552,0:05:23.298
复制颜料颜色，

0:05:23.322,0:05:26.309
去创造新的颜色。

0:05:26.798,0:05:29.802
这就是人工智能想到的结果。

0:05:29.826,0:05:32.969
【辛迪斯粪便，如粪球般，[br]受难，灰色公众】

0:05:32.993,0:05:37.223
（笑声）

0:05:39.177,0:05:41.063
基本上，

0:05:41.087,0:05:42.951
它达到了我的要求。

0:05:42.975,0:05:46.283
我以为我给出的要求是，[br]让它想出美好的颜色名，

0:05:46.307,0:05:48.614
但是实际上我让它做的

0:05:48.638,0:05:51.724
只是单纯地模仿[br]字母的组合，

0:05:51.748,0:05:53.653
那些它在输入中见到的字母组合。

0:05:53.677,0:05:56.775
而且我并没有告诉它[br]这些单词的意思是什么，

0:05:56.799,0:05:59.359
或者告诉它也许有些单词

0:05:59.383,0:06:02.272
不能用来给颜色命名。

0:06:03.141,0:06:06.635
也就是说它的整个世界里[br]只有我给出的数据。

0:06:06.659,0:06:10.687
正如让它发明冰淇淋的口味那样，[br]它除此之外一无所知。

0:06:12.491,0:06:14.129
也就是通过数据，

0:06:14.153,0:06:18.197
我们常常不小心[br]让人工智能做错事。

0:06:18.694,0:06:21.726
有一种叫丁鲷的鱼，

0:06:21.750,0:06:23.565
一群研究者尝试过

0:06:23.589,0:06:27.463
训练人工智能去[br]识别图片里的丁鲷。

0:06:27.487,0:06:28.783
但是当他们试图搞清

0:06:28.807,0:06:32.233
它到底用了图片的[br]哪个部分去识别这种鱼，

0:06:32.257,0:06:33.615
这是它所显示的部分。

0:06:35.203,0:06:37.392
没错，那些是人类的手指。

0:06:37.416,0:06:39.475
为什么它会去识别人类的手指，

0:06:39.499,0:06:41.420
而不是鱼呢？

0:06:42.126,0:06:45.290
因为丁鲷实际上是一种战利品鱼，

0:06:45.314,0:06:49.125
所以人工智能在被训练时，

0:06:49.149,0:06:50.300
看过的大多数照片中

0:06:50.324,0:06:51.814
鱼都长这样。

0:06:51.838,0:06:53.473
（笑声）

0:06:53.497,0:06:56.827
而人工智能并不知道原来[br]手指并不是鱼的一部分。

0:06:58.808,0:07:02.928
现在你们应该能想象，[br]设计一个能真正懂得

0:07:02.952,0:07:06.271
自己在做什么的人工[br]智能是多么困难。

0:07:06.295,0:07:09.157
这也就是为什么[br]给无人驾驶汽车

0:07:09.181,0:07:11.248
设计图像识别技术那么困难，

0:07:11.272,0:07:13.477
导致无人驾驶失败的原因

0:07:13.501,0:07:16.386
就是，人工智能迷糊了。

0:07:16.410,0:07:20.418
接下来我想分享一个[br]发生在 2016 年的故事。

0:07:20.442,0:07:24.897
有人在使用特斯拉的[br]自动驾驶功能时发生了特大事故，

0:07:24.921,0:07:28.335
因为这个人工智能是[br]为上高速路而设计的，

0:07:28.359,0:07:30.564
结果车主居然开到市内街道上。

0:07:31.239,0:07:32.234
结果是，

0:07:32.234,0:07:35.834
一辆卡车突然出现在轿车前面，[br]而轿车没有刹车。

0:07:36.507,0:07:41.269
当然这个人工智能受过训练，[br]能识别图片中的卡车。

0:07:41.293,0:07:43.438
但是当时的情况看起来，

0:07:43.462,0:07:46.393
人工智能接受的训练是[br]识别行驶在高速路上的卡车，

0:07:46.417,0:07:49.316
理论上你看到的应该是卡车的尾部，

0:07:49.340,0:07:52.760
而侧面对着你的卡车[br]是不会出现在高速路上的，

0:07:52.784,0:07:56.239
所以当人工智能看到这辆卡车的时候，

0:07:56.263,0:08:01.090
可能把卡车认作一个路标，

0:08:01.114,0:08:03.387
因此，它判断[br]从下面开过去是安全的。

0:08:04.114,0:08:06.694
接下来是人工智能在[br]另一个领域的错误示例。

0:08:06.718,0:08:10.178
亚马逊最近不得不放弃[br]一个他们已经开发了一段时间

0:08:10.202,0:08:11.292
的简历分类的算法，

0:08:11.292,0:08:15.024
因为他们发现这个算法[br]竟然学会了歧视女性。

0:08:15.024,0:08:18.094
原因是当他们把过去招聘人员的简历

0:08:18.118,0:08:20.360
用作人工智能的训练材料。

0:08:20.384,0:08:24.137
从这些素材中，人工智能学会了[br]怎样过滤一些应聘者的简历，

0:08:24.137,0:08:26.457
那些上过女子大学的

0:08:26.481,0:08:29.287
或者是那些含有[br]“女性”字眼的简历，

0:08:29.311,0:08:33.887
比如说“女子足球队”[br]或者“女性工程师学会”。

0:08:33.911,0:08:37.885
人工智能并不知道自己[br]不应该复制他所见过的

0:08:37.909,0:08:39.887
人类这种特定的行为。

0:08:39.911,0:08:43.088
从技术层面上说，[br]它的确按要求做到了。

0:08:43.112,0:08:45.909
只是开发者不小心[br]下错了指令。

0:08:46.653,0:08:49.548
这样的情况在人工智能领域屡见不鲜。

0:08:50.120,0:08:53.711
人工智能破坏力惊人且不自知。

0:08:53.735,0:08:58.813
就如用于脸书和油管上[br]内容推荐的人工智能，

0:08:58.837,0:09:02.376
它们被优化以增加[br]点击量和阅览量。

0:09:02.400,0:09:05.836
但是不幸的是，它们实现[br]目标的其中一个手段，

0:09:05.860,0:09:10.363
就是推荐阴谋论或者偏执内容。

0:09:10.902,0:09:16.204
人工智能本身对这些内容没有概念，

0:09:16.228,0:09:19.623
也根本不知道推荐这样的内容

0:09:19.647,0:09:21.756
会产生怎样的后果。

0:09:22.296,0:09:24.307
所以当我们与人工智能[br]一起工作的时候，

0:09:24.331,0:09:28.513
我们有责任去规避问题。

0:09:28.537,0:09:30.860
规避可能出错的因素，

0:09:30.884,0:09:35.410
这也就带出一个[br]老生常谈的沟通问题，

0:09:35.434,0:09:39.179
作为人类，我们要学习[br]怎样和人工智能沟通。

0:09:39.203,0:09:43.242
我们必须明白人工智能[br]能做什么，不能做什么，

0:09:43.266,0:09:46.352
要明白，凭它们的那点小脑袋，

0:09:46.376,0:09:50.389
人工智能并不能完全明白[br]我们想让它们做什么。

0:09:51.148,0:09:54.469
换言之，我们必须对与[br]人工智能共事做好准备，

0:09:54.493,0:09:59.751
这可不是科幻片里那些[br]全能全知的人工智能。

0:09:59.775,0:10:02.637
我们必须准备好跟

0:10:02.661,0:10:05.599
眼下存在的人工智能共事。

0:10:05.623,0:10:09.828
现在的人工智能还真的挺奇怪的。

0:10:09.852,0:10:11.042
谢谢。

0:10:11.066,0:10:15.881
（掌声）