0:00:01.765,0:00:04.545
Kunstmatige intelligentie

0:00:04.545,0:00:08.332
staat bekend om het verstoren [br]van allerlei sectoren.

0:00:08.821,0:00:11.241
Denk maar aan ijs.

0:00:11.749,0:00:15.448
Welke verbijsterende nieuwe smaken[br]zouden we kunnen maken

0:00:15.448,0:00:18.518
met het vermogen van geavanceerde [br]kunstmatige intelligentie?

0:00:19.011,0:00:23.102
Ik zocht contact met het team programmeurs[br]van de Kealing Middle School

0:00:23.102,0:00:25.297
om antwoord te vinden op deze vraag.

0:00:25.297,0:00:30.362
Zij verzamelden meer dan [br]1.600 bestaande ijssmaken

0:00:30.362,0:00:35.945
die we aan een algoritme gaven[br]om te kijken wat dat zou opleveren.

0:00:36.032,0:00:39.371
Dit zijn enkele smaken [br]waar de AI mee kwam.

0:00:39.741,0:00:41.395
[Pompoenafvalpauze]

0:00:41.395,0:00:42.772
(Gelach)

0:00:43.035,0:00:44.634
[Pindakaasslijm]

0:00:44.634,0:00:45.943
(Gelach)

0:00:46.262,0:00:47.925
[Aarbeien-ijsziekte]

0:00:47.925,0:00:49.535
(Gelach)

0:00:50.095,0:00:54.678
Deze smaken zijn niet zo lekker [br]als we hadden gehoopt.

0:00:54.960,0:00:56.824
De vraag is dus: hoe kan dat?

0:00:56.848,0:00:58.112
Wat is er mis gegaan?

0:00:58.112,0:01:00.225
Probeert de AI ons te vermoorden?

0:01:01.027,0:01:05.337
Of deed hij precies wat we wilden, [br]maar hij liep tegen een probleem aan?

0:01:06.567,0:01:09.031
In films, wanneer er iets misgaat met AI,

0:01:09.055,0:01:11.767
komt dit meestal doordat de AI besluit

0:01:11.767,0:01:13.783
niet langer naar mensen te luisteren

0:01:13.783,0:01:16.710
en zichzelf op de eerste plaats stelt.

0:01:17.266,0:01:20.372
In werkelijkheid is de AI die we hebben

0:01:20.372,0:01:22.569
daar niet slim genoeg voor.

0:01:22.569,0:01:24.895
Hij heeft de geschatte rekenkracht

0:01:24.895,0:01:27.063
van een aardworm,

0:01:27.087,0:01:29.781
of hooguit van een enkele bij

0:01:30.514,0:01:32.599
en waarschijnlijk nog minder.

0:01:32.599,0:01:35.347
We leren steeds meer over de hersenen

0:01:35.371,0:01:39.731
en dat AI nog lang niet [br]opkan tegen echte hersenen.

0:01:39.755,0:01:45.418
Een AI is prima in staat [br]een voetganger te identificeren,

0:01:45.442,0:01:48.425
maar z'n begrip van wat een voetganger is,

0:01:48.449,0:01:53.203
gaat niet verder dan [br]een verzameling van lijnen en structuren.

0:01:53.792,0:01:56.503
Wat een mens is, weet hij niet.

0:01:56.822,0:02:00.104
Zal de huidige AI doen wat wij willen?

0:02:00.128,0:02:01.722
Hij zal het doen als hij het kan,

0:02:01.746,0:02:04.526
maar misschien is het niet [br]precies wat we willen.

0:02:04.526,0:02:09.255
Stel je voor dat je een AI[br]robotonderdelen laat pakken,

0:02:09.444,0:02:13.605
waar hij een robot van maakt[br]die van A naar B gaat.

0:02:13.605,0:02:15.700
Als je probeert dit probleem op te lossen

0:02:15.700,0:02:18.655
met een standaard computerprogramma,

0:02:18.679,0:02:21.866
moet je uitgebreide instructies geven

0:02:21.866,0:02:23.329
over hoe je de delen vastpakt,

0:02:23.329,0:02:25.820
hoe je er een robot met benen van maakt

0:02:25.820,0:02:28.846
en hoe je die benen gebruikt[br]om naar punt B te komen.

0:02:29.301,0:02:31.651
Maar als je dit [br]met AI probeert op te lossen,

0:02:31.651,0:02:33.003
dan ziet dat er anders uit.

0:02:33.003,0:02:35.385
Je zegt niet hoe hij [br]het probleem moet oplossen,

0:02:35.385,0:02:36.888
je geeft hem een duidelijk doel

0:02:36.912,0:02:40.114
en hij zal zelf met vallen en opstaan

0:02:40.114,0:02:41.682
dat doel leren bereiken.

0:02:42.254,0:02:46.356
En bij het oplossen van dit probleem hier

0:02:46.380,0:02:47.864
doet de AI dit:

0:02:47.888,0:02:51.255
hij bouwt een toren van zichzelf[br]die hij laat omvallen

0:02:51.279,0:02:53.106
bovenop Punt B.

0:02:53.130,0:02:55.849
Technisch gezien lost dit [br]inderdaad het probleem op.

0:02:55.849,0:02:57.536
Hij heeft tenslotte Punt B bereikt.

0:02:57.536,0:03:01.911
Het probleem met AI is ook niet [br]dat hij tegen ons in opstand komt,

0:03:01.911,0:03:06.399
maar dat hij juist precies doet [br]wat we van hem vragen.

0:03:06.766,0:03:09.374
De uitdaging met AI is dus:

0:03:09.398,0:03:12.996
hoe introduceren we het probleem[br]zodat hij precies doet wat we willen?

0:03:14.726,0:03:18.032
Dit robotje wordt gestuurd door een AI.

0:03:18.032,0:03:20.870
De AI ontwierp z'n robotbenen

0:03:20.870,0:03:24.862
en ontdekte hoe hij ermee [br]langs alle obstakels kon komen.

0:03:24.862,0:03:27.737
Maar toen David Ha het experiment opzette,

0:03:27.737,0:03:30.547
moest hij zeer strenge regels toepassen

0:03:30.547,0:03:33.933
die bepaalden hoe lang AI [br]de benen mocht maken,

0:03:33.933,0:03:35.507
want anders...

0:03:42.868,0:03:45.209
(Gelach)

0:03:48.414,0:03:49.620
En strikt genomen

0:03:49.620,0:03:52.178
had hij het einde[br]van de hindernisbaan bereikt.

0:03:52.332,0:03:57.081
Het is dus niet eenvoudig om AI [br]zoiets simpels te laten doen als lopen.

0:03:57.298,0:04:01.018
Je kan zeggen dat de AI valsspeelt

0:04:01.018,0:04:03.702
door zichzelf uit te rekken [br]en voorover te laten vallen,

0:04:03.702,0:04:07.051
en eisen dat hij [br]z'n benen gebruikt om te lopen.

0:04:07.229,0:04:09.856
Maar ook dat werkt niet altijd.

0:04:09.988,0:04:12.837
Hier moest de AI snel bewegen.

0:04:13.115,0:04:16.708
Ze hadden niet gezegd [br]dat hij recht vooruit moest gaan

0:04:16.732,0:04:18.990
of z'n armen niet mocht bewegen.

0:04:19.387,0:04:24.105
Als je AI traint [br]snelle bewegingen te maken,

0:04:24.129,0:04:27.493
krijg je vaak salto's en gekke loopjes.

0:04:27.493,0:04:29.098
Dit gebeurt vrij vaak.

0:04:29.667,0:04:32.846
Of je ziet hoopjes die rondkruipen.

0:04:32.870,0:04:34.020
(Gelach)

0:04:35.241,0:04:39.954
Volgens mij hadden de Terminator-robots [br]nog veel gekker moeten zijn.

0:04:40.256,0:04:42.764
AI zal ook zonder aarzelen[br]'The Matrix' hacken

0:04:42.764,0:04:44.011
als hij de kans krijgt.

0:04:44.035,0:04:46.482
Als je hem in een simulatie laat trainen,

0:04:46.482,0:04:50.689
leert hij onder andere [br]berekeningsfouten te hacken

0:04:50.713,0:04:52.920
die hij opslaat als energie.

0:04:52.920,0:04:57.943
Of hij krijgt door dat je sneller loopt [br]als je gekke sprongetjes maakt.

0:04:58.419,0:04:59.948
Werken met AI

0:04:59.948,0:05:02.261
is iets heel anders [br]dan het werken met een mens;

0:05:02.261,0:05:06.094
het heeft meer weg van het werken [br]met een obscuur fenomeen.

0:05:06.442,0:05:11.185
Je loopt altijd het risico[br]dat je AI een verkeerd probleem voorlegt,

0:05:11.209,0:05:15.837
en je pas achteraf realiseert [br]dat er iets fout is gegaan.

0:05:16.242,0:05:18.222
Dit is een experiment dat ik heb gedaan,

0:05:18.222,0:05:21.528
waarbij ik de AI opdroeg [br]de verfkleuren na te maken,

0:05:21.552,0:05:23.298
nieuwe kleuren te bedenken

0:05:23.322,0:05:26.309
op basis van de kleuren links.

0:05:26.798,0:05:29.572
Dit is het resultaat waar de AI mee kwam.

0:05:29.572,0:05:31.903
[Strae Oranje, Penisbel[br]Triestje, Grijshaartje]

0:05:31.903,0:05:34.423
(Gelach)

0:05:39.057,0:05:40.577
En inderdaad,

0:05:40.876,0:05:42.951
hij deed precies[br]wat ik hem had opgedragen.

0:05:42.951,0:05:46.283
Ik dacht dat ik had gevraagd[br]om leuke verfkleurnamen,

0:05:46.307,0:05:48.614
maar in werkelijkheid

0:05:48.638,0:05:51.724
immiteerde de AI alleen [br]de lettercombinaties

0:05:51.748,0:05:53.653
uit het origineel.

0:05:53.653,0:05:56.775
Ik had hem niet gezegd [br]wat de woorden betekenen

0:05:56.799,0:05:59.359
of dat er woorden tussen zaten

0:05:59.383,0:06:02.272
die niet toepasselijk zijn [br]voor verfkleuren.

0:06:03.141,0:06:06.635
Zijn wereld bestaat alleen [br]uit de data die ik hem gegeven heb.

0:06:06.659,0:06:10.507
Net als bij de ijssmaken [br]is dat het enige wat hij weet.

0:06:12.461,0:06:14.179
Door de data die we hem geven,

0:06:14.179,0:06:18.287
voert de AI vaak [br]de verkeerde opdracht uit.

0:06:18.694,0:06:21.726
Deze vis is een zeelt.

0:06:21.726,0:06:23.565
Een groep onderzoekers

0:06:23.589,0:06:27.273
trainden een AI om deze zeelt [br]op plaatjes te herkennen.

0:06:27.273,0:06:28.413
Maar toen ze vroegen

0:06:28.413,0:06:31.993
welk deel van de foto hij gebruikte [br]om de vis te herkennen,

0:06:31.993,0:06:33.615
markeerde hij dit.

0:06:35.203,0:06:37.392
Inderdaad: mensenvingers.

0:06:37.416,0:06:39.475
Waarom zou hij mensenvingers gebruiken

0:06:39.499,0:06:41.420
om een vis te herkennen?

0:06:42.126,0:06:45.314
Wat blijkt: de zeelt [br]wordt gezien als trofee

0:06:45.314,0:06:48.485
en in veel foto's die de AI te zien kreeg

0:06:48.485,0:06:49.960
tijdens de training,

0:06:49.960,0:06:51.394
zag de vis er zo uit.

0:06:51.394,0:06:53.273
(Gelach)

0:06:53.437,0:06:56.717
Hij wist niet dat de vingers [br]geen deel van de vis zijn.

0:06:58.808,0:07:02.928
Het is duidelijk ingewikkeld [br]om een AI zo te ontwerpen

0:07:02.952,0:07:06.271
dat hij begrijpt waar hij naar kijkt.

0:07:06.295,0:07:09.017
Dit maakt het vormgeven [br]van beeldherkenning

0:07:09.017,0:07:11.248
voor zelfrijdende auto's [br]ook zo gecompliceerd

0:07:11.248,0:07:13.477
en worden veel van de fouten veroorzaakt

0:07:13.477,0:07:16.386
doordat de AI in de war raakte.

0:07:16.410,0:07:19.956
Hier is een voorbeeld uit 2016.

0:07:20.258,0:07:24.897
Bij een fataal ongeluk waarbij een Tesla [br]op de automatische piloot stond,

0:07:24.897,0:07:28.335
bleek dat ze niet op de snelweg reden[br]waarvoor hij was gemaakt,

0:07:28.335,0:07:30.564
maar midden in stad.

0:07:31.249,0:07:33.979
Vervolgens reed een vrachtauto [br]voor de Tesla langs

0:07:33.979,0:07:36.172
en de auto remde niet automatisch af.

0:07:36.327,0:07:40.978
De AI was getrained op het herkennen[br]van vrachtauto's op plaatjes.

0:07:41.293,0:07:43.148
Zo te zien

0:07:43.148,0:07:46.393
was de AI getrained in het herkennen[br]van vrachtauto's op de snelweg,

0:07:46.393,0:07:49.196
waar ze je vaak van achteren benaderen.

0:07:49.196,0:07:52.430
Vrachtauto's van de zijkant [br]komen op de snelweg niet voor,

0:07:52.430,0:07:55.999
dus toen de AI de vrachtauto zag,

0:07:55.999,0:08:00.990
dacht hij waarschijnlijk [br]dat het een verkeersbord was

0:08:00.990,0:08:03.587
waar hij veilig onderdoor kon rijden.

0:08:04.114,0:08:06.694
Nog een fout met AI, [br]maar van een ander kaliber.

0:08:06.694,0:08:09.868
Amazon is onlangs afgestapt [br]van een cv-sorteeralgoritm

0:08:09.868,0:08:11.236
waar ze aan hadden gewerkt,

0:08:11.236,0:08:14.934
toen duidelijk werd dat het algoritme [br]had geleerd vrouwen te discrimineren.

0:08:14.934,0:08:17.644
Het bleek dat de trainingsdata [br]bestond uit oude cv's

0:08:17.644,0:08:20.250
van mensen die in het verleden [br]waren aangenomen.

0:08:20.250,0:08:24.137
Op basis hiervan negeerde de AI [br]de cv's van mensen

0:08:24.137,0:08:26.481
die aan een vrouwenuniversiteit [br]hadden gestudeerd

0:08:26.481,0:08:29.047
of waar het woord 'vrouw' in stond,

0:08:29.047,0:08:33.632
zoals ' vrouwenvoetbalteam' of [br]'Vereniging van Vrouwelijke Ingenieurs'.

0:08:33.911,0:08:35.391
De AI had niet door

0:08:35.391,0:08:39.409
dat hij dit gedrag[br]van mensen niet moest kopiëren.

0:08:39.767,0:08:43.088
Technisch gezien deed hij precies [br]wat hem was opgedragen.

0:08:43.088,0:08:45.909
Alleen hadden ze hem [br]per ongeluk het verkeerde gevraagd.

0:08:46.653,0:08:49.548
Een veelvoorkomend probleem met AI.

0:08:50.120,0:08:53.711
AI kan zonder het te weten [br]destructief zijn.

0:08:53.711,0:08:58.553
De AI's die op Facebook of YouTube[br]nieuwe content aanbevelen bijvoorbeeld,

0:08:58.553,0:09:02.376
zijn er op gericht het aantal clicks [br]en views te verhogen.

0:09:02.400,0:09:05.546
Helaas had dit als gevolg

0:09:05.546,0:09:10.363
dat content gewijd aan complottheorieën [br]en intolerantie werd aangeraden.

0:09:10.902,0:09:16.054
De AI's weten zelf niet [br]wat voor content het is

0:09:16.054,0:09:20.057
en hebben ook geen idee [br]wat de consequenties zijn

0:09:20.057,0:09:21.986
als het wordt aanbevolen.

0:09:22.296,0:09:24.307
Als wij aan het werk gaan met AI,

0:09:24.307,0:09:28.383
is het aan ons dit soort [br]problemen te voorkomen.

0:09:28.383,0:09:30.860
En zorgen dat alles goed gaat,

0:09:30.860,0:09:34.747
is een kwestie van betere communicatie:

0:09:35.434,0:09:39.179
we moeten leren [br]beter te communiceren met AI.

0:09:39.203,0:09:43.112
We moeten begrijpen wat AI kan [br]en wat het niet kan doen,

0:09:43.112,0:09:46.352
en dat hij met z'n piepkleine hersens

0:09:46.376,0:09:50.539
niet echt begrijpt wat wij van hem willen.

0:09:51.088,0:09:54.469
We zullen moeten accepteren

0:09:54.469,0:09:59.751
dat hij geen deskundige,[br]alleswetende AI uit science fiction is.

0:09:59.775,0:10:01.967
We moeten bereid zijn te werken met een AI

0:10:01.967,0:10:05.599
waar we nu al mee te maken hebben.

0:10:05.599,0:10:09.828
En de AI van nu is al vreemd genoeg.

0:10:09.832,0:10:11.042
Dank jullie wel.

0:10:11.066,0:10:16.291
(Applaus)