WEBVTT

00:00:01.765 --> 00:00:04.545
Kunstmatige intelligentie

00:00:04.545 --> 00:00:08.332
staat bekend om het verstoren 
van allerlei sectoren.

00:00:08.821 --> 00:00:11.241
Denk maar aan ijs.

00:00:11.749 --> 00:00:15.448
Welke verbijsterende nieuwe smaken
zouden we kunnen maken

00:00:15.448 --> 00:00:18.518
met het vermogen van geavanceerde 
kunstmatige intelligentie?

00:00:19.011 --> 00:00:23.102
Ik zocht contact met het team programmeurs
van de Kealing Middle School

00:00:23.102 --> 00:00:25.297
om antwoord te vinden op deze vraag.

00:00:25.297 --> 00:00:30.362
Zij verzamelden meer dan 
1.600 bestaande ijssmaken

00:00:30.362 --> 00:00:35.945
die we aan een algoritme gaven
om te kijken wat dat zou opleveren.

00:00:36.032 --> 00:00:39.371
Dit zijn enkele smaken 
waar de AI mee kwam.

NOTE Paragraph

00:00:39.741 --> 00:00:41.395
[Pompoenafvalpauze]

NOTE Paragraph

00:00:41.395 --> 00:00:42.772
(Gelach)

NOTE Paragraph

00:00:43.035 --> 00:00:44.634
[Pindakaasslijm]

00:00:44.634 --> 00:00:45.943
(Gelach)

NOTE Paragraph

00:00:46.262 --> 00:00:47.925
[Aarbeien-ijsziekte]

NOTE Paragraph

00:00:47.925 --> 00:00:49.535
(Gelach)

NOTE Paragraph

00:00:50.095 --> 00:00:54.678
Deze smaken zijn niet zo lekker 
als we hadden gehoopt.

00:00:54.960 --> 00:00:56.824
De vraag is dus: hoe kan dat?

00:00:56.848 --> 00:00:58.112
Wat is er mis gegaan?

00:00:58.112 --> 00:01:00.225
Probeert de AI ons te vermoorden?

00:01:01.027 --> 00:01:05.337
Of deed hij precies wat we wilden, 
maar hij liep tegen een probleem aan?

NOTE Paragraph

00:01:06.567 --> 00:01:09.031
In films, wanneer er iets misgaat met AI,

00:01:09.055 --> 00:01:11.767
komt dit meestal doordat de AI besluit

00:01:11.767 --> 00:01:13.783
niet langer naar mensen te luisteren

00:01:13.783 --> 00:01:16.710
en zichzelf op de eerste plaats stelt.

00:01:17.266 --> 00:01:20.372
In werkelijkheid is de AI die we hebben

00:01:20.372 --> 00:01:22.569
daar niet slim genoeg voor.

00:01:22.569 --> 00:01:24.895
Hij heeft de geschatte rekenkracht

00:01:24.895 --> 00:01:27.063
van een aardworm,

00:01:27.087 --> 00:01:29.781
of hooguit van een enkele bij

00:01:30.514 --> 00:01:32.599
en waarschijnlijk nog minder.

00:01:32.599 --> 00:01:35.347
We leren steeds meer over de hersenen

00:01:35.371 --> 00:01:39.731
en dat AI nog lang niet 
opkan tegen echte hersenen.

00:01:39.755 --> 00:01:45.418
Een AI is prima in staat 
een voetganger te identificeren,

00:01:45.442 --> 00:01:48.425
maar z'n begrip van wat een voetganger is,

00:01:48.449 --> 00:01:53.203
gaat niet verder dan 
een verzameling van lijnen en structuren.

00:01:53.792 --> 00:01:56.503
Wat een mens is, weet hij niet.

00:01:56.822 --> 00:02:00.104
Zal de huidige AI doen wat wij willen?

00:02:00.128 --> 00:02:01.722
Hij zal het doen als hij het kan,

00:02:01.746 --> 00:02:04.526
maar misschien is het niet 
precies wat we willen.

NOTE Paragraph

00:02:04.526 --> 00:02:09.255
Stel je voor dat je een AI
robotonderdelen laat pakken,

00:02:09.444 --> 00:02:13.605
waar hij een robot van maakt
die van A naar B gaat.

00:02:13.605 --> 00:02:15.700
Als je probeert dit probleem op te lossen

00:02:15.700 --> 00:02:18.655
met een standaard computerprogramma,

00:02:18.679 --> 00:02:21.866
moet je uitgebreide instructies geven

00:02:21.866 --> 00:02:23.329
over hoe je de delen vastpakt,

00:02:23.329 --> 00:02:25.820
hoe je er een robot met benen van maakt

00:02:25.820 --> 00:02:28.846
en hoe je die benen gebruikt
om naar punt B te komen.

00:02:29.301 --> 00:02:31.651
Maar als je dit 
met AI probeert op te lossen,

00:02:31.651 --> 00:02:33.003
dan ziet dat er anders uit.

00:02:33.003 --> 00:02:35.385
Je zegt niet hoe hij 
het probleem moet oplossen,

00:02:35.385 --> 00:02:36.888
je geeft hem een duidelijk doel

00:02:36.912 --> 00:02:40.114
en hij zal zelf met vallen en opstaan

00:02:40.114 --> 00:02:41.682
dat doel leren bereiken.

00:02:42.254 --> 00:02:46.356
En bij het oplossen van dit probleem hier

00:02:46.380 --> 00:02:47.864
doet de AI dit:

00:02:47.888 --> 00:02:51.255
hij bouwt een toren van zichzelf
die hij laat omvallen

00:02:51.279 --> 00:02:53.106
bovenop Punt B.

00:02:53.130 --> 00:02:55.849
Technisch gezien lost dit 
inderdaad het probleem op.

00:02:55.849 --> 00:02:57.536
Hij heeft tenslotte Punt B bereikt.

00:02:57.536 --> 00:03:01.911
Het probleem met AI is ook niet 
dat hij tegen ons in opstand komt,

00:03:01.911 --> 00:03:06.399
maar dat hij juist precies doet 
wat we van hem vragen.

00:03:06.766 --> 00:03:09.374
De uitdaging met AI is dus:

00:03:09.398 --> 00:03:12.996
hoe introduceren we het probleem
zodat hij precies doet wat we willen?

NOTE Paragraph

00:03:14.726 --> 00:03:18.032
Dit robotje wordt gestuurd door een AI.

00:03:18.032 --> 00:03:20.870
De AI ontwierp z'n robotbenen

00:03:20.870 --> 00:03:24.862
en ontdekte hoe hij ermee 
langs alle obstakels kon komen.

00:03:24.862 --> 00:03:27.737
Maar toen David Ha het experiment opzette,

00:03:27.737 --> 00:03:30.547
moest hij zeer strenge regels toepassen

00:03:30.547 --> 00:03:33.933
die bepaalden hoe lang AI 
de benen mocht maken,

00:03:33.933 --> 00:03:35.507
want anders...

NOTE Paragraph

00:03:42.868 --> 00:03:45.209
(Gelach)

NOTE Paragraph

00:03:48.414 --> 00:03:49.620
En strikt genomen

00:03:49.620 --> 00:03:52.178
had hij het einde
van de hindernisbaan bereikt.

00:03:52.332 --> 00:03:57.081
Het is dus niet eenvoudig om AI 
zoiets simpels te laten doen als lopen.

NOTE Paragraph

00:03:57.298 --> 00:04:01.018
Je kan zeggen dat de AI valsspeelt

00:04:01.018 --> 00:04:03.702
door zichzelf uit te rekken 
en voorover te laten vallen,

00:04:03.702 --> 00:04:07.051
en eisen dat hij 
z'n benen gebruikt om te lopen.

00:04:07.229 --> 00:04:09.856
Maar ook dat werkt niet altijd.

00:04:09.988 --> 00:04:12.837
Hier moest de AI snel bewegen.

00:04:13.115 --> 00:04:16.708
Ze hadden niet gezegd 
dat hij recht vooruit moest gaan

00:04:16.732 --> 00:04:18.990
of z'n armen niet mocht bewegen.

00:04:19.387 --> 00:04:24.105
Als je AI traint 
snelle bewegingen te maken,

00:04:24.129 --> 00:04:27.493
krijg je vaak salto's en gekke loopjes.

00:04:27.493 --> 00:04:29.098
Dit gebeurt vrij vaak.

00:04:29.667 --> 00:04:32.846
Of je ziet hoopjes die rondkruipen.

NOTE Paragraph

00:04:32.870 --> 00:04:34.020
(Gelach)

NOTE Paragraph

00:04:35.241 --> 00:04:39.954
Volgens mij hadden de Terminator-robots 
nog veel gekker moeten zijn.

00:04:40.256 --> 00:04:42.764
AI zal ook zonder aarzelen
'The Matrix' hacken

00:04:42.764 --> 00:04:44.011
als hij de kans krijgt.

00:04:44.035 --> 00:04:46.482
Als je hem in een simulatie laat trainen,

00:04:46.482 --> 00:04:50.689
leert hij onder andere 
berekeningsfouten te hacken

00:04:50.713 --> 00:04:52.920
die hij opslaat als energie.

00:04:52.920 --> 00:04:57.943
Of hij krijgt door dat je sneller loopt 
als je gekke sprongetjes maakt.

00:04:58.419 --> 00:04:59.948
Werken met AI

00:04:59.948 --> 00:05:02.261
is iets heel anders 
dan het werken met een mens;

00:05:02.261 --> 00:05:06.094
het heeft meer weg van het werken 
met een obscuur fenomeen.

00:05:06.442 --> 00:05:11.185
Je loopt altijd het risico
dat je AI een verkeerd probleem voorlegt,

00:05:11.209 --> 00:05:15.837
en je pas achteraf realiseert 
dat er iets fout is gegaan.

NOTE Paragraph

00:05:16.242 --> 00:05:18.222
Dit is een experiment dat ik heb gedaan,

00:05:18.222 --> 00:05:21.528
waarbij ik de AI opdroeg 
de verfkleuren na te maken,

00:05:21.552 --> 00:05:23.298
nieuwe kleuren te bedenken

00:05:23.322 --> 00:05:26.309
op basis van de kleuren links.

00:05:26.798 --> 00:05:29.572
Dit is het resultaat waar de AI mee kwam.

NOTE Paragraph

00:05:29.572 --> 00:05:31.903
[Strae Oranje, Penisbel
Triestje, Grijshaartje]

NOTE Paragraph

00:05:31.903 --> 00:05:34.423
(Gelach)

NOTE Paragraph

00:05:39.057 --> 00:05:40.577
En inderdaad,

00:05:40.876 --> 00:05:42.951
hij deed precies
wat ik hem had opgedragen.

00:05:42.951 --> 00:05:46.283
Ik dacht dat ik had gevraagd
om leuke verfkleurnamen,

00:05:46.307 --> 00:05:48.614
maar in werkelijkheid

00:05:48.638 --> 00:05:51.724
immiteerde de AI alleen 
de lettercombinaties

00:05:51.748 --> 00:05:53.653
uit het origineel.

00:05:53.653 --> 00:05:56.775
Ik had hem niet gezegd 
wat de woorden betekenen

00:05:56.799 --> 00:05:59.359
of dat er woorden tussen zaten

00:05:59.383 --> 00:06:02.272
die niet toepasselijk zijn 
voor verfkleuren.

00:06:03.141 --> 00:06:06.635
Zijn wereld bestaat alleen 
uit de data die ik hem gegeven heb.

00:06:06.659 --> 00:06:10.507
Net als bij de ijssmaken 
is dat het enige wat hij weet.

NOTE Paragraph

00:06:12.461 --> 00:06:14.179
Door de data die we hem geven,

00:06:14.179 --> 00:06:18.287
voert de AI vaak 
de verkeerde opdracht uit.

00:06:18.694 --> 00:06:21.726
Deze vis is een zeelt.

00:06:21.726 --> 00:06:23.565
Een groep onderzoekers

00:06:23.589 --> 00:06:27.273
trainden een AI om deze zeelt 
op plaatjes te herkennen.

00:06:27.273 --> 00:06:28.413
Maar toen ze vroegen

00:06:28.413 --> 00:06:31.993
welk deel van de foto hij gebruikte 
om de vis te herkennen,

00:06:31.993 --> 00:06:33.615
markeerde hij dit.

00:06:35.203 --> 00:06:37.392
Inderdaad: mensenvingers.

00:06:37.416 --> 00:06:39.475
Waarom zou hij mensenvingers gebruiken

00:06:39.499 --> 00:06:41.420
om een vis te herkennen?

00:06:42.126 --> 00:06:45.314
Wat blijkt: de zeelt 
wordt gezien als trofee

00:06:45.314 --> 00:06:48.485
en in veel foto's die de AI te zien kreeg

00:06:48.485 --> 00:06:49.960
tijdens de training,

00:06:49.960 --> 00:06:51.394
zag de vis er zo uit.

NOTE Paragraph

00:06:51.394 --> 00:06:53.273
(Gelach)

NOTE Paragraph

00:06:53.437 --> 00:06:56.717
Hij wist niet dat de vingers 
geen deel van de vis zijn.

NOTE Paragraph

00:06:58.808 --> 00:07:02.928
Het is duidelijk ingewikkeld 
om een AI zo te ontwerpen

00:07:02.952 --> 00:07:06.271
dat hij begrijpt waar hij naar kijkt.

00:07:06.295 --> 00:07:09.017
Dit maakt het vormgeven 
van beeldherkenning

00:07:09.017 --> 00:07:11.248
voor zelfrijdende auto's 
ook zo gecompliceerd

00:07:11.248 --> 00:07:13.477
en worden veel van de fouten veroorzaakt

00:07:13.477 --> 00:07:16.386
doordat de AI in de war raakte.

00:07:16.410 --> 00:07:19.956
Hier is een voorbeeld uit 2016.

00:07:20.258 --> 00:07:24.897
Bij een fataal ongeluk waarbij een Tesla 
op de automatische piloot stond,

00:07:24.897 --> 00:07:28.335
bleek dat ze niet op de snelweg reden
waarvoor hij was gemaakt,

00:07:28.335 --> 00:07:30.564
maar midden in stad.

00:07:31.249 --> 00:07:33.979
Vervolgens reed een vrachtauto 
voor de Tesla langs

00:07:33.979 --> 00:07:36.172
en de auto remde niet automatisch af.

00:07:36.327 --> 00:07:40.978
De AI was getrained op het herkennen
van vrachtauto's op plaatjes.

00:07:41.293 --> 00:07:43.148
Zo te zien

00:07:43.148 --> 00:07:46.393
was de AI getrained in het herkennen
van vrachtauto's op de snelweg,

00:07:46.393 --> 00:07:49.196
waar ze je vaak van achteren benaderen.

00:07:49.196 --> 00:07:52.430
Vrachtauto's van de zijkant 
komen op de snelweg niet voor,

00:07:52.430 --> 00:07:55.999
dus toen de AI de vrachtauto zag,

00:07:55.999 --> 00:08:00.990
dacht hij waarschijnlijk 
dat het een verkeersbord was

00:08:00.990 --> 00:08:03.587
waar hij veilig onderdoor kon rijden.

NOTE Paragraph

00:08:04.114 --> 00:08:06.694
Nog een fout met AI, 
maar van een ander kaliber.

00:08:06.694 --> 00:08:09.868
Amazon is onlangs afgestapt 
van een cv-sorteeralgoritm

00:08:09.868 --> 00:08:11.236
waar ze aan hadden gewerkt,

00:08:11.236 --> 00:08:14.934
toen duidelijk werd dat het algoritme 
had geleerd vrouwen te discrimineren.

00:08:14.934 --> 00:08:17.644
Het bleek dat de trainingsdata 
bestond uit oude cv's

00:08:17.644 --> 00:08:20.250
van mensen die in het verleden 
waren aangenomen.

00:08:20.250 --> 00:08:24.137
Op basis hiervan negeerde de AI 
de cv's van mensen

00:08:24.137 --> 00:08:26.481
die aan een vrouwenuniversiteit 
hadden gestudeerd

00:08:26.481 --> 00:08:29.047
of waar het woord 'vrouw' in stond,

00:08:29.047 --> 00:08:33.632
zoals ' vrouwenvoetbalteam' of 
'Vereniging van Vrouwelijke Ingenieurs'.

00:08:33.911 --> 00:08:35.391
De AI had niet door

00:08:35.391 --> 00:08:39.409
dat hij dit gedrag
van mensen niet moest kopiëren.

00:08:39.767 --> 00:08:43.088
Technisch gezien deed hij precies 
wat hem was opgedragen.

00:08:43.088 --> 00:08:45.909
Alleen hadden ze hem 
per ongeluk het verkeerde gevraagd.

NOTE Paragraph

00:08:46.653 --> 00:08:49.548
Een veelvoorkomend probleem met AI.

00:08:50.120 --> 00:08:53.711
AI kan zonder het te weten 
destructief zijn.

00:08:53.711 --> 00:08:58.553
De AI's die op Facebook of YouTube
nieuwe content aanbevelen bijvoorbeeld,

00:08:58.553 --> 00:09:02.376
zijn er op gericht het aantal clicks 
en views te verhogen.

00:09:02.400 --> 00:09:05.546
Helaas had dit als gevolg

00:09:05.546 --> 00:09:10.363
dat content gewijd aan complottheorieën 
en intolerantie werd aangeraden.

00:09:10.902 --> 00:09:16.054
De AI's weten zelf niet 
wat voor content het is

00:09:16.054 --> 00:09:20.057
en hebben ook geen idee 
wat de consequenties zijn

00:09:20.057 --> 00:09:21.986
als het wordt aanbevolen.

NOTE Paragraph

00:09:22.296 --> 00:09:24.307
Als wij aan het werk gaan met AI,

00:09:24.307 --> 00:09:28.383
is het aan ons dit soort 
problemen te voorkomen.

00:09:28.383 --> 00:09:30.860
En zorgen dat alles goed gaat,

00:09:30.860 --> 00:09:34.747
is een kwestie van betere communicatie:

00:09:35.434 --> 00:09:39.179
we moeten leren 
beter te communiceren met AI.

00:09:39.203 --> 00:09:43.112
We moeten begrijpen wat AI kan 
en wat het niet kan doen,

00:09:43.112 --> 00:09:46.352
en dat hij met z'n piepkleine hersens

00:09:46.376 --> 00:09:50.539
niet echt begrijpt wat wij van hem willen.

00:09:51.088 --> 00:09:54.469
We zullen moeten accepteren

00:09:54.469 --> 00:09:59.751
dat hij geen deskundige,
alleswetende AI uit science fiction is.

00:09:59.775 --> 00:10:01.967
We moeten bereid zijn te werken met een AI

00:10:01.967 --> 00:10:05.599
waar we nu al mee te maken hebben.

00:10:05.599 --> 00:10:09.828
En de AI van nu is al vreemd genoeg.

NOTE Paragraph

00:10:09.832 --> 00:10:11.042
Dank jullie wel.

NOTE Paragraph

00:10:11.066 --> 00:10:16.291
(Applaus)