1
00:00:01,765 --> 00:00:04,545
Kunstmatige intelligentie

2
00:00:04,545 --> 00:00:08,332
staat bekend om het verstoren 
van allerlei sectoren.

3
00:00:08,821 --> 00:00:11,241
Denk maar aan ijs.

4
00:00:11,749 --> 00:00:15,448
Welke verbijsterende nieuwe smaken
zouden we kunnen maken

5
00:00:15,448 --> 00:00:18,518
met het vermogen van geavanceerde 
kunstmatige intelligentie?

6
00:00:19,011 --> 00:00:23,102
Ik zocht contact met het team programmeurs
van de Kealing Middle School

7
00:00:23,102 --> 00:00:25,297
om antwoord te vinden op deze vraag.

8
00:00:25,297 --> 00:00:30,362
Zij verzamelden meer dan 
1.600 bestaande ijssmaken

9
00:00:30,362 --> 00:00:35,945
die we aan een algoritme gaven
om te kijken wat dat zou opleveren.

10
00:00:36,032 --> 00:00:39,371
Dit zijn enkele smaken 
waar de AI mee kwam.

11
00:00:39,741 --> 00:00:41,395
[Pompoenafvalpauze]

12
00:00:41,395 --> 00:00:42,772
(Gelach)

13
00:00:43,035 --> 00:00:44,634
[Pindakaasslijm]

14
00:00:44,634 --> 00:00:45,943
(Gelach)

15
00:00:46,262 --> 00:00:47,925
[Aarbeien-ijsziekte]

16
00:00:47,925 --> 00:00:49,535
(Gelach)

17
00:00:50,095 --> 00:00:54,678
Deze smaken zijn niet zo lekker 
als we hadden gehoopt.

18
00:00:54,960 --> 00:00:56,824
De vraag is dus: hoe kan dat?

19
00:00:56,848 --> 00:00:58,112
Wat is er mis gegaan?

20
00:00:58,112 --> 00:01:00,225
Probeert de AI ons te vermoorden?

21
00:01:01,027 --> 00:01:05,337
Of deed hij precies wat we wilden, 
maar hij liep tegen een probleem aan?

22
00:01:06,567 --> 00:01:09,031
In films, wanneer er iets misgaat met AI,

23
00:01:09,055 --> 00:01:11,767
komt dit meestal doordat de AI besluit

24
00:01:11,767 --> 00:01:13,783
niet langer naar mensen te luisteren

25
00:01:13,783 --> 00:01:16,710
en zichzelf op de eerste plaats stelt.

26
00:01:17,266 --> 00:01:20,372
In werkelijkheid is de AI die we hebben

27
00:01:20,372 --> 00:01:22,569
daar niet slim genoeg voor.

28
00:01:22,569 --> 00:01:24,895
Hij heeft de geschatte rekenkracht

29
00:01:24,895 --> 00:01:27,063
van een aardworm,

30
00:01:27,087 --> 00:01:29,781
of hooguit van een enkele bij

31
00:01:30,514 --> 00:01:32,599
en waarschijnlijk nog minder.

32
00:01:32,599 --> 00:01:35,347
We leren steeds meer over de hersenen

33
00:01:35,371 --> 00:01:39,731
en dat AI nog lang niet 
opkan tegen echte hersenen.

34
00:01:39,755 --> 00:01:45,418
Een AI is prima in staat 
een voetganger te identificeren,

35
00:01:45,442 --> 00:01:48,425
maar z'n begrip van wat een voetganger is,

36
00:01:48,449 --> 00:01:53,203
gaat niet verder dan 
een verzameling van lijnen en structuren.

37
00:01:53,792 --> 00:01:56,503
Wat een mens is, weet hij niet.

38
00:01:56,822 --> 00:02:00,104
Zal de huidige AI doen wat wij willen?

39
00:02:00,128 --> 00:02:01,722
Hij zal het doen als hij het kan,

40
00:02:01,746 --> 00:02:04,526
maar misschien is het niet 
precies wat we willen.

41
00:02:04,526 --> 00:02:09,255
Stel je voor dat je een AI
robotonderdelen laat pakken,

42
00:02:09,444 --> 00:02:13,605
waar hij een robot van maakt
die van A naar B gaat.

43
00:02:13,605 --> 00:02:15,700
Als je probeert dit probleem op te lossen

44
00:02:15,700 --> 00:02:18,655
met een standaard computerprogramma,

45
00:02:18,679 --> 00:02:21,866
moet je uitgebreide instructies geven

46
00:02:21,866 --> 00:02:23,329
over hoe je de delen vastpakt,

47
00:02:23,329 --> 00:02:25,820
hoe je er een robot met benen van maakt

48
00:02:25,820 --> 00:02:28,846
en hoe je die benen gebruikt
om naar punt B te komen.

49
00:02:29,301 --> 00:02:31,651
Maar als je dit 
met AI probeert op te lossen,

50
00:02:31,651 --> 00:02:33,003
dan ziet dat er anders uit.

51
00:02:33,003 --> 00:02:35,385
Je zegt niet hoe hij 
het probleem moet oplossen,

52
00:02:35,385 --> 00:02:36,888
je geeft hem een duidelijk doel

53
00:02:36,912 --> 00:02:40,114
en hij zal zelf met vallen en opstaan

54
00:02:40,114 --> 00:02:41,682
dat doel leren bereiken.

55
00:02:42,254 --> 00:02:46,356
En bij het oplossen van dit probleem hier

56
00:02:46,380 --> 00:02:47,864
doet de AI dit:

57
00:02:47,888 --> 00:02:51,255
hij bouwt een toren van zichzelf
die hij laat omvallen

58
00:02:51,279 --> 00:02:53,106
bovenop Punt B.

59
00:02:53,130 --> 00:02:55,849
Technisch gezien lost dit 
inderdaad het probleem op.

60
00:02:55,849 --> 00:02:57,536
Hij heeft tenslotte Punt B bereikt.

61
00:02:57,536 --> 00:03:01,911
Het probleem met AI is ook niet 
dat hij tegen ons in opstand komt,

62
00:03:01,911 --> 00:03:06,399
maar dat hij juist precies doet 
wat we van hem vragen.

63
00:03:06,766 --> 00:03:09,374
De uitdaging met AI is dus:

64
00:03:09,398 --> 00:03:12,996
hoe introduceren we het probleem
zodat hij precies doet wat we willen?

65
00:03:14,726 --> 00:03:18,032
Dit robotje wordt gestuurd door een AI.

66
00:03:18,032 --> 00:03:20,870
De AI ontwierp z'n robotbenen

67
00:03:20,870 --> 00:03:24,862
en ontdekte hoe hij ermee 
langs alle obstakels kon komen.

68
00:03:24,862 --> 00:03:27,737
Maar toen David Ha het experiment opzette,

69
00:03:27,737 --> 00:03:30,547
moest hij zeer strenge regels toepassen

70
00:03:30,547 --> 00:03:33,933
die bepaalden hoe lang AI 
de benen mocht maken,

71
00:03:33,933 --> 00:03:35,507
want anders...

72
00:03:42,868 --> 00:03:45,209
(Gelach)

73
00:03:48,414 --> 00:03:49,620
En strikt genomen

74
00:03:49,620 --> 00:03:52,178
had hij het einde
van de hindernisbaan bereikt.

75
00:03:52,332 --> 00:03:57,081
Het is dus niet eenvoudig om AI 
zoiets simpels te laten doen als lopen.

76
00:03:57,298 --> 00:04:01,018
Je kan zeggen dat de AI valsspeelt

77
00:04:01,018 --> 00:04:03,702
door zichzelf uit te rekken 
en voorover te laten vallen,

78
00:04:03,702 --> 00:04:07,051
en eisen dat hij 
z'n benen gebruikt om te lopen.

79
00:04:07,229 --> 00:04:09,856
Maar ook dat werkt niet altijd.

80
00:04:09,988 --> 00:04:12,837
Hier moest de AI snel bewegen.

81
00:04:13,115 --> 00:04:16,708
Ze hadden niet gezegd 
dat hij recht vooruit moest gaan

82
00:04:16,732 --> 00:04:18,990
of z'n armen niet mocht bewegen.

83
00:04:19,387 --> 00:04:24,105
Als je AI traint 
snelle bewegingen te maken,

84
00:04:24,129 --> 00:04:27,493
krijg je vaak salto's en gekke loopjes.

85
00:04:27,493 --> 00:04:29,098
Dit gebeurt vrij vaak.

86
00:04:29,667 --> 00:04:32,846
Of je ziet hoopjes die rondkruipen.

87
00:04:32,870 --> 00:04:34,020
(Gelach)

88
00:04:35,241 --> 00:04:39,954
Volgens mij hadden de Terminator-robots 
nog veel gekker moeten zijn.

89
00:04:40,256 --> 00:04:42,764
AI zal ook zonder aarzelen
'The Matrix' hacken

90
00:04:42,764 --> 00:04:44,011
als hij de kans krijgt.

91
00:04:44,035 --> 00:04:46,482
Als je hem in een simulatie laat trainen,

92
00:04:46,482 --> 00:04:50,689
leert hij onder andere 
berekeningsfouten te hacken

93
00:04:50,713 --> 00:04:52,920
die hij opslaat als energie.

94
00:04:52,920 --> 00:04:57,943
Of hij krijgt door dat je sneller loopt 
als je gekke sprongetjes maakt.

95
00:04:58,419 --> 00:04:59,948
Werken met AI

96
00:04:59,948 --> 00:05:02,261
is iets heel anders 
dan het werken met een mens;

97
00:05:02,261 --> 00:05:06,094
het heeft meer weg van het werken 
met een obscuur fenomeen.

98
00:05:06,442 --> 00:05:11,185
Je loopt altijd het risico
dat je AI een verkeerd probleem voorlegt,

99
00:05:11,209 --> 00:05:15,837
en je pas achteraf realiseert 
dat er iets fout is gegaan.

100
00:05:16,242 --> 00:05:18,222
Dit is een experiment dat ik heb gedaan,

101
00:05:18,222 --> 00:05:21,528
waarbij ik de AI opdroeg 
de verfkleuren na te maken,

102
00:05:21,552 --> 00:05:23,298
nieuwe kleuren te bedenken

103
00:05:23,322 --> 00:05:26,309
op basis van de kleuren links.

104
00:05:26,798 --> 00:05:29,572
Dit is het resultaat waar de AI mee kwam.

105
00:05:29,572 --> 00:05:31,903
[Strae Oranje, Penisbel
Triestje, Grijshaartje]

106
00:05:31,903 --> 00:05:34,423
(Gelach)

107
00:05:39,057 --> 00:05:40,577
En inderdaad,

108
00:05:40,876 --> 00:05:42,951
hij deed precies
wat ik hem had opgedragen.

109
00:05:42,951 --> 00:05:46,283
Ik dacht dat ik had gevraagd
om leuke verfkleurnamen,

110
00:05:46,307 --> 00:05:48,614
maar in werkelijkheid

111
00:05:48,638 --> 00:05:51,724
immiteerde de AI alleen 
de lettercombinaties

112
00:05:51,748 --> 00:05:53,653
uit het origineel.

113
00:05:53,653 --> 00:05:56,775
Ik had hem niet gezegd 
wat de woorden betekenen

114
00:05:56,799 --> 00:05:59,359
of dat er woorden tussen zaten

115
00:05:59,383 --> 00:06:02,272
die niet toepasselijk zijn 
voor verfkleuren.

116
00:06:03,141 --> 00:06:06,635
Zijn wereld bestaat alleen 
uit de data die ik hem gegeven heb.

117
00:06:06,659 --> 00:06:10,507
Net als bij de ijssmaken 
is dat het enige wat hij weet.

118
00:06:12,461 --> 00:06:14,179
Door de data die we hem geven,

119
00:06:14,179 --> 00:06:18,287
voert de AI vaak 
de verkeerde opdracht uit.

120
00:06:18,694 --> 00:06:21,726
Deze vis is een zeelt.

121
00:06:21,726 --> 00:06:23,565
Een groep onderzoekers

122
00:06:23,589 --> 00:06:27,273
trainden een AI om deze zeelt 
op plaatjes te herkennen.

123
00:06:27,273 --> 00:06:28,413
Maar toen ze vroegen

124
00:06:28,413 --> 00:06:31,993
welk deel van de foto hij gebruikte 
om de vis te herkennen,

125
00:06:31,993 --> 00:06:33,615
markeerde hij dit.

126
00:06:35,203 --> 00:06:37,392
Inderdaad: mensenvingers.

127
00:06:37,416 --> 00:06:39,475
Waarom zou hij mensenvingers gebruiken

128
00:06:39,499 --> 00:06:41,420
om een vis te herkennen?

129
00:06:42,126 --> 00:06:45,314
Wat blijkt: de zeelt 
wordt gezien als trofee

130
00:06:45,314 --> 00:06:48,485
en in veel foto's die de AI te zien kreeg

131
00:06:48,485 --> 00:06:49,960
tijdens de training,

132
00:06:49,960 --> 00:06:51,394
zag de vis er zo uit.

133
00:06:51,394 --> 00:06:53,273
(Gelach)

134
00:06:53,437 --> 00:06:56,717
Hij wist niet dat de vingers 
geen deel van de vis zijn.

135
00:06:58,808 --> 00:07:02,928
Het is duidelijk ingewikkeld 
om een AI zo te ontwerpen

136
00:07:02,952 --> 00:07:06,271
dat hij begrijpt waar hij naar kijkt.

137
00:07:06,295 --> 00:07:09,017
Dit maakt het vormgeven 
van beeldherkenning

138
00:07:09,017 --> 00:07:11,248
voor zelfrijdende auto's 
ook zo gecompliceerd

139
00:07:11,248 --> 00:07:13,477
en worden veel van de fouten veroorzaakt

140
00:07:13,477 --> 00:07:16,386
doordat de AI in de war raakte.

141
00:07:16,410 --> 00:07:19,956
Hier is een voorbeeld uit 2016.

142
00:07:20,258 --> 00:07:24,897
Bij een fataal ongeluk waarbij een Tesla 
op de automatische piloot stond,

143
00:07:24,897 --> 00:07:28,335
bleek dat ze niet op de snelweg reden
waarvoor hij was gemaakt,

144
00:07:28,335 --> 00:07:30,564
maar midden in stad.

145
00:07:31,249 --> 00:07:33,979
Vervolgens reed een vrachtauto 
voor de Tesla langs

146
00:07:33,979 --> 00:07:36,172
en de auto remde niet automatisch af.

147
00:07:36,327 --> 00:07:40,978
De AI was getrained op het herkennen
van vrachtauto's op plaatjes.

148
00:07:41,293 --> 00:07:43,148
Zo te zien

149
00:07:43,148 --> 00:07:46,393
was de AI getrained in het herkennen
van vrachtauto's op de snelweg,

150
00:07:46,393 --> 00:07:49,196
waar ze je vaak van achteren benaderen.

151
00:07:49,196 --> 00:07:52,430
Vrachtauto's van de zijkant 
komen op de snelweg niet voor,

152
00:07:52,430 --> 00:07:55,999
dus toen de AI de vrachtauto zag,

153
00:07:55,999 --> 00:08:00,990
dacht hij waarschijnlijk 
dat het een verkeersbord was

154
00:08:00,990 --> 00:08:03,587
waar hij veilig onderdoor kon rijden.

155
00:08:04,114 --> 00:08:06,694
Nog een fout met AI, 
maar van een ander kaliber.

156
00:08:06,694 --> 00:08:09,868
Amazon is onlangs afgestapt 
van een cv-sorteeralgoritm

157
00:08:09,868 --> 00:08:11,236
waar ze aan hadden gewerkt,

158
00:08:11,236 --> 00:08:14,934
toen duidelijk werd dat het algoritme 
had geleerd vrouwen te discrimineren.

159
00:08:14,934 --> 00:08:17,644
Het bleek dat de trainingsdata 
bestond uit oude cv's

160
00:08:17,644 --> 00:08:20,250
van mensen die in het verleden 
waren aangenomen.

161
00:08:20,250 --> 00:08:24,137
Op basis hiervan negeerde de AI 
de cv's van mensen

162
00:08:24,137 --> 00:08:26,481
die aan een vrouwenuniversiteit 
hadden gestudeerd

163
00:08:26,481 --> 00:08:29,047
of waar het woord 'vrouw' in stond,

164
00:08:29,047 --> 00:08:33,632
zoals ' vrouwenvoetbalteam' of 
'Vereniging van Vrouwelijke Ingenieurs'.

165
00:08:33,911 --> 00:08:35,391
De AI had niet door

166
00:08:35,391 --> 00:08:39,409
dat hij dit gedrag
van mensen niet moest kopiëren.

167
00:08:39,767 --> 00:08:43,088
Technisch gezien deed hij precies 
wat hem was opgedragen.

168
00:08:43,088 --> 00:08:45,909
Alleen hadden ze hem 
per ongeluk het verkeerde gevraagd.

169
00:08:46,653 --> 00:08:49,548
Een veelvoorkomend probleem met AI.

170
00:08:50,120 --> 00:08:53,711
AI kan zonder het te weten 
destructief zijn.

171
00:08:53,711 --> 00:08:58,553
De AI's die op Facebook of YouTube
nieuwe content aanbevelen bijvoorbeeld,

172
00:08:58,553 --> 00:09:02,376
zijn er op gericht het aantal clicks 
en views te verhogen.

173
00:09:02,400 --> 00:09:05,546
Helaas had dit als gevolg

174
00:09:05,546 --> 00:09:10,363
dat content gewijd aan complottheorieën 
en intolerantie werd aangeraden.

175
00:09:10,902 --> 00:09:16,054
De AI's weten zelf niet 
wat voor content het is

176
00:09:16,054 --> 00:09:20,057
en hebben ook geen idee 
wat de consequenties zijn

177
00:09:20,057 --> 00:09:21,986
als het wordt aanbevolen.

178
00:09:22,296 --> 00:09:24,307
Als wij aan het werk gaan met AI,

179
00:09:24,307 --> 00:09:28,383
is het aan ons dit soort 
problemen te voorkomen.

180
00:09:28,383 --> 00:09:30,860
En zorgen dat alles goed gaat,

181
00:09:30,860 --> 00:09:34,747
is een kwestie van betere communicatie:

182
00:09:35,434 --> 00:09:39,179
we moeten leren 
beter te communiceren met AI.

183
00:09:39,203 --> 00:09:43,112
We moeten begrijpen wat AI kan 
en wat het niet kan doen,

184
00:09:43,112 --> 00:09:46,352
en dat hij met z'n piepkleine hersens

185
00:09:46,376 --> 00:09:50,539
niet echt begrijpt wat wij van hem willen.

186
00:09:51,088 --> 00:09:54,469
We zullen moeten accepteren

187
00:09:54,469 --> 00:09:59,751
dat hij geen deskundige,
alleswetende AI uit science fiction is.

188
00:09:59,775 --> 00:10:01,967
We moeten bereid zijn te werken met een AI

189
00:10:01,967 --> 00:10:05,599
waar we nu al mee te maken hebben.

190
00:10:05,599 --> 00:10:09,828
En de AI van nu is al vreemd genoeg.

191
00:10:09,832 --> 00:10:11,042
Dank jullie wel.

192
00:10:11,066 --> 00:10:16,291
(Applaus)