Het gevaar van AI is vreemder dan je denkt
-
0:02 - 0:05Kunstmatige intelligentie
-
0:05 - 0:08staat bekend om het verstoren
van allerlei sectoren. -
0:09 - 0:11Denk maar aan ijs.
-
0:12 - 0:15Welke verbijsterende nieuwe smaken
zouden we kunnen maken -
0:15 - 0:19met het vermogen van geavanceerde
kunstmatige intelligentie? -
0:19 - 0:23Ik zocht contact met het team programmeurs
van de Kealing Middle School -
0:23 - 0:25om antwoord te vinden op deze vraag.
-
0:25 - 0:30Zij verzamelden meer dan
1.600 bestaande ijssmaken -
0:30 - 0:36die we aan een algoritme gaven
om te kijken wat dat zou opleveren. -
0:36 - 0:39Dit zijn enkele smaken
waar de AI mee kwam. -
0:40 - 0:41[Pompoenafvalpauze]
-
0:41 - 0:43(Gelach)
-
0:43 - 0:45[Pindakaasslijm]
-
0:45 - 0:46(Gelach)
-
0:46 - 0:48[Aarbeien-ijsziekte]
-
0:48 - 0:50(Gelach)
-
0:50 - 0:55Deze smaken zijn niet zo lekker
als we hadden gehoopt. -
0:55 - 0:57De vraag is dus: hoe kan dat?
-
0:57 - 0:58Wat is er mis gegaan?
-
0:58 - 1:00Probeert de AI ons te vermoorden?
-
1:01 - 1:05Of deed hij precies wat we wilden,
maar hij liep tegen een probleem aan? -
1:07 - 1:09In films, wanneer er iets misgaat met AI,
-
1:09 - 1:12komt dit meestal doordat de AI besluit
-
1:12 - 1:14niet langer naar mensen te luisteren
-
1:14 - 1:17en zichzelf op de eerste plaats stelt.
-
1:17 - 1:20In werkelijkheid is de AI die we hebben
-
1:20 - 1:23daar niet slim genoeg voor.
-
1:23 - 1:25Hij heeft de geschatte rekenkracht
-
1:25 - 1:27van een aardworm,
-
1:27 - 1:30of hooguit van een enkele bij
-
1:31 - 1:33en waarschijnlijk nog minder.
-
1:33 - 1:35We leren steeds meer over de hersenen
-
1:35 - 1:40en dat AI nog lang niet
opkan tegen echte hersenen. -
1:40 - 1:45Een AI is prima in staat
een voetganger te identificeren, -
1:45 - 1:48maar z'n begrip van wat een voetganger is,
-
1:48 - 1:53gaat niet verder dan
een verzameling van lijnen en structuren. -
1:54 - 1:57Wat een mens is, weet hij niet.
-
1:57 - 2:00Zal de huidige AI doen wat wij willen?
-
2:00 - 2:02Hij zal het doen als hij het kan,
-
2:02 - 2:05maar misschien is het niet
precies wat we willen. -
2:05 - 2:09Stel je voor dat je een AI
robotonderdelen laat pakken, -
2:09 - 2:14waar hij een robot van maakt
die van A naar B gaat. -
2:14 - 2:16Als je probeert dit probleem op te lossen
-
2:16 - 2:19met een standaard computerprogramma,
-
2:19 - 2:22moet je uitgebreide instructies geven
-
2:22 - 2:23over hoe je de delen vastpakt,
-
2:23 - 2:26hoe je er een robot met benen van maakt
-
2:26 - 2:29en hoe je die benen gebruikt
om naar punt B te komen. -
2:29 - 2:32Maar als je dit
met AI probeert op te lossen, -
2:32 - 2:33dan ziet dat er anders uit.
-
2:33 - 2:35Je zegt niet hoe hij
het probleem moet oplossen, -
2:35 - 2:37je geeft hem een duidelijk doel
-
2:37 - 2:40en hij zal zelf met vallen en opstaan
-
2:40 - 2:42dat doel leren bereiken.
-
2:42 - 2:46En bij het oplossen van dit probleem hier
-
2:46 - 2:48doet de AI dit:
-
2:48 - 2:51hij bouwt een toren van zichzelf
die hij laat omvallen -
2:51 - 2:53bovenop Punt B.
-
2:53 - 2:56Technisch gezien lost dit
inderdaad het probleem op. -
2:56 - 2:58Hij heeft tenslotte Punt B bereikt.
-
2:58 - 3:02Het probleem met AI is ook niet
dat hij tegen ons in opstand komt, -
3:02 - 3:06maar dat hij juist precies doet
wat we van hem vragen. -
3:07 - 3:09De uitdaging met AI is dus:
-
3:09 - 3:13hoe introduceren we het probleem
zodat hij precies doet wat we willen? -
3:15 - 3:18Dit robotje wordt gestuurd door een AI.
-
3:18 - 3:21De AI ontwierp z'n robotbenen
-
3:21 - 3:25en ontdekte hoe hij ermee
langs alle obstakels kon komen. -
3:25 - 3:28Maar toen David Ha het experiment opzette,
-
3:28 - 3:31moest hij zeer strenge regels toepassen
-
3:31 - 3:34die bepaalden hoe lang AI
de benen mocht maken, -
3:34 - 3:36want anders...
-
3:43 - 3:45(Gelach)
-
3:48 - 3:50En strikt genomen
-
3:50 - 3:52had hij het einde
van de hindernisbaan bereikt. -
3:52 - 3:57Het is dus niet eenvoudig om AI
zoiets simpels te laten doen als lopen. -
3:57 - 4:01Je kan zeggen dat de AI valsspeelt
-
4:01 - 4:04door zichzelf uit te rekken
en voorover te laten vallen, -
4:04 - 4:07en eisen dat hij
z'n benen gebruikt om te lopen. -
4:07 - 4:10Maar ook dat werkt niet altijd.
-
4:10 - 4:13Hier moest de AI snel bewegen.
-
4:13 - 4:17Ze hadden niet gezegd
dat hij recht vooruit moest gaan -
4:17 - 4:19of z'n armen niet mocht bewegen.
-
4:19 - 4:24Als je AI traint
snelle bewegingen te maken, -
4:24 - 4:27krijg je vaak salto's en gekke loopjes.
-
4:27 - 4:29Dit gebeurt vrij vaak.
-
4:30 - 4:33Of je ziet hoopjes die rondkruipen.
-
4:33 - 4:34(Gelach)
-
4:35 - 4:40Volgens mij hadden de Terminator-robots
nog veel gekker moeten zijn. -
4:40 - 4:43AI zal ook zonder aarzelen
'The Matrix' hacken -
4:43 - 4:44als hij de kans krijgt.
-
4:44 - 4:46Als je hem in een simulatie laat trainen,
-
4:46 - 4:51leert hij onder andere
berekeningsfouten te hacken -
4:51 - 4:53die hij opslaat als energie.
-
4:53 - 4:58Of hij krijgt door dat je sneller loopt
als je gekke sprongetjes maakt. -
4:58 - 5:00Werken met AI
-
5:00 - 5:02is iets heel anders
dan het werken met een mens; -
5:02 - 5:06het heeft meer weg van het werken
met een obscuur fenomeen. -
5:06 - 5:11Je loopt altijd het risico
dat je AI een verkeerd probleem voorlegt, -
5:11 - 5:16en je pas achteraf realiseert
dat er iets fout is gegaan. -
5:16 - 5:18Dit is een experiment dat ik heb gedaan,
-
5:18 - 5:22waarbij ik de AI opdroeg
de verfkleuren na te maken, -
5:22 - 5:23nieuwe kleuren te bedenken
-
5:23 - 5:26op basis van de kleuren links.
-
5:27 - 5:30Dit is het resultaat waar de AI mee kwam.
-
5:30 - 5:32[Strae Oranje, Penisbel
Triestje, Grijshaartje] -
5:32 - 5:34(Gelach)
-
5:39 - 5:41En inderdaad,
-
5:41 - 5:43hij deed precies
wat ik hem had opgedragen. -
5:43 - 5:46Ik dacht dat ik had gevraagd
om leuke verfkleurnamen, -
5:46 - 5:49maar in werkelijkheid
-
5:49 - 5:52immiteerde de AI alleen
de lettercombinaties -
5:52 - 5:54uit het origineel.
-
5:54 - 5:57Ik had hem niet gezegd
wat de woorden betekenen -
5:57 - 5:59of dat er woorden tussen zaten
-
5:59 - 6:02die niet toepasselijk zijn
voor verfkleuren. -
6:03 - 6:07Zijn wereld bestaat alleen
uit de data die ik hem gegeven heb. -
6:07 - 6:11Net als bij de ijssmaken
is dat het enige wat hij weet. -
6:12 - 6:14Door de data die we hem geven,
-
6:14 - 6:18voert de AI vaak
de verkeerde opdracht uit. -
6:19 - 6:22Deze vis is een zeelt.
-
6:22 - 6:24Een groep onderzoekers
-
6:24 - 6:27trainden een AI om deze zeelt
op plaatjes te herkennen. -
6:27 - 6:28Maar toen ze vroegen
-
6:28 - 6:32welk deel van de foto hij gebruikte
om de vis te herkennen, -
6:32 - 6:34markeerde hij dit.
-
6:35 - 6:37Inderdaad: mensenvingers.
-
6:37 - 6:39Waarom zou hij mensenvingers gebruiken
-
6:39 - 6:41om een vis te herkennen?
-
6:42 - 6:45Wat blijkt: de zeelt
wordt gezien als trofee -
6:45 - 6:48en in veel foto's die de AI te zien kreeg
-
6:48 - 6:50tijdens de training,
-
6:50 - 6:51zag de vis er zo uit.
-
6:51 - 6:53(Gelach)
-
6:53 - 6:57Hij wist niet dat de vingers
geen deel van de vis zijn. -
6:59 - 7:03Het is duidelijk ingewikkeld
om een AI zo te ontwerpen -
7:03 - 7:06dat hij begrijpt waar hij naar kijkt.
-
7:06 - 7:09Dit maakt het vormgeven
van beeldherkenning -
7:09 - 7:11voor zelfrijdende auto's
ook zo gecompliceerd -
7:11 - 7:13en worden veel van de fouten veroorzaakt
-
7:13 - 7:16doordat de AI in de war raakte.
-
7:16 - 7:20Hier is een voorbeeld uit 2016.
-
7:20 - 7:25Bij een fataal ongeluk waarbij een Tesla
op de automatische piloot stond, -
7:25 - 7:28bleek dat ze niet op de snelweg reden
waarvoor hij was gemaakt, -
7:28 - 7:31maar midden in stad.
-
7:31 - 7:34Vervolgens reed een vrachtauto
voor de Tesla langs -
7:34 - 7:36en de auto remde niet automatisch af.
-
7:36 - 7:41De AI was getrained op het herkennen
van vrachtauto's op plaatjes. -
7:41 - 7:43Zo te zien
-
7:43 - 7:46was de AI getrained in het herkennen
van vrachtauto's op de snelweg, -
7:46 - 7:49waar ze je vaak van achteren benaderen.
-
7:49 - 7:52Vrachtauto's van de zijkant
komen op de snelweg niet voor, -
7:52 - 7:56dus toen de AI de vrachtauto zag,
-
7:56 - 8:01dacht hij waarschijnlijk
dat het een verkeersbord was -
8:01 - 8:04waar hij veilig onderdoor kon rijden.
-
8:04 - 8:07Nog een fout met AI,
maar van een ander kaliber. -
8:07 - 8:10Amazon is onlangs afgestapt
van een cv-sorteeralgoritm -
8:10 - 8:11waar ze aan hadden gewerkt,
-
8:11 - 8:15toen duidelijk werd dat het algoritme
had geleerd vrouwen te discrimineren. -
8:15 - 8:18Het bleek dat de trainingsdata
bestond uit oude cv's -
8:18 - 8:20van mensen die in het verleden
waren aangenomen. -
8:20 - 8:24Op basis hiervan negeerde de AI
de cv's van mensen -
8:24 - 8:26die aan een vrouwenuniversiteit
hadden gestudeerd -
8:26 - 8:29of waar het woord 'vrouw' in stond,
-
8:29 - 8:34zoals ' vrouwenvoetbalteam' of
'Vereniging van Vrouwelijke Ingenieurs'. -
8:34 - 8:35De AI had niet door
-
8:35 - 8:39dat hij dit gedrag
van mensen niet moest kopiëren. -
8:40 - 8:43Technisch gezien deed hij precies
wat hem was opgedragen. -
8:43 - 8:46Alleen hadden ze hem
per ongeluk het verkeerde gevraagd. -
8:47 - 8:50Een veelvoorkomend probleem met AI.
-
8:50 - 8:54AI kan zonder het te weten
destructief zijn. -
8:54 - 8:59De AI's die op Facebook of YouTube
nieuwe content aanbevelen bijvoorbeeld, -
8:59 - 9:02zijn er op gericht het aantal clicks
en views te verhogen. -
9:02 - 9:06Helaas had dit als gevolg
-
9:06 - 9:10dat content gewijd aan complottheorieën
en intolerantie werd aangeraden. -
9:11 - 9:16De AI's weten zelf niet
wat voor content het is -
9:16 - 9:20en hebben ook geen idee
wat de consequenties zijn -
9:20 - 9:22als het wordt aanbevolen.
-
9:22 - 9:24Als wij aan het werk gaan met AI,
-
9:24 - 9:28is het aan ons dit soort
problemen te voorkomen. -
9:28 - 9:31En zorgen dat alles goed gaat,
-
9:31 - 9:35is een kwestie van betere communicatie:
-
9:35 - 9:39we moeten leren
beter te communiceren met AI. -
9:39 - 9:43We moeten begrijpen wat AI kan
en wat het niet kan doen, -
9:43 - 9:46en dat hij met z'n piepkleine hersens
-
9:46 - 9:51niet echt begrijpt wat wij van hem willen.
-
9:51 - 9:54We zullen moeten accepteren
-
9:54 - 10:00dat hij geen deskundige,
alleswetende AI uit science fiction is. -
10:00 - 10:02We moeten bereid zijn te werken met een AI
-
10:02 - 10:06waar we nu al mee te maken hebben.
-
10:06 - 10:10En de AI van nu is al vreemd genoeg.
-
10:10 - 10:11Dank jullie wel.
-
10:11 - 10:16(Applaus)
- Title:
- Het gevaar van AI is vreemder dan je denkt
- Speaker:
- Janelle Shane
- Description:
-
Het gevaar van kunstmatige intelligentie is niet dat die tegen ons in opstand zal komen, maar juist dat hij precies doet wat wij zeggen, zegt AI-onderzoeker Janelle Shane. Aan de hand van vreemde soms alarmerende capriolen van AI-algoritmes die bezig zijn problemen voor ons op te lossen -- zoals het bedenken van nieuwe ijssmaken of het herkennen van auto's op de weg -- laat Shane zien dat de hersens van AI nog ver achter liggen op die van ons.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
Peter van de Ven approved Dutch subtitles for The danger of AI is weirder than you think | ||
Peter van de Ven accepted Dutch subtitles for The danger of AI is weirder than you think | ||
Peter van de Ven edited Dutch subtitles for The danger of AI is weirder than you think | ||
Peter van de Ven edited Dutch subtitles for The danger of AI is weirder than you think | ||
Lisette Feenstra edited Dutch subtitles for The danger of AI is weirder than you think | ||
Lisette Feenstra edited Dutch subtitles for The danger of AI is weirder than you think | ||
Lisette Feenstra edited Dutch subtitles for The danger of AI is weirder than you think | ||
Lisette Feenstra edited Dutch subtitles for The danger of AI is weirder than you think |