Return to Video

Het gevaar van AI is vreemder dan je denkt

  • 0:02 - 0:05
    Kunstmatige intelligentie
  • 0:05 - 0:08
    staat bekend om het verstoren
    van allerlei sectoren.
  • 0:09 - 0:11
    Denk maar aan ijs.
  • 0:12 - 0:15
    Welke verbijsterende nieuwe smaken
    zouden we kunnen maken
  • 0:15 - 0:19
    met het vermogen van geavanceerde
    kunstmatige intelligentie?
  • 0:19 - 0:23
    Ik zocht contact met het team programmeurs
    van de Kealing Middle School
  • 0:23 - 0:25
    om antwoord te vinden op deze vraag.
  • 0:25 - 0:30
    Zij verzamelden meer dan
    1.600 bestaande ijssmaken
  • 0:30 - 0:36
    die we aan een algoritme gaven
    om te kijken wat dat zou opleveren.
  • 0:36 - 0:39
    Dit zijn enkele smaken
    waar de AI mee kwam.
  • 0:40 - 0:41
    [Pompoenafvalpauze]
  • 0:41 - 0:43
    (Gelach)
  • 0:43 - 0:45
    [Pindakaasslijm]
  • 0:45 - 0:46
    (Gelach)
  • 0:46 - 0:48
    [Aarbeien-ijsziekte]
  • 0:48 - 0:50
    (Gelach)
  • 0:50 - 0:55
    Deze smaken zijn niet zo lekker
    als we hadden gehoopt.
  • 0:55 - 0:57
    De vraag is dus: hoe kan dat?
  • 0:57 - 0:58
    Wat is er mis gegaan?
  • 0:58 - 1:00
    Probeert de AI ons te vermoorden?
  • 1:01 - 1:05
    Of deed hij precies wat we wilden,
    maar hij liep tegen een probleem aan?
  • 1:07 - 1:09
    In films, wanneer er iets misgaat met AI,
  • 1:09 - 1:12
    komt dit meestal doordat de AI besluit
  • 1:12 - 1:14
    niet langer naar mensen te luisteren
  • 1:14 - 1:17
    en zichzelf op de eerste plaats stelt.
  • 1:17 - 1:20
    In werkelijkheid is de AI die we hebben
  • 1:20 - 1:23
    daar niet slim genoeg voor.
  • 1:23 - 1:25
    Hij heeft de geschatte rekenkracht
  • 1:25 - 1:27
    van een aardworm,
  • 1:27 - 1:30
    of hooguit van een enkele bij
  • 1:31 - 1:33
    en waarschijnlijk nog minder.
  • 1:33 - 1:35
    We leren steeds meer over de hersenen
  • 1:35 - 1:40
    en dat AI nog lang niet
    opkan tegen echte hersenen.
  • 1:40 - 1:45
    Een AI is prima in staat
    een voetganger te identificeren,
  • 1:45 - 1:48
    maar z'n begrip van wat een voetganger is,
  • 1:48 - 1:53
    gaat niet verder dan
    een verzameling van lijnen en structuren.
  • 1:54 - 1:57
    Wat een mens is, weet hij niet.
  • 1:57 - 2:00
    Zal de huidige AI doen wat wij willen?
  • 2:00 - 2:02
    Hij zal het doen als hij het kan,
  • 2:02 - 2:05
    maar misschien is het niet
    precies wat we willen.
  • 2:05 - 2:09
    Stel je voor dat je een AI
    robotonderdelen laat pakken,
  • 2:09 - 2:14
    waar hij een robot van maakt
    die van A naar B gaat.
  • 2:14 - 2:16
    Als je probeert dit probleem op te lossen
  • 2:16 - 2:19
    met een standaard computerprogramma,
  • 2:19 - 2:22
    moet je uitgebreide instructies geven
  • 2:22 - 2:23
    over hoe je de delen vastpakt,
  • 2:23 - 2:26
    hoe je er een robot met benen van maakt
  • 2:26 - 2:29
    en hoe je die benen gebruikt
    om naar punt B te komen.
  • 2:29 - 2:32
    Maar als je dit
    met AI probeert op te lossen,
  • 2:32 - 2:33
    dan ziet dat er anders uit.
  • 2:33 - 2:35
    Je zegt niet hoe hij
    het probleem moet oplossen,
  • 2:35 - 2:37
    je geeft hem een duidelijk doel
  • 2:37 - 2:40
    en hij zal zelf met vallen en opstaan
  • 2:40 - 2:42
    dat doel leren bereiken.
  • 2:42 - 2:46
    En bij het oplossen van dit probleem hier
  • 2:46 - 2:48
    doet de AI dit:
  • 2:48 - 2:51
    hij bouwt een toren van zichzelf
    die hij laat omvallen
  • 2:51 - 2:53
    bovenop Punt B.
  • 2:53 - 2:56
    Technisch gezien lost dit
    inderdaad het probleem op.
  • 2:56 - 2:58
    Hij heeft tenslotte Punt B bereikt.
  • 2:58 - 3:02
    Het probleem met AI is ook niet
    dat hij tegen ons in opstand komt,
  • 3:02 - 3:06
    maar dat hij juist precies doet
    wat we van hem vragen.
  • 3:07 - 3:09
    De uitdaging met AI is dus:
  • 3:09 - 3:13
    hoe introduceren we het probleem
    zodat hij precies doet wat we willen?
  • 3:15 - 3:18
    Dit robotje wordt gestuurd door een AI.
  • 3:18 - 3:21
    De AI ontwierp z'n robotbenen
  • 3:21 - 3:25
    en ontdekte hoe hij ermee
    langs alle obstakels kon komen.
  • 3:25 - 3:28
    Maar toen David Ha het experiment opzette,
  • 3:28 - 3:31
    moest hij zeer strenge regels toepassen
  • 3:31 - 3:34
    die bepaalden hoe lang AI
    de benen mocht maken,
  • 3:34 - 3:36
    want anders...
  • 3:43 - 3:45
    (Gelach)
  • 3:48 - 3:50
    En strikt genomen
  • 3:50 - 3:52
    had hij het einde
    van de hindernisbaan bereikt.
  • 3:52 - 3:57
    Het is dus niet eenvoudig om AI
    zoiets simpels te laten doen als lopen.
  • 3:57 - 4:01
    Je kan zeggen dat de AI valsspeelt
  • 4:01 - 4:04
    door zichzelf uit te rekken
    en voorover te laten vallen,
  • 4:04 - 4:07
    en eisen dat hij
    z'n benen gebruikt om te lopen.
  • 4:07 - 4:10
    Maar ook dat werkt niet altijd.
  • 4:10 - 4:13
    Hier moest de AI snel bewegen.
  • 4:13 - 4:17
    Ze hadden niet gezegd
    dat hij recht vooruit moest gaan
  • 4:17 - 4:19
    of z'n armen niet mocht bewegen.
  • 4:19 - 4:24
    Als je AI traint
    snelle bewegingen te maken,
  • 4:24 - 4:27
    krijg je vaak salto's en gekke loopjes.
  • 4:27 - 4:29
    Dit gebeurt vrij vaak.
  • 4:30 - 4:33
    Of je ziet hoopjes die rondkruipen.
  • 4:33 - 4:34
    (Gelach)
  • 4:35 - 4:40
    Volgens mij hadden de Terminator-robots
    nog veel gekker moeten zijn.
  • 4:40 - 4:43
    AI zal ook zonder aarzelen
    'The Matrix' hacken
  • 4:43 - 4:44
    als hij de kans krijgt.
  • 4:44 - 4:46
    Als je hem in een simulatie laat trainen,
  • 4:46 - 4:51
    leert hij onder andere
    berekeningsfouten te hacken
  • 4:51 - 4:53
    die hij opslaat als energie.
  • 4:53 - 4:58
    Of hij krijgt door dat je sneller loopt
    als je gekke sprongetjes maakt.
  • 4:58 - 5:00
    Werken met AI
  • 5:00 - 5:02
    is iets heel anders
    dan het werken met een mens;
  • 5:02 - 5:06
    het heeft meer weg van het werken
    met een obscuur fenomeen.
  • 5:06 - 5:11
    Je loopt altijd het risico
    dat je AI een verkeerd probleem voorlegt,
  • 5:11 - 5:16
    en je pas achteraf realiseert
    dat er iets fout is gegaan.
  • 5:16 - 5:18
    Dit is een experiment dat ik heb gedaan,
  • 5:18 - 5:22
    waarbij ik de AI opdroeg
    de verfkleuren na te maken,
  • 5:22 - 5:23
    nieuwe kleuren te bedenken
  • 5:23 - 5:26
    op basis van de kleuren links.
  • 5:27 - 5:30
    Dit is het resultaat waar de AI mee kwam.
  • 5:30 - 5:32
    [Strae Oranje, Penisbel
    Triestje, Grijshaartje]
  • 5:32 - 5:34
    (Gelach)
  • 5:39 - 5:41
    En inderdaad,
  • 5:41 - 5:43
    hij deed precies
    wat ik hem had opgedragen.
  • 5:43 - 5:46
    Ik dacht dat ik had gevraagd
    om leuke verfkleurnamen,
  • 5:46 - 5:49
    maar in werkelijkheid
  • 5:49 - 5:52
    immiteerde de AI alleen
    de lettercombinaties
  • 5:52 - 5:54
    uit het origineel.
  • 5:54 - 5:57
    Ik had hem niet gezegd
    wat de woorden betekenen
  • 5:57 - 5:59
    of dat er woorden tussen zaten
  • 5:59 - 6:02
    die niet toepasselijk zijn
    voor verfkleuren.
  • 6:03 - 6:07
    Zijn wereld bestaat alleen
    uit de data die ik hem gegeven heb.
  • 6:07 - 6:11
    Net als bij de ijssmaken
    is dat het enige wat hij weet.
  • 6:12 - 6:14
    Door de data die we hem geven,
  • 6:14 - 6:18
    voert de AI vaak
    de verkeerde opdracht uit.
  • 6:19 - 6:22
    Deze vis is een zeelt.
  • 6:22 - 6:24
    Een groep onderzoekers
  • 6:24 - 6:27
    trainden een AI om deze zeelt
    op plaatjes te herkennen.
  • 6:27 - 6:28
    Maar toen ze vroegen
  • 6:28 - 6:32
    welk deel van de foto hij gebruikte
    om de vis te herkennen,
  • 6:32 - 6:34
    markeerde hij dit.
  • 6:35 - 6:37
    Inderdaad: mensenvingers.
  • 6:37 - 6:39
    Waarom zou hij mensenvingers gebruiken
  • 6:39 - 6:41
    om een vis te herkennen?
  • 6:42 - 6:45
    Wat blijkt: de zeelt
    wordt gezien als trofee
  • 6:45 - 6:48
    en in veel foto's die de AI te zien kreeg
  • 6:48 - 6:50
    tijdens de training,
  • 6:50 - 6:51
    zag de vis er zo uit.
  • 6:51 - 6:53
    (Gelach)
  • 6:53 - 6:57
    Hij wist niet dat de vingers
    geen deel van de vis zijn.
  • 6:59 - 7:03
    Het is duidelijk ingewikkeld
    om een AI zo te ontwerpen
  • 7:03 - 7:06
    dat hij begrijpt waar hij naar kijkt.
  • 7:06 - 7:09
    Dit maakt het vormgeven
    van beeldherkenning
  • 7:09 - 7:11
    voor zelfrijdende auto's
    ook zo gecompliceerd
  • 7:11 - 7:13
    en worden veel van de fouten veroorzaakt
  • 7:13 - 7:16
    doordat de AI in de war raakte.
  • 7:16 - 7:20
    Hier is een voorbeeld uit 2016.
  • 7:20 - 7:25
    Bij een fataal ongeluk waarbij een Tesla
    op de automatische piloot stond,
  • 7:25 - 7:28
    bleek dat ze niet op de snelweg reden
    waarvoor hij was gemaakt,
  • 7:28 - 7:31
    maar midden in stad.
  • 7:31 - 7:34
    Vervolgens reed een vrachtauto
    voor de Tesla langs
  • 7:34 - 7:36
    en de auto remde niet automatisch af.
  • 7:36 - 7:41
    De AI was getrained op het herkennen
    van vrachtauto's op plaatjes.
  • 7:41 - 7:43
    Zo te zien
  • 7:43 - 7:46
    was de AI getrained in het herkennen
    van vrachtauto's op de snelweg,
  • 7:46 - 7:49
    waar ze je vaak van achteren benaderen.
  • 7:49 - 7:52
    Vrachtauto's van de zijkant
    komen op de snelweg niet voor,
  • 7:52 - 7:56
    dus toen de AI de vrachtauto zag,
  • 7:56 - 8:01
    dacht hij waarschijnlijk
    dat het een verkeersbord was
  • 8:01 - 8:04
    waar hij veilig onderdoor kon rijden.
  • 8:04 - 8:07
    Nog een fout met AI,
    maar van een ander kaliber.
  • 8:07 - 8:10
    Amazon is onlangs afgestapt
    van een cv-sorteeralgoritm
  • 8:10 - 8:11
    waar ze aan hadden gewerkt,
  • 8:11 - 8:15
    toen duidelijk werd dat het algoritme
    had geleerd vrouwen te discrimineren.
  • 8:15 - 8:18
    Het bleek dat de trainingsdata
    bestond uit oude cv's
  • 8:18 - 8:20
    van mensen die in het verleden
    waren aangenomen.
  • 8:20 - 8:24
    Op basis hiervan negeerde de AI
    de cv's van mensen
  • 8:24 - 8:26
    die aan een vrouwenuniversiteit
    hadden gestudeerd
  • 8:26 - 8:29
    of waar het woord 'vrouw' in stond,
  • 8:29 - 8:34
    zoals ' vrouwenvoetbalteam' of
    'Vereniging van Vrouwelijke Ingenieurs'.
  • 8:34 - 8:35
    De AI had niet door
  • 8:35 - 8:39
    dat hij dit gedrag
    van mensen niet moest kopiëren.
  • 8:40 - 8:43
    Technisch gezien deed hij precies
    wat hem was opgedragen.
  • 8:43 - 8:46
    Alleen hadden ze hem
    per ongeluk het verkeerde gevraagd.
  • 8:47 - 8:50
    Een veelvoorkomend probleem met AI.
  • 8:50 - 8:54
    AI kan zonder het te weten
    destructief zijn.
  • 8:54 - 8:59
    De AI's die op Facebook of YouTube
    nieuwe content aanbevelen bijvoorbeeld,
  • 8:59 - 9:02
    zijn er op gericht het aantal clicks
    en views te verhogen.
  • 9:02 - 9:06
    Helaas had dit als gevolg
  • 9:06 - 9:10
    dat content gewijd aan complottheorieën
    en intolerantie werd aangeraden.
  • 9:11 - 9:16
    De AI's weten zelf niet
    wat voor content het is
  • 9:16 - 9:20
    en hebben ook geen idee
    wat de consequenties zijn
  • 9:20 - 9:22
    als het wordt aanbevolen.
  • 9:22 - 9:24
    Als wij aan het werk gaan met AI,
  • 9:24 - 9:28
    is het aan ons dit soort
    problemen te voorkomen.
  • 9:28 - 9:31
    En zorgen dat alles goed gaat,
  • 9:31 - 9:35
    is een kwestie van betere communicatie:
  • 9:35 - 9:39
    we moeten leren
    beter te communiceren met AI.
  • 9:39 - 9:43
    We moeten begrijpen wat AI kan
    en wat het niet kan doen,
  • 9:43 - 9:46
    en dat hij met z'n piepkleine hersens
  • 9:46 - 9:51
    niet echt begrijpt wat wij van hem willen.
  • 9:51 - 9:54
    We zullen moeten accepteren
  • 9:54 - 10:00
    dat hij geen deskundige,
    alleswetende AI uit science fiction is.
  • 10:00 - 10:02
    We moeten bereid zijn te werken met een AI
  • 10:02 - 10:06
    waar we nu al mee te maken hebben.
  • 10:06 - 10:10
    En de AI van nu is al vreemd genoeg.
  • 10:10 - 10:11
    Dank jullie wel.
  • 10:11 - 10:16
    (Applaus)
Title:
Het gevaar van AI is vreemder dan je denkt
Speaker:
Janelle Shane
Description:

Het gevaar van kunstmatige intelligentie is niet dat die tegen ons in opstand zal komen, maar juist dat hij precies doet wat wij zeggen, zegt AI-onderzoeker Janelle Shane. Aan de hand van vreemde soms alarmerende capriolen van AI-algoritmes die bezig zijn problemen voor ons op te lossen -- zoals het bedenken van nieuwe ijssmaken of het herkennen van auto's op de weg -- laat Shane zien dat de hersens van AI nog ver achter liggen op die van ons.
more » « less
Video Language:
English
Team:
closed TED
Project:
TEDTalks
Duration:
10:28

Dutch subtitles

Revisions

Our website uses cookies for analysis purposes.