Kunstmatige intelligentie
staat bekend om het verstoren van allerlei sectoren.
Denk maar aan ijs.
Welke verbijsterende nieuwe smaken zouden we kunnen maken
met het vermogen van geavanceerde kunstmatige intelligentie?
Ik zocht contact met het team programmeurs van de Kealing Middle School
om antwoord te vinden op deze vraag.
Zij verzamelden meer dan 1.600 bestaande ijssmaken
die we aan een algoritme gaven om te kijken wat dat zou opleveren.
Dit zijn enkele smaken waar de AI mee kwam.
[Pompoenafvalpauze]
(Gelach)
[Pindakaasslijm]
(Gelach)
[Aarbeien-ijsziekte]
(Gelach)
Deze smaken zijn niet zo lekker als we hadden gehoopt.
De vraag is dus: hoe kan dat?
Wat is er mis gegaan?
Probeert de AI ons te vermoorden?
Of deed hij precies wat we wilden, maar hij liep tegen een probleem aan?
In films, wanneer er iets misgaat met AI,
komt dit meestal doordat de AI besluit
niet langer naar mensen te luisteren
en zichzelf op de eerste plaats stelt.
In werkelijkheid is de AI die we hebben
daar niet slim genoeg voor.
Hij heeft de geschatte rekenkracht
van een aardworm,
of hooguit van een enkele bij
en waarschijnlijk nog minder.
We leren steeds meer over de hersenen
en dat AI nog lang niet opkan tegen echte hersenen.
Een AI is prima in staat een voetganger te identificeren,
maar z'n begrip van wat een voetganger is,
gaat niet verder dan een verzameling van lijnen en structuren.
Wat een mens is, weet hij niet.
Zal de huidige AI doen wat wij willen?
Hij zal het doen als hij het kan,
maar misschien is het niet precies wat we willen.
Stel je voor dat je een AI robotonderdelen laat pakken,
waar hij een robot van maakt die van A naar B gaat.
Als je probeert dit probleem op te lossen
met een standaard computerprogramma,
moet je uitgebreide instructies geven
over hoe je de delen vastpakt,
hoe je er een robot met benen van maakt
en hoe je die benen gebruikt om naar punt B te komen.
Maar als je dit met AI probeert op te lossen,
dan ziet dat er anders uit.
Je zegt niet hoe hij het probleem moet oplossen,
je geeft hem een duidelijk doel
en hij zal zelf met vallen en opstaan
dat doel leren bereiken.
En bij het oplossen van dit probleem hier
doet de AI dit:
hij bouwt een toren van zichzelf die hij laat omvallen
bovenop Punt B.
Technisch gezien lost dit inderdaad het probleem op.
Hij heeft tenslotte Punt B bereikt.
Het probleem met AI is ook niet dat hij tegen ons in opstand komt,
maar dat hij juist precies doet wat we van hem vragen.
De uitdaging met AI is dus:
hoe introduceren we het probleem zodat hij precies doet wat we willen?
Dit robotje wordt gestuurd door een AI.
De AI ontwierp z'n robotbenen
en ontdekte hoe hij ermee langs alle obstakels kon komen.
Maar toen David Ha het experiment opzette,
moest hij zeer strenge regels toepassen
die bepaalden hoe lang AI de benen mocht maken,
want anders...
(Gelach)
En strikt genomen
had hij het einde van de hindernisbaan bereikt.
Het is dus niet eenvoudig om AI zoiets simpels te laten doen als lopen.
Je kan zeggen dat de AI valsspeelt
door zichzelf uit te rekken en voorover te laten vallen,
en eisen dat hij z'n benen gebruikt om te lopen.
Maar ook dat werkt niet altijd.
Hier moest de AI snel bewegen.
Ze hadden niet gezegd dat hij recht vooruit moest gaan
of z'n armen niet mocht bewegen.
Als je AI traint snelle bewegingen te maken,
krijg je vaak salto's en gekke loopjes.
Dit gebeurt vrij vaak.
Of je ziet hoopjes die rondkruipen.
(Gelach)
Volgens mij hadden de Terminator-robots nog veel gekker moeten zijn.
AI zal ook zonder aarzelen 'The Matrix' hacken
als hij de kans krijgt.
Als je hem in een simulatie laat trainen,
leert hij onder andere berekeningsfouten te hacken
die hij opslaat als energie.
Of hij krijgt door dat je sneller loopt als je gekke sprongetjes maakt.
Werken met AI
is iets heel anders dan het werken met een mens;
het heeft meer weg van het werken met een obscuur fenomeen.
Je loopt altijd het risico dat je AI een verkeerd probleem voorlegt,
en je pas achteraf realiseert dat er iets fout is gegaan.
Dit is een experiment dat ik heb gedaan,
waarbij ik de AI opdroeg de verfkleuren na te maken,
nieuwe kleuren te bedenken
op basis van de kleuren links.
Dit is het resultaat waar de AI mee kwam.
[Strae Oranje, Penisbel Triestje, Grijshaartje]
(Gelach)
En inderdaad,
hij deed precies wat ik hem had opgedragen.
Ik dacht dat ik had gevraagd om leuke verfkleurnamen,
maar in werkelijkheid
immiteerde de AI alleen de lettercombinaties
uit het origineel.
Ik had hem niet gezegd wat de woorden betekenen
of dat er woorden tussen zaten
die niet toepasselijk zijn voor verfkleuren.
Zijn wereld bestaat alleen uit de data die ik hem gegeven heb.
Net als bij de ijssmaken is dat het enige wat hij weet.
Door de data die we hem geven,
voert de AI vaak de verkeerde opdracht uit.
Deze vis is een zeelt.
Een groep onderzoekers
trainden een AI om deze zeelt op plaatjes te herkennen.
Maar toen ze vroegen
welk deel van de foto hij gebruikte om de vis te herkennen,
markeerde hij dit.
Inderdaad: mensenvingers.
Waarom zou hij mensenvingers gebruiken
om een vis te herkennen?
Wat blijkt: de zeelt wordt gezien als trofee
en in veel foto's die de AI te zien kreeg
tijdens de training,
zag de vis er zo uit.
(Gelach)
Hij wist niet dat de vingers geen deel van de vis zijn.
Het is duidelijk ingewikkeld om een AI zo te ontwerpen
dat hij begrijpt waar hij naar kijkt.
Dit maakt het vormgeven van beeldherkenning
voor zelfrijdende auto's ook zo gecompliceerd
en worden veel van de fouten veroorzaakt
doordat de AI in de war raakte.
Hier is een voorbeeld uit 2016.
Bij een fataal ongeluk waarbij een Tesla op de automatische piloot stond,
bleek dat ze niet op de snelweg reden waarvoor hij was gemaakt,
maar midden in stad.
Vervolgens reed een vrachtauto voor de Tesla langs
en de auto remde niet automatisch af.
De AI was getrained op het herkennen van vrachtauto's op plaatjes.
Zo te zien
was de AI getrained in het herkennen van vrachtauto's op de snelweg,
waar ze je vaak van achteren benaderen.
Vrachtauto's van de zijkant komen op de snelweg niet voor,
dus toen de AI de vrachtauto zag,
dacht hij waarschijnlijk dat het een verkeersbord was
waar hij veilig onderdoor kon rijden.
Nog een fout met AI, maar van een ander kaliber.
Amazon is onlangs afgestapt van een cv-sorteeralgoritm
waar ze aan hadden gewerkt,
toen duidelijk werd dat het algoritme had geleerd vrouwen te discrimineren.
Het bleek dat de trainingsdata bestond uit oude cv's
van mensen die in het verleden waren aangenomen.
Op basis hiervan negeerde de AI de cv's van mensen
die aan een vrouwenuniversiteit hadden gestudeerd
of waar het woord 'vrouw' in stond,
zoals ' vrouwenvoetbalteam' of 'Vereniging van Vrouwelijke Ingenieurs'.
De AI had niet door
dat hij dit gedrag van mensen niet moest kopiëren.
Technisch gezien deed hij precies wat hem was opgedragen.
Alleen hadden ze hem per ongeluk het verkeerde gevraagd.
Een veelvoorkomend probleem met AI.
AI kan zonder het te weten destructief zijn.
De AI's die op Facebook of YouTube nieuwe content aanbevelen bijvoorbeeld,
zijn er op gericht het aantal clicks en views te verhogen.
Helaas had dit als gevolg
dat content gewijd aan complottheorieën en intolerantie werd aangeraden.
De AI's weten zelf niet wat voor content het is
en hebben ook geen idee wat de consequenties zijn
als het wordt aanbevolen.
Als wij aan het werk gaan met AI,
is het aan ons dit soort problemen te voorkomen.
En zorgen dat alles goed gaat,
is een kwestie van betere communicatie:
we moeten leren beter te communiceren met AI.
We moeten begrijpen wat AI kan en wat het niet kan doen,
en dat hij met z'n piepkleine hersens
niet echt begrijpt wat wij van hem willen.
We zullen moeten accepteren
dat hij geen deskundige, alleswetende AI uit science fiction is.
We moeten bereid zijn te werken met een AI
waar we nu al mee te maken hebben.
En de AI van nu is al vreemd genoeg.
Dank jullie wel.
(Applaus)