Op een dag, zo'n tien jaar geleden, vroeg ik aan een vriend
of hij een babydinosaurusrobot ondersteboven wilde houden.
Het was een speelgoedbeest, een Pleo, dat ik besteld had,
en ik was er erg enthousiast over omdat ik altijd van robots gehouden heb.
En deze had hele gave technologische functies.
Hij had motortjes, aanraaksensoren en een infraroodcamera.
Hij had ook een kantelsensor, zodat hij wist welke kant boven was.
En als je hem ondersteboven hield, begon hij te huilen.
Ik vond dit erg gaaf en liet hem trots aan mijn vriend zien.
"Hou hem eens bij zijn staart vast", zei ik, "en kijk wat er gebeurt."
Dus we staan te kijken naar de verrichtingen van deze robot,
die spartelt en huilt.
Na een paar seconden ga ik me een beetje ongemakkelijk voelen
en zeg ik: "Oké, nu is het wel genoeg. Zet hem maar weer neer."
Daarna aaide ik de robot om hem te laten ophouden met huilen.
Dat was best een vreemde ervaring voor me.
Ten eerste was ik destijds niet zo'n moederlijk type.
Al ben ik negen maanden geleden zelf moeder geworden
en heb ik geleerd dat baby's ook spartelen als je ze ondersteboven houdt.
(Gelach)
Maar mijn reactie op deze robot was ook interessant,
omdat ik precies wist hoe dit apparaat werkte
en er toch aardig tegen wilde zijn.
Dat intrigeerde mij en daar ben ik de laatste tien jaar mee bezig geweest.
Waarom troostte ik die robot?
Ik ontdekte dat de manier waarop ik dit apparaat behandelde
meer om het lijf had dan een enkel ongemakkelijk moment in mijn woonkamer,
en dat in een wereld waar robots steeds meer een deel van ons leven worden,
zo'n instinct daadwerkelijk consequenties zou kunnen hebben,
want het eerste waar ik achter kwam, was dat ik niet de enige ben.
In 2007 schreef de Washington Post dat het Amerikaanse leger
een robot aan het testen was die landmijnen onschadelijk maakte.
Het was een soort wandelende tak die over een mijnenveld liep
en als hij op een mijn trapte, werd een van zijn poten opgeblazen
en liep hij verder op één poot minder om nog meer mijnen op te blazen.
De kolonel die deze testoefening leidde, blies haar uiteindelijk helemaal af,
omdat hij het onmenselijk vond
om toe te kijken hoe deze robot zich over het mijnenveld sleepte.
Hoe zou het kunnen dat een door de wol geverfde legerofficier
en iemand zoals ik op deze manier op robots reageren?
Natuurlijk hebben science fiction en popcultuur ons ertoe aangezet
deze dingen te verpersoonlijken,
maar het gaat dieper.
Het blijkt dat het in onze natuur zit om intenties en leven toe te schrijven
aan alles wat in onze omgeving uit zichzelf lijkt te bewegen.
Dus we zullen allerlei soorten robots behandelen alsof het levende wezens zijn.
Robots die mijnen ontmantelen, krijgen een naam.
Ze krijgen eremedailles.
Er zijn begrafenissen met saluutschoten voor hen georganiseerd.
Onderzoek wijst uit dat we dit zelfs met simpele huishoudrobots doen,
zoals de Roomba-stofzuiger.
(Gelach)
Dat is niet meer dan een schijf die rondrijdt en je vloer schoonmaakt,
maar het feit dat hij zelfstandig beweegt zorgt ervoor dat mensen hem een naam geven
en het rot voor hem vinden als hij onder de bank vast komt te zitten.
(Gelach)
We kunnen robots zo ontwerpen dat ze juist deze reactie uitlokken,
door ze uit te rusten met ogen en gezichten of bewegingen
die mensen automatisch en onbewust associëren met gemoedstoestanden.
Er is een hele onderzoekstak, mens-robotinteractie genaamd,
die laat zien hoe goed dit werkt.
Onderzoekers van de Stanford University ontdekten bijvoorbeeld
dat mensen zich ongemakkelijk voelen
als je hen vraagt de edele delen van een robot aan te raken.
(Gelach)
Door deze en veel andere onderzoeken
weten we dat mensen reageren
op signalen die ze krijgen van deze levensechte apparaten,
zelfs als ze weten dat ze niet echt zijn.
We gaan naar een wereld toe waarin overal robots zijn.
Robottechnologie begeeft zich buiten de fabrieksmuren.
Het komt naar de werkvloer en huishoudens.
Als deze apparaten, die kunnen voelen, zelfstandig beslissingen nemen en leren,
tot deze gedeelde ruimtes doordringen,
denk ik dat we dat het beste kunnen vergelijken
met de relatie die we met dieren hebben.
Duizenden jaren geleden begonnen we dieren te temmen
en hen te leren voor ons te werken, te vechten en ons gezelschap te houden.
Sommige dieren hebben we behandeld als gereedschap of als product;
andere hebben we vriendelijk behandeld
en als huisdier een plaats gegeven in onze gemeenschap.
Het is denkbaar dat we robots op dezelfde manier zullen integreren.
Natuurlijk, dieren zijn levende wezens.
Robots zijn dat niet.
Ik kan jullie vertellen, door mijn werk met robotici,
dat we nog lang geen robots kunnen ontwikkelen die iets kunnen voelen.
Maar wij hebben wel gevoelens ten aanzien van hén
en dat is belangrijk,
want als we robots willen toelaten in deze gezamenlijke ruimtes,
dan moeten we begrijpen dat we er anders mee omgaan dan met andere apparaten
en dat dit soms,
zoals bij de soldaat die zich emotioneel hecht aan de robot waarmee hij werkt,
inefficiënt kan zijn of zelfs ronduit gevaarlijk.
In andere gevallen kan het juist handig zijn
om deze emotionele band met robots te versterken.
We kennen al verschillende praktische toepassingen,
zoals robots die werken met autistische kinderen
en hun aandacht vasthouden op manieren die we nog niet eerder gezien hebben,
of robots die samen met leraren kinderen helpen te leren, met resultaat.
En het werkt niet alleen bij kinderen.
Vroege studies laten zien dat robots artsen en patiënten kunnen helpen
op het gebied van zorg.
Dit is de PARO-babyzeehondrobot.
Hij wordt gebruikt in verzorgingshuizen en bij dementiepatiënten.
Hij is er al een tijdje.
En ik herinner me, jaren geleden, toen ik op een feestje was
en ik iemand vertelde over deze robot,
haar reactie was:
"Oh, mijn god. Dat is verschrikkelijk.
Niet te geloven dat we mensen robots geven in plaats van menselijke zorg."
Deze reactie komt vaak voor
en ik denk inderdaad dat hij helemaal terecht is,
want dat zou verschrikkelijk zijn.
Maar dat is niet wat de robot hier vervangt.
Deze robot vervangt diertherapie
als we geen echte dieren kunnen gebruiken maar robots wel,
omdat we die consequent meer als dier dan als apparaat behandelen.
Als we deze emotionele band met robots erkennen,
kan ons dat ook helpen uitdagingen het hoofd te bieden
als deze apparaten hun intrede doen in onze privésfeer.
Is het bijvoorbeeld acceptabel als de teddybeerrobot van je kind
vertrouwelijke gesprekken opneemt?
Is het acceptabel als je seksrobot onweerstaanbare in-app aankopen aanbiedt?
(Gelach)
Want de combinatie van robots en kapitalisme
roept vragen op over consumentenbescherming en privacy.
En dat zijn niet de enige redenen
waarom onze opstelling tegenover deze apparaten van belang kan zijn.
Een paar jaar na mijn eerste ervaring met die babydinosaurusrobot
gaf ik een workshop met mijn vriend Hannes Gassert.
We gaven vijf van deze babydinosaurusrobots
aan vijf groepjes mensen.
Ze moesten er een naam voor verzinnen
en ze mochten ermee spelen en ermee aanrommelen, zo'n uur lang.
Toen haalden we een hamer en bijl tevoorschijn
en vroegen hen de robots te martelen en vermoorden.
(Gelach)
Dit leek iets gevoeliger te liggen dan we gedacht hadden,
want geen van de deelnemers wilde ook maar een tik uitdelen
aan deze babydinosaurusrobots,
dus moesten we improviseren en op een gegeven moment zeiden we:
"Jullie kunnen je eigen robot redden als jullie die van een ander team slopen."
(Gelach)
Zelfs dat werkte niet. Ze konden het niet.
Uiteindelijk zeiden we:
"We gaan alle robots vernietigen
tenzij iemand er één met een bijl bewerkt."
Eén man stond op en pakte de bijl,
en iedereen kromp ineen toen hij de bijl liet neerkomen
op de nek van de robot;
in de kamer viel een ogenblik stilte, half geamuseerd, half ernstig,
vanwege deze gevallen robot.
(Gelach)
Dat was een heel interessante ervaring.
Het was natuurlijk geen gecontroleerd onderzoek,
maar het zorgde ervoor dat ik meer onderzoek ging doen aan het MIT
met Palash Nandy en Cynthia Breazeal.
We lieten mensen naar het lab komen en lieten hen deze HEXBUGs slopen;
ze bewegen zich als insecten, op een levensechte manier.
In plaats van iets schattigs te kiezen waar mensen zich tot aangetrokken voelen,
kozen we iets simpelers
en we ontdekten dat mensen die veel inlevingsvermogen hebben
langer aarzelden om op de HEXBUGs in te slaan.
Dit is maar een klein onderzoek,
maar het maakt deel uit van een grote groep onderzoeken
die beginnen uit te wijzen dat er een verband zou kunnen zijn
tussen iemands inlevingsvermogen en zijn houding ten aanzien van robots.
Mijn vraag voor de toekomst van mens-robotinteractie is niet:
'Kunnen we ons inleven in robots?'
maar: 'Hebben robots invloed op ons inlevingsvermogen?'
Moet je bijvoorbeeld verhinderen
dat je kind een robothond schopt,
niet alleen omdat je nu eenmaal tegen spullen aan trapt,
maar omdat het kind misschien anders ook sneller een echte hond zou schoppen?
Nogmaals, het gaat hier niet alleen over kinderen.
Hetzelfde speelt bij gewelddadige videogames,
maar nu is het op totaal onbekend terrein,
want op lichamelijke prikkels reageren we veel sterker dan op schermbeelden.
Als we ons gewelddadig opstellen naar robots toe,
vooral naar robots die ontworpen zijn om levensecht te lijken,
is dat dan een gezonde uitlaatklep voor onze gewelddadige gevoelens
of trainen we dan juist ons vermogen om ons wreed te gedragen?
We weten het niet ...
Het antwoord op deze vraag kan menselijk gedrag beïnvloeden,
kan sociale normen beïnvloeden,
kan leiden tot regels over wat we wel en niet kunnen doen
met bepaalde robots,
net zoals er wetten zijn omtrent dierenmishandeling.
Want zelfs als robots geen gevoel hebben,
dan nog kan de manier waarop we ons tegenover hen opstellen, belangrijk zijn.
Of we nu wel of niet de regels gaan veranderen,
robots zouden ons kunnen helpen onszelf beter te gaan begrijpen.
Het meeste van wat ik de laatste tien jaar heb geleerd,
ging helemaal niet over technologie.
Het ging over psychologie en empathie
en hoe we met elkaar omgaan.
Want als een kind lief doet tegen een Roomba,
als een soldaat een robot op het slagveld probeert te redden,
of als een groep mensen weigert om een babydinosaurusrobot kwaad te doen,
dan zijn deze robots niet alleen motoren en tandwielen en algoritmes.
Dan zijn ze reflecties van onze eigen menselijkheid.
Dank jullie wel.
(Applaus)