Waarom we een emotionele band met robots hebben

We zijn nog lang niet zover dat we robots kunnen maken die emoties hebben, maar we hebben al wel emoties naar hen toe, zegt robot-ethicus Kate Darling, en dat kan consequenties hebben. Kom meer te weten over de manier waarop we biologisch geprogrammeerd zijn om intenties en gevoelens aan machines toe te schrijven -- en hoe ons dat kan helpen onszelf beter te begrijpen.

Op een dag, zo'n tien jaar geleden,
vroeg ik aan een vriend

of hij een babydinosaurusrobot
ondersteboven wilde houden.

Het was een speelgoedbeest,
een Pleo, dat ik besteld had,

en ik was er erg enthousiast over
omdat ik altijd van robots gehouden heb.

En deze had hele gave
technologische functies.

Hij had motortjes, aanraaksensoren
en een infraroodcamera.

Hij had ook een kantelsensor,
zodat hij wist welke kant boven was.

En als je hem ondersteboven hield,
begon hij te huilen.

Ik vond dit erg gaaf
en liet hem trots aan mijn vriend zien.

"Hou hem eens bij zijn staart vast",
zei ik, "en kijk wat er gebeurt."

Dus we staan te kijken
naar de verrichtingen van deze robot,

die spartelt en huilt.

Na een paar seconden
ga ik me een beetje ongemakkelijk voelen

en zeg ik: "Oké, nu is het wel genoeg.
Zet hem maar weer neer."

Daarna aaide ik de robot
om hem te laten ophouden met huilen.

Dat was best een vreemde ervaring voor me.

Ten eerste was ik destijds
niet zo'n moederlijk type.

Al ben ik negen maanden geleden
zelf moeder geworden

en heb ik geleerd dat baby's ook spartelen
als je ze ondersteboven houdt.

(Gelach)

Maar mijn reactie op deze robot
was ook interessant,

omdat ik precies wist
hoe dit apparaat werkte

en er toch aardig tegen wilde zijn.

Dat intrigeerde mij en daar ben ik
de laatste tien jaar mee bezig geweest.

Waarom troostte ik die robot?

Ik ontdekte dat de manier
waarop ik dit apparaat behandelde

meer om het lijf had dan een enkel
ongemakkelijk moment in mijn woonkamer,

en dat in een wereld waar robots
steeds meer een deel van ons leven worden,

zo'n instinct daadwerkelijk
consequenties zou kunnen hebben,

want het eerste waar ik achter kwam,
was dat ik niet de enige ben.

In 2007 schreef de Washington Post
dat het Amerikaanse leger

een robot aan het testen was
die landmijnen onschadelijk maakte.

Het was een soort wandelende tak
die over een mijnenveld liep

en als hij op een mijn trapte,
werd een van zijn poten opgeblazen

en liep hij verder op één poot minder
om nog meer mijnen op te blazen.

De kolonel die deze testoefening leidde,
blies haar uiteindelijk helemaal af,

omdat hij het onmenselijk vond

om toe te kijken hoe deze robot
zich over het mijnenveld sleepte.

Hoe zou het kunnen dat een
door de wol geverfde legerofficier

en iemand zoals ik
op deze manier op robots reageren?

Natuurlijk hebben science fiction
en popcultuur ons ertoe aangezet

deze dingen te verpersoonlijken,

maar het gaat dieper.

Het blijkt dat het in onze natuur zit
om intenties en leven toe te schrijven

aan alles wat in onze omgeving
uit zichzelf lijkt te bewegen.

Dus we zullen allerlei soorten robots
behandelen alsof het levende wezens zijn.

Robots die mijnen ontmantelen,
krijgen een naam.

Ze krijgen eremedailles.

Er zijn begrafenissen met saluutschoten
voor hen georganiseerd.

Onderzoek wijst uit dat we dit zelfs
met simpele huishoudrobots doen,

zoals de Roomba-stofzuiger.

(Gelach)

Dat is niet meer dan een schijf
die rondrijdt en je vloer schoonmaakt,

maar het feit dat hij zelfstandig beweegt
zorgt ervoor dat mensen hem een naam geven

en het rot voor hem vinden
als hij onder de bank vast komt te zitten.

(Gelach)

We kunnen robots zo ontwerpen
dat ze juist deze reactie uitlokken,

door ze uit te rusten
met ogen en gezichten of bewegingen

die mensen automatisch en onbewust
associëren met gemoedstoestanden.

Er is een hele onderzoekstak,
mens-robotinteractie genaamd,

die laat zien hoe goed dit werkt.

Onderzoekers van de Stanford University
ontdekten bijvoorbeeld

dat mensen zich ongemakkelijk voelen

als je hen vraagt de edele delen
van een robot aan te raken.

(Gelach)

Door deze en veel andere onderzoeken

weten we dat mensen reageren

op signalen die ze krijgen
van deze levensechte apparaten,

zelfs als ze weten dat ze niet echt zijn.

We gaan naar een wereld toe
waarin overal robots zijn.

Robottechnologie begeeft zich
buiten de fabrieksmuren.

Het komt naar de werkvloer en huishoudens.

Als deze apparaten, die kunnen voelen,
zelfstandig beslissingen nemen en leren,

tot deze gedeelde ruimtes doordringen,

denk ik dat we dat het beste
kunnen vergelijken

met de relatie die we met dieren hebben.

Duizenden jaren geleden
begonnen we dieren te temmen

en hen te leren voor ons te werken,
te vechten en ons gezelschap te houden.

Sommige dieren hebben we behandeld
als gereedschap of als product;

andere hebben we vriendelijk behandeld

en als huisdier een plaats gegeven
in onze gemeenschap.

Het is denkbaar dat we robots
op dezelfde manier zullen integreren.

Natuurlijk, dieren zijn levende wezens.

Robots zijn dat niet.

Ik kan jullie vertellen,
door mijn werk met robotici,

dat we nog lang geen robots
kunnen ontwikkelen die iets kunnen voelen.

Maar wij hebben wel gevoelens
ten aanzien van hén

en dat is belangrijk,

want als we robots willen toelaten
in deze gezamenlijke ruimtes,

dan moeten we begrijpen dat we er anders
mee omgaan dan met andere apparaten

en dat dit soms,

zoals bij de soldaat die zich emotioneel
hecht aan de robot waarmee hij werkt,

inefficiënt kan zijn
of zelfs ronduit gevaarlijk.

In andere gevallen
kan het juist handig zijn

om deze emotionele band
met robots te versterken.

We kennen al verschillende
praktische toepassingen,

zoals robots die werken
met autistische kinderen

en hun aandacht vasthouden op manieren
die we nog niet eerder gezien hebben,

of robots die samen met leraren
kinderen helpen te leren, met resultaat.

En het werkt niet alleen bij kinderen.

Vroege studies laten zien dat robots
artsen en patiënten kunnen helpen

op het gebied van zorg.

Dit is de PARO-babyzeehondrobot.

Hij wordt gebruikt in verzorgingshuizen
en bij dementiepatiënten.

Hij is er al een tijdje.

En ik herinner me, jaren geleden,
toen ik op een feestje was

en ik iemand vertelde over deze robot,

haar reactie was:

"Oh, mijn god. Dat is verschrikkelijk.

Niet te geloven dat we mensen robots geven
in plaats van menselijke zorg."

Deze reactie komt vaak voor

en ik denk inderdaad
dat hij helemaal terecht is,

want dat zou verschrikkelijk zijn.

Maar dat is niet
wat de robot hier vervangt.

Deze robot vervangt diertherapie

als we geen echte dieren
kunnen gebruiken maar robots wel,

omdat we die consequent
meer als dier dan als apparaat behandelen.

Als we deze emotionele band
met robots erkennen,

kan ons dat ook helpen
uitdagingen het hoofd te bieden

als deze apparaten hun intrede doen
in onze privésfeer.

Is het bijvoorbeeld acceptabel
als de teddybeerrobot van je kind

vertrouwelijke gesprekken opneemt?

Is het acceptabel als je seksrobot
onweerstaanbare in-app aankopen aanbiedt?

(Gelach)

Want de combinatie
van robots en kapitalisme

roept vragen op over
consumentenbescherming en privacy.

En dat zijn niet de enige redenen

waarom onze opstelling tegenover
deze apparaten van belang kan zijn.

Een paar jaar na mijn eerste ervaring
met die babydinosaurusrobot

gaf ik een workshop
met mijn vriend Hannes Gassert.

We gaven vijf van deze
babydinosaurusrobots

aan vijf groepjes mensen.

Ze moesten er een naam voor verzinnen

en ze mochten ermee spelen
en ermee aanrommelen, zo'n uur lang.

Toen haalden we
een hamer en bijl tevoorschijn

en vroegen hen de robots
te martelen en vermoorden.

(Gelach)

Dit leek iets gevoeliger te liggen
dan we gedacht hadden,

want geen van de deelnemers
wilde ook maar een tik uitdelen

aan deze babydinosaurusrobots,

dus moesten we improviseren
en op een gegeven moment zeiden we:

"Jullie kunnen je eigen robot redden
als jullie die van een ander team slopen."

(Gelach)

Zelfs dat werkte niet. Ze konden het niet.

Uiteindelijk zeiden we:

"We gaan alle robots vernietigen

tenzij iemand er één
met een bijl bewerkt."

Eén man stond op en pakte de bijl,

en iedereen kromp ineen
toen hij de bijl liet neerkomen

op de nek van de robot;

in de kamer viel een ogenblik stilte,
half geamuseerd, half ernstig,

vanwege deze gevallen robot.

(Gelach)

Dat was een heel interessante ervaring.

Het was natuurlijk
geen gecontroleerd onderzoek,

maar het zorgde ervoor dat ik
meer onderzoek ging doen aan het MIT

met Palash Nandy en Cynthia Breazeal.

We lieten mensen naar het lab komen
en lieten hen deze HEXBUGs slopen;

ze bewegen zich als insecten,
op een levensechte manier.

In plaats van iets schattigs te kiezen
waar mensen zich tot aangetrokken voelen,

kozen we iets simpelers

en we ontdekten dat mensen
die veel inlevingsvermogen hebben

langer aarzelden om
op de HEXBUGs in te slaan.

Dit is maar een klein onderzoek,

maar het maakt deel uit
van een grote groep onderzoeken

die beginnen uit te wijzen
dat er een verband zou kunnen zijn

tussen iemands inlevingsvermogen
en zijn houding ten aanzien van robots.

Mijn vraag voor de toekomst
van mens-robotinteractie is niet:

'Kunnen we ons inleven in robots?'

maar: 'Hebben robots invloed
op ons inlevingsvermogen?'

Moet je bijvoorbeeld verhinderen

dat je kind een robothond schopt,

niet alleen omdat je nu eenmaal
tegen spullen aan trapt,

maar omdat het kind misschien anders
ook sneller een echte hond zou schoppen?

Nogmaals, het gaat hier
niet alleen over kinderen.

Hetzelfde speelt bij
gewelddadige videogames,

maar nu is het op totaal onbekend terrein,

want op lichamelijke prikkels reageren we
veel sterker dan op schermbeelden.

Als we ons gewelddadig opstellen
naar robots toe,

vooral naar robots die ontworpen zijn
om levensecht te lijken,

is dat dan een gezonde uitlaatklep
voor onze gewelddadige gevoelens

of trainen we dan juist ons vermogen
om ons wreed te gedragen?

We weten het niet ...

Het antwoord op deze vraag
kan menselijk gedrag beïnvloeden,

kan sociale normen beïnvloeden,

kan leiden tot regels
over wat we wel en niet kunnen doen

met bepaalde robots,

net zoals er wetten zijn
omtrent dierenmishandeling.

Want zelfs als robots geen gevoel hebben,

dan nog kan de manier waarop we ons
tegenover hen opstellen, belangrijk zijn.

Of we nu wel of niet
de regels gaan veranderen,

robots zouden ons kunnen helpen
onszelf beter te gaan begrijpen.

Het meeste van wat ik
de laatste tien jaar heb geleerd,

ging helemaal niet over technologie.

Het ging over psychologie en empathie

en hoe we met elkaar omgaan.

Want als een kind lief doet
tegen een Roomba,

als een soldaat een robot
op het slagveld probeert te redden,

of als een groep mensen weigert
om een babydinosaurusrobot kwaad te doen,

dan zijn deze robots niet alleen
motoren en tandwielen en algoritmes.

Dan zijn ze reflecties
van onze eigen menselijkheid.

Dank jullie wel.

(Applaus)