Hoe Facebook profiteert van polarisatie

"Online zijn leugens aanlokkelijker dan de waarheid," zegt voormalig CIA-analist, diplomaat en Facebook-medewerker Yaël Eisenstat. "Zolang algoritmes [van social media] als doel hebben onze aandacht vast te houden, zullen ze ons blijven vergiftigen door in te spelen op onze laagste instincten en menselijke zwakheden." In deze gedurfde talk legt Eisenstat uit hoe socialemediabedrijven zoals Facebook opruiende inhoud promoten en zo bijdragen aan een cultuur van politieke polarisatie en wantrouwen. Ze roept regeringen op deze platforms ter verantwoording te roepen om het maatschappelijk discours en onze democratie te beschermen.

Zo'n vijf jaar geleden

merkte ik dat ik
steeds minder in staat was

met mensen om te gaan
die andersgezind zijn.

Het bespreken van
hete hangijzers met landgenoten

begon me moeilijker te vallen

dan mijn gesprekken met verdachte
extremisten uit andere landen.

Ik voelde me steeds
bitterder en gefrustreerder.

En daarom verlegde ik mijn focus

van bedreigingen
voor de nationale veiligheid

naar de vraag wat aan de basis lag

van de steeds extremere polarisatie
in mijn thuisland.

Als voormalig CIA-officier en diplomaat

die jarenlang extremisme
hielp te bestrijden,

vreesde ik dat dit onze democratie
veel meer begon te bedreigen

dan eender welke
buitenlandse tegenstander.

Dus begon ik onderzoek te doen
en mij uit te spreken,

waardoor ik werd aangenomen
door Facebook

en hier vandaag voor jullie sta

om jullie te waarschuwen
over hoe deze platforms

velen van ons manipuleren en radicaliseren

en om te bespreken hoe we
het publieke debat kunnen terugwinnen.

Ik werkte als dienstofficier in Kenia

een paar jaar na de aanslagen
van 11 september

en leidde de campagnes
genaamd Hearts and Minds

aan de grens van Somalië.

Ik bouwde een vertrouwensrelatie op
met de gemeenschappen

die het vatbaarst waren
voor extremistische berichtgeving.

Ik heb urenlang thee gedronken met
uitgesproken anti-westerse geestelijken

en ging zelfs in dialoog
met enkele verdachte terroristen,

en hoewel veel van deze contacten
begonnen met wederzijdse achterdocht,

herinner ik me niet dat dit ooit
eindigde met geschreeuw of beledigingen,

en soms werkten we zelfs samen
als er sprake was van wederzijds belang.

Onze krachtigste instrumenten
waren om gewoon te luisteren, te leren

en empathie op te bouwen.

Dit is de essentie van Hearts and Minds,

want wat ik steeds weer ondervond
is dat de meeste mensen

gehoord, gevalideerd
en gerespecteerd willen worden.

En ik geloof dat
de meesten van ons dat willen.

Dus wat ik vandaag online
zie gebeuren is hartverscheurend

en veel moeilijker aan te pakken.

We worden gemanipuleerd
door het huidige informatie-ecosysteem,

waardoor velen van ons
ons zover ingraven in absolutisme

dat compromis een vies woord is geworden.

Want momenteel profiteren
social media als Facebook

van de segmentatie van burgers
door ons gepersonaliseerde inhoud te tonen

die onze vooroordelen
bevestigt en uitbuit.

Hun doel is om een sterke
emotie uit te lokken

om onze aandacht vast te houden.

Daardoor krijgen de meest opruiende
en polariserende stemmen de bovenhand,

tot het bijna onmogelijk wordt
om nog raakvlakken te vinden.

En ondanks de stijgende vraag
naar een verandering van de platforms

is het duidelijk dat ze
in hun eentje niet genoeg zullen doen.

Dus regeringen moeten
de verantwoordelijkheid definiëren

voor de reële schade die wordt veroorzaakt
door deze bedrijfsmodellen

en kosten opleggen
voor de schadelijke gevolgen

voor onze volksgezondheid,
ons publieke debat en onze democratie.

Helaas zal dit niet meer gebeuren
voor de Amerikaanse presidentsverkiezingen

dus blijf ik aan de alarmbel trekken,

want zelfs als we ooit
een sterke regelgeving krijgen,

is de inzet van elk van ons nodig
om dit op te lossen.

Toen ik mijn focus verlegde
van buitenlandse dreigingen

naar de afbraak van ons eigen
maatschappelijk debat,

vroeg ik me af of we de campagnes
van Hearts and Minds konden hergebruiken

om iets aan onze verdeeldheid te doen.

Ons democratische experiment
van meer dan 200 jaar werkt grotendeels

omdat we in staat zijn openlijk
en gepassioneerd onze ideeën te bespreken,

op zoek naar de beste oplossing.

Maar hoewel ik nog steeds diep geloof

in de kracht van een respectvol debat,

kan het gewoon niet concurreren

met de polariserende effecten
en de omvang van social media.

De mensen die worden meegezogen
in de verontwaardiging op social media

kunnen vaak veel moeilijker
afstand doen van hun ideologieën

dan ooit het geval was bij de kwetsbare
gemeenschappen waarmee ik werkte.

Dus toen Facebook me in 2018 opbelde
en me vroeg de leiding te nemen

over haar activiteiten inzake
de integriteit van politieke advertenties,

vond ik dat ik ja moest zeggen.

Ik had geen illusies
dat ik het allemaal zou oplossen,

maar als ik de mogelijkheid kreeg
het schip in een betere richting te sturen

moest ik het op zijn minst proberen.

Ik werkte niet direct rond polarisatie,

maar onderzocht wel welke kwesties
de meeste sociale verdeeldheid zaaien

en dus makkelijk kunnen worden uitgebuit
om de verkiezingen te beïnvloeden,

wat de tactiek van Rusland was
in de aanloop naar 2016.

Dus begon ik vragen te stellen.

Ik wou de onderliggende
systemische problemen begrijpen

die dit konden laten gebeuren
en uitzoeken hoe dit te verhelpen.

Nu geloof ik nog steeds
in de kracht van het internet

om meer stemmen te laten horen,

maar ondanks hun doel
om een gemeenschap uit te bouwen,

zijn de grote socialemediabedrijven
in hun huidige vorm

onverzoenbaar met het idee
van een redelijk discours.

Het is onmogelijk om luisteren te belonen,

een civiel debat aan te moedigen

en mensen te beschermen
die oprecht vragen willen stellen

in een sector waar
meer betrokkenheid en meer gebruikers

de twee belangrijkste maatstaven
voor succes zijn.

Er is geen stimulans
om mensen te helpen vertragen,

om genoeg frictie in te bouwen
zodat mensen moeten stoppen,

zich bewust worden
van hun emotionele reactie

en hun eigen aannames
in vraag te stellen voor ze reageren.

De ongelukkige realiteit is:

online zijn leugens
aanlokkelijker dan de waarheid,

en schunnigheid overtroeft
een feitelijke redenering

in een wereld die gericht is
op frictieloze viraliteit.

Zolang algoritmes als doel hebben
onze aandacht vast te houden,

zullen ze ons blijven vergiftigen door
in te spelen op onze laagste instincten

en menselijke zwakheden.

En ja, woede, wantrouwen,

de cultuur van angst en haat:

niets van dit alles is nieuw in Amerika.

Maar de afgelopen jaren hebben
social media dit allemaal verscherpt

en, zoals ik het zie, de weegschaal
dramatisch doen kantelen.

En Facebook weet het.

Een artikel in de Wall Street Journal

bracht een interne Facebook-presentatie
uit 2018 aan het licht

die de algoritmes van het bedrijf
als oorzaak aanwijst

voor het stijgend aantal extremistische
groeperingen op hun platform

en de polarisering van hun gebruikers.

Maar onze aandacht vasthouden
is hoe ze geld verdienen.

De moderne informatie-omgeving
draait om de profilering van gebruikers

om ons te segmenteren
in steeds engere categorieën

om dit proces van personalisering
te perfectioneren.

Zo worden we gebombardeerd met informatie
die onze standpunten bevestigt,

onze vooroordelen versterkt,

en ons het gevoel geeft
ergens bij te horen.

Dezelfde tactieken worden gebruikt
voor de rekrutering van terroristen

waarbij men aast op kwetsbare jongeren,

zij het op kleinere, lokalere schaal
voor de opkomst van social media,

met als uiteindelijk doel
hun gedrag te beïnvloeden.

Helaas heb ik van Facebook nooit de kans
gekregen om reële impact te hebben.

Op mijn tweede werkdag werden mijn titel
en functieomschrijving al veranderd

en werd ik geweerd uit comités
die beslissingen konden nemen.

Mijn grootste inspanningen,

mijn plannen voor het bestrijden
van desinformatie

en misleiding van kiezers
bij politieke advertenties

werden afgewezen.

En dus bleef ik
amper zes maanden in dienst.

Maar dit is mijn grootste les
van mijn tijd in het bedrijf.

Er zijn duizenden mensen bij Facebook

die vol passie aan een product werken

waarvan ze echt geloven
dat de wereld er beter van wordt,

maar zolang het bedrijf zich enkel
bezighoudt met wat gepriegel in de marge

van content policy en matiging,

in plaats van in te zien

hoe de hele machine
is ontworpen en gemonetiseerd,

zullen ze nooit echt werk maken
van hoe het platform bijdraagt

aan haat, verdeeldheid en radicalisering.

En dat is het enige gesprek dat ik nooit
heb weten voeren toen ik er werkte,

omdat dat zou vereisen
dat je principieel aanvaardt

dat wat je hebt gecreëerd

misschien toch niet zo goed is
voor de maatschappij

en akkoord gaat om het hele
product- en winstmodel te veranderen.

Wat kunnen we hieraan doen?

Ik zeg niet dat social media
als enige verantwoordelijk zijn

voor de situatie waarin we ons bevinden.

We hebben duidelijk diepgewortelde
sociale problemen die we moeten oplossen.

Maar Facebooks reactie dat het slechts
een spiegel is van de maatschappij,

is een gemakkelijke poging
elke verantwoordelijkheid af te schuiven

van de manier waarop hun platform
schadelijke inhoud versterkt

en sommige gebruikers in de richting
van extreme standpunten duwt.

En Facebook kan, als het dat wil,

een deel van de problemen oplossen.

Ze zouden kunnen stoppen met
het promoten van samenzweringstheorieën,

haatgroepen, makers van desinformatie

en ja, in sommige gevallen
zelfs onze president.

Ze kunnen stoppen dezelfde
personalisatietechnieken te gebruiken

voor politieke retoriek die ze gebruiken
om schoenen te verkopen.

Ze kunnen hun algoritmes zo aanpassen

dat ze op iets anders focussen
dan betrokkenheid

en drempels inbouwen zodat
bepaalde inhoud niet viraal kan gaan

voor hij wordt geëvalueerd.

Ze kunnen dit allemaal doen

zonder 'de scheidsrechter van de waarheid'
te worden, zoals ze zelf beweren.

Maar ze hebben duidelijk gemaakt
dat ze niet ver genoeg willen gaan

om het juiste te doen
als ze niet worden gedwongen.

En waarom zouden ze ook?

De markten blijven hen belonen,
en ze overtreden de wet niet.

Want momenteel

zijn er geen wetten in de VS die Facebook
of andere social media dwingen

het publieke debat te beschermen,

evenals onze democratie

en zelfs onze verkiezingen.

De vraag welke regels gerespecteerd
en afgedwongen moeten worden,

laten we over aan de CEO's
van commerciële internetbedrijven.

Is dit wat we willen?

Een wereld zonder waarheid,
waar toxiciteit en tribalisme

onze zoektocht naar consensus
onmogelijk maken?

Ik blijf geloven dat we nog steeds
meer met elkaar gemeen hebben

dan de huidige media en online-omgeving
ons willen doen geloven.

Ik geloof ook dat meer perspectieven

zorgen voor een meer robuuste
en inclusieve democratie.

Maar dat is niet wat momenteel gebeurt.

En ik wil benadrukken dat ik
deze bedrijven niet kapot wil maken.

Ik wil gewoon dat ze een zekere
verantwoording moeten afleggen,

net als de rest van de samenleving.

Het is tijd dat onze regeringen
wakker worden en hun werk doen

om hun burgers te beschermen.

En hoewel er geen magische wetgeving is
die dit alles zal oplossen,

geloof ik wel dat regeringen
een balans kunnen en moeten vinden

tussen de vrije meningsuiting beschermen

en deze platforms ter verantwoording
roepen voor hun effect op de samenleving.

Ze zouden dat deels kunnen doen
door aan te dringen op echte transparantie

over hoe deze machines
bepaalde inhoud promoten,

over hoe informatie wordt gecureerd,
versterkt en afgevuurd op doelgroepen.

Ik wil dat deze bedrijven
verantwoording moeten afleggen

niet voor individuen
die desinformatie verspreiden

of extreme uitspraken doen,

maar voor de manier waarop hun
machines bepaalde info verspreiden,

hoe hun algoritmes bepaalde
mensen naar die info leiden,

en hoe ze hun systemen gebruiken
om bepaalde doelgroepen te viseren.

Ik heb getracht om verandering te creëren
van binnen Facebook, maar helaas.

Dus gebruik ik sinds een paar
jaar weer mijn stem

om dit onder de aandacht te brengen

en hopelijk meer mensen te inspireren
om verantwoording te eisen.

Mijn boodschap aan jullie is eenvoudig:

oefen druk uit op de overheid

om te verhinderen dat ons publieke debat
wordt gestuurd door commerciële belangen.

Help vrienden en familie inzien
hoe ze online worden gemanipuleerd.

Ga het gesprek aan
met mensen die niet gelijkgezind zijn.

Maak van deze kwestie een prioriteit.

We moeten dit probleem
als samenleving aanpakken.

En mijn boodschap aan de leiders
van mijn vroegere werkgever Facebook is:

momenteel gebruiken mensen je systemen
precies zoals die zijn ontworpen,

om haat, verdeeldheid
en wantrouwen te zaaien,

en je laat het niet alleen toe,
je houdt het zelf in stand.

En ja, er zijn veel mooie verhalen

van positieve dingen die wereldwijd
op je platform gebeuren,

maar dat maakt dit allemaal niet goed.

En het wordt nog erger
met de verkiezingen in zicht

en zeker nu we
de grootste crisis ooit riskeren

als de resultaten onbetrouwbaar zijn
en er geweld uitbreekt.

Dus als je in 2021 opnieuw zegt
"We weten dat we het beter moeten doen",

wil ik dat je aan dit moment terugdenkt,

want het gaat al lang niet meer
om een paar buitenbeentjes.

Burgerrechtenactivisten, academici,

journalisten, adverteerders,
je eigen personeel,

ze schreeuwen allemaal van de daken

dat je beleid en bedrijfspraktijken
schadelijk zijn voor mens en democratie.

Jij bent verantwoordelijk
voor je beslissingen,

maar kom achteraf niet zeggen
dat je dit niet had zien aankomen.

Bedankt.