Facebook, du ødelægger vores demokrati.

"Løgne er mere spændende online end sandheden" siger en tidligere CIA-analytiker, diplomat og Facebook-ansat, Yaël Eisenstat. "Så længe [social media] algoritmernes mål er at holde os engagerede, vil de give os gift, der går efter vores værste instinkter og menneskelige svagheder." I dette modige foredrag gennemgår Eisenstat hvordan sociale medier som Facebook bruger provokerende indhold, hvilket fører til en kultur med politisk polarisering og mangel på tillid -- og opfordrer regeringer til at holde platformene ansvarlige for at beskytte den almene diskurs og demokratiet.

Jeg opdagede for cirka fem år siden,

at jeg ikke længere kunne diskutere

med folk jeg var uenig med.

Det var mere skræmmende,
at diskutere alvorlige emner

med mine landsmænd, end det var

at interagere med ekstremister i udlandet.

Det gjorde mig mere bitter og frustreret.

Og lige pludselig

skiftede hele mit fokus

fra globale sikkerhedstrusler

til at forstå den øgede polarisering

herhjemme.

Som en tidligere CIA-ansat og diplomat,

der har brugt år på at bekæmpe
ekstremisme,

følte jeg, at dette var farligere
for vores demokrati

end nogen fremmed fjende.

Så jeg dykkede ned i emnet

og begyndte at snakke om det,

hvilket fik mig hyret af Facebook

og i sidste ende bragte mig her,

for fortsat at advare jer om,
hvordan disse platforme

manipulerer og radikaliserer
mange af os,

og for at snakke om, hvordan vi
forbedre den offentlige debat.

Få år efter angrebene d. 11. september

arbejdede jeg for CIA i Kenya,
hvor vi førte

en "hearts and minds"-kampagner

langs Somalias grænse.

En stor del af mit job var at
opbygge tillid med de samfund,

der var mest sårbare
for ekstremisterne idéer.

Jeg drak te med anti-vestlige gejstlige

og var endda i dialog med nogle
terrormistænkte.

Mange af disse interaktioner
begyndte med fælles mistillid,

men ingen førte til råben
eller fornærmelser,

og i nogle tilfælde samarbejdede
vi endda på grund af delte interesser.

Vores mest magtfulde redskaber
var at lytte, lære

og opbygge empati.

Det er sådan "hearts and minds"
fungerer,

for jeg så ofte, at folk basalt set ønsker

at blive hørt, bekræftet
og respekteret.

Og jeg tror, de fleste af os ønsker dette.

Så hvad der nu sker online,
er særligt sørgeligt og

et meget større problem.

Vi bliver manipuleret af det nuværende
informationsøkosystem,

der skubber mange af os mod
ekstremisme,

at "kompromis" er blevet et bandeord.

Fordi lige nu,

tjener sociale medier som Facebook

penge på at dele os og give os
personliggjort indhold,

der både bekræfter og udnytter
vores fordomme.

De går efter at vække stærke følelser

for at holde os engageret,

hvilket ofte giver luft til de mest
ekstreme og polariserende meninger,

så det ikke længere synes muligt
at kunne enes.

Og selvom flere og flere ønsker,
at platformene skal ændres,

så gør de det tydeligvis ikke af sig selv.

Så regeringer må definere ansvaret

for de virkelige skader
dette forårsager,

og sørge for, at den skadende
indflydelse det har

på vores helbred, folkestemning
og demokrati får konsekvenser.

Dette sker uheldigvis ikke før
det amerikanske præsidentvalg,

så jeg vil fortsat advare folk,

for selv hvis vi en dag
får strengere regler,

er der brug for os alle,
når det skal løses.

Da mit fokus skiftede fra
udenlandske trusler

til den ødelæggende tone herhjemme,

overvejede jeg, om vi kunne
bruge "hearts and minds"-kampagner

til at hele vores forskelle.

Vores 200 år lange
demokratieksperiment

virker til dels,
fordi vi åbent og lidenskabeligt

kan debattere vores idéer og
finde de bedste løsninger.

Selvom jeg stadig tror på

ansigt-til-ansigt debatters magt,

kan de ikke konkurrere

med sociale mediers udbredelse
og polariserende betydning lige nu.

Folk, der bliver suget ned
i disse raserigrave

på sociale medier,

har ofte sværere ved at bryde
med deres ideologiske tankegang

end det var for de sårbare samfund,
som jeg arbejdede med.

Så da Facebook kontaktede mig i 2018

og tilbød mig et job,

som leder for deres integritetstiltag
i forbindelse med politiske valgreklamer,

følte jeg en pligt til at sige ja.

Jeg vidste, at jeg ikke kunne løse alt,

men når jeg fik muligheden

for at sætte en bedre kurs,

burde jeg i det mindste prøve.

Jeg arbejdede ikke direkte
med polarisering,

men så på de mest splittende emner,

og hvordan de bedst kunne bruges
til at påvirke valg,

som russerne gjorde i 2016.

Jeg begyndte at stille spørgsmål.

Jeg ville forstå systemets
grundlæggende fejl,

der tillod dette,

for derved at finde en løsning.

Jeg tror stadig på internettets magt

til at give alle folk en stemme,

men selvom de største
sociale medier påstår,

at bringe folk sammen, så forhindrer
deres nuværende opbygning

en fornuftig debat.

Man kan ikke belønne, at folk lytter,

opfordre til venlig debat

og eller beskytte folk, der ønsker
at stille spørgsmål,

når branchens opskrift på succes
er at øge folks deltagelse

og få flere brugere.

Der opfordres ikke til at hjælpe
folk med at tage det roligt,

til at skabe et miljø, hvor folk
er nødt til at stoppe op,

evaluere deres følelsesmæssige
reaktion på et emne

og se på deres egne antagelser,
før de debatterer.

Den ulykkelige onlinevirkelighed er,

at løgne er mere interessante
end sandheden,

og en verden, der er besat
af viral spænding,

elsker slibrige emner mere end
kedelig og faktabaseret tankegang.

Så længe algoritmerne
skal fordre vores deltagelse

vil de fortsat appellere
til vores værste instinkter

og menneskelige svagheder.

USA har ført oplevet

vrede, mistillid,

frygtkultur og had,

men sociale medier har de
sidste par år udnyttet disse,

og derved gjort dem værre.

Facebook ved det godt.

En ny artikel fra "Wall Street Journal"

afslørede en intern
Facebook-præsentation fra 2018,

der beskylder firmaets
egne algoritmer

for at øge antallet af
ekstremistiske grupper på Facebook

og for at polarise deres brugere.

Men de tjener penge på
at holde os engagerede.

Det moderne informationsmiljø
profilerer os for derefter

at inddele os i mere og mere
snævre kategorier

for at afkode vores personlighed.

Vi bliver derefter fodret med information,
der bekræfter vores meninger,

styrker vores fordomme

og viser os,
at vi hører til et sted.

Terrorister bruger den samme teknik,

når de rekrutterer sårbare unge,

dog på mindre og mere tilpassede
måder før sociale medier,

med det endelig mål at
ændre deres opførsel.

Desværre gav Facebook mig ikke lov
til at gøre en egentlig forskel.

Allerede på min anden dag blev
min titel og jobbeskrivelse ændret,

og jeg kom ikke med til møder,
hvor man tog beslutninger.

Mine anstrengelser

med at lægge planer,

der bekæmpede misinformation og
vælgerundertrykkelse i politiske reklamer

blev afvist.

Så jeg holdt kun i knap seks måneder.

Men jeg lærte noget vigtigt
i den tid:

Der er tusindvis af folk hos Facebook,

der ønsker at arbejde med et produkt,

som de oprigtigt tror gør verden bedre,

men så længe firmaet
knap nok berører

regler om indhold og mådehold,

fremfor at se på,

hvordan hele maskinen
er baseret på indtjening,

vil de aldrig kunne forhindre,
at Facebook skaber

had, splittelse og radikalisering.

Og det blev aldrig berørt,
mens jeg arbejdede der,

for det ville kræve,
at du accepterer,

at det du har opbygget,
måske ikke er til samfundets bedste,

og accepterer at ændre hele produktet og
indtjeningsmodellen.

Så hvad kan vi gøre?

Jeg siger ikke, at sociale medier
bærer al skylden

for vores nuværende situation.

Vi har tydeligvis dybe problemer
i samfundet, som vi skal løse.

Men når Facebook siger, at de
blot er samfundets spejl,

forsøger de at undgå at tage ansvar

for den måde, deres platform
forstærker skadeligt indhold,

og skubber brugere mod ekstremisme.

Facebook kunne løse noget af dette,

hvis de ville.

De kunne stoppe med at fremme
konspirationsteoretikere,

hadgrupper, spredning af misinformation

og ja, nogle gange endda vores præsident.

De kunne stoppe med at bruge de
samme profilereringsteknikker

til at leve politik, som når de
sælger os sko.

De kunne ændre deres algoritmer

så de fokuserer på andet end deltagelse,

og opsætte barrierer, der forhindrer
visse former for indhold,

at blive vist uden gennemgang.

Og alt dette kan gøres uden

at de bliver, i deres egne ord,
dommere over sandheden.

Men de har vist, at de ikke
ønsker at gå langt nok

for at gøre det rigtige uden tvang,

og ærlig talt, hvorfor skulle de?

Markederne belønner dem fortsat,
og de bryder ikke loven.

For i øjeblikket

har USA ingen love, der tvinger
Facebook eller andre sociale medier

til at beskytte vores folkestemning,

vores demokrati

og endda vores valg.

Vi lader CEOs fra
indtjenende internetfirmaer bestemme,

hvilker regler, der skal laves,
og hvilke, der skal håndhæves.

Er det, hvad vi ønsker?

En postfaktuel verden,
hvor giftig tale og stammekultur

slår forsøg på samarbejde og
opnåelse af konsensus?

Jeg forbliver optimistisk og tror,
at vi har mere tilfælles

end hvad nutidens mediebillede
og onlinemiljø påstår,

og jeg tror, at en mere
perspektiveret tilgang

giver et mere robust og
inkluderende demokrati.

Men ikke som det sker lige nu.

Jeg ønsker ikke,
at slippe af med disse firmaer.

Jeg ønsker, at de skal holdes ansvarlige,

ligesom resten af samfundet.

Vores regeringer bør komme
ind i kampen

og beskytte vores borgere.

Og selvom der ikke er en magisk lov,

der kan løse det hele,

så kan og må regeringer
finde balancen

mellem at beskytte ytringsfriheden

og holde disse firmaer ansvarlige for
deres påvirking af samfundet.

De kunne kræve åbenhed omkring,

hvordan anbefalingerne
foretages online,

og hvordan der organiseres,
fremmes og målrettes.

Jeg vil holde disse firmaer ansvarlige,

ikke for individer, der poster
falske oplysninger,

eller ekstrem retorik,

men for hvordan deres anbefalinger
spreder det,

hvordan deres algoritmer fører
folk mod det

og hvordan deres værktøjer bruges
til at målrette det efter folk.

Jeg prøvede at ændre Facebook indefra
men det slog fejl,

så de sidste par år
har jeg i stedet brugt min stemme

til advare folk om denne fare,

og forhåbentlig opfordre flere folk
til at forlange ansvarlighed.

Min besked til jer er simpel:

Pres jeres politikere til at stoppe

overdragelsen af folkestemningen
til indtjenende firmaer.

Fortæl venner og familie om,

hvordan de bliver manipuleret online.

Tving jer selv til at tale med folk,
der ikke deler jeres mening.

Gør dette til en prioritet.

Vi har brug for hele samfundet
for at løse dette.

Og min besked til mine tidligere chefer
hos Facebook er:

Lige nu bruger folk jeres værktøjer
som de var designet,

altså til at sprede had, splittelse
og mistillid,

og I ikke kun tillader det, men
gør det nemmere.

Og ja, der er mange gode historier

med positive ting, der sker på jeres
platform rundt om i verden,

men det gør ikke dette OK.

Og det bliver kun værre, da vi
er på vej til vores næste valg,

og endnu mere bekymrende,

når vi ser på vores største
potentielle krise,

hvor mistillid til resultaterne
kan ende med vold.

Så når I igen i 2021 siger
"Vi ved, vi skal blive bedre",

så vil jeg have jer til at huske dette
øjeblik,

for det er ikke længere kun nogle
få stemmer på sidelinjen.

Menneskerettighedsforekæmpere,
akademikere,

journalister, reklamefolk og
jeres egne medarbejdere

advarer højt og larmende om,

at jeres politikker og forretningsmodeller

skader folk og demokratiet.

I er ansvarlige for jeres beslutninger,

men I kan ikke længere sige,
at I ikke vidste, det ville ske.

Tak.