Jeg opdagede for cirka fem år siden,
at jeg ikke længere kunne diskutere
med folk jeg var uenig med.
Det var mere skræmmende,
at diskutere alvorlige emner
med mine landsmænd, end det var
at interagere med ekstremister i udlandet.
Det gjorde mig mere bitter og frustreret.
Og lige pludselig
skiftede hele mit fokus
fra globale sikkerhedstrusler
til at forstå den øgede polarisering
herhjemme.
Som en tidligere CIA-ansat og diplomat,
der har brugt år på at bekæmpe
ekstremisme,
følte jeg, at dette var farligere
for vores demokrati
end nogen fremmed fjende.
Så jeg dykkede ned i emnet
og begyndte at snakke om det,
hvilket fik mig hyret af Facebook
og i sidste ende bragte mig her,
for fortsat at advare jer om,
hvordan disse platforme
manipulerer og radikaliserer
mange af os,
og for at snakke om, hvordan vi
forbedre den offentlige debat.
Få år efter angrebene d. 11. september
arbejdede jeg for CIA i Kenya,
hvor vi førte
en "hearts and minds"-kampagner
langs Somalias grænse.
En stor del af mit job var at
opbygge tillid med de samfund,
der var mest sårbare
for ekstremisterne idéer.
Jeg drak te med anti-vestlige gejstlige
og var endda i dialog med nogle
terrormistænkte.
Mange af disse interaktioner
begyndte med fælles mistillid,
men ingen førte til råben
eller fornærmelser,
og i nogle tilfælde samarbejdede
vi endda på grund af delte interesser.
Vores mest magtfulde redskaber
var at lytte, lære
og opbygge empati.
Det er sådan "hearts and minds"
fungerer,
for jeg så ofte, at folk basalt set ønsker
at blive hørt, bekræftet
og respekteret.
Og jeg tror, de fleste af os ønsker dette.
Så hvad der nu sker online,
er særligt sørgeligt og
et meget større problem.
Vi bliver manipuleret af det nuværende
informationsøkosystem,
der skubber mange af os mod
ekstremisme,
at "kompromis" er blevet et bandeord.
Fordi lige nu,
tjener sociale medier som Facebook
penge på at dele os og give os
personliggjort indhold,
der både bekræfter og udnytter
vores fordomme.
De går efter at vække stærke følelser
for at holde os engageret,
hvilket ofte giver luft til de mest
ekstreme og polariserende meninger,
så det ikke længere synes muligt
at kunne enes.
Og selvom flere og flere ønsker,
at platformene skal ændres,
så gør de det tydeligvis ikke af sig selv.
Så regeringer må definere ansvaret
for de virkelige skader
dette forårsager,
og sørge for, at den skadende
indflydelse det har
på vores helbred, folkestemning
og demokrati får konsekvenser.
Dette sker uheldigvis ikke før
det amerikanske præsidentvalg,
så jeg vil fortsat advare folk,
for selv hvis vi en dag
får strengere regler,
er der brug for os alle,
når det skal løses.
Da mit fokus skiftede fra
udenlandske trusler
til den ødelæggende tone herhjemme,
overvejede jeg, om vi kunne
bruge "hearts and minds"-kampagner
til at hele vores forskelle.
Vores 200 år lange
demokratieksperiment
virker til dels,
fordi vi åbent og lidenskabeligt
kan debattere vores idéer og
finde de bedste løsninger.
Selvom jeg stadig tror på
ansigt-til-ansigt debatters magt,
kan de ikke konkurrere
med sociale mediers udbredelse
og polariserende betydning lige nu.
Folk, der bliver suget ned
i disse raserigrave
på sociale medier,
har ofte sværere ved at bryde
med deres ideologiske tankegang
end det var for de sårbare samfund,
som jeg arbejdede med.
Så da Facebook kontaktede mig i 2018
og tilbød mig et job,
som leder for deres integritetstiltag
i forbindelse med politiske valgreklamer,
følte jeg en pligt til at sige ja.
Jeg vidste, at jeg ikke kunne løse alt,
men når jeg fik muligheden
for at sætte en bedre kurs,
burde jeg i det mindste prøve.
Jeg arbejdede ikke direkte
med polarisering,
men så på de mest splittende emner,
og hvordan de bedst kunne bruges
til at påvirke valg,
som russerne gjorde i 2016.
Jeg begyndte at stille spørgsmål.
Jeg ville forstå systemets
grundlæggende fejl,
der tillod dette,
for derved at finde en løsning.
Jeg tror stadig på internettets magt
til at give alle folk en stemme,
men selvom de største
sociale medier påstår,
at bringe folk sammen, så forhindrer
deres nuværende opbygning
en fornuftig debat.
Man kan ikke belønne, at folk lytter,
opfordre til venlig debat
og eller beskytte folk, der ønsker
at stille spørgsmål,
når branchens opskrift på succes
er at øge folks deltagelse
og få flere brugere.
Der opfordres ikke til at hjælpe
folk med at tage det roligt,
til at skabe et miljø, hvor folk
er nødt til at stoppe op,
evaluere deres følelsesmæssige
reaktion på et emne
og se på deres egne antagelser,
før de debatterer.
Den ulykkelige onlinevirkelighed er,
at løgne er mere interessante
end sandheden,
og en verden, der er besat
af viral spænding,
elsker slibrige emner mere end
kedelig og faktabaseret tankegang.
Så længe algoritmerne
skal fordre vores deltagelse
vil de fortsat appellere
til vores værste instinkter
og menneskelige svagheder.
USA har ført oplevet
vrede, mistillid,
frygtkultur og had,
men sociale medier har de
sidste par år udnyttet disse,
og derved gjort dem værre.
Facebook ved det godt.
En ny artikel fra "Wall Street Journal"
afslørede en intern
Facebook-præsentation fra 2018,
der beskylder firmaets
egne algoritmer
for at øge antallet af
ekstremistiske grupper på Facebook
og for at polarise deres brugere.
Men de tjener penge på
at holde os engagerede.
Det moderne informationsmiljø
profilerer os for derefter
at inddele os i mere og mere
snævre kategorier
for at afkode vores personlighed.
Vi bliver derefter fodret med information,
der bekræfter vores meninger,
styrker vores fordomme
og viser os,
at vi hører til et sted.
Terrorister bruger den samme teknik,
når de rekrutterer sårbare unge,
dog på mindre og mere tilpassede
måder før sociale medier,
med det endelig mål at
ændre deres opførsel.
Desværre gav Facebook mig ikke lov
til at gøre en egentlig forskel.
Allerede på min anden dag blev
min titel og jobbeskrivelse ændret,
og jeg kom ikke med til møder,
hvor man tog beslutninger.
Mine anstrengelser
med at lægge planer,
der bekæmpede misinformation og
vælgerundertrykkelse i politiske reklamer
blev afvist.
Så jeg holdt kun i knap seks måneder.
Men jeg lærte noget vigtigt
i den tid:
Der er tusindvis af folk hos Facebook,
der ønsker at arbejde med et produkt,
som de oprigtigt tror gør verden bedre,
men så længe firmaet
knap nok berører
regler om indhold og mådehold,
fremfor at se på,
hvordan hele maskinen
er baseret på indtjening,
vil de aldrig kunne forhindre,
at Facebook skaber
had, splittelse og radikalisering.
Og det blev aldrig berørt,
mens jeg arbejdede der,
for det ville kræve,
at du accepterer,
at det du har opbygget,
måske ikke er til samfundets bedste,
og accepterer at ændre hele produktet og
indtjeningsmodellen.
Så hvad kan vi gøre?
Jeg siger ikke, at sociale medier
bærer al skylden
for vores nuværende situation.
Vi har tydeligvis dybe problemer
i samfundet, som vi skal løse.
Men når Facebook siger, at de
blot er samfundets spejl,
forsøger de at undgå at tage ansvar
for den måde, deres platform
forstærker skadeligt indhold,
og skubber brugere mod ekstremisme.
Facebook kunne løse noget af dette,
hvis de ville.
De kunne stoppe med at fremme
konspirationsteoretikere,
hadgrupper, spredning af misinformation
og ja, nogle gange endda vores præsident.
De kunne stoppe med at bruge de
samme profilereringsteknikker
til at leve politik, som når de
sælger os sko.
De kunne ændre deres algoritmer
så de fokuserer på andet end deltagelse,
og opsætte barrierer, der forhindrer
visse former for indhold,
at blive vist uden gennemgang.
Og alt dette kan gøres uden
at de bliver, i deres egne ord,
dommere over sandheden.
Men de har vist, at de ikke
ønsker at gå langt nok
for at gøre det rigtige uden tvang,
og ærlig talt, hvorfor skulle de?
Markederne belønner dem fortsat,
og de bryder ikke loven.
For i øjeblikket
har USA ingen love, der tvinger
Facebook eller andre sociale medier
til at beskytte vores folkestemning,
vores demokrati
og endda vores valg.
Vi lader CEOs fra
indtjenende internetfirmaer bestemme,
hvilker regler, der skal laves,
og hvilke, der skal håndhæves.
Er det, hvad vi ønsker?
En postfaktuel verden,
hvor giftig tale og stammekultur
slår forsøg på samarbejde og
opnåelse af konsensus?
Jeg forbliver optimistisk og tror,
at vi har mere tilfælles
end hvad nutidens mediebillede
og onlinemiljø påstår,
og jeg tror, at en mere
perspektiveret tilgang
giver et mere robust og
inkluderende demokrati.
Men ikke som det sker lige nu.
Jeg ønsker ikke,
at slippe af med disse firmaer.
Jeg ønsker, at de skal holdes ansvarlige,
ligesom resten af samfundet.
Vores regeringer bør komme
ind i kampen
og beskytte vores borgere.
Og selvom der ikke er en magisk lov,
der kan løse det hele,
så kan og må regeringer
finde balancen
mellem at beskytte ytringsfriheden
og holde disse firmaer ansvarlige for
deres påvirking af samfundet.
De kunne kræve åbenhed omkring,
hvordan anbefalingerne
foretages online,
og hvordan der organiseres,
fremmes og målrettes.
Jeg vil holde disse firmaer ansvarlige,
ikke for individer, der poster
falske oplysninger,
eller ekstrem retorik,
men for hvordan deres anbefalinger
spreder det,
hvordan deres algoritmer fører
folk mod det
og hvordan deres værktøjer bruges
til at målrette det efter folk.
Jeg prøvede at ændre Facebook indefra
men det slog fejl,
så de sidste par år
har jeg i stedet brugt min stemme
til advare folk om denne fare,
og forhåbentlig opfordre flere folk
til at forlange ansvarlighed.
Min besked til jer er simpel:
Pres jeres politikere til at stoppe
overdragelsen af folkestemningen
til indtjenende firmaer.
Fortæl venner og familie om,
hvordan de bliver manipuleret online.
Tving jer selv til at tale med folk,
der ikke deler jeres mening.
Gør dette til en prioritet.
Vi har brug for hele samfundet
for at løse dette.
Og min besked til mine tidligere chefer
hos Facebook er:
Lige nu bruger folk jeres værktøjer
som de var designet,
altså til at sprede had, splittelse
og mistillid,
og I ikke kun tillader det, men
gør det nemmere.
Og ja, der er mange gode historier
med positive ting, der sker på jeres
platform rundt om i verden,
men det gør ikke dette OK.
Og det bliver kun værre, da vi
er på vej til vores næste valg,
og endnu mere bekymrende,
når vi ser på vores største
potentielle krise,
hvor mistillid til resultaterne
kan ende med vold.
Så når I igen i 2021 siger
"Vi ved, vi skal blive bedre",
så vil jeg have jer til at huske dette
øjeblik,
for det er ikke længere kun nogle
få stemmer på sidelinjen.
Menneskerettighedsforekæmpere,
akademikere,
journalister, reklamefolk og
jeres egne medarbejdere
advarer højt og larmende om,
at jeres politikker og forretningsmodeller
skader folk og demokratiet.
I er ansvarlige for jeres beslutninger,
men I kan ikke længere sige,
at I ikke vidste, det ville ske.
Tak.