Jeg opdagede for cirka fem år siden,
at jeg ikke længere kunne diskutere
med folk jeg var uenig med.
Det var mere skræmmende, at diskutere alvorlige emner
med mine landsmænd, end det var
at interagere med ekstremister i udlandet.
Det gjorde mig mere bitter og frustreret.
Og lige pludselig
skiftede hele mit fokus
fra globale sikkerhedstrusler
til at forstå den øgede polarisering
herhjemme.
Som en tidligere CIA-ansat og diplomat,
der har brugt år på at bekæmpe ekstremisme,
følte jeg, at dette var farligere for vores demokrati
end nogen fremmed fjende.
Så jeg dykkede ned i emnet
og begyndte at snakke om det,
hvilket fik mig hyret af Facebook
og i sidste ende bragte mig her,
for fortsat at advare jer om, hvordan disse platforme
manipulerer og radikaliserer mange af os,
og for at snakke om, hvordan vi forbedre den offentlige debat.
Få år efter angrebene d. 11. september
arbejdede jeg for CIA i Kenya, hvor vi førte
en "hearts and minds"-kampagner
langs Somalias grænse.
En stor del af mit job var at opbygge tillid med de samfund,
der var mest sårbare for ekstremisterne idéer.
Jeg drak te med anti-vestlige gejstlige
og var endda i dialog med nogle terrormistænkte.
Mange af disse interaktioner begyndte med fælles mistillid,
men ingen førte til råben eller fornærmelser,
og i nogle tilfælde samarbejdede vi endda på grund af delte interesser.
Vores mest magtfulde redskaber var at lytte, lære
og opbygge empati.
Det er sådan "hearts and minds" fungerer,
for jeg så ofte, at folk basalt set ønsker
at blive hørt, bekræftet og respekteret.
Og jeg tror, de fleste af os ønsker dette.
Så hvad der nu sker online, er særligt sørgeligt og
et meget større problem.
Vi bliver manipuleret af det nuværende informationsøkosystem,
der skubber mange af os mod ekstremisme,
at "kompromis" er blevet et bandeord.
Fordi lige nu,
tjener sociale medier som Facebook
penge på at dele os og give os personliggjort indhold,
der både bekræfter og udnytter vores fordomme.
De går efter at vække stærke følelser
for at holde os engageret,
hvilket ofte giver luft til de mest ekstreme og polariserende meninger,
så det ikke længere synes muligt at kunne enes.
Og selvom flere og flere ønsker, at platformene skal ændres,
så gør de det tydeligvis ikke af sig selv.
Så regeringer må definere ansvaret
for de virkelige skader dette forårsager,
og sørge for, at den skadende indflydelse det har
på vores helbred, folkestemning og demokrati får konsekvenser.
Dette sker uheldigvis ikke før det amerikanske præsidentvalg,
så jeg vil fortsat advare folk,
for selv hvis vi en dag får strengere regler,
er der brug for os alle, når det skal løses.
Da mit fokus skiftede fra udenlandske trusler
til den ødelæggende tone herhjemme,
overvejede jeg, om vi kunne bruge "hearts and minds"-kampagner
til at hele vores forskelle.
Vores 200 år lange demokratieksperiment
virker til dels, fordi vi åbent og lidenskabeligt
kan debattere vores idéer og finde de bedste løsninger.
Selvom jeg stadig tror på
ansigt-til-ansigt debatters magt,
kan de ikke konkurrere
med sociale mediers udbredelse og polariserende betydning lige nu.
Folk, der bliver suget ned i disse raserigrave
på sociale medier,
har ofte sværere ved at bryde med deres ideologiske tankegang
end det var for de sårbare samfund, som jeg arbejdede med.
Så da Facebook kontaktede mig i 2018
og tilbød mig et job,
som leder for deres integritetstiltag i forbindelse med politiske valgreklamer,
følte jeg en pligt til at sige ja.
Jeg vidste, at jeg ikke kunne løse alt,
men når jeg fik muligheden
for at sætte en bedre kurs,
burde jeg i det mindste prøve.
Jeg arbejdede ikke direkte med polarisering,
men så på de mest splittende emner,
og hvordan de bedst kunne bruges til at påvirke valg,
som russerne gjorde i 2016.
Jeg begyndte at stille spørgsmål.
Jeg ville forstå systemets grundlæggende fejl,
der tillod dette,
for derved at finde en løsning.
Jeg tror stadig på internettets magt
til at give alle folk en stemme,
men selvom de største sociale medier påstår,
at bringe folk sammen, så forhindrer deres nuværende opbygning
en fornuftig debat.
Man kan ikke belønne, at folk lytter,
opfordre til venlig debat
og eller beskytte folk, der ønsker at stille spørgsmål,
når branchens opskrift på succes er at øge folks deltagelse
og få flere brugere.
Der opfordres ikke til at hjælpe folk med at tage det roligt,
til at skabe et miljø, hvor folk er nødt til at stoppe op,
evaluere deres følelsesmæssige reaktion på et emne
og se på deres egne antagelser, før de debatterer.
Den ulykkelige onlinevirkelighed er,
at løgne er mere interessante end sandheden,
og en verden, der er besat af viral spænding,
elsker slibrige emner mere end kedelig og faktabaseret tankegang.
Så længe algoritmerne skal fordre vores deltagelse
vil de fortsat appellere til vores værste instinkter
og menneskelige svagheder.
USA har ført oplevet
vrede, mistillid,
frygtkultur og had,
men sociale medier har de sidste par år udnyttet disse,
og derved gjort dem værre.
Facebook ved det godt.
En ny artikel fra "Wall Street Journal"
afslørede en intern Facebook-præsentation fra 2018,
der beskylder firmaets egne algoritmer
for at øge antallet af ekstremistiske grupper på Facebook
og for at polarise deres brugere.
Men de tjener penge på at holde os engagerede.
Det moderne informationsmiljø profilerer os for derefter
at inddele os i mere og mere snævre kategorier
for at afkode vores personlighed.
Vi bliver derefter fodret med information, der bekræfter vores meninger,
styrker vores fordomme
og viser os, at vi hører til et sted.
Terrorister bruger den samme teknik,
når de rekrutterer sårbare unge,
dog på mindre og mere tilpassede måder før sociale medier,
med det endelig mål at ændre deres opførsel.
Desværre gav Facebook mig ikke lov til at gøre en egentlig forskel.
Allerede på min anden dag blev min titel og jobbeskrivelse ændret,
og jeg kom ikke med til møder, hvor man tog beslutninger.
Mine anstrengelser
med at lægge planer,
der bekæmpede misinformation og vælgerundertrykkelse i politiske reklamer
blev afvist.
Så jeg holdt kun i knap seks måneder.
Men jeg lærte noget vigtigt i den tid:
Der er tusindvis af folk hos Facebook,
der ønsker at arbejde med et produkt,
som de oprigtigt tror gør verden bedre,
men så længe firmaet knap nok berører
regler om indhold og mådehold,
fremfor at se på,
hvordan hele maskinen er baseret på indtjening,
vil de aldrig kunne forhindre, at Facebook skaber
had, splittelse og radikalisering.
Og det blev aldrig berørt, mens jeg arbejdede der,
for det ville kræve, at du accepterer,
at det du har opbygget, måske ikke er til samfundets bedste,
og accepterer at ændre hele produktet og indtjeningsmodellen.
Så hvad kan vi gøre?
Jeg siger ikke, at sociale medier bærer al skylden
for vores nuværende situation.
Vi har tydeligvis dybe problemer i samfundet, som vi skal løse.
Men når Facebook siger, at de blot er samfundets spejl,
forsøger de at undgå at tage ansvar
for den måde, deres platform forstærker skadeligt indhold,
og skubber brugere mod ekstremisme.
Facebook kunne løse noget af dette,
hvis de ville.
De kunne stoppe med at fremme konspirationsteoretikere,
hadgrupper, spredning af misinformation
og ja, nogle gange endda vores præsident.
De kunne stoppe med at bruge de samme profilereringsteknikker
til at leve politik, som når de sælger os sko.
De kunne ændre deres algoritmer
så de fokuserer på andet end deltagelse,
og opsætte barrierer, der forhindrer visse former for indhold,
at blive vist uden gennemgang.
Og alt dette kan gøres uden
at de bliver, i deres egne ord, dommere over sandheden.
Men de har vist, at de ikke ønsker at gå langt nok
for at gøre det rigtige uden tvang,
og ærlig talt, hvorfor skulle de?
Markederne belønner dem fortsat, og de bryder ikke loven.
For i øjeblikket
har USA ingen love, der tvinger Facebook eller andre sociale medier
til at beskytte vores folkestemning,
vores demokrati
og endda vores valg.
Vi lader CEOs fra indtjenende internetfirmaer bestemme,
hvilker regler, der skal laves, og hvilke, der skal håndhæves.
Er det, hvad vi ønsker?
En postfaktuel verden, hvor giftig tale og stammekultur
slår forsøg på samarbejde og opnåelse af konsensus?
Jeg forbliver optimistisk og tror, at vi har mere tilfælles
end hvad nutidens mediebillede og onlinemiljø påstår,
og jeg tror, at en mere perspektiveret tilgang
giver et mere robust og inkluderende demokrati.
Men ikke som det sker lige nu.
Jeg ønsker ikke, at slippe af med disse firmaer.
Jeg ønsker, at de skal holdes ansvarlige,
ligesom resten af samfundet.
Vores regeringer bør komme ind i kampen
og beskytte vores borgere.
Og selvom der ikke er en magisk lov,
der kan løse det hele,
så kan og må regeringer finde balancen
mellem at beskytte ytringsfriheden
og holde disse firmaer ansvarlige for deres påvirking af samfundet.
De kunne kræve åbenhed omkring,
hvordan anbefalingerne foretages online,
og hvordan der organiseres, fremmes og målrettes.
Jeg vil holde disse firmaer ansvarlige,
ikke for individer, der poster falske oplysninger,
eller ekstrem retorik,
men for hvordan deres anbefalinger spreder det,
hvordan deres algoritmer fører folk mod det
og hvordan deres værktøjer bruges til at målrette det efter folk.
Jeg prøvede at ændre Facebook indefra men det slog fejl,
så de sidste par år har jeg i stedet brugt min stemme
til advare folk om denne fare,
og forhåbentlig opfordre flere folk til at forlange ansvarlighed.
Min besked til jer er simpel:
Pres jeres politikere til at stoppe
overdragelsen af folkestemningen til indtjenende firmaer.
Fortæl venner og familie om,
hvordan de bliver manipuleret online.
Tving jer selv til at tale med folk, der ikke deler jeres mening.
Gør dette til en prioritet.
Vi har brug for hele samfundet for at løse dette.
Og min besked til mine tidligere chefer hos Facebook er:
Lige nu bruger folk jeres værktøjer som de var designet,
altså til at sprede had, splittelse og mistillid,
og I ikke kun tillader det, men gør det nemmere.
Og ja, der er mange gode historier
med positive ting, der sker på jeres platform rundt om i verden,
men det gør ikke dette OK.
Og det bliver kun værre, da vi er på vej til vores næste valg,
og endnu mere bekymrende,
når vi ser på vores største potentielle krise,
hvor mistillid til resultaterne kan ende med vold.
Så når I igen i 2021 siger "Vi ved, vi skal blive bedre",
så vil jeg have jer til at huske dette øjeblik,
for det er ikke længere kun nogle få stemmer på sidelinjen.
Menneskerettighedsforekæmpere, akademikere,
journalister, reklamefolk og jeres egne medarbejdere
advarer højt og larmende om,
at jeres politikker og forretningsmodeller
skader folk og demokratiet.
I er ansvarlige for jeres beslutninger,
men I kan ikke længere sige, at I ikke vidste, det ville ske.
Tak.