Ini cara Facebook menghancurkan demokrasi

"Kebohongan lebih menarik di internet daripada kebenaran," menurut mantan analis CIA dan diplomat Yaël Eisenstat. "Selama tujuan algoritma (media sosial) untuk membuat kita tetap terikat, mereka akan memberi kita racun yang memainkan ke insting terburuk dan kelemahan manusia." Di ceramah yang mencolok ini, Eisenstat mengeksplorasi bagaimana perusahaan media sosial seperti Facebook memberi insentif konten yang menghasut, berkontribusi ke budaya polarisasi politik dan ketidakpercayaan -- dan meminta pemerintah untuk membuat platform ini bertanggungjawab untuk melindungi diskursus sipil dan demokrasi.

Sekitar lima tahun yang lalu,

Saya menyadari saya sudah tidak bisa

berhubungan dengan orang lain
yang tidak sepemikiran.

Ide untuk membahas isu-isu panas
bersama rekan Amerika saya

mulai terasa lebih tidak nyaman

dibandingkan saat menghadapi
tersangka teroris di luar negeri.

Ini membuat saya merasa
semakin sakit hati dan frustasi.

Dan karena itu,

saya mengalihkan seluruh fokus saya

dari ancaman keamanan global

untuk memahami apa yang
menyebabkan dorongan

ke arah polarisasi ekstrem di tanah air.

Sebagai mantan pegawai CIA dan diplomat

yang bertahun-tahun bekerja
menanggulangi ekstremisme,

saya mulai khawatir ini akan menjadi
ancaman yang lebih besar ke demokrasi kita

daripada musuh asing mana pun.

Jadi, saya mulai menyelidikinya,

dan mulai menyuarakannya,

hingga akhirnya,
saya direkrut Facebook

dan akhirnya membawa
saya ke sini hari ini

untuk terus memperingatkan Anda
tentang cara platform ini

memanipulasi dan meradikalisasi kita

dan membahas cara
untuk merebut kembali ruang publik kita.

Saya dulu petugas luar negeri di Kenya,

hanya beberapa tahun setelah
serangan 11 September,

dan saya memimpin
kampanye "hati dan pikiran"

di sepanjang perbatasan Somalia.

Pekerjaan saya adalah untuk
membangun kepercayaan masyarakat

yang dianggap paling rentan
terhadap pesan ekstremis.

Saya berjam-jam minum teh dengan
tokoh anti-barat yang blak-blakan

dan bahkan berdialog dengan
beberapa tersangka teroris,

dan meski kebanyakan ini
berawal dari saling curiga,

saya tidak ingat ada
yang mengakibatkan teriakan atau hinaan,

dan beberapa kali, kami bekerja sama
di area yang sama-sama menarik.

Alat paling ampuh yang kami miliki
adalah menyimak, mempelajari,

dan membangun empati.

Ini adalah inti dari pekerjaan
"hati dan pikiran,"

karena yang selalu saya temukan
adalah orang-orang

ingin merasa didengar,
diakui, dan dihormati.

Dan saya percaya
itu adalah keinginan kita semua.

Jadi, kejadian di internet saat ini
sangat memilukan

dan masalahnya sangat sulit diatasi.

Kita sedang dimanipulasi
oleh ekosistem informasi saat ini

yang membawa kebanyakan dari kita
menuju absolutisme

sehingga kompromi
telah menjadi kata kotor.

Karena kini,

perusahaan sosial media seperti Facebook

meraup untung dari memecah
dan memberi kita konten khusus

yang mengakui
dan mengeksploitasi bias kita.

Inti bisnis mereka
adalah memprovokasi emosi kuat kita

untuk menarik perhatian kita,

seringnya mengedepankan
opini yang paling menghasut dan radikal,

sampai ke titik
di mana mufakat terasa mustahil.

Dan meskipun banyak orang
menginginkan platformnya berubah,

sudah jelas
bahwa mereka akan diam saja.

Jadi, pemerintah harus
memperjelas tanggung jawab

terhadap dampak negatif
dari bisnis model seperti ini,

dan memberikan sanksi
atas kerusakan yang disebabkan

terhadap kesehatan masyarakat,
ruang publik, dan demokrasi kita.

Sayangnya, hal ini tidak mungkin terjadi
sebelum pemilu presiden AS.

Jadi, saya akan
terus mengingatkan ini,

karena, meskipun nanti
kami punya peraturan yang jelas

kita semua tetap harus membantu.

Saat saya berpaling
dari ancaman luar negeri

ke kacaunya diskusi publik di tanah air,

saya berpikir, bisakah kami
mengubah kampanye "hati dan pikiran"

untuk menyatukan kita kembali.

Eksperimen kami selama 200 tahun
dengan demokrasi berhasil

karena kami bisa bermusyawarah
dengan semangat dan terbuka

untuk mendapatkan solusi yang terbaik.

Meskipun saya masih percaya

kekuatan dari pengaruh
diskusi publik tatap muka,

tetap saja ini akan kalah

dengan pengaruh sosial media
yang begitu besar dan radikal.

Orang-orang yang sudah terperangkap

dalam huru-hara sosial media

biasanya lebih kesulitan
untuk keluar dari mindset radikal

dibandingkan orang-orang di wilayah rentan
yang dulu saya kunjungi.

Jadi, saat Facebook menghubungi saya
pada 2018

dan menawarkan pekerjaan

sebagai kepala operasi integritas pemilu
untuk iklan kampanye,

saya merasa harus menerimanya.

Saya tahu saya tidak dapat
membenahi semuanya

tapi ketika saya diberi kesempatan

untuk ikut mengatur haluan,

paling tidak saya harus mencoba.

Saya tidak melawan polarisasi
secara langsung,

tapi saya mencari isu apa yang paling
memecah belah masyarakat,

maka paling bisa dieksploitasi
dalam usaha mengganggu pemilu,

yaitu taktik Rusia menjelang tahun 2016.

Saya mulai dengan beberapa pertanyaan.

Saya ingin memahami isu-isu sistemik dasar

yang menjadi akar permasalahan semua ini

agar saya bisa menyelesaikannya.

Saya yakin akan dampak baik internet

dalam menyuarakan
suara lebih banyak orang.

Meskipun tujuannya
adalah membangun komunitas,

korporasi sosial media besar
yang ada saat ini

tidak dibangun di atas
konsep diskusi publik yang wajar.

Saling mendengarkan,

saling berdebat,

dan saling bertanya
tidak akan mungkin didorong

oleh bisnis yang kesuksesannya
ditentukan oleh

ketertarikan publik dan jumlah pengguna.

Tidak ada insentif bagi mereka
untuk menenangkan pembaca,

untuk memperlambat,
sehingga pembaca dapat berhenti sejenak,

menyadari reaksi emosional mereka
terhadap sesuatu,

dan mempertanyakan asumsi mereka
sebelum ikut berdiskusi.

Sayangnya, kenyataannya:

dusta lebih manis dibanding fakta,

dan gosip panas lebih menarik
dibandingkan fakta

di dalam dunia
yang memupuk ketenaran semata.

Selama algoritmenya dirancang
untuk terus memancing perhatian kita,

mereka akan terus memberi racun
yang mengeksploitasi insting terburuk kita

dan kelemahan manusiawi kita.

Dan juga, amarah, keraguan,

budaya ketakutan dan kebencian,

semua ini bukan hal baru di Amerika.

Tapi beberapa tahun ini,
media sosial sudah memanfaatkan semua itu

dan, setahu saya,
sudah membalik keadaan secara drastis.

Dan Facebook menyadari hal ini.

Barusan, artikel Wall Street Journal

mengekspos sebuah
presentasi internal Facebook pada 2018

yang menunjukkan bahwa
algoritme perusahaan mereka

mendukung pertambahan
grup ekstremis di platform mereka

dan meradikalisasi pengguna mereka.

Tetapi, mereka meraup keuntungan
dengan terus memancing perhatian kita.

Dalam ekosistem informasi masa kini,
jantungnya adalah melakukan profiling,

lalu membagi-bagi kita
ke dalam banyak kategori kecil

untuk menyempurnakan
proses personalisasi ini.

Kita lalu dihujani dengan informasi
yang meyakinkan pandangan kita,

memperkuat bias kita,

dan membuat kita merasa
menjadi bagian dari sesuatu.

Ini taktik yang juga digunakan
oleh perekrut teroris

yang memanfaatkan pemuda yang rentan,

walau secara lokal dan kecil-kecilan
sebelum media sosial,

agar akhirnya mereka dapat dibujuk
untuk ikut beraksi.

Sayangnya, saya tidak didukung Facebook
untuk memberikan dampak nyata.

Bahkan, di hari kedua saya bekerja,
jabatan dan uraian tugas saya diganti,

dan saya dikeluarkan
dari rapat-rapat penting.

Kerja keras saya,

rencana yang saya susun

untuk melawan disinformasi
dan penindasan pemilih di iklan kampanye

ditolak.

Jadi, saya hanya bertahan
kurang dari enam bulan.

Tetapi, ini pelajaran yang saya dapatkan
setelah bekerja di sana.

Ada ribuan orang di Facebook

yang sangat antusias mengerjakan

sebuah produk yang mereka yakini
membuat dunia ini lebih baik,

tetapi selama korporasi tersebut
terus melakukan seadanya

dalam kebijakan konten dan moderasi,

alih-alih membenahi

desain dan monetisasi
dari keseluruhan sistem,

mereka tidak akan betul-betul menangani
dampak dari platform mereka

yang menyebarkan kebencian, perpecahan,
dan radikalisasi.

Inilah perbincangan yang tidak pernah
saya dengar saat saya di sana,

karena mereka harus
terlebih dahulu menerima

bahwa karya mereka
mungkin tidak selalu berdampak baik

dan juga berani merombak
seluruh produk dan profit model mereka.

Jadi, apa yang bisa kita lakukan?

Saya tidak mengatakan
bahwa hanya media sosial saja

yang bersalah atas situasi kita saat ini.

Jelas, ada masalah sosial yang mengakar
yang harus sama-sama kita pecahkan.

Namun, pernyataan dari Facebook,
bahwa semua ini hanya cerminan masyarakat,

hanyalah alasan mereka
untuk lari dari tanggung jawab

terhadap platform mereka
yang menyebarluaskan konten berbahaya

dan mendorong beberapa pengguna
terhadap ekstremisme.

Dan Facebook bisa, kalau mereka mau,

memperbaiki beberapa masalah ini.

Mereka bisa berhenti menyebarkan
dan merekomendasikan teori konspirasi,

kelompok kebencian,
penyebar disinformasi

dan ya, dalam beberapa kasus
bahkan presiden kita sendiri.

Mereka bisa berhenti
menyampaikan retorika politik

menggunakan taktik personalisasi
yang digunakan untuk menjual sepatu.

Algoritme mereka bisa dilatih ulang

agar tidak fokus memancing perhatian,

dan mereka bisa membuat haluan untuk
mencegah konten tertentu menjadi viral

sebelum diulas.

Mereka bisa melakukan semua ini

tanpa menjadi apa yang mereka sebut
sebagai sang penentu kebenaran.

Tetapi mereka sudah terus terang
tidak akan berupaya besar

untuk melakukan hal benar
tanpa dipaksa terlebih dulu,

ya, karena, untuk apa?

Pasar akan terus mendukung,
dan mereka tidak melanggar hukum.

Karena situasinya saat ini,

tidak ada ketentuan di AS yang mewajibkan
Facebook, atau media sosial lainnya,

untuk melindungi ruang publik kita,

demokrasi kita,

dan bahkan pemilu kita.

Kita sudah menyerahkan kendali
atas keputusan peraturannya

kepada para CEO perusahaan profit.

Apakah ini yang kita mau?

dunia paska-kebenaran
di mana toksisitas dan tribalisme

berjaya atas pengertian dan musyawarah?

Saya masih optimis kita memiliki
lebih banyak persamaan di antara kita

daripada yang media dan internet
saat ini tunjukkan,

dan saya percaya memberikan ruang
untuk berbagai perspektif

akan membuat demokrasi kita
menjadi lebih kuat dan inklusif.

Tapi, keadaan saat ini
tidak mengarah ke sana.

Dan perlu digarisbawahi, saya bukan ingin
perusahaan-perusahaan ini ditutup.

Saya hanya ingin mereka memegang
tanggung jawab yang sepadan,

sama seperti yang masyarakat pegang.

Sudah seharusnya pemerintah
maju dan melakukan pekerjaan mereka,

yaitu melindungi rakyat.

Dan meskipun tidak mungkin
ada satu undang-undang ajaib

yang dapat memperbaiki semuanya,

saya percaya pemerintah
bisa dan harus menemukan keseimbangan

antara menjaga kebebasan berpendapat

dan menjaga tanggung jawab para platform
atas dampaknya terhadap masyarakat.

Mereka dapat menegakkannya dengan
menuntut transparansi

mengenai bagaimana proses sistem
rekomendasi mereka,

melakukan penilaian, amplifikasi,
dan penargetan konten.

Saya berharap
para korporasi bertanggung jawab,

bukan atas satu individu
yang menyebar misinformasi

atau retorik ekstrem,

tetapi atas bagaimana
sistem rekomendasi mereka menyebarkannya,

bagaimana algoritme mereka
menggiring banyak orang,

dan bagaimana peranti mereka
menargetkan pengguna.

Saya sudah berusaha mengubahnya
dari dalam Facebook, dan saya gagal,

jadi sekarang saya bersuara lagi

untuk terus menyadarkan semua orang

sehingga semoga semakin banyak yang
menuntut pertanggungjawaban ini.

Pesan saya simpel:

desak anggota perwakilan rakyat Anda

untuk maju agar ruang publik kita jangan
diserahkan untuk kepentingan perusahaan.

Bantu edukasi teman dan keluarga Anda

tentang bagaimana mereka
dimanipulasi di situs daring.

Dorong diri Anda untuk berhubungan
dengan orang yang tidak sepemikiran.

Prioritaskan isu ini.

Kita perlu kontribusi dari masyarakat luas
untuk memperbaiki hal ini.

Dan pesan saya kepada para pimpinan
dan mantan rekan saya di Facebook adalah:

saat ini, banyak pihak memanfaatkan
alat kalian sesuai dengan rancangannya

untuk menabur kebencian, perpecahan,
dan kecurigaan,

dan kalian bukan sekedar membiarkannya,
kalian memungkinkannya.

Dan ya, ada banyak cerita hebat

tentang hal-hal positif yang terjadi
di platform kalian di seluruh dunia.

Namun, bukan berarti semuanya
aman-aman saja.

Keadaan justru akan semakin memburuk
dengan pemilu mendatang,

dan yang lebih mengkhawatirkan,

yaitu potensi krisis paling besar
sejauh ini,

jika hasilnya tidak dipercayai publik,
kemudian terjadi kericuhan.

Jika di tahun 2021 Anda bilang,
"Kita tahu kita harus jadi lebih baik,"

saya ingin Anda mengenang momen ini,

karena isu ini bukan diangkat
oleh satu dua orang saja.

Para pejuang hak sipil, civitas akademika,

jurnalis, pemasang iklan,
pegawai kalian sendiri,

mereka semua terang-terangan mengatakan

bahwa kebijakan dan praktik bisnis kalian

merusak masyarakat dan demokrasi.

Anda tentukan sendiri,

tapi jangan bilang kalau
Anda tidak menyangkanya.

Terima kasih.