Sekitar lima tahun yang lalu,
Saya menyadari saya sudah tidak bisa
berhubungan dengan orang lain
yang tidak sepemikiran.
Ide untuk membahas isu-isu panas
bersama rekan Amerika saya
mulai terasa lebih tidak nyaman
dibandingkan saat menghadapi
tersangka teroris di luar negeri.
Ini membuat saya merasa
semakin sakit hati dan frustasi.
Dan karena itu,
saya mengalihkan seluruh fokus saya
dari ancaman keamanan global
untuk memahami apa yang
menyebabkan dorongan
ke arah polarisasi ekstrem di tanah air.
Sebagai mantan pegawai CIA dan diplomat
yang bertahun-tahun bekerja
menanggulangi ekstremisme,
saya mulai khawatir ini akan menjadi
ancaman yang lebih besar ke demokrasi kita
daripada musuh asing mana pun.
Jadi, saya mulai menyelidikinya,
dan mulai menyuarakannya,
hingga akhirnya,
saya direkrut Facebook
dan akhirnya membawa
saya ke sini hari ini
untuk terus memperingatkan Anda
tentang cara platform ini
memanipulasi dan meradikalisasi kita
dan membahas cara
untuk merebut kembali ruang publik kita.
Saya dulu petugas luar negeri di Kenya,
hanya beberapa tahun setelah
serangan 11 September,
dan saya memimpin
kampanye "hati dan pikiran"
di sepanjang perbatasan Somalia.
Pekerjaan saya adalah untuk
membangun kepercayaan masyarakat
yang dianggap paling rentan
terhadap pesan ekstremis.
Saya berjam-jam minum teh dengan
tokoh anti-barat yang blak-blakan
dan bahkan berdialog dengan
beberapa tersangka teroris,
dan meski kebanyakan ini
berawal dari saling curiga,
saya tidak ingat ada
yang mengakibatkan teriakan atau hinaan,
dan beberapa kali, kami bekerja sama
di area yang sama-sama menarik.
Alat paling ampuh yang kami miliki
adalah menyimak, mempelajari,
dan membangun empati.
Ini adalah inti dari pekerjaan
"hati dan pikiran,"
karena yang selalu saya temukan
adalah orang-orang
ingin merasa didengar,
diakui, dan dihormati.
Dan saya percaya
itu adalah keinginan kita semua.
Jadi, kejadian di internet saat ini
sangat memilukan
dan masalahnya sangat sulit diatasi.
Kita sedang dimanipulasi
oleh ekosistem informasi saat ini
yang membawa kebanyakan dari kita
menuju absolutisme
sehingga kompromi
telah menjadi kata kotor.
Karena kini,
perusahaan sosial media seperti Facebook
meraup untung dari memecah
dan memberi kita konten khusus
yang mengakui
dan mengeksploitasi bias kita.
Inti bisnis mereka
adalah memprovokasi emosi kuat kita
untuk menarik perhatian kita,
seringnya mengedepankan
opini yang paling menghasut dan radikal,
sampai ke titik
di mana mufakat terasa mustahil.
Dan meskipun banyak orang
menginginkan platformnya berubah,
sudah jelas
bahwa mereka akan diam saja.
Jadi, pemerintah harus
memperjelas tanggung jawab
terhadap dampak negatif
dari bisnis model seperti ini,
dan memberikan sanksi
atas kerusakan yang disebabkan
terhadap kesehatan masyarakat,
ruang publik, dan demokrasi kita.
Sayangnya, hal ini tidak mungkin terjadi
sebelum pemilu presiden AS.
Jadi, saya akan
terus mengingatkan ini,
karena, meskipun nanti
kami punya peraturan yang jelas
kita semua tetap harus membantu.
Saat saya berpaling
dari ancaman luar negeri
ke kacaunya diskusi publik di tanah air,
saya berpikir, bisakah kami
mengubah kampanye "hati dan pikiran"
untuk menyatukan kita kembali.
Eksperimen kami selama 200 tahun
dengan demokrasi berhasil
karena kami bisa bermusyawarah
dengan semangat dan terbuka
untuk mendapatkan solusi yang terbaik.
Meskipun saya masih percaya
kekuatan dari pengaruh
diskusi publik tatap muka,
tetap saja ini akan kalah
dengan pengaruh sosial media
yang begitu besar dan radikal.
Orang-orang yang sudah terperangkap
dalam huru-hara sosial media
biasanya lebih kesulitan
untuk keluar dari mindset radikal
dibandingkan orang-orang di wilayah rentan
yang dulu saya kunjungi.
Jadi, saat Facebook menghubungi saya
pada 2018
dan menawarkan pekerjaan
sebagai kepala operasi integritas pemilu
untuk iklan kampanye,
saya merasa harus menerimanya.
Saya tahu saya tidak dapat
membenahi semuanya
tapi ketika saya diberi kesempatan
untuk ikut mengatur haluan,
paling tidak saya harus mencoba.
Saya tidak melawan polarisasi
secara langsung,
tapi saya mencari isu apa yang paling
memecah belah masyarakat,
maka paling bisa dieksploitasi
dalam usaha mengganggu pemilu,
yaitu taktik Rusia menjelang tahun 2016.
Saya mulai dengan beberapa pertanyaan.
Saya ingin memahami isu-isu sistemik dasar
yang menjadi akar permasalahan semua ini
agar saya bisa menyelesaikannya.
Saya yakin akan dampak baik internet
dalam menyuarakan
suara lebih banyak orang.
Meskipun tujuannya
adalah membangun komunitas,
korporasi sosial media besar
yang ada saat ini
tidak dibangun di atas
konsep diskusi publik yang wajar.
Saling mendengarkan,
saling berdebat,
dan saling bertanya
tidak akan mungkin didorong
oleh bisnis yang kesuksesannya
ditentukan oleh
ketertarikan publik dan jumlah pengguna.
Tidak ada insentif bagi mereka
untuk menenangkan pembaca,
untuk memperlambat,
sehingga pembaca dapat berhenti sejenak,
menyadari reaksi emosional mereka
terhadap sesuatu,
dan mempertanyakan asumsi mereka
sebelum ikut berdiskusi.
Sayangnya, kenyataannya:
dusta lebih manis dibanding fakta,
dan gosip panas lebih menarik
dibandingkan fakta
di dalam dunia
yang memupuk ketenaran semata.
Selama algoritmenya dirancang
untuk terus memancing perhatian kita,
mereka akan terus memberi racun
yang mengeksploitasi insting terburuk kita
dan kelemahan manusiawi kita.
Dan juga, amarah, keraguan,
budaya ketakutan dan kebencian,
semua ini bukan hal baru di Amerika.
Tapi beberapa tahun ini,
media sosial sudah memanfaatkan semua itu
dan, setahu saya,
sudah membalik keadaan secara drastis.
Dan Facebook menyadari hal ini.
Barusan, artikel Wall Street Journal
mengekspos sebuah
presentasi internal Facebook pada 2018
yang menunjukkan bahwa
algoritme perusahaan mereka
mendukung pertambahan
grup ekstremis di platform mereka
dan meradikalisasi pengguna mereka.
Tetapi, mereka meraup keuntungan
dengan terus memancing perhatian kita.
Dalam ekosistem informasi masa kini,
jantungnya adalah melakukan profiling,
lalu membagi-bagi kita
ke dalam banyak kategori kecil
untuk menyempurnakan
proses personalisasi ini.
Kita lalu dihujani dengan informasi
yang meyakinkan pandangan kita,
memperkuat bias kita,
dan membuat kita merasa
menjadi bagian dari sesuatu.
Ini taktik yang juga digunakan
oleh perekrut teroris
yang memanfaatkan pemuda yang rentan,
walau secara lokal dan kecil-kecilan
sebelum media sosial,
agar akhirnya mereka dapat dibujuk
untuk ikut beraksi.
Sayangnya, saya tidak didukung Facebook
untuk memberikan dampak nyata.
Bahkan, di hari kedua saya bekerja,
jabatan dan uraian tugas saya diganti,
dan saya dikeluarkan
dari rapat-rapat penting.
Kerja keras saya,
rencana yang saya susun
untuk melawan disinformasi
dan penindasan pemilih di iklan kampanye
ditolak.
Jadi, saya hanya bertahan
kurang dari enam bulan.
Tetapi, ini pelajaran yang saya dapatkan
setelah bekerja di sana.
Ada ribuan orang di Facebook
yang sangat antusias mengerjakan
sebuah produk yang mereka yakini
membuat dunia ini lebih baik,
tetapi selama korporasi tersebut
terus melakukan seadanya
dalam kebijakan konten dan moderasi,
alih-alih membenahi
desain dan monetisasi
dari keseluruhan sistem,
mereka tidak akan betul-betul menangani
dampak dari platform mereka
yang menyebarkan kebencian, perpecahan,
dan radikalisasi.
Inilah perbincangan yang tidak pernah
saya dengar saat saya di sana,
karena mereka harus
terlebih dahulu menerima
bahwa karya mereka
mungkin tidak selalu berdampak baik
dan juga berani merombak
seluruh produk dan profit model mereka.
Jadi, apa yang bisa kita lakukan?
Saya tidak mengatakan
bahwa hanya media sosial saja
yang bersalah atas situasi kita saat ini.
Jelas, ada masalah sosial yang mengakar
yang harus sama-sama kita pecahkan.
Namun, pernyataan dari Facebook,
bahwa semua ini hanya cerminan masyarakat,
hanyalah alasan mereka
untuk lari dari tanggung jawab
terhadap platform mereka
yang menyebarluaskan konten berbahaya
dan mendorong beberapa pengguna
terhadap ekstremisme.
Dan Facebook bisa, kalau mereka mau,
memperbaiki beberapa masalah ini.
Mereka bisa berhenti menyebarkan
dan merekomendasikan teori konspirasi,
kelompok kebencian,
penyebar disinformasi
dan ya, dalam beberapa kasus
bahkan presiden kita sendiri.
Mereka bisa berhenti
menyampaikan retorika politik
menggunakan taktik personalisasi
yang digunakan untuk menjual sepatu.
Algoritme mereka bisa dilatih ulang
agar tidak fokus memancing perhatian,
dan mereka bisa membuat haluan untuk
mencegah konten tertentu menjadi viral
sebelum diulas.
Mereka bisa melakukan semua ini
tanpa menjadi apa yang mereka sebut
sebagai sang penentu kebenaran.
Tetapi mereka sudah terus terang
tidak akan berupaya besar
untuk melakukan hal benar
tanpa dipaksa terlebih dulu,
ya, karena, untuk apa?
Pasar akan terus mendukung,
dan mereka tidak melanggar hukum.
Karena situasinya saat ini,
tidak ada ketentuan di AS yang mewajibkan
Facebook, atau media sosial lainnya,
untuk melindungi ruang publik kita,
demokrasi kita,
dan bahkan pemilu kita.
Kita sudah menyerahkan kendali
atas keputusan peraturannya
kepada para CEO perusahaan profit.
Apakah ini yang kita mau?
dunia paska-kebenaran
di mana toksisitas dan tribalisme
berjaya atas pengertian dan musyawarah?
Saya masih optimis kita memiliki
lebih banyak persamaan di antara kita
daripada yang media dan internet
saat ini tunjukkan,
dan saya percaya memberikan ruang
untuk berbagai perspektif
akan membuat demokrasi kita
menjadi lebih kuat dan inklusif.
Tapi, keadaan saat ini
tidak mengarah ke sana.
Dan perlu digarisbawahi, saya bukan ingin
perusahaan-perusahaan ini ditutup.
Saya hanya ingin mereka memegang
tanggung jawab yang sepadan,
sama seperti yang masyarakat pegang.
Sudah seharusnya pemerintah
maju dan melakukan pekerjaan mereka,
yaitu melindungi rakyat.
Dan meskipun tidak mungkin
ada satu undang-undang ajaib
yang dapat memperbaiki semuanya,
saya percaya pemerintah
bisa dan harus menemukan keseimbangan
antara menjaga kebebasan berpendapat
dan menjaga tanggung jawab para platform
atas dampaknya terhadap masyarakat.
Mereka dapat menegakkannya dengan
menuntut transparansi
mengenai bagaimana proses sistem
rekomendasi mereka,
melakukan penilaian, amplifikasi,
dan penargetan konten.
Saya berharap
para korporasi bertanggung jawab,
bukan atas satu individu
yang menyebar misinformasi
atau retorik ekstrem,
tetapi atas bagaimana
sistem rekomendasi mereka menyebarkannya,
bagaimana algoritme mereka
menggiring banyak orang,
dan bagaimana peranti mereka
menargetkan pengguna.
Saya sudah berusaha mengubahnya
dari dalam Facebook, dan saya gagal,
jadi sekarang saya bersuara lagi
untuk terus menyadarkan semua orang
sehingga semoga semakin banyak yang
menuntut pertanggungjawaban ini.
Pesan saya simpel:
desak anggota perwakilan rakyat Anda
untuk maju agar ruang publik kita jangan
diserahkan untuk kepentingan perusahaan.
Bantu edukasi teman dan keluarga Anda
tentang bagaimana mereka
dimanipulasi di situs daring.
Dorong diri Anda untuk berhubungan
dengan orang yang tidak sepemikiran.
Prioritaskan isu ini.
Kita perlu kontribusi dari masyarakat luas
untuk memperbaiki hal ini.
Dan pesan saya kepada para pimpinan
dan mantan rekan saya di Facebook adalah:
saat ini, banyak pihak memanfaatkan
alat kalian sesuai dengan rancangannya
untuk menabur kebencian, perpecahan,
dan kecurigaan,
dan kalian bukan sekedar membiarkannya,
kalian memungkinkannya.
Dan ya, ada banyak cerita hebat
tentang hal-hal positif yang terjadi
di platform kalian di seluruh dunia.
Namun, bukan berarti semuanya
aman-aman saja.
Keadaan justru akan semakin memburuk
dengan pemilu mendatang,
dan yang lebih mengkhawatirkan,
yaitu potensi krisis paling besar
sejauh ini,
jika hasilnya tidak dipercayai publik,
kemudian terjadi kericuhan.
Jika di tahun 2021 Anda bilang,
"Kita tahu kita harus jadi lebih baik,"
saya ingin Anda mengenang momen ini,
karena isu ini bukan diangkat
oleh satu dua orang saja.
Para pejuang hak sipil, civitas akademika,
jurnalis, pemasang iklan,
pegawai kalian sendiri,
mereka semua terang-terangan mengatakan
bahwa kebijakan dan praktik bisnis kalian
merusak masyarakat dan demokrasi.
Anda tentukan sendiri,
tapi jangan bilang kalau
Anda tidak menyangkanya.
Terima kasih.