Sekitar lima tahun yang lalu,
Saya menyadari saya sudah tidak bisa
berhubungan dengan orang lain yang tidak sepemikiran.
Ide untuk membahas isu-isu panas bersama rekan Amerika saya
mulai terasa lebih tidak nyaman
dibandingkan saat menghadapi tersangka teroris di luar negeri.
Ini membuat saya merasa semakin sakit hati dan frustasi.
Dan karena itu,
saya mengalihkan seluruh fokus saya
dari ancaman keamanan global
untuk memahami apa yang menyebabkan dorongan
ke arah polarisasi ekstrem di tanah air.
Sebagai mantan pegawai CIA dan diplomat
yang bertahun-tahun bekerja menanggulangi ekstremisme,
saya mulai khawatir ini akan menjadi ancaman yang lebih besar ke demokrasi kita
daripada musuh asing mana pun.
Jadi, saya mulai menyelidikinya,
dan mulai menyuarakannya,
hingga akhirnya, saya direkrut Facebook
dan akhirnya membawa saya ke sini hari ini
untuk terus memperingatkan Anda tentang cara platform ini
memanipulasi dan meradikalisasi kita
dan membahas cara untuk merebut kembali ruang publik kita.
Saya dulu petugas luar negeri di Kenya,
hanya beberapa tahun setelah serangan 11 September,
dan saya memimpin kampanye "hati dan pikiran"
di sepanjang perbatasan Somalia.
Pekerjaan saya adalah untuk membangun kepercayaan masyarakat
yang dianggap paling rentan terhadap pesan ekstremis.
Saya berjam-jam minum teh dengan tokoh anti-barat yang blak-blakan
dan bahkan berdialog dengan beberapa tersangka teroris,
dan meski kebanyakan ini berawal dari saling curiga,
saya tidak ingat ada yang mengakibatkan teriakan atau hinaan,
dan beberapa kali, kami bekerja sama di area yang sama-sama menarik.
Alat paling ampuh yang kami miliki adalah menyimak, mempelajari,
dan membangun empati.
Ini adalah inti dari pekerjaan "hati dan pikiran,"
karena yang selalu saya temukan adalah orang-orang
ingin merasa didengar, diakui, dan dihormati.
Dan saya percaya itu adalah keinginan kita semua.
Jadi, kejadian di internet saat ini sangat memilukan
dan masalahnya sangat sulit diatasi.
Kita sedang dimanipulasi oleh ekosistem informasi saat ini
yang membawa kebanyakan dari kita menuju absolutisme
sehingga kompromi telah menjadi kata kotor.
Karena kini,
perusahaan sosial media seperti Facebook
meraup untung dari memecah dan memberi kita konten khusus
yang mengakui dan mengeksploitasi bias kita.
Inti bisnis mereka adalah memprovokasi emosi kuat kita
untuk menarik perhatian kita,
seringnya mengedepankan opini yang paling menghasut dan radikal,
sampai ke titik di mana mufakat terasa mustahil.
Dan meskipun banyak orang menginginkan platformnya berubah,
sudah jelas bahwa mereka akan diam saja.
Jadi, pemerintah harus memperjelas tanggung jawab
terhadap dampak negatif dari bisnis model seperti ini,
dan memberikan sanksi atas kerusakan yang disebabkan
terhadap kesehatan masyarakat, ruang publik, dan demokrasi kita.
Sayangnya, hal ini tidak mungkin terjadi sebelum pemilu presiden AS.
Jadi, saya akan terus mengingatkan ini,
karena, meskipun nanti kami punya peraturan yang jelas
kita semua tetap harus membantu.
Saat saya berpaling dari ancaman luar negeri
ke kacaunya diskusi publik di tanah air,
saya berpikir, bisakah kami mengubah kampanye "hati dan pikiran"
untuk menyatukan kita kembali.
Eksperimen kami selama 200 tahun dengan demokrasi berhasil
karena kami bisa bermusyawarah dengan semangat dan terbuka
untuk mendapatkan solusi yang terbaik.
Meskipun saya masih percaya
kekuatan dari pengaruh diskusi publik tatap muka,
tetap saja ini akan kalah
dengan pengaruh sosial media yang begitu besar dan radikal.
Orang-orang yang sudah terperangkap
dalam huru-hara sosial media
biasanya lebih kesulitan untuk keluar dari mindset radikal
dibandingkan orang-orang di wilayah rentan yang dulu saya kunjungi.
Jadi, saat Facebook menghubungi saya pada 2018
dan menawarkan pekerjaan
sebagai kepala operasi integritas pemilu untuk iklan kampanye,
saya merasa harus menerimanya.
Saya tahu saya tidak dapat membenahi semuanya
tapi ketika saya diberi kesempatan
untuk ikut mengatur haluan,
paling tidak saya harus mencoba.
Saya tidak melawan polarisasi secara langsung,
tapi saya mencari isu apa yang paling memecah belah masyarakat,
maka paling bisa dieksploitasi dalam usaha mengganggu pemilu,
yaitu taktik Rusia menjelang tahun 2016.
Saya mulai dengan beberapa pertanyaan.
Saya ingin memahami isu-isu sistemik dasar
yang menjadi akar permasalahan semua ini
agar saya bisa menyelesaikannya.
Saya yakin akan dampak baik internet
dalam menyuarakan suara lebih banyak orang.
Meskipun tujuannya adalah membangun komunitas,
korporasi sosial media besar yang ada saat ini
tidak dibangun di atas konsep diskusi publik yang wajar.
Saling mendengarkan,
saling berdebat,
dan saling bertanya tidak akan mungkin didorong
oleh bisnis yang kesuksesannya ditentukan oleh
ketertarikan publik dan jumlah pengguna.
Tidak ada insentif bagi mereka untuk menenangkan pembaca,
untuk memperlambat, sehingga pembaca dapat berhenti sejenak,
menyadari reaksi emosional mereka terhadap sesuatu,
dan mempertanyakan asumsi mereka sebelum ikut berdiskusi.
Sayangnya, kenyataannya:
dusta lebih manis dibanding fakta,
dan gosip panas lebih menarik dibandingkan fakta
di dalam dunia yang memupuk ketenaran semata.
Selama algoritmenya dirancang untuk terus memancing perhatian kita,
mereka akan terus memberi racun yang mengeksploitasi insting terburuk kita
dan kelemahan manusiawi kita.
Dan juga, amarah, keraguan,
budaya ketakutan dan kebencian,
semua ini bukan hal baru di Amerika.
Tapi beberapa tahun ini, media sosial sudah memanfaatkan semua itu
dan, setahu saya, sudah membalik keadaan secara drastis.
Dan Facebook menyadari hal ini.
Barusan, artikel Wall Street Journal
mengekspos sebuah presentasi internal Facebook pada 2018
yang menunjukkan bahwa algoritme perusahaan mereka
mendukung pertambahan grup ekstremis di platform mereka
dan meradikalisasi pengguna mereka.
Tetapi, mereka meraup keuntungan dengan terus memancing perhatian kita.
Dalam ekosistem informasi masa kini, jantungnya adalah melakukan profiling,
lalu membagi-bagi kita ke dalam banyak kategori kecil
untuk menyempurnakan proses personalisasi ini.
Kita lalu dihujani dengan informasi yang meyakinkan pandangan kita,
memperkuat bias kita,
dan membuat kita merasa menjadi bagian dari sesuatu.
Ini taktik yang juga digunakan oleh perekrut teroris
yang memanfaatkan pemuda yang rentan,
walau secara lokal dan kecil-kecilan sebelum media sosial,
agar akhirnya mereka dapat dibujuk untuk ikut beraksi.
Sayangnya, saya tidak didukung Facebook untuk memberikan dampak nyata.
Bahkan, di hari kedua saya bekerja, jabatan dan uraian tugas saya diganti,
dan saya dikeluarkan dari rapat-rapat penting.
Kerja keras saya,
rencana yang saya susun
untuk melawan disinformasi dan penindasan pemilih di iklan kampanye
ditolak.
Jadi, saya hanya bertahan kurang dari enam bulan.
Tetapi, ini pelajaran yang saya dapatkan setelah bekerja di sana.
Ada ribuan orang di Facebook
yang sangat antusias mengerjakan
sebuah produk yang mereka yakini membuat dunia ini lebih baik,
tetapi selama korporasi tersebut terus melakukan seadanya
dalam kebijakan konten dan moderasi,
alih-alih membenahi
desain dan monetisasi dari keseluruhan sistem,
mereka tidak akan betul-betul menangani dampak dari platform mereka
yang menyebarkan kebencian, perpecahan, dan radikalisasi.
Inilah perbincangan yang tidak pernah saya dengar saat saya di sana,
karena mereka harus terlebih dahulu menerima
bahwa karya mereka mungkin tidak selalu berdampak baik
dan juga berani merombak seluruh produk dan profit model mereka.
Jadi, apa yang bisa kita lakukan?
Saya tidak mengatakan bahwa hanya media sosial saja
yang bersalah atas situasi kita saat ini.
Jelas, ada masalah sosial yang mengakar yang harus sama-sama kita pecahkan.
Namun, pernyataan dari Facebook, bahwa semua ini hanya cerminan masyarakat,
hanyalah alasan mereka untuk lari dari tanggung jawab
terhadap platform mereka yang menyebarluaskan konten berbahaya
dan mendorong beberapa pengguna terhadap ekstremisme.
Dan Facebook bisa, kalau mereka mau,
memperbaiki beberapa masalah ini.
Mereka bisa berhenti menyebarkan dan merekomendasikan teori konspirasi,
kelompok kebencian, penyebar disinformasi
dan ya, dalam beberapa kasus bahkan presiden kita sendiri.
Mereka bisa berhenti menyampaikan retorika politik
menggunakan taktik personalisasi yang digunakan untuk menjual sepatu.
Algoritme mereka bisa dilatih ulang
agar tidak fokus memancing perhatian,
dan mereka bisa membuat haluan untuk mencegah konten tertentu menjadi viral
sebelum diulas.
Mereka bisa melakukan semua ini
tanpa menjadi apa yang mereka sebut sebagai sang penentu kebenaran.
Tetapi mereka sudah terus terang tidak akan berupaya besar
untuk melakukan hal benar tanpa dipaksa terlebih dulu,
ya, karena, untuk apa?
Pasar akan terus mendukung, dan mereka tidak melanggar hukum.
Karena situasinya saat ini,
tidak ada ketentuan di AS yang mewajibkan Facebook, atau media sosial lainnya,
untuk melindungi ruang publik kita,
demokrasi kita,
dan bahkan pemilu kita.
Kita sudah menyerahkan kendali atas keputusan peraturannya
kepada para CEO perusahaan profit.
Apakah ini yang kita mau?
dunia paska-kebenaran di mana toksisitas dan tribalisme
berjaya atas pengertian dan musyawarah?
Saya masih optimis kita memiliki lebih banyak persamaan di antara kita
daripada yang media dan internet saat ini tunjukkan,
dan saya percaya memberikan ruang untuk berbagai perspektif
akan membuat demokrasi kita menjadi lebih kuat dan inklusif.
Tapi, keadaan saat ini tidak mengarah ke sana.
Dan perlu digarisbawahi, saya bukan ingin perusahaan-perusahaan ini ditutup.
Saya hanya ingin mereka memegang tanggung jawab yang sepadan,
sama seperti yang masyarakat pegang.
Sudah seharusnya pemerintah maju dan melakukan pekerjaan mereka,
yaitu melindungi rakyat.
Dan meskipun tidak mungkin ada satu undang-undang ajaib
yang dapat memperbaiki semuanya,
saya percaya pemerintah bisa dan harus menemukan keseimbangan
antara menjaga kebebasan berpendapat
dan menjaga tanggung jawab para platform atas dampaknya terhadap masyarakat.
Mereka dapat menegakkannya dengan menuntut transparansi
mengenai bagaimana proses sistem rekomendasi mereka,
melakukan penilaian, amplifikasi, dan penargetan konten.
Saya berharap para korporasi bertanggung jawab,
bukan atas satu individu yang menyebar misinformasi
atau retorik ekstrem,
tetapi atas bagaimana sistem rekomendasi mereka menyebarkannya,
bagaimana algoritme mereka menggiring banyak orang,
dan bagaimana peranti mereka menargetkan pengguna.
Saya sudah berusaha mengubahnya dari dalam Facebook, dan saya gagal,
jadi sekarang saya bersuara lagi
untuk terus menyadarkan semua orang
sehingga semoga semakin banyak yang menuntut pertanggungjawaban ini.
Pesan saya simpel:
desak anggota perwakilan rakyat Anda
untuk maju agar ruang publik kita jangan diserahkan untuk kepentingan perusahaan.
Bantu edukasi teman dan keluarga Anda
tentang bagaimana mereka dimanipulasi di situs daring.
Dorong diri Anda untuk berhubungan dengan orang yang tidak sepemikiran.
Prioritaskan isu ini.
Kita perlu kontribusi dari masyarakat luas untuk memperbaiki hal ini.
Dan pesan saya kepada para pimpinan dan mantan rekan saya di Facebook adalah:
saat ini, banyak pihak memanfaatkan alat kalian sesuai dengan rancangannya
untuk menabur kebencian, perpecahan, dan kecurigaan,
dan kalian bukan sekedar membiarkannya, kalian memungkinkannya.
Dan ya, ada banyak cerita hebat
tentang hal-hal positif yang terjadi di platform kalian di seluruh dunia.
Namun, bukan berarti semuanya aman-aman saja.
Keadaan justru akan semakin memburuk dengan pemilu mendatang,
dan yang lebih mengkhawatirkan,
yaitu potensi krisis paling besar sejauh ini,
jika hasilnya tidak dipercayai publik, kemudian terjadi kericuhan.
Jika di tahun 2021 Anda bilang, "Kita tahu kita harus jadi lebih baik,"
saya ingin Anda mengenang momen ini,
karena isu ini bukan diangkat oleh satu dua orang saja.
Para pejuang hak sipil, civitas akademika,
jurnalis, pemasang iklan, pegawai kalian sendiri,
mereka semua terang-terangan mengatakan
bahwa kebijakan dan praktik bisnis kalian
merusak masyarakat dan demokrasi.
Anda tentukan sendiri,
tapi jangan bilang kalau Anda tidak menyangkanya.
Terima kasih.