Tidak peduli siapa Anda dan di mana Anda tinggal,
saya rasa Anda pasti setidaknya mengenal seseorang
yang suka meneruskan email-email itu.
Anda tahu yang saya bicarakan -
surel dengan klaim meragukan atau video konspirasi.
Anda mungkin sudah mendiamkan mereka di Facebook
karena telah membagikan pos sosial seperti ini.
Ini adalah sebuah foto pisang
dengan bentuk salib merah yang aneh di tengah-tengah
Dan teks di sekelilingnya memperingatkan orang
untuk tidak memakan buah seperti ini,
menginfokan buah itu telah disuntik
darah yang terkontaminasi oleh virus HIV.
Dan pesan sosial di atasnya hanya mengatakan
"Sebarkan untuk menyelamatkan hidup."
Sekarang, pemeriksa fakta telah menyanggah ini selama bertahun-tahun,
tapi itu salah satu rumor yang tidak akan mati.
Rumor serupa zombie.
Dan, tentu saja, itu sepenuhnya salah.
Mungkin Anda tergoda menertawakan contohnya, untuk bilang,
"Yah, siapa yang akan percaya ini?"
Alasan rumor itu menjadi zombie,
karena itu menyentuh ketakutan terdalam orang tentang keamanan mereka sendiri
dan orang-orang yang mereka cintai.
Jika Anda telah sering melihat informasi yang salah seperti saya,
Anda tahu bahwa ini hanya satu dari banyak contoh
yang menyentuh ketakutan terdalam dan terentan orang.
Setiap hari, di seluruh dunia, kita melihat puluhan meme baru di Instagram
yang mendorong orang tua untuk tidak memvaksinasi anak mereka.
Kita melihat video baru YouTube yang menjelaskan perubahan iklim ialah tipuan.
Di seluruh platform, kita melihat banyak unggahan yang menjelekkan orang lain
berdasarkan ras, agama atau seksualitas mereka.
Selamat datang di salah satu tantangan penting zaman kita.
Bagaimana kita bisa mempertahankan kebebasan berekspresi di internet,
sambil memastikan bahwa konten yang disebarluaskan
tidak menyebabkan kerusakan permanen pada demokrasi kita, komunitas kita
serta kesehatan fisik dan mental kita?
Karena kita hidup dalam era informasi,
namun mata uang pusat yang menyangkut kehidupan kita semua - informasi -
tidak lagi dianggap dapat sepenuhnya dipercaya
dan, terkdadang dapat tampak sangat berbahaya.
Sebagian ini berkat pertumbuhan cepat dari platform berbagi sosial
yang memungkinkan kita menelusuri,
dimana kebohongan dan fakta hidup bersisian,
tetapi tanpa sinyal tradisional kepercayaan.
Dan kebaikan - bahasa kita di sekitar ini sangat kacau.
Orang-orang masih terobsesi dengan frasa "berita palsu,"
walaupun itu sangat tidak membantu dan
digunakan untuk menjabarkan beberapa hal yang sebenarnya sangat berbeda:
kebohongan, rumor, tipuan, konspirasi, propaganda.
Dan saya sangat berharap kita bisa berhenti menggunakan frasa
yang telah dipahami berbeda oleh politikus di seluruh dunia,
dari sayap kiri dan kanan,
digunakan sebagai senjata menyerang pers yang bebas dan independen.
(Tepuk tangan)
sebab kita butuh media berita profesional lebih dari sebelumnya.
Dan selain itu, sebagian besar konten tidak menyamar sebagai berita.
Mereka berupa meme, video, pos sosial.
Dan sebagian besar dari mereka tidak palsu; justru menyesatkan.
Kita cenderung terpaku pada apa yang benar atau salah.
Tetapi kekhawatiran terbesar sebenarnya adalah persenjataan konteks.
Karena disinformasi paling efektif
selalu berupa hal yang memiliki inti kebenaran di dalamnya.
Mari kita ambil contoh ini dari London, bulan Maret 2017,
tweet yang beredar luas
setelah insiden teroris di Jembatan Westminster.
Ini adalah gambar asli, bukan palsu.
Wanita yang muncul di foto diwawancarai setelah peristiwa itu,
dan dia menjelaskan bahwa dia benar-benar trauma.
Dia menelepon orang yang dicintai,
dan dia tidak memandang korban atas rasa hormat.
Tapi kabar itu masih beredar luas dengan sudut pandang Islamofobik ini,
dengan banyak tagar, termasuk: #BanIslam.
Jika Anda pegawai Twitter, apa yang Anda lakukan?
Apa Anda akan menghapusnya atau membiarkannya?
Reaksi naluriah dan emosional saya, adalah menghapusnya.
Saya benci sudut pandang gambar ini.
Tapi kebebasan berekspresi ialah HAM,
dan jika kita mulai menghapus ujaran yang membuat kita tidak nyaman,
kita punya masalah.
Mungkin ini terlihat seperti kasus yang jelas,
tapi, sebenarnya, kebanyakan tidak.
Garis batas ini luar biasa sulit untuk dibuat.
Keputusan dengan niat baik dari satu orang
ialah sensor terhadap hal berikutnya.
Apa yang sekarang kita tahu ialah akun ini, Texas Lone Star,
adalah bagian dari kampanye disinformasi Rusia yang lebih luas,
kampanye yang telah lama dihapus.
Apa itu mengubah pandangan Anda?
Bagi saya, iya,
sebab kini, itu contoh kampanye terkoordinasi
demi menabur perpecahan.
Dan bagi Anda yang ingin berpikir
bahwa kecerdasan buatan akan selesaikan semua masalah kita,
Saya pikir bisa sepakat bahwa kita masih jauh
dari AI yang bisa memahami unggahan seperti ini.
Jadi saya ingin jelaskan tiga masalah saling terkait
yang membuat hal ini sangat kompleks
dan memikirkan cara-cara untuk mempertimbangkan tantangan ini.
Pertama, kita tidak hanya memiliki hubungan rasional dengan informasi,
tapi juga hubungan emosional.
Pemikiran semakin banyak fakta membuat semua lebih baik tidaklah benar,
karena algoritma yang menentukan konten apa yang kita lihat,
yah, mereka dirancang untuk menghargai respons emosional kita.
Dan ketika kita takut,
narasi yang terlalu disederhanakan, penjelasan konspirasi
dan bahasa yang menjelekkan orang lain jauh lebih efektif.
Selain itu, banyak dari perusahaan ini,
model bisnis mereka berkaitan dengan perhatian,
yang berarti algoritma ini akan selalu condong ke arah emosi.
Kedua, sebagian besar ujaran yang saya bicarakan di sini bersifat sah.
Itu akan jadi kasus berbeda
jika saya membicarakan konten pelecehan seksual
terhadap anak atau pemicu kekerasan.
Memposting kebohongan jelas ialah legal,
tapi orang terus bicara tentang menghapus konten "bermasalah" atau "berbahaya",
tanpa adanya definisi jelas tentang maksud mereka,
termasuk Mark Zuckerberg,
yang baru-baru ini menyerukan regulasi global demi ujaran moderat.
Dan kekhawatiran saya ialah melihat pemerintah
di seluruh dunia
meluncurkan keputusan kebijakan yang tergesa-gesa
dan mungkin akan memicu konsekuensi yang jauh lebih serius
bila berbicara tentang ujaran kita.
Dan jika kita bisa memutuskan ujaran mana yang akan kita naikkan atau hapus,
kita belum memiliki ujaran sebanyak ini.
Setiap detik, jutaan keping konten
diunggah oleh orang-orang di seluruh dunia
dalam berbagai bahasa,
berdasarkan ribuan konteks budaya yang berbeda.
Kita belum pernah memiliki mekanisme yang efektif
untuk memoderasi ujaran skala ini,
entah yang dilakukan oleh manusia atau teknologi.
Dan ketiga, semua perusahaan ini - Google, Twitter, Facebook, WhatsApp -
mereka ialah bagian dari ekosistem informasi lebih luas.
Kita suka menyalahkan semua pihak, tetapi kenyataannya adalah
media massa dan pejabat terpilih juga dapat memainkan peran yang sama
dalam memperkuat rumor dan konspirasi jika mereka ingin.
Seperti saat kita asal meneruskan konten tak teratur atau menyesatkan
tanpa berusaha.
Kita menambah polusi.
Saya tahu kita semua mencari solusi yang mudah.
Tapi sayangnya tidak ada.
Solusi apa pun harus diluncurkan dalam skala besar, skala internet,
dan ya, platform, mereka sudah terbiasa beroperasi di tingkat itu.
tapi bisakah dan haruskah kita izinkan mereka perbaiki masalah ini?
Mereka tentu berusaha.
tapi sebagian kita akan setuju, faktanya, kita tak ingin perusahaan global
menjadi penjaga kebenaran dan keadilan online.
Dan saya juga pikir platform akan setuju dengan itu.
Dan saat ini, mereka menandai pekerjaan rumah sendiri.
Mereka suka bilang
bahwa intervensi yang mereka jalankan bekerja,
tapi karena mereka ada laporan transparansi sendiri,
sulit bagi kita untuk memverifikasi kebenarannya secara mandiri.
(Tepuk tangan)
Dan mari kita pahami bahwa kebanyakan perubahan kita lihat
hanya terjadi setelah wartawan melakukan penyelidikan
dan menemukan bukti bias
atau konten yang melanggar pedoman komunitas mereka.
Jadi ya, perusahaan ini harus berperan sangat penting dalam proses ini, tapi
mereka tak boleh ambil kendali.
Lalu, pemerintah bagaimana?
Banyak orang percaya regulasi global ialah harapan terakhir kita
dalam hal membersihkan ekosistem informasi kita.
Tapi yang saya lihat adalah anggota parlemen kesulitan
mengikuti perubahan teknologi yang cepat.
Parahnya, mereka kerja dalam kegelapan,
sebab mereka tidak punya akses ke data
untuk memahami apa yang terjadi pada platform ini.
Lagipula, pemerintah mana yang kita percayakan dengan tugas ini?
Kita membutuhkan respons global, bukan respons nasional.
Jadi hal penting yang tersisa adalah kita.
Orang-orang yang menggunakan teknologi ini setiap hari.
Bisakah kita merancang infrastruktur baru untuk mendukung informasi berkualitas?
Saya percaya kita bisa,
dan saya punya beberapa ide tentang apa yang bisa kita lakukan.
Jadi pertama, jika kita serius membawa masyarakat ke sini,
dapatkah kita mengambil inspirasi dari Wikipedia?
Mereka telah menunjukkan yang mungkin.
Ya, itu tidak sempurna,
tapi mereka telah menunjukkan dengan struktur tepat,
dengan pandangan global dan banyak transparansi,
kamu bisa buat hal yang akan mendapat kepercayaan banyak orang.
sebab kita harus mencari cara memanfaatkan kebijaksanaan
dan pengalaman kolektif semua pengguna.
Ini khususnya terjadi pada wanita, orang kulit berwarna
dan kelompok tak terwakili.
Karena tebak apa?
Mereka ahlinya dalam kebencian dan disinformasi,
karena mereka telah lama menjadi sasaran dari semua kampanye ini.
Mereka sudah bertahun-tahun mengibarkan bendera,
dan mereka belum didengarkan.
Ini harus berubah.
Jadi bisakah kita membangun Wikipedia untuk kepercayaan?
Bisakah kita temukan cara agar pengguna dapat memberikan wawasan?
Mereka dapat menawarkan wawasan untuk keputusan moderasi konten yang sulit.
Mereka bisa beri umpan balik
ketika platform memutuskan ingin melakukan perubahan baru.
Kedua, pengalaman orang-orang dengan informasi itu dipersonalisasi.
Umpan berita FB saya sangat beda dengan milik Anda.
Rekomendasi YouTube Anda sangat berbeda dengan saya.
Itu menyulitkan kita untuk memeriksa
informasi apa saja yang dilihat orang.
Jadi, terbayangkah kalau kita
mengembangkan semacam repositori terbuka dan terpusat untuk data anonim,
dengan mempertimbangkan masalah privasi dan etika?
Bayangkan apa yang bisa kita pelajari
jika kita membangun jaringan global warga yang peduli,
yang ingin menyumbangkan data sosial mereka demi sains.
Sebab kita hanya sedikit mengetahui
konsekuensi jangka panjang dari kebencian dan disinformasi
pada sikap dan perilaku orang.
Dan apa yang kita tahu,
sebagian besar dari itu telah dilakukan di AS,
terlepas dari fakta bahwa ini masalah global.
Kita perlu bertindak juga.
Dan ketiga,
bisakah kita cari cara menghubungkan segalanya?
Tidak ada satu sektor, apalagi nirlaba, start-up atau pemerintah,
yang akan menyelesaikan ini.
Tapi ada orang teramat pintar di seluruh dunia
yang menjawab tantangan ini,
dari ruang redaksi, masyarakat sipil, akademisi, kelompok aktivis.
Dan Anda dapat melihatnya di sini.
Beberapa dari mereka membangun indikator kredibilitas konten.
Yang lain memeriksa fakta,
supaya klaim palsu, video, & gambar dapat diredam oleh platform.
Nirlaba yang saya bantu dirikan, First Draft,
bekerja dengan ruang berita yang kompetitif di dunia
untuk membantu mereka membangun investigasi, program kolaboratif.
Dan Danny Hillis, arsitek perangkat lunak,
sedang merancang sistem baru bernama The Underlay,
yang akan mencatat semua pernyataan fakta publik
terhubung ke sumber mereka,
agar orang dan algoritma dapat menilai lebih baik apa yang kredibel.
Dan pendidik di seluruh dunia sedang menguji teknik yang berbeda
untuk mencari cara agar orang kritis terhadap konten yang mereka konsumsi.
Semua upaya ini luar biasa, tetapi mereka bekerja sendirian,
dan banyak dari mereka sangat kekurangan dana.
Ada juga ratusan orang yang sangat pintar
bekerja di perusahaan-perusahaan,
tapi, upaya ini bisa terasa tidak berhubungan,
karena mereka sebenarnya mengembangkan solusi berbeda untuk masalah yang sama.
Bagaimana kita bisa cari cara menyatukan orang
di satu lokasi fisik selama berhari-hari atau berminggu-minggu,
hingga mereka dapat mengatasi masalah bersama
tapi dari beragam sudut pandang?
Bisakah kita melakukannya?
Bisakah kita membangun respons yang terkoordinasi dan ambisius,
yang cocok dengan skala dan kompleksitas masalah ini?
Saya pikir kita bisa.
Bersama-sama, mari kita bangun kembali sumber informasi kita.
Terima kasih.
(Tepuk tangan)