Penyimpangan moral di balik hasil pencarian Anda

Mesin pencari telah menjadi sumber informasi kita yang paling terpercaya dan penentu kebenaran. Tapi apakah kita bisa mendapatkan hasil pencarian yang tak menyimpang? Penulis dan jurnalis Swedia, Andreas Ekström berargumen bahwa secara filosofis, hal seperti itu tidaklah mungkin. Dalam ceramah yang mendalam ini, ia mengajak kita untuk memperkuat ikatan antara teknologi dan kemanusiaan, dan ia mengingatkan kita bahwa di balik setiap algoritma ada sepaket keyakinan pribadi yang tak dapat benar-benar dihapus oleh kode apapun.

Setiap kali saya mengunjungi sekolah
dan bicara dengan pelajar,

saya selalu bertanya
hal yang sama pada mereka:

mengapa kamu meng-Google?

Mengapa mesin pencarian Google
menjadi pilihanmu?

Anehnya, saya selalu mendapat
tiga jawaban sama.

Pertama, "Karena selalu berhasil,"

yang mana itu jawaban bagus;
itu juga kenapa saya meng-Google.

Kedua, akan ada yang bilang,

"Aku tak tahu alternatif lainnya."

Tidak sebagus jawaban sebelumnya,
dan biasanya saya jawab

"Coba meng-Google kata 'mesin pencari,'

mungkin kamu bisa menemukan
beberapa alternatif menarik."

Dan yang ketiga, dan selalu terjadi,

seorang pelajar akan mengacungkan
tangan dan berkata,

"Dengan Google, saya yakin

akan selalu mendapat hasil pencarian
yang terbaik dan tak menyimpang."

Yakin akan selalu mendapat hasil pencarian
yang terbaik dan tak menyimpang.

Nah, sebagai makhluk dengan kemanusiaan,

meskipun juga sebagai manusia digital,

jawaban itu membuat saya miris,

walau saya juga sadar bahwa pemikiran
akan hasil pencarian yang tidak bias

adalah dasar kecintaan dan penghargaan
kita bersama pada Google.

Saya akan menunjukkan mengapa hal itu
hampir tak mungkin secara filosofis.

Tapi mari saya jelaskan dulu sedikit,

prinsip dasar di balik setiap permintaan
pencarian yang kadang kita lupakan.

Setiap kali Anda akan
meng-Google sesuatu,

tanyakanlah pada diri Anda, "Apakah
saya mencari fakta yang sudah pasti?"

Apa ibu kota Perancis?

Apa komponen pembangun molekul air?

Bagus -- silahkan meng-Google.

Tak ada ilmuwan yang mencoba membuktikan

bahwa jawabannya adalah London dan H3O.

Tak ada konspirasi besar tentangnya.

Kita setuju, secara global,

jawaban akan fakta
yang sudah pasti tersebut.

Tapi jika Anda membuat pertanyaan yang
sedikit lebih kompleks, seperti

"Mengapa terjadi konflik
Israel-Palestina?"

Anda tak lagi mencari fakta tunggal,

Anda mencari pengetahuan,

yang merupakan sesuatu
yang lebih rumit dan pelik.

Dan untuk mencapai pengetahuan,

Anda harus menghadirkan
10, 20, bahkan 100 fakta,

melihat semuanya dan berkata,
"Ya, semua ini benar."

Tapi karena siapa saya,

muda atau tua, hitam atau putih,
homo atau tidak,

cara pandang saya akan berbeda.

Dan saya akan bilang, "Ya, ini benar,

tapi bagi saya,
ini lebih penting dari itu."

Di sinilah ini menjadi menarik,

karena di sinilah kita menjadi manusia.

Di sinilah kita mulai berargumen,
membentuk masyarakat.

Dan untuk mencapai sesuatu,
kita harus menyaring semua fakta,

lewat teman, tetangga, orangtua, anak-anak

rekan kerja, koran, dan majalah,

sampai akhirnya mendapatkan
pengetahuan yang sebenarnya,

yang mana mesin pencari
tak bisa membantu kita.

Jadi, saya menjanjikan Anda contoh
untuk menunjukkan mengapa sangat sulit

mendapatkan pengetahuan
yang benar, bersih, dan objektif --

sebagai asupan untuk otak.

Saya akan melakukan beberapa
permintaan pencarian sederhana.

Kita mulai dengan "Michelle Obama,"

Ibu Negara Amerika Serikat.

Dan kita klik gambar.

Berhasil, seperti yang Anda lihat.

Ini adalah hasil pencarian
yang sempurna, kurang lebih.

Hanya fotonya sendiri,
bahkan tak ada yang dengan Presiden.

Bagaimana cara kerjanya?

Sederhana saja.

Google sangat pintar untuk sampai ke sini,
tapi sederhananya,

Google melihat pada dua hal utama.

Pertama, apa kata teks di bawah gambar
pada setiap situs?

Apakah tertulis "Michelle Obama"
di bawah gambar?

Indikasi yang cukup bagus,
ini betul gambarnya.

Kedua, Google melihat pada file gambar,

nama file yang diunggah di situs.

Sekali lagi, apakah namanya
"MichelleObama.jpeg"?

Indikasi yang cukup bagus,
ini bukan gambar Clint Eastwood.

Jadi dengan kedua hal itu,

Anda akan mendapat hasil pencarian
seperti ini -- hampir selalu.

Nah, di tahun 2009, Michelle Obama
menjadi korban kampanye rasial,

di mana ada orang-orang yang ingin
menghinanya lewat hasil pencarian.

Ada gambar yang disebarluaskan di Internet

di mana wajahnya diubah
menjadi seperti monyet.

Dan gambar itu disebarkan di mana-mana.

Dan orang menyebarkannya secara sengaja,

agar muncul di hasil pencarian.

Mereka memastikan, judul gambarnya
tertulis "Michelle Obama"

dan mengunggah gambarnya sebagai
"MichelleObama.jpeg," atau semacamnya.

Anda tahu mengapa --
untuk memanipulasi hasil pencarian.

Dan berhasil.

Jadi ketika meng-Google gambar
"Michelle Obama" tahun 2009,

gambar monyet terdistorsi itu
muncul di antara hasil utama.

Nah, hasilnya bersih sendiri,

dan di situlah keindahannya,

karena Google mengecek relevansi
setiap jam, setiap hari.

Tapi, Google tak menggunakannya kali ini,

mereka berpikir, "Ini rasis
dan hasil pencarian yang buruk

dan kami akan mengembalikan
dan membersihkannya secara manual.

Kami akan menulis kode
dan memperbaikinya,"

dan mereka melakukannya.

Dan saya rasa tak seorangpun
di sini berpendapat itu ide yang buruk.

Saya juga tidak.

Tapi kemudian, beberapa tahun berlalu,

dan Anders yang paling sering
di-Google di dunia,

Anders Behring Breivik,

melakukan suatu hal.

Ini 22 Juli 2011

dan suatu hari yang buruk
dalam sejarah Norwegia.

Pria ini, seorang teroris, mengebom
beberapa bangungan pemerintah

tak jauh dari tempat kita berada
saat ini di Oslo, Norwegia

lalu ia pergi ke Pulau Utøya

dan menembak dan membunuh sekelompok anak.

Hampir 80 orang tewas pada hari itu.

Dan banyak orang menggambarkan
aksi teror ini sebagai dua langkah,

bahwa ia melakukan dua hal:
meledakkan gedung dan menembak anak-anak.

Itu tak benar.

Ada tiga langkah.

Ia meledakkan gedung, menembak anak-anak,

dan ia duduk dan menunggu
dunia meng-Googlenya

Dan ia mempersiapkan
ketiga langkah ini sama baiknya.

Dan jika ada yang cepat memahami hal ini,

ia adalah pengembang situs Swedia,

ahli optimasi mesin pencari di Stockholm,
yang bernama Nikke Lindqvist.

Ia juga orang yang amat gemar politik

dan ia ada di media sosial,
di blognya dan Facebook.

Dia bilang ke semua orang,

"Jika ada sesuatu yang
diinginkan orang ini sekarang,

itu adalah mengendalikan citra dirinya.

Mari lihat, apakah kita dapat mengubahnya.

Mari lihat, apakah kita di dunia beradab,
bisa memprotes tindakannya

dengan menghinanya
pada hasil pencariannya."

Dan bagaimana caranya?

Ia mengatakan pada seluruh pembacanya,

"Bukalah Internet,

cari gambar kotoran anjing
di pinggir jalan --

cari gambar kotoran anjing
di pinggir jalan --

sebarkan di feed Anda,
situs web Anda, di blog Anda.

Pastikan nama si teroris
tertulis pada teksnya,

pastikan untuk menamai
gambarnya "Breivik.jpeg."

Mari kita ajarkan pada Google,
itulah wajah si "teroris."

Dan berhasil.

Dua tahun setelah kampanye
terhadap Michelle Obama,

kampanye manipulasi terhadap
Anders Behring Breivik berhasil.

Jika Anda meng-Google gambarnya

beberapa minggu setelah
kejadian 22 Juli dari Swedia,

Anda akan melihat gambar kotoran anjing
muncul di hasil pencarian,

sebagai protes kecil.

Anehnya, Google tak ikut campur kali ini.

Mereka tak bergerak dan membersihkan
hasil pencariannya secara manual.

Jadi pertanyaan besarnya,

apakah ada yang berbeda
antara kedua kejadian ini?

Apakah ada yang berbeda antara
yang terjadi pada Michelle Obama

dengan Anders Behring Breivik?

Tentu tidak.

Keduanya sama saja,

tapi Google ikut campur di satu kasus
dan membiarkan yang satunya.

Mengapa?

Karena Michelle Obama adalah
orang terhormat, itu sebabnya,

dan Anders Behring Breivik
adalah orang yang keji.

Lihat yang terjadi di sini?

Evaluasi terhadap seseorang terjadi

dan hanya ada satu
pemain berkuasa di dunia

yang memiliki otoritas untuk
mengatakan siapa yang mana.

"Kami suka Anda, kami tak suka Anda.

Kami percaya Anda, kami tak percaya Anda.

Anda benar, Anda salah.
Anda jujur, Anda bohong.

Anda Obama, dan Anda Breivik."

Itulah kekuasaan dari sudut pandang saya.

Jadi saya meminta Anda untuk mengingat
bahwa di balik setiap algoritma

selalu ada seorang manusia,

seseorang dengan sepaket keyakinan pribadi

yang tak bisa benar-benar
dihapus oleh kode apapun.

Dan pesan saya, tak hanya pada Google,

tapi pada semua orang yang beriman
pada kode di seluruh dunia.

Anda perlu mengidentifikasi
penyimpangan Anda sendiri.

Anda perlu memahami bahwa Anda manusia

dan bertanggung jawab atasnya.

Dan saya mengatakannya karena
saya percaya kita telah sampai

pada saat yang sangat mendesak

untuk menyatukan ikatan kita
bersama sekali lagi, lebih erat:

kemanusiaan dan teknologi.

Lebih erat lagi.

Dan jika tak ada yang mengingatkan kita

akan ide menarik mengenai hasil pencarian
yang bersih dan tak menyimpang,

maka ia sepertinya akan tetap
menjadi suatu mitos.

Terima kasih atas waktu Anda.

(Tepuk tangan)