Bagaimana kita bisa menghilangkan materi pelecehan seksual anak dari internet

Pengusaha sosial Julie Cordua bekerja pada masalah yang tidak mudah untuk dibicarakan: pelecehan seksual anak-anak dalam gambar dan video di internet. Di Thorn, dia membangun teknologi untuk menghubungkan titik-titik antara industri teknologi, penegakan hukum dan pemerintah - sehingga kita dapat dengan cepat mengakhiri distribusi viral dari materi pelecehan dan menyelamatkan anak-anak dengan lebih cepat. Pelajari lebih lanjut tentang bagaimana solusi terukur ini dapat membantu membongkar komunitas yang menormalkan pelecehan seksual anak di seluruh dunia saat ini. (Rencana ambisius ini adalah bagian dari Proyek Audacious, inisiatif TED untuk menginspirasi dan mendanai perubahan global.)

[Pembicaraan ini mengandung konten dewasa]

Lima tahun yang lalu,

Saya menerima panggilan telepon
yang akan mengubah hidup saya.

Saya ingat dengan jelas hari itu.

Sekitar bulan-bulan ini,

dan saya sedang duduk di kantor saya.

Saya ingat matahari yang
menembus jendela.

Dan telepon saya berdering.

Dan saya menjawabnya,

dan itu adalah dua agen federal,
yang meminta bantuan saya

untuk mengidentifikasi seorang gadis kecil

yang muncul dalam ratusan gambar
pelecehan seksual anak di situs internet.

Mereka baru saja mulai
mengerjakan kasus ini,

tapi apa yang mereka tahu

adalah bahwa pelecehannya telah disiarkan
ke dunia selama bertahun-tahun

di situs web gelap yang ditujukan
untuk pelecehan seksual anak.

Dan pelaku kekerasannya
sangat menguasai teknologi:

gambar dan video baru
setiap beberapa minggu,

tetapi dengan sangat sedikit
petunjuk tentang siapa

atau di mana gadis ini.

Dan mereka menelepon kami,

sebab mereka mendengar kami
organisasi nirlaba baru

yang membangun teknologi untuk
memerangi pelecehan seksual anak.

Namun kami baru berusia dua tahun,

dan kami baru menangani
kasus perdagangan seks anak.

Dan saya harus memberi tahu mereka

kami tidak punya apa-apa.

Kami tak punya apa pun yang dapat
membantu menghentikan kejahatan ini.

Agen-agen itu membutuhkan setahun

hingga akhirnya menemukan anak itu.

Dan pada saat dia diselamatkan,

ratusan gambar dan video yang
mendokumentasikan pemerkosaannya menyebar,

dari web gelap

ke jaringan perorangan,
ruang obrolan pribadi

dan ke situs web yang
Anda dan saya gunakan

setiap hari.

Dan hari ini, saat dia
berjuang untuk pulih,

dia hidup dengan fakta bahwa
ribuan di seluruh dunia

terus menonton pelecehannya.

Saya datang untuk belajar
dalam lima tahun terakhir

bahwa kasus ini tidaklah unik.

Bagaimana kita bisa sampai
di sini sebagai masyarakat?

Pada akhir 1980-an, pornografi anak -

atau apa yang sebenarnya adalah,
materi pelecehan seksual anak -

hampir dihilangkan.

Undang-undang baru dan peningkatan
penuntutan membuatnya terlalu berisiko

untuk menjual
melalui daring.

Dan kemudian muncul internet,
dan pasar meledak.

Jumlah konten yang beredar saat ini

sangat besar dan terus berkembang.

Ini benar-benar masalah global,

tetapi jika kita hanya melihat AS:

di AS sendiri tahun lalu,

lebih dari 45 juta gambar dan video
materi pelecehan seksual anak

dilaporkan ke Pusat Nasional
untuk Anak Hilang dan Tereksploitasi,

dan itu hampir dua kali lipat
jumlah tahun sebelumnya.

Dan detail di balik angka-angka
ini sulit untuk direnungkan,

dengan lebih dari 60 persen gambar
menampilkan anak-anak di bawah 12 tahun,

dan sebagian besar dari mereka termasuk
kekerasan seksual ekstrem.

Pelaku disemangati di ruang obrolan yang
didedikasikan untuk pelecehan anak-anak,

di mana mereka mendapatkan
pangkat dan ketenaran

dengan lebih banyak pelecehan
dan lebih banyak korban.

Di pasar ini,

mata uang telah menjadi
konten itu sendiri.

Sudah jelas bahwa pelaku telah dengan
cepat memanfaatkan teknologi baru,

tetapi tanggapan kita
sebagai masyarakat belum.

Pelaku ini tidak membaca
perjanjian pengguna situs web,

dan konten tidak memedulikan
batasan geografis.

Dan mereka menang ketika
kita melihat satu teka-teki sekaligus,

yang persis bagaimana
respons kita hari ini dirancang.

Penegakan hukum
bekerja di satu yurisdiksi.

Perusahaan hanya melihat platform mereka.

Dan data apa pun yang
mereka pelajari sepanjang jalan

jarang dibagikan.

Sangat jelas bahwa pendekatan
terputus ini tidak ada gunanya.

Kita harus mendesain ulang respon
kita terhadap epidemi ini

untuk era digital.

Dan itulah tepatnya
yang kami lakukan di Thorn.

Kami sedang membangun teknologi
untuk menghubungkan titik-titik ini,

untuk mempersenjatai
semua orang di garis depan -

penegakan hukum, LSM, dan perusahaan -

dengan alat yang mereka
butuhkan untuk menghilangkan

materi pelecehan seksual
anak dari internet.

Mari kita bicara -

(Tepuk tangan)

Terima kasih.

(Tepuk tangan)

Mari kita bicara sebentar
tentang titik-titik itu.

Seperti yang dapat Anda bayangkan,
konten ini mengerikan.

Jika Anda tidak harus melihatnya,
Anda tidak ingin melihatnya.

Maka, sebagian besar perusahaan
atau lembaga penegak hukum

yang memiliki konten ini

dapat menerjemahkan setiap file
menjadi serangkaian angka unik.

disebut "hash."

ini serupa sidik jari

untuk setiap file atau setiap video.

Dan mereka hanya diizinkan untuk
memakai informasi ini dalam investigasi

atau bagi perusahaan untuk menghapus
konten dari platformnya,

tanpa harus melihat kembali di
gambar dan video setiap kali.

Masalahnya hari ini,

adalah bahwa ada ratusan juta hash ini

tersimpan di lumbung pangkalan data
di seluruh dunia.

Dalam lumbung ini,

data itu mungkin digunakan oleh
agensi mengendalikannya,

tapi tidak menghubungkan data ini berarti
kita tidak tahu berapa banyak yang unik.

Kami tidak tahu yang mewakili
anak-anak yang telah diselamatkan

atau masih perlu diidentifikasi.

Jadi premis pertama kami yang paling
mendasar adalah semua data ini

harus terhubung.

dua cara di mana data ini, dikombinasikan
dengan perangkat lunak di skala global,

dapat memiliki dampak
transformatif di ruang ini.

Yang pertama adalah
dengan penegakan hukum:

membantu mereka mengidentifikasi
korban baru dengan lebih cepat,

hentikan penyalahgunaan

dan menghentikan mereka
yang memproduksi konten ini.

Yang kedua adalah dengan perusahaan:

menggunakannya sebagai petunjuk
untuk mengidentifikasi ratusan juta file

beredar hari ini,

menariknya ke bawah

dan kemudian menghentikan pengunggahan
materi baru sebelum menjadi viral.

Empat tahun yang lalu,

ketika kasus itu berakhir,

tim kami duduk di sana, dan
kami hanya merasakan ini, um ...

... rasa kegagalan yang mendalam,
adalah cara saya bisa mengatakannya,

karena kami menontonnya sepanjang tahun

selagi mereka mencarinya.

Dan kami melihat setiap
tempat dalam penyelidikan

di mana, jika teknologi itu akan ada

mereka akan menemukannya lebih cepat.

Jadi kami berjalan menjauh dari itu

dan pergi dan melakukan hal hanya
kami tahu cara melakukannya:

kami mulai membangun perangkat lunak.

Jadi kita sudah mulai
dengan penegakan hukum.

Mimpi kami adalah lonceng alarm
di meja para petugas di seluruh dunia

sehingga jika ada yang berani
memposting korban baru secara online,

seseorang akan segera
mulai mencari mereka.

Saya tak dapat bicara tentang
perincian perangkat lunak itu,

tapi alat itu sedang bekerja di 38 negara,

telah mengurangi waktu yang
dibutuhkan untuk sampai ke anak

lebih dari 65 persen.

(Tepuk tangan)

Dan sekarang kita
memulai cakrawala kedua:

buat perangkat untuk membantu perusahaan
mengidentifikasi dan menghapus konten ini.

Mari kita bicara tentang
perusahaan-perusahaan ini.

Jadi, saya katakan - 45 juta gambar
dan video di AS saja tahun lalu.

Itu datang hanya dari 12 perusahaan.

Dua belas perusahaan, 45 juta file
materi pelecehan seksual anak.

Ini datang dari perusahaan-perusahaan
yang punya uang

untuk membangun infrastruktur yang
diperlukan untuk menurunkan konten ini.

Namun ada ratusan perusahaan lain,

perusahaan kecil hingga
menengah di seluruh dunia,

yang perlu melakukan pekerjaan ini,

tapi juga: 1) tak dapat membayangkan
platformnya digunakan untuk kejahatan ini,

atau 2) tak punya uang untuk dibelanjakan
pada hal yang tidak menguntungkan.

Jadi kami mengambil tindakan dan
membangunnya untuk mereka,

dan sistem ini kini menjadi lebih pintar
dengan banyak perusahaan berpartisipasi.

Saya memberi
Anda sebuah contoh.

Mitra pertama kami, Imgur - jika kamu
belum pernah mendengar perusahaan ini,

itu salah satu situs web yang
paling banyak dikunjungi di AS -

jutaan konten buatan pengguna
yang diunggah setiap hari,

dengan tujuan untuk membuat
internet lebih menyenangkan,

Mereka bermitra dengan kami lebih dulu

Dalam 20 menit untuk
ditayangkan di sistem kami,

seseorang mencoba mengunggah sepotong
materi pelecehan yang diketahui.

Mereka mampu menghentikan,
menurunkannya,

mereka melapor ke Pusat Nasional
untuk Anak Hilang dan Tereksploitasi.

Tapi mereka melangkah lebih jauh,

dan mereka bertindak dan memeriksa
akun orang yang telah mengunggahnya.

Ratusan lagi materi pelecehan seksual anak

yang belum pernah kita lihat.

Dan di sinilah kita mulai
melihat dampak eksponensial.

Kami menurunkan materi tersebut,

melaporkannya ke Pusat Nasional
untuk Anak Hilang dan Tereksploitasi

dan kemudian hash itu kembali ke sistem

dan menguntungkan setiap
perusahaan di dalamnya.

Dan jutaan hash kita telah menghasilkan
jutaan lagi dan, di waktu yang sama,

perusahaan seluruh dunia mengidentifikasi
dan menurunkan konten ini,

kita akan meningkatkan
kecepatan menghapus

materi pelecehan seksual anak
dari internet di seluruh dunia.

(Tepuk tangan)

Tapi inilah alasan tidak hanya
tentang perangkat lunak dan data,

itu harus tentang skala.

Kami harus mengaktifkan ribuan petugas,

ratusan perusahaan di seluruh dunia

jika teknologi memungkinkan kita
untuk berlari lebih cepat dari para pelaku

dan membongkar komunitas yang
menormalkan pelecehan seksual anak

di seluruh dunia saat ini.

Dan waktu untuk
melakukan ini adalah sekarang.

Kita tidak bisa lagi mengatakan kita tidak
tahu dampaknya terhadap anak-anak kita.

Generasi pertama anak-anak
yang pelecehannya telah menyebar

sekarang orang dewasa muda.

Pusat Perlindungan Anak Kanada

baru saja melakukan penelitian
ini ke para remaja ini

untuk memahami trauma unik
yang mereka coba pulihkan,

mengetahui bahwa
pelecehan mereka tetap ada.

Delapan puluh persen dari orang dewasa
muda ini berpikir tentang bunuh diri.

Lebih dari 60 persen
telah mencoba bunuh diri.

Dan kebanyakan dari mereka
hidup dengan ketakutan setiap hari

bahwa ketika mereka berjalan di jalan
atau wawancara untuk suatu pekerjaan

atau mereka pergi ke sekolah

atau mereka bertemu
seseorang secara daring,

bahwa orang itu telah
melihat pelecehan mereka.

Dan kenyataan menjadi kenyataan
bagi lebih dari 30 persen dari mereka.

Mereka telah dikenali dari materi
penyalahgunaan mereka secara daring.

Ini tidak akan mudah,

tapi itu bukan tidak mungkin.

Sekarang ini membutuhkan kemauan

kehendak masyarakat kita

untuk melihat sesuatu yang
sangat sulit untuk dilihat,

untuk mengambil sesuatu dari kegelapan

agar anak-anak ini memiliki suara;

keinginan perusahaan untuk mengambil
tindakan dan memastikan platform mereka

tidak terlibat dalam pelecehan anak;

keinginan pemerintah untuk berinvestasi
dengan penegakan hukum mereka

untuk alat yang mereka butuhkan untuk
menyelidiki kejahatan digital pertama,

bahkan ketika para korban
tidak dapat berbicara sendiri.

Komitmen yang berani ini
adalah bagian dari keinginan itu.

Ini ialah deklarasi perang melawan salah
satu kejahatan paling gelap umat manusia.

Tapi apa yang saya pegang

adalah bahwa itu sebenarnya
investasi di masa depan

di mana setiap anak
bisa menjadi anak-anak.

Terima kasih.

(Tepuk tangan)