Algoritme tidaklah objektif.
AI dan banyak teknologi baru
melestarikan prasangka.
Mereka tidak memprediksi masa depan,
mereka membuat masa depan.
MELANJUTKAN PERCAKAPAN
DILEMA SOSIAL
Saya menghabiskan banyak waktu saya
berpikir tentang prasangka,
ya karena itulah saya.
Selain itu, ketidakmampuan pemerintah
untuk memahami isu-isu ini
menyebabkan kurangnya peraturan
dan hukum yang membantu
mengurangi beberapa masalah
yang sudah kita lihat dengan AI.
Algoritme tidaklah objektif.
Algoritma dioptimalkan
dengan beberapa definisi kesuksesan.
Mereka menggunakan data historis
untuk memprediksi kesuksesan di masa depan.
Orang-orang secara membabi buta percaya
bahwa secara natural algoritma itu
adil dan objektif
dan karena sebagian
percaya pada kewajaran ini
mereka tidak mempertanyakannya.
Jadi, saat algoritma berakhir serasis data
yang kita taruh di sana
justru mereproduksi secara persis pola-pola
yang ingin kita hindari.
Sistem memperkenalkan
berton informasi tanpa konteks,
tanpa sejarah, dan bahkan
tanpa masalah politik dan
ekonomi serta keterlibatan sosial.
Jadi ada kemungkinan lebih besar
bahwa sistem AI
mewujudkan prasangka-prasangka ini
atau bahkan membuatnya lebih buruk.
Ada empat jenis algoritma
yang saya yakini sedang disalahgunakan
dan bisa menyebabkan
kerusakan serius pada masyarakat.
Keempat kategori tersebut adalah:
Keuangan.
Ini adalah algoritme yang memutuskan
apakah orang akan membeli
asuransi dan berapa banyak,
apakah ia memiliki kartu kredit yang bagus,
apakah ia mendapatkan hipotek,
apakah mereka mendapatkan rumah.
Jika Anda membuka situs kartu kredit,
Anda tidak akan mendapatkan informasi mengenai
kartu kredit.
Kamu dipelajari dan dianalisis
dan mereka menunjukkan kepada Anda
kartu kredit mana yang tepat untuk Anda.
Kategori kedua
ada hubungannya dengan kebebasan.
bagaimana Anda diawasi
Berapa lama Anda masuk penjara?
Apakah Anda pernah dipenjara
menunggu persidangan?
Kategori ketiga menyangkut
sarana mata pencaharian:
Pekerjaanmu.
Apakah kamu diwawancara
untuk pekerjaan yang kamu lamar?
Apakah Anda sudah mendapatkan pekerjaan?
Apakah Anda menerima kenaikan gaji?
Berapa jam kerja Anda?
Satu contoh yang menarik
perhatian media
adalah algoritme perekrutan
yang secara tidak proporsional menguntungkan
orang yang menyebut diri mereka "Jared"
dan bermain lacrosse, karena
kebanyakan orang
dengan kinerja yang baik di perusahaan itu
memiliki kesamaan dua fakta ini.
Dan kategori keempat
adalah informasi itu sendiri.
Bagaimana kita mendapatkan informasi?
Apa yang kita percayai?
Terutama informasi politik.
Hal-hal ini adalah algoritme saat ini.
Sering kali mereka tidak adil.
Sering kali mereka ilegal.
Tetapi kami belum menemukan cara menerapkan
undang-undang anti-diskriminasi kita.
Keadaan yang mengkhawatirkan saya adalah bahwa...
kita tidak menghentikan
algoritma yang gelap dan membahayakan.
"Hei, kami telah mengikuti Anda
sejak kelahiranmu.
Kita mengetahui bahwa
Anda mengalami masa kecil yang tidak bahagia,
di lingkungan di mana banyak orang
tidak berhasil dan...
Kami memprediksi Anda tidak akan berhasil.
Tidak hanya itu,
kami akan melakukan segala cara untuk mewujudkannya.
Anda tidak akan masuk ke universitas yang bagus.
Anda juga tidak akan mendapatkan pekerjaan yang bagus
atau pinjaman.
Karena itulah yang sesungguhnya
dilakukan algoritme.
Mereka tidak memprediksi masa depan,
mereka membuat masa depan.
DILEMA SOSIAL
DILEMA SOSIAL KITA