Algoritme tidaklah objektif.
AI dan banyak teknologi baru melestarikan prasangka.
Mereka tidak memprediksi masa depan, mereka membuat masa depan.
MELANJUTKAN PERCAKAPAN
DILEMA SOSIAL
Saya menghabiskan banyak waktu saya berpikir tentang prasangka,
ya karena itulah saya.
Selain itu, ketidakmampuan pemerintah
untuk memahami isu-isu ini
menyebabkan kurangnya peraturan dan hukum yang membantu
mengurangi beberapa masalah yang sudah kita lihat dengan AI.
Algoritme tidaklah objektif.
Algoritma dioptimalkan dengan beberapa definisi kesuksesan.
Mereka menggunakan data historis untuk memprediksi kesuksesan di masa depan.
Orang-orang secara membabi buta percaya
bahwa secara natural algoritma itu adil dan objektif
dan karena sebagian percaya pada kewajaran ini
mereka tidak mempertanyakannya.
Jadi, saat algoritma berakhir serasis data
yang kita taruh di sana
justru mereproduksi secara persis pola-pola yang ingin kita hindari.
Sistem memperkenalkan berton informasi tanpa konteks,
tanpa sejarah, dan bahkan tanpa masalah politik dan
ekonomi serta keterlibatan sosial.
Jadi ada kemungkinan lebih besar bahwa sistem AI
mewujudkan prasangka-prasangka ini atau bahkan membuatnya lebih buruk.
Ada empat jenis algoritma
yang saya yakini sedang disalahgunakan
dan bisa menyebabkan kerusakan serius pada masyarakat.
Keempat kategori tersebut adalah:
Keuangan.
Ini adalah algoritme yang memutuskan
apakah orang akan membeli asuransi dan berapa banyak,
apakah ia memiliki kartu kredit yang bagus,
apakah ia mendapatkan hipotek,
apakah mereka mendapatkan rumah.
Jika Anda membuka situs kartu kredit,
Anda tidak akan mendapatkan informasi mengenai kartu kredit.
Kamu dipelajari dan dianalisis
dan mereka menunjukkan kepada Anda kartu kredit mana yang tepat untuk Anda.
Kategori kedua ada hubungannya dengan kebebasan.
bagaimana Anda diawasi
Berapa lama Anda masuk penjara?
Apakah Anda pernah dipenjara menunggu persidangan?
Kategori ketiga menyangkut sarana mata pencaharian:
Pekerjaanmu.
Apakah kamu diwawancara untuk pekerjaan yang kamu lamar?
Apakah Anda sudah mendapatkan pekerjaan?
Apakah Anda menerima kenaikan gaji?
Berapa jam kerja Anda?
Satu contoh yang menarik perhatian media
adalah algoritme perekrutan
yang secara tidak proporsional menguntungkan orang yang menyebut diri mereka "Jared"
dan bermain lacrosse, karena
kebanyakan orang dengan kinerja yang baik di perusahaan itu
memiliki kesamaan dua fakta ini.
Dan kategori keempat adalah informasi itu sendiri.
Bagaimana kita mendapatkan informasi?
Apa yang kita percayai?
Terutama informasi politik.
Hal-hal ini adalah algoritme saat ini.
Sering kali mereka tidak adil.
Sering kali mereka ilegal.
Tetapi kami belum menemukan cara menerapkan undang-undang anti-diskriminasi kita.
Keadaan yang mengkhawatirkan saya adalah bahwa...
kita tidak menghentikan algoritma yang gelap dan membahayakan.
"Hei, kami telah mengikuti Anda sejak kelahiranmu.
Kita mengetahui bahwa
Anda mengalami masa kecil yang tidak bahagia,
di lingkungan di mana banyak orang tidak berhasil dan...
Kami memprediksi Anda tidak akan berhasil.
Tidak hanya itu,
kami akan melakukan segala cara untuk mewujudkannya.
Anda tidak akan masuk ke universitas yang bagus.
Anda juga tidak akan mendapatkan pekerjaan yang bagus
atau pinjaman.
Karena itulah yang sesungguhnya dilakukan algoritme.
Mereka tidak memprediksi masa depan, mereka membuat masa depan.
DILEMA SOSIAL
DILEMA SOSIAL KITA