-
Algoritme tidaklah objektif.
-
AI dan banyak teknologi baru
melestarikan prasangka.
-
Mereka tidak memprediksi masa depan,
mereka membuat masa depan.
-
MELANJUTKAN PERCAKAPAN
-
DILEMA SOSIAL
-
Saya menghabiskan banyak waktu saya
berpikir tentang prasangka,
-
ya karena itulah saya.
-
Selain itu, ketidakmampuan pemerintah
-
untuk memahami isu-isu ini
-
menyebabkan kurangnya peraturan
dan hukum yang membantu
-
mengurangi beberapa masalah
yang sudah kita lihat dengan AI.
-
Algoritme tidaklah objektif.
-
Algoritma dioptimalkan
dengan beberapa definisi kesuksesan.
-
Mereka menggunakan data historis
untuk memprediksi kesuksesan di masa depan.
-
Orang-orang secara membabi buta percaya
-
bahwa secara natural algoritma itu
adil dan objektif
-
dan karena sebagian
percaya pada kewajaran ini
-
mereka tidak mempertanyakannya.
-
Jadi, saat algoritma berakhir serasis data
-
yang kita taruh di sana
-
justru mereproduksi secara persis pola-pola
yang ingin kita hindari.
-
Sistem memperkenalkan
berton informasi tanpa konteks,
-
tanpa sejarah, dan bahkan
tanpa masalah politik dan
-
ekonomi serta keterlibatan sosial.
-
Jadi ada kemungkinan lebih besar
bahwa sistem AI
-
mewujudkan prasangka-prasangka ini
atau bahkan membuatnya lebih buruk.
-
Ada empat jenis algoritma
-
yang saya yakini sedang disalahgunakan
-
dan bisa menyebabkan
kerusakan serius pada masyarakat.
-
Keempat kategori tersebut adalah:
-
Keuangan.
-
Ini adalah algoritme yang memutuskan
-
apakah orang akan membeli
asuransi dan berapa banyak,
-
apakah ia memiliki kartu kredit yang bagus,
-
apakah ia mendapatkan hipotek,
-
apakah mereka mendapatkan rumah.
-
Jika Anda membuka situs kartu kredit,
-
Anda tidak akan mendapatkan informasi mengenai
kartu kredit.
-
Kamu dipelajari dan dianalisis
-
dan mereka menunjukkan kepada Anda
kartu kredit mana yang tepat untuk Anda.
-
Kategori kedua
ada hubungannya dengan kebebasan.
-
bagaimana Anda diawasi
-
Berapa lama Anda masuk penjara?
-
Apakah Anda pernah dipenjara
menunggu persidangan?
-
Kategori ketiga menyangkut
sarana mata pencaharian:
-
Pekerjaanmu.
-
Apakah kamu diwawancara
untuk pekerjaan yang kamu lamar?
-
Apakah Anda sudah mendapatkan pekerjaan?
-
Apakah Anda menerima kenaikan gaji?
-
Berapa jam kerja Anda?
-
Satu contoh yang menarik
perhatian media
-
adalah algoritme perekrutan
-
yang secara tidak proporsional menguntungkan
orang yang menyebut diri mereka "Jared"
-
dan bermain lacrosse, karena
-
kebanyakan orang
dengan kinerja yang baik di perusahaan itu
-
memiliki kesamaan dua fakta ini.
-
Dan kategori keempat
adalah informasi itu sendiri.
-
Bagaimana kita mendapatkan informasi?
-
Apa yang kita percayai?
-
Terutama informasi politik.
-
Hal-hal ini adalah algoritme saat ini.
-
Sering kali mereka tidak adil.
-
Sering kali mereka ilegal.
-
Tetapi kami belum menemukan cara menerapkan
undang-undang anti-diskriminasi kita.
-
Keadaan yang mengkhawatirkan saya adalah bahwa...
-
kita tidak menghentikan
algoritma yang gelap dan membahayakan.
-
"Hei, kami telah mengikuti Anda
sejak kelahiranmu.
-
Kita mengetahui bahwa
-
Anda mengalami masa kecil yang tidak bahagia,
-
di lingkungan di mana banyak orang
tidak berhasil dan...
-
Kami memprediksi Anda tidak akan berhasil.
-
Tidak hanya itu,
-
kami akan melakukan segala cara untuk mewujudkannya.
-
Anda tidak akan masuk ke universitas yang bagus.
-
Anda juga tidak akan mendapatkan pekerjaan yang bagus
-
atau pinjaman.
-
Karena itulah yang sesungguhnya
dilakukan algoritme.
-
Mereka tidak memprediksi masa depan,
mereka membuat masa depan.
-
DILEMA SOSIAL
-
DILEMA SOSIAL KITA
