Algoritme tidaklah objektif. AI dan banyak teknologi baru melestarikan prasangka. Mereka tidak memprediksi masa depan, mereka membuat masa depan. MELANJUTKAN PERCAKAPAN DILEMA SOSIAL Saya menghabiskan banyak waktu saya berpikir tentang prasangka, ya karena itulah saya. Selain itu, ketidakmampuan pemerintah untuk memahami isu-isu ini menyebabkan kurangnya peraturan dan hukum yang membantu mengurangi beberapa masalah yang sudah kita lihat dengan AI. Algoritme tidaklah objektif. Algoritma dioptimalkan dengan beberapa definisi kesuksesan. Mereka menggunakan data historis untuk memprediksi kesuksesan di masa depan. Orang-orang secara membabi buta percaya bahwa secara natural algoritma itu adil dan objektif dan karena sebagian percaya pada kewajaran ini mereka tidak mempertanyakannya. Jadi, saat algoritma berakhir serasis data yang kita taruh di sana justru mereproduksi secara persis pola-pola yang ingin kita hindari. Sistem memperkenalkan berton informasi tanpa konteks, tanpa sejarah, dan bahkan tanpa masalah politik dan ekonomi serta keterlibatan sosial. Jadi ada kemungkinan lebih besar bahwa sistem AI mewujudkan prasangka-prasangka ini atau bahkan membuatnya lebih buruk. Ada empat jenis algoritma yang saya yakini sedang disalahgunakan dan bisa menyebabkan kerusakan serius pada masyarakat. Keempat kategori tersebut adalah: Keuangan. Ini adalah algoritme yang memutuskan apakah orang akan membeli asuransi dan berapa banyak, apakah ia memiliki kartu kredit yang bagus, apakah ia mendapatkan hipotek, apakah mereka mendapatkan rumah. Jika Anda membuka situs kartu kredit, Anda tidak akan mendapatkan informasi mengenai kartu kredit. Kamu dipelajari dan dianalisis dan mereka menunjukkan kepada Anda kartu kredit mana yang tepat untuk Anda. Kategori kedua ada hubungannya dengan kebebasan. bagaimana Anda diawasi Berapa lama Anda masuk penjara? Apakah Anda pernah dipenjara menunggu persidangan? Kategori ketiga menyangkut sarana mata pencaharian: Pekerjaanmu. Apakah kamu diwawancara untuk pekerjaan yang kamu lamar? Apakah Anda sudah mendapatkan pekerjaan? Apakah Anda menerima kenaikan gaji? Berapa jam kerja Anda? Satu contoh yang menarik perhatian media adalah algoritme perekrutan yang secara tidak proporsional menguntungkan orang yang menyebut diri mereka "Jared" dan bermain lacrosse, karena kebanyakan orang dengan kinerja yang baik di perusahaan itu memiliki kesamaan dua fakta ini. Dan kategori keempat adalah informasi itu sendiri. Bagaimana kita mendapatkan informasi? Apa yang kita percayai? Terutama informasi politik. Hal-hal ini adalah algoritme saat ini. Sering kali mereka tidak adil. Sering kali mereka ilegal. Tetapi kami belum menemukan cara menerapkan undang-undang anti-diskriminasi kita. Keadaan yang mengkhawatirkan saya adalah bahwa... kita tidak menghentikan algoritma yang gelap dan membahayakan. "Hei, kami telah mengikuti Anda sejak kelahiranmu. Kita mengetahui bahwa Anda mengalami masa kecil yang tidak bahagia, di lingkungan di mana banyak orang tidak berhasil dan... Kami memprediksi Anda tidak akan berhasil. Tidak hanya itu, kami akan melakukan segala cara untuk mewujudkannya. Anda tidak akan masuk ke universitas yang bagus. Anda juga tidak akan mendapatkan pekerjaan yang bagus atau pinjaman. Karena itulah yang sesungguhnya dilakukan algoritme. Mereka tidak memprediksi masa depan, mereka membuat masa depan. DILEMA SOSIAL DILEMA SOSIAL KITA