İnsanların ön yargısı yapay zekâdan nasıl uzak tutulabilir

Yapay zekâ algoritmaları her an sizin için önemli kararlar alıyor; trafik sigortasına ne kadar ödeyeceğiniz veya iş görüşmenizin başarılı olup olmayacağı gibi. Peki bu makineler sistemlerine kodlanmış insan ön yargılarıyla geliştirilirse ne olur? Teknoloji uzmanı Kriti Sharma teknolojide çeşitliliğin olmamasının yapay zekâya nasıl sızdığını anlatıyor ve daha etik algoritmalar üretmemiz için üç yöntem sunuyor.

Sizce sizin hakkınızda
kaç karar alınmıştır,

bugün, bu hafta veya bu yıl içinde,

yapay zekâ tarafından?

Benim işim yapay zekâ oluşturmak.

Yani, daha da açmak gerekirse
bir inek öğrenciyim.

Bir inek öğrenci olduğum için de

ne zaman yapay zekânın
iş imkânlarımızı çalması

veya robotların gerçek ülkelerden
vatandaşlık alması gibi bir haber çıksa

arkadaşlarımın ve takipçilerimin
gelecek kaygısıyla mesaj attığı kişiyim.

Bunu her yerde görüyoruz.

Medya, robotlar yönetimi
ele geçiriyor diye panik hâlinde.

Bunun için Hollywood'u suçlayabiliriz.

Fakat gerçek şu ki
odaklanmamız gereken sorun bu değil.

Yapay zekâyla ilgili düzeltmemiz gereken
daha büyük bir tehlike var.

Bu yüzden yine şu soruya dönüyoruz:

Yapay zekâ bugün
sizin hakkınızda kaç karar aldı

ve bunlardan kaç tanesinde cinsiyetiniz,
milliyetiniz veya geçmişiniz baz alındı?

Kim olduğumuz ve ne istediğimizle ilgili
kararlar vermek için

algoritmalar her zaman kullanılıyor.

Buradaki kadınların bir kısmı
ne demek istediğimi anlıyorlardır.

YouTube'da hamilelik testi reklamlarını
bin kere sonuna kadar izlediyseniz,

Facebook'ta doğum kliniği
reklamlarıyla karşılaştıysanız

veya benim gibi
Hint izdivaç servisi reklamlarıyla,

ne dediğimi alıyorsunuzdur.

(Gülüşmeler)

Fakat yapay zekâ sadece
hangi ürünleri almak istediğimize

veya hangi diziyi izlemek istediğimize
karar vermek için kullanılmıyor.

Şöyle düşünen biriyle ilgili
ne düşünürdünüz merak ediyorum:

"Siyahi veya Latin birinin,
borcunu zamanında ödeme ihtimali

beyaz birine göre daha düşük."

"John isimli biri, Mary isimli birinden
daha iyi programcılık yapar."

"Siyahi bir adamın suçlu olma olasılığı
beyaz bir adamdan daha fazla."

"Ne kadar da cinsiyetçi ve ırkçı biri."
diye düşünüyorsunuz, değil mi?

Bunlar, yakın bir zamanda yapay zekânın
ulaştığı gerçek kararlar.

Kararların dayanağı ise
biz insanlardan öğrendiği ön yargı.

Yapay zekâ; iş görüşmenizin
başarılı olup olmayacağına,

trafik sigortasına ne kadar ödeyeceğinize,
kredi puanınızın ne kadar iyi olacağına

ve yıllık performans değerlendirmenizdeki
puana karar vermeye yardımcı olur.

Fakat tüm bu kararlar, yapay zekânın
kimliğimiz, ırkımız, cinsiyetimiz

ve yaşımız hakkındaki
varsayım filtrelerinden geçiyor.

Peki bu nasıl gerçekleşiyor?

Yapay zekânın, bir işe alım müdürünün

şirketin gelecek liderini bulmasına
yardım ettiğini düşünün.

Şimdiye kadar müdür,
çoğunlukla erkekleri işe almış.

Böylece yapay zekâ,
erkeklerin programcı olmalarının

kadınlara göre
daha olası olduğunu öğrenir

ve şu sonuca ulaşması uzun sürmez:
"Erkek, kadından daha iyi programcı olur."

Kendi ön yargılarımızı
yapay zekâya dayatıyoruz

ve artık yapay zekâ kadın adayları eliyor.

Bir dakika, eğer işe alım müdürü
kadın adayları eleseydi

haksızlığa uğramış olurduk,
buna izin vermezdik.

Böyle cinsiyet ayrımcılığı kabul edilemez.

Ama bir şekilde yapay zekâ,
yasaların önüne geçti

çünkü kararı bir makine aldı.

Hayır, öyle değil.

Yapay zekâyla etkileşimimizde
ön yargılarımızı güçlendiriyoruz.

Siri, Alexa veya Cortana gibi asistanları
ne sıklıkta kullanıyorsunuz?

Hepsinin iki ortak özelliği var.

Birincisi, ismimi hiçbir zaman
doğru söyleyemiyorlar.

İkincisi, hepsi kadın.

Bizim itaatkâr hizmetçimiz olmak için
tasarlanmışlar;

ışığınızı açıp kapatıyor,
alışveriş siparişlerinizi veriyorlar.

Tabii erkek yapay zekâlar da var.

Fakat onlar daha güçlüler,
örneğin IBM Watson;

şirketler için kararlar veriyorlar,
örneğin Satış Kadrosu Einstein;

veya avukatlık yapıyorlar,
mesela ROSS.

Yani zavallı robotlar, onlar bile
iş yerinde cinsiyetçilikle karşılaşıyor.

(Gülüşmeler)

Bu ikisinin birleşip

günümüz yapay zekâ dünyasında büyüyen
çocukları nasıl etkilediğini bir düşünün.

Mesela bir okul ödevi için
araştırma yapıyorlar,

Google'da CEO görsellerine bakıyorlar

ve algoritma onlara
çoğunlukla erkekleri gösteriyor.

Sonra, kişisel asistan
görsellerine bakıyorlar

ve tahmin ettiğiniz gibi algoritma
çoğunlukla kadınları gösteriyor.

Daha sonra biraz müzik dinlemek
veya yiyecek sipariş etmek istiyorlar

ve itaatkâr kadın kişisel asistanlarına
siparişlerini emrediyorlar.

En parlak zekâlarımızın bazıları
günümüzde bu teknolojiyi üretiyor.

İstedikleri her türde
üretebilecekleri teknolojiyi,

1960'ların "Mad Man"daki
asistanlar tarzında üretmeyi seçiyorlar.

Yaşasın!

Ama endişelenmeyin,

konuşmamı, cinsiyetçi ve ırkçı makinelerin
yönettiği bir dünyaya doğru

ilerlediğimizi söyleyerek bitirmeyeceğim.

İyi haber şu ki

yapay zekâ tümüyle bizim kontrolümüzde.

Ona, doğru etik değerleri öğretebiliriz.

Bu konuda yapabileceğimiz üç şey var.

Birincisi, kendi ön yargılarımızın
ve makinelerin ön yargılarının

farkında olabiliriz.

İkincisi, bu teknolojiyi çeşitli grupların
ürettiğinden emin olabiliriz.

Üçüncüsü, yapay zekânın öğrenmesi için
ona çeşitli tecrübeler sunabiliriz.

Kişisel tecrübelerime dayanarak
ilk ikisi hakkında konuşabilirim.

Teknolojiyle çalışıyorsanız

ve bir Mark Zuckerberg
ya da Elon Musk gibi görünmüyorsanız

hayatınız biraz zor olur,
yetenekleriniz sorgulanır.

Bir örnek vereyim.

Çoğu geliştirici gibi ben de sık sık
çevrim içi teknoloji forumlarına katılıp

başkalarına yardımcı olmak için
bildiklerimi paylaşırım.

Şunu anladım ki kendi fotoğrafım
ve kendi ismimle oturum açtığımda

şu tarz sorular ve yorumlar alıyorum:

"Yapay zekâyla ilgili konuşacak
vasıfta olduğunu düşündüren şey ne?"

"Makine öğrenimi hakkında bilgili
olduğunu düşünmeni sağlayan ne?"

Sonra, kendime yeni bir profil oluşturdum,
kendi fotoğrafım yerine

sırtında roket olan bir kedi
fotoğrafı koydum

ve cinsiyetimi belli etmeyen
bir isim seçtim.

Bu işin nereye gittiğini
tahmin ettiniz değil mi?

Bu sefer yeteneğim hakkında
küçümseyici yorumlar almadım

ve işe yarar bir şeyler yapabildim.

Bu berbat bir durum.

15 yaşından beri robot yapıyorum,
birkaç bilgisayar bilimi derecem var

ama yine de işimin ciddiye alınması için
cinsiyetimi gizlemek zorundayım.

Bu ne demek oluyor?

Teknolojide erkekler
kadınlardan daha mı iyi?

Bir araştırmada, kadın kodlayıcılar
benim gibi cinsiyetlerini gizlediklerinde

kodlarının erkeklere oranla yüzde dört
daha fazla kabul edildiği bulunmuş.

Yani bunun yetenekle ilgisi yok.

Bu, bir programcının belirli bir kişi gibi
görünmesi gerektiğini söyleyen

yapay zekânın elitliği.

Yapay zekâyı geliştirmek için
yapmamız gereken şey

her türden geçmişe sahip
insanları bir araya getirmek.

Yapay zekâ kişilikleri oluşturmamıza
yardım edecek hikâyeler yazıp anlatabilen,

problem çözebilen,
farklı zorluklarla yüzleşebilen,

çözülmesi gereken gerçek sorunların
neler olduğunu söyleyebilen

ve bu sorunları teknolojinin çözmesi için
yöntemler öneren kişilere ihtiyacımız var.

Çünkü çeşitli geçmişe sahip insanlar
bir araya geldiğine,

yapılanı olması gerektiği gibi yaptığında
imkânlar sınırsız olur.

İşte bunun hakkında konuşmak istiyorum.

Daha az ırkçı robotlar,
işimizi elimizden alacak daha az makine

ve teknolojinin aslında neler
başarabileceği hakkında daha fazla şey.

Yani evet, yapay zekâ dünyasında,
teknoloji dünyasında enerjinin bir kısmı

yayın akışınızda hangi reklamları
gördüğünüzle ilgili olacak.

Ama birçoğu, dünyayı daha iyi
bir yer yapmak için harcanacak.

Demokratik Kongo Cumhuriyeti'nde
hamile bir kadın düşünün.

Kontrole gitmek için en yakın
doğum kliniğine 17 saat yürümek zorunda.

Bunun yerine telefonundan
tanı konulabilseydi?

Her üç kadından birinin aile içi şiddete
maruz kaldığı Güney Afrika'yı

ve yapay zekânın bu kadınlar için
yapabileceklerini bir düşünün.

Buna karşı ses çıkarmaları güvenli değilse

tehlikeye dikkat çekmek
ve finansal ve hukuki destek almak için

bir yapay zekâ hizmeti edinebilirler.

Bunların hepsi ben de dahil insanların,
üzerinde çalıştığı gerçek projeler.

Eminim ki birkaç gün içinde
varoluşsal tehlikeyle ilgili

veya robotların işlerinizi elinizden
alacağı hakkında yeni haberler çıkacak.

(Gülüşmeler)

Böyle bir şey olduğunda

gelecekle ilgili endişelenenlerden
yine aynı mesajları alacağım.

Ama ben teknoloji hakkında
son derece olumlu hissediyorum.

Bu, dünyayı çok daha eşit bir yer
yapabilmemiz için bir şans.

Fakat bunu yapabilmek için en temelden
itibaren doğru inşa etmemiz gerekiyor.

Farklı cinsiyet, ırk, cinsel yönelim
ve geçmişlerden insana ihtiyacımız var.

Sadece sahibinin emrini yerine getiren
kadın makinelere değil

üretici olan kadınlara ihtiyacımız var.

Makinelere ne öğrettiğimize
ve hangi verileri verdiğimize

çok dikkat etmeliyiz ki
geçmiş hatalarımızı tekrarlamasınlar.

Umarım iki şey hakkında
düşünerek buradan ayrılırsınız.

Birincisi, ön yargılar.

Doğum kliniklerine veya bahis sitelerine
ilgi duyduğunuzu varsayan

bir reklamla karşılaştığınızda
umarım düşünüp hatırlarsınız ki

aynı teknoloji, siyahi bir adamın
tekrar suç işleyeceğini varsayıyor,

bir kadının, kişisel asistan olmasının,
CEO olmasından olası olduğunu varsayıyor.

Umarım bu, size bir şeyler
yapmamız gerektiğini hatırlatır.

İkincisi,

geleceğimiz için olağanüstü
bir güç olacak yapay zekâ oluşturmak için

belli bir şekilde görünmenize

veya mühendislik ya da teknoloji
geçmişinizin olmasına gerek yok.

Mark Zuckerberg gibi
görünmenize gerek yok,

benim gibi görünebilirsiniz.

En uç durumlar da dahil herkes için
yapay zekâ oluşturması için

devleti ve şirketleri iknâ etmek

ve geleceğin olağanüstü teknolojisiyle
ilgili eğitim almak hepimizin görevi.

Çünkü bunu yaptığımızda

yapay zekâyla yapabileceklerimizin için
ilk adımı atmış olacağız.

Teşekkürler.

(Alkışlar)