WEBVTT

00:00:01.041 --> 00:00:04.175
Merhaba ben kodlar şairi Joy

00:00:04.199 --> 00:00:09.192
görünmez bir gücün yükselişini
durdurma görevindeyim,

00:00:09.216 --> 00:00:12.072
algoritmik yanlılık için kullandığım

00:00:12.096 --> 00:00:15.405
"kodlu bakış" adını verdiğim bir güç.

NOTE Paragraph

00:00:15.429 --> 00:00:19.729
Algoritmik yanlılık, insan yanlılığı gibi,
adaletsizlikle sonuçlanır.

00:00:19.753 --> 00:00:25.775
Ama algoritmalar virüsler gibi büyük çapta

00:00:25.799 --> 00:00:27.381
ve hızda yanlılığı yayabilirler.

00:00:27.943 --> 00:00:32.330
Algoritmik yanlılık dışlayıcı deneyimlere

00:00:32.354 --> 00:00:34.482
ve ayrımcı uygulamalara yol açabilir.

00:00:34.506 --> 00:00:36.567
Ne demek istediğimi göstereyim.

NOTE Paragraph

00:00:36.980 --> 00:00:39.416
(Video) Joy Boulamwini: Selam kamera.
Bir yüzüm var.

00:00:40.162 --> 00:00:42.026
Yüzümü görebiliyor musunuz?

00:00:42.051 --> 00:00:43.676
Gözlüksüz yüzüm?

00:00:43.701 --> 00:00:45.915
Onun yüzünü görebilirsin.

00:00:46.237 --> 00:00:48.482
Ya benimkini?

00:00:51.890 --> 00:00:55.640
Maskem var. Maskemi görebiliyor musun?

NOTE Paragraph

00:00:56.474 --> 00:00:58.839
Joy Boulamwini: Bu nasıl oldu?

00:00:58.863 --> 00:01:01.848
Neden bilgisayarın önünde bir beyaz maske

00:01:01.848 --> 00:01:03.452
ile oturuyor ve ucuz bir kamera

00:01:03.476 --> 00:01:07.126
tarafından algılanmaya çalışıyorum?

00:01:07.150 --> 00:01:09.441
Kod şairi olarak kodlu bakış ile

00:01:09.465 --> 00:01:10.985
savaşmadığımda

00:01:11.009 --> 00:01:14.281
MIT Medya Lab'ında lisanüstü öğrencisiyim

00:01:14.305 --> 00:01:19.222
ve her tür garip projede
çalışma şansım var.

00:01:19.246 --> 00:01:21.273
Buna yaptığım Aspire Mirror da dâhil.

00:01:21.297 --> 00:01:26.431
Sayesinde yansımamın üzerine
dijital maskeler tasarlayabilirim.

00:01:26.455 --> 00:01:28.805
Sabah eğer güçlü hissetmek istersem,

00:01:28.829 --> 00:01:30.263
bir aslanı takabilirim.

00:01:30.287 --> 00:01:33.783
Sevinçli olmak istiyorsam,
bir alıntı yapabilirim.

00:01:33.807 --> 00:01:36.796
Sistemi oluşturmak için genel yüz tanıma

00:01:36.820 --> 00:01:38.171
yazılımını kullandım.

00:01:38.195 --> 00:01:43.298
Ama beyaz bir maske takmadıkça
sistemi test etmek gerçekten zordu.

NOTE Paragraph

00:01:44.282 --> 00:01:48.628
Maalesef bu sorunla daha önce karşılaştım.

00:01:48.652 --> 00:01:52.955
Georgia Tech de bilgisayar
bilimleri okurken,

00:01:52.979 --> 00:01:55.034
sosyal robotlar üzerinde çalıştım

00:01:55.058 --> 00:01:58.835
ve görevlerimden biri ce-ee
oynayan bir robot yapmaktı.

00:01:58.859 --> 00:02:00.542
Partnerlerinizin yüzlerini kapayıp

00:02:00.566 --> 00:02:04.887
sonra açıp ce-ee dedikleri bir oyun.

00:02:04.911 --> 00:02:09.340
Problem şu ki sizi göremezsem
ce-ee işe yaramaz

00:02:09.364 --> 00:02:11.863
ve robotum beni göremiyordu.

00:02:11.887 --> 00:02:15.837
Projeyi tamamlamak için
arkadaşımın yüzünü ödünç aldım,

00:02:15.861 --> 00:02:17.241
ödevimi sundum ve bu sorunu

00:02:17.265 --> 00:02:21.018
başkasının çözeceğini varsaydım.

NOTE Paragraph

00:02:21.669 --> 00:02:23.672
Daha sonra Hong Kong'da

00:02:23.696 --> 00:02:27.855
bir girişimcilik yarışmasına katıldım.

00:02:28.339 --> 00:02:31.033
Organizatörler yarışmacıların başlangıç

00:02:31.057 --> 00:02:33.429
turuna katılmasına karar verdi.

00:02:33.453 --> 00:02:36.168
Yarışmacılardan birinin 
sosyal robotu vardı

00:02:36.192 --> 00:02:38.104
ve demo yapmaya karar verdi.

00:02:38.128 --> 00:02:41.108
Demo bana gelene kadar işe yaradı

00:02:41.132 --> 00:02:43.055
ve ne olduğunu tahmin edebilirsiniz.

00:02:43.079 --> 00:02:46.044
Robot yüzümü algılayamadı.

00:02:46.068 --> 00:02:48.579
Geliştiricisine ne olduğunu sordum

00:02:48.603 --> 00:02:54.136
ve fark ettik ki aynı genel
yüz tanıma yazılımını kullanıyormuşuz.

00:02:54.160 --> 00:02:55.810
Dünyanın öbür ucunda

00:02:55.834 --> 00:02:59.686
algoritmik yanlılığın
internetten dosya indirmek kadar

00:02:59.710 --> 00:03:02.880
hızlı yolculuk yaptığını öğrendim.

NOTE Paragraph

00:03:03.745 --> 00:03:06.821
Yani ne oluyor? Neden beni algılamıyor?

00:03:06.845 --> 00:03:10.201
Makinelere nasıl görme yetisi
verdiğimize göz atmalıyız.

00:03:10.225 --> 00:03:13.634
Bilgisayar görüşü yüzü tanımlamak için

00:03:13.658 --> 00:03:15.538
makine öğrenme tekniklerini kullanır.

00:03:15.562 --> 00:03:19.459
Bunun çalışma şekli sizin yüz örnekleriyle
eğitim seti oluşturmanızdır.

00:03:19.483 --> 00:03:22.301
Bu bir yüz. Bu bir yüz.
Bu bir yüz değil.

00:03:22.325 --> 00:03:26.844
Zamanla bilgisayara diğer yüzleri
nasıl tanımlayacağını öğretirsiniz.

00:03:26.868 --> 00:03:30.857
Fakat eğitim seti kapsamlı değilse

00:03:30.881 --> 00:03:34.230
sabit normdan çok fazla sapan bir yüzü

00:03:34.254 --> 00:03:35.903
tanımlamak zor olacaktır.

00:03:35.927 --> 00:03:37.890
Bana olduğu gibi.

NOTE Paragraph

00:03:37.914 --> 00:03:40.296
Ama merak etmeyin - iyi haberlerim var.

00:03:40.320 --> 00:03:43.091
Eğitim setleri bir anda ortaya çıkmaz.

00:03:43.115 --> 00:03:44.903
Aslında biz onları yaratabiliriz.

00:03:44.927 --> 00:03:49.103
Yani insanlığın daha zengin portresini

00:03:49.127 --> 00:03:52.951
çıkaran tam spektrumlu
eğitim seti oluşturabiliriz.

NOTE Paragraph

00:03:52.975 --> 00:03:55.196
Şimdi örneklerimde sosyal robotlar

00:03:55.220 --> 00:03:56.988
sayesinde algoritmik dışlanmayı

00:03:57.012 --> 00:04:01.623
nasıl ortaya çıkardığımı gördünüz.

00:04:01.647 --> 00:04:06.462
Ama algoritmik yanlılık ayrımcı
uygulamalara da yol açabilir.

00:04:07.437 --> 00:04:08.890
ABD çapında, polis merkezleri

00:04:08.914 --> 00:04:13.112
suçla mücadele cephaneliklerinde

00:04:13.136 --> 00:04:15.595
yüz tanıma yazılımını kullanmaya başladı.

00:04:15.619 --> 00:04:17.632
Georgetown Yasası ABD'de iki yetişkinden

00:04:17.656 --> 00:04:24.419
birinin - 117 milyon insanın- yüz tanıma

00:04:24.443 --> 00:04:27.977
ağında yüzlerinin bulunduğunu açıkladı.

00:04:28.001 --> 00:04:32.553
Polis merkezleri doğrulukları
denetlenmemiş

00:04:32.577 --> 00:04:36.863
algoritmalar kullanarak
bu ağları izinsiz görebilir.

00:04:36.887 --> 00:04:40.751
Biliyoruz ki yüz tanıma yanılmaz değil

00:04:40.775 --> 00:04:44.918
ve yüzlerin tutarlı etiketlenmesi
hâlâ bir sorun.

00:04:44.918 --> 00:04:46.740
Bunu Facebook da görmüş olabilirsiniz.

00:04:46.764 --> 00:04:49.752
Arkadaşlarımla diğer insanların yanlış

00:04:49.776 --> 00:04:52.234
etiketlendiğini gördüğümüzde gülüyoruz.

00:04:52.258 --> 00:04:57.849
Şüpheli bir suçluyu yanlış tanımlamak
gülünç bir mesele

00:04:57.873 --> 00:05:00.700
veya sivil özgürlükleri ihlal değil.

NOTE Paragraph

00:05:00.724 --> 00:05:03.929
Makine öğrenme yüz tanımada kullanılır

00:05:03.953 --> 00:05:08.458
ama bilgisayar görüş alanının
ötesine de uzanıyor.

00:05:09.266 --> 00:05:13.282
Veri bilimcisi Cathy O'Neil

00:05:13.306 --> 00:05:19.987
"Matemetiksel İmha Silahları"
kitabında, hayatımızın

00:05:20.011 --> 00:05:24.364
daha çok boyutunu etkileyen kararlar

00:05:24.388 --> 00:05:27.352
almak için kullanılan yaygın,
gizemli ve yıkıcı

00:05:27.376 --> 00:05:30.553
algoritmalarla KİS'lerden bahsediyor.

00:05:30.577 --> 00:05:32.447
Peki işe alınan ya da kovulan kim?

00:05:32.471 --> 00:05:34.583
O krediyi alıyor musun? Sigortan var mı?

00:05:34.607 --> 00:05:38.110
Girmek istediğin üniversiteye
kabul edildin mi?

00:05:38.134 --> 00:05:41.643
Aynı platformda satın alınan
aynı ürün için

00:05:41.667 --> 00:05:44.109
sen ve ben aynı fiyatı mı ödüyoruz?

NOTE Paragraph

00:05:44.133 --> 00:05:47.892
Güvenlik polisi öngörücü polislik için

00:05:47.916 --> 00:05:50.205
otomatik öğrenmeyi kullanmaya başlıyor.

00:05:50.229 --> 00:05:53.723
Bazı hakimler hapis cezasını

00:05:53.747 --> 00:05:58.149
belirlemek için makine üretimli
risk puanlarını kullanıyor.

00:05:58.173 --> 00:06:00.627
Bu kararları gerçekten 
düşünmek zorundayız.

00:06:00.651 --> 00:06:01.833
Adiller mi?

00:06:01.857 --> 00:06:04.747
Gördük ki algoritmik yanlılık her zaman

00:06:04.771 --> 00:06:08.145
adil sonuçlar getirmez.

NOTE Paragraph

00:06:08.169 --> 00:06:10.133
Peki biz ne yapabiliriz?

00:06:10.157 --> 00:06:13.837
Daha kapsamlı kod oluşturup
kapsamlı kod uygulamalarını

00:06:13.861 --> 00:06:16.851
nasıl kullandığımızı düşünebiliriz.

00:06:16.875 --> 00:06:19.184
Bu, insanlarla başlar.

00:06:19.708 --> 00:06:21.669
Yani kimin kodladığı önemlidir.

00:06:21.693 --> 00:06:25.812
Birbirlerinin kör noktalarını görebilen
farklı kişilerle tam spektrumlu

00:06:25.836 --> 00:06:28.247
takımlar oluşturabiliyor muyuz?

00:06:28.271 --> 00:06:31.816
Teknik olarak, nasıl kodladığımız önemli.

00:06:31.840 --> 00:06:35.491
Sistemi geliştirirken adaletle
mi oluşturuyoruz?

00:06:35.515 --> 00:06:38.428
Son olarak niçin kodladığımız önemlidir.

00:06:38.785 --> 00:06:43.868
Harika zenginliğin kilidini açmak için
işlemsel yaratma araçlarını kullandık.

00:06:43.892 --> 00:06:48.339
Sosyal değişimi sonraki düşünce değil,

00:06:48.363 --> 00:06:51.293
öncelik hâline getirirsek daha geniş

00:06:51.317 --> 00:06:53.487
eşitliği açma fırsatımız olur.

00:06:54.008 --> 00:06:58.530
"Incoding" hareketini oluşturan
gerekli üç ilke var:

00:06:58.554 --> 00:07:00.206
Kimin kodladığı,

00:07:00.230 --> 00:07:01.773
nasıl kodladığı

00:07:01.797 --> 00:07:03.820
ve niçin kodladığı.

NOTE Paragraph

00:07:03.844 --> 00:07:06.943
Incoding'e yönelmek için
benim paylaştıklarım

00:07:06.967 --> 00:07:10.131
gibi insanların deneyimlerini toplayarak

00:07:10.155 --> 00:07:13.233
yanlılığı belirleyen ve var olan yazılımı

00:07:13.257 --> 00:07:16.327
denetleyen platformlar oluşturmayı
düşünmeye başlayabiliriz.

00:07:16.351 --> 00:07:20.116
Ayrıca daha kapsamlı
eğitim setleri hazırlayabiliriz.

00:07:20.140 --> 00:07:22.943
Geliştiricilerin daha kapsamlı
eğitim setleri oluşturmasına

00:07:22.967 --> 00:07:26.622
ve deneyebilmesine yardım
ettiğimiz "Kaynaşmak için Özçekimler"

00:07:26.646 --> 00:07:28.739
kampanyasını düşünün.

00:07:29.302 --> 00:07:32.130
Ve şu an geliştirdiğimiz
teknolojinin toplumsal etkileri

00:07:32.154 --> 00:07:37.545
konusunda daha vicdani
düşünmeye başlayabiliriz.

NOTE Paragraph

00:07:37.569 --> 00:07:39.962
Incoding hareketini başlatmak için

00:07:39.986 --> 00:07:42.833
adaletle ilgilenen birinin kodlu 
bakışla savaşabileceği

00:07:42.857 --> 00:07:48.729
Algoritmik Adalet Ligi'ni başlattım.

00:07:48.753 --> 00:07:52.033
codedgaze.com'da yanlılığı bildirebilir,

00:07:52.033 --> 00:07:54.518
denetleme isteyebilir, deneyen olabilir,

00:07:54.542 --> 00:07:56.532
süren tartışmalara katılabilirsiniz,

00:07:57.342 --> 00:07:59.327
#codedgaze

00:08:00.739 --> 00:08:02.964
Sizi dâhil olmaya ve
merkez sosyal değişime

NOTE Paragraph

00:08:02.994 --> 00:08:06.761
değer verdiğimiz ve teknolojinin 
sadece bir kısım için değil,

00:08:06.781 --> 00:08:08.910
herkes için işe yaradığı

00:08:08.920 --> 00:08:13.217
bir dünyaya davet ediyorum.

00:08:13.257 --> 00:08:14.713
Teşekkürler.

NOTE Paragraph

00:08:14.733 --> 00:08:15.908
(Alkış)

NOTE Paragraph

00:08:20.873 --> 00:08:23.284
Bir sorum var.

NOTE Paragraph

00:08:23.754 --> 00:08:25.728
Bu savaşta benimle misiniz?

NOTE Paragraph

00:08:25.828 --> 00:08:27.057
(Gülüşmeler)

NOTE Paragraph

00:08:27.137 --> 00:08:28.269
(Alkış)