Her gün, her hafta
farklı şart ve koşulları kabul ediyoruz.
Bunu yaparken de
şirketlere hem bizim verilerimizle
hem de çocuklarımızın verileriyle
istediklerini yapma hakkını veriyoruz.
Bu da bizi düşündürüyor:
Çocuklarımızın verilerinin ne kadarını açık ediyoruz
ve bunun sonuçları ne olabilir?
Ben bir antropoloğum.
Aynı zamanda iki küçük kız annesiyim.
Bu soruyla ilgilenmeye 2015'te başladım.
Çocuklarla ilgili çok fazla
hatta inanılmaz sayıda veri izinin
üretilip toplandığını fark ettiğimde.
Çocuk Verisi Vatandaşı isminde
bir araştırma projesi başlattım.
Hedefim bu boşluğu doldurmaktı.
Çocuklarınızın fotoğraflarını sosyal medyada paylaştığınız için
sizi kınamaya geldiğimi düşünebilirsiniz
fakat demek istediğim şey bu değil.
Sorun sosyal medya ebeveynliğinden çok daha büyük.
Bu bireylerle değil sistemlerle ilgili.
Suçlu olan siz ve alışkanlıklarınız değil.
Tarihte ilk kez
çocukların bireysel verilerini takip ediyoruz,
doğumlarından çok daha öncesinden --
bazen gebeliğin başladığı andan itibaren
ve tüm hayatları boyunca.
Ebeveynler çocuk yapmaya karar verdiğinde
internetten "hamile kalma yöntemleri" arar
ya da ovülasyon takip uygulamaları indirirler.
Hamile kaldıklarında
ultrason resimlerini sosyal medyada paylaşır,
hamilelik uygulamaları indirir
ya da her türlü konuda Dr. Google'a danışırlar.
Şunun gibi konular:
"Uçak yolculuğunda düşük riski"
ya da "erken hamilelik döneminde mide krampları"
Biliyorum çünkü ben de yaşadım,
defalarca.
Sonrasında, bebek doğduğunda farklı teknolojiler kullanarak
her uykuyu, her beslenmeyi
hayattaki her anı takip ederler.
Bu teknolojilerin tümü
bebeğin en mahrem davranışlarını ve sağlık verilerini
başkalarıyla paylaşarak paraya dönüştürür.
Nasıl çalıştığını size anlatayım.
2019'dan bir British Medical Journal araştırması gösteriyor ki
her 24 mobil sağlık uygulamasından 19'u
bilgilerinizi üçüncü şahıslarla paylaşıyor.
Bu üçüncü şahıslar da bilgileri 216 başka kurumla paylaşıyor.
Bu 216 dördüncü şahıstan
sadece 3'ü sağlık sektöründe bulunuyor.
Bu verilere erişimi olan diğer şirketler
Google, Facebook, Oracle gibi büyük teknoloji şirketleri,
dijital reklam şirketleri
ve aralarında bir tüketici kredisi rapor ajansı da vardı.
Doğru anladınız.
Reklam ve kredi ajansları küçük bebeğiniz hakkında verilere sahip olabilir.
Mobil uyulamalar, internet aramaları ve sosyal medya
buzdağının sadece görünen kısmıdır.
Çocuklar günlük hayatlarında da
pek çok teknoloji tarafından takip ediliyor.
Evlerindeki sanal asistan ve ev teknolojilerinden takip ediliyorlar.
Okullarındaki eğitim platformları
ve eğitim teknolojilerinden takip ediliyorlar.
Doktorlarının ofislerindeki
çevrimiçi kayıt ve portallardan takip ediliyorlar.
İnternete bağlı oyuncaklarından,
çevrim içi oyunlardan
ve başka pek çok teknoloji tarafından takip ediliyorlar.
Araştırmam sırasında
pek çok ebeveyn bana gelip "Ee, yani?" diye sordu.
"Çocuğumun takip edilmesi neden bu kadar önemli?
Sakladığımız bir şey yok."
Aslında önemli.
Çünkü günümüzde bireyler sadece takip edilmiyor.
Ayrıca veri izlerine göre profilleri çıkartılıyor.
Yapay zeka ve kestirimsel analizler
farklı kaynaklar üzerinden
bireyin hayatından maksimum veriyi elde etmek için kullanılır:
Aile geçmişi, satın alma alışkanlıkları, sosyal medya yorumları.
Bu veriler bir araya getirilip
birey hakkında veri güdümlü kararlar vermek için kullanılır.
Bu teknolojiler her yerde kullanılıyor.
Bankalar kredilere karar vermek,
sigorta şirketleri oranlara karar vermek,
İşe alım uzmanları ve işverenler
bireyin işe uygun olup olmadığına karar vermek için kullanır.
Polis ve mahkemeler ise
bireyin potansiyel bir suçlu olup olmadığına
ya da tekrar suç işleyip işlemeyeceğini saptamak için kullanır.
Verilerimizi satın alarak, satarak ve işleyerek
bizim ve çocuklarımızın profilini çıkaran yollar üzerinde
herhangi bir bilgimiz ve kontrolümüz yok.
Ama bu profiller haklarımızı ciddi şekilde etkileyebilir.
Örnek vermek gerekirse,
2018 yılında ''New York Times''
Amerika'da üniversite programı
veya burs arayan milyonlarca lise öğrencisi tarafından tamamlanan
çevrim içi üniversite planlama hizmetleri yoluyla
toplanan verilerin
eğitim veri aracılarına satıldığı haberini yayınladı.
Fordham Üniversitesinde eğitim veri aracıları üzerinde çalışan araştırmacılar
bu şirketlerin iki yaşından itibaren çocukların profillerini
şu farklı kategorileri baz alarak çıkardıkları bilgisine ulaştı:
Etnik köken, din, varlık,
sosyal uygunsuzluk
ve diğer birçok rastgele kategori.
Daha sonra çıkarılan bu profilleri,
çocuğun ismiyle birlikte ev adresi ve iletişim detaylarını,
farklı firmalara satıyorlar
ki bunlara ticaret ve kariyer kurumları,
öğrenci kredisi
ve öğrenci kredi kartı şirketleri de dahil.
Sınırları zorlarsak,
Fordham'daki araştırmacılar, eğitim veri aracılarından
aile planlama hizmetleriyle ilgilenen
14 ile 15 yaşındaki kızların listesini sunmalarını istedi.
Veri aracısı listeyi sunmayı kabul etti.
Yani bunun çocuklarımız için ne kadar mahrem ve müdahaleci olduğunu siz düşünün.
Fakat eğitim veri aracıları sadece bir örnek.
İşin aslı çocuklarımızın profillerinin bizim denetleyemeyeceğimiz ölçüde
çıkarılıyor olması ki bu onların hayatını önemli derecede etkileyebilir.
O yüzden kendimize şu soruyu sormalıyız:
Çocuklarımızın profilinin çıkarılmasında bu teknolojilere güvenebilir miyiz?
Güvenebilir miyiz?
Benim cevabım hayır.
Bir antropolog olarak,
yapay zekanın ve kestirimsel analizlerin felaketlerin gidişatını tahmin etmek
ve iklim değişikliği ile savaşmak için
harika olabileceğine inanıyorum.
Ama bu teknolojilerin,
insan profillerini objektif olarak çıkardığına
ve bireylerin hayatlarıyla ilgili veri güdümlü kararlar vermek için
onlara güvenebileceğimize olan inancı terk etmemiz gerekiyor.
Çünkü insan profillerini çıkaramazlar.
Veri izleri bizim kim olduğumuzun aynası değildir.
İnsanlar bir şey düşünür ve tersini söyler,
bir yönde hisseder ve farklı hareket eder.
Algoritmik tahminler veya dijital alışkanlıklarımız,
insan deneyiminin tahmin edilememezlik ve karmaşıklığını açıklayamaz.
Üstüne üstlük
bu teknolojiler daima --
daima --
öyle ya da böyle, peşin hükümlüdür.
Gördüğünüz gibi, algoritmalar tanım gereği spesifik bir sonuca
ulaşmak için tasarlanmış kurallar ve adımlar bütünüdür. Tamam mı?
Ama bu kurallar ve adımlar bütünü objektif olamaz,
çünkü insanlar tarafından tasarlanmışlardır,
spesifik bir kültürel içeriği vardır
ve spesifik kültürel değerler tarafından şekillendirilir.
Yani makineler öğrenirken,
peşin hükümlü algoritmalardan
ve sıklıkla da peşin hükümlü veri tabanlarından öğrenirler.
Şimdi, algoritmik peşin hükmün ilk örneklerini görüyoruz.
Bu örneklerden bazıları açıkçası dehşet verici.
Bu sene, New York'taki Al Now Enstitüsü
kestirimsel güvenlik işlemleri için kullanılan yapay zeka teknolojilerinin
"kirli" veriler üzerinde eğitildiğini
ortaya çıkaran bir rapor yayınladı.
Kirli veriler; ırksal peşin hükmün
ve şeffaf olmayan polis uygulamalarının olduğu
tarihsel dönemler boyunca toplanan veriler demek.
Çünkü bu teknolojiler kirli veri ile eğitiliyor,
objektif değiller
ve bunun sonuçları sadece polis peşin hükmünü
ve hatalarını arttırıp devam ettiriyor.
Bundan dolayı, bence
toplumumuzda temel bir problem ile karşı karşıyayız.
İnsan profili çıkarmaya gelince bu teknolojilere güvenmeye başlıyoruz.
Biliyoruz ki insan profili çıkarırken,
bu teknolojiler her zaman peşin hükümlü olacaklar
ve asla gerçekten doğru olmayacaklar.
Bu yüzden asıl ihtiyacımız olan siyasal bir çözüm.
Bize veri haklarımızın insan haklarımız olduğunu tanıyan hükümetler lazım.
(Alkış)
Bu olana kadar, daha adil bir gelecek umut edemeyiz.
Kızlarım her tür algoritmik ayrımcılık ve yanlışa
maruz kalacağı için endişeleniyorum.
Ben ve kızlarım arasındaki farkı görüyorsunuz:
Benim çocukluğumun halka açık kaydı yok.
Gençken yaptığım ve düşündüğüm tüm o aptal şeylerin
bulunduğu bir veritabanı yok.
(Kahkaha)
Ama kızlarım için daha farklı olabilir.
Bugün onlardan toplanan veriler
gelecekte onları yargılamak için kullanılabilir,
onları umut ve rüyalarından alıkoyabilir.
Bence zamanı geldi.
Artık hepimizin öne çıkma zamanı geldi.
Bireyler olarak,
organizasyon ve kurumlar olarak,
çok geç olmadan
beraber çalışmaya başlamamızın,
kendimiz ve çocuklarımız için
daha fazla veri adaleti talep etmenin zamanı geldi.
Teşekkürler.
(Alkış)