Her gün, her hafta farklı şart ve koşulları kabul ediyoruz. Bunu yaparken de şirketlere hem bizim verilerimizle hem de çocuklarımızın verileriyle istediklerini yapma hakkını veriyoruz. Bu da bizi düşündürüyor: Çocuklarımızın verilerinin ne kadarını açık ediyoruz ve bunun sonuçları ne olabilir? Ben bir antropoloğum. Aynı zamanda iki küçük kız annesiyim. Bu soruyla ilgilenmeye 2015'te başladım. Çocuklarla ilgili çok fazla hatta inanılmaz sayıda veri izinin üretilip toplandığını fark ettiğimde. Çocuk Verisi Vatandaşı isminde bir araştırma projesi başlattım. Hedefim bu boşluğu doldurmaktı. Çocuklarınızın fotoğraflarını sosyal medyada paylaştığınız için sizi kınamaya geldiğimi düşünebilirsiniz fakat demek istediğim şey bu değil. Sorun sosyal medya ebeveynliğinden çok daha büyük. Bu bireylerle değil sistemlerle ilgili. Suçlu olan siz ve alışkanlıklarınız değil. Tarihte ilk kez çocukların bireysel verilerini takip ediyoruz, doğumlarından çok daha öncesinden -- bazen gebeliğin başladığı andan itibaren ve tüm hayatları boyunca. Ebeveynler çocuk yapmaya karar verdiğinde internetten "hamile kalma yöntemleri" arar ya da ovülasyon takip uygulamaları indirirler. Hamile kaldıklarında ultrason resimlerini sosyal medyada paylaşır, hamilelik uygulamaları indirir ya da her türlü konuda Dr. Google'a danışırlar. Şunun gibi konular: "Uçak yolculuğunda düşük riski" ya da "erken hamilelik döneminde mide krampları" Biliyorum çünkü ben de yaşadım, defalarca. Sonrasında, bebek doğduğunda farklı teknolojiler kullanarak her uykuyu, her beslenmeyi hayattaki her anı takip ederler. Bu teknolojilerin tümü bebeğin en mahrem davranışlarını ve sağlık verilerini başkalarıyla paylaşarak paraya dönüştürür. Nasıl çalıştığını size anlatayım. 2019'dan bir British Medical Journal araştırması gösteriyor ki her 24 mobil sağlık uygulamasından 19'u bilgilerinizi üçüncü şahıslarla paylaşıyor. Bu üçüncü şahıslar da bilgileri 216 başka kurumla paylaşıyor. Bu 216 dördüncü şahıstan sadece 3'ü sağlık sektöründe bulunuyor. Bu verilere erişimi olan diğer şirketler Google, Facebook, Oracle gibi büyük teknoloji şirketleri, dijital reklam şirketleri ve aralarında bir tüketici kredisi rapor ajansı da vardı. Doğru anladınız. Reklam ve kredi ajansları küçük bebeğiniz hakkında verilere sahip olabilir. Mobil uyulamalar, internet aramaları ve sosyal medya buzdağının sadece görünen kısmıdır. Çocuklar günlük hayatlarında da pek çok teknoloji tarafından takip ediliyor. Evlerindeki sanal asistan ve ev teknolojilerinden takip ediliyorlar. Okullarındaki eğitim platformları ve eğitim teknolojilerinden takip ediliyorlar. Doktorlarının ofislerindeki çevrimiçi kayıt ve portallardan takip ediliyorlar. İnternete bağlı oyuncaklarından, çevrim içi oyunlardan ve başka pek çok teknoloji tarafından takip ediliyorlar. Araştırmam sırasında pek çok ebeveyn bana gelip "Ee, yani?" diye sordu. "Çocuğumun takip edilmesi neden bu kadar önemli? Sakladığımız bir şey yok." Aslında önemli. Çünkü günümüzde bireyler sadece takip edilmiyor. Ayrıca veri izlerine göre profilleri çıkartılıyor. Yapay zeka ve kestirimsel analizler farklı kaynaklar üzerinden bireyin hayatından maksimum veriyi elde etmek için kullanılır: Aile geçmişi, satın alma alışkanlıkları, sosyal medya yorumları. Bu veriler bir araya getirilip birey hakkında veri güdümlü kararlar vermek için kullanılır. Bu teknolojiler her yerde kullanılıyor. Bankalar kredilere karar vermek, sigorta şirketleri oranlara karar vermek, İşe alım uzmanları ve işverenler bireyin işe uygun olup olmadığına karar vermek için kullanır. Polis ve mahkemeler ise bireyin potansiyel bir suçlu olup olmadığına ya da tekrar suç işleyip işlemeyeceğini saptamak için kullanır. Verilerimizi satın alarak, satarak ve işleyerek bizim ve çocuklarımızın profilini çıkaran yollar üzerinde herhangi bir bilgimiz ve kontrolümüz yok. Ama bu profiller haklarımızı ciddi şekilde etkileyebilir. Örnek vermek gerekirse, 2018 yılında ''New York Times'' Amerika'da üniversite programı veya burs arayan milyonlarca lise öğrencisi tarafından tamamlanan çevrim içi üniversite planlama hizmetleri yoluyla toplanan verilerin eğitim veri aracılarına satıldığı haberini yayınladı. Fordham Üniversitesinde eğitim veri aracıları üzerinde çalışan araştırmacılar bu şirketlerin iki yaşından itibaren çocukların profillerini şu farklı kategorileri baz alarak çıkardıkları bilgisine ulaştı: Etnik köken, din, varlık, sosyal uygunsuzluk ve diğer birçok rastgele kategori. Daha sonra çıkarılan bu profilleri, çocuğun ismiyle birlikte ev adresi ve iletişim detaylarını, farklı firmalara satıyorlar ki bunlara ticaret ve kariyer kurumları, öğrenci kredisi ve öğrenci kredi kartı şirketleri de dahil. Sınırları zorlarsak, Fordham'daki araştırmacılar, eğitim veri aracılarından aile planlama hizmetleriyle ilgilenen 14 ile 15 yaşındaki kızların listesini sunmalarını istedi. Veri aracısı listeyi sunmayı kabul etti. Yani bunun çocuklarımız için ne kadar mahrem ve müdahaleci olduğunu siz düşünün. Fakat eğitim veri aracıları sadece bir örnek. İşin aslı çocuklarımızın profillerinin bizim denetleyemeyeceğimiz ölçüde çıkarılıyor olması ki bu onların hayatını önemli derecede etkileyebilir. O yüzden kendimize şu soruyu sormalıyız: Çocuklarımızın profilinin çıkarılmasında bu teknolojilere güvenebilir miyiz? Güvenebilir miyiz? Benim cevabım hayır. Bir antropolog olarak, yapay zekanın ve kestirimsel analizlerin felaketlerin gidişatını tahmin etmek ve iklim değişikliği ile savaşmak için harika olabileceğine inanıyorum. Ama bu teknolojilerin, insan profillerini objektif olarak çıkardığına ve bireylerin hayatlarıyla ilgili veri güdümlü kararlar vermek için onlara güvenebileceğimize olan inancı terk etmemiz gerekiyor. Çünkü insan profillerini çıkaramazlar. Veri izleri bizim kim olduğumuzun aynası değildir. İnsanlar bir şey düşünür ve tersini söyler, bir yönde hisseder ve farklı hareket eder. Algoritmik tahminler veya dijital alışkanlıklarımız, insan deneyiminin tahmin edilememezlik ve karmaşıklığını açıklayamaz. Üstüne üstlük bu teknolojiler daima -- daima -- öyle ya da böyle, peşin hükümlüdür. Gördüğünüz gibi, algoritmalar tanım gereği spesifik bir sonuca ulaşmak için tasarlanmış kurallar ve adımlar bütünüdür. Tamam mı? Ama bu kurallar ve adımlar bütünü objektif olamaz, çünkü insanlar tarafından tasarlanmışlardır, spesifik bir kültürel içeriği vardır ve spesifik kültürel değerler tarafından şekillendirilir. Yani makineler öğrenirken, peşin hükümlü algoritmalardan ve sıklıkla da peşin hükümlü veri tabanlarından öğrenirler. Şimdi, algoritmik peşin hükmün ilk örneklerini görüyoruz. Bu örneklerden bazıları açıkçası dehşet verici. Bu sene, New York'taki Al Now Enstitüsü kestirimsel güvenlik işlemleri için kullanılan yapay zeka teknolojilerinin "kirli" veriler üzerinde eğitildiğini ortaya çıkaran bir rapor yayınladı. Kirli veriler; ırksal peşin hükmün ve şeffaf olmayan polis uygulamalarının olduğu tarihsel dönemler boyunca toplanan veriler demek. Çünkü bu teknolojiler kirli veri ile eğitiliyor, objektif değiller ve bunun sonuçları sadece polis peşin hükmünü ve hatalarını arttırıp devam ettiriyor. Bundan dolayı, bence toplumumuzda temel bir problem ile karşı karşıyayız. İnsan profili çıkarmaya gelince bu teknolojilere güvenmeye başlıyoruz. Biliyoruz ki insan profili çıkarırken, bu teknolojiler her zaman peşin hükümlü olacaklar ve asla gerçekten doğru olmayacaklar. Bu yüzden asıl ihtiyacımız olan siyasal bir çözüm. Bize veri haklarımızın insan haklarımız olduğunu tanıyan hükümetler lazım. (Alkış) Bu olana kadar, daha adil bir gelecek umut edemeyiz. Kızlarım her tür algoritmik ayrımcılık ve yanlışa maruz kalacağı için endişeleniyorum. Ben ve kızlarım arasındaki farkı görüyorsunuz: Benim çocukluğumun halka açık kaydı yok. Gençken yaptığım ve düşündüğüm tüm o aptal şeylerin bulunduğu bir veritabanı yok. (Kahkaha) Ama kızlarım için daha farklı olabilir. Bugün onlardan toplanan veriler gelecekte onları yargılamak için kullanılabilir, onları umut ve rüyalarından alıkoyabilir. Bence zamanı geldi. Artık hepimizin öne çıkma zamanı geldi. Bireyler olarak, organizasyon ve kurumlar olarak, çok geç olmadan beraber çalışmaya başlamamızın, kendimiz ve çocuklarımız için daha fazla veri adaleti talep etmenin zamanı geldi. Teşekkürler. (Alkış)