Youtube'daki çocuk videoları kabusu ve günümüzde internetin sorunu

Yazar ve sanatçı James Bridle Youtube'da bilinmeyen insan veya grupların reklam geliri karşılığında küçük çocukların beyinlerini ele geçirdiği, internetin karanlık ve garip köşesini açığa çıkarıyor. "Sürpriz yumurta" açılışları ve "Parmak Ailesi Şarkısı"ndan algoritmik olarak yaratılan tanınmış çizgi film karakterleri karışımlarının şiddetli hallerine, bu videolar genç beyinleri sömürüyor ve dehşete düşürüyor--ve bize giderek veri ile işleyen dünyamızın nereye gittiğiyle ilgili bir şeyler söylüyor. "Teknolojiyi bütün problemlerimize bir çözüm olarak düşünmek yerine, onu bu problemlerin aslında ne olduğunu gösteren bir rehber olarak görmeliyiz ki onlar hakkında düzgünce düşünüp çözüm bulabilelim." diyor Bridle.

Benim adım James.

Yazar ve sanatçıyım

ve teknoloji alanında çalışıyorum.

Dünyanın farklı şehirlerinde

askeri dronların tam boyutlu taslaklarını
çizmek gibi işler yapıyorum;

görmesi ve düşünmesi
oldukça zor olan bu teknolojileri

insanlar düşünmeye
ve anlamaya başlasın diye.

Seçim sonuçlarını hava durumuna
dayanarak tahmin eden

nöronal devreler gibi şeyler yapıyorum,

çünkü bu garip yeni teknolojilerin

asıl potansiyellerinin ne olduğu
konusuna çok merak duyuyorum.

Geçen yıl, kendi kendine
giden arabamı yaptım.

Ama teknolojiye pek güvenmediğim için

ona bir tuzak da hazırladım.

(Kahkaha)

Bu şeyleri yapmamın asıl nedeni
onları fazlasıyla ilginç bulmam

ama öyle düşünüyorum ki
teknolojiden bahsettiğimizde

büyük oranda kendimizden

ve dünyayı anlayış
şeklimizden bahsediyoruz.

İşte teknolojiyle ilgili bir hikaye.

Bu bir "sürpriz yumurta" videosu.

Birisinin bir sürü
çikolotadan yumurtayı açıp

içlerindeki oyuncakları
izleyiciye gösterdiği bir video.

Bu kadar. Yedi uzun dakika
boyunca olan tek şey bu.

Bununla ilgili iki şeyi
fark etmenizi istiyorum.

İlk olarak, bu videonun
30 milyon görüntülenmesi var.

(Kahkaha)

Diğer şey şu,

6,3 milyon abonesi, toplamda sekiz
milyar görüntülenmesi olan

bir kanaldan geliyor

ve kanaldaki bütün videolar böyle --

adamın birinin bu yumurtaları açmasını
izleyen 30 milyon insan.

Kulağa garip geliyor ama Youtube'da
"sürpriz yumurta"yı aratırsanız

size bu videolardan
10 milyon tane olduğunu söyler

ve bence bu sayı düşük.

Bence bu videolardan çok daha fazla var.

Eğer aramaya devam ederseniz sonu gelmez.

Marka ve ürünlere ilişkin giderek artan
abartı kombinasyonlarda

bu videolardan milyonlarca var

ve her geçen gün
daha da fazlası yükleniyor.

Garip bir dünya.

Ama asıl önemli kısım şu,
bu videoları izleyenler yetişkinler değil.

Çocuklar, küçük çocuklar.

Bu videolar sanki çocuklara
özel uyuşturucu.

Tekrarlanma ile ilgili bir şey var,

onları tamamen bağımlı yapan,
yumurtadan çıkanın

sabit küçük dopamin vuruşlarıyla ilgili.

Küçük çocuklar bu videoları
tekrar tekrar izliyorlar

ve bunu saatlerce yapıyorlar.

Ekranı onlardan
uzaklaştırmaya çalışırsanız

durmadan bağıracaklardır.

Eğer bana inanmıyorsanız

-ki seyircilerden
başıyla onaylayanları gördüm-

inanmıyorsanız küçük çocuğu
olan birini bulup sorun,

sürpriz yumurta videolarını bileceklerdir.

İşte burada başlıyoruz.

Yıl 2018, birisi veya birçok kişi,
Facebook ve Instagram'ın kullandığı,

sizde bu uygulamaları sürekli
kontrol etme ihtiyacı uyandıran

o mekanizmanın aynısını kullanıyor.

Bunu çok küçük çocukların
beyinlerini ele geçirmek için

Youtube'da reklam geliri
karşılığında kullanıyorlar.

En azından, umarım yaptıkları budur.

Umarım bunun için yapıyorlardır

çünkü Youtube'da reklamdan gelir
elde etmenin daha kolay yolları var.

Bir şeyler uydurabilir
ya da çalabilirsiniz.

Eğer "Pegga Pig" veya "Paw Petrol" gibi

popüler çizgi filmleri ararsanız

internet üzerinde bunlardan
milyonlarcasını bulabilirsiniz.

Tabii ki bunların çoğu orjinal içerik
yaratıcıları tarafından konulmaz.

Rastgele birçok farklı hesap
tarafından konuluyorlar

ve bunları kimin koyduğunu

veya amaçlarının ne olduğunu
bilmek imkânsız.

Tanıdık geldi mi?

Çünkü dijital hizmetlerin çoğunda var olan

mekanizmanın tamamen aynısı bu,

bilginin nereden geldiğini
bilmek imkânsız.

Bu resmen çocuklar için sahte haber

ve onları doğduklarından itibaren

önlerine gelen ilk linke
tıklamaları için eğitiyoruz,

kaynağının ne olduğunu
bile umursamadan.

Bu çok da iyi bir fikir gibi durmuyor.

YouTube'da gerçekten sevilen
bir diğer şey daha var.

İsmi "Parmak Ailesi Şarkısı."

Seyircilerden birinin sızlandığını duydum.

Bu "Parmak Ailesi Şarkısı."

Bu bulabildiklerim arasında en eskisi.

2007 yılında yüklenmiş
ve sadece 200.000 kez izlenmiş,

ki bu, nerdeyse bu platformda hiç demek.

Ama insanı deli eden
ve diline dolanan bir melodisi var,

bunu size dinletmeyeceğim

çünkü şarkı beyninize kazınacak,

tıpkı benim beynime kazındığı gibi

ve sizi buna maruz bırakmayacağım.

Aynı sürpriz yumurtalar gibi

çocukların aklına girerek

onları buna bağımlı yaptılar.

Böylece birkaç yıl içinde,
bu parmak ailesi videoları

her yerde görünmeye başladı

ve farklı dillerde

popüler çizgi filmlerin yiyecek

hatta her çeşit animasyon
malzemesini kullandıkları

versiyonları etrafa yayıldı.

Yine aynı şekilde, bu tür çılgınca
kombinasyonlardan oluşan

milyonlarca video internette mevcut.

Onlarla ne kadar vakit geçirirseniz

delirdiğinize dair inancınız
o kadar artar.

Ben de bu noktada bu konuya yöneldim,

çevremde sunuluyor gibi görünen bu şeyin

nasıl inşa edildiğini asla anlayamama
ve derin yabancılaşma hissi.

Çünkü bu şeylerin nereden
geldiğini bilmek imkânsız.

Yani, kim yapıyor bunları?

Bazıları profesyonel animatör
ekiplerle yapılmış gibi duruyor.

Bazıları sadece yazılım tarafından
rastgele birleştirilmiş.

Bazıları oldukça sağlıklı görünen
küçük çocuk şovmenleri.

Ve bazıları da...

kesinlikle çocukların etrafında
bulunmaması gereken insanlardan.

(Gülme sesleri)

Bir kez daha, bu şeyleri yapanın
kim olduğunu çözmenin imkansızlığı--

Bu bir robot mu?

Bu bir insan mı? Bir trol mü?

Artık bu şeylerin farkını
söyleyemiyor olmamız

ne anlama gelir?

Peki bu belirsizlik tanıdık geliyor mu?

Yani, insanların videolarını
izletmelerinin tek yolu

-ki izlenme sayısı para demek-

bu tür popüler terimleri
videolarının başlığına sıkıştırmak.

Mesela "sürpriz yumurta"yı alır,

"Paw Patrol" veya
"Easter egg"i eklersiniz,

ya da bu şeyler her neyse,

popüler videolardaki bu kelimeleri
alır ve başlığına eklersiniz,

ta ki insanlara hiçbir anlam ifade etmeyen

bu tür anlamsız bir karma dil
elde edene dek.

Çünkü tabii ki sizin videonuzu
izleyenler sadece ufacık çocuklar,

onlar ne biliyorlar ki?

Sizin bu şey için asıl seyirciniz yazılım.

Algoritmalar.

Youtube'un hangi videoların

diğerleri gibi olduğunu seçmek için

onları popüler ve önerilen
video yapmak için kullandığı yazılım.

Tamamıyla anlamsız olan bu karışımla
sonuçlanmanızın nedeni de bu,

hem başlık hem içerik olarak.

Ama önemli olan, hatırlamalısınız ki

algoritmik olarak en iyi hâle getirilen
bu sistemin içinde gerçekten insanlar var.

Giderek garipleşen bu kelime
kombinasyonlarını

canlandırmaya zorlanan insanlar,

tıpkı yürümeye yeni başlayan milyonlarca
bebeğin çığlığına karşılık veren

umutsuz bir doğaçlama sanatçısı gibi.

Bu sistemlerde sıkışıp kalmış
gerçek insanlar var

ve bu da algoritmik işleyen bu kültürdeki
son derece garip bir diğer şey

çünkü insansan bile,

bir makine gibi davranmak zorundasın,

hayatta kalabilmek için.

Bir de ekranın diğer tarafında

bu tür şeyleri hâlâ izleyen, sıkışmış,

tüm dikkati bu garip mekanizmalar
tarafından yakalanmış çocuklar var.

Bu çocukların çoğu,
internete girmek için bile çok küçük.

Sadece küçük elleriyle ekrana
çekiçle vurur gibi vuruyorlar.

Bir de otomatik oynatma var,

bu videoları bir döngü içinde
sonsuz bir şekilde

saatlerce tekrar tekrar oynatan.

Sistemde şu an çok fazla gariplik var,

bu otomatik oynatma
sizi çok garip yerlere götürüyor.

İşte bu şekilde on iki adımda,

sayı sayan sevimli trenin videosundan

mastürbasyon yapan
Mickey Mouse'a gidebilirsiniz.

Evet, bu konuda üzgünüm.

Bu daha da kötüye gidiyor.

Tüm bu farklı anahtar kelimeler,

farklı dikkat parçaları,

umutsuz içerik jenerasyonu,

tüm bunların hepsi

tek bir yerde bir araya gelince
ortaya çıkan bu.

Burası tüm bu son derece garip
anahtar kelimelerin geri teptiği yer.

Parmak ailesi videosunu alıp

süper kahramanlarla çiftleştirirsiniz,

birkaç garip, trol şaka eklersiniz

ve birdenbire cidden de
garip bir yere gelirsiniz.

Ebeveynleri endişelendirebilecek şeyler

şiddet veya cinsellik
içeren şeyler, değil mi?

Çocuk çizgi kahramanlar saldırıya uğruyor,

öldürülüyor,

çocukları aslında gerçekten
korkutan garip şakalar.

Yazılımlar tüm bu farklı etkileri,
çocukların en kötü kâbuslarını

otomatik olarak üretmek
için kullanıyorlar.

Bu tür şeyler gerçekten de
küçük çocukları etkiliyor.

Ebeveynler çocuklarının
travma geçirdiğini,

karanlıktan korkar olduğunu,

sevdikleri çizgi film karakterlerinden
korktuğunu bildiriyor.

Bundan bir çıkarım yaparsanız şu olsun:
eğer küçük çocuklarınız varsa

onları YouTube'dan uzak tutun.

(Alkışlar)

Fakat diğer bir şey ise, bu konuda
beni gerçekten üzen şey şu ki

bu noktaya nasıl geldiğimizi
cidden anladığımızdan emin değilim.

Tüm bu etkileri, tüm bu şeyleri aldık

ve kimsenin pek niyetlenmediği
bir şekilde birleştirdik.

Ancak dünyayı inşa etme
şeklimiz günümüzde bu.

Bütün bu verileri alıyoruz,

ki çoğu kötü veriler,

önyargılarla dolu bir sürü tarihi veri,

tarihin en kötü dürtüleriyle dolu,

bunlardan devasa veri setleri yaratıyoruz,

sonra da otomatikleştiriyoruz.

Bunların hepsini birlikte
kredi raporlarına,

sigorta primlerine,

tahmini polislik sistemi gibi şeylere,

hüküm rehberlerine dönüştürüyoruz.

Bu aslında, bugün bu dünyayı
bu verileri kullanarak

inşa etme şeklimizdir.

Hangisi daha kötü bilmiyorum,

İnsan davranışlarının en kötü yanları için

en uygun hâle getirilmiş gibi
görünen bir sistem kurmamız mı

yoksa bunu yapıyor olduğumuzun
bile farkına varmadan

kazara yapmış gibi
görünüyor olmamız mı?

Çünkü yapmakta olduğumuz
bu sistemleri gerçekten anlayamadık,

onlarla nasıl daha farklı bir şey
yapılacağını da gerçekten anlamadık.

Birkaç şeyin buna
yön verdiğini düşünüyorum,

çoğu Youtube üzerinde

ve bunlardan ilki reklamcılık,

ki bu da, ilginin paraya
dönüştürülmesi demek,

işin içinde başka gerçek değişken olmadan,

bu içeriği gerçekten geliştiren
insanları umursamadan,

gücün merkezileştirilmesi,
bu şeylerin birbirinden ayrılması.

Bence bazı şeyleri desteklemek için

reklam kullanımı konusunda
her ne düşünüyorsanız

hiç anlamadıkları bir algoritmanın
onlara para vereceği umuduyla

bebek beziyle kumda yuvarlanan

olgun adamların görüntüsü,

toplum ve kültürümüzü
dayandırmamız gereken şeyin

muhtemelen bu şey olmadığını

ve buna para yatırmamamız
gerektiğini gösteriyor.

Buna yön veren diğer
büyük şey de otomatikleşme,

ulaşır ulaşmaz hiç gözden kaçmaksızın

tüm bu teknolojinin kulanılmaya başlanması

ve teknoloji kendini gösterdiğinde

ellerimizi kaldırıp "Ama biz yapmadık,
teknoloji yaptı" demek.

"Bizim bir suçumuz yok."

Bu gerçekten yeterli değil.

Çünkü bu şey sadece
algoritmik olarak yönetilmiyor,

aynı zamanda algoritmik
olarak denetleniyor.

YouTube buna ilk kulak
verdiği zamanlarda

bununla ilgili söyledikleri ilk şey

daha iyi makine öğrenimli
algoritmalar kullanacaklarıydı,

içeriği ılımlı yapmak için.

Bu alandaki her uzmanın size
söyleyeceği gibi, "makine öğrenmesi"

nasıl çalıştığını aslında
anlamadığımız yazılımlara

vermiş olduğumuz isim.

Bence bunlardan elimizde yeterince var.

Neyin uygun olduğunu belirlemeyi

yapay zekâya bırakmamalıyız

çünkü ne olacağını biliyoruz.

Başka şeyleri sansürleyecek.

Eşcinsel içerikleri sansürleyecek.

Yasal kamu konuşmalarını
sansürlemeye başlayacak.

Bu söylemlerde izin verilen,

sorumsuz sistemlere bırakılan
bir şey olmamalı.

Bu hepimizin yapması gereken
bir tartışmanın parçası.

Ama bir hatırlatma yapayım,

alternatif de pek hoş değil.

Buna ek olarak YouTube yakın zamanda

çocuk uygulamalarının tamamen
insanlar tarafından yönetildiği

bir versiyon çıkaracaklarını duyurdu.

Facebook-- Zuckerberg de uygulamasını
nasıl yöneteceği sorulduğunda

kongrede neredeyse aynı şeyi söylemişti.

Bunu insanlara yaptıracağız demişti.

Bunun asıl anlamı şu;

bu şeyleri ilk görenler, çocuklar yerine

düşük maaşlı, güvencesiz
sözleşmeli işçileriniz olacak,

düzgün akıl sağlığı sigortası olmayan

ve bundan hasar gören insanlar.

(Kahkahalar)

Bence hepimiz bundan
çok daha iyisini yapabiliriz.

(Alkışlar)

Bu iki şeyi bir araya getiren düşünce de

bana göre gerçekten aracı kurum.

Aracı kurumdan aslında
ne anladığımızı kastediyorum:

Nasıl en iyi menfaatlerimize göre
hareket etmeyi bilmemiz,

ki bunu yapmak neredeyse imkânsız,

gerçekten tam anlamıyla anlamadığımız
bu sistemlerin içinde.

Güç eşitsizliği her zaman
şiddete yol açar.

Bu sistemlerin içerisinde

kavrayış eşitsizliğinin de
aynını yaptığını görüyoruz.

Bu sistemleri geliştirmek için
yapabileceğimiz bir şey varsa

o da bunları kullanan insanlar için
daha okunaklı yapmak,

böylece burada neler döndüğü ile ilgili

hepimizin ortak bir kanısı olur.

Gerçi bu sistemlerle ilgili
en çok düşündüğüm şey de şu ki

umarım anlatabilmişimdir,
bu olay YouTube ile ilgili değil.

Her şeyle ilgili.

Bu sorumluluk ve aracılık,

anlaşılmazlık ve karmaşa,

gücün birkaç kişinin elinde
toplanmış olmasından kaynaklanan

şiddet ve istismar konuları--

bunlar çok, çok daha geniş konular.

Üstelik bunlar sadece Youtube'un
veya teknolojinin genel sorunları değil,

bunlar yeni bile değil.

Bunlar senelerdir bizimleydi.

Ama biz en sonunda, bize bunları
sıradışı bir şekilde gösteren,

bunları inkâr edilemez
yapan global sistemi,

interneti yarattık.

Teknolojinin öyle sıradışı
bir kapasitesi var ki

en sıradışı ve gizli kalmış
tutku ve önyargılarımızı

örneklemek ve sürdürmekle kalmıyor,

onları gerçek dünyaya çözümlüyor

ama aynı zamanda bunları
görmemiz için not ediyor,

böylece yokmuş gibi davranamıyoruz.

Teknolojiyi tüm problemlerimizin
çözümü olarak görmek yerine,

bu problemlerin aslında ne olduğunu
gösteren bir rehber olarak görmeliyiz ki

böylece onlar hakkında düzgünce düşünüp

çözüm bulabilelim.

Çok teşekkür ederim.

(Alkışlar)

Teşekkür ederim.

(Alkışlar)

Helen Walters: James, bize bu konuşmayı
yaptığın için teşekkürler.

Öylesine ilginç ki

robotik otoritelerin yönetimi
ele geçirdiği filmleri düşününce

her şey senin tanımladığından
biraz daha göz alıcı.

Ama merak ettiğim şu--
bu fimlerde bir direniş var.

Bu şeylere karşı da bir direniş var mı?

Hiç pozitif bir işaret,
yeşeren bir direniş görüyor musun?

James Bridle: Direkt bir direnişi bilemem

çünkü bu şey çok uzun vadeli.

Bence çok derin şekilde
kültürün içine işledi.

Bir arkadaşım, Eleanor Saitta,
her zaman der ki

yeterli ölçüde ve kapsamda
her teknolojik problem

öncellikle politik bir problemdir.

Yani bunun içinde çözmeye
çalıştığımız her şey

sadece teknolojiyi daha iyi
inşa etmekle değil,

bu teknolojileri üreten toplumu
değiştirmekle çözülecek.

Yani hayır, şu an, bence gidecek
daha çok yolumuz var.

Ama dediğim gibi, bunları açığa
çıkartıp açıklayarak,

bunlar hakkında dürüstçe konuşarak

bence en azından bu süreci başlatabiliriz.

HW: Sen okunabilirlik ve dijital
okuryazarlık hakkında konuşunca

dijital okuryazarlık yükünü

kullanıcılara yüklememizin gerekliliğini
hayal etmesi zor buluyorum.

Ama bu yeni dünyada
eğitimden kim sorumlu?

JB: Bence, bu sorumluluk
biraz da hepimizde,

yaptığımız, inşa ettiğimiz her şey

karşılıklı tartışma ile yapılmalı,

bundan kaçınan insanlarla birlikte;

insanların doğru şeyi yapması için
aklını çelme amacı taşıyan

sistemler tasarlamıyoruz

ama bunlar onları eğitmenin
her adımına dâhiller

çünkü bu sistemlerin her biri eğitici.

Umutlu olduğum şey de bu,
bu son derece acımasızca şeylerde bile,

eğer onu alıp düzgünce incelerseniz

aslında o, kendi içinde eğitim parçası,

karmaşık sistemlerin nasıl bir araya gelip
işlediğini görmeye başlamamızı

ve belki de bu bilgiyi dünyanın
başka bir yerinde kullanmamızı sağlayacak.

HW: James, bu çok önemli bir tartışmaydı

ve biliyorum ki buradaki çoğu insan
bu tartışmaya açık ve hazırlar,

güne seninle başlamak çok güzeldi.

JB: Çok teşekkürler.

(Alkışlar)