Coșmarul canalului YouTube pentru copii - și ce nu e în regulă cu internetul zilelor noastre

Scriitorul și artistul James Bridle dezvăluie o parte întunecată și stranie a internetului, unde oameni sau grupuri de oameni necunoscuți se joacă cu mintea copiilor, în schimbul spațiului de publicitate. Pornind de la cadoul din „ouăle cu surprize” și „Cântecul Familiei Degețel” și până la calupuri create algoritmic, care prezintă personaje de desene animate în situații violente, aceste filmulețe exploatează și îngrozesc mințile tinere - și ne spun câte ceva despre direcția în care o ia lumea noastră tot mai condusă de informații. „Trebuie să încetăm să mai credem că soluția la probleme este tehnologia și să o considerăm, mai degrabă, un ghid pentru ceea ce reprezintă ele, pentru a ne putea concentra asupra lor și pentru a începe să le rezolvăm,” este de părere Bridle.

Eu sunt James.

Sunt scriitor și artist

și domeniul meu este tehnologia.

Desenez schițe în mărime naturală
pentru drone militare

pe străzile orașelor de prin lume

pentru ca oamenii să se poată gândi
și să poată înțelege

această tehnologie greu de văzut
și greu de imaginat.

Eu concep lucruri precum rețele neurale
care prezic rezultatele alegerilor,

având la bază prognozele vremii,

pentru că sunt intrigat

de posibilitățile propriu-zise
pe care le au aceste tehnologii bizare.

Acum un an mi-am făcut
o mașină care se conduce singură.

Însă, pentru că nu prea mă încred
în tehnologie,

i-am creat și o capcană.

(Râsete)

Și fac toate acestea în special
pentru că le consider absolut fascinante,

dar și pentru că eu cred
că atunci când vorbim despre tehnologie,

vorbim, în mare măsură, despre noi înșine

și despre modul în care înțelegem lumea.

Așa că, iată o poveste despre tehnologie.

Acesta este un filmuleț
despre „ouă cu surprize”.

Este un filmuleț cu cineva care desface
o grămadă de ouă de ciocolată

și arată jucăriile din interior.

Asta e tot. Numai asta face
timp de șapte minute lungi.

Și aș vrea să observați
două aspecte despre acest lucru.

În primul rând, acest filmuleț
are 30 milioane de vizualizări.

(Râsete)

Și celălalt lucru:

el provine de pe un canal care are
6,3 milioane de abonați,

care are opt miliarde de vizualizări,

și sunt doar alte filmulețe ca acesta -

30 de milioane de oameni urmărind un om
care desface aceste ouă.

Sună destul de ciudat, dar dacă am căuta
„ouă cu surprize” pe YouTube,

vom vedea că sunt 10 milioane
de astfel de filmulețe,

și cred că asta e o vagă estimare.

Cred că sunt mult, mult mai multe.

Dacă vom continua să căutăm,
sunt infinite.

Sunt milioane și milioane
de astfel de filme

în nenumărate combinații sofisticate
de firme și materiale,

și tot mai multe sunt încărcate
în fiecare zi.

Chiar că e o lume ciudată. Nu-i așa?

Dar chestia e că nu adulții
vizionează aceste filmulețe.

Ci puștii, copiii mici.

Aceste filmulețe sunt
ca un drog pentru copii.

S-ar părea că prezentarea repetată,

mica doză de dopamină
dată de descoperirea surprizei

e ceea ce îi atrage foarte tare.

Și copiii urmăresc aceste filmulețe
iarăși și iarăși,

și o fac ore întregi.

Și dacă încerci să le iei ecranul,

vor începe să țipe mult și bine.

Dacă nu mă credeți -

și deja am și văzut persoane din public
dând din cap -

dacă nu mă credeți, căutați pe cineva
care are copii, întrebați-i

și vă vor spune ei despre filmele
cu ouă cu surpriză.

Așadar, de aici începem.

E anul 2018 și cineva sau chiar
mai mulți oameni

folosesc același mecanism
care, la fel ca Facebook și Instagram,

ne fac să ne tot verificăm aplicația,

și folosesc asta și pe YouTube
pentru a „subjuga” creierul copiilor mici

în schimbul veniturilor din publicitate.

Cel puțin, sper că asta fac.

Sper că pentru asta o fac,

pentru că sunt căi mai simple de a obține
vebituri din publicitate pe YouTube.

Poți să inventezi ceva sau să furi ceva.

Așa că, atunci când cauți desene animate
foarte populare

ca „Peppa Pig” sau „Paw Patrol”,

vei afla că sunt milioane
și milioane din acestea online.

Desigur, cele mai multe nu sunt postate
de creatorii originali.

Ele vin din încărcări peste încărcări
din diferite conturi

și este imposibil să afli cine le postează

sau care ar putea fi motivele lor.

Toate astea vă sună cumva cunoscut?

Pentru că e exact același mecanism

folosit de multe
dintre serviciile noastre digitale

în care e imposibil să afli
de unde vine informația.

De fapt, e știre falsă pentru copii,

iar noi îi pregătim încă de la naștere

să acceseze chiar primul link care apare,

indiferent de sursă.

Nu pare să fie o idee prea bună.

Iată altceva care are mare succes
pe YouTube pentru copii.

Se numește „Cântecul Familiei Degețel.”

Am auzit pe cineva oftând în public.

Iată „Cântecul Familiei Degețel.”

E chiar primul pe care l-am putut găsi.

E din 2007 și are
doar 200.000 de vizualizări,

ceea ce e foarte puțin în acest „joc”.

Dar are o melodie îngrozitor de pregnantă,

pe care n-am să v-o pun acum,

pentru că vi s-ar „lipi” de creier,

așa cum s-a întâmplat în cazul meu,

și n-am de gând să vă fac așa ceva.

Dar, ca și ouăle cu surprize,

melodia a intrat în capul copiilor

și i-a făcut dependenți de ea.

În doar câțiva ani,
filmele cu familia Degețel

au tot apărut peste tot,

în variante în diverse limbi,

cu desene animate care folosesc mâncare

sau, sincer, orice fel de elemente
de animație

pe care le ai în preajma ta.

Sunt milioane și milioane
de astfel de filmulețe

accesibile pe internet,
în tot felul de combinații ciudate.

Cu cât începi să petreci
mai mult timp cu ele,

cu atât ai senzația că te înnebunesc.

Ăsta e momentul în care am început
să mă ocup de asta,

de acel sentiment bizar dat
de lipsa de înțelegere

a felului în care era conceput
acel ceva prezent mereu în jurul meu.

Căci e imposibil să știm
de unde vin aceste lucruri.

Cum ar fi, cine le face?

Unele par a fi concepute de echipe
de animatori profesioniști.

Altele sunt asamblate întâmplător
de vreun program software,

Unele sunt chiar niște superbi animatori
pentru copii.

Unele vin din partea unor oameni

care nu ar trebui lăsați
în preajma copiilor.

(Râsete)

Repet, această imposibilitate de a ști
cine creează aceste lucruri -

o fi un program de calculator

sau e o persoană? E un trol?

Ce înseamnă să nu mai putem face diferența

dintre aceste lucruri?

Mai mult, nu vi se pare că această
nesiguranța vă este familiară?

În principal, oamenii
își asigură vizualizările —

reținem, vizualizările înseamnă bani —

folosind în titlurile filmulețelor
termeni foarte populari.

Luăm, de pildă, „ouăle cu surprize”

plus „Patrula Cățelușilor”, „Ouă de Paște”

sau orice altceva,

cuvinte din alte filmulețe populare,
aduse în titlu,

până obținem un soi de terci
lingvistic fără înțeles,

ce nu mai are niciun sens pentru oameni.

Căci doar copiii mici se uită
la astfel de filmulețe

și ce naiba știu ei?

Publicul tău țintă e programul software.

Sunt algoritmii.

Programul de soft folosit de YouTube

pentru a alege ce filmulețe se aseamănă,

pentru a le face populare,
pentru a le recomanda.

Așa ne alegem cu un amestec
total lipsit de sens

în titlu și în conținut.

Dar, să nu uităm,

încă există oameni în acest sistem
optimizat algoritmic,

care sunt forțați să răspundă

la aceste combinații bizare de cuvinte,

precum un artist de improvizație
reacționând în fața țipetelor simultane

ale milioane de copilași.

Oameni adevărați sunt
captivi în aceste sisteme,

un alt aspect deosebit de straniu
al culturii dirijate prin algoritmi,

căci, deși suntem oameni,

ajungem să ne purtăm precum mașini

doar pentru a supraviețui.

De cealaltă parte a ecranului,

încă îi avem pe copilașii
care vizionează captivați,

total absorbiți
de aceste mecanisme ciudate.

Majoritatea sunt prea mici
să intre pe pagina web.

Doar lovesc ecranul cu mâinile lor mici.

Și filmulețul repornește

și o ia mereu de la început
ca într-o buclă temporală,

ore și ore, la nesfârșit.

Și e atâta ciudățenie în sistem acum,

încât reluările ne duc
în niște locuri bizare.

Astfel încât, cu doar câțiva pași,

poți ajunge de la un filmuleț simpatic
cu un trenuleț care numără

la un Mickey Mouse care se masturbează.

Da. Îmi pare rău pentru asta.

Și asta se înrăutățește.

Iată ce se întâmplă

când toate aceste cuvinte cheie diferite,

toată atenția,

toată generarea disperată de conținut,

ajung să fie puse împreună în același loc.

Acolo unde aceste cuvinte cheie bizare
dau rod.

Combinând filmulețul cu familia Degețel

cu ceva acțiune cu super eroi,

și adăugând ceva chestii ciudate, ----------
triviale,

se ajunge într-o zonă cu adevărat
stranie.

Ceea ce îi deranjează pe părinți

este un material cu conținut
violent sau sexual, nu-i așa?

Desene animate pentru copii,
cu violență,

sau cu omoruri,

farse bizare care, literalmente,
îi sperie pe copii.

E vorba de programe ce folosesc
toate astea

pentru a le crea copiilor
cele mai urâte coșmaruri.

Și copiii mici sunt cu adevărat marcați.

Părinții se plâng
că le sunt traumatizați copiii,

că le e frică de întuneric,

că se tem de personajele favorite
din desenele animate.

Dacă ar fi să rețineți ceva de aici,
în cazul în care aveți copii mici,

faceți bine și țineți-i departe
de YouTube.

(Aplauze)

Un alt lucru care mă îngrijorează,
referitor la această problemă,

este că nu sunt sigur că noi înțelegem
cum s-a ajuns în acest punct.

Am preluat toată această influență,
toate lucrurile astea,

și le-am combinat într-o manieră
pe care n-a dorit-o nimeni.

Totuși, acesta este felul
în care ne construim întreaga lume.

Luăm toate informațiile,

multe dintre ele proaste,

date istorice pline de prejudecăți

și de cele mai rele impulsuri ale istoriei

și concepem astfel seturi imense de date

pe care le automatizăm.

Și le concentrăm în rapoarte de credit,

asigurări premium,

sisteme de predicție în munca poliției,

regulamente și directive.

Așa ne concepem lumea de azi,

din astfel de date.

Și nu știu ce e mai rău:

că am construit un sistem
care pare optimizat

pentru aspectele negative
ale comportamentului uman

sau faptul că pare că am comis-o
din greșeală,

fără a ne da seama că am făcut-o

pentru că nu înțelegeam pe deplin
sistemul pe care îl cream,

pentru că nu înțelegeam pe deplin
cum să schimbăm ceva prin el.

Ar fi o serie de lucruri
care controlează totul

mai ales pe YouTube,

iar primul ar fi publicitatea,

adică monetizarea atenției,

fără a ține cont de alte variabile reale,

de oamenii care creează,
de fapt, acest conținut,

de centralizarea puterii
sau de separarea acestor lucruri.

Și, orice am crede
despre utilizarea publicității

ca fiind un fel de sprijin,

imaginea unor adulți în scutece,
tăvălindu-se prin nisip,

sperând că un algoritm
pe care nu-l înțeleg pe deplin

îi va îmbogăți,

sugerează că, probabil, nu pe așa ceva

ar trebui să bazăm societatea și cultura,

și că nu așa ar trebui s-o finanțăm.

Cealaltă cauză majoră
a acestui proces e automatismul,

adică utilizarea acestei tehnologii

de îndată ce apare, fără nicio omisiune,

și, odată ce e lansată,

ne aruncăm mâinile în aer zicând:
„Nu noi suntem de vină, ci tehnologia.”

Adică „Noi nu suntem implicați.”

Asta nu e de ajuns,

căci toate acestea nu sunt
doar guvernate de algoritmi,

ci și controlate de algoritmi.

Când YouTube a început
să acorde atenție acestui aspect,

primul lucru pe care au zis că-l vor face

a fost să aplice algoritmi
de învățare automată mai buni

ca să controleze conținutul.

Ei bine, așa cum v-ar spune orice expert,
învățarea automată

este ceea ce generic numim

program software
pe care nu-l înțelegem pe deplin.

Și cred că avem deja destule.

N-ar trebui să lăsăm IA să decidă

ce e potrivit și ce nu,

pentru că știm ce se întâmplă.

Va cenzura alte lucruri.

Va cenzura conținut suspicios.

Va cenzura discursuri publice bune.

Ceea ce e permis în aceste discursuri

n-ar trebui să fie decis
de sisteme arbitrare.

Face parte dintr-o discuție
pe care ar trebui să o avem cu toții.

Dar aș lăsa drept memento

faptul că nici alternativa
nu este mai plăcută.

YouTube a mai anunțat recent

că va lansa o versiune
a aplicației pentru copii

ce este moderată în întregime de oameni.

Facebook - Zuckerberg a spus
cam același lucru la Congres,

întrebat insistent
cum își vor modera conținutul.

A zis că oamenii vor rezolva asta.

Asta înseamnă, de fapt,

nu copiii vor fi primii
care vor vedea materialele,

ci niște angajați prost plătiți,
cu un contract precar,

fără pregătire psihologică potrivită

care vor avea și ei de suferit.

(Râsete)

Eu cred că putem mai mult.

(Aplauze)

Consider că ceea ce poate reuni
aceste două lucruri

este implicarea.

Anume, cât de mult înțelegem
cu adevărat - prin implicare, mă refer

la cum știm ce să facem
pentru a acționa în interesul nostru.

Ceea ce e aproape imposibil de făcut

în aceste sisteme
pe care nu le înțelegem pe deplin.

Disproporția de putere
întotdeauna generează violență.

Și în interiorul acestor sisteme,

înțelegerea inegală duce la același lucru.

Dacă e să putem face ceva
pentru a îmbunătăți aceste sisteme,

e să le facem mai accesibile
celor care le utilizează,

astfel încât noi toți să putem înțelege

ce se întâmplă cu adevărat.

Problema cu aceste sisteme nu e, de fapt,

așa cum sper că am reușit să explic,
legată doar de YouTube.

E legată de totul din jur.

Chestiunile legate de responsabilitate
și implicare,

de transparență și complexitate,

de violență și exploatare,
ce rezultă, în mod inevitabil,

din comasarea puterii
în doar câteva mâini --

sunt niște chestiuni mult,
mult mai ample.

Nu sunt chestiuni legate doar de YouTube
sau de tehnologie, în general,

și nici măcar nu sunt noi.

Ne preocupă de mult timp.

Doar că am construit acest sistem global,
care este internetul,

care acum ni le pune în fața ochilor
într-un mod extraordinar,

făcându-le parte din realitate.

Tehnologia are
această capacitate fabuloasă

de a scoate la lumină și a exploata

cele mai grozave, adesea ascunse,
dorințe și prejudecăți ale noastre

și de a le „exprima” în lume,

dar și de a le scrie,
astfel încât să le vedem,

să nu mai putem pretinde
că ele nu mai există.

Trebuie să încetăm să mai credem
că soluția la probleme este tehnologia

și să o considerăm, mai degrabă, un ghid
pentru ceea ce reprezintă ele,

pentru a ne putea concentra asupra lor

și pentru a începe să le rezolvăm.

Vă mulțumesc foarte mult.

(Aplauze)

Mulțumesc.

(Aplauze)

Helen Walters: James, îți mulțumesc
că ai venit și ne-ai vorbit.

Așadar, e interesant:

dacă ne gândim la filmele
în care roboții supremi preiau controlul,

pare mai fermecător decât ce ne descrii.

Dar, mă întreb: în acele filme,
există o luptă pentru supremație.

Întâlnim așa ceva
și în cazul materialelor în discuție?

Vezi vreun semn pozitiv,
vreo tendință de rezistență?

James Bridle: Nu știu ce să zic
legat de rezistență,

consider că e o chestiune
pe termen foarte lung.

Cred că e foarte adânc imprimată
în cultură.

O prietenă, Eleanor Saitta, zice mereu

că orice probleme tehnologice
cu destulă greutate și scop

sunt, înainte de toate, probleme politice.

Așa că, toate aceste chestiuni
pe care vrem să le rezolvăm

nu se vor putea rezolva
doar concepând o tehnologie mai bună,

ci prin schimbarea societății
care o produce.

Deci nu, acum cred că încă mai avem
un drum al naibii de lung.

Dar, cred că dacă defalcăm problemele,

dacă vorbim despre ele
cu toată sinceritatea,

putem măcar să începem
procesul de schimbare.

HW: Când vorbești
despre accesibilitate și cultură digitală,

mi-e greu să-mi imaginez

că trebuie să punem povara culturalizării
digitale în sarcina utilizatorului.

Dar a cui este responsabilitatea
educației în această lume nouă?

JB: O spun din nou, responsabilitatea
ne cam aparține nouă, tuturor,

căci tot ceea ce facem, tot ce construim,
tot ceea ce creăm,

trebuie să fie făcut
într-o discuție consensuală

cu toți cei care o evită;

că nu construim sisteme ce urmăresc
să înșele, să păcălească oamenii

să facă ce e bine.

ci să se implice în fiecare pas
al educației lor,

căci fiecare dintre aceste sisteme
e educativ.

Asta e ceea ce sper,
sper că și aceste aspecte sinistre,

dacă sunt privite corespunzător,

pot constitui forme de educație

care să ne permită să vedem
cât de complexe sunt sistemele în lucru

și să utilizăm cunoștințele dobândite
oriunde altundeva în lume.

HW: James, e o discuție foarte importantă

și știu că mulți din cei prezenți
sunt deschiși și pregătiți,

îți mulțumim pentru că ai „deschis” ziua.

JB: Mulțumesc mult. Noroc.

(Aplauze)