Prejudecata morală din spatele rezultatelor unei căutări

Motoarele de căutare au devenit sursele noastre de informaţii cele mai credibile şi imparţiale în transmiterea adevărului. Este însă posibil să obţinem un rezultat al unei căutări lipsit de prejudecăţi? Autorul şi jurnalistul suedez Andreas Ekström afirmă ca acest lucru reprezintă o imposibilitate filosofică. În această prelegere profundă, ne îndeamnă să consolidăm legăturile existente între tehnologie şi ştiinţele umane şi ne reaminteşte că în spatele fiecărui algoritm se află un set de valori personale pe care nici un cod nu îl poate eradica în totalitate.

Când vizitez o şcoală
şi le vorbesc elevilor,

le pun această întrebare:

De ce daţi căutare pe Google?

De ce preferaţi Google?

Surprinzător, mereu primesc
aceleaşi trei răspunsuri:

Primul: „Pentru că funcţionează.”

E un răspuns excelent;
de-asta folosesc și eu Google.

Al doilea, cineva va zice:

„Nu știu alternative.”

Nu e o variantă la fel de bună,
iar răspunsul meu e de obicei:

„Încearcă ‘motor de căutare’ pe Google,

poate găseşti
câteva alternative interesante.”

Iar a treia variantă de răspuns -

inevitabil, un elev va ridica mâna
şi va zice:

„Cu Google, sunt sigur că voi obţine
cel mai bun rezultat imparţial.”

Sigur că se obţine
cel mai bun rezultat imparţial.

Ca om al ştiinţelor umane,

deși unul al științelor umane digitale,

mă cutremur când aud asta,

chiar dacă şi eu realizez că încrederea
în ideea unei căutări imparţiale

stă la baza admiraţiei şi iubirii noastre
colective pentru Google.

Am să vă demonstrez de ce asta este
aproape o imposibilitate filosofică.

Mai întâi, permiteți-mi să vorbesc
despre un principiu fundamental

ce stă la baza fiecărei căutări,
dar de care uităm adesea.

Atunci când daţi o căutare pe Google,

începeţi prin a vă întreba:
„Caut un fapt izolat?"

Care este capitala Franţei?

Din ce e alcătuită o moleculă de apă?

Super - căutaţi în voie.

Nu există niciun grup de specialişti
aproape de a demostra

că e vorba, de fapt, depre Londra şi H3O.

Nu vedem nicio conspiraţie
în aceste lucruri.

Suntem de acord global

cu răspunsurile
la aceste fapte izolate.

Dar dacă aveţi o întrebare
puţin mai complicată precum:

„De ce există
un conflict palestino-israelian?”,

nu mai sunteţi în căutarea
unui fapt singular,

sunteţi în căutare de cunoştinţe,

ceva mult mai complicat şi mai delicat.

Pentru a ajunge la cunoştinţe,

trebuie să incluzi 10, 20
sau 100 de fapte în ecuaţie,

să le confirmi şi să spui:
„Da, toate astea sunt adevăruri.”

Însă datorită identităţii mele,

tânăr sau bătrân, negru sau alb,
gay sau hetero,

le voi evalua diferit.

Și voi spune:
„Da, asta e adevărat,

dar acest lucru e mai important
decât acela."

În acea clipă
lucrurile devin interesante,

fiindcă atunci devenim umani.

Atunci începem să dezbatem,
să formăm societatea.

Iar pentru a putea ajunge undeva,
trebuie să filtrăm totul aici,

prin prieteni şi vecini, părinţi şi copii,

colegi de muncă, ziare şi reviste,

ca să avem la final
o bază reală de cunoaştere,

un lucru la care motoarele de căutare
nu prea ne ajută.

Deci v-am promis un exemplu
pentru a demonstra dificultatea

de a ajunge la o cunoştere adevărată,
curată şi obiectivă -

luaţi-o ca şi temă de gândire.

O să efectuez două căutări simple.

Începem cu „Michelle Obama”,

Prima Doamnă a Statelor Unite.

Şi o să căutăm imagini.

După cum vedeţi, funcţionează foarte bine.

E mai mult sau mai puţin
un rezultat perfect al căutării.

Nici măcar preşedintele
nu apare în imagini, doar ea.

Cum funcţionează asta?

Destul de simplu.

Google foloseşte multă inteligenţă

pentru a obține asta,
dar, în principal,

e atent la două lucruri:

Mai întâi, ce titlu au imaginile
de pe fiecare site?

Scrie „Michelle Obama” sub imagine?

Acesta ar fi un indiciu bun
că e ea în imagine.

Apoi, Google se uită la fişierul imagine,

numele fişierului
aşa cum a fost el încărcat pe Internet.

Din nou, se numeşte
imaginea „MichelleObama.jpeg”?

Dacă da, cel mai probabil
nu e Clint Eastwood în ea.

Deci avem aceste două criterii
şi obţinem acest rezultat - aproape.

În 2009, Michelle Obama
a fost victima unei campanii rasiste.

Oamenii doreau să o insulte prin
rezultatele la căutările numelui ei.

O anumită imagine s-a răspândit
larg pe Internet,

una în care faţa ei e făcută
să semene cu o maimuţă.

Imaginea a fost publicată peste tot.

Oamenii o publicau
cu intenţia clară de a fi prima

la rezultatele de căutare.

S-au asigurat să pună titlul
“Michelle Obama”

şi să încarce imaginea

ca “MichelleObama.jpeg” sau ceva similar.

Aţi înţeles de ce:

să manipuleze rezultatele.

Şi a mers.

Astfel, dacă în 2009 căutaţi
“Michelle Obama” pe Google imagini

acea imagine distorsionată
apărea printre primele rezultate.

Dar, rezultatele căutărilor
se auto-corectează,

în aceasta constă de fapt frumuseţea lor,

pentru că Google le măsoară relevanţă
în fiecare oră, fiecare zi.

În acest caz însă,
Google nu s-a mulţumit doar cu atât.

A zis: “Asta e rasism
şi un rezultat de căutare prost.

O să curăţăm rezultatele manual.

O să codăm ceva
şi o să rezolvăm problema.

Şi au reuşit.

Nu cred că se afla cineva aici
care să creadă că a fost o idee rea.

Nici eu nu cred.

Însă după doi ani,

cel mai căutat Anders de pe Google,

anume Anders Behring Breivik,

a făcut ce a făcut.

E 22 iulie 2011,

o zi înfiorătoare în istoria Norvegiei.

Acest individ, un terorist,
a atacat două clădiri guvernamentale

aproape de locul unde ne aflăm
acum în Oslo, Norvegia

Apoi a călătorit în insula Utøya

unde a împuşcat mortal un grup de copii.

Aproape 80 de persoane
au murit atunci.

Mulţi ar zice ca actul terorist
a avut două etape,

că teroristul a comis două fapte:
a detonat clădirile şi a ucis copiii.

Nu este adevărat.

Au fost trei etape.

A detonat clădirile,
a împușcat acei copii

apoi a stat şi a aşteptat
ca lumea să îl caute pe Google.

A pregătit toţi cei trei paşi
la fel de atent.

Cineva a înţeles imediat acest lucru,

un dezvoltator web
suedez, un expert

în optimizarea motoarelor
de căutare

din Stockholm, pe nume Nikke Lindqvist.

El este şi activ politic,

prezent pe reţele de socializare,
pe blogul lui şi pe Facebook.

A spus tuturor:

“Ceea ce îşi doreşte acest om
cel mai mult acum

este să îşi controleze imaginea publică.

Să vedem dacă reuşim să încurcăm asta,

dacă noi, lumea civilizată, reuşim
să protestăm împotriva a ceea ce a făcut

prin a-l insulta
în rezultatele lui de căutare.

Dar cum?

Le-a spus cititorilor lui următoarele:

Intraţi pe internet,

şi găsiţi imagini cu
excremente de câine pe trotuar,

publicaţi-le în postările, blogurile
şi site-urile voastre.

Asiguraţi-vă să scrieţi
numele teroristului în titlu,

asiguraţi-vă să denumiţi
fişierul “Breivik.jpeg.”

Haideţi să-l învăţăm pe Google
că aceasta e faţa unui terorist.

Şi a funcţionat.

La doi ani după campania
împotriva lui Michelle Obama,

campania de manipulare împotriva
lui Anders Breivik a funcţionat.

Câteva săptămâni după incidentul
din 22 iulie, căutarea imaginii lui

dădea în fruntea rezultatelor
imagini cu excremente de câine,

în semn de protest.

Straniu, de această dată
Google nu a intervenit.

Nu au acţionat să cureţe manual
acele rezultate de căutare.

Deci întrebarea fundamentală:

Există vreo diferenţă
între cele două campanii prezentate?

Există vreo diferenţă între ce a păţit
Michelle Obama şi Anders Breivik?

Desigur că nu.

Este exact aceeaşi situaţie

Dar Google a intervenit

într-un caz, nu şi în celălalt.

De ce?

Pentru că Michelle Obama
este o persoană onorabilă,

iar Anders Behring Breivik
este demn de dispreţ.

Înţelegeţi ce se întâmplă?

Are loc o evaluare a persoanei,

şi există un singur actor de putere
în lume autorizat să facă asta,

să decidă:

“Ne place de tine, nu ne place de tine.

Credem în tine, dar nu în tine.

Tu ai dreptate, tu nu.

Tu ești adevat, tu fals.

Tu eşti Obama, tu eşti Breivik.

Asta da putere.

Așadar vă îndemn să ţineti cont
că în spatele fiecărui algoritm

se află o persoană,

cineva cu un set de valori personale

pe care nici un cod
nu îl poate elimina complet.

Mesajul meu nu este îndreptat
nu doar către Google,

ci către toţi cei cred
în soarta codurilor.

Trebuie să vă identificaţii
propriile voastre prejudecăţi

trebuie să înţelegeţi că sunteţi oameni

şi să vă asumaţi responsabilitatea
corespunzător.

Şi spun asta fiindcă cred
că am ajuns într-o etapă în care

este absolut imperativ

să înnodăm din nou mai strâns
acea legătură

dintre ştiinţele umane şi tehnologie,

mai strâns ca niciodată.

Măcar ca să ne amintească
că acea idee atât de atrăgătoare

a unui rezultat de căutare
imparţial, curat

este, şi probabil va rămâne, un mit.

Vă mulţumesc pentru timpul acordat.

(Aplauze)