Moralna pristranost iza vaših rezultata pretrage

Programi za pretraživanje postali su izvori informacija i arbitri istine kojima najviše vjerujemo. No, možemo li ikada dobiti nepristran rezultat pretrage? Švedski autor i novinar Andreas Ekström tvrdi da je tako nešto filozofska nemogućnost. U ovom razboritom govoru on nas poziva da učvrstimo veze između tehnologije i humanističkih znanosti i podsjeća nas da iza svakog algoritma stoji skup osobnih uvjerenja koja niti jedan kod ne može u potpunosti ukloniti.

Kada god posjetim neku školu
i razgovaram s učenicima,

uvijek ih pitam istu stvar:

Zašto guglate?

Zašto ste odabrali Google
kao svoj pretraživač?

Začudo, uvijek dobivam
ista tri odgovora.

Prvi, "Zato jer radi,"

što je sjajan odgovor;
i ja guglam iz istog razloga.

Drugi, netko će reći,

"Ne znam za druge mogućnosti."

To nije podjednako sjajan odgovor
i na to obično uzvraćam,

"Pokušajte guglati riječ 'pretraživač',

mogli biste naći par
zanimljivih mogućnosti."

I zadnji, ali ne manje važan, treći,

neizbježno će neki od učenika
dignuti ruku i reći,

"S Googleom sam siguran da ću uvijek
dobiti najbolji, nepristran rezultat.

Siguran da će uvijek dobiti najbolji,
nepristran rezultat pretraživanja.

Kao čovjek od
humanističkih znanosti,

premda digitalno humanističkih,

od toga se naprosto naježim,

čak iako, i sam shvaćam da je ta vjera,

ta ideja nepristranog
rezultata pretraživanja

kamen temeljac naše kolektivne
ljubavi i uvažavanja Googlea.

Pokazat ću vam zašto je to,
filozofski gledano, gotovo nemoguće.

No, dozvolite mi da prvo pojasnim,
sasvim ukratko, osnovni princip

iza svakog upita za pretragu,
koji izgleda ponekad zaboravljamo.

Kada se god spremate nešto guglati

započnite pitajući se ovo:
"Tražim li izdvojenu činjenicu?"

Koji je glavni grad Francuske?

Koji su sastavni dijelovi molekule vode?

Sjajno -- odguglajte.

Ne postoji grupa znanstvenika
koja bi bila ovako blizu dokaza

da je to ustvari London i H3O.

U tim stvarima nećete
vidjeti veliku zavjeru.

U globalu se slažemo

koji su odgovori na
ove izdvojene činjenice.

No, ako samo malo zakomplicirate
svoje pitanje i upitate nešto poput,

"Zašto postoji
izraelsko-palestinski sukob?",

vi više baš ne tražite pojedinu činjenicu,

vi tražite znanje,

što je nešto puno
kompliciranije i osjetljivije.

A da bi došli do znanja,

morate prikupiti 10 ili
20 ili 100 činjenica,

potvrditi ih i reći,
"Da, sve su one istinite."

Ali, zbog onoga tko sam ja,

mlad ili star, crn ili bijel,
gej ili strejt,

vrednovat ću ih različito.

I reći ću, "Da, ovo je istina,

ali ovo mi je važnije od onoga."

I upravo ovdje postaje zanimljivo,

jer ovdje postajemo ljudska bića.

Tu se počinjemo prepirati,
formirati društvo.

No, da bismo stvarno nekuda dospjeli,
ovdje trebamo filtrirati svoje činjenice,

putem prijatelja i susjeda
i roditelja i djece

i suradnika i novina i časopisa,

da bismo na kraju bili
potkovani pravim znanjem

u čemu vam je pretraživač slaba pomoć.

Obećao sam vam primjer

samo da pokažem zašto je
tako teško doći do

istinskog, čistog, objektivnog znanja --

kao materijal za razmišljanje.

Postavit ću par jednostavnih upita,
upita za pretraživanje.

Počet ćemo sa "Michelle Obama",

prvom damom Sjedinjenih država.

I kliknut ćemo za slike.

To stvarno dobro radi, kao što vidite.

Savršen rezultat pretrage, manje više.

Na slici je samo ona,
čak nema ni predsjednika.

Kako to funkcionira?

Sasvim jednostavno.

Google koristi puno domišljatosti
da bi ovo postigao,

no ukratko, gledaju se dvije stvari
prije svega.

Prvo, što piše u tekstu
ispod slike na svakoj web stranici?

Piše li "Michelle Obama" ispod slike?

Prilično dobra indikacija
da je na slici stvarno ona.

Drugo, Google gleda datoteku slike,

ime datoteke kao takve,
prenesene na web stranicu.

Ponovo, zove li se datoteka
"MichelleObama.jpeg"?

Prilično dobra indikacija
da na slici nije Clint Eastwood.

Dakle, imate to dvoje i dobivate
ovakav rezultat pretrage -- skoro.

2009. godine Michele Obama je bila
žrtva rasističke kampanje

u kojoj su je ljudi počeli
vrijeđati putem rezultata pretrage.

Postojala je slika
naširoko rasprostranjena Internetom

na kojoj je njeno lice bilo
izobličeno da liči na majmuna.

I ta je slika bila objavljena posvuda.

A ljudi su je objavljivali

vrlo, vrlo promišljeno,

kako bi se pojavila na vrhu
rezultata pretrage.

Pazili su da ispod slike
pišu "Michelle Obama"

i pazili su da sliku prenose kao
"MichelleObama.jpeg" ili tome slično.

Shvaćate zašto --

da bi manipulirali rezultatima pretrage.

I to je stvarno funkcioniralo.

Pa kada ste guglali slike za
"Michelle Obama" 2009.

ta izobličena majmunska slika
pojavljivala se među prvim rezultatima.

E sada, rezultati pretrage
se sami proćišćavaju,

i u tome je neka vrsta ljepote toga,

jer Google mjeri relevantnost
svakog sata, svakog dana.

Međutim Google se ovaj puta
nije zadovoljio time,

mislili su, "To je rasistički
i to je loš rezultat pretrage

i mi ćemo to počistiti ručno.

Napisat ćemo nekakav kod i to popraviti,"

što su i učinili.

I mislim da nitko u ovoj dvorani
ne misli da je to bila loša ideja.

Niti ja.

No zatim, prošlo je nekoliko godina,

i najguglaniji Anders na svijetu,

Anders Behring Brevik,

učinio je ono što je učinio.

Bilo je to 22. srpnja 2011.

užasan dan u norveškoj povijesti.

Ovaj čovjek, terorist, dignuo je u zrak
par vladinih zgrada

baš nadomak mjesta na kojem se
upravo nalazimo u Oslu, u Norveškoj

i onda je otputovao na otok Utoyau

i pucao i ubio grupu djece.

Skoro 80 ljudi je poginulo toga dana.

I mnogi ljudi bi ovaj čin nasilja
opisali kao dva koraka,

da je učinio dvije stvari:
digao u zrak zgrade i ubio tu djecu.

To nije istina.

Bilo je tri koraka.

Digao je u zrak te zgrade,
ubio tu djecu,

i sjeo i čekao da ga svijet počne guglati.

A sva tri koraka je pripremio
podjednako dobro.

I ako je postojao netko
tko je to smjesta shvatio,

bio je to švedski web programer,

stručnjak za optimizaciju pretraživača
u Stockholmu, Nikke Lindquist.

On je također politički aktivan

i odmah se pojavio u
društvenim medijima,

na svom blogu i Facebooku.

I svima je rekao,

"Ako postoji nešto što ovaj
momak želi ovoga časa,

to je kontrola nad slikom o sebi.

Hajde da vidimo možemo li to poremetiti.

Da vidimo možemo li mi u
civiliziranom svijetu

protestirati protiv onog što je učinio

vrijeđajući ga kroz rezultate
pretraga o njemu."

A kako?

Svim svojim čitateljima rekao je sljedeće,

"Otiđite na Internet,

nađite slike psećeg govna na pločnicima

nađite slike psećeg govna na pločnicima,

objavite ih u svojim sadržajima,
na svojim web stranicama i blogovima.

Ne zaboravite ispod slike
napisati ime terorista,

ne zaboravite datoteku slike
nazvati "Breivik.jpeg".

Hajde da naučimo Google
da je to lice terorista.

I to je radilo.

Dvije godine poslije kampanje
protiv Michelle Obama,

ova manipulacijska kampanja
protiv Andersa Breivika je radila.

Ako ste guglali njegove slike

tjednima poslije događaja
22. srpnja u Švedskoj

vidjeli biste sliku psećeg govna
pri vrhu rezultata pretrage,

kao mali protest.

Začudo, Google ovaj puta
nije intervenirao.

Nisu uskočili i ručno
očistili te rezultate pretrage.

Pa, evo pitanja za milijun dolara,

ima li ikakve razlike između
ova dva događanja?

Ima li ikakve razlike između onoga
što se dogodilo Michelle Obama

i onoga što se dogodilo
Andersu Behringu Breiviku?

Naravno da nema.

To je potpuno ista stvar,

ipak je Google intervenirao u
jednom slučaju, a u drugom nije.

Zašto?

Zato jer je Michelle Obama
uvažena osoba, eto zašto,

a Anders Behring Breivik
je osoba vrijedna prezira.

Vidite što se ovdje događa?

Dešava se procjena osobe

a samo je jedan moćni igrač na svijetu

s autoritetom da kaže tko je tko.

"Ti nam se sviđaš, ti nam se ne sviđaš.

U tebe vjerujemo,
u tebe ne vjerujemo.

Ti si u pravu, ti nisi u pravu.
Ti si iskren, ti nisi.

Ti si Obama, a ti si Brevik."

To je moć, ako sam je ikada vidio.

Zato od vas tražim da upamtite
da iza svakog algoritma

uvijek stoji osoba,

osoba sa svojim osobnim uvjerenjima

koja nikakav kôd ne može
u potpunosti ukloniti.

I moja poruka nije
upućena samo Googleu,

već svima koji vjeruju u kôd,
diljem svijeta.

Trebali biste prepoznati vlastite
osobne pristranosti.

Trebali biste razumjeti da ste ljudi

i preuzeti odgovornost u skladu s tim.

A to kažem jer vjerujem
da je došlo vrijeme

kada je apsolutno nužno

da ponovo povežemo te veze, čvršće:

humanističke znanosti i tehnologiju.

Čvršće no ikada.

I, ako ništa drugo, da nas podsjeća
da ta prekrasno zavodljiva ideja

nepristranog, čistog rezultata pretrage,

jest, i vjerojatno će ostati, mit.

Hvala vam na vremenu.

(Pljesak)