Moralna stronniczość wyników wyszukiwania

Wyszukiwarki internetowe stały się naszym najbardziej zaufanym źródłem informacji i arbitrami prawdy. Ale czy możemy liczyć na bezstronny wynik ich wyszukiwań? Szwedzki autor i dziennikarz Andreas Ekström dowodzi, że jest to filozoficzną niemożliwością. W tej przemyślanej prelekcji przekonuje nas do zacieśnienia więzów między techniką a humanistyką oraz przypomina, że za każdym algorytmem kryje się zestaw osobistych przekonań, którego nie wyeliminuje żaden kod.

Ilekroć odwiedzam szkołę
i rozmawiam ze studentami,

zawsze zadaję im to samo pytanie:

"Dlaczego googlujesz?

Dlaczego wybierasz wyszukiwarkę Google?".

O dziwo, zawsze dostaję
te same trzy odpowiedzi.

Raz: "Bo działa",
co jest świetną odpowiedzią.

Z tego samego powodu
ja też z niej korzystam.

Dwa, ktoś powie:

"Nie znam żadnej alternatywy".

To nie jest równie świetna odpowiedź
i zazwyczaj odpowiadam:

"Spróbuj wygooglować słowo
'wyszukiwarka internetowa'.

Możesz znaleźć jakąś ciekawą alternatywę".

I ostatnia, ale nie najgorsza, trzecia:

Nieuchronnie jeden student
podniesie rękę i powie:

"Bo jestem pewien, że zawsze dostaję
najlepszy, obiektywny wynik wyszukiwania".

Pewność, że zawsze dostanę
najlepszy, obiektywny wynik.

Jako humanista,

aczkolwiek humanista cyfrowy,

odczuwam na te słowa dreszcze,

nawet jeśli sam zdaję sobie sprawę,
że to zaufanie, ta idea obiektywności,

jest kluczem do zrozumienia,
dlaczego tak kochamy i cenimy Google.

Pokażę wam dlaczego, filozoficznie,
jest to prawie niemożliwe.

Ale najpierw opowiem trochę
o podstawowych zasadach,

o których czasem zapominamy,
które stoją za każdym wyszukiwaniem.

Ilekroć chcesz coś wygooglować,

zadaj sobie pytanie:
"Czy szukam bezdyskusyjnej odpowiedzi?".

Jaka jest stolica Francji?

Co jest budulcem cząsteczki wody?

Super. Google znajdzie.

Żadna grupa naukowców nie udowodni,

że tak chodzi o Londyn oraz H3O.

Nie ma w tym wielkiej konspiracji.

Zgadzamy się,

jakie są odpowiedzi
na te niezaprzeczalne fakty.

Ale jeśli choć trochę
skomplikujesz pytanie, jak na przykład:

"Z czego wynika
konflikt izraelsko-palestyński?",

nie szukasz pojedynczego faktu,

szukasz wiedzy,

czyli czegoś o wiele bardziej
skomplikowanego i delikatnego.

Aby zdobyć wiedzę,

musisz zebrać 10, 20 lub 100 faktów,

połączyć je i powiedzieć,
"Tak, wszystkie są prawdziwe".

Ale z racji tego, kim jestem,

młody czy stary, czarny czy biały,
homo- czy heteroseksualny,

ocenię je inaczej.

"Tak, to prawda,

ale to jest dla mnie bardziej istotne".

Tutaj zaczyna być interesująco,

bo w tym momencie stajemy się człowiekiem.

To jest moment, gdzie zaczynamy
spierać się, formując społeczeństwo.

Aby naprawdę dojść do jakichś wniosków,
musimy zweryfikować wszystkie fakty

przez przyjaciół, sąsiadów,
rodziców, dzieci,

współpracowników, gazety i magazyny,

by ostatecznie utwierdzić się w wiedzy,

a tego wyszukiwarka nie potrafi.

Obiecałem podać przykład,
dlaczego tak trudno

przejść do sedna prawdziwej,
czystej, obiektywnej wiedzy,

jako materiał do przemyśleń.

Przeprowadzę kilka prostych zapytań.

Zacznijmy od Michelle Obamy,

Pierwszej Damy USA.

Wybierzemy zdjęcia.

Jak widzicie, działa całkiem nieźle.

Idealny wynik wyszukiwania, mniej więcej.

Są tylko jej zdjęcia,
nawet żadnego prezydenta.

Jak to działa?

Całkiem prosto.

Google używa sprytu, aby to osiągnąć,
ale to całkiem proste.

Zwracają przede wszystkim
uwagę na dwie rzeczy,

Po pierwsze podpis pod obrazkiem
na każdej stronie internetowej.

Czy napisane jest "Michelle Obama"?

Całkiem niezła wskazówka.

Druga to nazwa pliku,

jaki załadowano na stronę.

Czy nazywa się "MichelleObama.jpeg"?

Niezła wskazówka, że na zdjęciu
nie ma Clinta Eastwooda.

Wiedząc te dwie rzeczy,
otrzymasz taki właśnie rezultat - prawie.

W 2009 roku Michelle Obama
padła ofiarą rasistowskiej kampanii,

gdy ludzie postanowili ją znieważyć
przez wynik wyszukiwania.

W sieci rozpowszechniono zdjęcie

na którym jej twarz zniekształcono,
aby przypominała małpę.

Opublikowano je wszędzie.

Ludzie robili to celowo,

aby znalazło się w wynikach wyszukiwania.

Pamiętali o podpisie
"Michelle Obama" pod zdjęciem

i o nazwaniu pliku w stylu
"MichelleObama.jpeg".

Domyślacie się, dlaczego
- aby zmanipulować wyniki.

I to zadziałało.

Zatem w 2009 roku
szukanie zdjęć MIchelle Obamy

dawało na pierwszym miejscu zdjęcie małpy.

Wyniki wyszukiwania czyszczą się same.

Na tym polega ich urok,

bo Google mierzy ważność
co godzinę, każdego dnia.

Ale wtedy w Google na tym nie poprzestano.

Stwierdzono "To rasistowski
i niewłaściwy wynik wyszukiwania,

zatem wrócimy do tego i zrobimy porządek.

Napiszemy kod i naprawimy to".

Tak też zrobili.

Nie sądzę, żeby ktoś na tej sali
uznał to za zły pomysł.

Ja też nie.

Ale kilka lat temu

najbardziej googlowany Anders,

Anders Behring Breivik,

zrobił, co zrobił.

22 lipca 2011 roku,

straszny dzień w historii Norwegii.

Ten człowiek, terrorysta,
wysadził kilka rządowych budynków

niedaleko miejsca, w którym
się znajdujemy, w Oslo w Norwegii.

Następnie dostał się na wyspę Utoya,

gdzie zastrzelił grupę dzieci.

Tamtego dnia zginęło prawie 80 osób.

Wielu ludzi opisałoby ten akt
terroryzmu w dwóch etapach,

zrobił dwie rzeczy: wysadził
budynki i zastrzelił dzieci.

To nieprawda.

To były trzy etapy.

Wysadził budynki, zabił dzieci,

po czym usiadł i czekał,
aż świat go wygoogluje.

Każdy etap przygotował równie dobrze.

Znalazł się wtedy ktoś,
kto natychmiast to zrozumiał.

Był to szwedzki programista,

ekspert w optymalizacji wyszukiwarek,
Nikke Lindqvist ze Sztokholmu.

Jest facetem związanym z polityką

był na miejscu, w społecznych mediach,
na swoim blogu i Facebooku.

Powiedział wszystkim:

"Ten facet chce teraz przede wszystkim

kontrolować swój wizerunek w sieci.

Zobaczmy, czy uda nam się to zniszczyć,

Zobaczmy, czy w cywilizowanym świecie,
jesteśmy w stanie zaprotestować

przez obrażenie go w wyszukiwarce".

Jak to zrobić?

Powiedział wszystkim czytelnikom:

"Zajrzyjcie do internetu,

znajdźcie zdjęcia psich kup na chodniku

opublikujcie je
na swoich stronach, blogach.

Koniecznie podpiszcie zdjęcie
nazwiskiem terrorysty

i nazwijcie plik ze zdjęciem
"Breivik.jpeg".

Nauczmy Google,
że to jest twarz terrorysty.

To zadziałało.

Dwa lata po kampanii
przeciwko Michelle Obamie

manipulacja przeciwko
Andersowi Breivikowi zadziałała.

Googlowanie jego zdjęcia
po wydarzeniach 22 lipca

dawało przez tydzień zdjęcia psiej kupy

w ramach małego protestu.

Co najdziwniejsze, Google
tym razem nie interweniował.

Nie wkroczyli i nie usunęli
ręcznie tych wyników.

Pytanie za milion dolarów.

Czy jest jakaś różnica
między tymi dwoma zdarzeniami?

Czy jest jakaś różnica między tym,
co spotkało Michelle Obamę

i Andersa Behringa Breivika?

Oczywiście nie.

Jest to dokładnie to samo.

Ale Google interweniował tylko raz.

Dlaczego?

Ponieważ Michelle Obama
jest osobą czcigodną,

a Anders Behring Breivik - nikczemną.

Widzicie, jak to działa?

Mamy doczynienia z oceną osoby

i na świecie jest tylko jeden silny gracz,

którego autorytet mówi nam, kto jest kim.

"Ciebie lubimy, ciebie nie lubimy.

W ciebie wierzymy, w ciebie nie wierzymy.

Ty masz rację , a ty nie.
Ty mówisz prawdę, ty nie.

Ty jesteś Obama, a ty Breivik".

To jest niespotykana moc.

Pamiętajcie więc, że za każdym algorytmem

zawsze stoi człowiek,

człowiek z osobistymi poglądami,

którego żaden kod nigdy
kompletnie nie zastąpi.

Moje przesłanie biegnie
nie tylko do Google,

ale do wszystkich wierzących
w kod na całym świecie.

Musicie zidentyfikować własne uprzedzenia.

Musicie zrozumieć, że jesteście ludźmi

i brać za to stosowną odpowiedzialność.

Mówię to, bo wierzę,
że znaleźliśmy w miejscu,

gdzie jest absolutna konieczne,

aby ponownie zacieśnić więzy

między humanistyką i techniką.

ciaśniej niż kiedykolwiek.

I żeby przypomnieć nam,
że ta wspaniale kusząca idea

bezstronnego, obiektywnego
wyniku wyszukiwań

jest, i pewnie pozostanie, mitem.

Dziękuję za uwagę.

(Brawa)