Моралния предразсъдък зад резултатите от търсенето

Търсачките са станали нашите най-доверени източници на информация и арбитри на истината. Но можем ли някога да получим безпристрастен резултат от търсенето? Шведският автор и журналист Андреас Екстром твърди, че такова нещо е философска невъзможност. В този интересен разговор, той ни призовава да се укрепят връзките между технологии и хуманитарни науки и ни напомня, че зад всеки алгоритъм е набор от лични убеждения, които няма код, който да може някога напълно да премахне .

И така, когато посетя училище
и говоря пред студенти,

винаги им задавам следния въпрос:

Защо използвате Гугъл?

Защо предпочитате
да използвате търсачката Гугъл?

За моя изненада,
винаги получавам три отговора.

Първият, "Защото работи,"

което е страхотен отговор;
затова и аз го използвам.

Второ, някой ще каже,

"Не зная да има алтернативи."

Това не е толкова добър отговор
и моят отговор обикновено е,

"Потърси в Гугъл с думата 'търсачка',

може да откриеш няколко
интересни алтернативи."

И последно, но не и по значение,

Неминуемо някой от студентите ще вдигне
ръка и ще каже:

"Използвайки Гугъл съм сигурен, че винаги
имам най-добрия, безпристрастен резултат."

Сигурен, че винаги получавам най-добрия,
безпристрастен резултат при търсенето.

Сега, като човек на хуманитарните науки,

макар и на дигиталните хуманитарни науки,

този отговор ме кара да настръхна,

въпреки че и аз осъзнавам, че доверието
и идеята за безпристрастния резултат

е в основата на нашата всеобща любов
и признателност към Гугъл.

Ще ви покажа защо това от философска
гледна точка е почти невъзможно.

Позвотеле ми първо да внеса
малко яснота по един основен принцип

зад всяка заявка за търсене,
коeто понякога изглежда забравяме.

И така, винаги когато
търсиш нещо в Гугъл

започни задавайки си следния въпрос:
"Отделен факт ли търся?"

Коя е столицата на Франция?

От какво се състои
молекулата на водата?

Страхотно - търсете чрез Гугъл.

Не съществува група учени
които да докажат, че

всъщност Лондон и H3O са отговорите.

Няма голяма конспирация сред тези факти.

Съгласни сме като цяло

какви са отговорите на
тези отделни факти.

Но ако усложните въпроса си съвсем малко
и търсите нещо като:

"Защо съществува
Изрaелско-Палестински конфликт?"

Вие всъщност не търсите
отделен факт.

Вие търсите познание,

което е много по-сложно и
деликатно.

И за да стигнете до познанието,

вие трябва да поставите на масата
10, 20 или 100 факта и

да ги оцените и да кажете:
"Да, всички те са истина."

Но заради това кой съм аз,

млад или стар, черен или бял,
гей или хетеро,

аз ще ги оценя различно.

И ще кажа: "Да, това е истина,

но това е по-важно за мен
от другото."

И тук е мястото където става интересно,

защото тук ние ставаме хора.

Тук започваме да спорим
и да формираме общност.

И за да стигнем до някъде,
трябва да пречупим всички наши факти

през приятелите и съседите,
нашите родители и деца,

колегите, вестниците
и списания,

за да се трансформират фактите
в истинско познание.

Това трудно може да се постигне
с помощта на търсачка.

И така, обещах ви пример
за да ви покажа защо е толкова трудно

да се достигне до истинско, чисто
обективно познание --

за да има над
какво да мислите.

Ще потърся няколко прости неща.

Ще започнем с "Мишел Обама,"

първата дама на САЩ.

И ще натиснем на снимки.

Както виждате работи много добре.

Резултата е почти перфектен.

На снимките е само тя,
дори президента го няма.

Как става това?

Много просто.

Гугъл използва много интелект
за да го постигне, но обикновено

те проверяват преди всичко
за две неща.

Първото, какво пише в коментара
под снимката на всеки уебсайт?

Пише ли "Мишел Обама"
под снимката?

Много добра индикация, че
това всъщност е тя.

Второто, Гугъл гледа самия файл,

името с което е качен в сайта.

И отновно, казва ли се "МишелОбама.jpeg"?

Много добра индикация, че това
не е Клинт Истууд на снимката.

И така, вземаш тези два критерия
и получаваш търсеното - почти.

През 2009 Мишел Обама стана
жертва на расистка кампания,

при която се опитаха да я обидят
чрез резултатите от търсенето.

Имаше една снимка разпространена
широко в интернет,

на която лицето и беше променено
да прилича на маймуна.

И снимката беше качена навсякъде.

И хората я публикуваха
с ясната цел

за да се появява при търсенето.

Те написаха "Мишел Обама" в
коментара

и се увериха, че името на файла е
"МишелОбама.jpeg.

Разбирате защо - за да
манипулират резултатите

И това проработи.

Когато търсите по снимка
"Мишел Обама" през 2009,

променената снимка с лице на маймуна
се появи най-отгоре при търсенето.

Сега тези резултати са самопочистващи се,

и в това се изразява красотата,

защото Гугъл измерва съпоставимост
всеки час, всеки ден.

Но този път беше различно,

те мислеха, "Това е расистко
и е неподходящ резултат от търсенето

и ние ще се върнем и изчистим ръчно
това, което се появява.

Ще напишем код, който да почисти,"

което и направиха.

Не мисля, че има някой в тази зала,
който счита това за лоша идея.

Аз също.

Но, минаха няколко години...

и най-търсения в Гугъл Андерс,

Андерс Бейринг Брейвик,

направи каквото направи.

22 юли 2011 е,

трагичен ден за историята на Норвегия.

Този мъж, терорист, взриви
няколко правителствени сгради

на малко разстояние от мястото,
на което се намираме в Осло.

след това той отиде на
остров Утоя

и стреля по и уби група деца.

Почти 80 човека бяха убити него ден.

Много хора биха описали
този акт на терор

че е направил две неща: взривил
е сградата и е застрелял децата.

Не е истина.

Стъпките бяха три.

Взриви тези сгради,
застреля децата,

и започна да чака
света да го търси в Гугъл.

И той подготви еднакво добре
и трите стъпки.

И ако имаше някой, който
на момента разбра всичко,

това беше програмист от Швеция,

който се занимава с оптимизирането
на търсачките в Стокхолм, Ники Линдявист.

Той се интересува и от политика

и в онзи момент беше в социалните медии,
в своя блог и в Фейсбук.

Той каза на всички,

"Ако има нещо, което
този човек иска в момента,

то е да контролира своя имидж.

Нека се опитаме да попречим на това.

Да видим ние, в цивилизования свят,
можем ли да протестираме

като го изобличим в резултатите
при търсене за него."

Как?

Той каза на всички свои читатели,

"Отидете в Интернет,

намерете снимки

на кучешко ако на тротоара --

публикувайте ги във вашите блогове,
на сайтовете си.

Уверете се, че сте написали името
на терориста в коментара,

уверете се също че името на
файла е "Брейвик.jpeg"

Нека научим Гугъл,
че това е лицето на терориста."

И това проработи.

Две години след кампанията
срещу Мишел Обама,

тази манипулационна кампания
срещу Андерс Бейринг Брейвик проработи.

Ако търсите негова снимка в Гугъл седмици
след събитията от 22 юли в Швеция,

вие ще видите тази снимка на кучешко ако
в началото на резултатите от търсенето.

като форма на протест.

За моя изненада
Гугъл този път не се намеси.

Те не направиха ръчно почистване
на тези резултати.

Въпросът за милиони е

има ли нещо различно
между тези две събития?

Има ли нещо различно между
това, което се случи с Мишел Обама

и това с Андерс
Бейринг Брейвик?

Разбира се че няма.

Едно и също нещо е,

Гугъл обаче се намеси в единия
но не и в другия случай.

Защо?

Защото Мишел Обама е
уважаван човек, ето защо,

а Андерс Бейринг Брейвик
е ужасен човек.

Виждате ли какво става?

Случва се оценяване на човека

и има само един
силен играч в света

с власт да каже кой какъв е.

"Ние те харесваме, ние не те
харесваме.

Ние вярваме или
не вярваме в теб.

Ти си прав, ти не си,
Ти си истински, ти не си.

Ти си Обама, а ти си Брейвик."

Ако правилно разбирам това е власт.

И така, моля ви да запомните
че зад всеки алгоритъм

стой човек,

човек с лични убеждения

които никой код не
може да изкорени напълно.

И моето послание е не
само към Гугъл

но и към всички, които вярват в
истиността на кода.

Трябва да идентифицирате
вашите собствени предразсъдъци.

Трябва да разбере, че сте хора

и да поемете отговорност.

Казвам това защото вярвам,
че сме достигнали момента

когато е абсолютно задължително

по-здраво да свържем
двата края

на човешкото начало и на технологията

По-силно от всякога.

И ако не друго, то поне да
си напомняме, че тази чудесна

идея за неподправения, чист резултат

е, и вероятно ще остане мит.

Благодаря за вниманието!

(Аплодисменти)