У вашей поисковой системы есть моральные предубеждения

Информация, получаемая с помощью поисковых запросов в интернете, стала восприниматься в качестве истины в последней инстанции. Но может ли результат поиска действительно быть абсолютно объективным? Шведский публицист и журналист Андреас Экстрём полагает, что с философской точки зрения это невозможно. В своём познавательном рассказе автор призывает нас объединить направления гуманитарных наук и технологий, напоминая нам о том, что за каждым алгоритмом скрывается набор личных убеждений его разработчика, от которых ни один код не может полностью избавиться.

Когда я посещаю школы
и общаюсь со студентами,

я всегда у них спрашиваю:

«Почему вы гуглите?

Почему вы выбираете Гугл
из всех поисковиков?»

Как ни странно, я всегда получаю
три одинаковых ответа.

Первый: «Потому что он работает»,

и это прекрасный ответ,
я тоже гуглю по этой же причине.

Второй будет озвучен как-то так:

«А разве есть другие альтернативы?»

Это не такой же прекрасный ответ,
и я обычно на это отвечаю:

«Попробуйте погуглить слово «поисковик»,

и вы сможете найти несколько
интересных альтернатив».

И, наконец,
третий, не менее значимый ответ.

В итоге кто-то из студентов
поднимет руку и скажет:

«С Гуглом я уверен, что всегда получу
лучший и наименее предвзятый результат».

Уверен, что всегда получу лучший
и наименее предвзятый результат.

Поскольку я гуманитарий,

пусть и «цифровой» гуманитарий,

меня такой ответ
приводит в замешательство,

даже если я тоже осознаю, что эта вера
в непредвзятый результат поиска

является основой нашей общей любви
и признательности Гуглу.

Я покажу вам, почему с философской
точки зрения это почти невозможно.

Но сначала позвольте мне
рассказать немного подробнее

об основном часто забываемом принципе
работы поисковой системы.

Каждый раз, когда вы гуглите что-то,

сначала спросите себя:
«Ищу ли я единичный факт?»

Например: «Какая столица Франции?»

«Как в химии обозначают молекулу воды?»

Если так, замечательно. Спокойно гуглите.

Нет такой группы учёных,
которая скоро докажет,

что это на самом деле Лондон и Н3O.

Здесь вы не увидите теории заговора.

Мы договорились на глобальном уровне

о ряде фактов, с которыми согласны все.

Но если вы немного усложните вопрос
и спросите, например:

«Почему начался конфликт
между Израилем и Палестиной?»

Вы уже не ищете обособленный факт,

вы ищете знание,

которое намного сложнее и деликатней.

И чтобы получить знание,

сперва нужно изучить
10, 20 или 100 фактов,

утвердить их и сказать:
«Да, они все отражают реальность».

Но в зависимости от того, какой я,

молодой или старый,
чёрный или белый, гей или нет,

я оценю их по-разному.

И я скажу: «Да, это правда,

но вот это для меня важнее, чем это».

Именно в этом кроется любопытная деталь,

потому что мы начинаем
думать как люди.

Поэтому мы начинаем спорить
и формировать общество.

И чтобы до чего-то дойти,
нам нужно отфильтровать все факты

через взгляды друзей и соседей,
родителей и детей,

коллег, газет и журналов,

чтобы в конце прийти к настоящему знанию,

в чём поисковик нам вряд ли поможет.

Я обещал вам пример, чтобы объяснить,

как непросто прийти к верному
и объективному знанию,

просто чтобы вы задумались об этом.

Я сделаю несколько поисковых запросов.

Сперва попробуем набрать «Мишель Обама»,

первая леди США.

Найдём её изображения.

Видно, что поиск работает хорошо.

Это идеальный результат,
более или менее.

На изображениях только она,
без появления президента.

Как это работает?

Очень просто.

Гугл использует много инструментов
для лучших результатов,

но в целом важны две составляющие.

Первое — как фотографию подписывают
на разных сайтах.

Есть ли в подписи «Мишель Обама»?

Это верный показатель,
что это она на изображении.

Второе — Гугл смотрит
на сам файл изображения,

на имя самого файла, загруженного на сайт.

Тот же принцип,
назван ли файл «МишельОбама.jpeg»?

Это ещё один верный признак,
что на нём нет Клинта Иствуда.

На этих двух пунктах базируется результат,
похожий на тот, что я показал.

В 2009 году Мишель Обама
стала жертвой расистской агитации,

когда люди хотели оскорбить её
с помощью поисковых результатов.

В интернете широко распространяли
фотографию,

на которой из-за изменённого лица
она выглядела как обезьяна.

И фото было опубликовано везде.

Люди намеренно его публиковали,

чтобы оно было одним из первых
результатов поиска.

Они писали «Мишель Обама» в описании

и называли загружаемый файл
«МишельОбама.jpeg».

Очевидно,
для влияния на результаты поиска.

И это сработало.

Если в 2009 году вы бы погуглили
фото «Мишель Обама»,

то переделанное фото обезьяны
появлялось одним из первых.

Теперь результаты самообновляемые,

в чём и состоит красота процесса,

потому что Гугл проверяет правильность
каждый час и каждый день.

Но Гуглу показалось этого мало,

и разработчики сказали:
«Это расистский и плохой результат поиска,

нужно почистить его вручную.

Мы напишем код
для обновления результатов этого поиска».

Это было сделано.

Не думаю, что кто-то может подумать,
что это была плохая идея.

И я так не думаю.

Но потом, через несколько лет,

самый востребованый в поисковых запросах
человек по имени Андерс,

Андерс Беринг Брейвик,

сделал то, что он сделал.

22 июля 2011 года

навсегда стало ужасным днём
в истории Норвегии.

Этот мужчина, террорист,
взорвал несколько государственных зданий,

в пешей доступности отсюда
в Осло, Норвегия,

поехав затем на остров Утойя,

где застрелил целую группу подростков.

Почти 80 человек погибли в тот день.

Многие люди опишут
этот ужасный поступок в два этапа,

то есть он сделал две вещи:
взорвал здания и застрелил подростков.

Это не так.

На самом деле было три этапа.

Он взорвал здания,
он застрелил подростков,

и он сел ждать,
когда мир начнет гуглить его.

И все эти этапы
были одинаково хорошо подготовлены.

И если и был кто-то, кто сразу это понял,

это был веб-разработчик из Швеции,

эксперт по оптимизации веб-поиска
из Стокгольма, Ник Линдквист.

Он также общественный активист,

использующий социальные сети
в блогосфере и на Фейсбуке.

И он сказал всем:

«Если и есть что-то такое,
что этот парень сейчас хочет,

так это управлять своим имиджем.

Давайте попробуем
видоизменить его образ.

Давайте попробуем в цивилизованном мире
выразить протест против его поступка,

оскорбив его в результатах поиска».

Каким образом?

Он написал своим читателям следующее:

«Зайдите в Интернет,

найдите фотографии
собачьих экскрементов на дороге,

найдите фотографии
собачьих экскрементов на дороге

и опубликуйте их на ваших сайтах и блогах.

Не забудьте написать
имя террориста в описании фото

и назовите файл «Брейвик.jpeg».

Давайте покажем Гуглу лицо террориста».

И это сработало.

Спустя два года после расизма
в отношении Мишель Обамы

агитация против Брейвика сработала.

Если бы вы прогуглили его фото через
несколько недель после 22 июля из Швеции,

вы бы увидели фото собачьих экскрементов
высоко в поиске

в качестве небольшого протеста.

Как ни странно,
Гугл не вмешался в этот раз.

Они не стали вручную чистить результаты.

Поэтому вопрос на миллион:

есть ли различия между двумя ситуациями?

Есть ли различия между способами
оскорбления Мишель Обамы

и Андерса Брейвика?

Конечно нет.

Способ абсолютно одинаковый,

но Гугл решил вмешаться
только в одном случае из двух.

Почему?

Из-за того, что Мишель Обама —
это уважаемая личность,

а Андерс Беринг Брейвик — ужасный человек.

Вы понимаете, что произошло?

Оценка человека,

и есть только одна сила в мире

с авторитетом сказать, кто есть кто.

«Ты нам нравишься,
ты нам не нравишься.

Мы верим тебе, мы не верим тебе.

Ты прав, ты не прав.

Ты Обама, а ты Брейвик».

Это власть как я её вижу.

Поэтому я прошу вас запомнить,
что за каждым алгоритмом

всегда стоит человек,

человек с личным набором убеждений,

от которых не сможет
полностью избавиться ни один код.

И моё обращение направлено
не только к Гуглу,

но и ко всем верующим в силу кода в мире.

Вам нужно идентифицировать
ваши собственные предубеждения.

Вам нужно понимать, что вы человек,

и нести подобающую ответственность.

Я говорю это, потому что считаю,
что мы достигли точки во времени,

когда крайне важно

снова связать вместе два направления
как можно крепче —

гуманитарные науки и технологии.

Крепче, чем когда-либо.

Время по крайней мере напомнить себе,
что соблазнительная идея о том,

что может существовать
непредвзятый результат поиска,

является и, скорее всего, останется мифом.

Спасибо за ваше время.

(Аплодисменты)