Return to Video

У вашей поисковой системы есть моральные предубеждения

  • 0:01 - 0:04
    Когда я посещаю школы
    и общаюсь со студентами,
  • 0:04 - 0:06
    я всегда у них спрашиваю:
  • 0:07 - 0:08
    «Почему вы гуглите?
  • 0:09 - 0:12
    Почему вы выбираете Гугл
    из всех поисковиков?»
  • 0:13 - 0:15
    Как ни странно, я всегда получаю
    три одинаковых ответа.
  • 0:15 - 0:18
    Первый: «Потому что он работает»,
  • 0:18 - 0:20
    и это прекрасный ответ,
    я тоже гуглю по этой же причине.
  • 0:20 - 0:22
    Второй будет озвучен как-то так:
  • 0:22 - 0:26
    «А разве есть другие альтернативы?»
  • 0:26 - 0:29
    Это не такой же прекрасный ответ,
    и я обычно на это отвечаю:
  • 0:29 - 0:31
    «Попробуйте погуглить слово «поисковик»,
  • 0:31 - 0:33
    и вы сможете найти несколько
    интересных альтернатив».
  • 0:33 - 0:36
    И, наконец,
    третий, не менее значимый ответ.
  • 0:36 - 0:39
    В итоге кто-то из студентов
    поднимет руку и скажет:
  • 0:39 - 0:44
    «С Гуглом я уверен, что всегда получу
    лучший и наименее предвзятый результат».
  • 0:45 - 0:52
    Уверен, что всегда получу лучший
    и наименее предвзятый результат.
  • 0:53 - 0:55
    Поскольку я гуманитарий,
  • 0:56 - 0:58
    пусть и «цифровой» гуманитарий,
  • 0:58 - 1:00
    меня такой ответ
    приводит в замешательство,
  • 1:00 - 1:04
    даже если я тоже осознаю, что эта вера
    в непредвзятый результат поиска
  • 1:04 - 1:08
    является основой нашей общей любви
    и признательности Гуглу.
  • 1:09 - 1:13
    Я покажу вам, почему с философской
    точки зрения это почти невозможно.
  • 1:13 - 1:16
    Но сначала позвольте мне
    рассказать немного подробнее
  • 1:16 - 1:20
    об основном часто забываемом принципе
    работы поисковой системы.
  • 1:20 - 1:22
    Каждый раз, когда вы гуглите что-то,
  • 1:22 - 1:26
    сначала спросите себя:
    «Ищу ли я единичный факт?»
  • 1:26 - 1:29
    Например: «Какая столица Франции?»
  • 1:30 - 1:32
    «Как в химии обозначают молекулу воды?»
  • 1:32 - 1:34
    Если так, замечательно. Спокойно гуглите.
  • 1:34 - 1:37
    Нет такой группы учёных,
    которая скоро докажет,
  • 1:37 - 1:39
    что это на самом деле Лондон и Н3O.
  • 1:39 - 1:42
    Здесь вы не увидите теории заговора.
  • 1:42 - 1:44
    Мы договорились на глобальном уровне
  • 1:44 - 1:46
    о ряде фактов, с которыми согласны все.
  • 1:46 - 1:52
    Но если вы немного усложните вопрос
    и спросите, например:
  • 1:52 - 1:55
    «Почему начался конфликт
    между Израилем и Палестиной?»
  • 1:55 - 1:58
    Вы уже не ищете обособленный факт,
  • 1:58 - 1:59
    вы ищете знание,
  • 1:59 - 2:02
    которое намного сложнее и деликатней.
  • 2:03 - 2:04
    И чтобы получить знание,
  • 2:04 - 2:07
    сперва нужно изучить
    10, 20 или 100 фактов,
  • 2:07 - 2:10
    утвердить их и сказать:
    «Да, они все отражают реальность».
  • 2:10 - 2:12
    Но в зависимости от того, какой я,
  • 2:12 - 2:14
    молодой или старый,
    чёрный или белый, гей или нет,
  • 2:14 - 2:16
    я оценю их по-разному.
  • 2:16 - 2:18
    И я скажу: «Да, это правда,
  • 2:18 - 2:20
    но вот это для меня важнее, чем это».
  • 2:20 - 2:22
    Именно в этом кроется любопытная деталь,
  • 2:22 - 2:24
    потому что мы начинаем
    думать как люди.
  • 2:24 - 2:27
    Поэтому мы начинаем спорить
    и формировать общество.
  • 2:27 - 2:30
    И чтобы до чего-то дойти,
    нам нужно отфильтровать все факты
  • 2:30 - 2:33
    через взгляды друзей и соседей,
    родителей и детей,
  • 2:33 - 2:35
    коллег, газет и журналов,
  • 2:35 - 2:38
    чтобы в конце прийти к настоящему знанию,
  • 2:38 - 2:42
    в чём поисковик нам вряд ли поможет.
  • 2:43 - 2:48
    Я обещал вам пример, чтобы объяснить,
  • 2:48 - 2:53
    как непросто прийти к верному
    и объективному знанию,
  • 2:53 - 2:55
    просто чтобы вы задумались об этом.
  • 2:55 - 2:58
    Я сделаю несколько поисковых запросов.
  • 2:58 - 3:03
    Сперва попробуем набрать «Мишель Обама»,
  • 3:03 - 3:04
    первая леди США.
  • 3:04 - 3:06
    Найдём её изображения.
  • 3:07 - 3:09
    Видно, что поиск работает хорошо.
  • 3:09 - 3:12
    Это идеальный результат,
    более или менее.
  • 3:12 - 3:15
    На изображениях только она,
    без появления президента.
  • 3:16 - 3:17
    Как это работает?
  • 3:18 - 3:19
    Очень просто.
  • 3:19 - 3:22
    Гугл использует много инструментов
    для лучших результатов,
  • 3:22 - 3:25
    но в целом важны две составляющие.
  • 3:25 - 3:30
    Первое — как фотографию подписывают
    на разных сайтах.
  • 3:30 - 3:32
    Есть ли в подписи «Мишель Обама»?
  • 3:32 - 3:34
    Это верный показатель,
    что это она на изображении.
  • 3:34 - 3:37
    Второе — Гугл смотрит
    на сам файл изображения,
  • 3:37 - 3:40
    на имя самого файла, загруженного на сайт.
  • 3:40 - 3:42
    Тот же принцип,
    назван ли файл «МишельОбама.jpeg»?
  • 3:43 - 3:46
    Это ещё один верный признак,
    что на нём нет Клинта Иствуда.
  • 3:46 - 3:50
    На этих двух пунктах базируется результат,
    похожий на тот, что я показал.
  • 3:50 - 3:57
    В 2009 году Мишель Обама
    стала жертвой расистской агитации,
  • 3:57 - 4:01
    когда люди хотели оскорбить её
    с помощью поисковых результатов.
  • 4:01 - 4:04
    В интернете широко распространяли
    фотографию,
  • 4:04 - 4:07
    на которой из-за изменённого лица
    она выглядела как обезьяна.
  • 4:07 - 4:10
    И фото было опубликовано везде.
  • 4:10 - 4:14
    Люди намеренно его публиковали,
  • 4:14 - 4:16
    чтобы оно было одним из первых
    результатов поиска.
  • 4:16 - 4:19
    Они писали «Мишель Обама» в описании
  • 4:19 - 4:23
    и называли загружаемый файл
    «МишельОбама.jpeg».
  • 4:23 - 4:25
    Очевидно,
    для влияния на результаты поиска.
  • 4:25 - 4:27
    И это сработало.
  • 4:27 - 4:29
    Если в 2009 году вы бы погуглили
    фото «Мишель Обама»,
  • 4:29 - 4:33
    то переделанное фото обезьяны
    появлялось одним из первых.
  • 4:33 - 4:36
    Теперь результаты самообновляемые,
  • 4:36 - 4:38
    в чём и состоит красота процесса,
  • 4:38 - 4:42
    потому что Гугл проверяет правильность
    каждый час и каждый день.
  • 4:42 - 4:44
    Но Гуглу показалось этого мало,
  • 4:44 - 4:47
    и разработчики сказали:
    «Это расистский и плохой результат поиска,
  • 4:48 - 4:51
    нужно почистить его вручную.
  • 4:51 - 4:54
    Мы напишем код
    для обновления результатов этого поиска».
  • 4:54 - 4:55
    Это было сделано.
  • 4:55 - 4:59
    Не думаю, что кто-то может подумать,
    что это была плохая идея.
  • 5:00 - 5:01
    И я так не думаю.
  • 5:03 - 5:06
    Но потом, через несколько лет,
  • 5:06 - 5:09
    самый востребованый в поисковых запросах
    человек по имени Андерс,
  • 5:09 - 5:11
    Андерс Беринг Брейвик,
  • 5:11 - 5:13
    сделал то, что он сделал.
  • 5:13 - 5:15
    22 июля 2011 года
  • 5:15 - 5:18
    навсегда стало ужасным днём
    в истории Норвегии.
  • 5:18 - 5:21
    Этот мужчина, террорист,
    взорвал несколько государственных зданий,
  • 5:21 - 5:24
    в пешей доступности отсюда
    в Осло, Норвегия,
  • 5:24 - 5:26
    поехав затем на остров Утойя,
  • 5:26 - 5:29
    где застрелил целую группу подростков.
  • 5:29 - 5:31
    Почти 80 человек погибли в тот день.
  • 5:32 - 5:37
    Многие люди опишут
    этот ужасный поступок в два этапа,
  • 5:37 - 5:40
    то есть он сделал две вещи:
    взорвал здания и застрелил подростков.
  • 5:40 - 5:42
    Это не так.
  • 5:42 - 5:44
    На самом деле было три этапа.
  • 5:44 - 5:47
    Он взорвал здания,
    он застрелил подростков,
  • 5:47 - 5:50
    и он сел ждать,
    когда мир начнет гуглить его.
  • 5:51 - 5:54
    И все эти этапы
    были одинаково хорошо подготовлены.
  • 5:54 - 5:57
    И если и был кто-то, кто сразу это понял,
  • 5:57 - 5:59
    это был веб-разработчик из Швеции,
  • 5:59 - 6:03
    эксперт по оптимизации веб-поиска
    из Стокгольма, Ник Линдквист.
  • 6:03 - 6:04
    Он также общественный активист,
  • 6:04 - 6:07
    использующий социальные сети
    в блогосфере и на Фейсбуке.
  • 6:07 - 6:09
    И он сказал всем:
  • 6:09 - 6:11
    «Если и есть что-то такое,
    что этот парень сейчас хочет,
  • 6:11 - 6:14
    так это управлять своим имиджем.
  • 6:15 - 6:17
    Давайте попробуем
    видоизменить его образ.
  • 6:17 - 6:21
    Давайте попробуем в цивилизованном мире
    выразить протест против его поступка,
  • 6:21 - 6:25
    оскорбив его в результатах поиска».
  • 6:25 - 6:26
    Каким образом?
  • 6:27 - 6:29
    Он написал своим читателям следующее:
  • 6:29 - 6:31
    «Зайдите в Интернет,
  • 6:31 - 6:34
    найдите фотографии
    собачьих экскрементов на дороге,
  • 6:34 - 6:37
    найдите фотографии
    собачьих экскрементов на дороге
  • 6:37 - 6:40
    и опубликуйте их на ваших сайтах и блогах.
  • 6:40 - 6:43
    Не забудьте написать
    имя террориста в описании фото
  • 6:43 - 6:48
    и назовите файл «Брейвик.jpeg».
  • 6:48 - 6:52
    Давайте покажем Гуглу лицо террориста».
  • 6:54 - 6:55
    И это сработало.
  • 6:56 - 6:59
    Спустя два года после расизма
    в отношении Мишель Обамы
  • 6:59 - 7:02
    агитация против Брейвика сработала.
  • 7:02 - 7:07
    Если бы вы прогуглили его фото через
    несколько недель после 22 июля из Швеции,
  • 7:07 - 7:11
    вы бы увидели фото собачьих экскрементов
    высоко в поиске
  • 7:11 - 7:13
    в качестве небольшого протеста.
  • 7:13 - 7:18
    Как ни странно,
    Гугл не вмешался в этот раз.
  • 7:18 - 7:23
    Они не стали вручную чистить результаты.
  • 7:24 - 7:26
    Поэтому вопрос на миллион:
  • 7:26 - 7:29
    есть ли различия между двумя ситуациями?
  • 7:29 - 7:32
    Есть ли различия между способами
    оскорбления Мишель Обамы
  • 7:32 - 7:34
    и Андерса Брейвика?
  • 7:34 - 7:36
    Конечно нет.
  • 7:37 - 7:38
    Способ абсолютно одинаковый,
  • 7:38 - 7:41
    но Гугл решил вмешаться
    только в одном случае из двух.
  • 7:41 - 7:42
    Почему?
  • 7:43 - 7:47
    Из-за того, что Мишель Обама —
    это уважаемая личность,
  • 7:47 - 7:50
    а Андерс Беринг Брейвик — ужасный человек.
  • 7:50 - 7:52
    Вы понимаете, что произошло?
  • 7:52 - 7:55
    Оценка человека,
  • 7:55 - 7:59
    и есть только одна сила в мире
  • 7:59 - 8:01
    с авторитетом сказать, кто есть кто.
  • 8:02 - 8:04
    «Ты нам нравишься,
    ты нам не нравишься.
  • 8:04 - 8:06
    Мы верим тебе, мы не верим тебе.
  • 8:06 - 8:07
    Ты прав, ты не прав.
  • 8:07 - 8:09
    Ты Обама, а ты Брейвик».
  • 8:11 - 8:13
    Это власть как я её вижу.
  • 8:15 - 8:19
    Поэтому я прошу вас запомнить,
    что за каждым алгоритмом
  • 8:19 - 8:21
    всегда стоит человек,
  • 8:21 - 8:23
    человек с личным набором убеждений,
  • 8:23 - 8:26
    от которых не сможет
    полностью избавиться ни один код.
  • 8:26 - 8:28
    И моё обращение направлено
    не только к Гуглу,
  • 8:28 - 8:31
    но и ко всем верующим в силу кода в мире.
  • 8:31 - 8:34
    Вам нужно идентифицировать
    ваши собственные предубеждения.
  • 8:34 - 8:36
    Вам нужно понимать, что вы человек,
  • 8:36 - 8:39
    и нести подобающую ответственность.
  • 8:40 - 8:43
    Я говорю это, потому что считаю,
    что мы достигли точки во времени,
  • 8:43 - 8:44
    когда крайне важно
  • 8:44 - 8:48
    снова связать вместе два направления
    как можно крепче —
  • 8:48 - 8:50
    гуманитарные науки и технологии.
  • 8:50 - 8:52
    Крепче, чем когда-либо.
  • 8:52 - 8:56
    Время по крайней мере напомнить себе,
    что соблазнительная идея о том,
  • 8:56 - 8:58
    что может существовать
    непредвзятый результат поиска,
  • 8:58 - 9:01
    является и, скорее всего, останется мифом.
  • 9:02 - 9:03
    Спасибо за ваше время.
  • 9:03 - 9:06
    (Аплодисменты)
Title:
У вашей поисковой системы есть моральные предубеждения
Speaker:
Андреас Экстрём
Description:

Информация, получаемая с помощью поисковых запросов в интернете, стала восприниматься в качестве истины в последней инстанции. Но может ли результат поиска действительно быть абсолютно объективным? Шведский публицист и журналист Андреас Экстрём полагает, что с философской точки зрения это невозможно. В своём познавательном рассказе автор призывает нас объединить направления гуманитарных наук и технологий, напоминая нам о том, что за каждым алгоритмом скрывается набор личных убеждений его разработчика, от которых ни один код не может полностью избавиться.

more » « less
Video Language:
English
Team:
TED
Project:
TEDTalks
Duration:
09:18

Russian subtitles

Revisions