WEBVTT

00:00:00.910 --> 00:00:02.183
Несколько лет назад

00:00:02.207 --> 00:00:07.119
я летела в самолёте с сыном,
которому было всего пять лет.

00:00:08.245 --> 00:00:13.340
Сын был так возбуждён тем,
что летел на самолёте с мамой.

00:00:13.364 --> 00:00:16.304
Он оглядывается по сторонам, всё исследует

00:00:16.328 --> 00:00:18.164
и рассматривает людей.

00:00:18.188 --> 00:00:19.932
Видит одного мужчину и говорит:

00:00:19.942 --> 00:00:22.703
«Эй, тот человек похож на папу!»

00:00:23.882 --> 00:00:25.802
Я смотрю на того мужчину,

00:00:25.826 --> 00:00:29.556
а он совсем не похож на моего мужа,

00:00:29.580 --> 00:00:30.949
ни капельки.

00:00:31.461 --> 00:00:33.797
И тогда я начинаю оглядываться по сторонам

00:00:33.821 --> 00:00:39.706
и замечаю, что тот мужчина —
единственный чернокожий в самолёте.

00:00:40.874 --> 00:00:42.286
И я думаю:

00:00:42.310 --> 00:00:43.504
«Хорошо,

00:00:44.369 --> 00:00:46.894
я поговорю с сыном о том,

00:00:46.918 --> 00:00:49.847
что не все чернокожие люди
друг на друга похожи».

00:00:49.871 --> 00:00:54.248
Мой сын поднимает голову и говорит мне:

00:00:56.246 --> 00:00:58.617
«Я надеюсь, он не ограбит самолёт».

00:00:59.359 --> 00:01:01.874
И я спрашиваю: «Что? Что ты сказал?»

00:01:01.898 --> 00:01:05.326
А он отвечает: «Ну, я надеюсь,
этот человек не ограбит самолёт».

00:01:07.200 --> 00:01:09.952
И я спрашиваю: «Почему ты так говоришь?

00:01:10.486 --> 00:01:13.149
Ты же знаешь, папочка
не ограбил бы самолёт».

00:01:13.173 --> 00:01:15.485
Он отвечает: «Да, да, да, я знаю».

00:01:16.179 --> 00:01:18.306
И я спрашиваю:
«Почему же ты так говоришь?»

00:01:20.346 --> 00:01:23.303
А он смотрит на меня так печально

00:01:24.168 --> 00:01:25.422
и говорит:

00:01:26.890 --> 00:01:28.996
«Не знаю, почему я так сказал.

00:01:30.600 --> 00:01:32.958
Не знаю, почему я так подумал».

00:01:33.724 --> 00:01:37.242
Мы живём с настолько серьёзным
расовым расслоением,

00:01:37.266 --> 00:01:42.326
что даже пятилетний малыш знает,
что должно произойти дальше,

00:01:43.990 --> 00:01:46.097
даже если нет никаких нарушителей порядка,

00:01:46.121 --> 00:01:48.700
даже без какой-либо открытой ненависти.

00:01:50.184 --> 00:01:54.097
Эта ассоциация между тёмным цветом кожи

00:01:54.121 --> 00:01:58.455
и преступностью проникла в разум
моего пятилетнего сына.

00:01:59.787 --> 00:02:03.050
Она проникает во всех наших детей,

00:02:04.201 --> 00:02:05.592
во всех нас.

00:02:06.793 --> 00:02:10.317
Наши взгляды формируются
расовыми расхождениями,

00:02:10.341 --> 00:02:11.933
существующими в нашем мире,

00:02:12.752 --> 00:02:18.093
и историями, помогающими нам
объяснить наблюдаемые расхождения:

00:02:19.637 --> 00:02:22.163
«Те люди — преступники»,

00:02:22.187 --> 00:02:24.112
«Те люди склонны к насилию»,

00:02:24.136 --> 00:02:27.101
«Тех людей следует бояться».

00:02:27.814 --> 00:02:31.005
Когда моя группа учёных проводила
лабораторные исследования,

00:02:31.029 --> 00:02:33.312
показывая людям лица,

00:02:33.336 --> 00:02:40.336
мы выяснили, что вид чёрных
лиц вёл к большей вероятности

00:02:40.360 --> 00:02:43.616
и скорости распознавания
размытых изображений оружия.

00:02:43.640 --> 00:02:46.604
Предвзятость может контролировать

00:02:46.658 --> 00:02:48.666
не только что мы видим, но и куда смотрим.

00:02:48.690 --> 00:02:52.134
Мы обнаружили, что при предложении
подумать о насильственном преступлении

00:02:52.158 --> 00:02:56.454
взгляд человека

00:02:56.478 --> 00:02:58.608
переключается с белого лица на чёрное.

00:02:58.632 --> 00:03:02.074
Если предложить полицейским подумать

00:03:02.118 --> 00:03:03.727
о задержании, стрельбе и аресте,

00:03:03.751 --> 00:03:07.610
их глаза опять же
переключатся на чёрные лица.

00:03:07.634 --> 00:03:12.700
Предвзятость может повлиять на любой
аспект системы уголовного правосудия.

00:03:13.100 --> 00:03:16.621
На основе большого набора данных
о подсудимых, ожидающих приговора,

00:03:16.645 --> 00:03:20.412
выяснилось, что внешность, более
типичная для чёрных, более чем в два раза

00:03:20.436 --> 00:03:22.493
увеличивала вероятность
смертного приговора,

00:03:23.494 --> 00:03:25.921
по крайней мере когда 
их жертвами были белые.

00:03:25.945 --> 00:03:27.483
Эффект был статистически значим

00:03:27.547 --> 00:03:30.708
даже при равнозначной тяжести преступления

00:03:30.732 --> 00:03:33.013
и привлекательности подсудимого.

00:03:33.037 --> 00:03:35.686
И какие бы критерии мы не выбирали,

00:03:35.710 --> 00:03:39.055
чернокожих людей наказывали

00:03:39.079 --> 00:03:43.404
пропорционально приближенности
их внешности к типажу чёрных:

00:03:43.428 --> 00:03:45.139
чем темнее кожа человека,

00:03:45.163 --> 00:03:47.086
тем вероятнее его
приговаривали к смерти.

00:03:47.110 --> 00:03:51.319
Предвзятость может повлиять и на то,
как учителя наказывают учеников.

00:03:51.781 --> 00:03:56.188
Мы с коллегами обнаружили,
что учителя склонны наказывать

00:03:56.212 --> 00:03:59.068
за одинаковые повторяющиеся нарушения

00:03:59.131 --> 00:04:00.970
чернокожего ученика средних классов

00:04:00.994 --> 00:04:03.570
жёстче, чем белого школьника.

00:04:03.594 --> 00:04:05.311
В недавнем исследовании выяснилось,

00:04:05.342 --> 00:04:09.270
что учителя рассматривают
чернокожих школьников как группу,

00:04:09.294 --> 00:04:11.725
в то время как белых
учеников — как личностей.

00:04:12.126 --> 00:04:15.725
Если, например, один чернокожий
ученик плохо себя ведёт,

00:04:15.749 --> 00:04:20.534
а потом, спустя несколько дней,
провинится другой чернокожий ученик,

00:04:20.558 --> 00:04:23.786
учитель реагирует так, как будто
второй чернокожий ученик

00:04:23.810 --> 00:04:26.435
нахулиганил дважды.

00:04:26.952 --> 00:04:29.763
Будто бы прегрешения одного ребёнка

00:04:29.787 --> 00:04:31.963
добавляются к выходкам другого.

00:04:31.987 --> 00:04:35.281
Мы создаём категории, чтобы понять мир,

00:04:35.305 --> 00:04:39.788
чтобы как-то управлять и упорядочить

00:04:39.812 --> 00:04:43.902
постоянно действующие нас раздражители.

00:04:43.926 --> 00:04:47.894
Распределение по категориям
и произрастающая из него предвзятость

00:04:47.918 --> 00:04:52.940
позволяют мозгу человека быстрее
и эффективнее выносить суждения,

00:04:52.964 --> 00:04:56.306
что мы делаем, инстинктивно опираясь

00:04:56.330 --> 00:04:58.059
на кажущиеся предсказуемыми шаблоны.

00:04:58.083 --> 00:05:04.026
Однако категории, позволяющие
принимать быстрые решения,

00:05:04.050 --> 00:05:06.552
усиливают при этом предвзятость.

00:05:06.576 --> 00:05:09.968
То есть то самое, что помогает
нам постичь мир,

00:05:11.104 --> 00:05:13.084
может и затуманить представление о нём.

00:05:13.509 --> 00:05:16.287
Категории легко и естественно

00:05:16.311 --> 00:05:17.680
определяют наш выбор.

00:05:18.956 --> 00:05:21.401
Однако это даётся дорогой ценой.

00:05:22.158 --> 00:05:23.569
Так что же можно сделать?

00:05:24.507 --> 00:05:26.998
Все мы подвержены предвзятости,

00:05:27.022 --> 00:05:29.702
но не всегда идём у неё на поводу.

00:05:29.726 --> 00:05:33.370
При определённых условиях
предвзятость может проявиться,

00:05:33.394 --> 00:05:35.927
но при других условиях — нет.

00:05:35.951 --> 00:05:37.798
Разрешите привести пример.

00:05:38.663 --> 00:05:43.223
Многим знакома социальная сеть Nextdoor.

00:05:44.073 --> 00:05:50.526
Вся её цель состоит в создании крепких,
дружественных межсоседских связей.

00:05:51.468 --> 00:05:54.389
И поэтому Nextdoor предоставляет
интернет-пространство,

00:05:54.413 --> 00:05:57.562
где соседи могут собираться
и обмениваться информацией.

00:05:57.586 --> 00:06:01.712
Но Nextdoor вскоре столкнулся

00:06:01.736 --> 00:06:03.524
с проблемой расового профилирования.

00:06:04.012 --> 00:06:05.979
В типичном случае люди выглянут в окно,

00:06:08.507 --> 00:06:12.011
увидят чернокожего человека
в своём белом районе

00:06:12.011 --> 00:06:14.533
и поспешно рассудят,

00:06:14.533 --> 00:06:16.475
что он что-то замышляет.

00:06:16.885 --> 00:06:19.844
даже при отсутствии свидетельства 
преступной деятельности.

00:06:20.610 --> 00:06:23.544
Во многих отношениях то,
как мы поступаем в интернете,

00:06:23.568 --> 00:06:26.682
является отражением
поведения в реальном мире.

00:06:27.117 --> 00:06:31.062
Но мы не хотим создавать
упрощённую систему,

00:06:31.086 --> 00:06:35.249
которая усиливает предвзятость
и усугубляет расовое неравенство,

00:06:36.129 --> 00:06:38.395
вместо того чтобы их разрушать.

00:06:38.863 --> 00:06:42.706
Поэтому один из основателей Nextdoor
обратился за советом, ко мне в том числе,

00:06:42.756 --> 00:06:44.447
чтобы понять, что делать.

00:06:44.471 --> 00:06:48.417
И стало понятно, что для сдерживания
расовой предвзятости на платформе

00:06:48.441 --> 00:06:50.363
придётся добавить «трение»,

00:06:50.387 --> 00:06:53.045
то есть придётся притормаживать людей.

00:06:53.069 --> 00:06:55.334
Таким образом, Nextdoor
оказалась перед выбором,

00:06:55.358 --> 00:06:57.766
и в противовес любому порыву

00:06:57.790 --> 00:06:59.906
было решено добавить трение.

00:07:00.397 --> 00:07:03.837
И это было сделано путём добавления

00:07:03.861 --> 00:07:05.531
простого списка из трёх пунктов.

00:07:06.111 --> 00:07:09.052
Во-первых, пользователей
попросили остановиться и подумать:

00:07:09.076 --> 00:07:14.193
«Что такого делал этот человек,
чтобы возбудить подозрения?»

00:07:14.876 --> 00:07:19.409
Категория «чернокожий человек»
не даёт основания для подозрений.

00:07:19.433 --> 00:07:24.222
Во-вторых, пользователей попросили
описать внешность человека,

00:07:24.232 --> 00:07:27.171
используя дополнительные признаки,
а не только его расу и пол.

00:07:27.264 --> 00:07:32.248
В-третьих, стало ясно,
что многие не знали,

00:07:36.462 --> 00:07:39.656
Так что Nextdoor
предоставила им определение

00:07:39.680 --> 00:07:42.582
и пояснила, что это строго запрещено.

00:07:43.071 --> 00:07:47.187
Большинство из вас видело эти знаки
в аэропортах и на станциях метро:

00:07:47.217 --> 00:07:49.619
«Если вы что-то видите, скажите».

00:07:49.928 --> 00:07:52.742
Nextdoor попробовала изменить эти слова:

00:07:53.584 --> 00:07:56.156
«Если вы видите что-то подозрительное,

00:07:56.180 --> 00:07:58.253
скажите что-то конкретное».

00:07:59.467 --> 00:08:03.917
Используя эту стратегию «торможения»,

00:07:32.277 --> 00:07:36.101
что такое расовая предвзятость
и что они ей способствуют.

00:08:03.961 --> 00:08:09.652
Nextdoor смогла сократить
расовую предвзятость на 75%.

00:08:10.496 --> 00:08:12.586
Я часто слышу:

00:08:12.610 --> 00:08:17.323
«Нельзя добавить трение,
в любой ситуации, в любом контексте

00:08:17.347 --> 00:08:21.993
и особенно для тех, кто постоянно
принимает решение за доли секунды.

00:08:22.730 --> 00:08:25.293
Но оказывается, можно добавить трение

00:08:25.317 --> 00:08:27.593
в большее число ситуаций,
чем мы предполагаем.

00:08:28.031 --> 00:08:30.105
Работая с отделением полиции

00:08:30.129 --> 00:08:31.546
в Окленде, штат Калифорния,

00:08:31.570 --> 00:08:35.426
я и несколько моих коллег
смогли помочь отделению

00:08:35.450 --> 00:08:38.121
уменьшить количество проверок людей,

00:08:38.145 --> 00:08:41.745
которые не совершали
никаких серьёзных преступлений.

00:08:41.769 --> 00:08:44.134
И мы сделали это, побуждая полицейских

00:08:44.158 --> 00:08:48.601
перед каждой проверкой
задаваться вопросом:

00:08:49.420 --> 00:08:53.781
«Движет ли этой проверкой рассудок?
Да или нет?»

00:08:55.172 --> 00:08:57.503
Другими словами:

00:08:57.503 --> 00:08:59.918
«Есть ли у меня предшествующая информация,

00:08:59.918 --> 00:09:02.088
чтобы связать именно этого человека

00:09:02.088 --> 00:09:03.808
с конкретным преступлением?»

00:09:04.548 --> 00:09:06.968
После добавления этого вопроса в формуляр,

00:09:06.968 --> 00:09:08.884
заполняемый полицейскими при проверке,

00:09:08.884 --> 00:09:11.040
они замедляются, они приостанавливаются,

00:09:11.040 --> 00:09:15.523
они задумываются: «Почему я решил
остановить этого водителя?»

00:09:16.468 --> 00:09:22.204
В 2017 году, до того как мы добавили
этот вопрос в формуляр,

00:09:23.676 --> 00:09:27.454
полицейские совершали около
32 000 остановок по городу.

00:09:27.822 --> 00:09:31.395
В следующем после добавления
этого вопроса году,

00:09:31.745 --> 00:09:34.146
показатель упал до 19 000 остановок.

00:09:34.146 --> 00:09:36.477
Задержания одних только афроамериканцев

00:09:36.657 --> 00:09:38.877
упали на 43%.

00:09:39.886 --> 00:09:41.771
И меньше задержаний чернокожих людей

00:09:41.771 --> 00:09:44.191
не сделали этот город более опасным.

00:09:44.237 --> 00:09:45.993
На самом деле, уровень преступности

00:09:45.993 --> 00:09:47.148
продолжил снижаться.

00:09:47.237 --> 00:09:50.449
И город стал безопаснее для всех.

00:09:50.497 --> 00:09:55.853
Итак, одним из решений может
стать сокращение ненужных проверок,

00:09:56.293 --> 00:10:00.537
Другим может стать
повышение качества проверок,

00:10:00.563 --> 00:10:02.270
совершаемых полицейскими.

00:10:02.430 --> 00:10:05.096
И технологии могут помочь нам в этом.

00:10:05.116 --> 00:10:07.737
Все мы знаем о смерти Джорджа Флойда,

00:10:08.487 --> 00:10:11.481
потому что те, кто пытался
прийти на помощь,

00:10:11.501 --> 00:10:13.492
держали камеры сотовых телефонов,

00:10:13.522 --> 00:10:18.188
чтобы заснять то ужасающее,
смертельное столкновение с полицией.

00:10:18.751 --> 00:10:23.250
Но у нас есть разные технологии,
которые мы не используем по назначению.

00:10:23.804 --> 00:10:26.062
Полицейским участкам по всей стране

00:10:26.102 --> 00:10:29.630
теперь необходимо носить нательные камеры.

00:10:29.835 --> 00:10:31.680
Поэтому теперь у нас есть записи

00:10:31.710 --> 00:10:35.238
не только самых немыслимых
и ужасающих столкновений,

00:10:35.688 --> 00:10:38.041
но и повседневных взаимодействий.

00:10:38.315 --> 00:10:41.389
С междисциплинарной командой в Станфорде

00:10:41.419 --> 00:10:44.154
мы начали использовать
технологии машинного обучения

00:10:44.184 --> 00:10:47.353
для анализа большого
количества столкновений,

00:10:47.353 --> 00:10:51.821
чтобы лучше понять, что происходит
во время рутинных остановок на дорогах.

00:10:52.146 --> 00:10:54.109
Как мы выяснили,

00:10:54.109 --> 00:10:58.260
даже когда полицейские
ведут себя профессионально,

00:10:58.722 --> 00:11:00.725
они говорят с чёрными водителями

00:11:00.725 --> 00:11:03.468
менее уважительно, чем с белыми.

00:11:04.680 --> 00:11:07.819
По одним лишь словам,
использованным полицейскими,

00:11:08.067 --> 00:11:09.274
мы могли определить,

00:11:09.274 --> 00:11:12.648
говорили они с чёрным
водителем или с белым.

00:11:13.189 --> 00:11:14.857
Проблема в том,

00:11:14.857 --> 00:11:18.513
что подавляющее большинство материала,
отснятого этими камерами,

00:11:19.113 --> 00:11:21.153
не используется полицейскими участками,

00:11:21.153 --> 00:11:23.423
чтобы понять, что происходит на улицах

00:11:23.423 --> 00:11:25.395
или для тренировки полицейских.

00:11:26.418 --> 00:11:27.865
А жаль.

00:11:28.375 --> 00:11:30.708
Как рутинная остановка

00:11:31.389 --> 00:11:33.473
превращается в смертельное столкновение?

00:11:33.521 --> 00:11:36.078
Как это произошло в случае Джорджа Флойда?

00:11:37.624 --> 00:11:39.236
Как это произошло в других?

00:11:39.674 --> 00:11:42.500
Когда моему старшему сыну было 16 лет,

00:11:42.832 --> 00:11:44.921
он открыл для себя, что, когда белые люди

00:11:44.951 --> 00:11:47.613
смотрят на него, они испытывают страх.

00:11:49.097 --> 00:11:52.027
«Хуже всего в лифтах», — сказал он.

00:11:52.328 --> 00:11:54.158
Когда двери лифта закрываются,

00:11:54.628 --> 00:11:55.919
люди попадают в ловушку

00:11:55.919 --> 00:11:57.359
в этом крошечном пространстве

00:11:57.929 --> 00:12:02.278
с кем-то, кого их научили
ассоциировать с опасностью.

00:12:02.900 --> 00:12:05.673
Мой сын чувствует их дискомфорт.

00:12:05.852 --> 00:12:08.302
И он улыбается, чтобы успокоить их,

00:12:09.104 --> 00:12:10.697
чтобы успокоить их страхи.

00:12:11.169 --> 00:12:12.463
Когда он говорит,

00:12:13.246 --> 00:12:14.851
они меньше напрягаются,

00:12:15.238 --> 00:12:16.959
им легче дышится,

00:12:17.291 --> 00:12:19.543
они получают удовольствие от переливов

00:12:19.543 --> 00:12:22.081
его голоса, его интонации,
его выбора слов.

00:12:22.934 --> 00:12:24.634
Он звучит как один из них.

00:12:24.830 --> 00:12:26.962
Раньше я думала, что мой сын —

00:12:26.962 --> 00:12:29.421
прирожденный экстраверт, как его отец.

00:12:29.429 --> 00:12:32.926
Но я поняла в тот момент и из той беседы,

00:12:34.174 --> 00:12:37.799
что его улыбка не была знаком того,

00:12:37.799 --> 00:12:41.111
что он хотел связаться
с потенциальными незнакомцами.

00:12:41.669 --> 00:12:44.836
Это был талисман, который он
использовал для своей защиты.

00:12:45.575 --> 00:12:51.548
Навык выживания, отточенный
за тысячи поездок в лифтах.

00:12:52.294 --> 00:12:55.347
Он учился справляться с напряжённостью,

00:12:55.347 --> 00:12:57.612
порождённой его цветом кожи.

00:12:58.955 --> 00:13:01.451
И это подвергло риску
его собственную жизнь.

00:13:02.605 --> 00:13:06.185
Мы знаем, что работа мозга
основана на предубеждениях,

00:13:06.222 --> 00:13:08.760
и один из методов препятствовать
этим предубеждениям —

00:13:08.822 --> 00:13:12.815
приостановиться и переосмыслить
доказательства наших предположений.

00:13:13.011 --> 00:13:14.860
Поэтому мы должны спросить самих себя,

00:13:14.860 --> 00:13:17.263
какие предположения мы держим в голове,

00:13:17.263 --> 00:13:19.374
когда мы заходим в лифт

00:13:21.805 --> 00:13:22.961
или самолёт.

00:13:23.358 --> 00:13:27.962
Как мы распознаём свои
бессознательные предрассудки?

00:13:28.035 --> 00:13:30.695
Кого оберегают эти предположения?

00:13:32.532 --> 00:13:34.482
Кого они подвергают риску?

00:13:35.625 --> 00:13:37.728
Пока мы не зададим эти вопросы

00:13:38.866 --> 00:13:41.524
и не настоим, чтобы наши школы,

00:13:41.524 --> 00:13:43.458
и наши суды, и наши полицейские участки,

00:13:43.458 --> 00:13:45.949
и каждое учреждение сделали то же,

00:13:47.854 --> 00:13:49.224
мы продолжим

00:13:49.865 --> 00:13:51.601
позволять нашим предрассудкам

00:13:51.601 --> 00:13:53.000
ослеплять нас.

00:13:53.255 --> 00:13:54.689
И если мы позволим,

00:13:56.126 --> 00:13:57.669
никто из нас

00:13:57.945 --> 00:13:59.105
в полной безопасности.

00:14:02.101 --> 00:14:03.200
Спасибо.