1 00:00:00,910 --> 00:00:02,183 Несколько лет назад 2 00:00:02,207 --> 00:00:07,119 я летела в самолёте с сыном, которому было всего пять лет. 3 00:00:08,245 --> 00:00:13,340 Сын был так возбуждён тем, что летел на самолёте с мамой. 4 00:00:13,364 --> 00:00:16,304 Он оглядывается по сторонам, всё исследует 5 00:00:16,328 --> 00:00:18,164 и рассматривает людей. 6 00:00:18,188 --> 00:00:19,932 Видит одного мужчину и говорит: 7 00:00:19,942 --> 00:00:22,703 «Эй, тот человек похож на папу!» 8 00:00:23,882 --> 00:00:25,802 Я смотрю на того мужчину, 9 00:00:25,826 --> 00:00:29,556 а он совсем не похож на моего мужа, 10 00:00:29,580 --> 00:00:30,949 ни капельки. 11 00:00:31,461 --> 00:00:33,797 И тогда я начинаю оглядываться по сторонам 12 00:00:33,821 --> 00:00:39,706 и замечаю, что тот мужчина — единственный чернокожий в самолёте. 13 00:00:40,874 --> 00:00:42,286 И я думаю: 14 00:00:42,310 --> 00:00:43,504 «Хорошо, 15 00:00:44,369 --> 00:00:46,894 я поговорю с сыном о том, 16 00:00:46,918 --> 00:00:49,847 что не все чернокожие люди друг на друга похожи». 17 00:00:49,871 --> 00:00:54,248 Мой сын поднимает голову и говорит мне: 18 00:00:56,246 --> 00:00:58,617 «Я надеюсь, он не ограбит самолёт». 19 00:00:59,359 --> 00:01:01,874 И я спрашиваю: «Что? Что ты сказал?» 20 00:01:01,898 --> 00:01:05,326 А он отвечает: «Ну, я надеюсь, этот человек не ограбит самолёт». 21 00:01:07,200 --> 00:01:09,952 И я спрашиваю: «Почему ты так говоришь? 22 00:01:10,486 --> 00:01:13,149 Ты же знаешь, папочка не ограбил бы самолёт». 23 00:01:13,173 --> 00:01:15,485 Он отвечает: «Да, да, да, я знаю». 24 00:01:16,179 --> 00:01:18,306 И я спрашиваю: «Почему же ты так говоришь?» 25 00:01:20,346 --> 00:01:23,303 А он смотрит на меня так печально 26 00:01:24,168 --> 00:01:25,422 и говорит: 27 00:01:26,890 --> 00:01:28,996 «Не знаю, почему я так сказал. 28 00:01:30,600 --> 00:01:32,958 Не знаю, почему я так подумал». 29 00:01:33,724 --> 00:01:37,242 Мы живём с настолько серьёзным расовым расслоением, 30 00:01:37,266 --> 00:01:42,326 что даже пятилетний малыш знает, что должно произойти дальше, 31 00:01:43,990 --> 00:01:46,097 даже если нет никаких нарушителей порядка, 32 00:01:46,121 --> 00:01:48,700 даже без какой-либо открытой ненависти. 33 00:01:50,184 --> 00:01:54,097 Эта ассоциация между тёмным цветом кожи 34 00:01:54,121 --> 00:01:58,455 и преступностью проникла в разум моего пятилетнего сына. 35 00:01:59,787 --> 00:02:03,050 Она проникает во всех наших детей, 36 00:02:04,201 --> 00:02:05,592 во всех нас. 37 00:02:06,793 --> 00:02:10,317 Наши взгляды формируются расовыми расхождениями, 38 00:02:10,341 --> 00:02:11,933 существующими в нашем мире, 39 00:02:12,752 --> 00:02:18,093 и историями, помогающими нам объяснить наблюдаемые расхождения: 40 00:02:19,637 --> 00:02:22,163 «Те люди — преступники», 41 00:02:22,187 --> 00:02:24,112 «Те люди склонны к насилию», 42 00:02:24,136 --> 00:02:27,101 «Тех людей следует бояться». 43 00:02:27,814 --> 00:02:31,005 Когда моя группа учёных проводила лабораторные исследования, 44 00:02:31,029 --> 00:02:33,312 показывая людям лица, 45 00:02:33,336 --> 00:02:40,336 мы выяснили, что вид чёрных лиц вёл к большей вероятности 46 00:02:40,360 --> 00:02:43,616 и скорости распознавания размытых изображений оружия. 47 00:02:43,640 --> 00:02:46,604 Предвзятость может контролировать 48 00:02:46,658 --> 00:02:48,666 не только что мы видим, но и куда смотрим. 49 00:02:48,690 --> 00:02:52,134 Мы обнаружили, что при предложении подумать о насильственном преступлении 50 00:02:52,158 --> 00:02:56,454 взгляд человека 51 00:02:56,478 --> 00:02:58,608 переключается с белого лица на чёрное. 52 00:02:58,632 --> 00:03:02,074 Если предложить полицейским подумать 53 00:03:02,118 --> 00:03:03,727 о задержании, стрельбе и аресте, 54 00:03:03,751 --> 00:03:07,610 их глаза опять же переключатся на чёрные лица. 55 00:03:07,634 --> 00:03:12,700 Предвзятость может повлиять на любой аспект системы уголовного правосудия. 56 00:03:13,100 --> 00:03:16,621 На основе большого набора данных о подсудимых, ожидающих приговора, 57 00:03:16,645 --> 00:03:20,412 выяснилось, что внешность, более типичная для чёрных, более чем в два раза 58 00:03:20,436 --> 00:03:22,493 увеличивала вероятность смертного приговора, 59 00:03:23,494 --> 00:03:25,921 по крайней мере когда их жертвами были белые. 60 00:03:25,945 --> 00:03:27,483 Эффект был статистически значим 61 00:03:27,547 --> 00:03:30,708 даже при равнозначной тяжести преступления 62 00:03:30,732 --> 00:03:33,013 и привлекательности подсудимого. 63 00:03:33,037 --> 00:03:35,686 И какие бы критерии мы не выбирали, 64 00:03:35,710 --> 00:03:39,055 чернокожих людей наказывали 65 00:03:39,079 --> 00:03:43,404 пропорционально приближенности их внешности к типажу чёрных: 66 00:03:43,428 --> 00:03:45,139 чем темнее кожа человека, 67 00:03:45,163 --> 00:03:47,086 тем вероятнее его приговаривали к смерти. 68 00:03:47,110 --> 00:03:51,319 Предвзятость может повлиять и на то, как учителя наказывают учеников. 69 00:03:51,781 --> 00:03:56,188 Мы с коллегами обнаружили, что учителя склонны наказывать 70 00:03:56,212 --> 00:03:59,068 за одинаковые повторяющиеся нарушения 71 00:03:59,131 --> 00:04:00,970 чернокожего ученика средних классов 72 00:04:00,994 --> 00:04:03,570 жёстче, чем белого школьника. 73 00:04:03,594 --> 00:04:05,311 В недавнем исследовании выяснилось, 74 00:04:05,342 --> 00:04:09,270 что учителя рассматривают чернокожих школьников как группу, 75 00:04:09,294 --> 00:04:11,725 в то время как белых учеников — как личностей. 76 00:04:12,126 --> 00:04:15,725 Если, например, один чернокожий ученик плохо себя ведёт, 77 00:04:15,749 --> 00:04:20,534 а потом, спустя несколько дней, провинится другой чернокожий ученик, 78 00:04:20,558 --> 00:04:23,786 учитель реагирует так, как будто второй чернокожий ученик 79 00:04:23,810 --> 00:04:26,435 нахулиганил дважды. 80 00:04:26,952 --> 00:04:29,763 Будто бы прегрешения одного ребёнка 81 00:04:29,787 --> 00:04:31,963 добавляются к выходкам другого. 82 00:04:31,987 --> 00:04:35,281 Мы создаём категории, чтобы понять мир, 83 00:04:35,305 --> 00:04:39,788 чтобы как-то управлять и упорядочить 84 00:04:39,812 --> 00:04:43,902 постоянно действующие нас раздражители. 85 00:04:43,926 --> 00:04:47,894 Распределение по категориям и произрастающая из него предвзятость 86 00:04:47,918 --> 00:04:52,940 позволяют мозгу человека быстрее и эффективнее выносить суждения, 87 00:04:52,964 --> 00:04:56,306 что мы делаем, инстинктивно опираясь 88 00:04:56,330 --> 00:04:58,059 на кажущиеся предсказуемыми шаблоны. 89 00:04:58,083 --> 00:05:04,026 Однако категории, позволяющие принимать быстрые решения, 90 00:05:04,050 --> 00:05:06,552 усиливают при этом предвзятость. 91 00:05:06,576 --> 00:05:09,968 То есть то самое, что помогает нам постичь мир, 92 00:05:11,104 --> 00:05:13,084 может и затуманить представление о нём. 93 00:05:13,509 --> 00:05:16,287 Категории легко и естественно 94 00:05:16,311 --> 00:05:17,680 определяют наш выбор. 95 00:05:18,956 --> 00:05:21,401 Однако это даётся дорогой ценой. 96 00:05:22,158 --> 00:05:23,569 Так что же можно сделать? 97 00:05:24,507 --> 00:05:26,998 Все мы подвержены предвзятости, 98 00:05:27,022 --> 00:05:29,702 но не всегда идём у неё на поводу. 99 00:05:29,726 --> 00:05:33,370 При определённых условиях предвзятость может проявиться, 100 00:05:33,394 --> 00:05:35,927 но при других условиях — нет. 101 00:05:35,951 --> 00:05:37,798 Разрешите привести пример. 102 00:05:38,663 --> 00:05:43,223 Многим знакома социальная сеть Nextdoor. 103 00:05:44,073 --> 00:05:50,526 Вся её цель состоит в создании крепких, дружественных межсоседских связей. 104 00:05:51,468 --> 00:05:54,389 И поэтому Nextdoor предоставляет интернет-пространство, 105 00:05:54,413 --> 00:05:57,562 где соседи могут собираться и обмениваться информацией. 106 00:05:57,586 --> 00:06:01,712 Но Nextdoor вскоре столкнулся 107 00:06:01,736 --> 00:06:03,524 с проблемой расового профилирования. 108 00:06:04,012 --> 00:06:05,979 В типичном случае люди выглянут в окно, 109 00:06:08,507 --> 00:06:12,011 увидят чернокожего человека в своём белом районе 110 00:06:12,011 --> 00:06:14,533 и поспешно рассудят, 111 00:06:14,533 --> 00:06:16,475 что он что-то замышляет. 112 00:06:16,885 --> 00:06:19,844 даже при отсутствии свидетельства преступной деятельности. 113 00:06:20,610 --> 00:06:23,544 Во многих отношениях то, как мы поступаем в интернете, 114 00:06:23,568 --> 00:06:26,682 является отражением поведения в реальном мире. 115 00:06:27,117 --> 00:06:31,062 Но мы не хотим создавать упрощённую систему, 116 00:06:31,086 --> 00:06:35,249 которая усиливает предвзятость и усугубляет расовое неравенство, 117 00:06:36,129 --> 00:06:38,395 вместо того чтобы их разрушать. 118 00:06:38,863 --> 00:06:42,706 Поэтому один из основателей Nextdoor обратился за советом, ко мне в том числе, 119 00:06:42,756 --> 00:06:44,447 чтобы понять, что делать. 120 00:06:44,471 --> 00:06:48,417 И стало понятно, что для сдерживания расовой предвзятости на платформе 121 00:06:48,441 --> 00:06:50,363 придётся добавить «трение», 122 00:06:50,387 --> 00:06:53,045 то есть придётся притормаживать людей. 123 00:06:53,069 --> 00:06:55,334 Таким образом, Nextdoor оказалась перед выбором, 124 00:06:55,358 --> 00:06:57,766 и в противовес любому порыву 125 00:06:57,790 --> 00:06:59,906 было решено добавить трение. 126 00:07:00,397 --> 00:07:03,837 И это было сделано путём добавления 127 00:07:03,861 --> 00:07:05,531 простого списка из трёх пунктов. 128 00:07:06,111 --> 00:07:09,052 Во-первых, пользователей попросили остановиться и подумать: 129 00:07:09,076 --> 00:07:14,193 «Что такого делал этот человек, чтобы возбудить подозрения?» 130 00:07:14,876 --> 00:07:19,409 Категория «чернокожий человек» не даёт основания для подозрений. 131 00:07:19,433 --> 00:07:24,222 Во-вторых, пользователей попросили описать внешность человека, 132 00:07:24,232 --> 00:07:27,171 используя дополнительные признаки, а не только его расу и пол. 133 00:07:27,264 --> 00:07:32,248 В-третьих, стало ясно, что многие не знали, 134 00:07:36,462 --> 00:07:39,656 Так что Nextdoor предоставила им определение 135 00:07:39,680 --> 00:07:42,582 и пояснила, что это строго запрещено. 136 00:07:43,071 --> 00:07:47,187 Большинство из вас видело эти знаки в аэропортах и на станциях метро: 137 00:07:47,217 --> 00:07:49,619 «Если вы что-то видите, скажите». 138 00:07:49,928 --> 00:07:52,742 Nextdoor попробовала изменить эти слова: 139 00:07:53,584 --> 00:07:56,156 «Если вы видите что-то подозрительное, 140 00:07:56,180 --> 00:07:58,253 скажите что-то конкретное». 141 00:07:59,467 --> 00:08:03,917 Используя эту стратегию «торможения», 142 00:07:32,277 --> 00:07:36,101 что такое расовая предвзятость и что они ей способствуют. 143 00:08:03,961 --> 00:08:09,652 Nextdoor смогла сократить расовую предвзятость на 75%. 144 00:08:10,496 --> 00:08:12,586 Я часто слышу: 145 00:08:12,610 --> 00:08:17,323 «Нельзя добавить трение, в любой ситуации, в любом контексте 146 00:08:17,347 --> 00:08:21,993 и особенно для тех, кто постоянно принимает решение за доли секунды. 147 00:08:22,730 --> 00:08:25,293 Но оказывается, можно добавить трение 148 00:08:25,317 --> 00:08:27,593 в большее число ситуаций, чем мы предполагаем. 149 00:08:28,031 --> 00:08:30,105 Работая с отделением полиции 150 00:08:30,129 --> 00:08:31,546 в Окленде, штат Калифорния, 151 00:08:31,570 --> 00:08:35,426 я и несколько моих коллег смогли помочь отделению 152 00:08:35,450 --> 00:08:38,121 уменьшить количество проверок людей, 153 00:08:38,145 --> 00:08:41,745 которые не совершали никаких серьёзных преступлений. 154 00:08:41,769 --> 00:08:44,134 И мы сделали это, побуждая полицейских 155 00:08:44,158 --> 00:08:48,601 перед каждой проверкой задаваться вопросом: 156 00:08:49,420 --> 00:08:53,781 «Движет ли этой проверкой рассудок? Да или нет?» 157 00:08:55,172 --> 00:08:57,503 Другими словами: 158 00:08:57,503 --> 00:08:59,918 «Есть ли у меня предшествующая информация, 159 00:08:59,918 --> 00:09:02,088 чтобы связать именно этого человека 160 00:09:02,088 --> 00:09:03,808 с конкретным преступлением?» 161 00:09:04,548 --> 00:09:06,968 После добавления этого вопроса в формуляр, 162 00:09:06,968 --> 00:09:08,884 заполняемый полицейскими при проверке, 163 00:09:08,884 --> 00:09:11,040 они замедляются, они приостанавливаются, 164 00:09:11,040 --> 00:09:15,523 они задумываются: «Почему я решил остановить этого водителя?» 165 00:09:16,468 --> 00:09:22,204 В 2017 году, до того как мы добавили этот вопрос в формуляр, 166 00:09:23,676 --> 00:09:27,454 полицейские совершали около 32 000 остановок по городу. 167 00:09:27,822 --> 00:09:31,395 В следующем после добавления этого вопроса году, 168 00:09:31,745 --> 00:09:34,146 показатель упал до 19 000 остановок. 169 00:09:34,146 --> 00:09:36,477 Задержания одних только афроамериканцев 170 00:09:36,657 --> 00:09:38,877 упали на 43%. 171 00:09:39,886 --> 00:09:41,771 И меньше задержаний чернокожих людей 172 00:09:41,771 --> 00:09:44,191 не сделали этот город более опасным. 173 00:09:44,237 --> 00:09:45,993 На самом деле, уровень преступности 174 00:09:45,993 --> 00:09:47,148 продолжил снижаться. 175 00:09:47,237 --> 00:09:50,449 И город стал безопаснее для всех. 176 00:09:50,497 --> 00:09:55,853 Итак, одним из решений может стать сокращение ненужных проверок, 177 00:09:56,293 --> 00:10:00,537 Другим может стать повышение качества проверок, 178 00:10:00,563 --> 00:10:02,270 совершаемых полицейскими. 179 00:10:02,430 --> 00:10:05,096 И технологии могут помочь нам в этом. 180 00:10:05,116 --> 00:10:07,737 Все мы знаем о смерти Джорджа Флойда, 181 00:10:08,487 --> 00:10:11,481 потому что те, кто пытался прийти на помощь, 182 00:10:11,501 --> 00:10:13,492 держали камеры сотовых телефонов, 183 00:10:13,522 --> 00:10:18,188 чтобы заснять то ужасающее, смертельное столкновение с полицией. 184 00:10:18,751 --> 00:10:23,250 Но у нас есть разные технологии, которые мы не используем по назначению. 185 00:10:23,804 --> 00:10:26,062 Полицейским участкам по всей стране 186 00:10:26,102 --> 00:10:29,630 теперь необходимо носить нательные камеры. 187 00:10:29,835 --> 00:10:31,680 Поэтому теперь у нас есть записи 188 00:10:31,710 --> 00:10:35,238 не только самых немыслимых и ужасающих столкновений, 189 00:10:35,688 --> 00:10:38,041 но и повседневных взаимодействий. 190 00:10:38,315 --> 00:10:41,389 С междисциплинарной командой в Станфорде 191 00:10:41,419 --> 00:10:44,154 мы начали использовать технологии машинного обучения 192 00:10:44,184 --> 00:10:47,353 для анализа большого количества столкновений, 193 00:10:47,353 --> 00:10:51,821 чтобы лучше понять, что происходит во время рутинных остановок на дорогах. 194 00:10:52,146 --> 00:10:54,109 Как мы выяснили, 195 00:10:54,109 --> 00:10:58,260 даже когда полицейские ведут себя профессионально, 196 00:10:58,722 --> 00:11:00,725 они говорят с чёрными водителями 197 00:11:00,725 --> 00:11:03,468 менее уважительно, чем с белыми. 198 00:11:04,680 --> 00:11:07,819 По одним лишь словам, использованным полицейскими, 199 00:11:08,067 --> 00:11:09,274 мы могли определить, 200 00:11:09,274 --> 00:11:12,648 говорили они с чёрным водителем или с белым. 201 00:11:13,189 --> 00:11:14,857 Проблема в том, 202 00:11:14,857 --> 00:11:18,513 что подавляющее большинство материала, отснятого этими камерами, 203 00:11:19,113 --> 00:11:21,153 не используется полицейскими участками, 204 00:11:21,153 --> 00:11:23,423 чтобы понять, что происходит на улицах 205 00:11:23,423 --> 00:11:25,395 или для тренировки полицейских. 206 00:11:26,418 --> 00:11:27,865 А жаль. 207 00:11:28,375 --> 00:11:30,708 Как рутинная остановка 208 00:11:31,389 --> 00:11:33,473 превращается в смертельное столкновение? 209 00:11:33,521 --> 00:11:36,078 Как это произошло в случае Джорджа Флойда? 210 00:11:37,624 --> 00:11:39,236 Как это произошло в других? 211 00:11:39,674 --> 00:11:42,500 Когда моему старшему сыну было 16 лет, 212 00:11:42,832 --> 00:11:44,921 он открыл для себя, что, когда белые люди 213 00:11:44,951 --> 00:11:47,613 смотрят на него, они испытывают страх. 214 00:11:49,097 --> 00:11:52,027 «Хуже всего в лифтах», — сказал он. 215 00:11:52,328 --> 00:11:54,158 Когда двери лифта закрываются, 216 00:11:54,628 --> 00:11:55,919 люди попадают в ловушку 217 00:11:55,919 --> 00:11:57,359 в этом крошечном пространстве 218 00:11:57,929 --> 00:12:02,278 с кем-то, кого их научили ассоциировать с опасностью. 219 00:12:02,900 --> 00:12:05,673 Мой сын чувствует их дискомфорт. 220 00:12:05,852 --> 00:12:08,302 И он улыбается, чтобы успокоить их, 221 00:12:09,104 --> 00:12:10,697 чтобы успокоить их страхи. 222 00:12:11,169 --> 00:12:12,463 Когда он говорит, 223 00:12:13,246 --> 00:12:14,851 они меньше напрягаются, 224 00:12:15,238 --> 00:12:16,959 им легче дышится, 225 00:12:17,291 --> 00:12:19,543 они получают удовольствие от переливов 226 00:12:19,543 --> 00:12:22,081 его голоса, его интонации, его выбора слов. 227 00:12:22,934 --> 00:12:24,634 Он звучит как один из них. 228 00:12:24,830 --> 00:12:26,962 Раньше я думала, что мой сын — 229 00:12:26,962 --> 00:12:29,421 прирожденный экстраверт, как его отец. 230 00:12:29,429 --> 00:12:32,926 Но я поняла в тот момент и из той беседы, 231 00:12:34,174 --> 00:12:37,799 что его улыбка не была знаком того, 232 00:12:37,799 --> 00:12:41,111 что он хотел связаться с потенциальными незнакомцами. 233 00:12:41,669 --> 00:12:44,836 Это был талисман, который он использовал для своей защиты. 234 00:12:45,575 --> 00:12:51,548 Навык выживания, отточенный за тысячи поездок в лифтах. 235 00:12:52,294 --> 00:12:55,347 Он учился справляться с напряжённостью, 236 00:12:55,347 --> 00:12:57,612 порождённой его цветом кожи. 237 00:12:58,955 --> 00:13:01,451 И это подвергло риску его собственную жизнь. 238 00:13:02,605 --> 00:13:06,185 Мы знаем, что работа мозга основана на предубеждениях, 239 00:13:06,222 --> 00:13:08,760 и один из методов препятствовать этим предубеждениям — 240 00:13:08,822 --> 00:13:12,815 приостановиться и переосмыслить доказательства наших предположений. 241 00:13:13,011 --> 00:13:14,860 Поэтому мы должны спросить самих себя, 242 00:13:14,860 --> 00:13:17,263 какие предположения мы держим в голове, 243 00:13:17,263 --> 00:13:19,374 когда мы заходим в лифт 244 00:13:21,805 --> 00:13:22,961 или самолёт. 245 00:13:23,358 --> 00:13:27,962 Как мы распознаём свои бессознательные предрассудки? 246 00:13:28,035 --> 00:13:30,695 Кого оберегают эти предположения? 247 00:13:32,532 --> 00:13:34,482 Кого они подвергают риску? 248 00:13:35,625 --> 00:13:37,728 Пока мы не зададим эти вопросы 249 00:13:38,866 --> 00:13:41,524 и не настоим, чтобы наши школы, 250 00:13:41,524 --> 00:13:43,458 и наши суды, и наши полицейские участки, 251 00:13:43,458 --> 00:13:45,949 и каждое учреждение сделали то же, 252 00:13:47,854 --> 00:13:49,224 мы продолжим 253 00:13:49,865 --> 00:13:51,601 позволять нашим предрассудкам 254 00:13:51,601 --> 00:13:53,000 ослеплять нас. 255 00:13:53,255 --> 00:13:54,689 И если мы позволим, 256 00:13:56,126 --> 00:13:57,669 никто из нас 257 00:13:57,945 --> 00:13:59,105 в полной безопасности. 258 00:14:02,101 --> 00:14:03,200 Спасибо.