0:00:00.910,0:00:02.183 Несколько лет назад 0:00:02.207,0:00:07.119 я летела в самолёте с сыном,[br]которому было всего пять лет. 0:00:08.245,0:00:13.340 Сын был так возбуждён тем,[br]что летел на самолёте с мамой. 0:00:13.364,0:00:16.304 Он оглядывается по сторонам, всё исследует 0:00:16.328,0:00:18.164 и рассматривает людей. 0:00:18.188,0:00:19.932 Видит одного мужчину и говорит: 0:00:19.942,0:00:22.703 «Эй, тот человек похож на папу!» 0:00:23.882,0:00:25.802 Я смотрю на того мужчину, 0:00:25.826,0:00:29.556 а он совсем не похож на моего мужа, 0:00:29.580,0:00:30.949 ни капельки. 0:00:31.461,0:00:33.797 И тогда я начинаю оглядываться по сторонам 0:00:33.821,0:00:39.706 и замечаю, что тот мужчина —[br]единственный чернокожий в самолёте. 0:00:40.874,0:00:42.286 И я думаю: 0:00:42.310,0:00:43.504 «Хорошо, 0:00:44.369,0:00:46.894 я поговорю с сыном о том, 0:00:46.918,0:00:49.847 что не все чернокожие люди[br]друг на друга похожи». 0:00:49.871,0:00:54.248 Мой сын поднимает голову и говорит мне: 0:00:56.246,0:00:58.617 «Я надеюсь, он не ограбит самолёт». 0:00:59.359,0:01:01.874 И я спрашиваю: «Что? Что ты сказал?» 0:01:01.898,0:01:05.326 А он отвечает: «Ну, я надеюсь,[br]этот человек не ограбит самолёт». 0:01:07.200,0:01:09.952 И я спрашиваю: «Почему ты так говоришь? 0:01:10.486,0:01:13.149 Ты же знаешь, папочка[br]не ограбил бы самолёт». 0:01:13.173,0:01:15.485 Он отвечает: «Да, да, да, я знаю». 0:01:16.179,0:01:18.306 И я спрашиваю:[br]«Почему же ты так говоришь?» 0:01:20.346,0:01:23.303 А он смотрит на меня так печально 0:01:24.168,0:01:25.422 и говорит: 0:01:26.890,0:01:28.996 «Не знаю, почему я так сказал. 0:01:30.600,0:01:32.958 Не знаю, почему я так подумал». 0:01:33.724,0:01:37.242 Мы живём с настолько серьёзным[br]расовым расслоением, 0:01:37.266,0:01:42.326 что даже пятилетний малыш знает,[br]что должно произойти дальше, 0:01:43.990,0:01:46.097 даже если нет никаких нарушителей порядка, 0:01:46.121,0:01:48.700 даже без какой-либо открытой ненависти. 0:01:50.184,0:01:54.097 Эта ассоциация между тёмным цветом кожи 0:01:54.121,0:01:58.455 и преступностью проникла в разум[br]моего пятилетнего сына. 0:01:59.787,0:02:03.050 Она проникает во всех наших детей, 0:02:04.201,0:02:05.592 во всех нас. 0:02:06.793,0:02:10.317 Наши взгляды формируются[br]расовыми расхождениями, 0:02:10.341,0:02:11.933 существующими в нашем мире, 0:02:12.752,0:02:18.093 и историями, помогающими нам[br]объяснить наблюдаемые расхождения: 0:02:19.637,0:02:22.163 «Те люди — преступники», 0:02:22.187,0:02:24.112 «Те люди склонны к насилию», 0:02:24.136,0:02:27.101 «Тех людей следует бояться». 0:02:27.814,0:02:31.005 Когда моя группа учёных проводила[br]лабораторные исследования, 0:02:31.029,0:02:33.312 показывая людям лица, 0:02:33.336,0:02:40.336 мы выяснили, что вид чёрных[br]лиц вёл к большей вероятности 0:02:40.360,0:02:43.616 и скорости распознавания[br]размытых изображений оружия. 0:02:43.640,0:02:46.604 Предвзятость может контролировать 0:02:46.658,0:02:48.666 не только что мы видим, но и куда смотрим. 0:02:48.690,0:02:52.134 Мы обнаружили, что при предложении[br]подумать о насильственном преступлении 0:02:52.158,0:02:56.454 взгляд человека 0:02:56.478,0:02:58.608 переключается с белого лица на чёрное. 0:02:58.632,0:03:02.074 Если предложить полицейским подумать 0:03:02.118,0:03:03.727 о задержании, стрельбе и аресте, 0:03:03.751,0:03:07.610 их глаза опять же[br]переключатся на чёрные лица. 0:03:07.634,0:03:12.700 Предвзятость может повлиять на любой[br]аспект системы уголовного правосудия. 0:03:13.100,0:03:16.621 На основе большого набора данных[br]о подсудимых, ожидающих приговора, 0:03:16.645,0:03:20.412 выяснилось, что внешность, более[br]типичная для чёрных, более чем в два раза 0:03:20.436,0:03:22.493 увеличивала вероятность[br]смертного приговора, 0:03:23.494,0:03:25.921 по крайней мере когда [br]их жертвами были белые. 0:03:25.945,0:03:27.483 Эффект был статистически значим 0:03:27.547,0:03:30.708 даже при равнозначной тяжести преступления 0:03:30.732,0:03:33.013 и привлекательности подсудимого. 0:03:33.037,0:03:35.686 И какие бы критерии мы не выбирали, 0:03:35.710,0:03:39.055 чернокожих людей наказывали 0:03:39.079,0:03:43.404 пропорционально приближенности[br]их внешности к типажу чёрных: 0:03:43.428,0:03:45.139 чем темнее кожа человека, 0:03:45.163,0:03:47.086 тем вероятнее его[br]приговаривали к смерти. 0:03:47.110,0:03:51.319 Предвзятость может повлиять и на то,[br]как учителя наказывают учеников. 0:03:51.781,0:03:56.188 Мы с коллегами обнаружили,[br]что учителя склонны наказывать 0:03:56.212,0:03:59.068 за одинаковые повторяющиеся нарушения 0:03:59.131,0:04:00.970 чернокожего ученика средних классов 0:04:00.994,0:04:03.570 жёстче, чем белого школьника. 0:04:03.594,0:04:05.311 В недавнем исследовании выяснилось, 0:04:05.342,0:04:09.270 что учителя рассматривают[br]чернокожих школьников как группу, 0:04:09.294,0:04:11.725 в то время как белых[br]учеников — как личностей. 0:04:12.126,0:04:15.725 Если, например, один чернокожий[br]ученик плохо себя ведёт, 0:04:15.749,0:04:20.534 а потом, спустя несколько дней,[br]провинится другой чернокожий ученик, 0:04:20.558,0:04:23.786 учитель реагирует так, как будто[br]второй чернокожий ученик 0:04:23.810,0:04:26.435 нахулиганил дважды. 0:04:26.952,0:04:29.763 Будто бы прегрешения одного ребёнка 0:04:29.787,0:04:31.963 добавляются к выходкам другого. 0:04:31.987,0:04:35.281 Мы создаём категории, чтобы понять мир, 0:04:35.305,0:04:39.788 чтобы как-то управлять и упорядочить 0:04:39.812,0:04:43.902 постоянно действующие нас раздражители. 0:04:43.926,0:04:47.894 Распределение по категориям[br]и произрастающая из него предвзятость 0:04:47.918,0:04:52.940 позволяют мозгу человека быстрее[br]и эффективнее выносить суждения, 0:04:52.964,0:04:56.306 что мы делаем, инстинктивно опираясь 0:04:56.330,0:04:58.059 на кажущиеся предсказуемыми шаблоны. 0:04:58.083,0:05:04.026 Однако категории, позволяющие[br]принимать быстрые решения, 0:05:04.050,0:05:06.552 усиливают при этом предвзятость. 0:05:06.576,0:05:09.968 То есть то самое, что помогает[br]нам постичь мир, 0:05:11.104,0:05:13.084 может и затуманить представление о нём. 0:05:13.509,0:05:16.287 Категории легко и естественно 0:05:16.311,0:05:17.680 определяют наш выбор. 0:05:18.956,0:05:21.401 Однако это даётся дорогой ценой. 0:05:22.158,0:05:23.569 Так что же можно сделать? 0:05:24.507,0:05:26.998 Все мы подвержены предвзятости, 0:05:27.022,0:05:29.702 но не всегда идём у неё на поводу. 0:05:29.726,0:05:33.370 При определённых условиях[br]предвзятость может проявиться, 0:05:33.394,0:05:35.927 но при других условиях — нет. 0:05:35.951,0:05:37.798 Разрешите привести пример. 0:05:38.663,0:05:43.223 Многим знакома социальная сеть Nextdoor. 0:05:44.073,0:05:50.526 Вся её цель состоит в создании крепких,[br]дружественных межсоседских связей. 0:05:51.468,0:05:54.389 И поэтому Nextdoor предоставляет[br]интернет-пространство, 0:05:54.413,0:05:57.562 где соседи могут собираться[br]и обмениваться информацией. 0:05:57.586,0:06:01.712 Но Nextdoor вскоре столкнулся 0:06:01.736,0:06:03.524 с проблемой расового профилирования. 0:06:04.012,0:06:05.979 В типичном случае люди выглянут в окно, 0:06:08.507,0:06:12.011 увидят чернокожего человека[br]в своём белом районе 0:06:12.011,0:06:14.533 и поспешно рассудят, 0:06:14.533,0:06:16.475 что он что-то замышляет. 0:06:16.885,0:06:19.844 даже при отсутствии свидетельства [br]преступной деятельности. 0:06:20.610,0:06:23.544 Во многих отношениях то,[br]как мы поступаем в интернете, 0:06:23.568,0:06:26.682 является отражением[br]поведения в реальном мире. 0:06:27.117,0:06:31.062 Но мы не хотим создавать[br]упрощённую систему, 0:06:31.086,0:06:35.249 которая усиливает предвзятость[br]и усугубляет расовое неравенство, 0:06:36.129,0:06:38.395 вместо того чтобы их разрушать. 0:06:38.863,0:06:42.706 Поэтому один из основателей Nextdoor[br]обратился за советом, ко мне в том числе, 0:06:42.756,0:06:44.447 чтобы понять, что делать. 0:06:44.471,0:06:48.417 И стало понятно, что для сдерживания[br]расовой предвзятости на платформе 0:06:48.441,0:06:50.363 придётся добавить «трение», 0:06:50.387,0:06:53.045 то есть придётся притормаживать людей. 0:06:53.069,0:06:55.334 Таким образом, Nextdoor[br]оказалась перед выбором, 0:06:55.358,0:06:57.766 и в противовес любому порыву 0:06:57.790,0:06:59.906 было решено добавить трение. 0:07:00.397,0:07:03.837 И это было сделано путём добавления 0:07:03.861,0:07:05.531 простого списка из трёх пунктов. 0:07:06.111,0:07:09.052 Во-первых, пользователей[br]попросили остановиться и подумать: 0:07:09.076,0:07:14.193 «Что такого делал этот человек,[br]чтобы возбудить подозрения?» 0:07:14.876,0:07:19.409 Категория «чернокожий человек»[br]не даёт основания для подозрений. 0:07:19.433,0:07:24.222 Во-вторых, пользователей попросили[br]описать внешность человека, 0:07:24.232,0:07:27.171 используя дополнительные признаки,[br]а не только его расу и пол. 0:07:27.264,0:07:32.248 В-третьих, стало ясно,[br]что многие не знали, 0:07:36.462,0:07:39.656 Так что Nextdoor[br]предоставила им определение 0:07:39.680,0:07:42.582 и пояснила, что это строго запрещено. 0:07:43.071,0:07:47.187 Большинство из вас видело эти знаки[br]в аэропортах и на станциях метро: 0:07:47.217,0:07:49.619 «Если вы что-то видите, скажите». 0:07:49.928,0:07:52.742 Nextdoor попробовала изменить эти слова: 0:07:53.584,0:07:56.156 «Если вы видите что-то подозрительное, 0:07:56.180,0:07:58.253 скажите что-то конкретное». 0:07:59.467,0:08:03.917 Используя эту стратегию «торможения», 0:07:32.277,0:07:36.101 что такое расовая предвзятость[br]и что они ей способствуют. 0:08:03.961,0:08:09.652 Nextdoor смогла сократить[br]расовую предвзятость на 75%. 0:08:10.496,0:08:12.586 Я часто слышу: 0:08:12.610,0:08:17.323 «Нельзя добавить трение,[br]в любой ситуации, в любом контексте 0:08:17.347,0:08:21.993 и особенно для тех, кто постоянно[br]принимает решение за доли секунды. 0:08:22.730,0:08:25.293 Но оказывается, можно добавить трение 0:08:25.317,0:08:27.593 в большее число ситуаций,[br]чем мы предполагаем. 0:08:28.031,0:08:30.105 Работая с отделением полиции 0:08:30.129,0:08:31.546 в Окленде, штат Калифорния, 0:08:31.570,0:08:35.426 я и несколько моих коллег[br]смогли помочь отделению 0:08:35.450,0:08:38.121 уменьшить количество проверок людей, 0:08:38.145,0:08:41.745 которые не совершали[br]никаких серьёзных преступлений. 0:08:41.769,0:08:44.134 И мы сделали это, побуждая полицейских 0:08:44.158,0:08:48.601 перед каждой проверкой[br]задаваться вопросом: 0:08:49.420,0:08:53.781 «Движет ли этой проверкой рассудок?[br]Да или нет?» 0:08:55.172,0:08:57.503 Другими словами: 0:08:57.503,0:08:59.918 «Есть ли у меня предшествующая информация, 0:08:59.918,0:09:02.088 чтобы связать именно этого человека 0:09:02.088,0:09:03.808 с конкретным преступлением?» 0:09:04.548,0:09:06.968 После добавления этого вопроса в формуляр, 0:09:06.968,0:09:08.884 заполняемый полицейскими при проверке, 0:09:08.884,0:09:11.040 они замедляются, они приостанавливаются, 0:09:11.040,0:09:15.523 они задумываются: «Почему я решил[br]остановить этого водителя?» 0:09:16.468,0:09:22.204 В 2017 году, до того как мы добавили[br]этот вопрос в формуляр, 0:09:23.676,0:09:27.454 полицейские совершали около[br]32 000 остановок по городу. 0:09:27.822,0:09:31.395 В следующем после добавления[br]этого вопроса году, 0:09:31.745,0:09:34.146 показатель упал до 19 000 остановок. 0:09:34.146,0:09:36.477 Задержания одних только афроамериканцев 0:09:36.657,0:09:38.877 упали на 43%. 0:09:39.886,0:09:41.771 И меньше задержаний чернокожих людей 0:09:41.771,0:09:44.191 не сделали этот город более опасным. 0:09:44.237,0:09:45.993 На самом деле, уровень преступности 0:09:45.993,0:09:47.148 продолжил снижаться. 0:09:47.237,0:09:50.449 И город стал безопаснее для всех. 0:09:50.497,0:09:55.853 Итак, одним из решений может[br]стать сокращение ненужных проверок, 0:09:56.293,0:10:00.537 Другим может стать[br]повышение качества проверок, 0:10:00.563,0:10:02.270 совершаемых полицейскими. 0:10:02.430,0:10:05.096 И технологии могут помочь нам в этом. 0:10:05.116,0:10:07.737 Все мы знаем о смерти Джорджа Флойда, 0:10:08.487,0:10:11.481 потому что те, кто пытался[br]прийти на помощь, 0:10:11.501,0:10:13.492 держали камеры сотовых телефонов, 0:10:13.522,0:10:18.188 чтобы заснять то ужасающее,[br]смертельное столкновение с полицией. 0:10:18.751,0:10:23.250 Но у нас есть разные технологии,[br]которые мы не используем по назначению. 0:10:23.804,0:10:26.062 Полицейским участкам по всей стране 0:10:26.102,0:10:29.630 теперь необходимо носить нательные камеры. 0:10:29.835,0:10:31.680 Поэтому теперь у нас есть записи 0:10:31.710,0:10:35.238 не только самых немыслимых[br]и ужасающих столкновений, 0:10:35.688,0:10:38.041 но и повседневных взаимодействий. 0:10:38.315,0:10:41.389 С междисциплинарной командой в Станфорде 0:10:41.419,0:10:44.154 мы начали использовать[br]технологии машинного обучения 0:10:44.184,0:10:47.353 для анализа большого[br]количества столкновений, 0:10:47.353,0:10:51.821 чтобы лучше понять, что происходит[br]во время рутинных остановок на дорогах. 0:10:52.146,0:10:54.109 Как мы выяснили, 0:10:54.109,0:10:58.260 даже когда полицейские[br]ведут себя профессионально, 0:10:58.722,0:11:00.725 они говорят с чёрными водителями 0:11:00.725,0:11:03.468 менее уважительно, чем с белыми. 0:11:04.680,0:11:07.819 По одним лишь словам,[br]использованным полицейскими, 0:11:08.067,0:11:09.274 мы могли определить, 0:11:09.274,0:11:12.648 говорили они с чёрным[br]водителем или с белым. 0:11:13.189,0:11:14.857 Проблема в том, 0:11:14.857,0:11:18.513 что подавляющее большинство материала,[br]отснятого этими камерами, 0:11:19.113,0:11:21.153 не используется полицейскими участками, 0:11:21.153,0:11:23.423 чтобы понять, что происходит на улицах 0:11:23.423,0:11:25.395 или для тренировки полицейских. 0:11:26.418,0:11:27.865 А жаль. 0:11:28.375,0:11:30.708 Как рутинная остановка 0:11:31.389,0:11:33.473 превращается в смертельное столкновение? 0:11:33.521,0:11:36.078 Как это произошло в случае Джорджа Флойда? 0:11:37.624,0:11:39.236 Как это произошло в других? 0:11:39.674,0:11:42.500 Когда моему старшему сыну было 16 лет, 0:11:42.832,0:11:44.921 он открыл для себя, что, когда белые люди 0:11:44.951,0:11:47.613 смотрят на него, они испытывают страх. 0:11:49.097,0:11:52.027 «Хуже всего в лифтах», — сказал он. 0:11:52.328,0:11:54.158 Когда двери лифта закрываются, 0:11:54.628,0:11:55.919 люди попадают в ловушку 0:11:55.919,0:11:57.359 в этом крошечном пространстве 0:11:57.929,0:12:02.278 с кем-то, кого их научили[br]ассоциировать с опасностью. 0:12:02.900,0:12:05.673 Мой сын чувствует их дискомфорт. 0:12:05.852,0:12:08.302 И он улыбается, чтобы успокоить их, 0:12:09.104,0:12:10.697 чтобы успокоить их страхи. 0:12:11.169,0:12:12.463 Когда он говорит, 0:12:13.246,0:12:14.851 они меньше напрягаются, 0:12:15.238,0:12:16.959 им легче дышится, 0:12:17.291,0:12:19.543 они получают удовольствие от переливов 0:12:19.543,0:12:22.081 его голоса, его интонации,[br]его выбора слов. 0:12:22.934,0:12:24.634 Он звучит как один из них. 0:12:24.830,0:12:26.962 Раньше я думала, что мой сын — 0:12:26.962,0:12:29.421 прирожденный экстраверт, как его отец. 0:12:29.429,0:12:32.926 Но я поняла в тот момент и из той беседы, 0:12:34.174,0:12:37.799 что его улыбка не была знаком того, 0:12:37.799,0:12:41.111 что он хотел связаться[br]с потенциальными незнакомцами. 0:12:41.669,0:12:44.836 Это был талисман, который он[br]использовал для своей защиты. 0:12:45.575,0:12:51.548 Навык выживания, отточенный[br]за тысячи поездок в лифтах. 0:12:52.294,0:12:55.347 Он учился справляться с напряжённостью, 0:12:55.347,0:12:57.612 порождённой его цветом кожи. 0:12:58.955,0:13:01.451 И это подвергло риску[br]его собственную жизнь. 0:13:02.605,0:13:06.185 Мы знаем, что работа мозга[br]основана на предубеждениях, 0:13:06.222,0:13:08.760 и один из методов препятствовать[br]этим предубеждениям — 0:13:08.822,0:13:12.815 приостановиться и переосмыслить[br]доказательства наших предположений. 0:13:13.011,0:13:14.860 Поэтому мы должны спросить самих себя, 0:13:14.860,0:13:17.263 какие предположения мы держим в голове, 0:13:17.263,0:13:19.374 когда мы заходим в лифт 0:13:21.805,0:13:22.961 или самолёт. 0:13:23.358,0:13:27.962 Как мы распознаём свои[br]бессознательные предрассудки? 0:13:28.035,0:13:30.695 Кого оберегают эти предположения? 0:13:32.532,0:13:34.482 Кого они подвергают риску? 0:13:35.625,0:13:37.728 Пока мы не зададим эти вопросы 0:13:38.866,0:13:41.524 и не настоим, чтобы наши школы, 0:13:41.524,0:13:43.458 и наши суды, и наши полицейские участки, 0:13:43.458,0:13:45.949 и каждое учреждение сделали то же, 0:13:47.854,0:13:49.224 мы продолжим 0:13:49.865,0:13:51.601 позволять нашим предрассудкам 0:13:51.601,0:13:53.000 ослеплять нас. 0:13:53.255,0:13:54.689 И если мы позволим, 0:13:56.126,0:13:57.669 никто из нас 0:13:57.945,0:13:59.105 в полной безопасности. 0:14:02.101,0:14:03.200 Спасибо.