Some years ago,
I was on an airplane with my son who was just five years old at the time.
My son was so excited about being on this airplane with Mommy.
He's looking all around and he's checking things out
and he's checking people out.
And he sees this man, and he says,
"Hey! That guy looks like Daddy!"
And I look at the man,
and he didn't look anything at all like my husband,
nothing at all.
And so then I start looking around on the plane,
and I notice this man was the only black guy on the plane.
And I thought,
"Alright.
I'm going to have to have a little talk with my son
about how not all black people look alike."
My son, he lifts his head up, and he says to me,
"I hope he doesn't rob the plane."
And I said, "What? What did you say?"
And he says, "Well, I hope that man doesn't rob the plane."
And I said, "Well, why would you say that?
You know Daddy wouldn't rob a plane."
And he says, "Yeah, yeah, yeah, well, I know."
And I said, "Well, why would you say that?"
And he looked at me with this really sad face,
and he says,
"I don't know why I said that.
I don't know why I was thinking that."
We are living with such severe racial stratification
that even a five-year-old can tell us what's supposed to happen next,
even with no evildoer,
even with no explicit hatred.
This association between blackness and crime
made its way into the mind of my five-year-old.
It makes its way into all of our children,
into all of us.
Our minds are shaped by the racial disparities
we see out in the world
and the narratives that help us to make sense of the disparities we see:
"Those people are criminal."
"Those people are violent."
"Those people are to be feared."
When my research team brought people into our lab
and exposed them to faces,
we found that exposure to black faces led them to see blurry images of guns
with greater clarity and speed.
Bias cannot only control what we see,
but where we look.
We found that prompting people to think of violent crime
can lead them to direct their eyes onto a black face
and away from a white face.
Prompting police officers to think of capturing and shooting
and arresting
leads their eyes to settle on black faces, too.
Bias can infect every aspect of our criminal justice system.
In a large data set of death-eligible defendants,
we found that looking more black more than doubled their chances
of receiving a death sentence --
at least when their victims were white.
This effect is significant,
even though we controlled for the severity of the crime
and the defendant's attractiveness.
And no matter what we controlled for,
we found that black people were punished
in proportion to the blackness of their physical features:
the more black,
the more death-worthy.
Bias can also influence how teachers discipline students.
My colleagues and I have found that teachers express a desire
to discipline a black middle school student more harshly
than a white student
for the same repeated infractions.
In a recent study,
we're finding that teachers treat black students as a group
but white students as individuals.
If, for example, one black student misbehaves
and then a different black student misbehaves a few days later,
the teacher responds to that second black student
as if he had misbehaved twice.
It's as though the sins of one child
get piled onto the other.
We create categories to make sense of the world,
to assert some control and coherence
to the stimuli that we're constantly being bombarded with.
Categorization and the bias that it seeds
allow our brains to make judgments more quickly and efficiently,
and we do this by instinctively relying on patterns
that seem predictable.
Yet, just as the categories we create allow us to make quick decisions,
they also reinforce bias.
So the very things that help us to see the world
also can blind us to it.
They render our choices effortless,
friction-free.
Yet they exact a heavy toll.
So what can we do?
We are all vulnerable to bias,
but we don't act on bias all the time.
There are certain conditions that can bring bias alive
and other conditions that can muffle it.
Let me give you an example.
Many people are familiar with the tech company Nextdoor.
So, their whole purpose is to create stronger, healthier, safer neighborhoods.
And so they offer this online space
where neighbors can gather and share information.
Yet, Nextdoor soon found that they had a problem
with racial profiling.
In the typical case,
people would look outside their window
and see a black man in their otherwise white neighborhood
and make the snap judgment that he was up to no good,
even when there was no evidence of criminal wrongdoing.
In many ways, how we behave online
is a reflection of how we behave in the world.
But what we don't want to do is create an easy-to-use system
that can amplify bias and deepen racial disparities,
rather than dismantling them.
So the cofounder of Nextdoor reached out to me and to others
to try to figure out what to do.
And they realized that to curb racial profiling on the platform,
they were going to have to add friction;
that is, they were going to have to slow people down.
So Nextdoor had a choice to make,
and against every impulse,
they decided to add friction.
And they did this by adding a simple checklist.
There were three items on it.
First, they asked users to pause
and think, "What was this person doing that made him suspicious?"
The category "black man" is not grounds for suspicion.
Second, they asked users to describe the person's physical features,
not simply their race and gender.
Third, they realized that a lot of people
didn't seem to know what racial profiling was,
nor that they were engaging in it.
So Nextdoor provided them with a definition
and told them that it was strictly prohibited.
Most of you have seen those signs in airports
and in metro stations, "If you see something, say something."
Nextdoor tried modifying this.
"If you see something suspicious,
say something specific."
And using this strategy, by simply slowing people down,
Nextdoor was able to curb racial profiling by 75 percent.
Now, people often will say to me,
"You can't add friction in every situation, in every context,
and especially for people who make split-second decisions all the time."
But it turns out we can add friction
to more situations than we think.
Working with the Oakland Police Department
in California,
I and a number of my colleagues were able to help the department
to reduce the number of stops they made
of people who were not committing any serious crimes.
And we did this by pushing officers
to ask themselves a question before each and every stop they made:
"Is this stop intelligence-led,
yes or no?"
In other words,
do I have prior information to tie this particular person
to a specific crime?
By adding that question
to the form officers complete during a stop,
they slow down, they pause,
they think, "Why am I considering pulling this person over?"
In 2017, before we added that intelligence-led question to the form,
officers made about 32,000 stops across the city.
In that next year, with the addition of this question,
that fell to 19,000 stops.
African-American stops alone fell by 43 percent.
And stopping fewer black people did not make the city any more dangerous.
In fact, the crime rate continued to fall,
and the city became safer for everybody.
So one solution can come from reducing the number of unnecessary stops.
Another can come from improving the quality of the stops
officers do make.
And technology can help us here.
We all know about George Floyd's death,
because those who tried to come to his aid held cell phone cameras
to record that horrific, fatal encounter with the police.
But we have all sorts of technology that we're not putting to good use.
Police departments across the country
are now required to wear body-worn cameras
so we have recordings of not only the most extreme and horrific encounters
but of everyday interactions.
With an interdisciplinary team at Stanford,
we've begun to use machine learning techniques
to analyze large numbers of encounters.
This is to better understand what happens in routine traffic stops.
What we found was that
even when police officers are behaving professionally,
they speak to black drivers less respectfully than white drivers.
In fact, from the words officers use alone,
we could predict whether they were talking to a black driver or a white driver.
The problem is that the vast majority of the footage from these cameras
is not used by police departments
to understand what's going on on the street
or to train officers.
And that's a shame.
How does a routine stop turn into a deadly encounter?
How did this happen in George Floyd's case?
How did it happen in others?
When my eldest son was 16 years old,
he discovered that when white people look at him,
they feel fear.
Elevators are the worst, he said.
When those doors close,
people are trapped in this tiny space
with someone they have been taught to associate with danger.
My son senses their discomfort,
and he smiles to put them at ease,
to calm their fears.
When he speaks,
their bodies relax.
They breathe easier.
They take pleasure in his cadence,
his diction, his word choice.
He sounds like one of them.
I used to think that my son was a natural extrovert like his father.
But I realized at that moment, in that conversation,
that his smile was not a sign that he wanted to connect
with would-be strangers.
It was a talisman he used to protect himself,
a survival skill he had honed over thousands of elevator rides.
He was learning to accommodate the tension that his skin color generated
and that put his own life at risk.
We know that the brain is wired for bias,
and one way to interrupt that bias is to pause and to reflect
on the evidence of our assumptions.
So we need to ask ourselves:
What assumptions do we bring when we step onto an elevator?
Or an airplane?
How do we make ourselves aware of our own unconscious bias?
Who do those assumptions keep safe?
Who do they put at risk?
Until we ask these questions
and insist that our schools and our courts and our police departments
and every institution do the same,
we will continue to allow bias
to blind us.
And if we do,
none of us are truly safe.
Thank you.
قبل بضع سنوات،
كنت على متن الطائرة مع ابني ذو الخمسة أعوام فقط حينها.
كان ابني متحمساً جداً لكونه في الطائرة معي.
ينظر في جميع الأرجاء ويتفحص الأشياء من حوله
ويتفحص الأشخاص.
ورأى رجلا ثم قال:
"مهلاً! هذا الرجل يبدو كأبي!"
فنظرت إلى ذلك الرجل،
فلم يكن يبدو كزوجي إطلاقاً،
لا شيء على الإطلاق.
ونظرت فيما حولي على الطائرة،
ولاحظت أن ذلك الرجل كان الرجل الأسود الوحيد في الطائرة.
وقلت:
"حسناَ.
سأجري حوارا مع ابني
عن أنه ليس جميع الأشخاص السود يتشابهون."
رفع ابني رأسه قائلاً لي:
"أتمنى ألا يسرق الطائرة."
قلت: "ماذا؟ ما الذي قلته للتو؟"
قال: "حسناً، أتمنى ألا يسرق ذلك الرجل الطائرة."
وقلت: "حسناً، لماذا قلت ذلك؟
أنت تعلم أن والدك لن يسرق طائرة."
قال: "نعم، نعم، نعم، حسناً، أعلم."
قلت: "حسناً، فلماذا قلت ذلك إذاً؟"
نظر إلي بوجه حزين حقاً،
فقال:
"لا أعلم لماذا قلت ذلك.
لا أعلم لما فكرت بتلك الطريقة."
نحن نعيش في عالم شديد الطبقية العرقية
لدرجة أن طفلا عمره خمس سنوات بإمكانه افتراض ما الذي قد يحدث لاحقاً،
رغم عدم وجود شرير،
ودون كراهية صريحة.
الربط بين السواد والجريمة
شق طريقه نحو عقل ابني البالغ خمسة أعوام.
شق طريقه نحو عقول جميع أطفالنا،
نحونا جميعاً.
تشكلت عقولنا تبعاً للفوارق العرقية
كما نرى في العالم
والقصص التي تساعدنا لفهم الفوارق التي نراها:
"هؤلاء الناس مجرمون."
"هؤلاء الناس عنيفون."
"هؤلاء الناس يجب تجنبهم."
عندما جلب فريق بحثي أشخاصاً إلى معملنا
وتقديمهم للوجوه،
وجدنا أن النظر إلى الوجوه السوداء يجعلهم يرون صور ضبابية لأسلحة
بمزيد من الوضوح والسرعة.
التحيز لا يمكنه التحكم بما نرى فحسب،
بل أين نبحث.
وجدنا أن دفع الناس للتفكير في جرائم العنف
أدى بهم إلى توجيه نظرهم إلى الوجه الأسود
بعيداً عن الوجه الأبيض.
دفع رجال الشرطة للتفكير في القبض على وإطلاق النار
واعتقال
الأشخاص السود أيضاً.
التحيز يمكنه أن يؤثر على كل جوانب نظام العدالة الجنائية لدينا.
في مجموعة بيانات ضخمة للمدعى عليهم باستحقاق القتل،
وجدنا أنه من يملك بشرة أكثر سواداً تزداد فرص
الحكم عليه بالإعدام -
على الأقل عندما يكون ضحاياهم من البيض.
هذا التأثير مهم،
بالرغم من سيطرتنا على حدة الجريمة
وجاذبية المدعى عليهم.
ومهما كان ما كنا نتحكم فيه،
وجدنا أنه يتم عقاب ذوي البشرة السوداء
نسبة إلى مدى سواد سماتهم الجسدية:
الأشد سواداً،
الأكثر استحقاقاً للموت.
أيضاً يمكن للتحيز أن يؤثر بكيف يؤدب المعلمين الطلاب.
وجدنا أنا وزملائي أن المعلمين يعبرون عن رغبتهم
لتأديب طالب ملون بالمرحلة المتوسطة بقسوة أشد
من طالب أبيض
لنفس المخالفات المتكررة.
في دراسة حديثة،
نجد أن المعلمين يعاملون الطلاب السود كمجموعة
بينما يعاملون الطلاب البيض كأفراد.
على سبيل المثال، إذا أساء طالب أسود التصرف
وبعد بضعة أيام أساء التصرف طالب أسود آخر،
يستجيب المعلم للطالب الملون الثاني
كما لو أنه أساء التصرف مرتين.
يبدو الأمر وكأنه خطايا طفل واحد
تتراكم على الآخر.
نحن ننشئ تصنيفات لكي يصبح العالم مفهوماً،
لفرض بعض السيطرة والترابط
إلى المحفزات التي تحاصرنا باستمرار.
التصنيف والتحيز
يسمحا لعقولنا بإصدار الأحكام بسرعة وبكفاءة أكثر،
ونقوم بذلك بالفطرة بناءً على الأنماط
التي تبدو متوقعة.
ومع ذلك فإن التصنيفات تسمح لنا بإصدار قرارات سريعة،
فهي تعزز التحيز أيضاً.
لذا الأشياء التي تساعدنا لرؤية العالم
يمكن أن تعمينا عنه كذلك.
تسهل علينا الاختيار بدون بذل مجهود،
وبدون مقاومة لأفكارنا.
ولكن تشكل عبء ثقيل.
إذاً ماذا نفعل؟
نحن جميعاً معرضون للتحيز ضدنا.
لكننا لا نتحيز طوال الوقت.
هناك بعض الحالات تجسد التحيز
وحالات أخرى تضعفها.
دعوني أعطيكم مثالاً.
معظم الناس قد سمعوا عن شركة Nextdoor للتكنولوجيا.
والتي كان هدفها الرئيسي خلق علاقات قوية وصحية وآمنة بين الجيران.
لذا قاموا بإنشاء موقع على الإنترنت
حيث يمكن للجيران التجمع ومشاركة المعلومات.
ومن ثم واجهتهم مشكلة
مع تصنيف الأشخاص على أساس عنصري.
في الحالة النموذجية،
يقوم الأشخاص بالنظر خارج نافذتهم
ويروا رجلاً ملوناً بالجوار
ويأخذون عنه انطباع سيء،
بالرغم من عدم ثبوت ارتكابه لفعل إجرامي.
عموماً يعتبر سلوكنا عبر الإنترنت
انعكاس لسلوكنا في العالم الحقيقي.
لكن ما لا نود القيام به هو خلق نظام سهل الاستخدام
يعزز من وجود التمييز العنصري والعرقي،
بدلاً من مقاومتهم.
لذا قام مؤسس Nextdoor بالتواصل معي ومع آخرين
لمعرفة كيفية حل المشكلة.
واكتشفوا أنه يمكن تقليل التصنيف العنصري على المنصة،
عن طريق تثبيط هذا الفعل،
عن طريق محاولة مقاومة الناس للقيام بهذا الفعل.
لذا قام Nextdoor بالاختيار،
وفي مواجهة كل دافع للناس لهذا التصرف،
قاموا بوضع عراقيل.
وفعلوا ذلك بإضافة قائمة اختيارات بسيطة.
فيها ثلاثة بنود.
أولاً: طلبوا من الناس أن يتمهلوا
ويفكروا: "ما الفعل المريب الذي كان يفعله هذا الشخص ليثير الشكوك حوله؟"
تصنيف "ملون البشرة" لا يجلب الشكوك.
ثانياً: طلبوا من المستخدمين أن يقوموا بوصف الأشخاص من حيث بنيتهم الجسدية،
ليس مجرد عرقهم وجنسهم.
ثالثاً: وجدوا أن كثيراً من الناس
لا يدركون ماهية التصنيف العنصري،
ولا يمارسونه.
لذا قدم Nextdoor تعريفاً للناس
وأخبرهم بأنه ممنوع بشدة.
معظمكم شاهد هذه اللافتات في المطارات
وفي محطات المترو، "إذا رأيت شيئاً، قل شيئاً."
حاولت Nextdoor تعديل المقولة.
"إذا رأيت شيئاً مريباً،
قل شيئاً دقيقاً."
وباستخدام هذه الاستراتيجية، وبتثبيط هذا الفعل،
استطاع Nextdoor تقليل التمييز العنصري بنسبة 75%.
الآن، يقول الناس غالبا لي:
"لا يمكن مقاومة كل فعل أو كل معتقد،
وبالأخص بالنسبة للأشخاص الذين يصدرون قرارات متسرعة في معظم الأوقات."
لكن وجدنا أننا نستطيع المقاومة
في مواقف أكثر مما نعتقد.
من خلال عملي مع قسم شرطة أوكلاند
في كاليفورنيا،
استطعت أنا وزملائي مساعدة القسم
في تقليل عدد الإيقافات التي تمت
في حق الأشخاص الذين لم يرتكبوا أي جرم.
واستطعنا تحقيق ذلك عن طريق تحفيز الشرطيين
أن يسألوا أنفسهم قبل كل إيقاف يقومون به:
"هل هذا الإيقاف مبني على معلومات استخباراتية،
نعم أم لا؟"
بمعنى آخر،
هل تم تجميع المعلومات مسبقاً للحكم بإيقاف هذا الشخص بعينه
لإرتكابه لجريمة بعينها؟
بإضافة هذا السؤال
للاستمارة التي يملؤها الشرطيين خلال الإيقاف؛
تمهلوا وانتظروا،
وفكروا: "لما أعتزم إيقاف هذا الشخص؟"
في 2017، وقبل إضافة هذا السؤال الاستخباراتي للاستمارة،
قام الشرطيين بإجراء 32,000 إيقاف عبر المدنية.
وبعد مرور عام على إضافة هذا السؤال،
انخفض عدد الإيقافات إلى 19,000.
انخفض إيقاف الأمريكيين من أصول إفريقية فقط بنسبة 43%.
ولم تعد المدينة غير آمنة بعد إيقاف عدد أقل من الأشخاص ذوي البشرة الملونة.
في الحقيقة استمر معدل الجريمة في الانخفاض.
وأصبحت المدينة أكثر أماناً للجميع.
لذا يكمن الحل في تقليل عدد الإيقافات الغير ضرورية.
يتمثل حل آخر في تحسين طريقة الإيقاف
التي يقوم بها الشرطيين.
وللتكنولوجيا دور هنا.
كلنا نعلم بشأن حادثة وفاة جورج فلويد،
ولأن الأشخاص الذين حاولوا مساعدته كانوا يحملون كاميرات في هواتفهم الخلوية
ليسجلوا ذلك الصدام المرعب والفادح مع الشرطة.
لكننا لا نحسن استخدام التكنولوجيا بكل وسائلها التي نمتلكها.
كل أقسام الشرطة في جميع أنحاء المدينة
ملتزمين الآن بارتداء زي يحمل كاميرات
لذا لم يعد لدينا تسجيلات للمواجهات المتطرفة والمخيفة وفقط
بل لها جميعاً.
مع فريق متعدد التخصصات في ستانفورد،
بدأنا في استخدام آلات ذات تقنيات متطورة
لتحليل عدد كبير من المواجهات.
هذا يساعد في فهم ما يحدث في إيقافات المرور الروتينية بشكل أفضل.
ما اكتشفناه هو
أن حتى عندما يتعامل ضباط الشرطة باحترافية،
يتحدثون إلى السائقين ذوي البشرة الملونة بلهجة أقل احتراماً من ذوي البشرة البيضاء.
في الحقيقة، مجرد الكلمات التي يستخدمها الشرطيون،
يمكن أن تنبئنا إذا كانوا يتحدثون إلى سائق ملون أم أبيض.
تكمن المشكلة في أن أغلبية الصور المأخوذة بهذه الكاميرات
لا يتم استغلالها بواسطة أقسام الشرطة
لفهم ما يجري في الشوارع
أو لتدريب الضباط.
وهذا بعد عاراً.
كيف يمكن لإيقاف روتيني أن يتحول إلى مواجهة مميتة؟
كيف حدث هذا في حالة جورج فلويد؟
كيف حدث في حالات أخرى؟
حينما كان ابني الأكبر في السادسة عشر من عمره
اكتشف أنه حينما ينظر إليه ذوي البشرة البيضاء،
كانوا يشعرون بالخوف.
وقال أن المصاعد هي الأسوأ.
عندما تقفل هذه الأبواب،
يحتجز الناس في هذه المساحة الصغيرة
مع شخص تعلموا أنه مصدر للخطر.
كان ابني يستشعر خوفهم،
ويبتسم ليخفف توترهم،
ويقلل من الخوف لديهم.
عندما يتحدث،
تسترخي أجسادهم.
ويتنفسوا بشكل أسهل.
ويستلطفون أسلوبه،
وانتقاء الكلمات وطريقة إلقاؤه.
ليبدو كأنه واحد منهم.
اعتدت على تصور أن شخصيته منفتحة مثل والده.
لكني اكتشفت في هذه الحظة خلال هذه المحادثة
أن ابتسامته لم تكن علامة على أنه يريد التواصل
مع من المفترض أنهم غرباء.
كان شيئاً اعتاد أن يتحصن به،
مهارة للتعايش اكتسبها عبر آلاف المرات ركوب المصاعد.
كان يتعلم كيفية امتصاص التوتر الناتج عن لون بشرته
والتي جعلت حياته في خطر.
نعلم أن العقل يميل بشدة للتحيز.
والطريقة الوحيدة لمقاطعة هذا التفكير هو التوقف
وعكس الدليل على افتراضاتنا.
لذا وجب علينا أن نسأل أنفسنا:
ما الافتراضات التي نفترضها عندما نركب المصعد؟
أو الطائرة؟
كيف نثقف أنفسنا لنكون مدركين نزعتنا اللاإرادية نحو التحيز؟
من تحمي هذه الافتراضات؟
من يتعرض للخطر بسببها؟
وإلى أن نسأل أنفسنا هذه الأسئلة
ونصمم على أن مدارسنا ومحاكمنا وأقسام الشرطة
وكل معهد يفعل المثل.
سنستمر في السماح للتحيز
بأن يغطي أعيننا.
وإذا فعلنا ذلك؛
لن يكون أيُّ منا في أمان حقيقي.
شكراً لكم.
Před několika lety jsem seděla v letadle se svým synem,
kterému bylo pouhých pět let.
Můj syn byl u vytržení z toho, že letí s maminkou.
Koukal kolem sebe, všechno prozkoumával
a zkoumal také lidi.
A pak spatří jednoho muže a říká:
„Koukej, ten pán vypadá jako táta!“
Prohlédnu si toho muže,
který rozhodně nevypadal jako můj manžel,
ani trošku.
Začala jsem se proto také rozhlížet a uvědomila jsem si,
že ten muž byl jediným černochem na palubě.
Myslela jsem si:
“Aha.
Budu si muset promluvit se svým synem o tom,
že ne všichni černoši vypadají stejně.“
Můj syn ke mně zvedl hlavu a řekl mi:
„Doufám, že neokrade nikoho v letadle.“
Odpověděla jsem: „Cože? Co jsi to řekl?“
A on zopakoval: „Doufám, že ten pán neokrade nikoho v letadle.“
Řekla jsem: „Proč to říkáš?
Víš přece, že táta by v letadle nekradl.“
A on odpověděl: „Jojo, já vím.“
A já řekla: „No tak proč jsi to řekl?“
Podíval se na mě se smutným výrazem ve tváři a dodal:
„Nevím, proč jsem to řekl.
Nevím, proč mě to napadlo.“
Žijeme v tak krutém rasovém rozvrstvení,
že i pětiletý nám dokáže říct, co se má stát,
bez zločince,
bez výslovné nenávisti.
Spojení mezi černošstvím a kriminalitou
si našlo cestu do mysli mého pětiletého syna.
Najde si cestu do mysli všech našich dětí,
do mysli každého z nás.
Naše mysl je formovaná rasovými nerovnostmi,
které na tomto světě vídáme,
a výklady, jež nám pomáhají dát smysl nerovnostem, které vidíme:
„Tito lidé jsou kriminálníci.“
„Tito lidé jsou násilníci.“
„Těchto lidí se máme bát.“
Když můj výzkumný tým přivedl lidi do naší laboratoře
a ukázal jim různé obličeje,
zjistili jsme, že v souvislosti s černochy viděli
rozmazané obrysy zbraní jasněji a rychleji.
Předsudky nejen řídí, co vidíme,
ale také kde hledáme.
Zjistili jsme, že když pobídneme lidi k myšlení na násilný zločin,
může je to vést k upření pohledu na černošský obličej
a pryč od bělošského.
Když pobídneme policisty k myšlenkám na dopadnutí, střílení a zatýkání,
zavede to současně jejich pohled na černošské obličeje.
Předsudky mohou nakazit každý aspekt našeho systému trestního soudnictví.
V rozsáhlém souboru dat zabývajícím se možností trestu smrti
jsme zjistili, že tmavší barva kůže více než zdvojnásobila šanci
k odsouzení obžalovaného k trestu smrti ‒
minimálně v případech, kdy obětmi byli běloši.
Toto zjištění má velký význam,
ačkoliv jsme měli kontrolu nad vážností zločinu
a atraktivností obžalovaných.
A ať jsme použili jakoukoliv proměnnou,
zjistili jsme, že černoši dostali tresty
úměrné jejich fyzickým černošským rysům:
čím tmavší,
tím spíš si zasloužili smrt.
Předsudky mohou také ovlivnit, jak učitelé trestají žáky.
S mými kolegy jsme zjistili, že učitelé vykazují potřebu
ukáznit černošské žáky na druhém stupni přísněji
než bělošské žáky
za stejné opakované přestupky.
Během nedávné studie jsme zjistili,
že učitelé berou černošské žáky jako skupinu,
ale bělošské žáky jako individua.
Pokud například jeden černošský student něco provede
a jiný černošský student něco provede o pár dní později,
v případě druhého studenta učitel reaguje
jako kdyby něco provedl dvakrát.
Jakoby se hříchy jednoho dítěte
kupily na hříchy jiných.
Vytváříme škatulky, abychom světu dali smysl,
abychom uhájili kontrolu a soudržnost,
když přijde na podněty, kterými jsme neustále bombardováni.
Škatulkování a předsudky, které se tím vytvoří,
dovolují našemu mozku tvořit úsudky rychleji a efektivněji,
jelikož instiktivně spoléhá na vzorce,
které mu připadají předvídatelné.
Tak jako nám škatulky dovolují se rychle rozhodnout,
zároveň zesilují naše předsudky.
Ty samé věci, které nám umožňují vidět svět,
nás také mohou zaslepit.
Zjednodušují naše rozhodnutí,
bez zbytečného tlaku.
Jenomže si vybírají vysokou daň.
Co s tím můžeme dělat?
Jsme náchylní k předsudkům,
ale ne vždycky se podle toho chováme.
Za určitých podmínek předsudky oživnou,
za jiných dojde k jejich útlumu.
Dám vám příklad.
Mnoho z vás zná firmu Nextdoor.
Jejím cílem je vytvořit pevnější, zdravější a bezpečnější sousedské vztahy.
Nabízejí prostor online,
kde se sousedé mohou scházet a sdílet informace.
Ale Nextdoor brzy zjistil, že mají problém
s rasovým profilováním.
V typickém případě
lidé vyhlédnou z okna,
spatří černošského muže v jejich jinak bělošském sousedství
a rychle dojdou k závěru, že má něco za lubem,
ačkoliv neexistuje důkaz o kriminální činnosti.
V mnoha případech je naše chování online
odrazem našeho chování v opravdovém světě.
Ale my nechceme vytvořit příliš jednoduchý systém,
který by umocňoval předsudky a prohluboval rasovou nerovnost
namísto toho, aby je odbourával.
Zakladatel Nextdoor oslovil mě a pár dalších,
abychom mu pomohli vyřešit, co s tím.
Uvědomili si, že pro omezení rasového profilování na jejich platformě
budou muset přidat frikci,
což znamenalo, že budou muset lidi přibrzdit.
Nextdoor měl před sebou volbu
a navzdory všem jejich nutkáním,
se tu frikci rozhodli přidat.
Učinili tak přidáním jednoduchého seznamu.
Na seznam dali tři položky.
První vyzývala uživatele, aby se na chvíli zastavili
a zamysleli se: „Z jakého důvodu jim byla tato osoba podezřelá?“
Kategorie „černoch“ nedává příčinu k podezření.
Druhá položka vyzývala uživatele, aby popsali fyzické rysy této osoby
namísto jejich rasy a pohlaví.
Třetí ‒ uvědomili si, že spousta lidí nevěděla,
co rasové profilování vůbec je,
a už vůbec, že se do něj zapojili.
Nextdoor poskytl definici a vysvětlil jim,
že takové chování je striktně zakázané.
Většina z vás si patrně všimla nápisů na letištích a v metrech:
„Když něco vidíte, řekněte něco.“
Nextdoor se to pokusil upravit:
„Pokud vidíte něco podezřelého,
řekněte něco konkrétního.“
Za použití této strategie a zpomalením lidí
dokázal Nextdoor snížit rasové profilování o 75 procent.
Lidé mi často říkají:
„Není možné přidat frikci ve všech situacích a všech případech,
zejména u lidí, kteří v každé situaci jednají impulzivně.“
Ukázalo se ale, že frikci můžeme přidat ve více situacích než si myslíme.
Při spolupráci s policejním oddělením v Oaklandu v Kalifornii
jsme s mými kolegy pomohli jejich oddělení
snížit počet kontrol u lidí,
kteří se nedopustili žádného závažného zločinu.
Nutili jsme přitom policisty,
aby si před každým zastavením kladli otázku:
„Zastavuji na základě rozumného důvodu,
ano nebo ne?“
Jinak řečeno,
mám dostatek informací k tomu, abych tuto osobu spojil
s konkrétním zločinem?
Tím, že jsme otázku přidali na seznam,
který vyplňují během kontroly,
policisté přibrzdí, zastaví se a zamyslí:
„Proč se chystám tuto osobu zastavit?“
V roce 2017, než jsme tuto otázku vedenou rozumem přidali na formulář,
proběhlo ve městě kolem 32 000 policejních kontrol.
Rok po přidání této otázky
se toto číslo snížilo na 19 000 kontrol.
Jen samotné kontroly Afroameričanů klesly o 43 procent.
A díky méně kontrolám černošských občanů se město nestalo nebezpečnějším.
Ve skutečnosti se kriminalita snižovala
a město se stalo pro všechny bezpečnějším.
Jedním řešením může být snížení počtu nadbytečných kontrol.
Dalším může být zlepšení kvality kontrol,
které policisté provádí.
S tím nám může pomoci technologie.
Všichni víme o smrti George Floyda,
protože ti, co se mu snažili pomoci, drželi v ruce mobilní telefony
a natočili to hrůzné, osudné střetnutí s policií.
Máme ale také další technologie, jejichž potenciál plně nevyužíváme.
Policejní oddělení v celé zemi
mají teď nařízeno nosit na těle kamery,
takže máme záběry nejen nejextrémnějších a nejhrůznějších střetů,
ale také z každodenní práce.
Spolu s interdisciplinárním týmem ze Stanfordu
jsme začali používat strojové učení,
abychom mohli analyzovat velké množství střetů.
Abychom lépe rozuměli tomu, co se stane během rutinních policejních kontrol.
Zjistili jsme, že i když se policisté chovají profesionálně,
mluví s černošskými řidiči méně zdvořile než s bělošskými.
Jen z výběru slov, které použili,
jsme byli schopní určit, zda mluvili s černošským nebo bělošským řidičem.
Problém je, že valnou většinu kamerových záznamů
policejní oddělení nepoužívají,
aby zjistili, co se v ulicích děje,
nebo k tréninku policistů.
A to je velká škoda.
Jak se rutinní kontrola promění ve smrtelné střetnutí?
Jak k tomu došlo v případě George Floyda?
Jak k tomu došlo v ostatních případech?
Když mému nejstaršímu synovi bylo 16, uvědomil si,
že když na něj běloši koukají, mají strach.
Nejhorší je to ve výtahu, řekl mi.
Když se zavřou dveře,
lidé se v tom malém prostoru cítí jako lapeni v pasti, s někým,
s kým se naučili spojovat nebezpečí.
Můj syn cítí jejich rozpaky,
a tak se na ně usměje, aby je uklidnil,
aby zmírnil jejich strach.
Když promluví,
jejich tělo se uvolní.
Lépe se jim dýchá.
Líbí se jim jeho intonace,
jeho dikce a výběr slov.
Mluví jako jeden z nich.
Myslívala jsem si, že můj syn je přírodně extrovertní po otci.
Během této konverzace jsem si ale uvědomila,
že jeho úsměv nebyl znamením,
že se chce přátelit s cizími.
Šlo o talisman, který používal k sebeobraně,
dovednost k přežití, kterou natrénoval během tisíců jízd výtahem.
Naučil se přizpůsobit napětí, které působí jeho barva kůže
a která ohrožuje jeho život.
Jsme si vědomi, že náš mozek je naprogramovaný k předsudkům
a jeden způsob, jak to změnit, je zastavit se
a zamyslet se nad důvody našich domněnek.
Musíme se sami sebe zeptat:
Jaké domněnky si s sebou bereme, když nastupujeme do výtahu?
Nebo do letadla?
Jak si můžeme být vědomi našich vlastních podvědomých předsudků?
Koho tyto předsudky ochraňují?
Koho ohrožují?
Dokud si takové otázky nebudeme pokládat
a nebudeme trvat na tom, aby naše školy naše soudy, naše policejní oddělení
a všechny instituce udělaly to samé,
budeme i nadále dovolovat předsudkům, aby nás zaslepovaly.
A dokud to neuděláme,
nikdo z nás nebude opravdu v bezpečí.
Děkuji.
Vor einigen Jahren
war ich mit meinem damals erst fünfjährigen Sohn an Bord eines Flugzeugs.
Mein Sohn war so aufgeregt, mit Mutti in diesem Flugzeug zu sein.
Er schaut sich um, guckt sich alles an
und beobachtet die Menschen genau.
Dann sieht er diesen Mann und sagt:
"Hey! Der Mann da sieht aus wie Papa!"
Ich schaue den Mann an,
und er sah überhaupt nicht wie mein Mann aus,
nicht einmal annähernd.
Ich beginne, mich im Flugzeug umzusehen,
und stelle fest, dass dieser Mann der einzige Schwarze Mann an Bord ist.
Ich dachte:
"Okay.
Ich muss mit meinem Sohn darüber sprechen,
dass nicht alle Schwarzen Menschen gleich aussehen."
Mein Sohn hebt seinen Kopf und sagt zu mir:
"Ich hoffe, er überfällt das Flugzeug nicht."
Und ich sage: "Wie? Was hast du gesagt?"
Und er sagt:
Naja ich hoffe, dass dieser Mann das Flugzeug nicht überfällt."
Ich sagte: "Warum sagst du so etwas?
Du weißt doch, dass Papa kein Flugzeug überfallen würde."
Er sagt: "Ja, das weiß ich."
Ich sagte: "Und warum sagst du das denn?"
Und er schaut mich mit ganz traurigem Gesicht an
und sagt:
"Ich weiß nicht, warum ich das gesagt habe."
"Ich weiß nicht, warum ich das gedacht habe."
Wir leben in einer so ausgeprägten Rassenhierarchie,
dass sogar ein Fünfjähriger sagen kann, was mutmaßlich als Nächstes passiert,
selbst ohne Übeltäter,
und selbst ohne ausdrücklichen Hass.
Diese Assoziierung zwischen Schwarzsein und Verbrechen
hat es bis in den Kopf meines Fünfjährigen geschafft.
Sie hat es in die Köpfe all unserer Kinder geschafft,
in all unsere Köpfe.
Unser Verstand wird geprägt durch die rassenbezogenen Ungleichheiten,
die wir draußen in der Welt sehen
und durch die Schilderungen, die uns helfen,
den Ungleichheiten, die wir sehen, einen Sinn zu geben:
"Diese Menschen sind kriminell."
"Diese Menschen sind gewalttätig."
"Vor diesen Menschen muss man sich fürchten."
Als mein Forschungsteam Menschen in unser Labor einlud
und ihnen Gesichter zeigte,
fanden wir heraus, dass sie, wenn sie Schwarze Gesichter sahen,
verschwommene Bilder von Waffen klarer und schneller wahrnahmen.
Vorurteile können nicht nur bestimmen, was wir sehen,
sondern auch, wo wir hinschauen.
Wir fanden heraus, dass die Aufforderung, an Gewaltverbrechen zu denken,
dazu führen kann, dass Menschen ihre Augen auf ein Schwarzes Gesicht richten
und weg von einem Weißen Gesicht.
Polizisten aufzufordern, an Gefangennahmen, Schießereien
und Festnahmen zu denken,
führt auch dazu, dass sie ihren Blick auf Schwarze Gesichter richten.
Vorurteile können jeden Bereich unseres Strafrechtssystems befallen.
Ein großer Datensatz von Angeklagten, für die die Todesstrafe infrage kam,
zeigte, dass sich bei dunklerer Hautfarbe, die Chance mehr als verdoppelte,
zur Todesstrafe verurteilt zu werden --
zumindest, wenn ihre Opfer Weiße waren.
Dieser Effekt blieb signifikant,
auch nachdem wir die Schwere des Verbrechens
und die Attraktivität des Angeklagten mit berücksichtigten.
Und ganz gleich, was wir überprüften,
fanden wir heraus, dass Schwarze Menschen bestraft wurden,
im Verhältnis zur Schwärze ihres äußeren Erscheinungsbildes:
je schwärzer, desto eher erhielten sie die Todesstrafe.
Vorurteile können auch bestimmen, wie Lehrende Schulkinder maßregeln.
Meine Kolleg(innen) und ich stellten fest, dass Lehrende den Wunsch verspüren,
ein Schwarzes Schulkind der Mittelschule strenger zu maßregeln
als ein Weißes Schulkind,
für die selben wiederholten Verstöße.
In einer rezenten Studie
fanden wir heraus, dass Lehrende Schwarze Schulkinder als Gruppe,
Weiße Schulkinder jedoch als Individuen behandeln.
Wenn sich zum Beispiel ein Schwarzes Schulkind daneben benimmt
und ein paar Tage später benimmt sich ein anderes Schwarzes Schulkind daneben,
reagiert der Lehrende gegenüber dem zweiten Schwarzen Schulkind,
als hätte es sich zweimal daneben benommen.
So als ob die Sünden eines Kindes
sich bei dem anderen Kind summieren.
Wir erstellen Kategorien, um der Welt einen Sinn zu geben,
und zur Behauptung einer gewissen Kontrolle und Kohärenz
gegenüber den Reizen, die uns ständig bombardieren.
Kategorisierung und die dadurch gesäten Vorurteile
ermöglichen es unseren Gehirnen, schneller und effektiver zu urteilen.
Wir tun das, indem wir uns instinktiv auf die Strukturen verlassen,
die vorhersehbar scheinen.
Doch genau wie die Kategorien, die wir erschaffen, es uns ermöglichen,
schnelle Entscheidungen zu treffen, verstärken sie auch Vorurteile.
Also können genau die Dinge, die uns helfen, die Welt zu sehen
uns ihr gegenüber auch blind machen.
Sie machen Entscheidungen leicht für uns,
reibungslos.
Doch sie fordern einen hohen Preis.
Was können wir also tun?
Wir alle sind anfällig für Vorurteile,
aber wir handeln nicht ständig aus Vorurteilen heraus.
Einige Voraussetzungen können Vorurteile ins Leben rufen
während andere Voraussetzungen sie abschwächen können.
Ich gebe Ihnen ein Beispiel:
Viele Leute kennen das Tech-Unternehmen Nextdoor.
Ihr Sinn und Zweck ist es,
stärkere, gesündere und sicherere Nachbarschaften zu schaffen.
Dafür bieten sie diesen Online-Raum an,
in dem sich Nachbarn einfinden und Informationen teilen können.
Doch Nextdoor stellte bald fest,
dass sie ein Problem mit Racial Profiling haben.
Im typischen Fall schauen die Leute aus dem Fenster
und sehen einen Schwarzen Mann in ihrer ansonsten Weißen Nachbarschaft
und urteilen spontan, dass er nichts Gutes im Schilde führt,
selbst wenn es keine Hinweise auf ein kriminelles Vergehen gab.
In vielfacher Hinsicht reflektiert unser Online-Verhalten
unser Verhalten in der Welt.
Doch was wir nicht tun wollen,
ist ein einfach zu benutzendes System zu schaffen,
das Vorurteile verstärken
und rassenbezogene Ungleichheiten intensivieren kann,
anstatt sie zu entschärfen.
Der Mitbegründer von Nextdoor
setzte sich also mit mir und anderen in Kontakt
um herauszufinden, was man tun konnte.
Sie stellten fest, dass sie zur Eindämmung von Racial Profiling auf der Plattform
Reibung hinzufügen müssen;
das heißt, sie müssen die Leute ausbremsen.
Nextdoor hatte also eine Entscheidung zu treffen,
und entgegen jedem Impuls,
entschieden sie sich, Reibung hinzuzufügen.
Sie taten das, durch die Ergänzung um eine einfache Checkliste.
Sie bestand aus drei Punkten.
Zuerst baten sie die Nutzer innezuhalten und zu überlegen:
"Was hat diese Person getan, das sie verdächtig erschienen ließ?"
Die Kategorie "Schwarze Person" ist kein Anlass für eine Verdächtigung.
Als zweitens baten sie die Nutzer,
die Körpermerkmale der Person zu beschreiben,
nicht bloß ihre ethnische Herkunft und ihr Geschlecht.
Drittens erkannten sie, dass viele Leute
gar nicht zu wissen schienen, was Racial Profiling ist,
oder dass sie es betreiben.
Also lieferte Nextdoor ihnen eine Definition
und teilte Ihnen mit, dass es strengstens verboten ist.
Die meisten von Ihnen kennen diese Schilder in Flughäfen
und in U-Bahn Stationen: "Wenn du etwas siehst, sag etwas."
Nextdoor versuchte dies zu ändern:
"Wenn du etwas Verdächtiges siehst,
sag etwas Konkretes."
Und durch diese Strategie,
bei der die Leute einfach ausgebremst werden,
gelang es Nextdoor, Racial Profiling um 75 % zu senken.
Jetzt sagen die Leute oft zu mir:
"Man kann Reibung nicht in jeder Situation und in jedem Kontext hinzufügen,
vor allem nicht für Leute,
die ständig Entscheidungen in Sekundenbruchteilen treffen müssen."
Aber es stellt sich heraus,
dass wir Reibung in mehr Situationen, als wir denken, hinzufügen können.
In Zusammenarbeit mit der Polizeibehörde von Oakland in Kalifornien
war es mir und einigen meiner Kolleg(innen) möglich,
der Behörde zu helfen, die Anzahl ihrer Stopps zu verringern,
wegen Leuten, die keinerlei Straftaten begingen.
Und wir taten dies, indem wir die Polizisten aufforderten,
sich vor jeder einzelnen Kontrolle eine Frage zu stellen:
"Ist diese Kontrolle informationsgeleitet, ja oder nein?"
Mit anderen Worten:
"Verfüge ich über Vorinformationen, die diese bestimmte Person
mit einer konkreten Straftat in Verbindung bringen?"
Durch Hinzufügen dieser Frage auf dem Formular,
das Polizisten während einer Kontrolle ausfüllen,
werden sie langsamer, halten inne, denken nach:
"Warum erwäge ich, diese Person anzuhalten?"
Im Jahr 2017,
bevor wir das Formular um diese informationsgeleitete Frage ergänzten,
führten Polizisten etwa 32 000 Kontrollen in der ganzen Stadt durch.
Im nächsten Jahr, mit der Ergänzung dieser Frage,
fiel die Zahl auf 19 000 Kontrollen.
Allein die Kontrollen von Afroamerikanern fielen um 43 %.
Die Kontrolle weniger Schwarzer Menschen
machte die Stadt in keinster Weise gefährlicher.
Tatsächlich, fiel die Kriminalität weiter und die Stadt wurde sicherer für jeden.
Eine Lösung kann also darin bestehen,
die Zahl unnötiger Kontrollen zu verringern.
Eine andere kann darin bestehen,
die Qualität der Kontrollen zu verbessern, die die Polizisten durchführen.
Die Technologie kann uns dabei helfen.
Wir alle wissen über George Floyds Tod Bescheid,
weil die, die versuchten ihm zu helfen, ihre Handy-Kameras benutzten,
um diese schreckliche, tödliche Begegnung mit der Polizei aufzunehmen.
Doch wir verfügen über alle Arten von Technologie,
die wir nicht sinnvoll einsetzen.
In Polizeibehörden im gesamten Land
wird nun ein Tragen von Körperkameras verlangt,
sodass wir nicht nur Aufnahmen von den extremsten und schrecklichsten Begegnungen
sondern von alltäglichen Interaktionen haben.
Mit einem interdisziplinären Team aus Stanford
haben wir begonnen, maschinelle Lernverfahren zu nutzen,
um große Zahlen an Begegnungen zu untersuchen.
Es geht darum, besser zu verstehen,
was bei routinemäßigen Verkehrskontrollen passiert.
Was wir herausfanden ist, dass,
selbst wenn sich Polizisten professionell verhalten,
sie Schwarze Fahrer weniger respektvoll ansprechen als Weiße Fahrer.
Tatsächlich konnten wir, allein aufgrund der Wörter,
die Polizisten benutzten, vorhersagen,
ob sie zu einem Schwarzen oder Weißen Fahrer sprachen.
Das Problem ist, dass der Großteil der Aufnahmen dieser Kameras
nicht von Polizeibehörden benutzt wird,
um zu verstehen, was auf den Straßen vor sich geht,
oder um Polizisten fortzubilden.
Und das ist eine Schande.
Wie kann sich eine Routinekontrolle in eine tödliche Begegnung verwandeln?
Wie konnte das in George Floyds Fall passieren?
Wie konnte das in anderen Fällen passieren?
Als mein ältester Sohn 16 Jahre alt war,
fand er heraus, dass Weiße Leute,
wenn sie ihn ansehen, Angst verspüren.
Aufzüge seien am schlimmsten, sagte er.
Wenn diese Türen sich schließen,
sind die Leute auf kleinstem Raum gefangen
mit jemandem, für den ihnen beigebracht wurde,
ihn mit Gefahr zu verbinden.
Mein Sohn fühlt ihr Unbehagen,
und er lächelt, um sie zu beruhigen,
um ihre Ängste zu lindern.
Wenn er spricht, entspannt sich ihr Körper.
Sie atmen ruhiger.
Sie mögen seinen Tonfall,
seinen Ausdruck und seine Wortwahl.
Er klingt wie einer von ihnen.
Ich dachte immer,
dass mein Sohn wie sein Vater natürlicherweise extrovertiert sei.
Doch in diesem Moment, bei diesem Gespräch stellte ich fest,
dass sein Lächeln kein Zeichen dafür war,
dass er sich mit Fremden verbinden wollte.
Es war ein Talisman, den er zu seinem eigenen Schutz nutzte.
Eine Überlebensstrategie,
die er während tausenden von Fahrten mit dem Aufzug perfektioniert hatte.
Er lernte, der Anspannung entgegenzukommen,
die seine Hautfarbe verursache,
und die sein eigenes Leben in Gefahr brachte.
Wir wissen, dass unser Gehirn auf Vorurteile programmiert ist.
Und eine Möglichkeit, diese Vorurteile zu unterbrechen,
ist innezuhalten und über die Beweise für unsere Annahmen nachzudenken.
Wir müssen uns also fragen:
Welche Annahmen bringen wir mit, wenn wir in einen Aufzug steigen?
Oder ein Flugzeug?
Wie werden wir uns unserer eigenen unbewussten Vorurteile bewusst?
Wen schützen diese Annahmen?
Wen setzen sie einer Gefahr aus?
Nicht bevor wir diese Fragen stellen und darauf bestehen,
dass unsere Schulen, unsere Gerichte und unsere Polizeibehörden
und alle Institutionen dasselbe tun,
werden wir weiterhin zulassen, dass Vorurteile uns blind machen.
Und wenn wir das tun,
ist niemand von uns wirklich sicher.
Danke.
Hace algunos años,
estaba en un avión con mi hijo, que tenía cinco años en aquel momento.
Se encontraba tan contento de estar en un avión con su mamá.
Miraba aquí y allá, fijándose en las cosas
y en las personas.
Entonces ve a un hombre y dice:
"¡Mira, ese señor se parece a papá!".
Y yo miro al hombre,
y no se parecía ni por asomo a mi marido,
nada que ver.
Y entonces empiezo a mirar aquí y allá
y me doy cuenta de que ese hombre es el único pasajero negro.
Y pensé,
"De acuerdo".
"Llegó el momento de contarle a mi hijo
que no todos los negros son iguales".
Mi hijo, levanta los ojos y me dice:
"Espero que no asalte el avión".
Y le pregunto, "¿Cómo? ¿Qué has dicho?"
Y responde, "que espero que ese hombre no asalte el avión".
Y le pregunto: "¿A qué viene eso?
Sabes que papá nunca asaltaría un avión".
Y mi hijo dice: "Sí, sí, lo que tú digas".
Y de nuevo le digo: "¿A qué viene eso?".
Entonces me mira con un gesto apagado
y dice:
"No sé por qué lo he dicho.
No sé por qué me ha venido eso a la cabeza".
Vivimos en medio de una estratificación racial tan severa
que incluso un niño de cinco años se atreve a predecir lo que va a pasar,
incluso en ausencia de un malhechor
o de odio explícito.
Esta asociación entre la raza negra y el crimen
se introdujo en la mente de mi hijo de cinco años.
Se abre paso hasta alcanzar a todos nuestros hijos,
y a todos nosotros.
Nuestra mente se moldea con las disparidades raciales
que vemos en el mundo
y con los relatos que nos ayudan a justificar dichas disparidades:
"Esos tipos son criminales".
"Son violentos".
"Hay que tenerles miedo".
Cuando mi equipo de investigación trajo voluntarios al laboratorio
y los expuso frente a determinados rostros,
descubrimos que las caras negras estimulaban imágenes borrosas de armas
con mayor claridad y rapidez.
Los prejuicios no solo controlan lo que vemos
sino hacia dónde miramos.
Vimos que incitar a la gente a pensar en crímenes violentos
puede hacerles dirigir su mirada hacia un rostro negro
en vez de hacia uno blanco.
Si incitamos a unos policías a pensar en persecuciones, disparos o arrestos,
ocurre también que su mirada se detiene en los rostros negros.
Los prejuicios pueden infectar cada poro de nuestro sistema judicial penal.
Tomando un amplio número de candidatos a pena de muerte,
vimos que mirar a más gente negra duplicaba las posibilidades
de que fueran sentenciados a la pena capital,
al menos cuando las víctimas eran blancas.
Ese efecto era significativo,
y eso que filtrábamos según la gravedad del crimen
o el buen porte de los acusados.
Pero nuestro filtro no cambiaba nada
porque vimos que el castigo dado a la gente negra
iba en proporción a su tono de piel.
Cuanto más oscuro, más merecían morir.
Los prejuicios pueden influir además
la forma en que los profesores imponen disciplina.
Mis colegas y yo hemos descubierto que los profesores son más propensos
a disciplinar más duramente a un estudiante de secundaria negro
que a uno blanco
aunque las infracciones sean las mismas.
Un estudio reciente
nos muestra que los profesores tratan a los alumnos negros como grupo
pero a los blancos de forma individual.
Por ejemplo,
si un alumno negro se porta mal
y pocos días después otro alumno negro se porta mal,
el profesor reacciona hacia el segundo estudiante
como si este se hubiera portado doblemente mal.
Es como si los pecados de un chico
se apilaran en el otro.
Creamos categorías para dar sentido al mundo,
para reivindicar algún tipo de control y coherencia
sobre los estímulos que nos bombardean continuamente.
La categorización y el sesgo que se genera
permite a nuestro cerebro elaborar juicios de forma más rápida y eficaz,
y lo hacemos de forma instintiva apoyándonos en patrones
que parecen predecibles.
Estas categorías que creamos nos permiten tomar decisiones rápidas,
pero a la vez refuerzan los prejuicios.
De modo que aquello que nos ayuda a ver el mundo
también nos ciega ante él.
Convierte nuestras opciones en algo sin esfuerzo
y libre de incomodidades,
pero exige un alto precio.
¿Qué podemos hacer?
Todos somos vulnerables a los prejuicios,
pero no siempre nos dejamos arrastrar por ellos.
Hay condiciones que los activan
y otras que los silencian.
Les voy a dar un ejemplo.
Muchos conocen la compañía tecnológica Nextdoor.
Se dedica a crear vecindarios más fuertes, sanos y seguros,
y para ello ofrece un espacio en línea
donde los vecinos se reúnen y comparten información.
Nexdoor se dio cuenta de que existía un problema
con el perfil racial.
Un ejemplo típico
es el de alguien que mira por la ventana
y ve a un hombre negro en su vecindario de blancos
y juzga de inmediato que no lleva buenas intenciones,
incluso cuando no hay indicios de comportamiento delictivo.
En general, la forma de comportarnos en las redes
es un reflejo de cómo nos comportamos en el mundo.
Y lo que no queremos hacer es crear un sistema de uso fácil
que lleve a intensificar los prejuicios y aumentar las desigualdades raciales,
en vez de eliminarlas.
De modo que el cofundador de Nextdoor contactó con otros y conmigo
para buscar una solución.
Y vieron que para acabar con el perfil racial en la plataforma,
tendrían que crear un elemento de frenado,
es decir, algo para lograr que la gente frenase sus impulsos.
Nextdoor debía tomar una decisión,
y optaron por arriesgarse
y crear un elemento de frenado.
Lo hicieron añadiendo un simple cuestionario
que constaba de tres apartados.
Primero pedían a los usuarios que se parasen a pensar:
"¿Qué estaba haciendo esa persona para parecer sospechosa?".
La categoría "hombre negro" no es motivo de sospecha.
Segundo, les pedían que describieran los rasgos físicos de la persona
y no solamente su raza y género.
Tercero, se dieron cuenta de que muchos
no parecían saber lo que era el perfil racial
o detectar que ellos mismos lo estaban manifestando.
De modo que Nextdoor les enseñó una definición
y les hizo saber que estaba totalmente prohibida.
Muchos de Uds. habrán visto carteles en aeropuertos y estaciones de metro
con frases como "Si ve algo, diga algo".
Nextdoor sacó su propia versión:
"Si ve algo sospechoso, diga algo específico".
Y gracias a esa estrategia de frenar los impulsos de la gente,
Nextdoor consiguió disminuir el perfil racial en un 75 %.
Ahora bien, me suelen decir,
"No en todas las situaciones o contextos se puede crear un elemento de frenado,
y menos aún con la gente que suele tomar decisiones en una décima de segundo".
Pero sí es posible añadir este elemento
en más situaciones de las que creemos.
Cuando colaboraba con la policía de Oakland,
en California,
unos colegas míos y yo logramos ayudar a su departamento
a reducir el número de personas a las que paraban
sin haber cometido ningún delito grave.
Y lo hicimos obligando a los oficiales
a preguntarse lo siguiente antes de hacer cada parada:
"¿Los servicios de inteligencia dan motivos para realizar esta parada?
¿Sí o no?".
Es decir,
¿tengo información previa que relaciona a esa persona en particular
con un delito específico?
Simplemente añadiendo esa pregunta
al formulario que los oficiales rellenan al parar a alguien,
se consigue que frenen el paso, hagan una pausa y piensen
"¿Por qué quiero parar a esa persona?".
En 2017, sin esa pregunta basada en los servicios de inteligencia,
los oficiales pararon a unas 32.000 personas en toda la ciudad.
Al año siguiente, ya con la pregunta,
el número se redujo a 19.000.
Simplemente los afroamericanos disminuyeron un 43 %.
Y parar a menos gente negra no hizo la ciudad más peligrosa.
De hecho, la tasa de delincuencia continuó descendiendo
y la ciudad se hizo más segura para todos.
Así que una solución puede ser reducir el número de paradas innecesarias.
Otra puede ser mejorar la calidad de las paradas policiales.
Y para eso la tecnología puede ser útil.
Todos conocemos la muerte de George Floyd
porque todos los que acudieron en su ayuda tenían móviles con cámara
y grabaron ese horrible y mortal encuentro con la policía.
Pero tenemos todo tipo de tecnología que no estamos usando bien.
Hoy en día los policías de todo el país
deben llevar cámaras corporales,
de modo que tenemos grabaciones no solo de los encuentros más radicales
sino también de las acciones rutinarias.
Junto a un equipo interdisciplinar de Stanford,
hemos empezado a usar técnicas de aprendizaje automático
para analizar numerosos encuentros.
Así podemos entender mejor qué ocurre en un control rutinario de tráfico.
Y lo que hemos visto es que
incluso cuando los policías se comportan de modo profesional,
se dirigen a los conductores negros con menos respeto que a los blancos.
De hecho, simplemente por las palabras que usan,
podemos saber si hablan con un conductor negro o con uno blanco.
El problema es que la mayor parte de esas grabaciones
no se usa en los departamentos policiales
para entender lo que ocurre en las calles
o para formar a los oficiales.
Y eso es una vergüenza.
¿Cómo es que una parada rutinaria se transforma en un encuentro mortal?
¿Cómo pudo terminar así el caso de George Floyd?
Y, ¿cómo ocurrió en otros casos?
Cuando mi hijo mayor tenía 16 años,
se dio cuenta de que cuando los blancos le miraban, sentían miedo.
Los ascensores son el peor sitio, decía.
Cuando las puertas se cierran,
la gente queda atrapada en ese espacio minúsculo
con alguien que han aprendido a asociar con el peligro.
Mi hijo siente el desasosiego de la gente
y les sonríe para aliviarles,
para calmar sus miedos.
Al hablarles,
se relajan.
Respiran con más calma.
Les complace su cadencia,
su dicción y su elección de vocabulario.
Suena como uno de ellos.
Yo solía pensar que mi hijo era extrovertido por naturaleza,
igual que su padre.
Pero vi en ese momento y en esa conversación
que su sonrisa no indicaba que él quisiera conectar
con gente supuestamente extraña.
Era un talismán que usaba para protegerse,
un arma de supervivencia que había afinado a lo largo de miles de viajes en ascensor.
Iba aprendiendo a adaptarse a la tensión que su color de piel generaba
y que ponía su propia vida en peligro.
Sabemos que el cerebro tiene predisposición a los prejuicios,
y una forma de interrumpir los prejuicios es pararse a reflexionar
en qué se basan nuestras suposiciones.
Así que necesitamos preguntarnos:
¿Cuáles son nuestras suposiciones cuando entramos en un ascensor?
¿O cuando subimos a un avión?
¿Cómo podemos darnos cuenta de nuestros prejuicios inconscientes?
¿A quién protegen esas suposiciones?
¿A quién ponen en peligro?
Hasta que nos hagamos estas preguntas
e insistamos para que colegios, juzgados, departamentos policiales
y todas las instituciones también se las hagan,
seguiremos permitiendo que los prejuicios nos cieguen.
Y de esta manera,
ninguno de nosotros está realmente a salvo.
Gracias.
چند سال قبل
با پسرم، که آن موقع فقط پنج سالش بود، سوار هواپیما بودم.
پسرم خیلی هیجان داشت که با مامانی سوار هواپیما شده.
مدام به اینسو و آنسو نگاه می‌کرد و همه چیز را برانداز می‌کرد
و آدم‌ها را هم یکی‌یکی وارسی می‌کرد.
بعد مردی را دید و گفت:
«مامان، این آقا شبیه باباست».
وقتی به آن مرد نگاه کردم،
دیدم حتی یک ذره هم شبیه شوهرم نیست.
اصلاً و ابداً!
بعد که خوب داخل هواپیما را برانداز کردم،
دیدم آن آقا تنها مسافر سیاه‌پوست است.
بعد با خودم گفتم:
«که این طور!
باید به پسرم گوشزد کنم که
سیاه‌پوست‌ بودن دلیل هم‌شکل بودن نیست»
بعد، پسرم سرش را بالا آورد و به من گفت:
«خدا کنه هواپیما رو ندزده!»
من گفتم: «چی؟ چی فرمودی؟»
گفت: «گفتم خدا کنه اون آقا هواپیما رو ندزده».
ازش پرسیدم: «برای چی این حرف رو می‌زنی؟
اگر بابا بود که این کار رو نمی‌کرد».
گفت: «آره، آره، خودمم می‌دونم».
بعد من گفتم: «پس چرا گفتی؟»
با چشم‌هایی واقعاً غمگین به من نگاه کرد و
گفت:
«خودمم نمی‌دونم چرا این حرف رو زدم.
نمی‌دونم چرا این فکر رو کردم».
ما در دنیایی زندگی می‌کنیم که چنین لایه‌های عمیقی از نژادپرستی دارد.
که حتی بچه‌ای پنج ساله هم گمان می‌کند می‌داند قرار است چه اتفاقی بیفتد.
یک بچه معصوم،
که پر از صفاست.
این تلاقی میان سیاه بودن و مجرم بودن
در ذهن پسر پنج‌ساله‌ی من هم رسوخ کرده.
در ذهن همه‌ی بچه‌های ما رسوخ می‌کند.
در ذهن همه‌ی ما.
ذهن همه‌ی ما با تبعیض‌های نژادی که
در اطرافمان می‌بینیم خو می‌گیرد
و داستان‌سرایی‌ها موجب می‌شود که به این تبعیض‌ها منطق هم بدهیم:
«این آدم‌ها مجرمند»،
«این آدم‌ها خشن‌اند»،
«این آدم‌ها ترسناکند».
وقتی گروه تحقیقاتی ما افرادی را به آزمایشگاهمان آوردند
و به آنها تصاویر صورت‌هایی را نشان دادند،
متوجه شدیم که مواجهه با صورت سیاه‌پوستان، باعث می‌شود تصاویر محو اسلحه را
با دقت و سرعت بیشتری ببینند.
تعصب افزون بر اینکه تعیین می‌کند «چه چیزی بینیم»،
در «به کجا نگاه کنیم» هم دخیل است.
پی بردیم که وقتی از آنها می‌خواهیم به جرایم خشن فکر کنند
ممکن است باعث شود نگاهشان به سمت صورت سیاه‌پوستی برده شود
و از صورت سفید دور بشود.
وقتی از افسران پلیس خواسته شد به دستگیری و شلیک و
بازداشت فکر کنند
نگاه آنها هم روی صورت‌ سیاهان می‌نشیند.
تعصب می‌تواند به تمام جنبه‌های نظام قضایی ما هم سرایت کند.
در میان انبوه پرونده‌های دادرسی، با امکان صدور حکم اعدام،
پی بردیم هرچه پوست تیره‌تری داشته باشی، احتمال محکومیتت به
اعدام از دوبرابر هم بیشتر می‌شود؛
دست کم وقتی قربانی سفیدپوست باشد.
حتی وقتی عامل شدت جرم و
جذابیت متهم را بازتنظیم می‌کردیم باز هم چنین رابطه‌ای
برقرار بود.
هر عاملی را هم که بازتنظیم کردیم،
باز هم سیاه‌پوستان
به نسبت تیرگی رنگ پوستشان بیشتر مجازات شده بودند:
هرچه تیره‌تر باشی،
بیشتر مستحق مرگی.
افزون بر اینها، تعصب می‌تواند روی معلمان در نحوه‌ی اداره‌ی کلاس هم اثر بگذارد.
من و همکارانم به این نتیجه رسیدیم که معلمان برای تأدیب دانش‌آموز متوسطه‌ای
که سیاه‌پوست است خیلی خشن‌تر برخورد می‌کنند
تا دانش‌آموز سفیدی
که مرتکب همان خطا شده است.
در پژوهش جدیدی
کم‌وبیش پی برده‌ایم که معلمان دانش‌آموزان سیاه‌پوست را دسته‌جمعی می‌بینند
ولی سفیدپوستان را تک‌به‌تک.
یعنی اگر یک دانش‌آموز سیاه‌پوست مرتکب خطایی شود،
و دانش‌آموز سیاه‌پوست دیگری چند روز بعد کار اشتباهی بکند
معلم، دانش‌آموز دوم را طوری تنبیه می‌کند
که انگار دو بار کار اشتباهی انجام داده.
انگار گناهان یک کودک را دیگری باید
بر دوش بکشد.
ما برای درک بهتر جهان طبقه‌بندی‌هایی ایجاد می‌کنیم
تا پدید‌هایی را که شبانه‌روز با آنها مواجه می‌شویم
به هم ربط دهیم و محدودشان کنیم.
طبقه‌بندی کردن و تعصبی که حاصل آن است،
موجب می‌شوند مغز ما سریع‌تر و راحت‌تر قضاوت کند.
ما این کار را ناخودآگاه و بر پایه‌ی الگوهایی انجام می‌دهیم
که ظاهراً قابلیت پیش‌بینی دارند.
هنوز، به همان اندازه که این طبقه‌بندی کردن به ما امکان تصمیم‌گیری آنی می‌دهد،
زمینه‌‌ساز تعصب هم می‌شوند.
یعنی درست همان چیزهایی که به ما کمک می‌کند این جهان را ببینیم،
ممکن است چشم ما را به روی آن ببندند.
خیلی راحت انتخاب‌های ما را جهت‌دهی می‌کند،
بدون هیچ دردسری.
البته هزینه‌های آن بسیار سنگین است.
حال چه کار می‌توانیم کنیم؟
همه‌ی ما در معرض خطر تعصب هستیم،
ولی این طور نیست که همیشه متعصبانه عمل کرده باشیم.
شرایط خاصی هست که ممکن است تعصب را بیدار کند
و شرایط دیگری که می‌تواند آن‌ را خاموش کند.
اجازه بدهید برایتان مثالی بزنم.
خیلی‌ها شرکت فناوری نِکست‌دُر را می‌شناسند.
همه هدفشان ایجاد محله‌هایی بادوام‌تر و سالم‌تر و امن‌تر است.
برای همین فضای آنلاینی را ایجاد کرده‌اند
که در آن همسایه‌ها دور هم جمع می‌شوند و اطلاعات رد و بدل می کنند.
ولی نِکست‌دُر خیلی زود پی برد که به معضل صفحات
نژادپرستانه دچار شده‌اند.
معمولاً،
وقتی آدم‌ها از پنجره بیرون را تماشا می‌کنند
و مرد سیاه‌پوستی را می‌بینند که در برابر همسایه سیفیدپوستشان ایستاده،
سریع پیش‌داوری می‌کنند که آن مرد خیالاتی در سر دارد،
حتی وقتی که هیچ سند و مدرکی بر انجام کاری مجرمانه وجود ندارد.
از جهات زیادی، رفتار ما در اینترنت
بازتابی از رفتار ما در جهان واقعی است.
ولی کاری که نباید انجام دهیم ایجاد سامانه‌ای است که در دسترس همگان باشد
و به تعصبات دامن بزند و نابرابری نژادی را گسترده‌تر کند،
به جای اینکه آن را فرو بکاهد.
برای همین یکی از بنیان‌گذاران نِکست‌دُر سراغ چند نفر رفت، از جمله من،
تا برای این مسأله راه حلی پیدا کند.
آنها پی بردند که برای محدود کردن صفحات با محتوای نژادگرایانه،
باید دست‌اندازهایی ایجاد کنند؛
یعنی باید روند کارشان را کند کرد.
حالا نِکست‌دُر راه‌حلی پیش پایش داشت.
آنها تصمیم گرفتند در برابر هر نشانه‌ای
مانعی ایجاد کنند.
این کار را هم تنها با اضافه کردن یک چک‌لیست ساده انجام دادند.
سه مورد وجود داشت:
یک؛ از کاربران می‌خواستند کمی مکث کند
و فکر کند که «این شخص دارد چه کار می‌کند که باعث می‌شود به او بدگمان شوند؟»
«سیاه‌پوست بودن» هم جزء گزینه‌ها نیست.
دوم؛ از کاربران می‌خواستند ویژگی‌های ظاهری شخص را توصیف کنند،
سوای از نژاد و جنسیت.
سوم؛ فهمیدند که بسیاری از مردم
ظاهراً نه می‌دانند صفحه‌ی نژادپرستانه چه محتوایی دارد، و نه
می‌دانند در ترویج این محتوا دست دارند.
این شد که نکست‌دُر برای آنان توضیحی ارائه کرد
و به انها گفت که چنین کاری اکیداً ممنوع است.
بیشتر شما این تابلوها را در فرودگاه‌ها و
ایستگاه‌های مترو دیده‌اید: «فقط آنچه را دیده‌اید، به زبان بیاورید».
نِکست‌دُر کمی آن را تغییر داد:
«اگر چیز شک‌برانگیزی دیدید،
سراغ حواشی نروید».
و با همین راهبرد ِ کند کردن حرکت افراد،
نِکست‌دُر توانست تا ۷۵ درصد صفحات با محتوای نژادپرستانه را محدود کند.
شاید خیلی‌ها به من بگویند:
«تو که نمی‌توانی هر جایی و با هر محتوایی دست‌انداز ایجاد کنی،
مخصوصاً دربرابر کسانی که همیشه لحظه‌ای تصمیم می‌گیرند».
ولی معلوم شده خیلی بیشتر از آنچه گمان می‌کنیم
می‌توانیم مانع ایجاد کنیم.
در نتیجه‌ی کار با پلیس اوکلند
در کالیفرنیا،
من و تعدادی از همکارانم توانستیم به آنها کمک کنیم
تا تعداد دفعات توقفی را کاهش بدهند
که در آن افراد مرتکب خلاف چندان مهمی نشده بودند.
برای این کار افسران را وادار کردیم
هر باری که می‌خواهند توقف کنند، از خود بپرسند:
«آیا دستور من پلیسی-عقلانی است؛
بله یا نه؟»
به بیان دیگر،
آیا دلیل موجهی برای ربط دادن این شخص خاص به فلان جرم دارم؟
با افزودن این سؤال
به فرمی که افسران
هنگام متوقف کردن دیگران پر می‌کنند،
شتابشان گرفته شد؛ مکث می‌کردند،
با خود فکر می‌کردند «الان برای چی این آدم را متوقف کنم؟»
سال ۲۰۱۷، پیش از آنکه این پرسش را به فرم اضافه کنیم،
افسران پلیس در سطح شهر تقریباً ۳۲ هزار دستور توقف می‌دادند.
سال بعدش، پس از اضافه شدن این پرسش،
رسید به ۱۹ هزار بار.
توقف آفریقایی‌آمریکایی‌ها خودش به تنهایی ۴۳ درصد کاسته شد.
و کمتر دستور ایست دادن به سیاه‌پوستان شهر را هیچ خطرناک‌تر نکرد.
راستش میزان جرم‌وجنایت هم کاسته شد،
و شهر برای همگان امن‌تر شد.
پس یک راه‌حل می‌شود کاهش تعداد دستورات بی‌دلیل توقف.
یکی دیگر ممکن است بهبود شیوه‌ی برخوردشان
با افراد باشد.
و فناوری می‌تواند به کمک ما بیاید.
همه ما ماجرای مرگ جرج فلوید را می‌دانیم،
چون آنهایی که سعی داشتند به کمکش بیایند دوربین موبایل‌هایشان را روشن کردند
تا این صحنه‌ی دهشتناک و مرگ‌آور ِ مواجهه‌ی با پلیس را ضبط کنند.
ولی ابزارهای زیادی داریم که از آنها به درستی استفاده نمی‌کنیم.
امروزه واحدهای پلیس سرتاسر کشور
باید روی لباس افسران دوریبن نصب کنند
تا افزون بر ویدیوی شدیدترین و هولناک‌ترین درگیری‌ها،
برخوردهای هرروزه‌شان نیز ضبط شود.
به همراه گروهی چندوجهی در استنفورد،
و با استفاده از روش‌های داده‌کاوی
شروع کردیم به تحلیل انبوهی از برخوردها.
می‌خواستیم بدانیم در جریان یک دستور ایست معمولی به یک خودرو چه می‌گذرد.
به این ترتیب پی بردیم
حتی وقتی افسران پلیس اصولی رفتار می‌کنند،
با رانندگان سفیدپوست، محترمانه‌تر از رانندگان سیاه‌پوست صحبت می‌کنند.
راستش فقط از روی کلماتی که به کار می‌بردند،
می‌توانستیم حدس بزنیم آیا دارد با یک سیاه‌پوست حرف می‌زند یا یک سفیدپوست.
مشکل این است که واحدهای پلیس از اکثر قریب به اتفاق این فیلم‌ها
هیچ بهره‌ای نمی‌برند
تا بفهمند کف خیابان چه خبر است
یا اینکه به افسران آموزش بدهند.
و این مایه شرمساری است.
چطور یک بازرسی ساده‌ی پلیس به مواجهه‌ای مرگبار ختم می‌شود؟
چطور این بلا بر سر جرج فلوید آمد؟
بر سر بقیه چطور آمده بود؟
زمانی که پسر بزرگم شانزده ساله بود،
فهمید وقتی سفیدپوستان نگاهش می‌کنند
حس ترس دارند.
به قول خودش درون آسانسور از همه جا بدتر است.
وقتی درهایش بسته می‌شوند،
آدم‌ها در این فضای محدود به همراه کسی گرفتار می‌شوند،
که بهشان یاد داده‌اند، این شخص آمیخته‌ با خطر است.
پسرم بی‌قراری‌شان را حس می‌کند،
و برای اینکه خیالشان راحت شود به رویشان لبخند می‌زند،
که ترسشان بریزد.
وقتی شروع به صحبت می‌کند
آن وقت آرام می‌شوند.
آرام‌تر نفس می‌کشند.
از شیوه‌ی برخورد او، رفتارش، بیانش
احساس آرامش می‌کنند.
شبیه یکی از خودشان می‌شود.
همیشه گمان می‌کردم که پسرم، مثل پدرش، ذاتاً برون‌گراست.
ولی بعد از این ماجرا، و بعد از حرف‌هایی که زدیم فهمیدم
که لبخندش نشانی از تمایل به ارتباط
با غریبه‌ها نیست.
شگردی بود برای محافظت از خودش؛
مهارتی نجات‌بخش که پس از هزاران بار سوار شدن بر آسانسور، آموخته بود.
رفته‌رفته یاد گرفته بود که چطور تنش ناشی از رنگ پوستش را برطرف کند،
تنشی که زندگی‌اش را به خطر می‌انداخت.
همه می‌دانیم که تعصب در مغز ریشه می‌دواند،
و یک راه برای برهم زدنش این است که درنگ کنیم
و به مبانی پیش‌فرض‌هایمان درست بنگریم.
یعنی باید از خودمان بپرسیم:
وقتی پا در آسانسور می‌گذارم، چه پیش‌فرض‌هایی در ذهنم دارم؟
یا در هواپیما؟
چطور خودمان را نسبت به تعصبات ناخودآگاهمان هشیار می‌کنیم؟
آیا این پیش‌فرض‌ها از جان کسی محافظت کرده؟
آیا جان کسی را به خطر انداخته؟
تا وقتی که چنین سؤال‌هایی از خود نپرسیم
و پافشارانه در مدارس و دادگاه‌ها و ادارات پلیس
و دیگر نهادها هم همین کار نشود،
یعنی قبول کرده‌ایم که تعصب چشمان ما را
کور کند.
ولی اگر چنین نکنیم،
هیج کداممان آسایش نخواهیم داشت.
سپاسگزارم.
Il y a quelques années,
j'étais dans un avion avec mon fils qui n'avait que cinq ans à l'époque.
Il était tellement excité d'être dans cet avion avec moi.
Il regardait tout autour de lui et il observait tout,
il observait les gens.
Voyant un homme, il dit :
« Hé ! Ce type ressemble à Papa ! »
Je regarde l'homme,
et il ne ressemble en rien à mon mari.
Mais alors pas du tout !
Alors je commence à regarder autour de moi,
et je remarque que cet homme était le seul noir dans l'avion.
Et je me dis :
« Ok.
Il va falloir que j'aie une conversation avec mon fils
pour lui expliquer que tous les noirs ne se ressemblent pas. »
Mon fils lève la tête et me dit :
« J'espère qu'il ne va pas voler l'avion.
- Quoi ? Qu'est-ce que tu as dit ?
- Eh bien, j'espère que cet homme ne va pas voler l'avion.
- Et pourquoi tu dis ça ?
Tu sais que papa ne volerait pas un avion.
- Ouais, ouais, ouais, je sais.
- Alors pourquoi tu dis ça ? »
Et il m'a regardée avec un visage vraiment triste
et a dit :
« Je ne sais pas pourquoi j'ai dit ça.
Je ne sais pas pourquoi je pensais ça. »
Nous vivons avec une stratification raciale si stricte
que même un enfant de cinq ans peut nous dire ce qui est censé arriver,
même sans malfaiteur,
même sans haine explicite.
Cette association entre noir et criminel
a fait son chemin dans l'esprit de mon enfant de cinq ans.
Elle se retrouve dans tous nos enfants,
dans chacun d'entre nous.
Nos esprits sont façonnés par les disparités raciales
que nous voyons dans notre quotidien
et les récits qui nous aident à donner un sens aux disparités que nous voyons :
« Ces gens sont des criminels »,
« Ces gens sont violents »,
« Ces gens sont à craindre. »
Dans notre laboratoire, mon équipe de recherche a montré des visages à des gens.
Et nous avons découvert
que des visages noirs les amenaient à voir des images floues d'armes à feu
avec plus de clarté et de rapidité.
Les préjugés ne contrôlent pas seulement ce que nous voyons,
mais aussi où nous regardons.
Nous avons découvert qu'inciter les gens à penser à des crimes violents
peut les amener à diriger le regard sur un visage noir
et à le détourner d'un visage blanc.
En incitant les policiers à penser à capturer, à tirer et à arrêter,
on amène leur regard à eux aussi à se fixer sur des visages noirs.
Les préjugés peuvent infecter tous les aspects de notre système judiciaire.
Des données sur des accusés pouvant être condamnés à mort
nous ont montré qu'avoir l'air plus noir faisait plus que doubler leurs chances
de recevoir une condamnation à mort -
du moins lorsque les victimes étaient blanches.
Cet effet est significatif,
même si nous avons contrôlé la gravité du crime
et l'attractivité de l'accusé.
Peu importe ce que nous avons contrôlé,
nous avons constaté que les noirs étaient punis
proportionnellement à la noirceur de leurs traits physiques :
plus ils sont noirs,
plus ils méritent la mort.
Les préjugés peuvent aussi influencer
la façon dont les enseignants punissent les élèves.
Mes collègues et moi-même avons constaté que les enseignants expriment le désir
de punir plus durement un collégien noir
qu'un élève blanc
pour un même comportement.
Dans une étude récente,
nous constatons que les enseignants traitent les élèves noirs comme un groupe
mais les élèves blancs comme des individus.
Si, par exemple, un élève noir se comporte mal
et qu'un autre élève noir se comporte mal quelques jours plus tard,
le professeur punit ce deuxième élève noir
comme s'il s'était mal comporté deux fois.
C'est comme si les péchés d'un enfant
s'ajoutaient à ceux de l'autre.
Nous créons des catégories pour donner un sens au monde,
pour affirmer un certain contrôle et une certaine cohérence
aux stimuli dont nous sommes constamment bombardés.
La catégorisation et les préjugés qu'elle engendre permettent à notre cerveau
de porter des jugements plus rapidement et plus efficacement,
et nous le faisons en nous appuyant instinctivement sur des modèles
qui semblent prévisibles.
Pourtant, tout comme les catégories que nous créons
nous permettent de prendre des décisions rapides,
elles renforcent également les préjugés.
Ainsi, les mêmes choses qui nous aident à voir le monde
peuvent aussi nous aveugler.
Elles rendent nos choix sans effort,
sans friction.
Pourtant, elles font payer un lourd tribut.
Que pouvons-nous donc faire ?
Nous sommes tous vulnérables aux préjugés,
mais nous n'agissons pas tout le temps selon eux.
Il existe certaines conditions qui peuvent leur donner vie
et d'autres qui peuvent les étouffer.
Laissez-moi vous donner un exemple.
Beaucoup de gens connaissent l'entreprise technologique Nextdoor.
Leur objectif est de créer
des quartiers plus forts, plus sains et plus sûrs.
C'est pourquoi elle propose cet espace en ligne
où les voisins peuvent se réunir et partager des informations.
Pourtant, Nextdoor s'est vite rendu compte qu'elle avait un problème
avec le profilage racial.
Le cas typique était que
les gens regardaient par la fenêtre,
voyaient un homme noir dans leur quartier, d'ordinaire blanc,
et jugeaient rapidement qu'il posait problème,
même s'il n'y avait aucune preuve d'acte délictueux.
À bien des égards, notre comportement en ligne
est le reflet de notre comportement dans la vraie vie.
Mais ce que nous ne voulons pas, c'est créer un système facile à utiliser
qui puisse amplifier les préjugés et approfondir les disparités raciales,
plutôt que de les détruire.
C'est pourquoi le cofondateur de Nextdoor m'a contactée, parmi d'autres,
pour essayer de trouver une solution.
Et ils ont réalisé que pour freiner le profilage racial sur la plateforme,
ils devaient ajouter de la friction,
c'est-à-dire qu'ils allaient devoir ralentir les gens.
Nextdoor avait donc un choix à faire,
et contre toute logique,
ils ont décidé d'ajouter de la friction.
Et ils l'ont fait en ajoutant une simple liste.
Elle comportait trois points.
D'abord, ils demandaient aux utilisateurs de faire une pause
pour se demander « Que faisait cette personne qui la rendait suspecte ? »
La catégorie « homme noir » n'est pas un motif de suspicion.
2° ils ont demandé aux utilisateurs
de décrire les caractéristiques physiques de la personne,
et pas seulement sa race et son genre.
Troisièmement, ils ont réalisé que beaucoup de gens
ne semblaient pas savoir ce qu'était le profilage racial,
ni qu'ils s'y livraient.
Nextdoor leur a donc fourni une définition
et leur a dit que c'était strictement interdit.
Vous avez tous vu ces panneaux dans les aéroports
et dans les stations de métro, « Si vous voyez quelque chose, signalez-le. »
Nextdoor a essayé de modifier cela.
« »Si vous voyez quelque chose de louche,
dites quelque chose de précis. »
Et en utilisant cette stratégie, simplement en ralentissant les gens,
Nextdoor a pu réduire le profilage racial de 75 %.
Les gens me disent souvent :
« Vous ne pouvez ajouter de la friction
dans toutes les situations ou tous les contextes.
Surtout avec des gens qui prennent tout le temps des décisions instantanées. »
Mais il s'avère que nous pouvons ajouter de la friction
dans plus de situations que nous ne le pensons.
En travaillant avec le département de police d'Oakland en Californie,
un certain nombre de mes collègues et moi-même avons pu les aider
à réduire le nombre d'interpellations
de personnes qui ne commettaient aucun délit sérieux.
Et nous l'avons fait en poussant les agents
à se poser une question avant chaque interpellation :
« Est-ce que cette interpellation est basée sur des renseignements ?
Oui ou non ? »
En d'autres termes,
« Ai-je au préalable des informations
permettant de relier cette personne
à un crime spécifique ? »
En ajoutant cette question
au formulaire que les agents remplissent lors d'une interpellation,
ils ralentissent, ils s'arrêtent,
ils se disent : « Pourquoi est-ce que j'envisage d'arrêter cette personne ? »
En 2017, avant que nous ajoutions cette question au formulaire,
les agents avaient effectué environ 32 000 interpellations dans la ville.
L'année suivante, après l'ajout de cette question,
c'était tombé à 19 000.
Les interpellations d'Afro-Américains ont diminué de 43 %.
Et arrêter moins de noirs n'a pas rendu la ville plus dangereuse.
En fait, le taux de criminalité a continué à baisser,
et la ville est devenue plus sûre pour tout le monde.
Une solution peut donc venir
de la réduction du nombre d'interpellations inutiles.
Une autre peut venir de l'amélioration de la qualité des interpellations
effectuées par les agents.
Et la technologie peut nous aider dans ce domaine.
Nous sommes tous au courant de la mort de George Floyd,
car ceux qui ont essayé de lui venir en aide avaient leur téléphone portable
pour enregistrer cette horrible et fatale rencontre avec la police.
Mais nous avons toutes sortes de technologies
que nous ne mettons pas à profit.
Les services de police de tout le pays
sont maintenant obligés de porter des caméras fixées sur eux.
On a des enregistrements
non seulement des rencontres les plus extrêmes et les plus horribles,
mais aussi des interactions quotidiennes.
Avec une équipe interdisciplinaire de Stanford,
nous utilisons des techniques d'apprentissage automatique
pour analyser un grand nombre de rencontres,
afin de mieux comprendre ce qu'il se passe lors des contrôles routiers de routine.
Nous avons constaté que
même lorsque les policiers se comportent de manière professionnelle,
ils parlent aux conducteurs noirs avec moins de respect
qu'aux conducteurs blancs.
En fait, rien qu'à partir des mots que les policiers utilisent,
nous avons pu deviner s'ils parlaient à un conducteur noir ou à un conducteur blanc.
Le problème est que la grande majorité de ces films
n'est pas utilisée par les services de police
pour comprendre ce qu'il se passe dans la rue
ou pour former les agents.
Et c'est dommage.
Comment une interpellation peut-elle se transformer en une rencontre mortelle ?
Comment est-ce arrivé dans le cas de George Floyd ?
Comment cela s'est-il produit dans d'autres ?
Quand mon fils aîné avait 16 ans,
il a découvert que lorsque les blancs le regardaient,
ils ressentaient de la peur.
« Le pire, c'était les ascenseurs, » disait-il.
« Quand les portes se referment,
les gens sont coincés dans cet espace exigu
avec quelqu'un qu'on leur a appris à associer au danger. »
Mon fils sent leur malaise,
et il sourit pour les détendre,
pour calmer leurs craintes.
Lorsqu'il parle,
leur corps se détend.
Ils respirent plus librement.
Ils prennent plaisir à son débit,
à sa diction, à son choix de mots.
Il ressemble à l'un d'entre eux.
Je pensais que mon fils était un extraverti naturel comme son père.
Mais j'ai réalisé lors de cette conversation,
que son sourire n'était pas un signe qu'il voulait se connecter
avec des étrangers.
C'était un talisman qu'il utilisait pour se protéger,
une compétence de survie
qu'il avait perfectionnée au cours de milliers de voyages en ascenseur.
Il apprenait à s'adapter à la tension que la couleur de sa peau générait
et qui mettait sa propre vie en danger.
Nous savons que le cerveau est câblé pour les préjugés,
et une façon de les interrompre est de faire une pause et de réfléchir
aux preuves de nos hypothèses.
Nous devons donc nous demander :
« Quels sont nos présupposés lorsque nous montons dans un ascenseur ?
Ou dans un avion ?
Comment pouvons-nous prendre conscience de notre propre préjugé inconscient ?
Qui ces présupposés protègent-ils ?
Qui mettent-ils en danger ? »
Tant que nous ne poserons pas ces questions
et que nous n'insisterons pas pour que nos écoles, nos tribunaux,
nos services de police et toutes les institutions fassent de même,
nous continuerons à laisser les préjugés
nous aveugler.
Et si ça continue,
aucun d'entre nous n'est vraiment en sécurité.
Je vous remercie.
לפני מספר שנים,
הייתי במטוס עם הבן שלי שהיה אז רק בן חמש.
בני כל כך התלהב להיות על המטוס הזה עם אימא.
הוא מסתכל מסביב והוא בודק דברים
והוא בוחן אנשים.
והוא רואה את האיש הזה, והוא אומר,
"היי! הבחור הזה נראה כמו אבא!"
ואני מסתכלת על האיש,
והוא בכלל לא נראה כמו בעלי,
בכלל לא.
ואז התחלתי להסתכל סביבי במטוס,
ושמתי לב שהאיש הזה היה הבחור השחור היחיד במטוס.
וחשבתי,
"בסדר.
אני אצטרך לנהל שיחה קצרה עם בני
על זה שלא כל האנשים השחורים נראים אותו דבר. "
בני מרים את הראש למעלה, והוא אומר לי,
"אני מקווה שהוא לא ישדוד את המטוס".
ואני אמרתי, "מה? מה אמרת?"
והוא אומר, "טוב, אני מקווה שהאיש הזה לא ישדוד את המטוס".
ואני אמרתי, "למה אתה אומר דבר כזה?
אתה יודע שאבא לא היה שודד מטוס".
והוא אומר, "כן, כן, כן, אני יודע".
ואמרתי, "אז למה אתה אומר את זה?".
והוא הסתכל עליי עם הפרצוף העצוב הזה,
ואמר,
"אני לא יודע למה אמרתי את זה.
אני לא יודע למה חשבתי על זה".
אנו חיים בריבוד גזעי כה חמור
שאפילו ילד בן חמש יכול לומר לנו מה הדבר הבא שאמור לקרות,
אפילו ללא רשע,
אפילו ללא שנאה מפורשת.
הקשר הזה בין צבע עור שחור ובין פשע
עשה את דרכו אל התודעה של בני בן החמש.
הוא עושה את דרכו אל כל ילדינו,
אל כל אחד מאתנו.
המוחות שלנו מעוצבים על ידי ההבדלים הגזעיים
שאנו רואים בעולם
ועל ידי הנרטיבים שעוזרים לנו להבין את ההבדלים שאנו רואים:
"האנשים האלה פושעים".
"האנשים האלה אלימים".
"צריך לחשוש מהאנשים האלה".
כאשר צוות המחקר שלי הביא אנשים אל המעבדה שלנו
וחשף אותם לפרצופים,
מצאנו שחשיפה לפרצופים שחורים הובילה אותם לראות תמונות מטושטשות של רובים
בבהירות ובמהירות גדולות יותר.
הטיות לא רק יכולות לשלוט במה שאנחנו רואים,
אלא גם איפה אנחנו מסתכלים.
גילינו שאם מעודדים אנשים לחשוב על פשע אלים
הדבר יכול לגרום להם לכוון את עיניהם לעבר פנים שחורות
ולהסיט אותן מפנים לבנות.
כאשר מבקשים משוטרים לחשוב על לכידה וירי
ומעצר
הדבר מוביל את עיניהם להתמקד בפרצופים שחורים גם כן.
הטיות עלולות לזהם כל היבט של מערכת המשפט הפלילית שלנו.
במערכת נתונים גדולה של נאשמים שעלולים לקבל גזר דין מוות,
מצאנו שצבע עור שחור יותר מגדיל ביותר מפי 2 את הסיכויים שלהם
לקבל גזר דין מוות -
לפחות כשקרבנותיהם היו לבנים.
התוצאה הזאת מובהקת סטטיסטית,
למרות שנטרלנו את חומרת הפשע
ואת מידת האטרקטיביות של הנאשם.
ולא משנה מה נטרלנו,
מצאנו שאנשים שחורים נענשו
ביחס ישר לגוון השחור של מאפייניהם הפיזיים:
יותר שחור,
יותר ראוי למות.
הטיה יכולה גם להשפיע על האופן שבו מורים מטילים משמעת על תלמידים.
עמיתיי ואני מצאנו שמורים מביעים רצון
להטיל משמעת על תלמיד שחור בחטיבת הביניים בצורה קשה יותר
מאשר על תלמיד לבן
עבור אותן עבירות חוזרות ונשנות.
במחקר שנערך לאחרונה,
אנו מגלים שהמורים מתייחסים אל תלמידים שחורים כאל קבוצה
אבל אל תלמידים לבנים כאל יחידים.
אם, למשל, תלמיד שחור אחד אינו מתנהג כראוי
ואז תלמיד שחור אחר אינו מתנהג כראוי כעבור כמה ימים,
המורה מגיב כלפי התלמיד השחור השני
כאילו הוא התנהג שלא כראוי פעמיים.
זה כאילו שחטאיו של ילד אחד
נערמים על אלה של הילד האחר.
אנו יוצרים קטגוריות במטרה להבין את העולם,
לקבוע מעט שליטה ולכידות
בין הגירויים שאנחנו כל הזמן מופגזים בהם.
פעולת הסיווג וההטיות שהיא זורעת
מאפשרות למוחנו לגבש דעות בצורה מהירה ויעילה יותר,
ואנחנו עושים זאת על ידי הסתמכות אינסטינקטיבית על דפוסים
שנראים צפויים.
אך כפי שהקטגוריות שאנו יוצרים מאפשרות לנו לקבל החלטות מהירות,
הן גם מגבירות את ההטיות.
אז בעצם אותם הדברים שעוזרים לנו לראות עולם
יכולים גם לעוור אותנו.
הם מספקים עבורנו בחירות ללא מאמץ,
ללא התנגדות.
אך הם גובים מחיר כבד.
אז מה אנו יכולים לעשות?
כולנו חשופים להטיות,
אבל אנו לא פועלים על פיהן כל הזמן.
ישנם תנאים מסוימים שיכולים לעורר הטיה
ותנאים אחרים שיכולים לעמעם אותה.
הרשו לי לתת לכם דוגמה.
אנשים רבים מכירים את חברת הטכנולוגיה Nextdoor.
כל מטרתם היא ליצור שכונות חזקות, בריאות ובטוחות יותר.
ולשם כך הם מציעים את המרחב המקוון הזה
שבו שכנים יכולים להתאסף ולשתף מידע.
אך נקסטדור גילו מהר מאוד שיש להם בעיה
עם יצירת פרופיל גזעי.
במקרה אופייני,
אנשים הסתכלו מחוץ לחלון שלהם
וראו גבר שחור בשכונה הלבנה שלהם
ומיד החליטו שיש לו כוונות רעות,
אפילו כאשר לא היו לכך עדויות של מעשים פליליים.
במובנים רבים, האופן שבו אנו מתנהגים ברשת
מהווה השתקפות של האופן שבו אנחנו מתנהגים בעולם.
אבל מה שאנחנו לא רוצים לעשות הוא ליצור מערכת קלה לשימוש
שתגביר את ההטיות ותעמיק את הפערים הגזעיים,
במקום לפרק אותם.
אז המייסד השותף של Nextdoor פנה אליי ואל אחרים
כדי לנסות ולהבין מה לעשות.
והם הבינו שכדי לרסן את החתך הגזעי בפלטפורמה,
הם יצטרכו להוסיף נקודת חיכוך;
כלומר, להאט את תגובתם של האנשים.
אז ל- Nextdoor הייתה ברירה,
וכנגד כל דחף,
הם החליטו להוסיף נקודת חיכוך.
והם עשו זאת על ידי הוספת רשימה פשוטה.
היו בה שלושה פריטים.
ראשית, הם ביקשו מהמשתמשים להשתהות
ולחשוב, "מה האדם הזה עשה שגרם לו להיראות חשוד?"
הקטגוריה "איש שחור" אינה עילה לחשד.
שנית, הם ביקשו מהמשתמשים לתאר את התכונות הפיזיות של האדם,
לא רק את הגזע ואת המין שלהם.
שלישית, הם הבינו שהרבה אנשים
כנראה אינם יודעים מהי יצירת פרופיל גזעי
או שהם לוקחים בה חלק.
אז Nextdoor סיפקה להם הגדרה
ואמרה להם שהדבר אסור בהחלט.
רובכם כבר ראיתם את השלטים האלה בשדות התעופה
ובתחנות המטרו, "אם אתם רואים משהו, תגידו משהו".
Nextdoor ניסתה להתאים זאת.
"אם אתם רואים משהו חשוד,
תגידו משהו ספציפי".
ובאמצעות אסטרטגיה זו, פשוט על ידי השהיית אנשים,
Nextdoor הצליחה לרסן את השימוש בחתך גזעי ב 75% .
עכשיו, אנשים לעתים קרובות אומרים לי,
"את לא יכולה להוסיף נקודת חיכוך בכל סיטואציה, בכל הקשר,
ובעיקר עבור אנשים שמקבלים החלטות בשבריר שנייה כל הזמן".
אבל מסתבר שאנו יכולים להוסיף נקודת חיכוך
למצבים רבים יותר ממה שאנחנו חושבים.
בעבודה עם משטרת אוקלנד
בקליפורניה,
אני וכמה מעמיתיי הצלחנו לעזור להם
לצמצם את מספר המעצרים שביצעו
של אנשים שלא ביצעו פשע חמור כלשהו.
ועשינו זאת על ידי עידוד השוטרים
לשאול את עצמם שאלה אחת לפני כל מעצר שביצעו:
"האם המעצר הזה מבוסס על מודיעין,
כן או לא?"
במילים אחרות,
האם יש לי מידע קודם לקשור את האדם המסוים הזה
עם פשע ספציפי?
על ידי הוספת שאלה זו
לטופס ששוטרים ממלאים במהלך מעצר,
הם האטו, הם השתהו,
הם חושבים, "מדוע אני שוקל לעצור את האדם הזה?"
בשנת 2017, לפני שהוספנו את השאלה מבוססת מודיעין לטופס,
שוטרים ביצעו כ- 32,000 מעצרים ברחבי העיר.
בשנה שאחריה, עם תוספת שאלה זו,
זה ירד ל - 19,000 מעצרים.
מעצרים של אפרו-אמריקאיים בלבד ירדו ב- 43%.
והירידה במעצרים של אנשים שחורים לא הפכה את העיר למסוכנת יותר.
למעשה, שיעור הפשיעה המשיך לרדת,
והעיר הפכה בטוחה יותר עבור כולם.
כך שפתרון אחד יכול להגיע מהפחתה במספר המעצרים המיותרים.
פתרון אחר יכול להגיע משיפור איכות המעצרים
ששוטרים מבצעים.
וטכנולוגיה יכולה לעזור לנו כאן.
כולנו יודעים על מותו של ג'ורג' פלויד,
כי אלה שניסו לעזור לו החזיקו מצלמות בטלפון הסלולרי
לתעד את המפגש המחריד והקטלני הזה עם המשטרה.
אבל יש לנו כל מיני טכנולוגיות שאנחנו לא מנצלים לטובה.
אנשי משטרה ברחבי הארץ
כעת נדרשים ללבוש מצלמות גוף
כך שיש לנו לא רק הקלטות של המפגשים הקיצוניים והנוראיים ביותר
אלא גם של אינטראקציות יומיומיות.
עם צוות בינתחומי בסטנפורד,
התחלנו להשתמש בטכניקות של למידת מכונה
לנתח מספר גדול של מפגשים.
וזאת כדי להבין טוב יותר את מה שקורה במעצרים שגרתיים.
מה שגילינו הוא
שאפילו כאשר שוטרים מתנהגים במקצועיות,
הם מדברים עם נהגים שחורים בפחות כבוד בהשוואה לנהגים לבנים.
למעשה, רק מהמילים שהשוטרים אמרו,
יכולנו לקבוע אם הם מדברים עם נהג שחור או עם נהג לבן.
הבעיה היא שהרוב המכריע של צילומי המצלמות האלה
אינו מנוצל על ידי המשטרה
להבין את מה שקורה ברחוב
או להכשיר שוטרים.
וחבל.
איך מעצר שגרתי הופך למפגש קטלני?
איך זה קרה במקרה של ג'ורג' פלויד?
איך זה קרה אצל אחרים?
כשבני הבכור היה בן 16,
הוא גילה שכאשר אנשים לבנים מביטים בו,
הם חשים פחד.
המעליות הן הגרועות ביותר, אמר.
כאשר הדלתות האלה נסגרות,
אנשים לכודים בחלל הזעיר הזה
עם מישהו שלימדו אותם לקשר עם סכנה.
הבן שלי מרגיש את אי הנוחות שלהם,
והוא מחייך כדי להקל עליהם,
להרגיע את הפחדים שלהם.
כשהוא מדבר,
גופם נרגע.
הם נושמים יותר בקלות.
הם נהנים מחיתוך הדיבור שלו,
מהסגנון שלו, מבחירת המילים שלו.
הוא נשמע כמו אחד מהם.
פעם חשבתי שהבן שלי הוא מוחצן מטבעו כמו אביו.
אבל באותו רגע הבנתי, בשיחה ההיא,
שהחיוך שלו לא היה סימן לכך שהוא רוצה להתחבר
עם אנשים זרים.
זה היה קמע שהוא השתמש בו להגן על עצמו,
מיומנות הישרדותית שהשחיז במהלך אלפי נסיעות במעלית.
הוא למד להכיל את המתח שצבע עורו חולל
ושסיכן את חייו שלו.
אנו יודעים שהמוח מחווט להטיות,
ואחת הדרכים להפסיק הטיות שכאלה היא לעצור ולהרהר
על העדויות להנחות שלנו.
לכן עלינו לשאול את עצמנו:
אילו הנחות אנו מביאים כשאנחנו נכנסים לתוך מעלית?
או מטוס?
כיצד נהיה מודעים להטיות הלא מודעות שלנו?
על מי מגנות ההנחות האלה?
את מי הן מסכנות?
עד שנשאל את השאלות האלה
ונתעקש שבתי הספר שלנו ובתי המשפט שלנו והמשטרה שלנו
וכל מוסד יעשה את אותו הדבר,
אנו נמשיך לאפשר להטיות
לעוור אותנו.
ובמצב כזה,
אף אחד מאיתנו לא בטוח באמת.
תודה רבה.
Prije nekoliko godina
bila sam u zrakoplovu sa svojim sinom koji je imao 5 godina u to vrijeme.
Bio je jako uzbuđen jer je bio u avionu sa svojom mamom.
Gledao je okolo, proučavao stvari oko sebe
i proučavao je ljude.
Ugledao je čovjeka i rekao:
"Hej, ovaj čovjek izgleda kao tata!"
Pogledala sam čovjeka
i nije uopće izgledao kao moj muž.
Uopće.
I tako sam se počela osvrtati po zrakoplovu
i primijetila da je to bila jedina crna osoba u zrakoplovu.
Pomislila sam:
"U redu,
malo ću porazgovarati sa svojim sinom
o tome kako nisu svi pripadnici crne rase jednaki.
Moj sin je podigao glavu i rekao:
"Nadam se da neće opljačkati zrakoplov."
Rekla sam: "Što? Što si to rekao?"
On je ponovio: "Nadam se da taj čovjek neće opljačkati zrakoplov."
Rekla sam: "Zašto bi to izgovorio?
Znaš da tvoj tata ne bi opljačkao zrakoplov."
Odgovorio mi je: "Da, da, da, ovaj, znam."
Rekoh: "U redu, ali zašto si to izgovorio?"
Pogledao me zbilja tužnog pogleda
i rekao:
"Ne znam zašto sam to rekao.
Ne znam zašto sam to pomislio".
Živimo u vrijeme tako velike rasne stratifikacije
da nam čak i petogodišnjak može reći što bi se trebalo sljedeće dogoditi,
čak i bez zločinca,
čak i bez eksplicitne mržnje.
Ova asocijacija između crne boje kože i zločina
uvukla se u um mog petogodišnjeg sina.
Stvara put prema umovima sve naše djece,
prema umovima svih nas.
Naši umovi su oblikovani rasnim razlikama
koje vidimo u svijetu
i narativima koji nam pomažu vidjeti smisao u tim razlikama:
"Ovi ljudi su kriminalci."
"Ovi ljudi su nasilni."
"Ovih ljudi se treba bojati."
Kad je moj istraživački tim doveo ljude u naš laboratorij
i suočio ih s raznim licima,
uočili smo da ih suočavanje s licima crne rase vodi do toga
da mutne slike pištolja vide puno brže i jasnije.
Predrasuda ne kontrolira samo što vidimo,
nego i gdje gledamo.
Saznali smo da sugeriranje ljudima da pomisle na nasilni zločin
može voditi tome da usmjere pogled na pripadnika crne boje kože,
a okrenu ih od bijelaca.
Sugestija policajcima da pomisle na zarobljavanje, pucanje
i uhićenje
vodi tome da također usmjeravaju pogled na pripadnika crne rase.
Predrasude mogu zaraziti sve aspekte našeg kaznenog sudstva.
U velikim skupovima podataka među osuđenicima na smrt
otkrili smo da što je osoba tamnije boje kože, to se više udvostručuje šansa
dobivanja smrtne kazne --
barem kada su žrtve bijelci.
Ovaj učinak je značajan,
iako smo kontrolirali težinu zločina
i fizičku atraktivnost optuženika.
I bez obzira što smo to kontrolirali,
uočili smo da su pripadnici crne rase kažnjavani
proporcionalno s njihovim karakteristikama crne rase:
što su izraženije,
veća je kazna.
Predrasude također mogu utjecati na to kako učitelji discipliniraju učenike.
Moje kolege i ja smo otkrili da učitelji pokazuju želju
disciplinirati tamnije učenike srednje škole rigoroznije
nego bijele studente
za iste prekršaje.
U nedavnoj studiji,
otkrili smo da učitelji učenike tamne kože tretiraju kao grupe,
a bijele učenike kao individue.
Ako se, primjerice, tamniji učenik nedolično ponaša
pa potom drugi tamnoputi učenik nedolično ponaša par dana kasnije,
učitelj reagira kao da se drugi tamnoputi učenik
nedolično ponašao dvaput.
To je kao da se grijeh jednog djeteta
nagomilava na drugo.
Stvaramo kategorije kako bismo dali svijetu smisao,
kako bismo imali kontrolu i sve povezali
sa stimulansima kojima smo svakodnevno bombardirani.
Kategorizacija i predrasude koje to stvara
dozvoljava našim mozgovima da sude o svijetu puno brže i učinkovitije,
i to radimo instinktivno se oslanjajući na obrasce
koji se čine predvidivima.
Ipak, kao što nam kategorije koje stvaramo dozvoljavaju donijeti brze odluke,
one također ojačavaju predrasude.
Tako da nas upravo one stvari koje nam pomažu proučavati svijet,
mogu također zaslijepiti.
One čine naše izbore lakima,
bez otpora.
Ali uz veliku cijenu.
Što možemo napraviti?
Svi smo podložni predrasudama,
ali se ipak ne koristimo njima cijelo vrijeme.
Postoji neki uvjeti koji oživljavaju predrasude
i neki koji ih prigušuju.
Dat ću vam primjer.
Puno ljudi je upoznato s tehnološkom kompanijom Nextdoor.
Dakle, njihova je svrha stvoriti jače, zdravije, sigurnije gradske četvrti.
Prema tome, nude online prostor
gdje susjedi mogu dobivati i dijeliti informacije.
Ipak, Nextdoor je ubrzo otkrio da ima problem
s rasnim profiliranjem.
U tipičnom slučaju,
ljudi bi pogledali kroz prozor
i ugledali tamnoputog čovjeka u inače bjelačkoj četvrti
i brzinski zaključili da ne smjera ništa dobro,
iako nema nikakvog dokaza kriminalnim aktivnostima.
Na mnogo načina, kako se ponašamo online
je refleksija toga kako se ponašamo u stvarnom svijetu.
Ali ono što ne želimo je kreirati jednostavan sustav
koji bi pojačao predrasude i produbio rasne disperzije,
radije nego što bi ih uklonio.
Tako je suosnivač Nextdoora pristupio meni i drugima
kako bismo pronašli rješenje.
Shvatili su da kako bi obuzdali rasno profiliranje na platformi,
trebaju malo pojačati otpornost;
tj. potrebno je da ljudi malo uspore.
Tako je Nextdoor morao izabrati
i protiv svakog impulsa
odlučili su se pojačati otpornost.
To su učinili dodavanjem jednostavnog popisa.
Na njemu su bile tri stavke.
Prvo, zamolili su korisnike da zastanu
i pomisle: "Što je učinila ova osoba da ju je učinilo sumnjivom?"
Kategorija "tamnoputa osoba" nema uporišta za sumnju.
Drugo, zamolili su korisnike da opišu fizičke osobine sumnjive osobe,
a ne samo njihovu rasu i spol.
Treće, shvatili su da mnogo ljudi
nije shvaćalo što znači rasno profiliranje,
niti da su u njega bili svjesno uključeni.
I tako ih je Nextdoor upoznao s definicijom
i rekao im da je to strogo zabranjeno.
Mnogi od vas su vidjeli takve znakove u zračnim lukama
i u postajama podzemne željeznice, "Ako nešto vidiš, reci."
Nextdoor je ovo pokušao modificirati.
"Ako ugledaš nešto sumnjivo,
reci nešto specifično."
Koristeći ovu strategiju, jednostavno obuzdavajući ljude,
Nextdoor je uspio umanjiti rasno profiliranje za 75 posto.
Ljudi mi često kažu,
"Ne možeš to uvijek obuzdati - u svakoj situaciji i u svakom kontekstu,
a posebno za ljude koji stalno donose odluke u sekundi."
Ali se pokazalo da to možemo učiniti
u više situacija nego mislimo.
U radu s policijskom upravom Oaklanda
u Kaliforniji,
moji kolege i ja smo uspjeli pomoći upravi
u reduciranju broja ljudi koje su zaustavljali
a koji nisu počinili nikakav ozbiljni zločin.
To smo učinili usmjeravanjem policajaca
da si postave pitanje prije svakog zaustavljanja:
"Je li ovo zaustavljanje temeljeno na prikupljenim podacima,
da ili ne?"
Drugim riječima,
imam li prijašnje informacije kojima bih povezao baš ovu osobu
sa specifičnim zločinom?
Dodavanjem ovog pitanja
obrascu koji su policajci morali ispuniti prilikom zaustavljanja
oni su se ipak zaustavili
i promislili: "Zašto uopće kanim zaustaviti ovu osobu?"
U 2017., prije nego smo dodali ovo pitanje utemeljeno na podacima na obrazac,
policajci su napravili 32 000 zaustavljanja ljudi u cijelom gradu.
Sljedeće godine, uključivanjem ovog pitanja,
broj je opao na 19 000 zaustavljanja.
Samo zaustavljanja Afroamerikanaca su opala za 43 posto.
A manji broj zaustavljanja osoba crne rase nije učinilo grad opasnijim.
U stvari, stopa kriminala je nastavila opadati
i grad je postao sigurniji za sve.
Jedno rješenje bilo bi smanjenje broja nepotrebnih zaustavljanja.
Drugo bi bilo povećanje kvalitete onih koje se ipak naprave
od strane policije.
Tu nam tehnologija može biti od pomoći.
Svi smo čuli za smrt George Floyda,
zato jer su oni koji su mu pokušali pomoći držali mobitele s kamerama
kako bi snimili taj užasan i tragičan susret s policijom.
Ali posjedujemo svakojaku tehnologiju koju ne koristimo na pravi način.
Policijske uprave diljem zemlje
su danas dužne nositi kamere na tijelu,
tako da nemamo samo snimke najbrutalnijih i užasnih susreta,
nego i svakodnevnih interakcija.
Skupa s interdisciplinarnim timom sa Stanforda
počeli smo koristiti tehnike strojnog učenja
kako bismo analizirali veliki broj susreta.
To smo napravili kako bismo bolje razumjeli što se događa
pri rutinskim prometnim zaustavljanjima.
Ono što smo otkrili jest
da čak i kada se policijski službenici ponašaju profesionalno,
ipak razgovaraju s tamnoputim vozačima uz manje poštovanja nego s bijelima.
U stvari, prema njihovim vlastitim riječima,
"Mogli smo predvidjeti jesu li policajci pričali s tamnoputim ili bijelim vozačem."
Problem je što većina tih snimaka
nije korištena od strane policijskih uprava
kako bi shvatili što se događa na ulici
ili kako bi uvježbali policajce.
I to je šteta.
Kako rutinska kontrola dovodi do ubojitih susreta?
Kako se to dogodilo u slučaju George Floyda?
Kako se događa i u drugima slučajevima?
Kada je moj najstariji sin imao 16 godina,
otkrio je da kada ga bijelci gledaju,
osjećaju strah.
Dizala su najgora, kaže.
Kada se zatvore vrata,
ljudi su zatvoreni u malom prostoru
s nekim za koga su naučeni da osjećaju strah.
Moj sin osjeća njihovu nelagodu
i nasmije se da bi ih umirio,
kako bi umanjio njihove strahove.
Kada priča,
njihova se tijela opuste.
Njihov dah umiri.
Osjećaju ugodu u njegovom ritmu,
njegovoj dikciji, njegovom odabiru riječi.
Zvuči kao jedan od njih.
Mislila sam da je moj sin prirodni ekstrovert kao i njegov otac.
Ali sam tog trenutka shvatila, kroz taj razgovor,
da njegov osmijeh nije znak da se želi povezati
sa strancima.
To je bio medaljon koji je koristio kako bi se zaštitio,
metoda preživljavanja koju je usvojio tijekom tisuća vožnji dizalom.
Naučio je kako ublažiti tenzije koje je proizvodila njegova boja kože
i koja mu je ugrožavala život.
Znamo da je mozak programiran za predrasude
i jedan od načina kako ih nadvladati je zaustaviti se i promisliti
o dokazima naših pretpostavki.
Stoga se moramo zapitati:
Koje pretpostavke unosimo sa sobom kada ulazimo u dizalo?
Ili u zrakoplov?
Kako spoznati naše nesvjesne predrasude?
Koga te pretpostavke štite?
Koga ugrožavaju?
Dokle god ne postavimo ta pitanja
i ne inzistiramo da naše škole, naši sudovi, naše policijske uprave
i sve druge institucije učine isto,
nastavit ćemo dozvoljavati predrasudama
da nas zaslijepljuju.
Ako nastave,
nitko od nas nije istinski siguran.
Hvala.
Pár ével ezelőtt
repülőgépen ültem ötéves fiammal.
A fiam nagyon izgatott volt, hogy repülőn ülhet Anyával.
Nézegetett jobbra-balra, mindent alaposan szemügyre vett,
és mindenkit megnézett.
Aztán meglátott egy embert, és így szólt:
"Nini, az a bácsi úgy néz ki, mint Apa!"
Ránéztem a férfira,
és egy kicsit sem hasonlított a férjemre,
a legkevésbé sem.
Aztán körbenéztem a gépen,
és rájöttem, hogy ő volt az egyetlen fekete férfi a fedélzeten.
Ekkor arra gondoltam:
"Na, jó.
Egy kicsit el kell beszélgetnem a fiammal arról,
hogy nem minden fekete hasonlít egymásra."
A fiam rám nézett, és így szólt hozzám:
"Remélem, nem téríti el a repülőt."
Erre én: "Micsoda? Mit mondtál?"
Mire ő: "Hát, remélem, hogy a bácsi nem téríti el a repülőt."
Erre én: "De hát miért mondod ezt?
Tudod jól, hogy Apa sem szokott repülőt eltéríteni."
Erre ő: "Hát igen, igen, igen, tudom."
Mire én: "Mégis, miért mondtad ezt?"
Rám nézett egészen szomorú arccal,
és így szólt:
"Nem tudom, miért mondtam.
Nem tudom, miért gondoltam."
Ilyen súlyos faji rétegződésben élünk,
hogy még egy ötéves is megmondja, milyen történéseket tételezzünk fel,
még akkor is, ha nincs is gonosztevő,
és nincs látható gyűlölet sem.
A feketék és a bűnözés összekapcsolása
befurakodott az ötéves fiam fejébe.
Befurakodik minden gyerek fejébe,
és mindannyiunk fejébe.
A gondolkodásunkat befolyásolják
a világban látható a faji különbségek,
és azok a narratívák, amelyekből értelmezzük a látható különbségeket:
"Azok az emberek bűnözők."
"Azok az emberek erőszakosak."
"Azoktól az emberektől félni kell."
A kutatócsoportunk a laborban különböző embereknek arcokat mutatott,
és azt állapítottuk meg,
hogy a fekete arcok felmutatása után a fegyverekről készült homályos képeket
tisztábban és gyorsabban észlelték az alanyok.
Az előítéletek nemcsak azt befolyásolhatják, amit látunk,
hanem azt is, hogy hova nézünk.
Kiderült, hogy ha az embereket arra buzdítjuk,
hogy gondoljanak erőszakos bűntettre, akkor egy fekete arcra néznek,
és elfordulnak a fehér arcoktól.
Ha rendőröket arra kérünk, hogy elfogásra, lövöldözésre
és letartóztatásra gondoljanak,
az is azt eredményezi, hogy tekintetüket fekete arcokra irányítják.
Az előítéletek minden szempontból mérgezik az igazságszolgáltatási rendszerünket.
A halálra ítélhető vádlottak adatállományát vizsgálva arra jutottunk,
hogy ha valaki feketébb bőrű,
akkor kétszeres esélye van a halálbüntetésre,
legalábbis ha az áldozata fehér volt.
Ez jelentőségteljes eredmény,
habár a változók között szerepelt a bűntett súlyossága,
és a vádlott esetleges vonzó megjelenése.
De bármilyen szemponttal bővítettük a vizsgálatot,
azt találtuk,
hogy a feketéket feketeségükkel arányosan büntették:
minél feketébbek,
annál inkább halált érdemelnek.
Az előítéletek azt is befolyásolják, hogyan fegyelmezik a tanárok a tanulókat.
A kollégáimmal azt állapítottuk meg, hogy a tanárokban megvan az igény arra,
hogy egy fekete felső tagozatos diákot keményebben fegyelmezzenek,
mint egy fehér diákot
ugyanazért az ismételt szabályszegésért.
Egy közelmúltbeli tanulmányban azt állapítottuk meg,
hogy a fekete diákokat csoportként kezelik a tanárok,
a fehéreket viszont egyénként.
Ha pl. egy fekete diák rosszul viselkedik,
majd pár nap múlva egy másik fekete tanuló is rosszul viselkedik,
a tanár a második fekete tanulóra már úgy reagál,
mintha kétszer viselkedett volna rosszul.
Olyan ez, mintha az egyik gyerek vétkei
rárakódnának a másikéra.
Kategóriákat hozunk létre, hogy értelmezzük a világot,
hogy valamiféle rendszert és következetességet teremtsünk
a minket folyton bombázó ingerekben.
A kategorizálás és az általa elültetett előítéletek segítségével
az agyunk gyorsabban és hatékonyabban alkothat ítéletet,
amit már ösztönösen teszünk, a mintáinkra alapozva,
és úgy tűnik, hogy ezek kiszámíthatók.
Az általunk teremtett kategóriák lehetővé teszik, hogy gyors döntéseket hozzunk,
ugyanakkor megerősítik előítéleteinket is.
Tehát pont azok a dolgok, amelyek segítenek megérteni a világot,
elvakulttá is tehetnek minket.
Erőfeszítés nélkül hozhatunk döntéseket,
súrlódásmentesen.
Mégis súlyos áldozatot követelnek.
Akkor hát mit tehetünk?
Mindannyian ki vagyunk szolgáltatva az előítéleteknek,
de nem mindig cselekszünk előítéletesen.
Vannak bizonyos körülmények, amelyek felkeltik az előítéleteket,
más körülmények pedig tompítják őket.
Hadd mondjak egy példát!
Sokan ismerik a Nextdoor nevű technológiai vállalatot.
Az a célja, hogy erősebb, egészségesebb, biztonságosabb lakókörnyezetet teremtsen.
Ennek érdekében online teret hoztak létre,
ahova csatlakozhatnak egy környék lakói, és tájékoztathatják egymást.
A Nextdoor azonban idővel rájött,
hogy a faji profilalkotással van egy kis gond.
Egy tipikus eset,
amikor az emberek kinéznek az ablakon,
és meglátnak egy feketét az amúgy fehérek lakta környéken,
és egyből azt az ítéletet alkotják, hogy az illető rosszban sántikál,
még akkor is, ha semmi nem utal bűncselekményre.
Az online térben tanúsított viselkedésünk számos jellemzője
annak a leképeződése, ahogy a való világban viselkedünk.
De semmiképpen sem akarunk olyan könnyen használható rendszert létrehozni,
amely felerősítheti az előítéleteket, és elmélyítheti a faji különbségeket,
ahelyett hogy lebontaná őket.
Ezért a Nextdoor társalapítója felkeresett többek között engem,
hogy találjuk ki, mit tehetnének.
Rájöttek, hogy a faji profilalkotás mérséklése érdekében a platformon
nagyobb "tapadási felületet" kell kialakítaniuk,
vagyis le kell lassítaniuk az embereket.
Ezért a Nextdoornak döntenie kellett,
és minden nyomás ellenére úgy döntöttek,
hogy növelik a "tapadási felületet".
Ehhez egyszerű ellenőrzőlistát helyeztek el az oldalon.
Három tétel szerepelt rajta.
Először azt kérték a felhasználóktól, hogy egy pillanatra álljanak meg,
és tegyék fel a kérdést: "Mit csinált ez az ember, amitől gyanússá vált?"
A "fekete ember" kategória nem indok a gyanúra.
Másodszor, megkérték a felhasználókat, hogy írják le az illető külső vonásait,
de nem egyszerűen csak a fajukat és a nemüket.
Végül pedig, észrevették,
hogy sokan nyilván nem tudják, hogy mit jelent a faji profilalkotás,
és azt sem, hogy ebben ők is érintettek.
Ezért a Nextdoor definíciót állított össze számukra,
és közölte velük, hogy mi szigorúan tilos.
Önök is ismerik a feliratokat a reptereken és a metróállomásokon:
"Ha látsz valamit, mondj is valamit!"
A Nextdoor ezt módosította:
"Ha látsz valami gyanúsat,
mondj valami konkrétat."
Ezt az embereket lelassító stratégiát alkalmazva
a Nextdoornak sikerült 75%-kal visszaszorítania a faji profilalkotást.
Az emberek gyakran azt mondják nekem:
"Nem növelhetjük a »tapadási felületet« minden helyzetben, minden kontextusban,
és főleg olyanok esetében, akik villámgyorsan döntenek."
Kiderült azonban,
hogy több helyzetben növelhetjük a "tapadási felületet", mint hinnénk.
Együtt dolgoztam az oaklandi rendőrséggel
Kaliforniában.
Kollégáimmal segítettünk csökkenteni a rendőrségnek
azoknak az igazoltatott embereknek a számát,
akik nem követtek el komoly bűncselekményt.
Ezt úgy értük el, hogy arra ösztönöztük a rendőröket,
hogy minden egyes igazoltatás előtt tegyenek fel maguknak egy kérdést:
"Ezt az igazoltatást az értelem vezérli?
Igen vagy nem?"
Más szóval:
van olyan előzetes információm,
amely a személyt konkrét bűntetthez köti?
Az, hogy ez a kérdés szerepel az űrlapon,
amelyet igazoltatáskor kitöltenek a rendőrök,
lelassítja őket, megállnak egy pillanatra, és elgondolkoznak:
"Miért fontolgatom e személy feltartóztatását?"
2017-ben, mielőtt kibővítettük az űrlapot ezzel az értelmező kérdéssel,
kb. 32 000 esetben igazoltattak a városban a rendőrök.
A következő évben, ennek a kérdésnek a feltevésével
ez visszaesett 19 000 igazoltatásra.
Csak az afroamerikaiak igazoltatása 43%-kal csökkent.
A kevesebb fekete igazoltatásától nem lett veszélyesebb a város.
A bűnözési ráta valójában egyre jobban csökkent,
és a város mindenki számára biztonságosabbá vált.
Vagyis az egyik megoldás az lehet, hogy csökkentjük a felesleges igazoltatásokat.
A másik, hogy javítunk
a rendőrségi igazoltatások színvonalán.
A technológia a segítségünkre lehet ebben.
George Floyd haláláról azért tudunk,
mert azoknál, akik a segítségére akartak sietni, volt kamerás telefon,
így felvették azt a rettenetes, halálos találkozást a rendőrökkel.
Van mindenféle technikánk, melyeket nem hasznosítunk.
A rendőrségnek szerte az országban
kötelező testkamerát viselnie,
hogy ne csak a szélsőséges és szörnyű összetűzésekről készüljön felvétel,
hanem a mindennapos beavatkozásokról is.
Egy interdiszciplináris csapattal
Stanfordban gépi tanulási technikákat kezdtünk használni,
hogy nagy számban elemezhessünk különféle csetepatékat.
Az volt a célunk, hogy jobban megértsük, mi zajlik egy rutin közúti ellenőrzéskor.
Azt állapítottuk meg,
hogy a rendőrök még akkor is, amikor professzionálisan viselkednek,
a fekete sofőrökkel kevesebb tisztelettel beszélnek, mint a fehérekkel.
Igazából már pusztán a rendőrök által használt szavakból is
előre meg tudtuk mondani, hogy fekete vagy fehér sofőrrel beszélnek-e.
Az a baj, hogy e kamerafelvételek zömét
nem használja fel a rendőrség arra,
hogy megtudja, mi folyik az utcákon,
vagy hogy továbbképezze a rendőröket.
És ez gyalázat.
Hogyan lesz egy rutinellenőrzésből halálos összetűzés?
Hogy történt ez George Floyd esetében?
Hogy történt ez más esetekben?
Amikor a legidősebb fiam 16 éves volt,
észrevette, hogy mikor a fehérek ránéznek,
félelmet éreznek.
Azt mondta, a lift a legrosszabb.
Amikor az ajtók bezárulnak,
az emberek csapdába esnek az apró helyiségben olyasvalakivel,
akiről azt tanították nekik, hogy veszélyt jelenthet.
A fiam érzi ezt a feszengést,
és mosolyog, hogy megnyugtassa őket,
és oldja a félelmüket.
Amikor beszél,
a testük ellazul.
Könnyebben lélegeznek.
Örömöt lelnek a hanglejtésében,
a kifejezésmódjában, a szóhasználatában.
Úgy beszél, mint egy közülük.
Régen azt hittem, hogy a fiam született extrovertált személyiség, mint az apja.
Abban a pillanatban, annál a beszélgetésnél viszont rájöttem,
hogy a mosolya nem azt jelentette, hogy kapcsolatot akar teremteni
idegen emberekkel.
Ez volt a talizmánja, amellyel megvédte magát,
túlélési taktika, amelyet a sok ezer liftezés során fejlesztett tökélyre.
Megtanulta, hogyan szokjon hozzá a feszültséghez, amelyet bőrszíne vált ki,
és amely veszélybe sodorta az életét.
Tudjuk, hogy az agy huzalozva van az előítéletekre,
aminek pl. úgy szabhatunk gátat, ha megállunk, és elgondolkodunk azon,
hogy milyen bizonyítékai vannak a feltevéseinknek.
Fel kell tennünk magunknak a kérdést:
Milyen feltevésekkel lépünk be egy liftbe?
Vagy szállunk repülőre?
Hogyan tudatosíthatjuk magunkban a tudattalan előítéleteinket?
Kinek a biztonságát szolgálják ezek a feltevések?
Kit sodornak veszélybe?
Amíg nem tesszük fel ezeket a kérdéseket,
és nem ragaszkodunk ahhoz, hogy iskolák, bíróságok, a rendőrség
és más intézmények is feltegyék e kérdéseket,
addig az előítéleteink
továbbra is elvakíthatnak.
Ez esetben pedig
egyikünk sincs igazán biztonságban.
Köszönöm.
Beberapa tahun lalu,
saya naik pesawat bersama putra saya yang saat itu berusia lima tahun.
Ia sangat gembira bisa naik pesawat dengan Ibunya.
Ia melihat sekeliling, memerhatikan segala sesuatu
dan memerhatikan semua orang.
Lalu ia melihat seorang pria, dan berkata,
"Bu, pria itu mirip Ayah!"
Saya melihat pria tadi,
dan dia tak mirip sama sekali dengan suami saya,
sama sekali.
Kemudian saya pun melihat sekeliling di pesawat,
dan saya sadar pria tadi adalah satu-satunya pria kulit hitam di sana.
Saya berpikir,
"Baiklah.
Saya harus menasihati putra saya
bahwa tak semua orang kulit hitam tampak serupa."
Putra saya mendongakkan kepala, lalu berkata pada saya,
"Semoga dia tak membajak pesawat ini."
Saya pun berkata, "Apa? Apa katamu?"
Ia menjawab, "Semoga pria itu tidak membajak pesawat ini."
Saya bilang, "Kenapa kau berkata begitu?
Kau tahu Ayah tak akan membajak pesawat."
Ia menjawab, "Ya, ya, aku tahu."
Saya bertanya, "Kenapa tadi kau berkata begitu?"
Dia menatap saya dengan raut muka sedih,
lalu dia berkata,
"Aku tak tahu kenapa aku bilang begitu.
Aku tak tahu kenapa berpikir begitu."
Kita hidup dalam stratifikasi rasial yang begitu parah
hingga anak berusia lima tahun bisa memberi tahu apa yang seharusnya terjadi,
bahkan tanpa adanya penjahat,
tanpa adanya kebencian eksplisit.
Kaitan antara orang kulit hitam dan kejahatan
merasuk pikiran putra saya yang baru berusia lima tahun.
Gagasan itu mencapai anak-anak kita,
mencapai kita semua.
Pikiran kita terbentuk oleh perbedaan rasial
yang kita lihat di dunia
dan narasi yang membantu kita memahami perbedaan tersebut berupa:
"Mereka adalah penjahat."
"Mereka suka kekerasan."
"Mereka menakutkan."
Saat tim peneliti saya membawa orang-orang ke lab kami
dan menunjukkan mereka pada beberapa gambar wajah,
kami mendapati wajah kulit hitam membuat mereka melihat gambar senjata yang buram
dengan lebih jelas dan cepat.
Prasangka tak hanya mengontrol apa yang kita lihat,
tetapi ke mana kita melihat.
Kami mendapati bahwa mendorong seseorang memikirkan aksi kekerasan
bisa membuat mereka mengarahkan mata ke arah gambar wajah kulit hitam
dan menjauhi gambar wajah kulit putih.
Mendorong polisi untuk memikirkan penangkapan dan penembakan
serta penahanan
membuat mereka melihat ke arah wajah kulit hitam pula.
Prasangka bisa memengaruhi segala aspek sistem peradilan pidana kita.
Dalam satu kumpulan besar data terdakwa hukuman mati,
kami mendapati semakin hitam kulitnya maka semakin tinggi peluangnya
untuk dihukum mati --
setidaknya jika korbannya adalah orang kulit putih.
Efek ini signifikan,
walau kita diatur atas beratnya kejahatan
dan daya tarik terdakwa.
Tak peduli apa pun aturannya,
kami mendapati orang kulit hitam dihukum
atas kadar kehitaman sosok fisiknya:
semakin hitam,
semakin pantas dihukum mati.
Prasangka juga dapat memengaruhi cara para guru mendisiplinkan siswanya.
Saya dan kolega saya mendapati para guru memiliki keinginan
untuk menghukum lebih keras seorang siswa SMP berkulit hitam
daripada siswa berkulit putih
untuk pelanggaran berulang yang sama.
Dalam studi terbaru,
para guru memperlakukan siswa kulit hitam sebagai sebuah kelompok
tetapi siswa kulit putih sebagai individu.
Contohnya, jika seorang siswa kulit hitam melanggar aturan
lalu seorang siswa berkulit hitam lainnya berbuat sama beberapa hari kemudian,
guru akan merespons siswa yang kedua itu
seolah dia sudah dua kali melanggar aturan.
Seakan-akan dosa seorang anak
terkumpul ke anak lainnya.
Kita membuat kategori untuk memahami dunia,
untuk menerapkan semacam aturan dan keselarasan
atas stimulan yang terus merongrong kita.
Kategorisasi dan prasangka yang terpupuk
membuat otak kita menilai dengan lebih cepat dan efisien,
dan kita melakukannya secara naluriah berdasarkan pola
yang tampak bisa ditebak.
Namun, kategori tadi tak hanya membuat kita bisa mengambil keputusan cepat,
tetapi juga memperkuat prasangka.
Jadi hal-hal yang membantu kita melihat dunia
juga dapat membutakan kita.
Mereka mempermudah pilihan kita,
bebas perselisihan.
Namun dampaknya pun berat.
Lalu apa yang bisa kita lakukan?
Kita semua rentan terhadap prasangka,
tetapi kita tak selalu bertindak berdasar prasangka.
Ada kondisi tertentu yang dapat memicu prasangka
dan kondisi lain yang dapat meredamnya.
Saya beri contoh.
Banyak orang mengenal perusahaan teknologi Nextdoor.
Mereka ingin menciptakan lingkungan yang lebih kuat, sehat, dan aman.
Jadi mereka menawarkan ruang online
tempat warga bisa berkumpul dan berbagi informasi.
Namun, kemudian Nextdoor menemui masalah
dengan pemrofilan rasial.
Dalam kasus biasanya,
ketika orang melihat ke luar jendela
dan melihat seorang lelaki kulit hitam di lingkungan warga kulit putih
lalu segera menarik kesimpulan bahwa ia bermaksud jahat,
bahkan tanpa ada bukti tindak kejahatan.
Dalam banyak hal, perilaku kita di dunia maya
adalah cerminan perilaku kita di dunia nyata.
Namun kita tak ingin menciptakan sebuah sistem sederhana
yang dapat memperkuat prasangka dan memperdalam perbedaan rasial,
alih-alih melenyapkannya.
Jadi, pendiri Nextdoor menghubungi saya dan pihak lainnya
untuk mencari jalan keluar.
Mereka sadar bahwa untuk membatasi pemrofilan rasial di platform itu,
mereka harus menambahkan friksi;
mereka akan memperlambat para penggunanya.
Jadi Nextdoor harus membuat pilihan,
dan melawan segala dorongan,
mereka memutuskan untuk menambahkan friksi.
Mereka melakukannya dengan menambah daftar cek sederhana.
Isinya ada tiga butir.
Pertama, mereka meminta pengguna berhenti sejenak
dan berpikir, "Apa yang dilakukan orang ini sehingga dia mencurigakan?"
Kategori "pria kulit hitam" bukan alasan untuk curiga.
Kedua, mereka meminta pengguna menggambarkan sosok fisik orang tersebut,
bukan hanya ras dan jenis kelaminnya.
Ketiga, mereka sadar ada banyak orang
yang tak tahu apa itu pemrofilan rasial,
atau bahwa mereka terlibat di dalamnya.
Jadi Nextdoor memberikan definisi
dan menegaskan bahwa hal tersebut dilarang.
Banyak dari Anda sudah melihat tanda ini di bandara
dan di banyak stasiun MRT, "Berkatalah jika kau melihat sesuatu."
Nextdoor berusaha mengubahnya.
"Jika kau melihat sesuatu yang mencurigakan,
berkatalah dengan spesifik."
Menggunakan strategi ini, yang memperlambat penggunanya,
Nextdoor berhasil memangkas pemrofilan rasial sebanyak 75 persen.
Orang-orang sering berkata pada saya,
"Anda tak bisa menambahkan friksi di segala situasi dan konteks,
khususnya bagi mereka yang selalu mengambil keputusan kilat."
Namun nyatanya, kita bisa menambahkan friksi
ke lebih banyak situasi dari yang kita kira.
Bersama Departemen Kepolisian Oakland
di California,
saya dan sejumlah kolega berhasil membantu mereka
mengurangi jumlah penghentian
dari orang-orang yang tidak melakukan pelanggaran hukum serius.
Kami melakukannya dengan mendorong petugas
untuk berpikir sebelum menghentikan seseorang:
"Apakah penghentian ini berbasis data intelijen,
ya atau tidak?"
Dengan kata lain,
apakah saya punya cukup informasi untuk mengaitkan orang ini
dengan tindak kejahatan tertentu?
Dengan menambahkan ini
ke formulir yang diisi petugas saat penghentian,
mereka melambat, mereka berhenti sejenak,
mereka berpikir, "Kenapa saya ingin menghentikan orang ini?"
Tahun 2017, sebelum kami menambahkan pertanyaan intelijen itu ke formulir,
petugas kepolisian melakukan 32.000 penghentian di seluruh kota.
Tahun berikutnya, dengan penambahan pertanyaan tadi,
jumlah itu turun menjadi 19.000 penghentian.
Penghentian orang Afrika-Amerika sendiri turun 43 persen.
Menghentikan lebih sedikit orang kulit hitam tak membuat kota lebih berbahaya.
Bahkan, tingkat kejahatan terus menurun,
dan kota jadi lebih aman untuk semua orang
Jadi, satu solusi muncul dari mengurangi jumlah penghentian tak perlu.
Yang lainnya dari peningkatan kualitas penghentian
yang dilakukan polisi.
Teknologi dapat berperan di sini.
Kita semua tahu tentang kematian George Floyd,
karena mereka yang mencoba menolong menggunakan kamera ponselnya
untuk merekam pertemuan mengerikan dan mematikan dengan polisi itu.
Namun kita punya banyak teknologi yang tidak dimanfaatkan dengan baik.
Departemen kepolisian di seluruh negeri
kini diwajibkan menggunakan kamera tubuh
jadi kita punya rekaman tak hanya dari pertemuan ekstrim dan mengerikan
tetapi juga interaksi sehari-hari.
Bersama kelompok interdisipliner di Stanford
kami mulai menggunakan teknik pembelajaran mesin
untuk menganalisa sejumlah besar pertemuan.
Ini untuk memahami apa yang terjadi di penghentian lalu lintas rutin.
Yang kami temukan adalah
bahkan jika polisi bertindak profesional,
cara bicara mereka pada pengemudi kulit hitam tak seramah pada kulit putih.
Malah, dari beberapa penggunaan katanya,
kami dapat menebak mereka berbicara dengan kulit hitam atau kulit putih.
Masalahnya, kebanyakan rekaman kamera ini
tidak digunakan oleh departemen kepolisian
untuk memahami apa yang terjadi di jalan
atau untuk melatih polisi.
Hal ini sangat disayangkan.
Bagaimana sebuah penghentian rutin bisa jadi mematikan?
Bagaimana ini terjadi pada kasus George Floyd?
Bagaimana ini terjadi pada orang lain?
Ketika putra tertua saya berusia 16 tahun,
dia menyadari saat orang kulit putih melihatnya,
mereka ketakutan.
Elevator adalah tempat terburuk, katanya.
Saat pintunya tertutup,
orang-orang terjebak dalam ruang kecil
bersama seseorang yang diasosiasikan dengan bahaya.
Anak saya merasakan ketidaknyamanan mereka,
dan dia tersenyum untuk membuat mereka nyaman,
untuk meredakan ketakutan mereka.
Ketika dia berbicara,
tubuh mereka menjadi rileks.
Mereka bernapas lebih mudah.
Mereka senang akan nada suaranya,
diksinya, pilihan kata-katanya.
Dia terdengar seperti mereka.
Saya dulu mengira putra saya seorang ekstrover alami seperti ayahnya.
Namun dalam percakapan itu saya sadar,
senyumnya bukan karena ia ingin berkenalan
dengan orang asing.
Namun sebuah jimat yang dia pakai untuk melindungi dirinya sendiri,
keterampilan bertahan hidup yang diasah dari ribuan kali naik elevator.
Dia belajar meredakan ketegangan yang disebabkan warna kulitnya
dan membuat nyawanya terancam.
Kita tahu otak dirancang untuk berprasangka
dan cara memutusnya adalah dengan berhenti sejenak dan menimbang
bukti dari asumsi kita.
Kita harus bertanya pada diri kita:
Asumsi apa yang kita bawa saat memasuki elevator?
Atau naik pesawat?
Bagaimana kita menyadari prasangka bawah sadar kita?
Siapa yang dijaga oleh asumsi itu?
Siapa yang diancam olehnya?
Sampai kita mempertimbangkan hal-hal ini
dan mendesak sekolah, pengadilan, dan departemen kepolisian kita
juga setiap institusi berbuat sama,
kita akan terus membiarkan prasangka
membutakan kita.
Jika demikian,
tak ada dari kita yang benar-benar aman.
Terima kasih.
Qualche anno fa,
ero su un aereo con mio figlio che all'epoca aveva cinque anni.
Mio figlio era felicissimo di essere su un aereo con la sua mamma.
Si guardava intorno, osservava le cose che vedeva,
osservava le persone.
Vide un uomo e disse:
"Ehi! Quel signore è uguale a papà!"
Io guardai il signore,
non assomigliava affatto a mio marito,
proprio per niente.
Allora mi guardai intorno nell'aereo,
e notai che questo signore era l'unico uomo nero a bordo.
E pensai:
"Bene.
Dovrò fare un bel discorso a mio figlio
sul fatto che le persone di colore non sono tutte uguali".
Mio figlio alzò lo sguardo e mi disse:
"Spero che non rapini l'aereo".
E io risposi: "Cos'hai detto?"
Lui ripetè: "Spero che non rapini l'aereo".
E io dissi: "Perché dici così?
Lo sai che papà non rapinerebbe un aereo".
Lui disse: "Sì certo, lo so".
E io: "Allora perché l'hai detto?"
Lui mi guardò con una faccia triste,
e mi disse:
"Non so perché l'ho detto.
Non so perché l'ho pensato".
Viviamo con una stratificazione razziale così rigida
che perfino un bambino di cinque anni può dirci cosa si suppone accadrà,
anche se non ci sono malfattori,
anche se non c'è un'esplicita ostilità.
L'associazione tra essere nero e crimine
è arrivata fino alla mente del mio bambino di cinque anni.
Arriva a tutti i nostri bambini,
a tutti noi.
Le nostre menti sono plasmate dalle disparità razziali
che vediamo nel mondo
e dai racconti che ci aiutano a dare un senso a quelle disparità:
"Quelle persone sono criminali".
"Quelle persone sono violente".
"Quelle persone devono essere temute".
In una ricerca fatta nel nostro laboratorio
abbiamo mostrato dei volti a delle persone
e abbiamo notato che dopo aver visto volti neri
vedevano immagini sfocate di pistole con maggiore nitidezza e velocità.
Il pregiudizio non controlla solo ciò che vediamo,
ma anche dove guardiamo.
Si è notato che indurre le persone a pensare a crimini violenti
può portare il loro sguardo verso i volti neri
e lontano da quelli bianchi.
Anche indurre dei poliziotti a pensare a una cattura, a una sparatoria
e a un arresto
li porta a volgere lo sguardo verso i volti neri.
Il pregiudizio può infettare ogni aspetto del sistema di giustizia penale.
Studiando un archivio di imputati che rischiavano la pena di morte,
abbiamo scoperto che l'essere nero aumentava più del doppio la possibilità
di ricevere la pena capitale,
almeno quando le vittime erano bianche.
Il risultato è significativo,
anche tenendo conto della gravità del crimine
e dell'aspetto fisico dell'imputato.
E qualsiasi aspetto controllassimo,
abbiamo scoperto che le persone di colore venivano punite
in proporzione a quanto nera fosse la loro pelle:
più nero,
più degno di morire.
Il pregiudizio può anche influenzare
come gli insegnanti puniscono gli studenti.
Io e miei colleghi abbiamo scoperto
che gli insegnanti tendono a punire uno studente nero in modo più duro
rispetto a uno bianco
per le stesse infrazioni.
Da uno studio recente,
emerge che gli studenti neri vengono trattati come un gruppo
mentre quelli bianchi come individui.
Per esempio, se uno studente nero si comporta male
e qualche giorno dopo un altro studente nero si comporta male,
l'insegnante risponde al secondo studente
come se si fosse comportato male due volte.
È come se le colpe di un bambino
si sommassero a quelle di un altro.
Creiamo categorie per trovare un senso al mondo,
per dare coerenza agli stimoli con cui siamo bombardati di continuo.
La categorizzazione e il pregiudizio che ne deriva
permettono al nostro cervello di giudicare in modo veloce ed efficiente.
Questo perché ci affidiamo istintivamente a degli schemi
che sembrano prevedibili.
Ma mentre le categorie che creiamo ci aiutano a prendere decisioni rapide,
rinforzano anche il pregiudizio.
Quindi proprio gli strumenti che ci aiutano a vedere il mondo
possono anche renderci ciechi.
Rendono le nostre scelte più semplici,
prive di resistenze.
Eppure comportano pesanti conseguenze.
Quindi cosa possiamo fare?
Siamo tutti vulnerabili ai pregiudizi,
ma non agiamo sempre in base ai pregiudizi.
Ci sono situazioni che fanno emergere i pregiudizi
e altre che li smorzano.
Vi faccio un esempio.
Molti conoscono l'azienda tecnologica Nextdoor.
Il suo obiettivo è creare quartieri più forti, sani e sicuri.
Offre uno spazio online
dove persone dello stesso quartiere dialogano e scambiano notizie.
Nextdoor ha subito notato di avere un problema
con la profilazione razziale.
Nel caso tipico,
le persone guardavano fuori dalla finestra
e vedendo un uomo nero nel loro quartiere di gente bianca
supponevano subito che avesse cattive intenzioni,
anche senza evidenza di atti criminali.
Spesso il modo in cui ci comportiamo online
riflette il modo in cui ci comportiamo nel mondo.
Ma non vogliamo creare un sistema semplice
che amplifichi i pregiudizi e intensifichi le disparità razziali,
invece che eliminarli.
Quindi il cofondatore di Nextdoor ha contattato me e altre persone
per capire cosa fare.
E ha capito che per diminuire la profilazione razziale sulla piattaforma
dovevano aggiungere un elemento frenante,
dovevano mettere un freno alle persone.
Nextdoor aveva una scelta da fare,
e contro ogni impulso,
ha deciso di aggiungere un elemento frenante.
E l'ha fatto aggiungendo una semplice lista,
con tre domande.
Prima di tutto ha chiesto agli utenti di fermarsi a pensare:
"Cos'ha fatto di sospetto questa persona?"
La categoria "uomo nero" non è motivo di sospetto.
Poi, ha chiesto di descrivere i tratti fisici della persona,
non semplicemente la razza e il sesso.
Infine, hanno notato
che molti non sembravano sapere cosa fosse la profilazione razziale,
né che vi stavano partecipando.
Quindi Nextdoor ha dato loro una definizione
aggiungendo che era severamente proibito.
Molti di voi avranno visto quel cartello negli aeroporti
e nelle stazioni metro: "Se vedi qualcosa, dì qualcosa".
Nextdoor ha provato a modificarlo:
"Se vedi qualcosa di sospetto,
dì qualcosa di specifico".
E usando questa strategia, mettendo un freno alle persone,
Nexdoor è riuscita a ridurre la profilazione razziale del 75%.
Spesso mi è stato detto:
"Non puoi aggiungere un elemento frenante in ogni situazione o contesto,
soprattutto per chi prende decisioni rapide di continuo".
Ma in realtà possiamo aggiungere un elemento frenante
più spesso di quanto pensiamo.
Lavorando con la Polizia di Oakland
in California,
io e dei miei colleghi siamo riusciti ad aiutare il dipartimento
a ridurre il numero di fermi
di persone che non avevano commesso alcun crimine grave.
Siamo riusciti a farlo spingendo i poliziotti
a farsi una domanda prima di ogni fermo:
"Questo fermo è motivato,
sì o no?"
In altre parole,
ho abbastanza informazioni per associare questa persona
a un crimine ben preciso?
Aggiungendo questa domanda
alla scheda che completano quando fermano qualcuno,
rallentano, si fermano un momento,
e pensano: "Perché sto fermando questa persona?"
Nel 2017, prima di aver aggiunto questa domanda alla scheda,
la polizia ha effettuato circa 32.000 fermi in tutta la città.
L'anno successivo, con l'aggiunta di questa domanda,
sono scesi a 19.000 casi.
Il numero di afroamericani fermati è sceso del 43%.
E fermare meno gente di colore non ha reso la città più pericolosa.
In realtà, il tasso di criminalità è diminuito,
e la città è diventata più sicura per tutti.
Una soluzione può essere ridurre il numero di fermi ingiustificati.
Un'altra può essere migliorare la qualità
di queste operazioni.
E in questo la tecnologia più aiutarci.
Sappiamo tutti della morte di George Floyd,
perché chi ha provato ad aiutarlo ha fatto un video con il cellulare
di quel terribile e fatale incontro con la polizia.
Ma ci sono diverse tecnologie che non sfruttiamo nel modo giusto.
Nei dipartimenti di polizia di tutto il paese
sono ora tenuti a tenere addosso delle telecamere
quindi non abbiamo solo registrazioni degli incontri più estremi e terrificanti
ma anche delle interazioni di tutti i giorni.
Con un team interdisciplinare dell'Università di Stanford,
abbiamo usato tecniche di apprendimento automatico
per analizzare un gran numero di incontri.
Questo per capire meglio cosa succede quando qualcuno viene fermato.
Abbiamo scoperto
che anche quando i poliziotti si comportano in modo professionale,
si rivolgono meno rispettosamente agli autisti neri che a quelli bianchi.
Solo dalle parole usate dai poliziotti,
potevamo intuire se stavano parlando a un autista nero o bianco.
Il problema è che la maggior parte dei video di queste telecamere
non viene usata dai dipartimenti di polizia
per capire cosa succede sulla strada
o per formare i poliziotti.
E questa è una vergogna.
Come può un'operazione di routine trasformarsi in un incontro mortale?
Com'è potuto succedere nel caso di George Floyd?
Com'è potuto succedere in altri casi?
A 16 anni, mio figlio maggiore
ha scoperto che quando i bianchi lo guardano, provano paura.
Il peggio sono gli ascensori, diceva.
Quando quelle porte si chiudono,
la gente si trova in trappola in uno spazio ristretto
con qualcuno che hanno imparato ad associare al pericolo.
Mio figlio sente il loro disagio,
sorride per metterli a proprio agio,
per calmare le loro paure.
Quando parla,
i loro corpi si rilassano.
Respirano più facilmente.
Apprezzano la sua cadenza,
la sua dizione, la scelta delle parole.
Sembra uno di loro.
Prima pensavo che mio figlio fosse un estroverso come suo padre.
Ma ho capito in quel momento, in quella conversazione,
che il suo sorriso non era un desiderio di socializzare
con presunti sconosciuti.
Era un talismano che usava per proteggersi,
una capacità di sopravvivenza affinata nei ripetuti viaggi in ascensore.
Ha imparato ad attenuare la tensione generata dal colore della sua pelle
e che metteva a rischio la sua vita.
Sappiamo che il nostro cervello è predisposto al pregiudizio,
e un modo per contrastarlo è fermarsi e riflettere
sull'evidenza delle nostre supposizioni.
Quindi dobbiamo chiederci:
Quali supposizioni facciamo quando saliamo su un ascensore?
O su un aereo?
Come ci rendiamo conto del nostro pregiudizio inconscio?
Chi proteggono queste supposizioni?
Chi mettono a rischio?
Finché non ci facciamo queste domande
insistendo che le scuole, i tribunali, i dipartimenti di polizia
e tutte le istituzioni facciano lo stesso,
continueremo a permettere che il pregiudizio ci accechi.
E se lo facciamo,
nessuno di noi è veramente al sicuro.
Grazie.
数年前のことです
私は 当時ほんの５歳だった息子と 一緒に飛行機に乗っていました
息子はママと飛行機に 乗っていることに大興奮で
周りをくまなく見渡して 目に入るものや
人を観察していました
すると ある男の人を見て
「見て！ あの人パパに似てる！」と 言ったんです
その人の方に目をやると
夫には似ても似つかない人でした
何も共通点がないんです
そこで 機内を見渡してみると
その人が機内で唯一の 黒人男性であることに気づきました
こう 思いました
「そうか
黒人だからって 皆が似ているわけじゃないと
息子に言って聞かせなくちゃ」と
息子は 顔を上げて 私に言いました
「あの人が飛行機を 乗っ取らないといいね」
私が思わず 「え？ 何て言ったの？」と聞くと
息子は「あの人が飛行機を 乗っ取らないといいなと思って」と
私は「なんで そんなことを言うの？
パパはそんなことしないでしょう？」 と言いました
「うん そうだけどさ」と息子
「じゃあ なんで そんなことを言うの？」と私
すると息子はひどく悲しそうな顔をして
言いました
「なんでそんなこと 言ったんだろう
なんでそう思ったのか わからないよ」
私たちは深刻なまでに 人種で階層化された世界に生きているため
５歳児でさえ 何が起こりうるかを口にできます
悪事を働く者がいなくても
はっきりとした憎しみがなくても これが現実です
黒人であることが 犯罪を連想させることは
私の５歳の息子にまで 植え付けられていたのです
この連想は あらゆる子供たちと あらゆる人々に
忍び寄ります
私たちの思考は
世の中で目にする 人種間の格差と
その辻褄を合わせるための 言説によって形作られます
「あの人たちは犯罪者だ」
「あの人たちは暴力的だ」
「あの人たちは怖い人たちだ」
私の研究チームが 実験室に参加者を集めて
人の顔を見せる実験をすると
黒人の顔を見ることで よりはっきりと素早く
おぼろげな銃のイメージを 想起させることが分かりました
偏見によって 見えるものが変わるだけでなく
目を向けるものも変わります
凶悪犯罪について 考えるよう促すことで
白人の顔から目を離して 黒人の顔へと
目を向けうることも分かりました
警察官に被疑者確保や射撃や 逮捕についてイメージさせると
黒人の顔に目が向きがちであることも 分かりました
偏見は刑事司法制度の あらゆる側面に影響を及ぼします
死刑が求刑されている被告人の 膨大なデータを調べてみると
より肌が黒いことで 死刑を言い渡される可能性が
２倍以上になると分かりました
少なくとも被害者が 白人の場合はそうです
この影響は非常に大きく
犯罪の重大性や 被告人の魅力などを
調整してもなお 影響を及ぼすほどでした
どんな条件を調整しても
黒人はその身体的特徴である 黒さに応じて
刑罰を受けていたのでした
肌が黒ければ黒いほど
より死刑に処されやすいのです
偏見は教師が生徒を 叱る上でも影響します
同僚と行った研究では 全く同じ違反を繰り返した場合でも
教師は白人の中学生よりも 黒人の中学生の方を
罰しようと思うことが 分かりました
最近の研究では
教師が黒人の生徒を 集団として扱う一方で
白人の生徒を個人として 扱うことが分かりました
例えば 仮に ある黒人の生徒が悪さをし
その数日後に 別の黒人の生徒が 悪さをすると
教師は２人目の黒人の生徒に対して
まるで２度悪さをしたような 態度を取るのです
１人の子供の違反が
他の子供にも降りかかるのです
私たちは世界を理解するために 物事を分類します
私たちが常にさらされている 数々の刺激をコントロールし
それらに一貫性を見出すためです
分類する能力と それがもたらす偏見のおかげで
脳は より速く効率よく 判断を下すことができますし
私たちの脳は予測可能に思える パターンに本能的に従って
判断をします
しかし 分類することによって 素早い判断ができると同時に
分類は偏見を助長します
ですから 世界を見せてくれる 能力そのものによって
目をくらまされることもあるのです
分類は選択を容易にし
引っかかりを取り除きます
それでいて 重大な負の側面も 伴うのです
では 何ができるでしょうか？
私たちは偏見に囚われがちですが
常に偏見に基づいて 行動するわけではありません
偏見のスイッチを入れる 特定の条件もあれば
それを打ち消す条件もあるのです
例を挙げてみましょう
多くの人が Nextdoorという テック企業を知っているでしょう
この企業の目標は 地域を より強固で健全かつ安全にすることです
そこで この企業は オンラインスペースを提供し
近所の人たちが情報を集めて 共有できるようにしています
でも Nextdoorは やがて 人種プロファイリングに
欠陥があることに気づきました
典型的なケースでは
人々が窓の外を見て
白人ばかりが住む地域に 黒人がいることを見つけると
犯罪行為をしている証拠などなくても
その人は悪さをするに違いないと すぐに決めつけるのです
様々な意味で オンラインでの行動は
現実世界での行動を 反映しています
しかし 偏見を助長し 人種間の格差を深めるような
簡単に使えるシステムを作るなど あってはならないことです
偏見や格差は むしろ取り除くべきです
そこで Nextdoorの共同創設者が どうすればよいか
私を含め何人かに 相談しにきました
そこで気づいたのは プラットフォームの 人種プロファイリングを抑制するには
摩擦点を加えて
人々の拙速な行動を抑える必要が あるということでした
Nextdoorは選択を迫られ
行動を誘発するものすべてに対して
摩擦点を加えることにしました
どうしたかというと 簡単なチェックリストを追加したのです
チェックするのは３点です
１つ目に ユーザーに一呼吸置いて
「この人のどの行動を怪しいと 思ったか」を考えてもらいました
「黒人」という分類は 怪しさの理由にはなりません
２つ目は ユーザーに 人種とジェンダーだけではなく
身体的特徴を記してもらいました
３つ目に 多くの人々が 人種プロファイリングとは何であり
自分たちがそれをしていることも 知らないのだということに
気づきました
そこで Nextdoorは 定義を明らかにして
「これを厳しく禁止する」と 伝えたのです
空港や地下鉄の駅にある掲示に
「何か目にしたら 声を上げること」 というのがありますね
Nextdoorは これをもじりました
「何か怪しいものを目にしたら
具体的に言葉にすること」
単に人々の拙速な行動を 抑制するというやり方を使って
Nextdoorは人種プロファイリングを 75%も減らすことができたのです
私が人によく言われるのは
「すべての状況と文脈に 摩擦点を取り入れるのは無理だ
常に瞬時に判断を求められる人たちにとっては 特に無理があるはずだ」と
ですが 考えているよりも ずっと多くの状況に
摩擦点を導入することができるのです
カリフォルニアの オークランド警察と協力して
私は同僚たちと共に 重大な罪を何も犯していない人に対する
職務質問の数を減らせるよう 手を貸すことができました
私たちは警察官に
誰かを職務質問のために呼び止める前に こう自問するように求めました
「この人を呼び止めるのは 理性からの判断かどうか」
これは言い換えると
この人物を特定の犯罪と 結びつけるだけの
事前情報があるかどうかです
この質問を
警察官が職務質問中に 記入する書類に差し挟むことで
焦らず 立ち止まって
「どうしてこの人を呼び止めようと しているのか」と自問することになります
2017年に 理性に訴えるこの質問を 書類に追加する以前は
職務質問の件数は街全体で 32,000件ほどでした
翌年に 質問が追加されると
これが 19,000件に減りました
アフリカ系アメリカ人に対するものだけで 実に 43％も減ったのです
黒人への職務質問が減ったことで 街の治安は悪化しませんでした
それどころか 犯罪件数は減少を続け
すべての人にとって 街がより安全になったのです
不要な職務質問の件数を減らすことは 解決法のひとつです
もうひとつの解決法は 実際に行う職務質問の
質を上げることです
これにはテクノロジーが 役立ちます
ジョージ・フロイドの死について 皆が知っているのは
彼を助けようと集まった人々が 携帯電話のカメラを手にして
恐ろしく また命取りとなった 警察とのやり取りを録画していたからです
とはいえ 有効に活用できていない テクノロジーが多くあります
現在 アメリカ全土の警察は
ボディカメラの装着を 義務づけられているため
恐ろしく 限度を超えたような やり取りだけでなく
日常的なやり取りも録画されています
スタンフォード大学の 学際研究チームと協力して
機械学習技術を利用することで
やり取りを収めた大量のデータを 分析し始めています
日常業務としての車両停止の様子を よりよく理解するためです
ここで分かったのは
警察官が職務に徹した態度を 取っている場合であっても
黒人ドライバーに対する言葉遣いが
白人に対するよりも ぞんざいだということです
実際 警察官が使っている 言葉だけを頼りに
相手のドライバーが黒人か白人かを 予測することまでできたのです
問題は これらのカメラに 収められた映像の大半が
警察当局が 路上で何が起きているかを理解したり
警察官の訓練に 利用されたりしていないことです
これは大変遺憾です
日常業務の車両停止は どのようにして 死を招くことになるのでしょう
ジョージ・フロイドの事件は どのように起こったのでしょうか？
他の場合には どうだったのでしょうか？
私の一番上の息子は 16歳のときに
白人は自分を目にすると 恐怖を感じるのだと気づきました
エレベーターは 最悪の状況なのだそうです
ドアが閉まると
人々はエレベーターの狭い空間に
危険と結びつけるように 教えられてきた相手と閉じ込められます
息子は 相手が 居心地の悪そうなのを察知して
にっこり微笑みかけて 怖くないからと安心させます
息子が話しかけると
相手の身体のこわばりがほどけて
落ち着いて呼吸できるようになります
彼らは 息子の話しぶりや言葉遣い 言葉の選び方を好ましく感じます
自分と同じような人間だと 分かるのです
私はずっと 息子は父親に似て 根っから外向的なんだと思っていました
でも このことを息子と 話すうちに気づいたのです
息子の笑顔は 通りすがりの他人に 親しげに振る舞うためではなかったのだと
息子の笑顔は 我が身を守るための お守りだったのです
何千回もエレベーターに乗った経験から 自ら編み出したサバイバル法でした
自分の肌の色のせいで生じ 命までも危険にさらしかねない軋轢を
手なずける方法を 身につけつつあったのです
脳は偏見を持つように できているものです
その偏見を断ち切る方法のひとつは どうしてそう思ったのかを
立ち止まって振り返ることです
自分の胸に問わねばなりません
エレベーターに乗り込むときに どんな思い込みをしているのか と
飛行機はどうでしょう？
自分の抱いている無意識の偏見を 意識するには どうすればよいでしょう？
そういった思い込みに 守られるのは誰なのでしょう？
そして誰が危険に さらされるのでしょうか？
こうした問いを投げかけて
学校や法廷や警察当局をはじめ あらゆる機関が
この問いを考えるように 要求するまでは
私たちは 偏見に視界を 曇らされたままとなるでしょう
そうなってしまったなら
私たちの誰一人として 真の意味での安全は得られないのです
ありがとうございました
몇 년 전
저는 당시 다섯 살 밖에 안된 아들과 비행기를 탔습니다.
아이는 엄마와 비행기를 탄다는 것에 너무 신이 나있었죠.
여기저기 두리번 거리며 이것저것 살펴보고
사람들도 둘러보고요.
그러더니 한 남성을 보고는
"어, 우리 아빠랑 닮았어요!"하는 거예요.
그래서 그 남성 쪽을 봤는데
제 남편이랑 하나도 안 닮은 거예요.
전혀요.
그래서 비행기 안을 둘러봤는데
그가 기내에 유일한 흑인 남성이라는 사실을 깨달았죠.
그래서 생각했죠.
"좋아.
우리 아들이랑 얘기 좀 해야겠어.
흑인이 다 똑같이 생긴 건 아니라고 말이야."라고요.
아이가 고개를 들더니 저에게
"저 아저씨가 비행기를 강탈하지 않아야할텐데."하는 거예요.
"뭐? 뭐라고 했니?"라고 했더니
"저 아저씨가 비행기를 강탈하지 않았으면 한다고요."라고 하더군요.
"왜 그런 말을 하는 거니?
아빠가 비행기를 털지 않을 거라는 걸 알잖아."라고 했더니
"네, 네, 네, 알죠."라고 하더군요.
"그럼 왜 그런 말을 한 거니?"라고 물었더니
아들이 정말 슬픈 얼굴로 저를 쳐다보며
이렇게 말했어요.
"저도 제가 왜 그런 말을 했는지 모르겠어요.
제가 왜 그런 생각을 했는지요."
우리는 이렇게 심각한 인종적 계층화 속에 살고 있어서
다섯 살짜리라도 어떤 일이 일어날지를 알고 있습니다.
나쁜 짓을 하는 사람이 없더라도
노골적인 증오심이 없더라도 말이죠.
흑인과 범죄를 연관짓는 이 편견이
다섯 살 짜리 아들의 머릿속에까지 자리잡은 겁니다.
이런 생각은 우리 모두의 아이들,
우리 모두의 머릿속에 자리잡습니다.
우리의 생각은
우리가 세상에서 보는 인종차별에 의해 형성되고
이런 차별을 합리화시키는 이야기들에 길들여지죠.
"저 사람들은 범죄자들이야."
"저 사람들은 폭력적이야."
"저 사람들은 공포의 대상이야."
저희 연구팀이 사람들을 실험실로 데려와서
사람들의 얼굴을 보여줬는데
참가자들이 흑인의 얼굴을 볼 때 흐릿한 총의 이미지를
더 빨리, 더 선명하게 볼 수 있다는 걸 발견했습니다.
편견은 우리가 무엇을 보느냐를 통제할 뿐 아니라
어디를 보느냐까지도 통제합니다.
사람들에게 폭력적인 범죄를 생각해보라고 지시하면
흑인의 얼굴로 시선을 옮기고
백인의 얼굴에선 시선을 떼는걸 발견했습니다.
경찰관들에게 범인을 잡고 총을 쏘고 체포하라고 지시하는 것도
그들의 시선을 흑인에게 옮겨가게 하죠.
편견은 형사사법제도의 모든 측면을 병들게 할수도 있습니다.
사형선고를 받을 수 있는 피고인들의 대규모 데이터 세트에서
피부색이 더 검을수록 사형선고를 받을 확률이
두 배 이상 증가한다는 것을 발견했습니다.
적어도 피해자가 백인일 경우에는 말이죠.
피부색이 미치는 영향은 엄청납니다.
범죄의 심각성과
피고인의 매력을 통제했음에도 불구하고 말입니다.
무엇을 통제하든
흑인은 그들의 흑인성과 신체적 특징에
비례적으로 처벌받는다는 사실을 발견했습니다.
피부 색이 더 검을수록
더 죽어 마땅하다는 거죠.
편견은 선생님이 학생들을 훈육하는 방식에 영향을 끼치기도 합니다.
저와 동료들은
아이들이 계속해서 같은 규칙을 어겼을 때
선생님들은 백인 학생보다
흑인 학생을 더 엄격하게 훈육하려 한다는 것을 발견했습니다.
최근 연구에서는
선생님들이 흑인 학생들은 한 집단으로 묶어서 대하면서
백인 학생들은 개개인으로 대한다는 걸 발견했습니다.
예를 들어 흑인 학생 한 명이 잘못을 하고
며칠 뒤 다른 흑인 학생이 잘못을 하면
선생님은 두 번째 학생에게
마치 그 학생이 두 번째로 규칙을 어긴 것처럼 벌을 주는 거죠.
마치 한 아이의 잘못이
다른 아이에게 전가되기라도 하는 것처럼요.
우리는 세상을 이해하기 위해 분류를 하는데
우리가 끊임없이 받는 자극에 대해서
어느정도 통제와 일관성을 주장하기 위해서입니다.
분류에서 오는 편견은
뇌가 더 빠르고 효율적으로 판단을 내릴 수 있게 해주며,
본능적으로 예측가능해 보이는
패턴에 의존함으로써 이뤄집니다.
하지만 우리가 만들어내는 이 범주는 빠른 판단을 할 수 있게 해주는 동시에
편견을 강화시키기도 합니다.
우리가 세상을 볼 수 있도록 도와주는 것들이
동시에 세상을 제대로 볼 수 없게 만들기도 하는거죠.
별 힘 들이지 않고
선택을 할 수 있게 해주지만
동시에 많은 사람들이 희생자가 됩니다.
그럼 우리가 할 수 있는 게 뭘까요?
우린 모두 편견에 취약하지만
항상 편견에 따라 행동하진 않죠.
그 편견을 끌어내는 상황이 있는가 하면
편견을 잠재우는 상황이 있습니다.
예를 들어볼게요.
넥스트도어는 꽤 잘 알려진 기술 회사입니다.
더 단단하고, 건강하고, 안전한 동네를 만드는 것이 이 회사의 목표죠.
그래서 그들은 이웃들이 한 곳에 모여
정보를 공유할 수 있는 온라인 공간을 만들어 제공합니다.
그런데 넥스트도어는
곧 이 공간에 인종 프로파일링 문제가 있다는 걸 알게됐습니다.
전형적인 경우를 들자면
사람들이 창 밖을 내다봤을 때
주로 백인이 사는 그 동네에 흑인 남자가 있는 걸 봤을 때
그 남자가 뭔가 꿍꿍이가 있다고 빠른 판단을 내립니다.
그 남자가 범죄를 저질렀다는 증거도 없는데 말이죠.
어떻게 보면 사람들이 온라인에서 하는 행동은
우리가 세상에서 어떻게 행동하는지를 반영합니다.
하지만 우리가 원한건 이런 편견을 해소하기보다
편견을 증폭시키고 인종격차를 심화시킬 수 있는
사용하기 쉬운 시스템을 만드는 것을 원하진 않잖아요.
그래서 넥스트도어의 공동설립자는 저를 포함한 다른 사람들에게
어떻게 하면 좋을지 자문을 구해왔습니다.
그리고 이 공간에서의 인종 프로파일링을 방지하려면
제동을 걸어야한다는 것을 깨달았죠.
사람들이 속도를 줄일 수 있도록요.
그리고 넥스트도어는 선택의 기로에 놓였고
모든 충동을 거스르고
제동을 걸기로 했습니다.
간단한 체크리스트를 포함시킴으로써요.
세 가지 조항이 있었는데
첫째, 사용자들에게 잠시 멈추고
"이 사람이 뭘 하고있었길래 수상하다고 생각한 걸까?"라고 생각해보길 권했어요.
단지 "검은 피부색"은 의심의 이유가 될 수 없습니다.
둘째, 그 사람의 신체적 특징을 묘사하도록 권했습니다.
단순히 인종이나 성별만이 아니라요.
셋째, 넥스트도어는 곧 많은 사람들이
인종 프로파일링이 뭔지 모르고
일조하고 있다는 사실조차 모른다는 것을 발견했습니다.
그래서 넥스트도어는 인종 프로파일링의 의미를 설명하고
이는 엄격히 금지되어있다고 공지했습니다.
공항이나 지하철역에서 이런 문구를 본 적이 있으실겁니다.
"뭔가 보이면 신고하세요."
넥스트도어는 이걸 수정하고자 했습니다.
"뭔가 수상한 걸 본다면
상세히 얘기하세요."라고요.
이런 방법으로 사람들을 천천히 생각해보게 함으로써
인종 프로파일링을 75%까지 줄일 수 있었습니다.
사람들이 제게 자주 하는 말 중에 하나가
"모든 상황, 모든 맥락에 제동을 걸 수는 없잖아요.
순간적인 판단으로 행동하는 사람들은 특히나요."라는 말입니다.
하지만 알고보면 우리가 생각하는 것보다
훨씬 많은 상황에 제동을 걸 수 있습니다.
캘리포니아에 있는
오클랜드 경찰국과 일하면서
저와 제 동료들은 이곳의 경찰관들이
심각한 범죄를 저지르는 게 아닌 사람들을
불러세우는 일을 줄이도록 도왔습니다.
바로 누군가를 불러세우기 전
스스로에게 이렇게 질문하도록 함으로써요:
"이게 정보 주도형 판단인가?
아닌가?"
말하자면
이 사람과 연관된 어떤 특정 범죄에 대한
사전 정보가 있는가?
경찰관이 누군가의 차를 불러세울 때
써내야하는 양식 중 이 질문을 포함시킴으로써
경찰관들을 천천히, 잠시 멈추고
"내가 왜 이 사람을 세우려고 하지?" 하고 생각할 수 있도록 한 겁니다.
그 양식에 이런 정보 주도형 질문을 추가하기 전인 2017년에는
경찰관들은 도시 내에서 약 32,000번 차를 세웠습니다.
그 다음 해에 이 질문을 추가하자
19,000번으로 현저히 줄었죠.
흑인을 불러세우는 건 43%나 감소했습니다.
흑인들을 덜 세운다고 해서 도시가 더 위험해진 것도 아니었죠.
사실은 범죄율은 계속해서 줄어들었고
모두에게 더욱 안전한 도시가 되었습니다.
그러니까 해결방안 중 하나는 쓸데없이 차를 세우는 일을 줄이는거예요.
다른 방법은 경찰관들이 차를 세우면
타당한 이유가 있도록 분명히 하는 것입니다.
현대기술의 도움을 받아서요.
우리 모두 조지 플로이드의 죽음에 대해 알고 있죠.
그를 도와주려던 사람들이 휴대폰 카메라를 들고
그와 경찰간의 끔찍하고 치명적인 만남을 기록했기 때문에요.
하지만 좋은 방향으로 쓰이고 있지 않는 기술들이 많아요.
전국의 경찰서에서는
바디 카메라를 착용하도록 되어있는데
극단적이고 끔찍한 대치뿐만 아니라
일상적인 대치까지 모든 상황을 녹화할 수 있도록 말이죠.
스탠포드 대학의 학제간 팀과 함께
우리는 이 많은 대치들을 분석하기 위해
기계 학습 기술을 사용하기 시작했습니다.
일상에서 경찰이 차를 불러세울 때 일어나는 일을 잘 이해하기 위해서요.
연구 결과
경찰관이 전문적으로 행동할 때에도
흑인 운전자에게는 백인 운전자에게보다 덜 격식을 갖춰 대한다는 거였습니다.
경찰관들이 사용하는 단어 자체만 봐도
흑인 운전자를 대하는지 백인 운전자를 대하는지 추측할 수 있을 정도였죠.
문제는 카메라에 담긴 이 영상 대부분들이
경찰서에서
길 위에서 실제로 어떤 일이 일어나고 있는지 이해하거나
경찰관들을 훈련시키는 데에 사용되고 있지 않다는 점입니다.
안타까운 일이죠.
일상적인 이 일이 어떻게 죽음에 다다르는 대치가 되는걸까요?
조지 플로이드 사건에선 어떻게 이런 일이 생긴걸까요?
다른 사건에서는요?
저희 큰 아들이 열 여섯살이었을 때
아이는 백인들이 자신을 볼 때
두려워한다는 걸 발견했습니다.
그 중 엘리베이터가 최악이라고요.
문이 닫히면
그 협소한 공간에서
위험하다고 생각하도록 교육받은 사람과 함께 갇혀있어야하니까요.
저희 아들은 그 사람들이 불편해하는 걸 알아채고
미소를 지어 안심시키려고 합니다.
두려움을 좀 가라앉혀주려고요.
그가 얘기하기 시작하면
사람들이 안심을 합니다.
숨도 조금 편하게 쉬고요.
그들은 그의 지적 능력,
그의 어법, 그의 단어 선택에 안도합니다.
자기들과 같다는 거죠.
저는 아들이 아빠를 닮아 선천적으로 외향적이라고 생각했는데
아들과 그 대화를 하면서
아들이 미소 짓는 건
그 낯선 이들과 친해지고싶어서가 아니라는 걸 깨달았습니다.
그건 아들이 자신을 보호하기 위해 사용한 부적같은 것이었습니다.
수천 번 엘리베이터를 타고 내리며 갈고 닦은 생존 기술이었습니다.
자신의 피부색이 만들어 내는 긴장감과 이로 자신의 생명이 위험에 처하게 되는
긴장감을 수용하는 법을 배우고 있었던 거죠.
우리는 우리 뇌가 편견을 갖도록 설계돼있다는 걸 알고 있습니다.
그 편견을 깰 수 있는 방법 중 하나는
잠시 멈추고 가정의 증거에 대한 반성을 해보는 것입니다.
스스로에게 이렇게 물어봐야합니다:
엘리베이터에 탈 때 어떤 편견을 가지고 타나요?
비행기는요?
스스로가 무의식 중 가지고 있는 편견을 어떻게 자각할 수 있을까요?
이런 편견으로 인해 보호받게 될 사람은 누구이며
위험에 처하게 될 사람은 누구일까요?
우리 스스로에게 이런 질문을 하고
학교와 법정, 경찰서,
그리고 모든 기관이 그렇게 하도록 주장할 때까지
우리는 이런 편견들로
눈이 가려지게 될 것입니다.
그리고 그렇게 된다면
우리 모두 안전하지 못하게 될테죠.
감사합니다.
Een aantal jaar geleden
was ik op een vliegtuig met mijn zoon, die destijds vijf jaar oud was.
Mijn zoon was zo enthousiast om samen met mama op een vliegtuig te zitten.
Hij kijkt rond, bekijkt de dingen
en de mensen.
Hij ziet een man en zegt:
"Hey! Die man lijkt op papa!"
En ik kijk naar de man,
en hij leek absoluut niet op mijn man.
Helemaal niet.
Dus ik begon rond te kijken op het vliegtuig
en merk op dat deze man de enige zwarte man was op het vliegtuig.
En ik dacht:
"Oké,
ik ga een gesprek moeten voeren met mijn zoon
over hoe niet alle zwarte mensen op elkaar lijken."
Mijn zoon tilt zijn hoofd op en zegt tegen me:
"Ik hoop dat hij het vliegtuig niet berooft."
En ik zei: "Wat? Wat zei je?"
En hij zegt: "Ik hoop dat die man het vliegtuig niet berooft."
En ik zei: "Wel, waarom zou je dat zeggen?
Je weet dat papa nooit een vliegtuig zou beroven."
En hij zegt: "Ja, ja, wel, ik weet het."
En ik zei: "Waarom zou je dat zeggen?"
En hij kijkt naar mij met dit droevig gezicht,
en hij zegt:
"Ik weet niet waarom ik dat zei."
"Ik weet niet waarom ik dat dacht."
We leven met zo een ernstige raciale stratificatie
dat zelfs een vijfjarige
ons kan vertellen wat er hierna moet gebeuren.
Zelfs zonder slechte bedoeling.
Zelfs zonder expliciete haat.
Deze associatie tussen zwartheid en misdaad
is binnengedrongen in de geest van mijn vijfjarige.
Het baant zich een weg in al onze kinderen,
in ons allemaal.
Onze geesten worden gevormd door raciale vooroordelen
die we in de wereld zien
en de verhalen die ons helpen betekenis te geven aan de ongelijkheden.
"Die mensen zijn criminelen."
"Die mensen zijn gewelddadig."
"Die mensen moeten worden gevreesd."
Toen mijn onderzoeksteam mensen in een lab bracht
en hen blootstelde aan gezichten,
vonden we dat zwarte gezichten zorgden dat vage beelden van geweren
met meer zekerheid en snelheid werden herkend.
Vooroordelen controleren niet enkel wat we zien,
maar ook waar we kijken.
Wanneer mensen werden geprompt om aan gewelddadige misdaden te denken,
leidde dit hun blik naar het zwarte gezicht
en weg van een wit gezicht.
Het prompten van politieagenten
om na te denken over oppakken, schieten en arresteren,
leidt ook hun blik naar zwarte gezichten.
Vooroordelen kunnen alle aspecten van ons strafrechtsysteem infecteren.
In een grote dataset van potentiële doodstrafveroordelingen
vonden we dat er zwarter uitzien hun kans meer dan verdubbelde
om de doodstraf te krijgen --
tenminste als hun slachtoffers wit waren.
Dit effect is significant
zelfs als we rekening hielden met de ernst van de misdaad
en de aantrekkelijkheid van de beklaagde.
Ongeacht waarmee we rekening hielden,
vonden we dat zwarte mensen werden gestraft
in proportie tot de zwartheid van hun fysieke kenmerken.
Hoe zwarter,
hoe meer doodwaardig.
Vooroordelen beïnvloeden ook hoe leerkrachten studenten straffen.
Mijn collega's en ik vonden dat leerkrachten de neiging hadden
om een zwarte student op de middelbare school
harder te straffen dan een witte student
voor dezelfde herhaalde overtredingen.
In een recente studie
vonden we dat leerkrachten zwarte studenten als groep behandelen,
maar witte studenten als individuen.
Bijvoorbeeld,
als een zwarte student zich misdraagt
en dan een andere zwarte student zich een paar dagen later misdraagt,
reageert de leerkracht op de tweede zwarte student
alsof die zich twee keer heeft misdragen.
Het is alsof de zonden van één kind
op de ander worden overgedragen.
We creëren categorieën om betekenis te geven aan de wereld,
om er controle over uit te oefenen en een coherent beeld te scheppen
van de stimuli die ons constant bombarderen.
Categorisatie
en de vooroordelen die dat veroorzaakt,
laten onze hersenen sneller en meer efficiënt oordelen vellen.
En we doen dit door instinctief te steunen
op patronen die voorspelbaar lijken.
Maar net zoals de categorieën helpen bij het maken van snelle beslissingen,
gaan deze ook vooroordelen versterken.
Dus datgene wat ons helpt om de wereld te zien,
kan ons ook ervoor blind maken.
Ze maken onze keuzes moeiteloos,
vrij van frictie.
Maar ze eisen een hoge tol.
Maar wat kunnen wij doen?
We zijn allemaal kwetsbaar voor vooroordelen,
maar we handelen niet steeds naar deze vooroordelen.
Er zijn bepaalde condities die vooroordelen aanwakkeren
en andere condities die deze kunnen dempen.
Laat me een voorbeeld geven.
Veel mensen kennen het techbedrijf Nextdoor.
Hun doel is het creëren
van sterkere, gezondere, veiligere buurten.
En dus bieden zij deze online ruimte aan
waar buren bijeen kunnen komen en informatie delen.
Echter, Nextdoor kwam er snel achter dat ze een probleem hadden
met raciale profilering.
In een typisch geval
zouden mensen uit hun raam kijken
en een zwarte man zien in een witte buurt.
Ze zouden snel oordelen dat deze niks goeds van plan was,
zelfs als hier geen enkel bewijs was van crimineel gedrag.
Op vele vlakken is hoe we ons online gedragen
een reflectie van hoe we ons in de wereld gedragen.
Maar wat we niet willen is een makkelijk te gebruiken systeem creëren
dat vooroordelen versterkt en raciale ongelijkheden uitdiept,
in plaats van deze te ontmantelen.
Dus de oprichters van Nextdoor namen contact op met mij en ook anderen
om na te gaan wat er aan gedaan kon worden.
En ze realiseerden zich dat om etnische profilering aan te pakken,
ze frictie moeten toevoegen,
wat wil zeggen dat ze mensen moesten gaan afremmen.
Nextdoor moest een keuze maken
en tegen elke impuls in
beslisten ze om frictie toe te voegen.
Dit deden ze door het toevoegen van een simpele checklist.
Die behelsde drie items.
Eerst werd er de gebruiker gevraagd om te pauzeren
en te denken: wat was deze persoon aan het doen dat hem verdacht maakte?
De categorie 'zwarte man' was geen grond voor verdenking.
Ten tweede werd aan de gebruiker gevraagd
om de fysieke eigenschappen te beschrijven,
niet enkel hun ras en gender.
Ten derde realiseerden ze zich
dat veel mensen niet leken te weten wat etnische profilering was,
noch dat ze dit zelf deden.
Dus voorzag Nextdoor een definitie
en vertelde hen dat het strikt verboden was.
De meesten hebben deze tekens gezien
op de luchthaven en in metro stations:
"Als je iets ziet, zeg iets."
Nextdoor heeft dit proberen aanpassen.
"Als je iets verdacht ziet,
zeg dan iets specifiek."
En door deze strategie te gebruiken, door het afremmen van mensen,
slaagde Nextdoor er in raciale profilering te verminderen met 75 procent.
Mensen zeggen vaak tegen mij:
"Je kan geen frictie toevoegen in elke situatie, in elke context,
en vooral voor mensen die altijd razendsnel beslissingen nemen."
Maar het blijkt dat we frictie kunnen toevoegen
in meer situaties dan we denken.
Werkend bij de politie in Oakland
in Californië,
konden ik en een aantal van mijn collega's hen helpen
bij het verminderen van het aantal stops dat ze maakten
van mensen die geen ernstige misdrijven aan het plegen waren.
En we deden dit door agenten aan te zetten
om zichzelf een vraag te stellen bij elke aanhouding die ze maakten:
is deze aanhouding informatiegestuurd,
ja of nee?
Met andere woorden:
heb ik voorafgaande informatie om deze specifieke persoon te linken
aan een specifiek misdrijf?
Door deze vraag toe te voegen
aan het formulier dat agenten invulden bij een aanhouding,
vertraagden zij, pauzeerden zij,
dachten ze: waarom overweeg ik om deze persoon te stoppen?
In 2017,
voor we de informatiegestuurde vraag hadden toegevoegd aan het formulier,
maakten agenten rond de 32.000 stops over de hele stad.
In het volgende jaar, na het toevoegen van de vraag,
daalde dit naar 19.000 stops.
De stops van Afro-Amerikanen daalde met 43 procent.
Het minder stoppen van zwarte mensen maakte de stad niet gevaarlijker.
De criminaliteitscijfers bleven verder dalen
en de stad werd veiliger voor iedereen.
Een oplossing kan zijn
om het aantal onnodige stops te verminderen.
Een andere is het verbeteren van de kwaliteit van de stops
die agenten maken.
En technologie kan ons hierbij helpen.
We kennen allemaal George Floyd's dood,
omdat mensen die hem probeerden te helpen gsm-camera's bijhadden
en de afschuwelijke confrontatie met de politie vastlegden.
Maar we hebben allerlei technologie waar we geen gebruik van maken.
Politiekorpsen doorheen het land
dragen nu verplicht bodycams.
Bijgevolg hebben we niet enkel beelden van gruwelijke confrontaties,
maar ook van alledaagse interacties.
Samen met een interdisciplinair team aan Stanford
begonnen we gebruik te maken van machinaal-lerentechnieken
voor het analyseren van een groot aantal van deze confrontaties.
Dit om beter te begrijpen wat er gebeurt bij routinematige verkeersstops.
We vonden dat zelfs wanneer de agenten zich professioneel gedroegen,
ze minder respectvol spraken tegen zwarte dan tegen witte bestuurders.
We konden zelf op basis van het woordgebruik van de agenten alleen
voorspellen of ze tegen een zwarte of witte bestuurder aan het praten waren.
Het probleem is hier dat de meerderheid van de beelden van deze camera's
niet wordt benut in politiekorpsen
om beter te begrijpen wat op straat gebeurt
of om agenten te trainen.
En dat is spijtig.
Hoe draait een routineaanhouding uit op een dodelijke situatie?
Hoe gebeurde dit in het geval van George Floyd?
Hoe gebeurde dit in andere gevallen?
Toen mijn oudste zoon 16 jaar was,
ontdekte hij dat wanneer witte mensen naar hem kijken,
ze angst ervaren.
"Liften zijn het ergste", zei hij.
Als de deuren sluiten,
zitten mensen vast in deze kleine ruimte
met iemand die ze hebben leren associëren met gevaar.
Mijn zoon voelt dat ze zich oncomfortabel voelen
en hij lacht om hen op hun gemak te stellen,
om hun angsten te verminderen.
Wanneer hij spreekt,
ontspannen hun lichamen.
Ze ademen rustiger.
Ze nemen plezier in zijn ritme,
zijn uitspraak, zijn woordkeuze.
Hij klinkt als een van hen.
Vroeger dacht ik dat mijn zoon zoals zijn vader een extravert was.
Maar ik realiseerde mij dat op dat moment in die conversatie
zijn glimlach geen teken was dat hij contact wou maken
met zogenaamde vreemden,
maar een talisman die hij gebruikte om zichzelf te beschermen,
een overlevingsvaardigheid die hij met duizenden liftritten had aangescherpt.
Hij leerde zich aan te passen aan de spanning die zijn kleur genereerde
en die zijn leven in gevaar bracht.
We weten dat onze hersenen bedraad zijn voor vooroordelen,
en een manier om deze vooroordelen te verstoren
is pauzeren en reflecteren over het bewijs van onze aanname.
Dus we moeten ons zelf vragen:
welke aannames nemen we mee wanneer we in een lift stappen?
Of op een vliegtuig?
Hoe maken we onszelf bewust van onze onbewuste vooroordelen?
Wie houden deze aannames veilig?
Wie brengen ze in gevaar?
Totdat we onszelf deze vragen stellen
en erop staan dat onze scholen, gerechten en politiekorpsen
en ieder instituut hetzelfde doen,
blijven we vooroordelen toelaten
om ons te verblinden.
En wanneer we dat doen,
is niemand echt veilig.
Bedankt.
Há uns anos,
eu ia num avião com o meu filho que, na época, tinha apenas cinco anos.
O meu filho estava muito excitado por ir naquele avião com a mãe.
Olha a toda a volta, verificando as coisas
e observa as pessoas.
Vê um homem e diz:
"Olha! Aquele homem parece o pai!"
Eu olho para o homem
e ele não se parece nada com o meu marido,
nem um pouco.
Então começo a olhar por todo o avião
e reparo que aquele homem era o único homem negro no avião.
E pensei:
"Tudo bem.
"Vou ter de ter uma conversinha com o meu filho
"sobre como nem todos os negros serem parecidos."
O meu filho levanta a cabeça e diz-me:
"Espero que ele não roube o avião."
E eu disse: "O quê? O que é que disseste?"
E ele responde: "Espero que aquele homem não roube o avião."
Então eu disse: "Porque é que dizes isso?
"Sabes que o pai não roubaria um avião."
E ele diz: "Sim, sim, bem, eu sei."
Então eu disse: "Então, por que é que disseste isso?"
Ele olhou para mim com uma cara muito triste
e disse:
"Não sei porque é que disse isso.
"Não sei porque é que pensei nisso."
Estamos a viver uma estratificação racial tão profunda
que até uma criança de cinco anos pode dizer-nos o que vai acontecer em seguida
mesmo sem nenhum malfeitor,
mesmo sem ódio explícito.
Essa associação entre pessoas negras e crime
entrou na mente do meu filho de cinco anos.
Entra na mente de todas as nossas crianças,
de todos nós.
As nossas mentes são modeladas pelas disparidades raciais
que vemos no mundo
e as narrativas que nos ajudam a entender as disparidades que vemos:
"Aquelas pessoas são criminosas."
"Aquelas pessoas são violentas."
"Devemos temer aquelas pessoas."
Quando a minha equipa de investigação levou pessoas para o meu laboratório
e lhes mostrou rostos,
descobrimos que mostrar-lhes rostos negros levou-as a ver imagens de armas desfocadas
com maior nitidez e mais depressa.
O preconceito não só pode controlar o que vemos,
mas também para onde olhamos.
Descobrimos que induzir pessoas a pensarem em crimes violentos
pode levá-las a dirigir os olhos para um rosto negro
e desviá-los de um rosto branco.
Estimular polícias a pensar em capturar e disparar
e prender
também leva os olhos deles na direção de rostos negros.
O preconceito pode infetar todos os aspetos
do nosso sistema de justiça criminal.
Num grande conjunto de dados de réus elegíveis para a pena morte,
descobrimos que ser mais negro mais que duplicou as hipóteses desses réus
de receberem uma sentença de morte,
pelo menos quando as vítimas deles eram brancas.
Esse efeito é significativo
mesmo que controlássemos a gravidade do crime
e a atração do réu.
Fosse o que fosse que controlámos,
descobrimos que as pessoas negras eram punidas
na proporção da negritude das suas características físicas:
quanto mais negras, mais merecedoras de morte.
O preconceito também pode influenciar
a forma como os professores ensinam os alunos.
Os meus colegas e eu descobrimos que os professores exprimem o desejo
de castigar um aluno negro do ensino médio mais severamente
do que um aluno branco
pelas mesmas infrações repetidas.
Num estudo recente,
estamos a descobrir que os professores tratam os alunos negros como um grupo
mas tratam os alunos brancos como indivíduos.
Se, por exemplo, um aluno negro se porta mal
e um aluno negro diferente se porta mal uns dias depois,
o professor reage àquele segundo estudante negro
como se ele se tivesse portado mal duas vezes.
É como se os erros de uma criança
se empilhassem em cima de outra.
Criamos categorias para entender o mundo,
para impor algum controlo e coerência
aos estímulos com que estamos constantemente a ser bombardeados.
A categorização e o preconceito que isso semeia
permite que o nosso cérebro faça julgamentos mais depressa e eficazmente,
e fazemos isso instintivamente com base em padrões
que parecem previsíveis.
Tal como as categorias que criamos nos permitem tomar decisões rápidas,
também reforçam os preconceitos.
Então, as mesmas coisas que nos ajudam a ver o mundo
também podem impedir-nos de o ver.
Tornam simples as nossas escolhas,
sem conflitos.
No entanto, cobram um preço caro.
Então o que podemos fazer?
Todos somos vulneráveis a preconceitos,
mas não agimos sempre com preconceitos.
Há certas condições que podem trazer o preconceito à tona
e outras condições que podem abafá-lo.
Vou dar-vos um exemplo.
Muitas pessoas conhecem a empresa de tecnologia Nextdoor.
Todo o seu objetivo é criar bairros mais fortes, mais saudáveis ​​e seguros.
Assim, oferecem um espaço "online"
onde os vizinhos podem reunir-se e partilhar informações.
No entanto, a Nextdoor cedo descobriu que tinham um problema
com o perfil racial.
No caso típico,
as pessoas olhavam pela janela
e viam um homem negro no seu bairro quase todo branco
e logo julgavam rapidamente que ele estava a preparar alguma,
mesmo quando não havia nenhum indício de delito criminal.
De muitas formas, a forma como nos portamos "online"
é um reflexo de como nos portamos no mundo.
Mas não queremos criar um sistema fácil de usar
que possa amplificar o preconceito e aprofundar as disparidades raciais,
em vez de desmontá-los.
Então, o cofundador da Nextdoor procurou-me a mim e a outros
para tentar descobrir o que fazer.
E perceberam que, se restringissem o perfil racial na plataforma,
iam ter de adicionar conflitos;
isto é, eles teriam de acalmar as pessoas.
Então, a Nextdoor teve de fazer uma escolha,
e contra todos os impulsos,
decidiram adicionar o conflito.
Fizeram isso adicionando uma lista de verificação simples.
A lista tinha três itens.
Primeiro, pediam aos utilizadores que fizessem uma pausa e pensassem:
"O que é que aquela pessoa estava a fazer que o tornou suspeito?"
A categoria "homem negro" não é motivo para suspeita.
Segundo, pediam aos utilizadores
para descreverem as características físicas,
não apenas a sua etnia e género.
Terceiro, eles perceberam que muitas pessoas
pareciam não saber o que era um perfil racial,
nem que estavam envolvidos nisso.
Então a Nextdoor forneceu-lhes uma definição
e disse-lhes que aquilo era estritamente proibido.
Muitos de vocês já viram esses sinais nos aeroportos
e nas estações de metro: "Se vir alguma coisa, diga alguma coisa."
A Nextdoor tentou modificar isso.
"Se vir alguma coisa suspeita,
"diga uma coisa específica."
Usando esta estratégia, fazendo as pessoas caírem em si,
a Nextdoor conseguiu conter o perfil racial em 75%.
Agora, as pessoas costumam dizer-me:
"Não podemos adicionar conflitos em todas as situações, em todo o contexto,
"especialmente em pessoas que tomam decisões em frações de segundos."
Mas acontece que podemos adicionar conflitos
em mais situações do que pensamos.
Trabalhando com o Departamento de Polícia de Oakland, na Califórnia,
eu e vários colegas conseguimos ajudar o departamento
a reduzir o número de detenções que eles faziam
de pessoas que não estavam a cometer crimes graves.
Fizemos isso incentivando os agentes
a interrogarem-se antes de cada detenção que fizessem:
"Esta detenção é motivada pela inteligência, sim ou não?
"Por outras palavras,
"eu tenho informações prévias para relacionar esta pessoa em particular
"com um crime específico?"
Ao adicionar esta pergunta
no formulário que os agentes preenchem durante uma detenção,
eles caem em si, fazem uma pausa e pensam:
"Porque é que estou a considerar deter esta pessoa? "
Em 2017, antes de adicionarmos esta pergunta inteligente ao formulário,
os agentes fizeram cerca de 32 000 detenções pela cidade.
No ano seguinte, com a adição desta pergunta,
as detenções caíram para 19 000.
Só as detenções de afro-americanos caíram em 43%.
E deter menos pessoas negras não tornou a cidade mais perigosa.
Na verdade, a taxa de criminalidade continuou a cair,
e a cidade ficou mais segura para todos.
Portanto, uma solução pode vir da redução do número de detenções desnecessárias.
Outra solução pode vir da melhoria da qualidade das detenções
que os agentes fazem.
Aqui, a tecnologia pode ajudar-nos.
Todos ouvimos falar da morte de George Floyd
porque aqueles que tentaram ajudá-lo seguravam câmaras de telemóvel
para registar aquele terrível e fatal encontro com a polícia.
Mas temos todo o tipo de tecnologia que não estamos a usar como deve ser.
Os departamentos de polícia em todo o país
são hoje obrigados a usar câmaras junto ao corpo
por isso temos gravações não só dos encontros mais extremos e terríveis
como de interações quotidianas.
Com uma equipa interdisciplinar em Stanford,
começámos a usar técnicas de aprendizagem de máquinas
para analisar grande quantidade de encontros.
Isto é para entender melhor o que acontece nos "auto-stops" rotineiros.
Descobrimos que,
mesmo quando os polícias se portam profissionalmente,
falam com os motoristas negros com menos respeito do que com os motoristas brancos.
De facto, segundo as palavras que os agentes usam,
pudemos prever se eles estavam a falar com um motorista negro ou branco.
O problema é que a grande maioria das filmagens dessas câmaras
não é utilizada pelos departamentos da polícia
para perceberem o que está a acontecer nas ruas
ou para treinar agentes.
E isso é uma pena.
Como um "auto-stop" de rotina se transforma num encontro mortal?
Como é que isso aconteceu no caso de George Floyd?
Como é que isso aconteceu com outros?
Quando o meu filho mais velho tinha 16 anos,
ele descobriu que, quando os brancos olham para ele,
eles sentem medo.
Os elevadores são os piores, disse ele.
Quando essas portas se fecham,
as pessoas ficam presas naquele pequeno espaço
com alguém que aprenderam a associar com perigo.
O meu filho sente o desconforto deles
e sorri para os pôr à vontade,
para acalmar os seus medos.
Quando ele fala,
os corpos deles relaxam.
Eles respiram mais facilmente.
Sentem prazer na sua cadência,
na sua dicção, na sua escolha das palavras.
Ele soa como um deles.
Eu pensava que o meu filho era um extrovertido natural como o pai.
Mas naquele momento, naquela conversa, percebi
que o sorriso dele não era um sinal
de que ele queria relacionar-se com estranhos.
Era um talismã que ele usava para se proteger,
uma aptidão de sobrevivência que ele aperfeiçoou nas viagens de elevador.
Ele estava a aprender a ajustar a tensão que a cor da sua pele gerava
e que colocava em risco a sua vida.
Sabemos que o cérebro está programado para o preconceito,
e uma maneira de interromper esse preconceito é fazer uma pausa e refletir
na evidência das nossas suposições.
Então, precisamos de perguntar:
Que suposições trazemos quando entramos num elevador?
Ou num avião?
Como tomamos consciência dos nossos preconceitos inconscientes?
Quem é que se sente seguro com essas suposições?
Quem é que elas colocam em risco?
Enquanto não fizermos essas perguntas
e não insistirmos que as escolas, os tribunais e os departamentos policiais
e todas as instituições façam o mesmo,
continuaremos a permitir que os preconceitos nos ceguem.
E se assim for,
nenhum de nós está verdadeiramente seguro.
Obrigada.
Há alguns anos,
eu estava em um voo com meu filho, que tinha apenas cinco anos na época.
Meu filho estava tão empolgado por estar naquele avião com a mãe dele.
Ele olhava tudo a nossa volta, e mexia em tudo que via,
e ficava olhando as pessoas.
Até que viu um homem e disse:
"Olha, esse homem parece o papai!"
Então, olhei para o homem,
e ele não parecia em nada com o meu marido.
Nada mesmo.
A seguir, comecei a reparar nas pessoas ao redor
e notei que esse homem era o único homem preto no avião.
Então pensei:
"Muito bem,
acho que terei de conversar com meu filho sobre isso,
sobre como nem todas as pessoas pretas são iguais".
Meu filho levanta a cabeça e me diz:
"Espero que ele não roube o avião".
Então falei: "O quê? O que você disse?"
E ele respondeu: "Bem, espero que aquele homem não roube o avião".
Daí, perguntei: "Por que você disse isso?
Você sabe que seu pai nunca roubaria um avião".
Então ele disse: "Sim, sim, sim, eu sei".
"Mas por que disse isso?", perguntei.
Daí ele me olhou com uma expressão muito triste
e falou:
"Não sei por que disse isso.
Não sei por que pensei assim".
Vivemos uma estratificação racial tão grande
que até mesmo um menino de cinco anos conseguia prever o que esperar,
mesmo que não houvesse malfeito algum,
mesmo sem o ódio explícito.
Essa associação entre pele negra e crime
invadiu a cabecinha do meu filho de cinco anos de idade.
Ela invade a cabecinha de todas as crianças.
Ela está dentro de todos nós.
Nossas mentes são moldadas pelas discrepâncias raciais
que vemos mundo afora
e pelas narrativas que nos ajudam a dar sentido às diferenças:
"Essas pessoas são criminosas";
"Essas pessoas são violentas";
"Devemos ter medo dessas pessoas".
Quando minha equipe de pesquisadores trouxe pessoas ao laboratório
e mostrou alguns rostos a elas,
descobrimos que elas associavam
o rosto das pessoas pretas a armas de fogo
com muita clareza e rapidez.
O preconceito não controla apenas o que vemos,
mas para onde olhamos.
Percebemos que induzir as pessoas a pensarem sobre violência
faz com que dirijam o olhar para o rosto de uma pessoa preta,
e não para o rosto de uma pessoa branca.
Induzir policiais a pensar em capturas, tiroteios e prisões
faz com que eles pousem o olhar em rostos de pessoas pretas também.
O preconceito infecta todos os aspectos do nosso sistema de justiça penal.
Num grande grupo de dados de presidiários no corredor da morte,
verificamos que parecer mais preto dobrava as chances de condenação
a uma pena de morte,
ao menos quando as vítimas eram brancas.
O resultado é significante,
embora tenhamos controlado a gravidade do crime
e quão atraente era o réu.
Não importa o que é controlado,
detectamos que pessoas pretas são punidas
na proporção da negritude das características físicas que possuem:
quanto mais preta é a cor da pele,
mais merecedor da pena de morte.
O preconceito também influencia como professores disciplinam os alunos.
Meus colegas e eu descobrimos que professores tendem
a disciplinar com mais severidade um aluno preto do ensino fundamental
que um branco pelas mesmas repetidas infrações.
Num estudo recente,
foi observado que professores lidam com alunos pretos como um grupo,
mas tratam os brancos como indivíduos.
Se, por exemplo, um aluno preto não se comporta adequadamente,
e dias depois outro aluno preto apresenta o mesmo mau comportamento,
o professor reagirá a esse segundo aluno
como se ele tivesse se comportado mal em dobro.
É como se os pecados de uma criança
fossem empilhados sobre os da outra.
Criamos categorias para dar sentido ao mundo,
para termos algum controle e coerência
sobre estímulos com que somos bombardeados incessantemente.
A categorização e o preconceito que ela semeia
permitem que nossos cérebros sejam mais rápidos e eficientes em julgar,
e fazemos isso por causa dessa instintiva confiança em padrões
que parecem previsíveis.
Todavia, as mesmas classificações que nos permitem decidir com rapidez
também reforçam estereótipos.
Portanto, as mesmas coisas que nos ajudam a ver o mundo
também podem nos cegar para ele.
Elas tornam nossas escolhas automáticas,
livres de resistência.
Ainda assim, cobram caro por isso.
Então, o que podemos fazer?
Estamos todos vulneráveis ao preconceito,
mas nem sempre agimos dessa forma.
Existem algumas situações que trazem o preconceito à tona,
e outras que podem camuflá-lo.
Deixem que eu dê um exemplo a vocês.
Muitas pessoas estão familiarizadas com a empresa de tecnologia Nextdoor.
O objetivo deles é criar vizinhanças mais fortes, saudáveis e seguras.
Por isso oferecem um espaço on-line
no qual os vizinhos podem se reunir e compartilhar informações.
No entanto, a empresa logo descobriu que havia um problema
com discriminação por perfil racial.
Em um caso típico,
as pessoas olhavam pela janela
e observavam um homem preto em uma vizinhança de maioria branca,
faziam um julgamento rápido de que aquele homem tinha atitude suspeita
ainda que não houvesse evidência alguma de infrações criminosas.
Em muitos aspectos, o comportamento on-line
é um reflexo de como agimos no dia a dia.
Entretanto, não queremos criar uma interface amigável
que amplifique o preconceito e aprofunde as diferenças raciais,
ao invés de desconstruir essas questões.
Então, um dos cofundadores da Nextdoor me contatou e outros colegas
a fim de procurarmos uma solução.
Eles entenderam que, para reduzir o preconceito racial na plataforma,
teriam de adicionar resistência.
A ideia era frear os usuários.
Assim, a empresa tinha uma escolha a fazer
e, para prevenir essas ações impulsivas,
decidiram adicionar resistência.
Eles fizeram isso criando um simples questionário.
Havia três itens nele:
primeiro, era pedido ao usuário para parar
e pensar: "O que aquela pessoa estava fazendo que a tornava suspeita?"
A resposta "homem preto" não serviria para identificar alguém como suspeito.
Segundo, eles pediram ao usuário
para descrever as características da pessoa, não apenas o gênero e a etnia.
Terceiro, eles perceberam que muitas pessoas
pareciam não saber o que era discriminação por perfil racial
nem que elas estavam agindo dessa maneira.
Então a Nextdoor explicou o conceito para elas
e estabeleceu que esse tipo de coisa era completamente proibida.
A maioria já deve ter visto essas placas nos aeroportos
e em algumas estações de metrô: "Se vir alguma coisa, diga alguma coisa".
A Nextdoor tentou modificar a frase:
"Se vir algo suspeito,
diga algo específico".
E, ao usar a estratégia de meramente fazer os usuários pararem pra pensar,
a Nextdoor foi capaz de reduzir a discriminação por perfil racial em 75%.
Mas as pessoas sempre me dizem:
"Você não pode adicionar resistência em todas as situações e contextos
e, principalmente, com pessoas que tomam decisões rápidas o tempo todo".
Mas, obviamente, resistência pode ser adicionada
em mais situações do que se pode imaginar.
Trabalhando com o departamento de polícia de Oakland, na Califórnia,
meus colegas e eu conseguimos ajudá-los
a reduzir o número de abordagens
de pessoas que não estavam cometendo nenhum crime grave.
Fizemos isso provocando os policiais
a se perguntarem antes de cada abordagem:
"Esta abordagem é motivada por alguma informação concreta?
Sim ou não?"
Em outras palavras,
"Tenho alguma informação prévia para relacionar essa pessoa em particular
a algum crime específico?"
Ao adicionar essa pergunta
ao formulário que os policiais preenchem durante uma abordagem,
eles saem do automático, param,
pensam: "Por que estou cogitando pedir para essa pessoa estacionar?"
Em 2017, antes de incluirmos essa pergunta ao formulário,
os policiais fizeram 32 mil abordagens na cidade.
No ano seguinte, com a adição da pergunta,
o número de abordagens caiu para 19 mil.
Apenas as abordagens em afro-americanos caíram 43%.
Abordar menos pessoas pretas não tornou a cidade mais perigosa.
Na verdade, a taxa de crimes continuou a cair,
e a cidade se tornou segura para todos.
Então, uma das soluções pode vir da redução de abordagens desnecessárias.
Uma outra solução pode vir da melhora na qualidade dessas abordagens
que os policiais fazem.
A tecnologia pode nos ajudar nesse ponto.
Todos ficamos sabendo sobre a morte de George Floyd
porque aqueles que tentaram ajudá-lo empunharam as câmeras dos smartphones
para gravar aquele terrível e fatal encontro com a polícia.
Mas temos todos os tipos de tecnologia das quais não fazemos um bom uso.
Departamentos de polícia pelo país
são agora obrigados a adotar câmeras acopladas ao corpo dos policiais.
Dessa forma, há gravações não apenas dos encontros mais terríveis e violentos,
mas também gravações das interações diárias.
E, com uma equipe multidisciplinar em Stanford,
começamos a usar técnicas de aprendizado de máquina
para analisar um grande número de confrontos.
Isso, para entendermos melhor o que ocorre em abordagens no trânsito.
O que descobrimos foi
que, mesmo quando os policiais se comportam com profissionalismo,
motoristas pretos são mais desrespeitados do que motoristas brancos.
Na verdade apenas com palavras usadas pelos policiais,
conseguimos prever se eles estão falando com um motorista preto ou branco.
O problema está no fato de que a grande maioria das filmagens dessas câmeras
não são utilizadas pelas autoridades
para entender o que está acontecendo nas ruas
ou para treinar policiais.
E isso é uma pena.
Como uma abordagem de rotina acaba em um encontro mortal?
Como isso aconteceu no caso de George Floyd?
Como acontece em outros casos?
Quando meu filho mais velho tinha 16 anos,
percebeu que, quando pessoas brancas o viam,
sentiam medo.
"Elevadores eram os piores lugares", ele dizia.
Quando as portas se fechavam,
as pessoas ficavam presas naquele espaço minúsculo
com alguém que eles foram ensinados a associar com perigo.
Meu filho sentia o desconforto deles,
e então sorria para tranquilizá-los,
para acalmar o medo deles.
Quando ele falava,
o corpo das pessoas relaxava.
Elas respiravam com maior facilidade.
Sentiam prazer no seu tom de voz,
sua dicção e na escolha das palavras:
meu filho soava como um branco.
Eu costumava a pensar que ele era naturalmente extrovertido como o pai,
mas soube naquele momento, naquela conversa,
que o sorriso dele não era um sinal de que tinha vontade de se aproximar
de pessoas estranhas.
Era um talismã que usava para proteção,
uma habilidade de sobrevivência que adquiriu ao entrar nos elevadores.
Ele aprendeu a amenizar as tensões que a sua cor da pele criava.
E isso colocava a vida dele em risco.
Sabemos que o cérebro está programado para criar estereótipos,
e uma forma de interromper o preconceito é parar e pensar
nas evidências de nossas conjeturas.
Portanto, precisamos nos questionar:
"Que tipo de hipóteses levantamos ao pisar dentro de um elevador?
Ou de um avião?";
"Como nos tornamos conscientes dos preconceitos estruturais?";
"Como essas conjeturas irão nos manter seguros?";
"A quem elas põem em risco?"
Até que façamos essas perguntas
e insistamos que nossas escolas, tribunais, departamentos de polícia
e todas as instituições façam o mesmo,
continuamos a permitir que o preconceito
nos deixe cegos.
Se deixarmos isso acontecer,
nenhum de nós está realmente a salvo.
Obrigada.
Acum câțiva ani,
eram în avion cu fiul meu care avea doar cinci ani.
Era atât de entuziasmat că zbura cu avionul cu mami!
Își arunca privirea peste tot, verifica orice lucru
și analiza lumea din jurul său.
Vede un bărbat și zice:
„Hei, tipul ăla seamănă cu tati!”
Mă uit la acel bărbat
și nu seamăna deloc cu soțul meu,
absolut deloc.
După care mă uit la lumea din avion
și observ că acest bărbat era singurul de culoare din avion.
Și îmi zic:
„Bine.
E timpul să îi explic fiului meu
că nu toți oamenii de culoare arată la fel”.
Fiul meu se uită la mine și îmi zice:
„Sper să nu jefuiască avionul”.
Îi zic: „Cum? Ce ai zis?”
Și repetă: „Sper ca acel om nu o să jefuiască avionul”.
Îl întreb: „Bine, dar de ce crezi asta?
Știi că tati nu ar jefui avionul”.
Și răspunde: „Da, da, știu”.
Îl întreb: „Dar atunci de ce spui asta?”
Și el se uită la mine cu o față foarte tristă
și zice:
„Nu știu de ce am zis așa.
Nu știu de ce am gândit așa”.
Trăim cu o stratificare rasială atât de severă,
încât și un copil de cinci ani ne poate spune ce urmează să se întâmple,
chiar în absența unui răufăcător,
chiar în absența urii.
Această asociere între infracțiune și culoarea pielii
a pătruns în mintea copilului meu.
Și a atins toți copiii noștri.
Și pe noi toți.
Mințile ne sunt modelate de disparitățile rasiale
pe care le observăm
și de relatările care ne ajută să înțelegem aceste disparități:
„Oamenii aceia sunt răufăcători”.
„Oamenii aceia sunt violenți”.
„Să te ferești de oamenii aceia”.
Când echipa mea de cercetare i-a adus pe oameni în laborator
și le-au fost arătate diferite fețe,
am constatat că expunerea la fețele negre îi face să vadă imagini estompate cu arme
cu o mai mare claritate și viteză.
Prejudecata controlează nu doar ce vedem,
ci și unde privim.
Am constatat că îndemnând oamenii să se gândească la o faptă violentă
îi determină să-și îndrepte privirea spre o față neagră,
îndepărtându-se de o față albă.
Îndemnând polițiștii să se gândească la capturarea cuiva, la folosirea armei
și la arest,
îi face să-și îndrepte privirea spre fețele negre, de asemenea.
Prejudecățile pot infecta fiecare aspect al sistemului nostru de justiție.
Într-un set mare de date al condamnaților la moarte,
am descoperit că trăsăturile negre îți cresc de peste două ori riscul
de a primi o sentință la moarte,
cel puțin în cazul în care victimele erau albe.
Acest efect este semnificativ,
chiar dacă am comparat infracțiuni de o gravitate asemănătoare
și inculpați cu o atractivitate asemănătoare.
Și indiferent ce variabile am eliminat,
am descoperit că oamenii de culoare au fost pedepsiți
direct proporțional cu trăsăturile fizice specifice negrilor:
cu cât era mai negru,
cu atât a fost pedepsit mai dur.
Prejudecățile ne pot influența și modul în care profesorii disciplinează elevii.
Eu și colegii mei am descoperit că profesorii manifestă o dorință
să disciplineze un elev de gimnaziu negru mai aspru
decât un elev alb
pentru același comportament deviant repetat.
Într-un studiu recent,
am descoperit că profesorii tratează elevii negri ca pe un grup,
iar pe elevii albi ca indivizi.
Dacă, de exemplu, un elev negru greșește,
apoi un alt elev negru greșește câteva zile mai târziu,
profesorul reacționează în cazul celui de-al doilea elev negru
ca și cum ar fi greșit de două ori.
Este ca și cum păcatele unui copil
se transmit următorului.
Creăm categorii pentru a înțelege lumea,
pentru a revendica un anumit control și coerență
asupra stimulilor cu care suntem bombardați constant.
Categorizarea și prejudecățile pe care le însămânțează
permit creierului nostru să raționeze mai rapid și mai eficient,
și facem asta instinctiv, bazându-ne pe tipare
care par previzibile.
Deși categoriile pe care le creăm ne permit să luăm decizii rapide,
ele ne întăresc și prejudecățile.
Aceleași lucruri care ne ajută să înțelegem lumea
ne pot și orbi.
Categoriile ne fac alegerile ușoare,
fără efort.
Cu toate acestea, ele presupun o povară grea.
Deci ce putem face?
Cu toții suntem vulnerabili la prejudecăți,
dar nu suntem părtinitori tot timpul.
Există anumite condiții care pot ajuta la apariția prejudecăților
și alte condiții care le pot reprima.
Să vă dau un exemplu.
Mulți oameni cunosc compania de tehnologie Nextdoor.
Întregul lor scop e să creeze cartiere mai puternice, mai sănătoase, mai sigure.
Ei oferă un spațiu online
unde vecinii se pot aduna și împărtăși informații.
Totuși, Nextdoor a descoperit imediat că are o problemă
cu profilarea rasială.
Într-un caz obișnuit,
oamenii privesc în afara ferestrei lor
și văd un bărbat negru în cartierul lor alb
și se gândesc rapid că nu are intenții bune,
chiar și atunci când nu există semne de infracționalitate.
În multe feluri, cum ne comportăm online
reflectă modul în care ne comportăm în lume.
Dar ce nu vrem să facem e să creăm un sistem ușor de utilizat
care poate amplifica prejudecățile și adânci disparitățile rasiale,
în loc să le demonteze.
Cofondatorul Nextdoor m-a contactat pe mine și pe alții
pentru a-și da seama ce să facă.
Și și-au dat seama că pentru a limita profilarea rasială pe platformă,
va fi nevoie să adauge fricțiune;
adică să încetinească oamenii.
Nextdoor a avut de ales,
și împotriva oricărui impuls,
au decis să adauge fricțiune.
Și au făcut asta adăugând o simplă listă.
Pe ea erau trei puncte.
În primul rând, au cerut utilizatorilor să facă o pauză
și să se gândească: „Ce făcea această persoană ca să fie suspectă?”
Categoria „bărbat negru” nu constituie temei pentru suspiciuni.
Apoi au cerut utilizatorilor să descrie caracteristicile fizice ale persoanei,
nu doar rasa și sexul.
În al treilea rând, și-au dat seama că o mulțime de oameni
nu păreau să știe ce înseamnă profilarea rasială,
și nici că o foloseau.
Nextdoor le-a furnizat o definiție
și le-a spus că e strict interzisă.
Majoritatea dintre voi ați văzut aceste anunțuri în aeroporturi
și în stațiile de metrou: „Dacă vezi ceva, spune ceva”.
Nextdoor a încercat să modifice asta.
„Dacă vezi ceva suspect,
spune ceva specific.”
Și folosind această strategie, prin încetinirea oamenilor,
Nextdoor a reușit să scadă profilarea rasială cu 75 la sută.
Oamenii îmi spun adesea:
„Nu puteți adăuga fricțiune în fiecare situație, în fiecare context,
și mai ales pentru persoanele care iau mereu decizii rapide”.
Dar se dovedește că putem adăuga fricțiune
la mai multe situații decât credem.
Lucrând cu Departamentul de Poliție din Oakland
în California,
eu și câțiva colegi am putut ajuta departamentul
să reducă numărul de opriri pe care le-au făcut
în cazul unor oameni care nu săvârșeau nicio infracțiune gravă.
Și am făcut asta presând polițiștii
să-și pună o întrebare înainte de fiecare oprire pe care au făcut-o:
„Există informații care justifică oprirea aceasta,
da sau nu?”
Cu alte cuvinte,
am informații anterioare pentru a conecta această persoană
cu o anumită infracțiune?
Adăugând această întrebare
la formularul pe care polițiștii îl completează în timpul unei opriri,
încetinesc, fac o pauză,
se gândesc: „De ce trag pe dreapta această persoană?”
În 2017, înainte de a adăuga această întrebare în formular,
polițiștii au făcut aproximativ 32.000 de opriri de-a lungul orașului.
În anul următor, cu adăugarea acestei întrebări,
a scăzut la 19.000 de opriri.
Opririle afro-americanilor au scăzut cu 43 la sută.
Și oprirea a mai puțini oameni de culoare nu a făcut orașul mai periculos.
De fapt, rata criminalității a continuat să scadă,
iar orașul a devenit mai sigur pentru toată lumea.
Deci o soluție poate veni din reducerea numărul de opriri inutile.
Alta poate proveni din îmbunătățirea calității opririlor
pe care polițiștii le fac.
Și tehnologia ne poate ajuta aici.
Știm cu toții despre moartea lui George Floyd,
pentru că cei care au încercat să-i vină în ajutor aveau camere de telefon mobil
pentru a înregistra acea oribilă și fatală confruntare cu poliția.
Dar avem tot felul de tehnologii pe care nu le folosim îndeajuns.
Secțiile de poliție din toată țara
sunt obligate să aibă camere purtate pe corp,
deci avem înregistrări nu numai cu cele mai extreme și mai groaznice confruntări,
ci și cu interacțiuni cotidiene.
Cu o echipa interdisciplinară de la Stanford,
am început să folosim tehnici de învățare automată
pentru a analiza un număr mare de confruntări.
Asta ca să înțelegem mai bine ce se întâmplă în opririle de rutină din trafic.
Am descoperit că chiar și când
polițiștii se comportă profesionist,
vorbesc șoferilor negri mai puțin respectuos decât șoferilor albi.
De fapt, numai din cuvintele pe care polițiștii le folosesc,
putem prezice dacă vorbeau cu un șofer negru sau cu unul alb.
Problema e că majoritatea materialelor video din aceste camere
nu sunt folosit de departamentele de poliție
pentru a înțelege ce se întâmplă pe stradă
sau pentru a instrui polițiștii.
Și asta e o rușine.
Cum se transformă o oprire de rutină într-o confruntare mortală?
Cum s-a întâmplat asta în cazul lui George Floyd?
Cum s-a întâmplat în cazul altora?
Când fiul meu cel mare avea 16 ani,
a descoperit că atunci când oamenii albi îl privesc,
simt frică.
În lift este cel mai rău, a spus el.
Când ușile se închid,
oamenii sunt prinși în acest spațiu minuscul
cu cineva pe care au fost învățați să îl asocieze cu pericolul.
Fiul meu simte disconfortul lor,
și le zâmbește ca să-i relaxeze,
să le calmeze temerile.
Când vorbește,
trupurile lor se relaxează.
Respiră mai ușor.
Le place cadența lui,
dicția lui, alegerea lui de cuvinte.
Pare unul de-al lor.
Credeam că fiul meu e un extrovertit natural ca tatăl său.
Dar mi-am dat seama în acel moment, în acea conversație,
că zâmbetul lui nu era un semn că voia să se conecteze
cu niște străini.
Era un talisman pe care-l folosea să se protejeze,
o abilitate de supraviețuire pe care o perfecționase după mii de experiențe.
Învățase să se adapteze tensiunii pe care culoarea pielii lui o generase
și care îi punea propria viață în pericol.
Știm că creierul e construit pentru a avea prejudecăți,
și o modalitate de a întrerupe aceste prejudecăți e să ne oprim, să reflectăm
asupra dovezilor presupunerilor noastre.
Deci trebuie să ne întrebăm:
ce presupuneri avem când pășim într-un lift?
Sau într-un avion?
Cum devenim conștienți de prejudecățile noastre inconștiente?
Pe cine menține în siguranță aceste presupuneri?
Pe cine pun în pericol?
Dacă nu ne punem aceste întrebări
și nu insistăm ca școlile și instanțele și departamentele noastre de poliție
și fiecare instituție să facă același lucru,
vom continua să permitem prejudecăților
să ne orbească.
Și dacă permitem asta,
niciunul dintre noi nu e cu adevărat în siguranță.
Vă mulțumesc!
Несколько лет назад
я летела в самолёте с сыном, которому было всего пять лет.
Сын был так возбуждён тем, что летел на самолёте с мамой.
Он оглядывается по сторонам, всё исследует
и рассматривает людей.
Видит одного мужчину и говорит:
«Эй, тот человек похож на папу!»
Я смотрю на того мужчину,
а он совсем не похож на моего мужа,
ни капельки.
И тогда я начинаю оглядываться по сторонам
и замечаю, что тот мужчина — единственный чернокожий в самолёте.
И я думаю:
«Хорошо,
я поговорю с сыном о том,
что не все чернокожие люди друг на друга похожи».
Мой сын поднимает голову и говорит мне:
«Я надеюсь, он не ограбит самолёт».
И я спрашиваю: «Что? Что ты сказал?»
А он отвечает: «Ну, я надеюсь, этот человек не ограбит самолёт».
И я спрашиваю: «Почему ты так говоришь?
Ты же знаешь, папочка не ограбил бы самолёт».
Он отвечает: «Да, да, да, я знаю».
И я спрашиваю: «Почему же ты так говоришь?»
А он смотрит на меня так печально
и говорит:
«Не знаю, почему я так сказал.
Не знаю, почему я так подумал».
Мы живём с настолько серьёзным расовым расслоением,
что даже пятилетний малыш знает, что должно произойти дальше,
даже если нет никаких нарушителей порядка,
даже без какой-либо открытой ненависти.
Эта ассоциация между тёмным цветом кожи
и преступностью проникла в разум моего пятилетнего сына.
Она проникает во всех наших детей,
во всех нас.
Наши взгляды формируются расовыми расхождениями,
существующими в нашем мире,
и историями, помогающими нам объяснить наблюдаемые расхождения:
«Те люди — преступники»,
«Те люди склонны к насилию»,
«Тех людей следует бояться».
Когда моя группа учёных проводила лабораторные исследования,
показывая людям лица,
мы выяснили, что вид чёрных лиц вёл к большей вероятности
и скорости распознавания размытых изображений оружия.
Предвзятость может контролировать
не только что мы видим, но и куда смотрим.
Мы обнаружили, что при предложении подумать о насильственном преступлении
взгляд человека
переключается с белого лица на чёрное.
Если предложить полицейским подумать
о задержании, стрельбе и аресте,
их глаза опять же переключатся на чёрные лица.
Предвзятость может повлиять на любой аспект системы уголовного правосудия.
На основе большого набора данных о подсудимых, ожидающих приговора,
выяснилось, что внешность, более типичная для чёрных, более чем в два раза
увеличивала вероятность смертного приговора,
по крайней мере когда их жертвами были белые.
Эффект был статистически значим
даже при равнозначной тяжести преступления
и привлекательности подсудимого.
И какие бы критерии мы не выбирали,
чернокожих людей наказывали
пропорционально приближенности их внешности к типажу чёрных:
чем темнее кожа человека,
тем вероятнее его приговаривали к смерти.
Предвзятость может повлиять и на то, как учителя наказывают учеников.
Мы с коллегами обнаружили, что учителя склонны наказывать
за одинаковые повторяющиеся нарушения
чернокожего ученика средних классов
жёстче, чем белого школьника.
В недавнем исследовании выяснилось,
что учителя рассматривают чернокожих школьников как группу,
в то время как белых учеников — как личностей.
Если, например, один чернокожий ученик плохо себя ведёт,
а потом, спустя несколько дней, провинится другой чернокожий ученик,
учитель реагирует так, как будто второй чернокожий ученик
нахулиганил дважды.
Будто бы прегрешения одного ребёнка
добавляются к выходкам другого.
Мы создаём категории, чтобы понять мир,
чтобы как-то управлять и упорядочить
постоянно действующие нас раздражители.
Распределение по категориям и произрастающая из него предвзятость
позволяют мозгу человека быстрее и эффективнее выносить суждения,
что мы делаем, инстинктивно опираясь
на кажущиеся предсказуемыми шаблоны.
Однако категории, позволяющие принимать быстрые решения,
усиливают при этом предвзятость.
То есть то самое, что помогает нам постичь мир,
может и затуманить представление о нём.
Категории легко и естественно
определяют наш выбор.
Однако это даётся дорогой ценой.
Так что же можно сделать?
Все мы подвержены предвзятости,
но не всегда идём у неё на поводу.
При определённых условиях предвзятость может проявиться,
но при других условиях — нет.
Разрешите привести пример.
Многим знакома социальная сеть Nextdoor.
Вся её цель состоит в создании крепких, дружественных межсоседских связей.
И поэтому Nextdoor предоставляет интернет-пространство,
где соседи могут собираться и обмениваться информацией.
Но Nextdoor вскоре столкнулся
с проблемой расового профилирования.
В типичном случае люди выглянут в окно,
увидят чернокожего человека в своём белом районе
и поспешно рассудят,
что он что-то замышляет.
даже при отсутствии свидетельства преступной деятельности.
Во многих отношениях то, как мы поступаем в интернете,
является отражением поведения в реальном мире.
Но мы не хотим создавать упрощённую систему,
которая усиливает предвзятость и усугубляет расовое неравенство,
вместо того чтобы их разрушать.
Поэтому один из основателей Nextdoor обратился за советом, ко мне в том числе,
чтобы понять, что делать.
И стало понятно, что для сдерживания расовой предвзятости на платформе
придётся добавить «трение»,
то есть придётся притормаживать людей.
Таким образом, Nextdoor оказалась перед выбором,
и в противовес любому порыву
было решено добавить трение.
И это было сделано путём добавления
простого списка из трёх пунктов.
Во-первых, пользователей попросили остановиться и подумать:
«Что такого делал этот человек, чтобы возбудить подозрения?»
Категория «чернокожий человек» не даёт основания для подозрений.
Во-вторых, пользователей попросили описать внешность человека,
используя дополнительные признаки, а не только его расу и пол.
В-третьих, стало ясно, что многие не знали,
Так что Nextdoor предоставила им определение
и пояснила, что это строго запрещено.
Большинство из вас видело эти знаки в аэропортах и на станциях метро:
«Если вы что-то видите, скажите».
Nextdoor попробовала изменить эти слова:
«Если вы видите что-то подозрительное,
скажите что-то конкретное».
Используя эту стратегию «торможения»,
что такое расовая предвзятость и что они ей способствуют.
Nextdoor смогла сократить расовую предвзятость на 75%.
Я часто слышу:
«Нельзя добавить трение, в любой ситуации, в любом контексте
и особенно для тех, кто постоянно принимает решение за доли секунды.
Но оказывается, можно добавить трение
в большее число ситуаций, чем мы предполагаем.
Работая с отделением полиции
в Окленде, штат Калифорния,
я и несколько моих коллег смогли помочь отделению
уменьшить количество проверок людей,
которые не совершали никаких серьёзных преступлений.
И мы сделали это, побуждая полицейских
перед каждой проверкой задаваться вопросом:
«Движет ли этой проверкой рассудок? Да или нет?»
Другими словами:
«Есть ли у меня предшествующая информация,
чтобы связать именно этого человека
с конкретным преступлением?»
После добавления этого вопроса в формуляр,
заполняемый полицейскими при проверке,
они замедляются, они приостанавливаются,
они задумываются: «Почему я решил остановить этого водителя?»
В 2017 году, до того как мы добавили этот вопрос в формуляр,
полицейские совершали около 32 000 остановок по городу.
В следующем после добавления этого вопроса году,
показатель упал до 19 000 остановок.
Задержания одних только афроамериканцев
упали на 43%.
И меньше задержаний чернокожих людей
не сделали этот город более опасным.
На самом деле, уровень преступности
продолжил снижаться.
И город стал безопаснее для всех.
Итак, одним из решений может стать сокращение ненужных проверок,
Другим может стать повышение качества проверок,
совершаемых полицейскими.
И технологии могут помочь нам в этом.
Все мы знаем о смерти Джорджа Флойда,
потому что те, кто пытался прийти на помощь,
держали камеры сотовых телефонов,
чтобы заснять то ужасающее, смертельное столкновение с полицией.
Но у нас есть разные технологии, которые мы не используем по назначению.
Полицейским участкам по всей стране
теперь необходимо носить нательные камеры.
Поэтому теперь у нас есть записи
не только самых немыслимых и ужасающих столкновений,
но и повседневных взаимодействий.
С междисциплинарной командой в Станфорде
мы начали использовать технологии машинного обучения
для анализа большого количества столкновений,
чтобы лучше понять, что происходит во время рутинных остановок на дорогах.
Как мы выяснили,
даже когда полицейские ведут себя профессионально,
они говорят с чёрными водителями
менее уважительно, чем с белыми.
По одним лишь словам, использованным полицейскими,
мы могли определить,
говорили они с чёрным водителем или с белым.
Проблема в том,
что подавляющее большинство материала, отснятого этими камерами,
не используется полицейскими участками,
чтобы понять, что происходит на улицах
или для тренировки полицейских.
А жаль.
Как рутинная остановка
превращается в смертельное столкновение?
Как это произошло в случае Джорджа Флойда?
Как это произошло в других?
Когда моему старшему сыну было 16 лет,
он открыл для себя, что, когда белые люди
смотрят на него, они испытывают страх.
«Хуже всего в лифтах», — сказал он.
Когда двери лифта закрываются,
люди попадают в ловушку
в этом крошечном пространстве
с кем-то, кого их научили ассоциировать с опасностью.
Мой сын чувствует их дискомфорт.
И он улыбается, чтобы успокоить их,
чтобы успокоить их страхи.
Когда он говорит,
они меньше напрягаются,
им легче дышится,
они получают удовольствие от переливов
его голоса, его интонации, его выбора слов.
Он звучит как один из них.
Раньше я думала, что мой сын —
прирожденный экстраверт, как его отец.
Но я поняла в тот момент и из той беседы,
что его улыбка не была знаком того,
что он хотел связаться с потенциальными незнакомцами.
Это был талисман, который он использовал для своей защиты.
Навык выживания, отточенный за тысячи поездок в лифтах.
Он учился справляться с напряжённостью,
порождённой его цветом кожи.
И это подвергло риску его собственную жизнь.
Мы знаем, что работа мозга основана на предубеждениях,
и один из методов препятствовать этим предубеждениям —
приостановиться и переосмыслить доказательства наших предположений.
Поэтому мы должны спросить самих себя,
какие предположения мы держим в голове,
когда мы заходим в лифт
или самолёт.
Как мы распознаём свои бессознательные предрассудки?
Кого оберегают эти предположения?
Кого они подвергают риску?
Пока мы не зададим эти вопросы
и не настоим, чтобы наши школы,
и наши суды, и наши полицейские участки,
и каждое учреждение сделали то же,
мы продолжим
позволять нашим предрассудкам
ослеплять нас.
И если мы позволим,
никто из нас
в полной безопасности.
Спасибо.
Pre nekoliko godina
bila sam u avionu sa svojim sinom koji je tada imao pet godina.
Moj je sin bio tako uzbuđen što je u avionu sa mamom.
Gledao je okolo, proučavao stvari oko sebe
i proučavao je ljude.
Ugledao je jednog čoveka i rekao:
"Hej! Onaj čovek liči na tatu!"
Pogledala sam u tog čoveka
i on uopšte nije ličio na mog muža,
ali baš ni u čemu.
A onda sam počela da gledam po avionu
i primetila sam da je ovaj čovek bio jedini crnac u avionu.
Pomislila sam:
"U redu.
Moraću malo da popričam sa svojim sinom
o tome kako ne liče svi crnci jedni na druge."
Moj je sin podigao glavu i rekao:
"Nadam se da neće opljačkati avion."
"Šta? Šta si to rekao?", upitala sam.
A on će: "Pa, nadam se da taj čovek neće opljačkati avion."
"Ali, zašto bi ti pomislio tako nešto?", pitala sam.
"Znaš da tata ne bi opljačkao avion."
"Da, da, da, pa znam", odgovorio je.
"Pa, zašto bi onda to rekao?", upitah.
A on me je pogledao sa zaista tužnim izrazom lica
i rekao:
"Ne znam zašto sam to rekao.
Ne znam zašto sam to pomislio."
Živimo u vreme tako snažne rasne stratifikacije
da nam čak i petogodišnjak može reći šta bi trebalo da usledi,
čak i bez prestupnika,
čak i bez eksplicitne mržnje.
Ova veza između crne boje kože i zločina
uvukla se u um mog petogodišnjaka.
Ona se uvlači u svu našu decu,
u sve nas.
Naši umovi se oblikuju po rasnim disparitetima
koje vidimo u svetu
i po narativima koji nam pomažu da shvatimo razlike koje vidimo:
"Oni ljudi su skloni kriminalu."
"Oni ljudi su nasilni."
"Onih se ljudi treba bojati."
Kada je moj istraživački tim doveo ljude u našu laboratoriju
i pokazivao im lica,
utvrdili smo da ih pogled na lica crnaca navodi da mutne slike oružja
vide jasnije i uočavaju brže.
Predrasuda ne kontroliše samo ono što vidimo,
nego i gde gledamo.
Utvrdili smo da podsticanje ljudi da pomisle na nasilni zločin
može da ih navede da usmere pogled na lice crnca,
a skrenu ga sa lica belca.
Podsticanje policajaca da pomisle na hvatanje i pucanje
i hapšenje
takođe ih navodi da pogled usmere na lica crnaca.
Predrasuda može zaraziti sve aspekte našeg krivično-pravnog sistema.
U velikom skupu podataka vezanih za osuđenike na smrt,
utvrdili smo da što je osoba tamnija, više nego duplo se uvećavaju šanse
da dobije smrtnu kaznu -
barem kada su njihove žrtve bile belci.
Ovaj ishod je bitan,
čak imajući u vidu da smo uzeli u obzir težinu zločina
i privlačnost okrivljenog.
I, bez obzira šta smo kontrolisali,
otkrili smo da se crnci kažnjavaju
srazmerno crnoj boji i njihovim fizičkim karakteristikama:
što su crnji,
to je veća šansa da će dobiti smrtnu kaznu.
Predrasude takođe mogu uticati na to kako se nastavnici ophode prema učenicima.
Moje kolege i ja smo utvrdili da su nastavnici skloni
da disciplinuju crnce srednjoškolce na mnogo strožiji način
nego belce
za iste prekršaje.
U skorašnjoj studiji
utvrdili smo da nastavnici tretiraju crne učenike kao grupu,
a bele kao pojedince.
Ako se, na primer, crni učenik nedolično ponaša
i onda drugi crni učenik to isto uradi nekoliko dana posle,
reakcija nastavnika na ponašanje tog drugog crnog učenika je
kao da se on nedolično ponašao dvaput.
To je kao da se gresi jednog deteta
nagomilavaju na drugo dete.
Stvaramo kategorije da bismo svetu dali smisao,
da bismo uspostavili neku kontrolu i koherentnost
sa podražajima kojima nas stalno bombarduju.
Kategorizacija i predrasude koje ona seje
omogućava našem mozgu da brže i efikasnije pravi procene,
a to radimo instinktivno se oslanjajući na obrasce
koji se čine predvidivim.
Ipak, kao što nam kategorije koje stvaramo dozvoljavaju da donosimo brze odluke,
one takođe pojačavaju predrasude.
Tako da upravo stvari koje nam pomažu da vidimo svet,
isto tako nas mogu zaslepeti.
One čine naše odluke lakim,
bez napora.
Ali, to dolazi uz veliku cenu.
Pa, šta možemo da uradimo?
Svi smo podložni predrasudama,
ali im ipak ne podležemo stalno.
Postoje određeni uslovi pod kojima predrasude ožive
i oni pod kojima se one priguše.
Da vam dam primer.
Mnogi znaju za tehnološku kompaniju Nextdoor.
Dakle, njihova svrha je stvoriti jače, zdravije i bezbednije susedstvo.
I tako oni nude ovaj onlajn prostor
gde susedi mogu dobiti i podeliti informacije.
Ipak, Nextdoor je ubrzo shvatio da imaju problem
sa rasnim profilisanjem.
Kao uobičajen slučaj,
ljudi bi pogledali kroz prozor
i ugledali crnca u svom inače belom kvartu
i naprečac bi zaključili da on ne smera ništa dobro,
čak i ako ne postoji dokaz o kriminalnim aktivnostima.
Na mnoge načine, kako se ponašamo onlajn
je odraz onoga kako se ponašamo u stvarnom svetu.
Ali ono što ne želimo je da stvorimo jedan jednostavan sistem
koji može pojačati predrasude i produbiti rasne različitosti,
umesto da ih ukloni.
Tako je saosnivač Nextdoora kontaktirao mene i ostale
da bismo pokušali da pronađemo rešenje.
Shvatili su da će, u cilju suzbijanja rasnog profilisanja na platformi,
morati dodati otpor,
drugim rečima, moraće da nateraju korisnike da uspore.
Prema tome, Nextdoor je morao da donese odluku
i protivno svakom, onom unutrašnjem impulsu,
odlučili su da ga dodaju.
Uradili su to tako što su dodali jednostavnu čeklistu.
Na njoj su bile tri stavke.
Prvo, zamolili su korisnike da zastanu
i razmisle, "Šta je ova osoba radila da se čini sumnjivom?"
Kategorija "crnac" nije osnova za sumnju.
Drugo, tražili su od korisnika da opišu fizičke osobine osobe,
a ne samo njihovu rasu i pol.
Treće, shvatili su da dosta ljudi
ne zna šta je to rasno profilisanje
niti da se njime bave.
Zato im je Nextdoor dao definiciju
i rekao im da je to strogo zabranjeno.
Mnogi od vas su videli znakove na aerodromima
i na metro stanicama koji kažu: "Ako vidite nešto, skrenite pažnju na to."
Nextdoor je pokušao ovo modifikovati.
"Ako uočite nešto sumnjivo,
recite nešto konkretno."
Koristeći ovu strategiju, jednostavnim usporavanjem korisnika,
Nextdoor je uspeo da suzbije rasno profilisanje za 75 posto.
Sada, često mi ljudi kažu,
"Ne možete dodati tu kočnicu u svakoj situaciji, u svakom kontekstu,
a posebno ne za one koji stalno donose odluke u deliću sekunde."
Ali, ispostavilo se da možemo to uraditi
u više situacija nego što mislimo.
Radeći sa Policijskom upravom Ouklanda
u Kaliforniji,
ja i mnoge moje kolege smo uspeli da pomognemo policiji
da smanji broj onih koje su zaustavljali,
a koji nisu počinili nikakvo ozbiljno krivično delo.
A to smo uradili tako što smo naveli policajce
da se zapitaju pre nego što nekog zaustave radi provere:
"Da li vršim ovu proveru na osnovu razumne odluke,
da ili ne?"
Drugim rečima,
da li imam prethodne informacije koje povezuju dotičnu osobu
sa određenim krivičnim delom?
Dodavanjem ovog pitanja
na formular koji policajci popunjavaju tokom provere
postižemo da oni uspore, zastanu,
razmisle, "Zašto želim da zaustavim ovu osobu?"
U 2017, pre nego što smo formularu dodali ovo pitanje koje potiče na razmišljanje,
policajci su izvršili oko 32 000 provera po gradu.
Sledeće godine, sa dodatkom ovog pitanja,
ovo je palo na 19 000 provera.
Samo provera Afroamerikanaca je pala za 43 posto.
A zaustavljanje manjeg broja crnaca nije učinilo grad ništa opasnijim.
U stvari, stopa kriminala je nastavila da pada
i grad je postao bezbedniji za sve.
Tako da je jedno rešenje u smanjenju broja nepotrebnih provera.
Drugo bi bilo bolji kvalitet provera koje policija napravi.
I tehnologija nam može ovde pomoći.
Svi znamo za smrt Džordža Flojda,
jer oni koji su mu pokušali pomoći su držali mobilne telefone
da bi snimili taj strašni, tragični susret sa policijom.
Ali, mi imamo razne vrste tehnologije koje ne koristimo u službi dobrog.
Od policijskih stanica širom zemlje
sada se traži da nose kamere na sebi
tako da imamo snimke ne samo najekstremnijih i užasnih susreta,
nego i svakodnevnih interakcija.
Sa interdisciplinarnim timom sa Stanforda,
počeli smo da koristimo tehnike mašinskog učenja
da bismo analizirali veliki broj susreta.
Ovo smo uradili da bismo bolje razumeli šta se dešava tokom rutinskih provera.
Došli smo do saznanja da,
čak i onda kada se policajci ponašaju profesionalno,
ipak razgovaraju sa vozačima crncima sa manje uvažavanja nego sa belcima.
U stvari, po rečima koje policajci koriste u govoru,
mogli smo pretpostaviti da li su razgovarali sa crncem ili belcem.
Problem je što veliku većinu snimaka sa ovih kamera
ne koriste u policijskim stanicama
da bi razumeli šta se događa na ulici
ili za obuku policajaca.
A to je šteta.
Kako se rutinska provera pretvori u susret sa smrtnim ishodom?
Kako se to dogodilo u slučaju Džordža Flojda?
Kako se to dogodilo u drugim slučajevima?
Kada je moj stariji sin imao 16 godina,
shvatio je da kada belci pogledaju u njega
osećaju strah.
Liftovi su najgori, kaže.
Kada se vrata zatvore,
ljudi se zateknu u ovom malom prostoru
sa nekim za koga su naučeni da ima veze sa opasnošću.
Moj sin oseća taj nemir
i nasmeši se da ih umiri,
da umiri njihov strah.
Kada progovori,
njihova se tela opuste.
Lakše dišu.
Prija im modulacija njegovog glasa,
njegova dikcija, izbor reči.
Zvuči kao jedan od njih.
Nekada sam mislila da je moj sin prirodno ekstrovertan, kao i njegov otac.
Ali, tada sam shvatila, u tom razgovoru,
da njegov osmeh nije znak da on želi da stupi u kontakt
sa potencijalnim neznancima.
To je bio talisman kojeg je koristio da bi se zaštitio,
veština preživljavanja koju je izgradio tokom hiljada vožnji liftom.
Učio je kako da ublaži tenziju koju je stvarala njegova boja kože
i to je ugrozilo i njegov vlastiti život.
Znamo da je mozak predodređen za predrasude,
a jedan od načina da se one nadvladaju je da se zastane i razmisli
o dokazima za naše pretpostavke.
Zato se moramo zapitati:
kakve pretpostavke unosimo kad kročimo u lift?
Ili u avion?
Kako da postanemo svesni svojih nesvesnih predrasuda?
Koga te pretpostavke štite?
Koga one ugrožavaju?
Dok se ovo ne zapitamo
i ne budemo insistirali da naše škole i sudovi i policijske stanice
i sve institucije ne urade isto,
nastavićemo da dozvoljavamo predrasudama
da nas zaslepljuju.
Ako to učinimo,
niko od nas neće biti zaista bezbedan.
Hvala.
Birkaç yıl önce,
O dönemde sadece 5 yaşında olan oğlumla bir uçaktaydım.
Oğlum annesiyle beraber bu uçakta olmaktan çok mutluydu.
Etrafına bakıyor ve bir şeyleri
ve insanları kontrol ediyordu.
Bir adam gördü ve şöyle dedi,
"Hey! Bu adam babama benziyor!"
O adama baktım
ve hiçbir şeyi eşime benzemiyordu,
hem de hiçbir şeyi.
Sonra uçakta etrafa bakmaya başladım
ve bu adamın uçaktaki tek siyahi adam olduğunu fark ettim.
Ve düşündüm,
"Peki.
tüm siyahi insanların birbirlerine benzemediğ konusunda
oğlumla küçük bir konuşma yapacaktım.
Oğlum kafasını kaldırdı ve bana dedi ki,
"Umarım o uçağı soymaz."
Ben de "Ne? Ne dedin sen? dedim.
"Yani, umarım o adam uçağı soymaz." dedi.
"Peki neden bunu söyledin?'' diye sordum,
''Baban bir uçağı soymazdı."
"Evet, evet, evet, peki, biliyorum." dedi.
"Peki neden böyle söyledin?" dedim.
Ve gerçekten mutsuz yüzüyle bana doğru baktı
ve şöyle dedi,
"Neden böyle söylediğimi bilmiyorum.
Neden böyle düşündüğümü bilmiyorum."
Öylesine şiddetli ırkçı tabakalaşmayla yaşıyoruz ki
beş yaşındaki bir çocuk bile bundan sonra ne olacağını söyleyebilir,
şuça yatkın biri olmasa bile,
apaçık bir nefret olmadan bile.
Siyahlık ve suç arasındaki bu ilişki
beş yaşındaki oğlumun aklına girdi.
Bu ilişki tüm çocuklarımızın aklına girecek,
hatta bizim bile.
Zihinlerimiz dış dünyada görüğümüz
ırksal farklılıklarla şekillenir.
Anlatıcılar gördüğümüz farklılıkları anlamamıza yardımcı oluyor:
"Bu insanlar suçlu."
"Bu insanlar şiddet yanlısı."
"Bu insanlardan korkulmalı."
Araştırma takımım insanları laboratuvarımıza getirdiğinde
onları yüzlere maruz bıraktılar.
Siyah yüzlere maruz kalmak bulanık silah görsellerini
çok daha net ve hızlı görmelerini sağladı.
Ön yargılar sadece bizim ne gördüğümüzü değil,
nereye baktığımızı da kontrol eder.
İnsanları şiddet içeren suçu düşünmeye yönlendirmek
doğruca gözlerini siyah bir yüze çevirmelerine sebep olabilir
ve beyaz bir yüzden kaçırabilir.
Polis memurlarını, zaptetmeye, ateş etmeye
ve tutuklamaya düşünmeye yönlendirmek
onların gözlerini de siyah yüze çevirmelerine sebep oluyor.
Ön yargı, ceza adalet sistemimizin her yönüne bulaşabilir.
Ölüm cezasına uygun sanıkların geniş bir veri kümesinde,
daha siyah görünmenin ölüm cezası alma şansını
kurbanların beyaz olduğundan daha fazla,
iki katına çıkardığını bulduk.
Bu etki çok önemli,
biz suçun şiddetini
ve sanığın çekiciliğini kontrol etsek bile.
Ne için kontrol ettiğimiz önemli değil,
siyahi insanların cezalandırılmasının
fiziksel özelliklerinin siyahiliği ile orantılı olduğunu gördük:
daha siyah,
daha ölüme değerdir.
Ön yargılar, öğretmenlerin öğrencileri nasıl cezalandırdığını da etkiler.
Meslektaşlarım ve ben, öğretmenlerin tekrarlanan ihlallerde
siyahi bir ortaokul öğrencisini,
beyaz bir öğrenciden
daha sert cezalandırma isteği belirttiğini gördük.
Son zamanlardaki bir çalışmada
öğretmenlerin siyahi öğrencilere bir grup gibi davranırken
beyazlara birey olarak davrandıklarını görüyoruz.
Örneğin siyahi bir öğrenci yaramazlık yaparsa
ve sonra farklı bir siyahi öğrenci birkaç gün sonra yaramazlık yaparsa
öğretmen ikinci siyahi öğrenciye
sanki ikinci kez yaramazlık yapmış gibi karşılık verir.
Bir çocuğun günahları
diğerine yıkılmış gibidir.
Dünyayı anlamak
biraz kontrol ve anlam ifade etmek,
sürekli bombardımana uğradığımız uyarıcılar için kategoriler yaratıyoruz.
Sınıflandırma ve tohumladığı ön yargılar
beynimizin daha hızlı ve etkili karar vermesine izin verir.
bunu iç güdüsel olarak
öngörülebilir görünen kalıplara dayanarak yapıyoruz.
Fakat yarattığımız sınıflandırmalar hızlı kararlar vermemizi sağladığı gibi
ön yargıları da güçlendirir.
Yani dünyayı görmemizi sağlayan şeyler
bizi kör de edebilir.
Seçimlerimizi zahmetsiz ve ihtilafsiz bir hâle getiriyor.
Yine de büyük bir bedeli oluyor.
Peki ne yapabiliriz?
Hepimiz ön yargılara karşı savunmasızız
fakat her zaman ön yargılı davranamayız.
Ön yargıları canlandırabilecek belirli koşullar olabilir
ve onu azaltabilecek diğer koşullar da var.
Bir örnek vereyim.
Birçok insan Nextdoor teknoloji şirketine aşinadır.
Tüm amaçları güçlü, sağlıklı ve güvenli mahalleler yaratmak.
Böylelikle mahallelerin bilgi toplayabileceği
ve paylaşabileceği bu çevrim içi alanı sunuyorlar.
Fakat Nextdoor yakın zamanda ırksal profiller ile ilgili
bir sorun yaşadıklarını fark etti.
Normalde insanlar camlarından dışarıya bakarlar
ve beyaz mahallelerinde siyahi bir adam görürler
ve hemen o adamın iyi biri olmadığına karar verirler,
cezai suç işlediğine dair bir kanıt olmasa bile.
Birçok yönden çevrim içi nasıl davrandığımız
gerçek dünyada nasıl davrandığımızın yansıması.
Fakat yapmak istemediğimiz, ön yargıları parçalarına ayırmadan ziyade
onları kuvvetlendiren ve ırksal farklılıkları derinleştiren
kullanımı kolay bir sistem oluşturmak.
Böylece Nextdoor'un kurucu ortağı ne yapılacağını belirlemek için
benimle ve başkalarıyla iletişime geçti.
Platformda ırksal profillemenin önüne geçilmesi için
bir ihtilaf eklemeleri gerekiyordu.
Böylece insanları yavaşlatacaklardı.
Nextdoor'un bir seçim yapması gerekiyordu
ve her tepkiye karşı
ihtilaf eklemeye karar verdiler.
Basit bir kontrol listesi ekleyerek bunu yaptılar.
Bu listede üç madde vardı.
Birincisi, kullanıcılardan duraklamalarını
ve düşünmelerini istediler, "Bu insanı şüpheli yapan neydi?"
"Siyahi adam" sınıflandırması şüphe kaynağı değildir.
İkinci olarak, kullanıcılardan kişinin fiziksel özelliklerini
sadece ırk ve cinsiyet olmadan tanımlamalarını istediler.
Üçüncü olarak, Nextdoor birçok insanın
ırksal profillemenin ne olduğunu bilmediğini
ya da onunla ilgilenmediğini fark etti.
Böylece Nexdoor onlara bir açıklama yaptı
ve bunun kesinlikle yasak olduğunu söyledi.
Birçoğunuz bu işaretleri havalimanlarında
ve metro istasyonlarında görmüşsünüzdür. "Eğer bir şey görüyorsan söyle."
Nexdoor bunu değiştirmeyi denedi.
"Eğer şüpheli bir şey görürsen
şüphesiz bir şey söyle."
Ve bu stratejiyi kullanarak, insanları yavaşlatarak
Nextdoor ırksal profillemeyi yüzde 75 oranında azaltmayı başardı.
İnsanlar bana şunu söyleyecekler:
"Sen her durumda ve her bağlamda ihtilal ekleyemezsin
ve özellikle de her zaman anlık kararlar alan insanlar için."
Fakat görünen o ki düşündüğümüzden daha fazlasına
ihtilal ekleyebiliriz.
Oaklan Polis Departmanı'nda
California'da
ben ve birlikte çalıştığım bazı meslektaşlarım
ciddi suç işlemeyen insanların
durdurulmalarını azaltmak için departmana yardımcı olduk.
Ve bunu, memurları
her çevirmeden önce ve sonra kendilerine soru sormaya iterek yaptık.
"Bu çevirme istihbarat liderliğinde mi,
evet ya da hayır?"
Başka bir ifadeyle
bu belirli kişiyi bir suçla bağlamak için
öncelikli bir bilgim var mı?
Bu soruyu,
polislerin çevirme sırasındaki formlarına ekleyerek
yavaşlarlar, duraklarlar, düşünürler.
"Neden bu insanı kenara çektirmeyi düşünüyorum?"
2017'de istihbarat odaklı bu soruyu forma eklemeden önce
memurlar şehir genelinde yaklaşık 32.000 çevirme yaptı.
Sonraki yıl, bu soru da eklenerek
çevirme sayısı 19.000'e düştü.
Sadece Afrikan-Amerikalı çevirmeleri yüzde 43 oranında düştü.
Ve daha az sayıda siyahi insanı durdurmak şehri daha tehlikeli hâle getirmedi.
Aslında suç oranı da düşmeye devam etti
ve şehir herkes için daha güvenli oldu.
Yani gereksiz çevirmelerin sayısını azaltmak bir çözüm olabilir.
Diğeri ise memurların yaptığı çevirmelerin
kalitesini artırmak olabilir.
Teknoloji burada bize yardım edebilir.
Hepimiz George Floyd'un ölümünü biliyoruz
çünkü yardım etmeye gelenler
polisle olan bu korkunç, ölümcül karşılaşmayı telefonlarıyla kaydettiler.
Fakat iyi bir şekilde kullanmadığımız her türlü teknolojiye de sahibiz.
Ükenin her bir yanındaki polis departmanlarının
artık vücuda giyilen kameralar takmaları gerekiyor,
yani biz yalnızca şiddetli ve korkunç karşılaşmaların değil
günlük etkileşimlerin de kayıtlarına sahibiz.
Standford'daki disiplinler arası bir ekiple
çok sayıdaki karşılaşmaları analiz etmek için
makine öğrenme tekniklerini kullanmaya başladık.
Bu, rutin trafik çevirmelerinde neler olduğunu daha iyi anlamak için.
Bulduğumuz şey,
polis memurları profesyonelce davransalar bile
siyahi sürücülerle, beyaz sürücülerle olduğundan daha az saygılı konuşurlar.
Aslında memurların tek başına kullandığı kelimelerden
siyahi mi yoksa beyaz bir sürücüyle mi konuştuklarını tahmin edebiliriz.
Problem, bu kameralardaki görüntülerin büyük çoğunluğunun
polis departmanları tarafından
dışarıda neler olduğunu anlamak için
ya da eğitimlerde kullanılmaması.
Bu bir utanç.
Nasıl rutin bir çevirme ölümcül bir karşılaşmaya dönebilir?
George Floyd'un olayında bu nasıl oldu?
Diğerlerinde nasıl oldu?
Büyük oğlum 16 yaşına geldiğinde,
beyaz insanlar ona baktıklarında
korku duyduklarını keşfetti.
Asansörler en kötüsü, dedi.
Bu kapılar kapandığında
insanlar bu küçük alanda
tehlikeyle ilişkilendirildiği öğretilen birisiyle kapana kısılıyorlar.
Oğlum onların rahatsızlıklarını seziyor
ve onları rahatlatmak için gülümsüyor,
korkularını yatıştırmak için.
Oğlum konuştuğunda
vücutları rahatlıyor.
Daha kolay nefes alıyorlar.
Ses tonundan, diksiyonundan,
kelime seçimlerinden zevk alıyorlar.
Onlardan biri gibi görünüyor.
Oğlumun babası gibi dışa dönük olduğunu düşünürdüm.
Fakat o anda, o konuşmada,
gülümsemesinin yabancılarla bağlantı kurmak istediğinin
bir işaret olmadığını fark ettim.
Bu, kendisini korumak için kullandığı bir tılsımdı
ve binlerce kez asansöre binerek edindiği bir hayatta kalma becerisiydi.
Ten renginin yarattığı ve hayatını tehlikeye atan gerilime
uyum sağlamayı öğreniyordu
Beynimizin ön yargılarla bağlandığını biliyoruz
ve bu ön yargıları engellemenin bir yolu varsayımlarımızın kanıtlarını duraklatmak
ve iyice düşünmek.
O hâlde kendimize sormalıyız:
Bir asansöre bindiğimizde hangi varsayımları bir araya getiriyoruz?
Ya da bir uçakta?
Kendimizi bilinçsiz ön yargılarımızdan nasıl haberdar ederiz?
Bu varsayımları kim güvende tutar?
Kim onları riske atar?
Bu soruları sorana dek
ve okullarımızın, mahkemelerimizin, polis departmanlarımızın
ve her kurumun aynı şeyi yapmasında ısrar edene dek
ön yargılarımızın bizi kör etmesine izin vereceğiz.
Ve izin verdiğimiz sürece
hiçbirimiz gerçekten güvende değiliz.
Teşekkürler.
几年前，
我和年仅五岁的儿子一同搭乘飞机。
第一次与妈咪搭乘飞机 让他感到非常兴奋。
他不断环视周围，四处张望，
目光不停地打量着别人。
然后他看到了某位男子，说：
“嘿！这个人看起来好像爹地！”
我就看向这位男子，
而他看起来完全不像我的丈夫，
一点也不像。
于是我也开始环顾机舱，
发现这位男子是飞机上 唯一的黑人男性。
我当时心想，
“好吧。
我得和儿子好好谈谈，
让他知道不是所有的黑人 都长得一样。”
我的儿子抬起头，对我说：
“我希望他不会劫持飞机。”
我说：“什么，你刚才说什么？”
儿子说：“我希望那人不要劫持飞机。”
我说：“为什么你会这样说？
你知道爹地是不会劫持飞机的。“
儿子说：“是啊，是啊，我知道。”
我说：“好，那为什么你会这样说？”
于是他用一种悲伤的神情看着我，
回答道，
“我不知道我为什么会这样说。
我不知道我为什么会有这种想法。”
我们生活在 一个种族分明的社会当中，
就连一个五岁孩童都能告诉我们 接下来可能会发生什么事情。
即便没有作恶者，
即便没有明确的仇恨，
黑人和罪案之间的连接
早已渗入我五岁儿子的思想，
也渗透进了所有孩子，
甚至是我们每一个人的脑海中。
我们在这个世界上 所看到的种族差异
早已塑造了我们的思维方式，
那些叙述合理化了 我们所看到的差异：
“那些人是罪犯。”
“那些人是施暴者。”
“要恐惧那些人。”
当我的研究团队把研究对象 带到我们的实验室，
让他们观察不同人的照片时，
我们发现人们看到黑人的面孔时， 会更快、更清楚地
辨认模糊的枪支影像。
偏见不仅能控制我们所看见的，
也会控制我们看待事情的角度。
我们发现让人们想象暴力犯罪时，
他们的视线会不自觉地从白人面孔
转向黑人面孔。
让警方想象俘获、射击
和逮捕的场景时，
他们的眼光也会落在黑人身上。
偏见足以影响 司法体系的方方面面。
在一组符合死刑条件判决 的大型数据库之中，
我们发现皮肤较黑的被告
被判死刑的几率 要高出两倍以上——
尤其当被害者是白人的时候。
这个差异非常显著，
尽管我们确保犯罪的严重程度
和被告的吸引力是一样的。
无论我们如何控制变量，
我们都发现黑人受到的惩罚
与他们的肤色黑度成比例：
他们的肤色越黑，
就越有可能被判死刑。
偏见也能影响老师 惩戒学生的方式。
我和同事经过研究发现，
老师给黑人学生的惩罚
往往都比白人学生更加严厉，
即使他们犯的是相同的错误。
在近期的一项研究中，我们发现
老师会把黑人学生视为一个群体，
但把白人学生视作个体来对待。
譬如，如果一个黑人学生调皮捣蛋，
几天后，又有一个黑人学生 做出调皮捣蛋的行为，
老师对待第二个黑人学生的态度
就好像他犯了两次错。
这就像一个孩子的罪过
被叠加在了另一个孩子的身上。
为了更好地理解这个世界， 我们会对周遭的一切分门别类，
以控制和协调
我们所接收的 外部事物的刺激。
分类及其所产生的偏见
让我们的大脑能够更快、 更有效地做出判断，
我们本能地依赖似乎带有
预测能力的模式。
这套分类思考模式 让我们能迅速地做决策，
但同时也在强化我们的偏见。
所以，这套看似在帮助我们 理解世界的模式，
也能够蒙蔽我们。
它们让我们的选择毫不费力，
没有摩擦。
然而也带来了沉重的代价。
那么我们能够做什么？
我们都容易受到偏见的影响，
但我们不见得时刻 都要被偏见左右。
有些特定情况会导致偏见，
而在其他情况下， 偏见则会受到抑制。
让我举个例子。
相信大家都熟悉 Nextdoor 这家科技公司，
他们的主要目的是打造一个 更稳固、健康、安全的社区。
因此，他们提供了凝聚社区
和分享信息的线上空间。
然而，Nextdoor 很快就发现
平台存在种族定性的问题。
一个典型的情况就是，
当居民望向窗外，
看到黑人出现在白人的住宅区时，
他们就快速评判出 这个黑人不怀好意，
即使没有任何犯罪 和不法行为的证据。
很多时候，我们的线上行为
就是真实世界行为的反映。
但我们并不想去创造一个放大偏见、
加深种族差异的简单系统，
而是要去消除它们。
于是 Nextdoor 的联合创办人 向我及他人救助，
寻找解决问题的方法。
他们知道，若想在平台上 制止种族定性，
他们就得主动干预，
也就是，他们得让居民们的 偏见情绪缓和下来。
于是 Nextdoor 最终做出决定，
反对冲动，
并且决定进行干预。
他们为平台添加了 一个简单的清单，
其中包含有三个选项。
首先，他们请用户稍加思索：
“这个人做了什么可疑的行为？”
“黑人”这个分类并不是 怀疑的基础。
其次，他们要求用户描述 这个人的外在特征，
而不是简单的种族和性别。
第三，他们发现很多人
似乎不了解种族定性是什么，
也不知道自己正参与其中。
所以, Nextdoor 向他们解释了该定义，
并告诉他们这是严格禁止的。
你们很多人在机场和地铁站
都看过类似标语：“如果你看到了 什么（可疑的情况），就说出来！”
Nextdoor 把这个标语改成了，
“如果你看见可疑行为，
就明确地说出来。”
该策略的确让用户们的 偏见情绪缓和下来，
Nextdoor 也成功地 让种族定性问题减少了 75%。
很多人常对我说，
“你不可能在每种情况下都进行干预，
尤其是那些要在瞬息之间 做出决定的人。“
但结果表明， 我们能够进行干预的场景
比我们想象的多得多。
在和加州的奥克兰警方
合作之后，
我和几位同事发现， 我们能协助警方
减少对没犯下任何严重罪行的人
进行拦检的次数。
我们的做法是推动警员
在执行拦检任务之前 都要先问自己一个问题：
“这次的拦检任务是 治安情报主导的吗，
是或否？”
换句话说，
我早先的情报是否能够将这个人
跟特定罪行联系在一起？
把这个问题纳入到
警员执行拦检任务时 填写的表格里，
会让警员暂停行动，
并及时思考，“我为什么会想要 把这个人拦下来？“
2017 年，在我们把这个问题 纳入表格之前，
全市的警员已经执行了 大约 32000 次的拦检。
第二年，加上了这个问题后，
拦检的次数减少至 19000 次。
光是对非裔美国人的拦检 就减少了 43%。
并且减少对黑人拦检的次数 并没有让城市变得危险。
事实上，犯罪率持续下降，
并让城市变得更加安全。
所以一个解决方案就是 减少不必要的拦检次数。
另外一个方涉及提升警员
执行拦检任务的质量。
此时科技就派上用场了。
我们大家都知道 乔治·弗洛伊德的死亡，
因为当时试图帮助他的人 用手机摄影机拍下了
这段他与警方骇人的遭遇。
但是还有很多科技手段 从未被我们善用。
全国各地的警方现在
都被要求戴上体佩摄影头。
这样我们不仅可以记录 那些骇人的遭遇，
还可以记录他们的日常互动。
通过和斯坦福大学的 跨学科团队合作，
我们开始使用机器学习技术
去分析大量的情景。
这是为了更好地了解 例行交通拦检时会发生什么事情。
我们发现，
即使警员的行为非常专业，
他们对黑人司机的说话方式 却远不如对白人司机礼貌。
事实上，单单从警员的用词，
我们就能预测他们是在与黑人司机 还是白人司机对话。
问题就在于，这些摄影机 所拍摄的大部分画面
一直没有被警方用来
了解大街上的情况
或者训练警员。
这让人难以接受。
例行的拦检任务怎么会 变成一次致命的碰面？
为什么会发生乔治·弗洛伊德事件？
又为什么会发生其他类似的案例？
当我的长子 16 岁时，
他意识到白人看着他时，
眼神会流露出恐惧。
他说，最糟糕的是在电梯里。
当电梯门关上，
大家都和他们认为高度危险的人
被困在同一个狭小的空间。
我的儿子察觉到了他们的不适，
他便朝着他们微笑， 让他们感到自在，
缓和他们恐惧。
当他开口说话时，
他们的身体就开始放松了，
呼吸也开始顺畅了。
他们喜欢他高低起伏的声音，
他的发音，他的用词。
他听起来就是他们的一份子。
我一直以来都认为我的儿子 和他爸爸一样天生性格外向。
但那一刻，在那个谈话中，我意识到，
他的微笑并不表示他想与
那群陌生人社交。
这是他用来保护自己的护身符，
是他乘搭了数千万次电梯后 磨练出来的生存技能。
他在学着缓和因他的肤色 给身边人带来的紧张感，
消除他的肤色 为自己带来的潜在危险。
我们知道我们的大脑 带有与生俱来的偏见，
而打破偏见的唯一方式 就是停下来，
反思自身提出的假设 是否有理有据。
因此我们需要反问自己：
我们是带着什么假设踏进电梯，
又或者是搭乘飞机的？
我们该如何察觉到自己 潜意识中的偏见？
那些假设能保障谁的安全，
又将谁置于危险之中？
若我们不去反思这些问题，
不坚持让我们的学校、法庭、警局，
以及其他机构去反思这些问题，
那么我们就会让偏见继续
蒙蔽我们。
如此下去，
没有谁能够真正安全。
谢谢。
幾年前，
我和我兒子一起搭飛機， 他當時五歲。
對於能和媽咪一起搭飛機， 我兒子感到很興奮。
他環視周圍，到處看看，
他也在打量其他人。
然後他看到一名男子，說：
「嘿！那個人看起來像爹地！」
我看向那名男子，
他看起來完全不像我丈夫，
一點也不像。
所以我開始環視飛機內部，
我發現這名男子
是機上唯一的黑人男性。
我心想：「好。
我要和我的兒子談一下，
讓他知道不是所有的黑人 看起來都一樣。」
我兒子抬起頭，對我說：
「我希望他不會在這架飛機上搶劫。」
我說：「什麼？你剛才說什麼？」
他說：「我希望那個人 不會在這架飛機上搶劫。」
我說：「你為什麼會那樣說？
你知道爹地不可能會在飛機上搶劫。」
他說：「是啊，是啊，我知道。」
我說：「嗯，那你為什麼那樣說？」
他看著我，表情很悲傷，
他回答：
「我不知道我為什麼那樣說。
我不知道我為什麼那樣想。」
我們生活在如此 嚴重的種族分層當中，
就連五歲小孩也會告訴我們 接下來應該會發生什麼事，
即使當下沒有作惡者，
也沒有明確的恨意。
黑人和犯罪之間的連結
進入了我五歲兒子的腦中。
它找到路進入了所有孩子的腦中，
我們所有人的腦中。
我們在世界上所看到的種族差異
形塑了我們的大腦，
這些說法協助我們理解 我們所看見的差異：
「那些人是罪犯。」
「那些人很暴力。」
「要害怕那些人。」
我的研究團隊把受試者 帶到我們的實驗室，
讓他們接觸不同的臉孔，
我們發現，若他們 接觸的是黑人的臉孔，
他們會更快、更清楚地
看出槍枝的模糊影像。
偏見不僅會控制我們看見什麼，
也會控制我們往哪裡看。
我們發現，若促使 受試者去想像暴力罪行，
他們會把視線轉向黑人臉孔，
而非白人臉孔。
若促使警察去想像 追捕、槍擊，以及逮捕，
也會導致他們把視線 落在黑人的臉孔上。
偏見會影響我們 刑事司法體系的每一方面。
在一個可判死刑之被告的 大型資料集中，
我們發現，膚色比較黑的人
被判死刑的機會高達兩倍以上——
至少當被害人是白人時。
這個影響非常顯著，
就算我們控制了犯罪的嚴重程度
以及被告的吸引力也一樣。
不論我們控制哪些變數，
我們都發現黑人受的懲罰
和他們身體膚色有多黑成比例：
越黑的人，
越有可能被判死刑。
偏見也會影響老師如何懲戒學生。
我和我同事發現，
老師會想要對黑人中學生施以
比白人學生更嚴厲的懲罰，
即使他們重犯相同的錯誤。
在近期的一項研究中，我們發現
老師會把黑人學生 當作一個群體來對待，
卻把白人學生當作 單獨的個體來對待。
比如說，一個黑人學生 做出了不當的行為，
幾天後，有另一個黑人學生 也做了不當的行為，
老師對第二個黑人學生的反應
會像是他做了兩次不當的行為。
就彷彿一個孩子的罪過
可以疊加在另一個孩子身上。
為了理解世界，我們會創造分類，
為了稍微控制和整理
每天不斷轟炸我們的刺激物。
分類以及它所種下的偏見
讓我們的大腦能快速 且有效地做出判斷，
我們會本能地依賴 看似可預測的模式。
但，雖然我們創造的分類 能讓我們快速地做決策，
卻也會強化偏見。
所以，協助我們 理解世界的那些東西，
也能矇蔽我們。
它們輕鬆地幫我們做出選擇，
完全沒有阻力。
但要付出的代價也很大。
我們能怎麼做？
我們大家都無法抵抗偏見，
但我們不見得時時刻刻 都會依偏見行事。
有些條件會讓偏見活躍起來，
有些則會抑制偏見。
讓我舉個例子。
許多人都很熟悉 Nextdoor 這間科技公司。
他們的目的是要創造出
更堅強、更健康、更安全的鄰里。
他們便提供這個線上空間，
讓鄰居可以聚集並分享資訊。
但，Nextdoor 很快就發現
他們有種族歸納方面的問題。
在典型的情況中，
當居民看向窗外，
看到他們的白人鄰里中有個黑人，
就會快速判斷這個黑人不懷好意，
即便沒有任何證據顯示 他有打算要犯罪。
我們在線上的許多行為方式
都反映出我們在真實世界的行為。
但我們並不想要創造 一個操作簡易的系統
來放大偏見、加深種族差異，
而無法瓦解它們。
Nextdoor 的共同創辦人
便向我及他人求助， 希望能想出辦法來。
他們知道，若要在平台上 抑制種族歸納，
他們就得增加阻力；
意即，他們要讓大家慢下來。
所以，Nextdoor 要做出選擇，
他們決定不衝動行事，
選擇加上阻力。
他們的做法是增添一個簡單的清單。
清單上有三個項目。
首先，他們請使用者暫停一下，
想想：「這個人做了什麼 讓他顯得可疑？」
「黑人」這個分類並不是 懷疑的基礎理由。
接著，他們請使用者描述 這個人的身體特徵，
不單單是種族和性別。
第三，他們發現很多人
似乎不知道種族歸納是什麼，
也不知道他們自己參與其中。
所以 Nextdoor 為他們提供定義，
告訴他們種族歸納 是被嚴格禁止的。
大部分的人在機場和地鐵站
都看過這類標牌：「如果 你看到了什麼事，說出來。」
Nextdoor 把這個標牌改成：
「如果你看見了什麼可疑的事，
明確地說出來。」
光是用這種讓大家慢下來的策略，
Nextdoor 就讓 種族歸納減少了 75%。
現在，大家通常會對我說：
「你不可能在所有情況、 所有情境中加上阻力，
更不可能改變那些總是 瞬間做決定的人。」
但結果發現，我們能添加阻力的情況
比我們想像中的還要多。
和加州的奧克蘭警局合作之後，
我和幾位同事能夠協助該警局
減少攔檢沒有犯下 任何嚴重罪行者的次數。
我們的做法是要求警員
在做每次攔檢時 都要先問自己一個問題：
「這次攔檢是有思考過 才決定要做的，
是或否？」
換言之，
我在攔檢之前是否有任何資訊，
能將這個人和特定的 犯罪連結在一起？
把那個問題加到警員 在攔檢時要填寫的表格上，
就會讓警員慢下來，暫停一下，
他們會想：「我為什麼 會想要把這個人攔下來？」
在 2017 年，我們把 那個思考問題納入表格之前，
全市的警員進行了 大約 32,000 次攔檢。
隔年，加上了那個問題之後，
數字減少至 19,000 次攔檢。
光是對非裔美國人 所做的攔檢就減少了 43%。
且減少對黑人的攔檢次數 並沒有讓城市變得比較危險。
事實上，犯罪率持續下降，
該城市變得讓每個人都更安全。
一個解決方案是減少 不必要的攔檢數目。
另一個解決方案則是必須攔檢時，
改善攔檢的品質。
此時科技就能派上用場。
我們都知道喬治．佛洛伊德的死亡，
因為當時試圖協助他的人
用手機攝影機拍下
這段和警方可怕、致命的遭遇。
我們有各種科技， 但我們沒有善用。
全國各地的警局
現在都被要求在身上戴攝影機，
這麼一來，我們會記錄到的 不僅是最可怕極端的遭遇，
還會記錄日常的互動。
我們和史丹佛大學的 一個跨領域團隊合作，
開始使用機器學習技術
來分析大量相遇的情境。
目的是要更了解在例行的 交通攔檢時會發生什麼事。
我們發現，
即使警員的行為表現非常專業，
比起白人司機，他們對黑人司機的 說話方式仍然比較不尊重。
事實上，單單從警員的用詞，
我們就能預測出他們是在 和黑人司機或白人司機說話。
問題是，這些攝影機 所拍攝的大部分影片
並沒有被警局用來 了解街上發生的狀況
或用來訓練警員。
那很可惜。
例行的攔檢怎麼會 變成致命的遭遇？
在喬治．佛洛伊德的案例中 這是怎麼發生的？
在其他的案例中呢？
我的長子 16 歲時，
他發現當白人看著他時，
他們會感到恐懼。
他說，最糟的時候是在電梯裡。
當電梯門關上，
大家被困在這個小小的空間裡，
和他們認為危險的人困在一起。
我兒子能感受到他們的不適，
並用微笑讓他們感到自在些，
降低他們的恐懼。
當他說話時，
他們的身體放鬆了。
他們比較能呼吸。
他們喜歡他的抑揚頓挫、
他的發音、他的用字遣詞。
他聽起來就像他們的一份子。
我以前認為我兒子 和他爸爸一樣天生外向。
但，在那一刻， 我從那段談話中了解到，
他的微笑並不表示他想要
和那些本來會是陌生人的人連結。
他的微笑是個護身符， 用來保護他自己，
是他搭電梯搭了數千次 而磨練出來的生存技能。
他的膚色會產生緊張感， 讓他自己有生命危險，
他便學習去調解這樣的緊張感。
我們知道大腦天生就會有偏見，
打破那偏見的一種方式 就是先暫停下來做反思，
想想我們的假設有什麼依據。
我們得要問問自己：
我們帶著什麼假設踏進電梯？
或上飛機？
我們要如何察覺到 自己無意識的偏見？
那些假設能保護誰的安全？
那些假設讓誰有危險？
若我們不去問這些問題，
不去堅持我們的學校、法庭、警局，
及其他機構都要問這些問題，
那麼我們就會讓偏見繼續
矇蔽我們。
這麼一來，
沒有誰是真正安全的。
謝謝。