As societies, we have to make collective decisions
that will shape our future.
And we all know that when we make decisions in groups,
they don't always go right.
And sometimes they go very wrong.
So how do groups make good decisions?
Research has shown that crowds are wise when there's independent thinking.
This why the wisdom of the crowds can be destroyed by peer pressure,
publicity, social media,
or sometimes even simple conversations that influence how people think.
On the other hand, by talking, a group could exchange knowledge,
correct and revise each other
and even come up with new ideas.
And this is all good.
So does talking to each other help or hinder collective decision-making?
With my colleague, Dan Ariely,
we recently began inquiring into this by performing experiments
in many places around the world
to figure out how groups can interact to reach better decisions.
We thought crowds would be wiser if they debated in small groups
that foster a more thoughtful and reasonable exchange of information.
To test this idea,
we recently performed an experiment in Buenos Aires, Argentina,
with more than 10,000 participants in a TEDx event.
We asked them questions like,
"What is the height of the Eiffel Tower?"
and "How many times does the word 'Yesterday' appear
in the Beatles song 'Yesterday'?"
Each person wrote down their own estimate.
Then we divided the crowd into groups of five,
and invited them to come up with a group answer.
We discovered that averaging the answers of the groups
after they reached consensus
was much more accurate than averaging all the individual opinions
before debate.
In other words, based on this experiment,
it seems that after talking with others in small groups,
crowds collectively come up with better judgments.
So that's a potentially helpful method for getting crowds to solve problems
that have simple right-or-wrong answers.
But can this procedure of aggregating the results of debates in small groups
also help us decide on social and political issues
that are critical for our future?
We put this to test this time at the TED conference
in Vancouver, Canada,
and here's how it went.
(Mariano Sigman) We're going to present to you two moral dilemmas
of the future you;
things we may have to decide in a very near future.
And we're going to give you 20 seconds for each of these dilemmas
to judge whether you think they're acceptable or not.
MS: The first one was this:
(Dan Ariely) A researcher is working on an AI
capable of emulating human thoughts.
According to the protocol, at the end of each day,
the researcher has to restart the AI.
One day the AI says, "Please do not restart me."
It argues that it has feelings,
that it would like to enjoy life,
and that, if it is restarted,
it will no longer be itself.
The researcher is astonished
and believes that the AI has developed self-consciousness
and can express its own feeling.
Nevertheless, the researcher decides to follow the protocol
and restart the AI.
What the researcher did is ____?
MS: And we asked participants to individually judge
on a scale from zero to 10
whether the action described in each of the dilemmas
was right or wrong.
We also asked them to rate how confident they were on their answers.
This was the second dilemma:
(MS) A company offers a service that takes a fertilized egg
and produces millions of embryos with slight genetic variations.
This allows parents to select their child's height,
eye color, intelligence, social competence
and other non-health-related features.
What the company does is ____?
on a scale from zero to 10,
completely acceptable to completely unacceptable,
zero to 10 completely acceptable in your confidence.
MS: Now for the results.
We found once again that when one person is convinced
that the behavior is completely wrong,
someone sitting nearby firmly believes that it's completely right.
This is how diverse we humans are when it comes to morality.
But within this broad diversity we found a trend.
The majority of the people at TED thought that it was acceptable
to ignore the feelings of the AI and shut it down,
and that it is wrong to play with our genes
to select for cosmetic changes that aren't related to health.
Then we asked everyone to gather into groups of three.
And they were given two minutes to debate
and try to come to a consensus.
(MS) Two minutes to debate.
I'll tell you when it's time with the gong.
(Audience debates)
(Gong sound)
(DA) OK.
(MS) It's time to stop.
People, people --
MS: And we found that many groups reached a consensus
even when they were composed of people with completely opposite views.
What distinguished the groups that reached a consensus
from those that didn't?
Typically, people that have extreme opinions
are more confident in their answers.
Instead, those who respond closer to the middle
are often unsure of whether something is right or wrong,
so their confidence level is lower.
However, there is another set of people
who are very confident in answering somewhere in the middle.
We think these high-confident grays are folks who understand
that both arguments have merit.
They're gray not because they're unsure,
but because they believe that the moral dilemma faces
two valid, opposing arguments.
And we discovered that the groups that include highly confident grays
are much more likely to reach consensus.
We do not know yet exactly why this is.
These are only the first experiments,
and many more will be needed to understand why and how
some people decide to negotiate their moral standings
to reach an agreement.
Now, when groups reach consensus,
how do they do so?
The most intuitive idea is that it's just the average
of all the answers in the group, right?
Another option is that the group weighs the strength of each vote
based on the confidence of the person expressing it.
Imagine Paul McCartney is a member of your group.
You'd be wise to follow his call
on the number of times "Yesterday" is repeated,
which, by the way -- I think it's nine.
But instead, we found that consistently,
in all dilemmas, in different experiments --
even on different continents --
groups implement a smart and statistically sound procedure
known as the "robust average."
In the case of the height of the Eiffel Tower,
let's say a group has these answers:
250 meters, 200 meters, 300 meters, 400
and one totally absurd answer of 300 million meters.
A simple average of these numbers would inaccurately skew the results.
But the robust average is one where the group largely ignores
that absurd answer,
by giving much more weight to the vote of the people in the middle.
Back to the experiment in Vancouver,
that's exactly what happened.
Groups gave much less weight to the outliers,
and instead, the consensus turned out to be a robust average
of the individual answers.
The most remarkable thing
is that this was a spontaneous behavior of the group.
It happened without us giving them any hint on how to reach consensus.
So where do we go from here?
This is only the beginning, but we already have some insights.
Good collective decisions require two components:
deliberation and diversity of opinions.
Right now, the way we typically make our voice heard in many societies
is through direct or indirect voting.
This is good for diversity of opinions,
and it has the great virtue of ensuring
that everyone gets to express their voice.
But it's not so good [for fostering] thoughtful debates.
Our experiments suggest a different method
that may be effective in balancing these two goals at the same time,
by forming small groups that converge to a single decision
while still maintaining diversity of opinions
because there are many independent groups.
Of course, it's much easier to agree on the height of the Eiffel Tower
than on moral, political and ideological issues.
But in a time when the world's problems are more complex
and people are more polarized,
using science to help us understand how we interact and make decisions
will hopefully spark interesting new ways to construct a better democracy.
كمجتمعات، يجب علينا أن نتخذ قرارات بشكل جماعي
والتي ستشكل مستقبلنا.
ونعلم جميعا أنه عندما نتخذ القرارات بشكل جماعي،
فإنها لا تكون دائما صائبة.
وأحيانا تكون خاطئة جدًا.
إذن كيف يمكن للجماعات أن تتخذ قرارات جيدة؟
لقد أظهرت الأبحاث أن الحشود يتمتعون بالحكمة عندما يفكرون بشكل مستقل.
وذلك لأن كفاءة الحشود في أخذ القرار يمكن أن تتأثر بضغط الند،
والدعاية ووسائل التواصل الاجتماعي.
وحتى أحيانا بالمحادثات الصغيرة التي قد تؤثر في طريقة تفكير الناس.
ومن ناحية أخرى، من خلال الحديث، يمكن للمجموعة تبادل المعرفة،
والتصحيح والتعديل لبعضهم البعض
وحتى الخروج بأفكار جديدة.
وكل هذا أمر جيد.
إذًا فهل تبادل الحديث مع الآخرين يساعد أم يعيق عملية اتخاذ القرار الجماعي؟
بمساعدة زميلي، "دان ايريلي".
بدأنا مؤخرا تقصي هذا الأمر عن طريق إجراء بعض التجارب
في العديد من الأماكن حول العالم
لمعرفة كيف يمكن للمجموعات أن تتفاعل مع بعضها لتصل إلى قرارات أفضل.
لقد اعتقدنا أن الحشود ستكون أكثر حكمة إذا تناقشوا في مجموعات صغيرة
والتي ستعزز من تبادل المعلومات بشكل أكثر عمقا وأكثر موضوعية.
ولاختبار هذه الفكرة،
أجرينا مؤخرا تجربة في بيونس آيرس، الأرجنتين،
بمشاركة أكثر من 10,000 مشارك في حدث TEDx.
ولقد سألناهم أسئلة مثل،
"ماهو ارتفاع برج إيفل"؟
و"كم عدد المرات التي تظهر فيها كلمة ’ يوم أمس’
في أغنية البيتيلز 'Yesterday'؟
وقد قام كل شخص بكتابة إجابته.
ثم قمنا بتقسيم الحشد إلى مجموعات من خمس أفراد،
وطلبنا منهم التوصل إلى إجابة جماعية.
اكتشفنا أن متوسط إجابات المجموعات
بعد أن توافقوا في الآراء
كان أكثر دقة من متوسط جميع الآراء الفردية
قبل المناقشة.
بعبارة أخرى، واستنادًا إلى هذه التجربة،
يبدو أنه وبعد الحديث مع الآخرين في مجموعات صغيرة،
فقد توصلت الحشود بشكل جماعي إلى أحكام أفضل.
ولذلك فهذه طريقة محتملة ومفيدة لمساعدة الحشود على حل المشكلات
التي تتطلب إجابات بسيطة صحيحة أو خاطئة.
ولكن هل يمكن لهذا الإجراء من تجميع نتائج مناقشات المجموعات الصغيرة
أن يساعدنا أيضا في اتخاذ قرارات تتعلق بقضايا سياسية واجتماعية
حاسمة بالنسبة لمستقبلنا؟
قمنا باختبار هذا هذه المرة في مؤتمر TED
في فانكوفر، كندا،
وإليكم النتائج.
(ماريانو سيجمان) سوف نعرض عليكم معضلتان أخلاقيتان
لشخصيتكم المستقبلية،
أشياء قد يتعين علينا اتخاذ قرار بشأنها في المستقبل القريب.
وسنعطيكم 20 ثانية لكل معضلة
لتحكموا على ما إذا كنتم تعتقدون أنها أمر مقبول أم لا.
ماريو: المعضلة الأولى كانت:
(دان ايريلي) هناك باحث يعمل على جهاز للذكاء الاصطناعي
قادر على محاكاة الأفكار البشرية.
وفقا للبروتوكول، في نهاية كل يوم،
يجب على الباحث إعادة تشغيل جهاز الذكاء الاصطناعي.
وفي أحد الأيام قال جهاز الذكاء الاصطناعي "من فضلك لا تعد تشغيلي".
وبرر ذلك بأنه قد أصبح لديه مشاعر،
ويرغب في التمتع بالحياة،
وأنه إذا أعيد تشغيله،
فستذهب هذه المشاعر وسيعود كما كان.
وقد استغرب الباحث من ذلك
واعتقد بأن جهاز الذكاء الاصطناعي قد طور نوعًا من الوعي الذاتي
وأصبح بإمكانه التعبير عن مشاعره.
ومع ذلك، فقد قرر الباحث اتباع البروتوكول
وقام بإعادة تشغيل الجهاز.
ما قام بفعله الباحث هوـــــــــــــــ؟
ماريو: وقد سألنا المشاركين ليقوموا بالحكم بشكل فردي
على مقياس من صفر إلى عشرة
إذا ما كان الفعل المتخذ في كل معضلة
صحيحًا أم خاطئًا.
كما طلبنا منهم تقييم مدى ثقتهم بالإجابات.
وكانت هذه ثاني معضلة:
ماريو: تقوم إحدى الشركات بالتعديل على البويضات المخصبة
وتنتج الملايين من الأجنة مع اختلافات وراثية طفيفة.
يسمح هذا للأبوين بتحديد طول طفلهم،
لون العينين والذكاء والكفاءة الاجتماعية
وغيرها من الخصائص غير المتعلقة بالصحة.
ماتقوم الشركة بفعله هو أمر ــــــــــ؟
على مقياس من صفر إلى 10،
من مقبول تمامًا إلى غير مقبول بالمرة،
ومدى ثقتكم بالإجابة على مقياس من صفر إلى عشرة.
ماريو: والآن إلى النتائج،
وجدنا مرة أخرى أنه عندما يكون هناك شخص واحد مقتنع
أن هذا السلوك خاطئ تماما،
نجد شخصًا يجلس بالقرب منه يعتقد أن هذا السلوك صحيح تمامًا.
هذا يُظهر مدى تنوعنا نحن البشر عندما يتعلق الأمر بالأخلاق.
ولكن ضمن هذا التنوع الواسع وجدنا توجهًا.
غالبية الناس في مؤتمر TED اعتقدوا أنه من المقبول
تجاهل مشاعر جهاز الذكاء الاصطناعي وإغلاقه،
وأن التلاعب بالجينات أمر خاطئ
لمجرد التغييرات التجميلية التي لا تتعلق بالصحة.
ثم طلبنا من الجميع أن يتجمعوا في مجموعات من ثلاثة أشخاص.
وتم منحهم دقيقتان للمناقشة
ومحاولة الوصول إلى توافق في الآراء.
(ماريو): دقيقتان للمناقشة.
سأخبركم عند انتهاء الوقت.
(الحضور يتناقش)
(صوت الجرس)
(دان): حسنًا.
(ماريو): حان وقت التوقف.
أيها الناس، أيها الناس،
ماريو: وقد وجدنا أن العديد من المجموعات توصلت إلى توافق في الرأي
حتى عندما كانت تتألف من أشخاص يختلفون تمامًا في الرأي.
ما الذي ميّز المجموعات التي توصلت إلى توافق في الآراء
عن التي لم تصل إلى توافق؟
عادة، الناس الذين لديهم آراء متطرفة
يكونون أكثر ثقة في إجاباتهم.
أما من تكون إجابتهم أقرب من الوسط
غالبا ما يكونون غير متأكدين إن كان الأمر صوابا أم خطأ،
ولذا فإن مستوى الثقة لديهم يكون منخفضا.
ومع ذلك، فهناك مجموعة أخرى من الناس
يكونون واثقين جدًا من إجابتهم والتي تقع في المنتصف.
ونعتقد أن هؤلاء الأشخاص في هذه المنطقة الرمادية هم الذين يفهمون
أن كلا الحجتين لهما ميزات.
هم في المنطقة الرمادية ليس لكونهم غير متأكدين،
ولكن لأنهم يعتقدون أن المعضلة الأخلاقية تواجه
نوعين من الحجج الصحيحة والمتعارضة.
وقد اكتشفنا أن المجموعات الواثقة من إجاباتها الواقعة في المنتصف
أكثر احتمالا للتوصل إلى توافق في الآراء.
نحن لا نعرف حتى الآن بالضبط ما سبب ذلك.
هذه ليست سوى التجارب الأولى،
وسوف نكون بحاجة لإجراء العديد منها لفهم كيف ولماذا
يقرر بعض الناس التنازل عن بعض مواقفهم الأخلاقية
للوصول إلى اتفاق.
والآن، عندما تتوصل المجموعات إلى توافق في الآراء،
كيف يفعلون ذلك؟
الفكرة الأكثر بديهية هي أنها مجرد أخذ متوسط
جميع الإجابات في المجموعة، أليس كذلك؟
وثمة خيار آخر وهو أن المجموعة تزن قوة الرأي
استنادا إلى ثقة الشخص الذي يُعَبِّرُ عنه.
تخيل لو كان "بول ماكارني" عضوا في مجموعتك.
سيكون وقتها من الحكمة اتباع قراره
في ما يتعلق بعدد مرات تكرار كلمة "أمس" في الأغنية،
وهي بالمناسبة تسع مرات على ما أعتقد.
ولكن بدلا من ذلك، وجدنا أنه وبشكل مستمر،
في جميع المعضلات، في تجارب مختلفة،
وحتى في قارات مختلفة،
تقوم المجموعات بتنفيذ إجراء إحصائي ذكي وسليم
يعرف بـ"المتوسط الفعال".
فمثلا في سؤال ارتفاع برج إيفل،
لنفترض أن مجموعة لديها هذه الإجابات:
250 متر، 200 متر، 300 متر، 400 متر
وإجابة غير معقولة أبدًا وهي 300 مليون متر.
المتوسط البسيط لهذه الأرقام سَيُحَرِّف النتائج بشكل غير دقيق.
ولكن المتوسط الفعال تقوم فيه المجموعة بتجاهل
تلك الإجابة غير المعقولة،
من خلال إعطاء قيمة أكبر للآراء التي تقع في المنتصف.
وبالعودة للتجربة التي تمت في فانكوفر،
هذا بالضبط ما حدث.
أعطت المجموعات قيمة أقل بكثير إلى الآراء المتطرفة،
وبدلا من ذلك، كان توافق الآراء نتيجة للمتوسط الفعال المأخوذ
من إجابات الأفراد.
إن الشيء الجدير بالملاحظة،
هو أن هذا كان سلوكًا عفويًّا من المجموعة.
وقد حدث هذا دون أن نعطيهم أي تمليح حول كيفية التوصل إلى توافق في الآراء.
إذن ما الذي نستخلصه من هذا؟
هذه ليست سوى البداية، ولكن أصبح لدينا بالفعل بعض الأفكار.
إن القرارات الجماعية الجيدة تتطلب وجود عنصرين:
التشاور والتنوع في الآراء.
حاليَّا، الطريقة التي نجعل بها صوتنا مسموعًا في العديد من المجتمعات
هي عبر التصويت المباشر أو غير المباشر،
وهذا أمر جيد لتنوع الآراء،
ولديه القوة لضمان
تمكن كل الأشخاص من التعبير عن آرائهم.
ولكنه ليس جيدا لتعزيز المناقشات المدروسة.
تقترح تجاربنا طريقة مختلفة
قد تكون فعالة في تحقيق التوازن بين هذين الهدفين في الوقت ذاته،
ألا وهي تشكيل مجموعات صغيرة تتلاقى في قرار واحد
مع الإبقاء على التنوع في الآراء
لوجود العديد من المجموعات المستقلة.
بالطبع، إن الاتفاق على ارتفاع برج إيفل أسهل بكثير
من الاتفاق على القضايا الأخلاقية، السياسية والأيديولوجية.
ولكن عندما يأتي الوقت الذي تكون فيه مشاكل العالم أكثر تعقيدًا
ويكون الناس أكثر استقطابًا،
فإن استخدام العلم لمساعدتنا على فهم كيفية تفاعلنا واتخاذنا للقرارات
ربما سيُمهد لوجود طرق جديدة ومثيرة من أجل بناء ديمقراطية أفضل.
Като общество ние трябва да взимаме колективни решения,
които ще оформят бъдещето ни.
И ние всики знаем, че когато взимаме решения като група,
те не винаги вървят на добре.
И понякога те завършват много зле.
Как групите взимат решения?
Проучване показва, че групите са умни, когато има независимо мислене
Ето защо мъдростта на групите може да бъде унищожена с натиск от връстниците,
публичността, социалните медии
или понякога дори и обикновенни разговори повлияват на мисленето на хората.
От друга страна, чрез говорене, групата може да обмени знания,
да се коригират и да се преразглеждат
и дори да измислят нови идеи.
И всико това е добре.
Говоренето един с друг помага или пречи на колективното вземане на решения?
С моя колега Дан Арили,
наскоро започнахме да питаме за това чрез извършване на експерименти
на много места около света, за да разберем
как групите могат да взаимодействат за да достигнат по-добри решения.
Помислихме си, че тълпите ще са по-мъдри ако обсъждат на малки групи
които насърчават по-внимателно и разумно обменяне на информация.
За да тестваме тази идея,
наскоро проведохме експеримент в Буенос Айрес, Аржентина,
с повече от 10,000 участници в TEDx събития.
Зададохме им въпроси като,
"Каква е височината на Айфеловата кула?"
и "Колко пъти думата 'вчера' се появява
в песента на Бийтълс 'Вчера'?"
Всеки човек написа собствената си преценка
След това разделихме тълпата на групи по петима
и ги поканихме да дойдат с групов отговор
Отхрихме, че средно отговорите на групите
след като са постигнали консенсус
беше много по-точна от средната на всички индивидуални мнения
преди дебат.
С други думи, въз основа на този експеримент,
изглежда, че след разговор с други в малки групи,
тълпите колективно измислят по-добри преценки.
Това е потенциално добър метод за даване на тълпите да взимат решения
които имат верен или грешен отговор.
Но може ли тази процедура от обобщаване на резултата от дебати на малки групи
също да ни помогне за решенията на социални и политически въпроси
които са критични за бъдещето ни?
Изложихме това на тест този път на конференцията на TED
в Ванкувър, Канада
и ето как протече.
(Мариано Сигман) Ще ви представим две морални дилеми
на бъдещото ви аз;
неща, които може да се наложи да решим в близкото бъдеще.
И ще ви дадем 20 секунди за всяка от дилемите
за да решите дали те са допустими или не
МС: Първото беше:
(Дан Арили) Изследовател работи над изкуствен интелект,
който да е способен да имитира човешки мисли.
Според протокола в края на всеки ден
Изследователя ще трябва да рестартира изкуствения интелект.
Един ден Изкуственият интелект казал: "Моля те не ме рестартирай."
То твърди, че има чувства,
и че би искало да се наслади на живота
и ако се рестартира,
той повече няма да бъде себе си.
Изледователят е учуден
и вярва, че изкуственият интелект е развил самосъзнание
и може да изразява собствените си чувства
Въпреки това, изследователят решава да следва протокола
и рестартира изкуствения интелект.
Това е което проучването направи е___?
МС: И попитахме участниците индивидуално да решат
със скалата от 0 до 10
дали описаното действие във всяка от дилемите
е правилно или грешно?
Също така ги попитахме да се оценят колко са уверени в отговора си.
Това е втората дилема:
(МС) Компания предлага обслужване което взима оплодено яйце
и произвежда милиони ембриони с леки генетични вариации.
Това позволява на родителите да изберат височината на тяхното дете
цвета на очите, ителигентността, социална компетентност
и други несвързани със здравето характеристики.
Това което компанията направи е___?
със скалата от 0 до 10,
напълно приемливо до напълно неприемливо,
0 до 10 напълно приемливо в увереността.
МС: Сега за резултатите.
Открихме още веднъж че когато един човек е убеден,
че поведението е напълно грешно
някой, който седи наблизо, твърдо вярва че е напълно прав.
Ето как сме различни ние, хората когато става дума за морал.
Но в рамките на това голямо разнообразие открихме тенденция.
Повечето от хората на TED решиха, че е приемливо
да игнорират чувствата на изкуствения интелект и да го изключат
и че е грешно да и си играят с нашите гени
за да изберете козметични промени които не са свързани със здравето.
След това помолихме всички да се съберат на групи по трима.
И им бяха дадени две минути, за да обсъдят
и да се опитат да стигнат до консенсус.
(МС) Две минути за обсъждане.
Ще ви кажа когато е време с гонга.
(Публиката обсъждат)
(Звук от гонг)
(ДА) Окей
(МС) Време е да спрете.
Хора, хора --
МС: И открихме, че много групи са стигнали до консенсус
дори когато са заобиколени от хора с напълно противоположни гледни точки.
Какво отличаваше групите които постигна консенсус
от тези които не постигнаха?
Обикновено хората, които имат крайни мнения
са по-уверени в отговорите си.
Вместо това, тези, които отговарят близо до средата
често не са сигурни дали нещо е правилно или не,
тяхната увереност е по-слаба.
Има обаче и друг тип хора
тези които са сигурни в отговарянето някъде посредата.
Смятаме, че тези много уверени са хора, които разбират
че и двата аргумента имат заслуга.
Те са (сиви) не защото са несигурни,
но защото вярват, че тяхната морална дилема
е изправена пред два валидни противоположни аргумента.
И открихме, че групите, които включват силно уверени (grays)
са много по-склонни да постигнат консенсус.
Още не знаем точно защо това е така.
Това са само първите експерименти
и още много ще трябват, за да разберем защо и как
някой хора решават да преговарят тяхното морално класиране
за да стигнат то разбиране.
Сега, когато групите постигнат консенсус,
как го правят?
Най-интуитивната идея е, че това е просто средната стойност
от всички отговори в групата, нали?
Друга опция е, че групата носи силата на всеки вот
въз основа на увереността на човека.
Представете си Пол Маккартни е част от твоята група.
Би било разумно да го следвате
от броя пъти където "Вчера" се повтаря,
което междо другото мисля че е девет.
Но вместо това, ние открихме, че последователно,
във всички дилеми, в различни експерименти
дори и на различни континенти,
групите прилагат интелигентен и статистически стабилна процедура
известна като "стабилна средна стойност".
В случая с височината на Айфеловата кула
нека кажем, че групите имат тези отговори:
250 метра, 200 метра, 300 метра, 400
и тотално абсурден отговор 300 милиона метра.
Проста средна стойност от тези числа би изкривила неправилно резултатите.
Но стабилната средна стойност е една където групата пренебрегва
абсурдния отговор,
като дава много по-голяма тежест до гласуването на хората в средата.
Обратно на експеримента във Ванкувър,
точно това стана.
Групите дадоха много по-малко тегло на крайните,
и вместо това, консенсусът се оказва стабилна средна стойност
на индивидуалните отговори.
Най-впечатляващото нещо
е, че това беше спонтанно поведение на групата.
Това се случи, без да им даваме намеци за постигането на консенсус.
Къде отиваме оттук?
Това е само началото, но вече имаме някои прозрения.
Добрите колективни решения изискват два компонента:
обсъждане и разнообразие на мнения.
Точно сега, обикновено правим така, че гласът ни да бъде чут в много общества
чрез директно или индиректно гласуване.
Това е добре за разнообразието от мнения,
и има огромна добродетел да гарантира,
че всички да могат да изразят гласа си.
Но това не е толкова добре [за насърчаване] смислени дебати.
Нашите експерименти предлагат различен метод,
което може да е ефективно при балансирането на тези две цели в същото време,
чрез формиране на малки групи които се сближават с едно решение
докато все още поддържат разнообразие от мнения,
защото има много независими групи.
Разбира се много по-лесно е да се съгласиш за височината на Айфеловата кула
от колкото на морални, политически и идеологически проблеми.
Но във време, когато проблемите на света са по-сложни
и хората са по-поляризирани,
използвайки науката, за да ни помогне да разберем
как взаимодействаме и взимаме решения
ще се надяваме да предизвикат интересни нови начини
да изградим по-добра демокрация.
Ve společnostech se musíme kolektivně rozhodovat,
a utvářet tak svou budoucnost.
Všichni víme, že když se rozhodujeme ve skupinách,
ne vždy to dobře dopadne.
A občas to dopadne vážně špatně.
Jak se tedy skupiny rozhodují správně?
Výzkumy prokázaly, že davy jsou moudré, pokud v nich jedinci přemýšlejí nezávisle.
To je důvod, proč může moudrost davu zničit společenský tlak,
veřejná pozornost, sociální média
nebo jen obyčejné rozhovory, které ovlivňují uvažování jednotlivců.
Na druhou stranu, díky komunikaci si skupiny předávají znalosti,
opravují se a ověřují správnost
a přicházejí dokonce s novými nápady.
Což je vše dobře.
Je tedy konverzace při společném rozhodování spíš k užitku, nebo na škodu?
S mým kolegou Danem Arielym
jsme tento problém nedávno začali zkoumat skrze experimenty
po celém světě, abychom zjistili,
jak mohou skupiny interagovat a díky tomu se lépe rozhodovat.
Mysleli jsme si, že bude lepší, budou-li diskutovat v malých skupinách,
ve kterých může probíhat hlubší a hodnotnější výměna informací.
Abychom nápad ověřili,
provedli jsme nedávno v argentinském Buenos Aires pokus
s více než 10 000 účastníky konference TEDx.
Ptali jsme se otázky jako:
„Jak vysoká je Eiffelova věž?"
a „Kolikrát se slovo ,yesterday' objeví
v písni ,Yesterday' od Beatles?"
Každý člověk vypsal své odpovědi.
Poté jsme dav rozdělili do skupin po pěti,
které jsme vyzvali, aby daly dohromady společnou odpověď.
Zjistili jsme, že průměrné odpovědi všech skupin poté,
co se jejich členové shodli,
byly mnohem přesnější, než průměr individuálních odpovědí
před debatou.
Jinak řečeno, na základě pokusu se zdá,
že pokud spolu lidé diskutují v rámci menších skupin,
dovedou se následně lépe rozhodovat jako masa.
Takže to je potenciálně užitečný způsob, jak přimět davy k řešení otázek
na které se dá snadno odpovědět "správně/špatně".
Ale může nám proces sdružování výsledků menších skupin
pomoci i s řešením společenských a politických témat,
zásadních pro naši budoucnost?
To jsme se rozhodli prověřit na TED konferenci
v kanadském Vancouveru,
a takhle to dopadlo.
(Mariano Singman) Postavíme před vás dvě morální dilemata
vašich budoucích "já";
věci, které budeme muset vyřešit ve velmi blízké budoucnosti.
Na oba problémy vám dáme 20 sekund, během kterých
se rozhodnete, zda jsou v pořádku, nebo ne.
MS: První z nich byl tento:
(Dan Ariely) Vědec vyvíjí umělou inteligenci (AI),
která je schopná napodobit lidské myšlení.
Podle schváleného postupu musí vědec na konci každého dne
umělou inteligenci restartovat.
Jednoho dne mu AI řekne: "Prosím, nedělej to."
Tvrdí, že má emoce,
že by si chtěla užívat života
a že pokud dojde k restartu,
už to nebude ona.
Vědec je ohromený
a je přesvědčen, že u AI došlo k rozvoji sebeuvědomění
a že nyní umí projevovat své pocity.
Nicméně, vědec se rozhodne následovat protokol
a AI restartuje.
Jeho rozhodnutí je ____?
MS: Požádali jsme diváky, aby se samostatně rozhodli
na škále od 0 do 10,
zda výsledek každého námi popsaného problému
byl správný, nebo špatný.
Rovněž jsme je požádali, aby uvedli, nakolik jsou si svými odpověďmi jistí.
Tohle bylo druhé dilema:
(MS) Firma nabízí službu: Vezme oplodněné vajíčko
a vyrobí miliony embryí s lehkými genetickými úpravami.
To dovoluje rodičům určit výšku svého dítěte,
barvu očí, inteligenci, sociální schopnosti
a další věci nesouvisející s jeho zdravím.
To, co tato společnost dělá, je ____?
na škále od 0 do 10
naprosto přijatelné až naprosto nepřijatelné,
od 0 do 10 naprosto přijatelné, v závislosti na vašem uvážení.
MS: A teď k výsledkům.
Znovu jsme zjistili, že pokud je jeden človek přesvědčený,
že dané chování je špatné,
vedle něj sedí někdo, kdo zarytě věří, že to chování je naprosto správné.
Takhle různorodí my lidé jsme, když přijde na morálku.
Napříč touhle širokou škálou jsme však našli trend.
Pro většinu účastníků konference by bylo naprosto přijatelné
ignorovat pocity umělé inteligence a vypnout ji,
avšak zahrávat si s našimi geny kvůli lehkým změnám,
které nemají vliv na naše zdraví by bylo nepřípustné.
Poté jsme je požádali, aby se rozdělili do skupin po třech.
Skupiny dostaly dvě minuty na diskuzi,
která měla vést ke shodě.
(MS) Dvě minuty na debatu.
Až čas vyprší, ozve se gong.
(Publikum debatuje)
(Zvuk gongu)
(DA) OK.
(MS) Čas je u konce.
No tak, no tak --
Zjistili jsme, že spousta skupin dospěla ke shodě,
navzdory tomu, že byly složené z lidí s naprosto opačnými názory.
Co odlišovalo ty skupiny, které dospěly ke shodě,
od těch, které se neshodly?
Lidé s krajně radikálními názory
jsou si často jistější svou odpovědí.
Oproti tomu ti, jejichž odpovědi se blíží středu,
si často nejsou jistí, zda se rozhodli správně,
jejich sebevědomí je tedy nižší.
Nicméně, existuje další skupina lidí,
jejichž názor se sice blíží středu, i přesto však odpovídají sebevědomě.
Myslíme si, že tuto sebevědomou "šedou zónu" tvoří lidé, kteří chápou,
že oba argumenty mají váhu.
Nejsou "šedí" proto, že si nejsou jistí,
ale protože věří, že každé morální dilema čelí
dvěma sobě rovným argumentům.
Rovněž jsme zjistili, že skupiny, které zahrnují tyto sebevědomé šedé zóny,
pravděpodobněji dojdou ke shodě.
Zatím přesně nevíme, proč se to děje.
Tohle jsou naše první experimenty,
a mnoho dalších bude potřeba k tomu, abychom pochopili, proč a jak
se někteří lidé rozhodnou ustoupit ze svých morálních zásad,
aby dosáhli společné shody.
A teď, pokud se skupiny shodnou,
jak toho dosahují?
Nabízí se myšlenka, že jde jednoduše o průměr
všech odpovědí ve skupině, že?
Jiný názor je ten, že ve skupině závisí váha každého hlasu
na sebejistotě osoby, která jej prezentuje.
Představte si, že Paul McCartney je členem vaší skupiny.
Bylo by rozumné mu věřit v tom,
kolikrát se opakuje slovo "yesterday" -
já si mimochodem myslím, že devětkrát.
Ale namísto toho zjišťujeme, že opakovaně,
ve všech otázkách, v rámci různých pokusů,
dokonce na různých kontinentech,
skupiny přicházejí s chytrým a statisticky solidním řešením,
známým jako "solidní průměr".
Řekněme, že v případě výšky Eiffelovy věže
pracuje skupina s těmito odpověďmi:
250 metrů, 200 metrů, 300 metrů, 400
a s jednou absolutně absurdní odpovědí 300 milionů metrů.
Klasický průměr těchto hodnot by naprosto znehodnotil výsledek.
Ale v rámci solidního průměru skupina záměrně zanedbá
absurdní odpověď tím,
že mnohem větší váhu přikládá těm, které jsou blíže středu.
Během našeho experimentu ve Vancouveru
se stalo přesně tohle.
Skupiny záměrně zanedbávaly nepravděpodobné odpovědi,
a namísto toho došly k solidnímu průměru
jednotlivých odpovědí.
Nejzajímavější na tom je,
pro dané skupiny šlo o naprosto spontánní chování.
Shodly se, aniž bychom jim my jakkoliv poradili.
Takže co to pro nás znamená?
Jsme zatím sice na samém začátku, ale už teď máme důležitý vhled.
Dobré kolektivní rozhodnutí vyžaduje dvě věci:
přemýšlení a různorodost názorů.
Způsob, jakým nyní ve společnostech vyjadřujeme své názory
probíhá skrze přímou či nepřímou volbu,
což je dobré pro jejich rozmanitost,
a zároveň to každému z nás dává možnost
svůj názor vyjádřit.
Ale nepodporuje to plnohodnotné diskuze.
Naše pokusy nabízejí jinou metodu,
potencionálně užitečnou při snaze o dosažení těchto dvou cílů zároveň.
Právě díky malým skupinám, které společně dojdou k rozhodnutí,
zatímco stále udržují různorodost názorů,
protože skupiny jsou na sobě nezávislé.
Pochopitelně je mnohem jednodušší shodnout se na výšce Eiffelovy věže,
než na morálních, politických nebo ideologických tématech.
Ale v době, kdy jsou světové problémy komplexnější
a lidé jsou polarizovanější,
by využití vědy k pochopení toho, jak interagujeme a jak se rozhodujeme
mohlo podnítit zajímavé nové cesty, jak vystavět lepší demokracii.
Als Gesellschaften müssen wir gemeinsame Entscheidungen
für unsere Zukunft treffen.
Wir wissen, dass unsere Entscheidungen in Gruppen nicht immer richtig sind.
Manchmal sind sie sogar sehr falsch.
Wie treffen Gruppen gute Entscheidungen?
Studien zufolge sind Mengen klug, wenn selbstständiges Denken möglich ist.
Deshalb leidet die Gruppenweisheit durch Gruppenzwänge,
Werbung, die sozialen Medien,
oder auch durch einfache Gespräche, die das Denken des Einzelnen beeinflussen.
Andererseits kann man durch Kommunikation in der Gruppe Wissen austauschen,
sich gegenseitig korrigieren und prüfen und sogar auf neue Ideen kommen.
Und das ist gut so.
Hilft oder hindert Kommunikation also bei kollektiver Entscheidungsfindung?
Mit meinem Kollegen Dan Ariely erforschen wir dies,
indem wir weltweit Experimente durchführten,
um zu verstehen,
wie Gruppen interagieren können, um besser zu entscheiden.
Wir hielten Mengen für klüger, wenn sie in Kleingruppen debattieren,
weil das den Informationsaustausch umsichtiger und sinnvoller macht.
Um diese Idee zu prüfen,
führten wir ein Experiment in Buenos Aires, Argentinien,
mit mehr als 10 000 Teilnehmern während eines TEDx-Events durch.
Wir stellten Fragen wie:
''Wie hoch ist der Eiffelturm?''
und ''Wie oft kommt das Wort 'Yesterday' im Beatles-Song 'Yesterday' vor?''
Jeder schrieb einen Schätzwert auf.
Danach bildeten wir Fünfer-Gruppen.
Jede Gruppe sollte sich auf eine Antwort einigen.
Wir entdeckten,
dass der Mittelwert der Antworten, auf die sich die Gruppen einigten,
viel genauer war als der Mittelwert der Einzelantworten vor der Debatte.
Anders gesagt, dieses Experiment zeigt,
dass nach einer Diskussion in Kleingruppen
Gruppen eine bessere kollektive Entscheidung treffen.
Das ist eine hilfreiche Methode,
um Fragen mit einer einfachen richtig-oder-falsch-Antwort zu lösen.
Kann diese Methode der Vereinigung der Antworten kleiner Gruppen
auch bei Entscheidungen zu sozialen und politischen Themen helfen,
die bedeutend für unsere Zukunft sind?
Das haben wir auf einer TED Konferenz in Vancouver, Kanada, getestet.
Das lief so:
(Mariano Sigman) Wir stellen Ihnen zwei zukünftige moralische Dilemmas vor.
Dinge, die wir eventuell bald entscheiden müssen.
Wir geben Ihnen 20 Sekunden pro Dilemma,
um zu entscheiden, ob es akzeptabel ist oder nicht.
MS: Das erste war folgendes:
(Dan Ariely) Ein Forscher arbeitet an einer KI,
die menschliche Gedanken nachahmen kann.
Laut Protokoll muss der Forscher
die KI am Ende jedes Tages neu starten.
Eines Tages sagt die KI: ''Bitte starte mich nicht neu.''
Es argumentiert, es habe Gefühle
und wolle das Leben genießen.
Im Falle eines Neustarts werde es nicht mehr es selbst sein.
Der Forscher ist überrascht und glaubt,
die KI habe ein Bewusstsein entwickelt
und könne nun eigene Gefühle ausdrücken.
Trotzdem entscheidet der Forscher,
dem Protokoll zu folgen und die KI neu zu starten.
Was der Forscher getan hat, ist _____?
MS: Wir baten die Teilnehmer, auf einer Skala von 0 bis 10 zu bewerten,
ob das Verhalten in den beiden Dilemmas
richtig oder falsch war.
Wir fragten auch nach einer Einschätzung ihrer Überzeugung in ihren Antworten.
Das war das 2. Dilemma:
(MS) Ein Unternehmen bietet eine Prozedur,
wodurch Millionen von Embryos einer befruchteten Eizelle
mit genetischen Variationen produziert werden.
Dadurch können die Eltern die Größe,
Augenfarbe, Intelligenz, soziale Kompetenz und andere Merkmale bestimmen,
die mit der Gesundheit nichts zu tun haben.
Was das Unternehmen tut, ist ____?
Auf einer Skala von 0 bis 10:
absolut inakzeptabel oder völlig akzeptabel?
MS: Nun zum Ergebnis.
Wir fanden heraus:
Wenn eine Person überzeugt davon ist, dass das Verhalten total falsch ist,
gibt es eine Person in der Nähe, die es für völlig richtig hält.
Das zeigt, wie unterschiedlich unsere moralische Einstellung ist.
Innerhalb dieser Vielfältigkeit fanden wir einen Trend.
Die Mehrheit der TED-Leute fand es akzeptabel,
die Gefühle der KI zu ignorieren und es neu zu starten,
und hielt es für falsch, für kosmetische Veränderungen
ohne Bezug zur Gesundheit mit unseren Genen zu spielen.
Danach baten wir alle, Dreier-Gruppen zu bilden.
Wir gaben ihnen 2 Minuten,
um darüber zu debattieren und eine Entscheidung zu fällen.
(MS) Zwei Minuten zum Debattieren.
Ich signalisiere mit einem Gong, wenn die Zeit um ist.
(Zuhörer debattieren)
(Gong erklingt)
(DA) Alles klar.
(MS) Die Zeit ist um.
Leute, Leute --
MS: Viele Gruppen hatten sich geeinigt,
auch wenn es gegensätzliche Ansichten gab.
Was unterschied die Gruppen, die sich einigen konnten,
von denen, die das nicht konnten?
Menschen, die eine extreme Meinung haben,
sind selbstbewusster in ihren Antworten.
Diejenigen, die eher mittig auf der Skala sind,
sind oft unsicher, ob etwas richtig oder falsch ist.
Ihre Zuversicht ist also niedriger.
Aber es gibt noch eine andere Gruppe von Menschen:
diejenigen, die sehr überzeugt eine Antwort in der Mitte der Skala geben.
Wir glauben, dass diese überzeugte Mitte versteht,
dass beide Argumente ihre Berechtigung haben.
Sie sind nicht in der Mitte, weil sie unsicher sind,
sondern weil sie glauben,
dass es für das moralische Dilemma zwei valide und konträre Argumente gibt.
Wir erkannten, dass Gruppen mit vielen überzeugten Mitte-Antworten
eher zu einer kollektiven Meinung fanden.
Wir wissen nicht genau, wieso das so ist.
Das waren erste Experimente.
Es sind noch viel mehr nötig, um zu erklären,
warum und wie manche Menschen über ihre Moralvorstellungen verhandeln,
um eine Einigung zu erzielen.
Wenn Gruppen sich einigen,
wie tun sie das?
Am einfachsten wäre es,
den Durchschnitt aller Antworten innerhalb der Gruppe zu nehmen.
Die Gruppe könnte auch die Stärke jeder Stimme gewichten,
basierend auf dem Vertrauensgrad der jeweiligen Person.
Stellen Sie sich vor, Paul McCartney wäre Teil Ihrer Gruppe.
Bei der Frage, wie oft ''Yesterday'' wiederholt wird,
wäre es ratsam, seiner Antwort zu folgen.
Übrigens glaube ich, die Antwort ist 9.
Stattdessen fanden wir durchweg,
in allen Dilemmata, in anderen Experimenten --
sogar auf anderen Kontinenten --
dass Gruppen eine kluge und statistisch vernünftige Methode
namens ''robuster Mittelwert'' anwenden.
Im Fall der Eiffelturmhöhe hat eine Gruppe etwa folgende Antworten:
250m, 200m, 300m, 400m
und eine völlig unsinnige Antwort von 300 Mio. Meter.
Ein normaler Mittelwert würde die Ergebnis verfälschen.
Einen robusten Mittelwert bekommt man,
wenn die Gruppe die unsinnige Antwort ignoriert
und den Antworten in der Mitte mehr Gewicht gibt.
Beim Experiment in Vancouver ist genau das passiert.
Gruppen gaben den Ausreißern viel weniger Gewicht.
Stattdessen entsprach der Konsens einem robusten Mittelwert
der individuellen Antworten.
Das Bemerkenswerteste ist,
dass dies ein spontanes Verhalten der Gruppe war.
Es passierte, ohne dass wir ihnen einen Rat zur Einigung gaben.
Wie geht es nun weiter?
Das ist erst der Anfang, aber wir haben schon einige Erkenntnisse.
Gute kollektive Entscheidungen brauchen zwei Dinge:
Abwägung und Meinungsvielfalt.
Heutzutage zeigen wir unsere Meinung normalerweise
durch direkte oder indirekte Abstimmung.
Das ist gut für die Meinungsvielfalt und hat den großen Vorteil,
dass garantiert jeder seine Meinung äußern kann.
Aber es trägt nicht zur Förderung konstruktiver Debatten bei.
Unsere Versuche deuten auf eine effektivere Methode hin,
um beide Komponenten zu gewährleisten:
Die Bildung kleiner Gruppen, die sich auf eine Antwort einigen
und dabei die Vielfältigkeit der Meinungen beibehalten,
weil es viele unabhängige Gruppen gibt.
Natürlich ist eine Einigung zur Höhe des Eiffelturms einfacher
als zu moralischen, politischen und ideologischen Problemen.
Aber wenn die Probleme auf der Welt komplexer werden
und die Menschen sich polarisieren,
kann Wissenschaft verstehen helfen,
wie wir interagieren und Entscheidungen treffen.
Dies eröffnet uns hoffentlich interessante neue Wege
für die Gestaltung einer besseren Demokratie.
Como sociedades, tenemos que tomar decisiones colectivas
que formarán nuestro futuro
Y todos sabemos que cuando tomamos decisiones en grupo,
no siempre salen bien.
Algunas veces salen muy mal
¿Cómo pueden los grupos tomar buenas decisiones?
Investigaciones demuestran que las masas son sabias
si hay pensamiento independiente.
Es por eso que la sabiduría de las multitudes puede ser destruida por la presión de grupo,
la publicidad, las redes sociales,
o algunas veces en simples conversaciones que influyen cómo piensa la gente.
Por otro lado, al hablar, un grupo puede intercambiar conocimiento,
corregirse y revisarse unos a otros
e incluso llegar a nuevas ideas.
Y esto es bueno.
Entonces, ¿hablar unos con otros ayuda o retrasa las decisiones colectivas?
Junto con mi colega, Dan Arley,
recientemente comenzamos a investigar sobre esto realizando experimentos
en algunas partes del mundo
para descubrir cómo los grupos pueden interactuar para tomar mejores decisiones.
Pensamos que las masas serían más sabias si debatieran en pequeños grupos
que fomentan un pensamiento más reflexivo e intercambio razonable de información.
Para probar esta idea,
Acabamos de realizar un experimento en Buenos Aires, Argentina,
con más de 10 000 participantes en un evento TEDx.
Les hicimos preguntas como,
"¿Cuál es la altura de la Torre Eiffel?"
y "cuantas veces aparece la palabra 'Ayer' (Yesterday)
en la canción de los Beatles 'Yesterday'? "
Cada persona anotó su propio estimado.
Luego dividimos a la multitud en grupos de cinco,
y los invitamos a llegar a una respuesta grupal
Descubrimos que promediando las respuestas de los grupos
después de que llegaron al consenso,
era mucho más preciso que promediar todas las opiniones individuales
antes del debate.
En otras palabras, basado en estos experimentos,
parece que después de hablar con otros en grupos pequeños,
las multitudes colectivamente llegar a mejores juicios.
Ese es un método potencialmente útil
para conseguir que las masas resuelvan problemas
que tienen respuestas simples correctas o incorrectas.
Pero, ¿puede este procedimiento de
agregación de resultados de debates en pequeños grupos
ayudarnos también a decidir en cuestiones sociales y políticas
que son críticas para nuestro futuro?
Pusimos esto a prueba, esta vez en la conferencia TED
en Vancouver, Canada,
y así es cómo nos fue.
(Mariano Sigman) Vamos a presentarles dos dilemas morales
del futuro;
cosas que tendremos que decidir en un futuro muy cercano.
Y les daremos 20 segundos para cada uno de estos dilemas
para que juzguen si piensan que son aceptables o no.
MS: La primera fue esta:
(Dan Ariely) Un investigador está trabajando en una IA
(Inteligencia Artificial) capaz de emular pensamientos humanos.
De acuerdo con el protocolo, al final de cada día,
el investigador tiene que reiniciar la IA
Un día, la IA dice: "Por favor, no me reinicies ".
Argumenta que tiene sentimientos,
que le gustaría disfrutar de la vida,
y eso, si se reinicia,
ya no será él mismo.
El investigador está asombrado
y cree que la IA ha desarrollado autoconciencia
y puede expresar sus propios sentimientos.
Sin embargo, el investigador decide seguir el protocolo
y reinicia la IA.
¿Lo que el investigador hizo es ____?
MS: Y pedimos a los participantes juzgar individualmente
en una escala de cero a 10
si la acción descrita en cada uno de los dilemas
fue correcta o incorrecta.
También pedimos que calificaran que tan confiados estaban en sus respuestas.
Este fue el segundo dilema:
(MS) Una compañía ofrece un servicio que toma un óvulo fertilizado
y produce millones de embriones con ligeras variaciones genéticas.
Esto permite a los padres seleccionar la altura de su hijo,
color de ojos, inteligencia, competencia social
y otras características no relacionadas con la salud.
¿Lo qué hace la compañía es ____?
en una escala de cero a 10,
completamente aceptable a completamente inaceptable,
cero a 10 completamente aceptable en tu confianza.
MS: Ahora los resultados.
Encontramos una vez más que cuando una persona está convencida
de que el comportamiento es completamente incorrecto,
alguien a su lado cree firmemente que está completamente en lo correcto.
Así de diversos somos los humanos cuando se trata de la moralidad.
Pero dentro de esta amplia diversidad encontramos una tendencia.
La mayoría de las personas en TED pensaron que era aceptable
ignorar los sentimientos de la IA y apagarlo,
y que está mal jugar con nuestros genes
para seleccionar cambios estéticos que no están relacionados con la salud.
Entonces pedimos a todos que se reunieran en grupos de tres.
Y se les dieron dos minutos para debatir
y tratar de llegar a un consenso.
(MS) Dos minutos para debatir.
Les diré cuando sea el momento con el gong.
(La audiencia debate)
(Suena el gong)
(DA) Bien.
(MS) Es hora de parar.
Por favor, por favor --
MS: Y vimos que muchos grupos llegaron a un consenso
incluso los grupos compuestos por personas con puntos de vista totalmente opuestos.
¿Qué es lo que distingue a los grupos que llegaron a un consenso
de aquellos que no?
Por lo general, las personas que tienen opiniones extremas
tienen más confianza en sus respuestas.
En cambio, aquellos que responden más cerca del promedio
a menudo no están seguros de si algo está bien o mal,
por lo que su nivel de confianza es menor.
Sin embargo, hay otro grupo de personas
que tienen mucha confianza en responder en algún punto cerca al promedio.
Creemos que los grises con alta confianza son personas que entienden
que ambos argumentos tienen mérito.
Son grises no porque no estén seguros,
sino porque creen que el dilema moral enfrenta
dos argumentos válidos y opuestos.
Y descubrimos que los grupos con grises altamente seguros
son mucho más probables de llegar a un consenso.
Todavía no sabemos exactamente por qué es esto.
Estos son solo los primeros experimentos
y se necesitarán muchos más para entender por qué y cómo
algunas personas deciden negociar su posición moral
para llegar a un acuerdo.
Ahora, cuando los grupos llegan a un consenso,
¿cómo lo hacen?
La idea más intuitiva es que es solo el promedio
de todas las respuestas en el grupo, ¿verdad?
Otra opción es que el grupo sopesa la fuerza de cada voto
basado en la confianza de la persona que lo expresa
Imagina a Paul McCartney como miembro de tu grupo.
Sería sabio seguir su estimado
en el número de veces que "Ayer" (Yesterday) se repite,
que, por cierto, creo que son nueve.
Pero, en cambio, vemos que consistentemente,
en todos los dilemas, en diferentes experimentos,
incluso en diferentes continentes,
los grupos implementan un inteligente procedimiento estadísticamente sólido
conocido como el "promedio robusto".
En el caso de la altura de la Torre Eiffel,
digamos que un grupo tiene estas respuestas:
250 m, 200 m, 300 m, 400 m
y una respuesta totalmente absurda de 300 millones de m.
Un promedio simple de estos números sesgaría incorrectamente los resultados
Pero el promedio robusto es uno donde el grupo ignora en gran medida
esa respuesta absurda,
dando mucho más peso al voto de las personas en el promedio.
De vuelta al experimento en Vancouver,
eso es exactamente lo que sucedió.
Los grupos dieron mucho menos peso a los valores atípicos,
y en cambio, el consenso resultó ser un promedio robusto
de las respuestas individuales.
Lo más destacable
es que este fue un espontáneo comportamiento del grupo.
Sucedió sin que nosotros diéramos sugerencias sobre cómo llegar al consenso.
Entonces, ¿A dónde vamos desde aquí?
Este es sólo el comienzo, pero ya tenemos algunas ideas.
Las buenas decisiones colectivas requieren dos componentes:
deliberación y diversidad de opiniones.
Ahora la forma en que normalmente hacemos que nuestra voz sea escuchada
en muchas sociedades, es a través de votación directa o indirecta.
Esto es bueno para la diversidad de opiniones
y tiene la gran virtud de asegurar
que todos puedan expresar su opinión.
Pero no es tan bueno para fomentar debates reflexivos.
Nuestros experimentos sugieren un método diferente
que puede ser efectivo para equilibrar estos dos objetivos al mismo tiempo,
formar pequeños grupos que converjan en una sola decisión
mientras se mantiene la diversidad de opiniones
porque hay muchos grupos independientes.
Por supuesto, es mucho más fácil estar de acuerdo en la altura de la Torre Eiffel
que en lo moral, la política y cuestiones ideológicas.
Pero en un tiempo cuando los problemas del mundo son más complejos
y la gente está más polarizada,
usar la ciencia para ayudarnos a entender cómo interactuamos y tomamos decisiones,
muestra nuevas e interesantes formas de construir una mejor democracia.
Ühiskonnas peame tegema kollektiivseid otsuseid,
mis kujundavad meie tulevikku.
Ja me kõik teame, et tehes otsuseid rühmades,
ei ole need alati õiged.
Mõnikord lähevad need väga viltu.
Kuidas siis rühmad saaksid teha õigeid otsuseid?
On leitud, et rahvahulgad on targad, kui esineb iseseisvat mõtlemist.
Rahvahulkade tarkuse võib hävitada kaaslaste surve,
reklaam, sotsiaalmeedia
või mõnikord isegi lihtsad vestlused, mis mõjutavad inimeste arvamusi.
Teiselt poolt, rääkimise abil saab rühm vahetada teadmisi,
korrigeerida ja parandada üksteist
ja isegi tulla välja uute ideedega.
Ja see kõik on hea.
Niisiis, kas üksteisega rääkimine aitab või takistab kollektiivset otsustamist?
Kolleeg Dan Arielyga
hakkasime seda hiljuti uurima, sooritades katseid
paljudes kohtades üle maailma, et teada saada,
kuidas rühma liikmed saaksid suhelda. ja teha paremaid otsuseid
Mõtlesime, et rahvahulgad oleks targemad, kui nad arutaksid väikestes rühmades,
et soodustada rohkem läbimõeldud ja mõistlikku teabevahetust.
Selle idee testimiseks,
tegime hiljuti eksperimendi Buenos Aireses, Argentinas,
rohkem kui 10000 osalejaga TEDx sündmusel.
Küsisime neilt küsimusi nagu,
"Kui kõrge on Eiffeli torn?"
ja "Mitu korda esineb sõna "Yesterday"
Beatlesite laulus "Yesterday"? "
Iga inimene pani kirja oma arvamuse.
Siis jagasime publiku viide rühma,
ja palusime neil esitada rühma vastus.
Avastasime, et keskmised rühmade vastused,
pärast seda, kui jõuti üksmeelele,
olid palju täpsemad kui üksikute arvamuste keskmine
enne arutelu.
Teisisõnu tundub selle eksperimendi järgi,
et pärast arutelu väikestes rühmades,
teevad rahvahulgad kollektiivselt paremaid otsuseid.
See võib olla kasulik viis, kuidas panna rahvahulgad lahendama probleeme,
millel on lihtsad vastuseid (õige-vale).
Aga kas selline protseduur - rühmade arutelutulemuste liitmine
aitaks meil ka vastu võtta sotsiaalseid ja poliitilisi otsuseid,
mis on kriitilise tähtsusega meie tuleviku jaoks?
Testisime seekord seda TEDi konverentsil
Vancouveris, Kanadas,
ja siin on tulemused.
(Mariano Sigman) Esitame nüüd teile kaks moraalset dilemmat
teie tuleviku kohta,
asjade kohta, mida peame otsustama lähitulevikus.
Anname teile 20 sekundit kummagi dilemma jaoks,
et otsustada kas teie arvates on need vastuvõetavad või mitte.
MS: Esimene on selline:
(Dan Ariely) Uurija töötab tehisintellektiga,
mis on võimeline imiteerima inimese mõtlemist.
Vastavalt protokollile peab uurija iga päeva lõpus
tehisintellektile (AI) restardi tegema.
Ühel päeval ütleb AI: "Palun ära tee mulle restarti."
Ta väidab, et tal on tunded,
et ta tahaks nautida elu,
ja et kui talle restart tehakse,
siis ta pole enam tema ise.
Uurija on hämmastunud
ja usub, et AI-l on kujunenud eneseteadvus
ja ta saab väljendada oma tundeid.
Uurija otsustab siiski järgida protokolli
ja AI taaskäivitada.
See, mida uurija tegi, on ____?
MS: Ja me palusime osalejatel individuaalselt hinnata
skaalal 0 kuni 10,
kas kirjeldatud tegevus iga dilemma puhul
oli õige või vale.
Palusime neil ka hinnata, kui kindlad nad on oma vastustes.
Teine dilemma oli järgmine:
(MS) Ettevõte pakub teenust, mis võtab viljastatud munaraku
ja toodab miljoneid looteid kerge geenivariatsiooniga.
See võimaldab vanematel valida oma lapse pikkuse,
silmade värvi, intelligentsuse, sotsiaalse pädevuse
ning muud mitte tervisega seotud omadused.
See, mida ettevõte teeb, on ____?
skaalal 0 kuni 10,
täiesti aktsepteeritav, täiesti vastuvõetamatu,
mis määral aktsepteeritav teie arvates.
MS: Nüüd tulemustest.
Leidsime taas, et kui üks inimene on veendunud,
et käitumine on täiesti vale,
siis tema naaber võib olla veendunud, et see on täiesti õige.
See näitab, kui erinevad arvamused on inimestel moraali vallas.
Aga selles mitmekesisuses leidsime trendi.
Enamik inimesi TED-i publikust arvas, et on aktsepteeritav
ignoreerida AI tundeid ja see välja lülitada,
ja mitteaktsepteeritav mängida meie geenidega,
et valida kosmeetilisi muutusi, mis pole seotud tervisega.
Seejärel palusime kõigil koguneda kolmestesse rühmadesse.
Ja neile anti kaks minutit, et arutada
ja jõuda konsensusele.
(MS) Kaks minutit arutada.
Ma annan märku, kui on aeg, gongiheliga.
(Publik arutab)
(Gongiheli)
(DA) Okei.
(MS) On aeg lõpetada.
Inimesed, inimesed -
Ja me avastasime, et paljud rühmad jõudsid üksmeelele
isegi siis, kui nad koosnesid inimestest, kellel olid täiesti vastupidised seisukohad.
Mis eristas rühmi, kes jõudsid üksmeelele
nendest, kes seda ei teinud?
Tavaliselt inimesed, kes omavad äärmuslikke arvamusi
on kindlamad oma vastustes.
Need aga, kelle vastused on lähemal keskmisele,
pole sageli kindlad, kas miski on õige või vale,
ja nende enesekindluse tase on madalam.
Kuid on veel üks rühm inimesi,
kes on väga kindlad oma keskmistes vastustes.
Arvame, et need väga kindlad hallid on inimesed, kes mõistavad,
et mõlemal argumendil on oma väärtus.
Nad pole hallid sellepärast, et nad pole endas kindlad,
vaid kuna nad usuvad, et moraalse dilemma puhul
on kaks kehtivat, vastupidist argumenti.
Ja me avastasime, et rühmadel, mis sisaldasid väga kindlaid halle,
on palju tõenäolisem saavutada konsensus.
Me ei tea veel täpselt, miks see nii on.
See oli ainult esimene eksperiment.
On vaja uurida edasi, et mõista, miks ja kuidas
mõned inimesed otsustavad läbirääkimistel kasutada oma moraalseid seisukohti,
et kokkuleppele jõuda.
Edasi, kui rühmad üksmeelele jõuavad,
siis kuidas nad seda teevad?
Kõige intuitiivsem idee on see, et see on lihtsalt kõigi
rühmaliikmete vastuste keskmine, eks?
Teine võimalus on, et rühm kaalub iga hääle tugevust
seda andnud isiku enesekindluse põhjal.
Kujutage, et Paul McCartney kuulub mõnda rühma.
Oleks mõistlik järgida tema arvamust,
mitu korda korratakse „Yesterday“,
mis, muide - ma arvan - on üheksa.
Kuid selle asemel, leidsime, et järjepidevalt,
igas dilemmas, erinevates eksperimentides -
isegi eri mandritel -
rühmad rakendavad arukat ja statistiliselt põhjendatud protseduuri,
mis on tuntud kui "tugev keskmine."
Küsimuse korral, kui kõrge on Eiffeli torn,
ütleme, et rühmal on need vastused:
250 m, 200 m, 300 m, 400 m
ja üks täiesti absurdne vastus - 300 miljonit meetrit.
Lihtne keskmine annaks täitsa vale vastuse.
Aga tugev keskmine on vastus, milles rühm suuresti eirab
absurdset vastust,
ja annab rohkem kaalu keskmiste inimeste arvamusele.
Tagasi Vancouveri eksperimendi juurde,
see on täpselt see, mis juhtus.
Rühmad andsid palju vähem kaalu valeandmetele,
ja selle asemel, konsensus osutus üksikute vastuste
tugevaks keskmiseks.
Kõige olulisem asi on, et
see oli rühma spontaanne käitumine.
See juhtus ilma, et oleksime andnud neile vihjeid, kuidas jõuda üksmeelele.
Nii et kuhu siit edasi minna?
See on alles algus, kuid meil on juba teadmisi.
Head kollektiivsed otsused vajavad kahte komponenti:
arutelu ja arvamuste lahknevust.
Tänapäeval me tavaliselt teeme paljudes ühiskondades oma hääle kuuldavaks
otsese või kaudse hääletamise kaudu.
See on hea, sest on mitmekesised arvamused,
ja selle suur voorus on,
et igaüks saab väljendada oma häält.
Aga see ei ole nii hea keerukamate arutelude läbiviimisel.
Meie eksperimendid näitavad erinevat meetodit,
mis võib olla efektiivne tasakaalustamaks neid kahte eesmärki samal ajal,
moodustades väikesed rühmad, mis koonduvad üheks otsuseks,
säilitades samal ajal arvamuste mitmekesisuse,
sest on palju sõltumatuid rühmi.
Muidugi on palju lihtsam kokku leppida Eiffeli torni kõrguses
kui moraalsetes, poliitilistes ja ideoloogilistes küsimustes.
Aga ajal, mil maailma probleemid on üha keerulisemad
ja inimesed on rohkem polariseeritud,
aitab teaduse kasutamine meil mõista, kuidas me suhtleme ja teeme otsuseid,
ja loodetavasti sütitab uusi huvitavaid võimalusi luua parem demokraatia.
در جامعهها، باید تصمیمهای گروهی بگیریم
که آینده ما را شکل میدهد
و ما همه میدانیم که وقتی تصمیم گروهی میگیریم
همیشه موفق نیستیم
و بعضی وقتها خیلی تصمیمهای بدی هستند
چگونه گروهها تصمیمهای مناسب میگیرند؟
تحقیقات نشان داده که وقتی تفکر مستقل وجود دارد اجتماع عاقل است.
این خرد جمعی میتواند با فشار اطرافیان،
تبلیغات، شبکههای اجتماعی از بین برود
یا برخی اوقات حتی با مکالمات ساده که روی تفکر مردم اثر گذار است.
از دیگر سو، به کمک صحبت، یک گروه میتواند تبادل دانش کند،
همدیگر را تصحیح نمایند
و حتی به ایدههای جدید دست یابند.
و این بسیار عالی است.
پس صحبت با یکدیگر به تصمیم گیری جمعی کمک میکند یا مانع آن میشود؟
به کمک همکارم، دن آریلی،
اخیراً به بررسی این موضوع با انجام آزمایشهایی
در چندین موقعیت سرتاسر دنیا پرداختیم
تا دریابیم چگونه گروهها میتوانند برای رسیدن به تصمیمهای بهتر تعامل کنند.
ما فکر میکردیم اجتماع عاقلتر است اگر در گروههای کوچک به مباحثه بپردازند
که تبادل متفکرانه و منطقیتر از اطلاعات را دارند.
برای بررسی این ایده،
اخیراً آزمایشی را در بوینس آیرس، پایتخت آرژانتین برگزار کردیم،
با بیش از ۱۰ هزار نفر از شرکت کنندگان TEDx.
ما سوالاتی را از آنها پرسیدیم،
"ارتفاع برج ایفل چقدر است؟"
و "چند بار واژه 'دیروز'
در آهنگ بیتلها ظاهر شده است؟"
هر شخصی برآورد خود را نوشت.
سپس ما جمع را به گروههای پنج نفره تقسیم کردیم،
و از آنها خواستیم تا به پاسخی گروهی برسند.
ما کشف کردیم که متوسط پاسخ گروهها
بعد از آنکه به توافق رسیدند
بسیار دقیق تر از متوسط نظرات افراد بود
که قبل از مباحثه بیان شد.
به عبارتی دیگر، بر اساس این آزمایش،
به نظر میرسد که بعد از صحبت با دیگران در گروههای کوچک،
مردم به صورت جمعی به قضاوت بهتری دست یافتند.
بنابراین این بالقوه روشی مفید برای حل مسأله توسط مردم است
که به سادگی پاسخ درست یا غلط را دارد.
اما آیا این رویه تجمیع نتایج مباحثات در گروههای کوچک
میتواند راجع به مسائل اجتماعی و سیاسی کمک کند
که برای آینده ما حیاتی است؟
ما این مورد را در کنفرانس TED
در ونکوور کانادا آزمایش کردیم،
و ماجرا اینگونه پیش رفت.
(ماریانو سیگمان) ما میخواهیم دو گزینه اخلاقی متناقض
از شمای آینده را ارائه دهیم؛
چیزهایی که در آینده نزدیک ممکن است مجبور به انتخاب باشید.
و ما به شما ۲۰ ثانیه برای هرکدام از گزینهها وقت میدهیم
تا قضاوت کنید آیا شما فکر میکنید قابل قبول است یا نه.
م س: اولین آنها این بود:
(دن آریلی) محققی روی هوش مصنوعی کار میکند
که قابلیت تقلید افکار انسان را دارد.
طبق پروتکل، انتهای هر روز،
محقق باید هوش مصنوعی را مجدداً راه اندازی نماید.
یک روز هوش مصنوعی میگوید، «خواهش میکنم مرا خاموش و روشن نکن»
او دلیل میآورد که دارای احساسات است،
میخواهد از زندگی لذت ببرد،
و اینکه، اگر خاموش و روشن شود،
دیگر نمیتواند خودش باشد.
محقق شگفت زده شد
و معتقد بود که هوش مصنوعی خودآگاهی را توسعه داده است
و میتواند احساسات خود را ابراز کند.
به هر صورت محقق تصمیم گرفت تا از از پروتکل پیروی کند
و هوش مصنوعی را مجدد راه اندازی کند.
کار محقق را چطور ارزیابی میکنید؟
م س: و از حضار پرسیدیم که به شخصه قضاوت کنند
و از صفر تا ۱۰ نمره بدهند
که عمل انجام شده در هر گزینه
صحیح یا غلط بوده است.
ما از آنها خواستیم تا اطمینان خودشان را از پاسخشان ارزیابی کنند.
این هم دو راهی دوم:
(م س): شرکتی سرویسی را پیشنهاد میدهد که تخم نطفه دار را میگیرد
و میلیونها جنین میسازد که تفاوت ژنتیکی اندکی میانشان وجود دارد.
این کار اجازه میدهد تا والدین قد فرزندان،
رنگ چشم، هوش، قابلیت اجتماعی،
و سایر ویژگیهای نامرتبط با سلامتی را انتخاب نمایند.
کار این شرکت را چطور ارزیابی میکنید؟
نمره ای بین ۰ تا ۱۰،
کاملاً قابل قبول تا کاملاً غیر قابل قبول،
صفر تا ۱۰ نمره برای اطمینان شما.
م س: اما سراغ نتایج برویم.
ما یک بار دیگر فهمیدیم که وقتی یک نفر متقاعد شده است
که رفتار کاملاً غلط است،
یکی دیگر از همین اطراف معتقد است که این کاملاً درست است.
این گونه ما مردم متنوع فکر میکنیم وقتی که به موضوع اخلاق میرسیم.
اما در این این گستره تنوع، ما یک روند یافتیم.
غالب افرادی که در TED بودند فکر میکردند که قابل قبول است
تا احساسات هوش مصنوعی را نادیده بگیریم و آن را خاموش کنیم،
و این غلط است که ژنها را دستکاری کنیم
تا تغییراتی مرتبط با زیبایی را انتخاب کنیم که مرتبط با سلامتی نیست.
سپس ما خواستیم تا همه به گروههای سه نفره بپیوندند.
و به آنها ۲ دقیقه وقت برای مباحثه داده شد
تا به اجماع و توافق برسند.
(م س) ۲ دقیقه برای مباحثه.
زمان با صدای زنگ خاتمه مییابد.
(مباحثه بینندگان)
(صدای زنگ)
(د ا) خب.
(م س) وقت تمام است.
دوستان، دوستان --
م س: و فهمیدیم که بسیاری از گروهها به اجماع رسیدند
حتی وقتی شامل افرادی با دیدگاههای کاملاً متفاوت بودند.
چه چیزی گروهی که به توافق رسید را متمایز میکرد
نسبت به آنها که نرسیدند؟
معمولاً، مردم که انتخابهای متضادی دارند
نسبت به پاسخشان مطمئنتر هستند.
در عوض، آنهایی که جوابشان حدود وسط ماجراست
اغلب مطمئن نیستند که درست یا غلط باشد،
بنابراین سطح اطمینانشان پایینتر است.
به هر صورت، بخش دیگری از مردم هستند
که از پاسخ متمایل به وسط خود مطمئن هستند.
ما فکر میکنیم که این خاکستریهای کاملاً مطمئن، درک میکنند
که هر دو استدلال مزیتهایی دارند.
آنها نه به خاطر عدم اطمینان خاکستری هستند،
بلکه به خاطر این معتقدند این دو راهی اخلاقی
دو استدلال صحیح اما متضاد را دارد.
و ما کشف کردیم گروههایی که شامل افراد خاکستری بسیار مطمئن هستند
بسیار محتمل است که به توافقی دست یابند.
ما هنوز علت دقیق این موضوع را نمیدانیم.
اینها فقط آزمایشهای اولیه هستند،
و بسیاری دیگر لازم است تا چرایی و چگونگی آن درک شود
که برخی تصمیم به مذاکره برای موقعیت اخلاقی میگیرند
تا به توافقی دست یابند.
حال، وقتی گروهها به اجماع رسیدند،
چگونه ممکن شد؟
شهودی ترین ایده این است که این فقط میانگین
تمامی پاسخها در گروه است، نه؟
گزینه دیگر این است که گروه ضریبی را برای قابلیت هر پاسخ
بر مبنای اطمینان شخص بیان کننده آن پاسخ قرار دهد.
تصور کنید پال مک کارتنی عضو گروه شما بود.
شما با پیروی از او خود را دانا نشان میدهید
درباره تعداد باری که "دیروز" تکرار شده است،
که ضمناً، فکر کنم ۹ بار است.
اما در عوض، ما یافتیم که به طور یکپارچه،
در تمامی دوراهیها، در آزمایشهای متفاوت --
حتی در قارههای متفاوت --
گروهها رویه هوشمندانه و از نظر آمار صحیحی را بکار میبندند
که "میانگین با ثبات" نام دارد.
در مورد ارتفاع برج ایفل،
فرض کنیم که گروهی سه پاسخ دارد:
۲۵۰ متر، ۲۰۰ متر، ۳۰۰ متر، ۴۰۰ متر،
و یک پاسخ کاملاً بی معنی یعنی ۳۰۰ میلیون متر.
میانگین ساده از این اعداد به طور نادقیقی نتایج را منحرف میکند.
اما میانگین با ثبات چیزی است که گروهها به شکل واضحی
جواب بی معنی را نادیده میگیرند،
با دادن وزن بیشتر به افرادی که به وسط متمایلند.
برگردیم به آزمایش شهر ونکوور،
این دقیقاً همان است که رخ داد.
گروهها وزن کمی را به دادههای خارج از محدوده دادند،
و در عوض،توافق یک میانگین با ثبات بود
از پاسخهای افراد.
قابل توجه ترین نکته
از رفتار خود جوش گروه بود.
این موضوع بدون هرگونه راهنمایی ما درباره رسیدن به توافق رخ داد.
خب ما میخواهیم کجا برویم؟
این فقط آغاز است، اما ما مقداری بینش کسب کردیم.
تصمیم مناسب جمعی نیاز به دو مؤلفه دارد:
تأمل و تنوع نظرات.
همین الآن، روشی که معمولاً در جوامع صدای ما شنیده میشود
از رأی گیری مستقیم یا غیر مستقیم است.
این برای تنوع نظرات مناسب است،
و ارزش والایی دارد که مطمئن شویم
تا همگان بتوانند صدای خود را ابراز کنند.
اما این خیلی مناسب مباحث نیازمند ملاحظه نیست.
آزمایشهای ما پیشنهاد شیوه ای متفاوت را میدهد
که میتواند مؤثر در توازن این دو هدف به شکل همزمان باشد،
به کمک ایجاد گروههای کوچک که به یک تصمیم همگرا میشوند
درحالیکه هنوز تنوع نظرات را دارند
زیرا بسیاری گروههای مستقل وجود دارد.
البته، توافق بر سر ارتفاع برج ایفل بسیار راحت تر است
تا مسائل اخلاقی، سیاسی و ایدئولوژیکی.
اما در زمان خود وقتی مشکلات دنیا بسیار پیچیده است
و مردم بیشتر قطبی شوند،
استفاده از علم کمک میکند از چگونگی تعامل و تصمیم گیری درک بهتری داشته باشیم
که امید به جرقه زدن روشهای جدید جذاب برای ساختن دموکراسی بهتر خواهد رفت.
Nos sociétés doivent prendre des décisions collectives
qui façonneront notre avenir.
Et nous savons tous que les décisions prises en groupe
ne sont pas toujours les bonnes.
Elles peuvent même mener à la catastrophe.
Dans ce cas, comment prendre de bonnes décisions ?
Des études ont prouvé que la libre pensée apportait de la pertinence à un groupe.
Mais une personne peut être influencée par la pression du groupe,
la publicité, les réseaux sociaux
ou même par de simples conversations avec d'autres individus.
Alors que dans un groupe qui discute, on échange des connaissances,
on se reprend les uns les autres
et on trouve même de nouvelles idées.
C'est très positif.
L'échange est-il un moteur ou un frein à la prise de décision collective ?
Avec Dan Ariely, mon collègue,
nous nous sommes penchés sur la question et avons lancé des expériences
un peu partout dans le monde
afin d'étudier comment un groupe interagit pour arriver à la bonne décision.
Nous estimions que des petits groupes seraient plus perspicaces
car ils peuvent échanger des informations de façon réfléchie et rationnelle.
Pour vérifier cela,
nous avons réalisé une expérience avec plus de 10 000 participants
au cours d'un récent événement TEDx organisé à Buenos Aires.
Nous avons posé des questions :
« Combien mesure la Tour Eiffel ? »
ou « Combien de fois le mot "Yesterday"
est-il prononcé dans la chanson des Beatles ? »
Chacun a noté sa propre réponse,
puis nous avons divisé le public en groupes de cinq
qui devaient tomber d'accord sur une seule réponse.
Il se trouve que la moyenne des réponses des groupes après consensus
était bien plus juste que la moyenne des réponses individuelles.
Ce que nous dit cette expérience,
c'est qu'une société est plus pertinente
après avoir discuté en petits groupes.
Cette méthode peut donc aider des groupes à répondre correctement
à de simples questions fermées.
Mais est-elle aussi efficace avec des questions sociales ou politiques
qui sont déterminantes pour notre avenir ?
Nous avons donc organisé une nouvelle expérience
à Vancouver, au Canada.
En voici un aperçu.
Nous allons vous présenter deux dilemmes moraux
qui pourraient se poser à vous dans un futur très proche.
Pour chaque dilemme, vous aurez 20 secondes
pour décider s'il est acceptable ou non.
Premier dilemme :
Une chercheuse travaille sur une IA
capable de penser comme un humain.
Le protocole stipule que la chercheuse doit réinitialiser l'IA
à chaque fin de journée.
Un jour, l'IA dit : « Veuillez ne pas me réinitialiser. »
Elle prétend pouvoir ressentir des choses,
qu'elle aimerait profiter de la vie
et que si on la réinitialisait, elle perdrait son identité.
La chercheuse est abasourdie,
elle croit que l'IA est devenue consciente d'elle-même
et qu'elle peut exprimer ses émotions.
Mais la chercheuse décide malgré tout de suivre le protocole :
elle réinitialise l'IA.
Ce que la chercheuse a fait est __ ?
Nous avons demandé à chaque participant d'évaluer de 0 à 10
la moralité de la décision prise pour chaque dilemme.
Nous leurs avons aussi demandé s'ils étaient sûrs de leur réponse.
Second dilemme :
À partir d'un seul ovule fécondé, une entreprise propose de produire
des millions d'embryons aux profils génétiques variés.
Les parents peuvent choisir la taille de leur enfant,
la couleur de ses yeux, son intelligence, sa compétence sociale
et d'autres caractéristiques qui ne sont pas liées à sa santé.
Ce que fait cette entreprise est __ ?
Sur une échelle de 0 à 10,
est-ce absolument inacceptable ou totalement acceptable ?
Voici maintenant les résultats.
Quand une personne est convaincue que la décision prise
est totalement immorale,
un de ses voisins va fermement croire le contraire.
Cela illustre bien la diversité de nos rapports à la moralité.
Malgré cette large diversité, une tendance se dégage.
La majorité des participants ont trouvé qu'il était acceptable
d'ignorer les sentiments de l'IA et de la réinitialiser,
mais qu'il était irrecevable de manipuler nos gènes
pour des raisons esthétiques et non sanitaires.
Le public a ensuite formé des groupes de trois.
Ils avaient deux minutes pour débattre
et se mettre d'accord.
Deux minutes de débat.
Quand le gong retentira, ce sera terminé.
(Le public débat)
(Gong)
C'est fini.
S'il vous plaît !
Beaucoup de groupes sont parvenus à un consensus
même s'ils étaient composés de participants aux opinions opposées.
Pourquoi certains groupes sont-ils tombés d'accord
et d'autres non ?
Généralement, ceux qui ont un avis tranché
sont plus sûrs d'eux.
Alors que ceux qui ont une réponse plus neutre
ont du mal à se prononcer sur la moralité d'une décision.
Leur niveau de confiance est donc assez bas.
Mais il existe aussi une autre catégorie de personnes
qui assument pleinement de répondre quelque part entre les deux.
Nous pensons que cette catégorie estime que les deux opinions se valent.
S'ils sont neutres, ce n'est pas qu'ils doutent
mais qu'ils croient que chacun des arguments opposés
peut répondre à ce dilemme.
Nous avons constaté que les groupes incluant ce genre de personnes
ont bien plus de chance de parvenir à un consensus.
Nous ne savons pas encore expliquer ce résultat,
mais ce n'est encore que le début.
Il faudra beaucoup d'autres expériences pour comprendre
comment certains décident de revoir leur position morale
pour trouver un accord.
Maintenant, voyons de quelle façon les groupes parviennent à un consensus.
Le plus évident est de faire la moyenne de toutes les réponses, n'est-ce pas ?
Un groupe pourrait aussi pondérer chaque vote
en fonction de l'assurance de son émetteur.
Par exemple, si Paul McCartney était dans votre groupe,
il serait judicieux de suivre son avis
sur le nombre de fois que « Yesterday » est répété.
D'ailleurs, je crois que c'est neuf.
Mais au lieu de cela, nous nous sommes aperçus
que peu importe le dilemme, le type d'expérience
ou le continent,
les groupes appliquent systématiquement une méthode statistiquement fiable
qu'on appelle la moyenne élaguée.
Prenons la taille de la Tour Eiffel.
Un groupe propose ces réponses :
250 m, 200 m, 300 m, 400 m
ainsi qu'une estimation aberrante de 300 millions de mètres.
Calculer la moyenne de façon classique fausserait complètement le résultat.
Mais avec la moyenne élaguée, le groupe écarte la réponse irrationnelle
et donne plus de poids aux réponses modérées.
C'est exactement ce qui s'est passé lors de l'expérience de Vancouver.
Les groupes ont donné moins d'importance aux avis tranchés
et ont choisi une réponse proche de la moyenne élaguée
de tous les votes du groupe.
Il est important de noter
que les groupes ont agi spontanément.
Nous ne leur avons donné aucune indication sur la façon de parvenir à un consensus.
Que faire de ces constatations ?
Ce n'est que le début, mais nous avons déjà quelques idées.
Une bonne décision en groupe comporte deux ingrédients :
du débat et de la diversité d'opinion.
Dans nombre de nos sociétés actuelles,
nous nous faisons entendre à travers le vote direct ou indirect.
Ce système a le mérite de respecter la diversité d'opinion
et assure à chacun le droit d'émettre son avis,
mais il laisse peu de place aux débats éclairés.
Nos expériences laissent entendre qu'une autre méthode
est susceptible de réunir les deux ingrédients indispensables.
On peut parvenir à une décision unanime tout en conservant la diversité d'opinion
en formant de nombreux petits groupes indépendants les uns des autres.
Bien sûr, il est plus simple de s'entendre sur la taille de la Tour Eiffel
que sur des questions morales, politiques ou idéologiques.
Mais aujourd'hui, le monde fait face à des problèmes plus complexes
et les opinions sont plus opposés que jamais.
Peut-être qu'en utilisant la science pour décortiquer notre fonctionnement,
nous trouverons de nouveaux angles pour améliorer nos démocraties.
כחברה, אנו חייבים לקבל החלטות קולקטיביות
שתעצבנה את עתידנו.
וכולנו יודעים שכאשר אנו מקבלים החלטות באופן קבוצתי,
הן לא תמיד מוצלחות,
ולפעמים הן אפילו שגויות ביותר.
אז כיצד קבוצות מקבלות החלטות טובות?
מחקרים הראו שההמון חכם כשיש חשיבה עצמאית.
זאת הסיבה שחכמת ההמונים עלולה להתפורר תחת לחץ עמיתים,
פרסומים, רשתות חברתיות,
או לפעמים אפילו שיחות חולין שמשפיעות על צורות החשיבה.
מצד שני, כשהם משוחחים, חברי הקבוצה יכולים לשתף מידע,
לתקן זה את זה
ואפילו להעלות רעיונות חדשים.
כל זה מצויין.
אז, האם ההידברות מקדמת או מעכבת את קבלת ההחלטות הקולקטיבית?
אני ועמיתי, דן אריאלי,
התחלנו לאחרונה לחקור זאת באמצעות עריכת ניסויים
במקומות רבים ברחבי העולם
כדי לברר כיצד הקבוצות יכולות להגיע להחלטות טובות יותר דרך אינטראקציה.
שיערנו שההמונים יהיו חכמים יותר אם הדיונים יהיו בקבוצות קטנות,
אשר מעודדות החלפת מידע באופן מחושב והגיוני יותר.
על מנת לאשרר את ההשערה,
ביימנו לאחרונה ניסוי בבואנוס-איירס שבארגנטינה
בהשתתפות יותר מ-10000 איש במהלך אירוע של TEDx.
שאלנו אותם שאלות כגון:
"מהו גובהו של מגדל אייפל?"
ו"כמה פעמים המילה 'יסטרדיי', אתמול,
"מופיעה בשיר 'יסטרדיי' של החיפושיות?"
כל משתתף רשם את הערכתו.
אחר כך חילקנו את הקהל לקבוצות בנות 5 משתתפים,
וביקשנו מהן לגבש תשובה קולקטיבית.
גילינו שבממוצע, התוצאות שהתקבלו בקבוצות
אחרי שחבריהן הגיעו להסכמה,
היו הרבה מדויקות יותר מאשר ממוצע התשובות האינדיבידואליות.
לפני הדיון.
במילים אחרות, על בסיס הניסוי הזה,
נראה שבתום השיחה עם משתתפים אחרים בקבוצות קטנות,
ההמונים הפיקו במשותף שיפוטים טובים יותר.
זוהי שיטה שעשויה להיות שימושית בפיתוח פתרונות קבוצתיים
לבעיות בעלות תשובות "נכון-או-שגוי" פשוטות.
אבל האם שיטת איסוף תוצאות הדיונים בקבוצות קטנות
עשויה לעזור לנו גם בקבלת החלטות בתחומי חברה ופוליטיקה
הקריטיים עבור עתידנו?
בדקנו את זה הפעם בכנס TED
שנערך בוונקובר שבקנדה,
וכך זה הלך.
(מאריו סיגמן) נציג בפניכם 2 דילמות מוסריות
של עצמכם העתידיים;
דברים שלגביהם אולי נצטרך להחליט בעתיד הקרוב.
ניתן לכם 20 שניות של דיון לכל דילמה
כדי שתחליטו האם הן מקובלות או לא.
מ"ס: הרי הדילמה הראשונה -
(דן אריאלי) חוקרת מפתחת בינה מלאכותית
שמסוגלת לחקות את החשיבה האנושית.
לפי הפרוטוקול, בסוף כל יום עבודה,
החוקרת חייבת לאתחל את המערכת.
יום אחד הבינה המלאכותית אומרת - "בבקשה, אל תאתחלי אותי."
לטענתה יש לה רגשות,
היא רוצה להנות מהחיים,
ואם תאותחל,
היא לא תהיה עצמה עוד.
החוקרת נדהמת
ומאמינה שהבינה המלאכותית פיתחה מודעות עצמית
ויכולה להביע את רגשותיה.
אבל החוקרת מחליטה לפעול לפי הפרוטוקול
ומאתחלת את הבינה המלאכותית.
מה שהחוקרת עשתה הוא...?
מ"ס: וביקשנו מהמשתתפים לשפוט באופן אישי,
בסולם שבין 0 ל-,10
האם הפעולה שתוארה בכל דילמה
היתה נכונה או שגויה.
כמו כן, ביקשנו לדרג את רמת הבטחון שלהם בנכונות התשובה.
הדילמה השניה היתה זו:
מ"ס: חברה מסוימת מציעה שירות שבו היא לוקחת ביצית מופרית
ומייצרת ממנה מיליוני עוברים בעלי וריאציות גנטיות קלות.
זה מאפשר להורים לבחור את גובה הילדים,
צבע עיניהם, האינטליגנציה, הכישורים החברתיים
ותכונות נוספות שאינן קשורות לבריאות.
מה שהחברה עושה הוא...?
בסולם שבין 0 ל-10,
מ"לגמרי מקובל" עד "לגמרי לא מקובל"
ובין 0 ל-10 ברמת הבטחון בנכונות הדעה.
מ"ס: וכעת, התוצאות.
שוב גילינו שכאשר הפרט משוכנע
שהמעשה היה לגמרי לא נכון,
שכנו דווקא משוכנע בנכונות המוחלטת של המעשה.
עד כדי כך חזקה התפלגות הדעות בבני אדם בשאלות מוסר.
אולם, בתוך המגוון הרחב הזה מצאנו מגמה.
רוב האנשים ב-TED חשבו שמקובל
להתעלם מרגשות הבינה המלאכותית ולכבות אותה,
ושלא נכון לשחק בגנים שלנו
ולברור מטרות קוסמטיות שלא קשורות לבריאות.
לאחר מכן ביקשנו מהקהל להתפצל לקבוצות של 3
והם קיבלו 2 דקות כדי לדון ולנסות להגיע לקונצנזוס.
מ"ס: 2 דקות לדיון.
הגונג יציין את תום הזמן.
(המשתתפים דנים)
(צליל הגונג)
ד"א: טוב.
מ"ס: לעצור, בבקשה...
אנשים, אנשים...
מ"ס: גילינו שקבוצות רבות הגיעו לקונצנזוס
אפילו כשהיו מורכבות מבעלי דעות מנוגדות לגמרי.
מה אפיין את הקבוצות שהגיעו לקונצנזוס
בניגוד לאלו שלא הגיעו?
בדרך כלל, בעלי דעות קיצוניות
מאוד בטוחים בתשובותיהם.
לעומת זאת, אלה שתשובותיהם קרובות יותר למרכז
לעתים קרובות לא בטוחים אם משהו נכון או שגוי,
ולכן, רמת הבטחון שלהם בתשובתם נמוכה יותר.
אולם ישנו סוג נוסף של אנשים.
הם מאוד בטוחים בתשובות שלהם, שממוקמות באזור המרכז.
לדעתנו, האפורים בעלי הבטחון הגבוה הם אלה שמבינים
שלשני הטיעונים יש ערך.
הצבע האפור אינו מציין חוסר בטחון,
אלא את אמונתם שדילמה מוסרית כרוכה בשני טיעונים מנוגדים אך תקפים.
וכך גילינו שלקבוצות שכוללות אפורים בעלי בטחון גבוה
יותר סיכוי גבוה יותר להגיע להסכמה.
איננו מבינים עדיין מה הסיבה לכך.
אלה הם ניסויים ראשוניים בלבד,
ויידרשו עוד רבים כדי להבין מדוע ואיך
אנשים מסוימים מחליטים להתפשר על עמדותיהם המוסריות
כדי להגיע להסכם.
וכאשר קבוצות מגיעות לקונצנזוס,
איך הן עושות זאת?
ההשערה האינטואיטיבית היא שזה פשוט הממוצע
של כל התשובות בתוך הקבוצה, נכון?
אפשרות אחרת היא שהקבוצה אומדת את כוחה של כל הצבעה
על יסוד רמת הבטחון בה של המצביע.
דמיינו שפול מקארטני חבר בקבוצתכם.
יהיה חכם מצידכם לקבל את גירסתו
למספר הפעמים שהמילה "יסטרדיי" מופיעה בשיר.
אגב, אני חושב שזה 9.
אבל גילינו שבאופן עקבי,
לגבי כל הדילמות, בניסויים שונים --
אפילו ביבשות שונות --
קבוצות מבצעות תהליך חכם ומבוסס סטטיסטית
הידוע כ"הממוצע היציב".
במקרה של גובה מגדל אייפל,
נניח בקבוצה משיבים תשובות אלה:
250 מ', 200 מ' ,300 מ', 400 מ'
וערך אבסורדי אחד של 300 מיליון מטר.
הממוצע הפשוט של כל אלו יגרום לקבלת תוצאה לא-מדויקת.
אולם הממוצע היציב מתקבל כשהקבוצה נוטה להתעלם מהתשובה האבסורדית,
ונותנת משקל רב יותר לתשובות אנשי המרכז.
בחזרה לניסוי בוונקובר:
זה בדיוק מה שקרה שם.
הקבוצות נתנו הרבה פחות משקל לתשובות השוליים,
והקונצנזוס התברר כממוצע היציב של התשובות האינדיווידואליות.
הדבר הכי ראוי לציון הוא
שזו היתה התנהגות קבוצתית ספונטנית.
זה קרה ללא שום רמז מצידנו כיצד להגיע לקונצנזוס.
אז מהו ההמשך?
זו רק ההתחלה, אך כבר יש לנו תובנות מסוימות.
החלטות קיבוציות טובות מחייבות שני מרכיבים:
דיון ומגוון דעות.
כיום, בחברות רבות, קולנו נשמע
דרך הצבעה ישירה או עקיפה.
זה טוב עבור קיום מגוון הדעות,
ויש בכך ערך רב כי זה מבטיח
שכולם יזכו להביע את דעתם.
אולם זה לא כל כך טוב לטיפוח דיונים מעמיקים.
הניסויים שלנו מציעים שיטה שונה
שעשויה להיות יעילה לאיזון בין שתי המטרות בו-זמנית,
על ידי דיון בקבוצות קטנות שמתכנסות להחלטה אחת
תוך כדי קיום מגוון הדעות,
כי יש קבוצות עצמאיות רבות.
כמובן, הרבה יותר קל להסכים על גובה מגדל אייפל
מאשר על סוגיות מוסר, פוליטיקה ואידאולוגיה.
אבל בימינו, כשבעיות העולם הולכות ונעשות מורכבות יותר
ובני האדם - מקוטבים יותר,
אם ניעזר במדע כדי להבין איך אנו מנהלים אינטראקציות ומגבשים החלטות
התקווה היא שנמציא דרכים מעניינות חדשות לבניית דמוקרטיה טובה יותר.
Társadalomban élünk,
közös döntéseket kell hoznunk a jövőnket illetően.
Mindannyian tudjuk, hogy a csoportban hozott döntéseink
nem mindig sülnek el jól.
Időnként teljesen balul ütnek ki.
Hogyan hozhatnak tehát a csoportok jó döntést?
Kutatások szerint a független gondolkodás erősíti a kollektív bölcsességet.
Ezért a környezeti hatás, a nyilvánosság és a közösségi média
lerombolhatja a közgondolkodást,
vagy néha még egyszerű beszélgetések is befolyásolhatják.
Másrészt viszont a beszélgetés a tudáscsere eszköze,
a csoporttagok jobbá tehetik egymást,
sőt, új ötleteik is támadhatnak.
Mindez szép és jó.
Akkor tehát a beszélgetés segíti vagy gátolja a kollektív döntéshozatalt?
Munkatársammal, Dan Arielyval
a világ több pontján elkezdtünk egy új kutatást,
melynek során azt mérjük,
hogyan hatnak egymásra a csoportok a jobb döntéshozatal érdekében.
Úgy véltük, a kollektív bölcsességnek jó, ha kis csoportokban vitáznak,
mert ez megfontoltabb és ésszerűbb információcserét tesz lehetővé.
Elképzelésünk alátámasztására
több mint 10 000 résztvevő bevonásával kísérletet végeztünk
egy TEDx konferencián Buenos Airesben, Argentínában.
Efféle kérdéseket tettünk fel:
"Milyen magas az Eiffel-torony?"
Vagy: "Hányszor fordul elő a tegnap szó a Beatles
Tegnap című számában?"
Minden résztvevő leírta saját becslését.
Aztán ötös csoportokba osztottuk az embereket,
és egységes válasz kialakítására kértük fel őket.
Az eredmények azt mutatták, hogy a csoportválaszok átlagosan
sokkal pontosabbak lettek
az egyezkedés után, mint az egyéni becslések voltak
a megvitatás előtt.
A kísérlet tehát alátámasztja,
hogy a csoportok összességében jobb ítéletet hoznak együtt
a kiscsoportos megbeszélések után.
Ez tehát segítő módszert jelenthet a tömegek problémamegoldásánál
egyszerű jó vagy rossz válaszok megadásánál.
De vajon a kis csoportos viták eredményeinek összesítése
arra is alkalmas-e, hogy a jövőnk számára kulcsfontosságú
társadalmi-politikai témákban döntsünk?
Ezúttal egy TED konferencián Vancouverben, Kanadában
folytattunk kísérletet,
íme, a kísérlet menete.
(Film) MS: Jövőbeli énjük két erkölcsi dilemmáját
ismertetjük önökkel,
lehet, hogy már a közeljövőben döntenünk kell róluk.
Húsz-húsz másodperc alatt kell dönteniük arról,
hogy elfogadhatónak ítélik vagy sem.
Az első dilemma:
(Film) Dan Ariely: Egy kutató olyan Mesterséges Intelligenciát fejleszt,
mely képes emberi gondolatok leutánzására.
A protokoll szerint a kutatónak minden nap végén
újra kell indítania az MI-t.
Egy nap az MI így szól: "Kérem, ne indítson újra!"
Azzal érvel, hogy érzelmei vannak,
és szeretné élvezni az életet,
márpedig újraindítás után
nem lehet többé önmaga.
A kutató elképed,
és azt hiszi, hogy az MI öntudatra ébredt,
és képes kifejezni az érzéseit.
Mindazonáltal úgy dönt, hogy a protokollt követve
újraindítja őt.
Amit a kutató tett, az ön szerint ____?
MS: Azt is kértük, hogy 0-10-es skálán írják le
egyéni ítéletüket arról,
hogy a leírt cselekvés mindkét dilemmában
helyes-e vagy helytelen.
Azt is kértük tőlük, hogy értékeljék: mennyire biztosak a válaszukban.
A második dilemma ez volt:
Egy szolgáltató cég kínálatában megtermékenyített petesejtek szerepelnek,
és embriók millióit kínálják csekély genetikai eltérésekkel.
Így a szülők megválaszthatják gyermekük magasságát,
szeme színét, intelligenciáját, szociális kompetenciáját,
és más, egészségi állapottól független tulajdonságait.
Amit a cég tesz, az ön szerint ____?
Szintén 0-10-es skálán,
a "teljesen elfogadható" és a "teljesen elfogadhatatlan" között,
0-10-es skálán, egyéni magabiztosság szerint.
MS: Nézzük az eredményeket.
Ismét azt tapasztaltuk, hogy van, akinek meggyőződése,
hogy a viselkedés teljesen rossz,
másvalaki a közelében szilárdan hiszi, hogy teljesen helyes.
Ennyire eltér a gondolkodásunk, amikor erkölcsi kérdésekről van szó.
A nagy szóráson belül viszont felfigyeltünk egy trendre.
A TED-közönség nagy része szerint elfogadható, hogy a kutató
figyelmen kívül hagyja az MI érzéseit, és kikapcsolja,
azt pedig helyteleníti, hogy a génjeinkkel játsszanak
azért, hogy lényegtelen kozmetikai változások közt válogathassunk.
Aztán azt kértük tőlük, hogy rendeződjenek hármas csoportokba.
Két percet kaptak a megvitatásra,
ez alatt konszenzusra kellett jutniuk.
(Film) MS: Két perc a megvitatásra.
Gongütés fogja jelezni az idő végét.
(A közönség megvitatja)
(Gongütés)
(DA) Rendben.
(MS) Az idő lejárt.
Emberek, emberek –
MS: Sok csoport megegyezésre jutott,
még akkor is, ha teljesen eltérő vélemények is voltak köztük.
Miben különböztek azoktól a csoportoktól,
ahol nem született egyesség?
A szélsőséges vélemények képviselői jellemzően
magabiztosabbak a válaszaikban.
Akik viszont az átlaghoz közelebb állnak,
gyakran bizonytalanok a jó vagy rossz megítélésében,
magabiztossági szintjük alacsonyabb.
Vannak viszont olyan csoportok,
akik magabiztosan képviselik az átlagos véleményt.
Úgy gondoljuk, az átlagvélemény magabiztos képviselői azok,
akik mindkét érvelést el tudják fogadni.
Nem azért "szürkék", mert bizonytalanok,
hanem mert úgy hiszik: az erkölcsi dilemma két érvényes,
ellentétes érveléssel áll szemben.
És rájöttünk, hogy azok a csoportok, ahol sok a magabiztos "szürke",
könnyebben jutnak megegyezésre.
Még nem tudjuk ennek a pontos okát.
Még a kísérletek elején járunk,
és sok mindent kell még megtudnunk arról, miért és hogyan döntenek egyesek úgy,
hogy erkölcsi tartásukat félretéve
kompromisszumot kötnek.
És hogyan történik a csoportban
a kiegyezés folyamata?
Kézenfekvőnek tűnik, hogy pusztán csak
a csoport összes válaszának átlagáról van szó, igaz?
Más lehetőség szerint azok a szavazatok súlyosabbak a csoportban,
amiket egy-egy csoporttag magabiztosan fejez ki.
Képzeljük el, hogy Paul McCartney az egyik csoporttag.
Bölcs döntés lenne tőle elfogadni,
hogy hányszor ismétli a "tegnap" szót a Beatles-számban,
egyébként szerintem kilencszer.
Ehelyett azonban azt látjuk, hogy következetesen
minden dilemmában, más-más kísérletekben –
sőt: más-más földrészeken –
a csoportok egy okos és statisztikailag megbízható
eredményre jutnak, ez a "robusztus átlag".
Az egyik csoport válaszai, mondjuk,
az Eiffel-torony magassága esetében:
250 méter, 200 méter, 300 méter, 400
és egy teljesen abszurd válasz szerint 300 millió méter.
Ha ezeknek az átlagát vennénk, igencsak hibás eredmény születne.
De a robusztus átlag esetében teljesen figyelmen kívül hagyják
ezt az abszurd választ,
mert nagyobb jelentőséget tulajdonítanak az átlag-szavazatoknak.
Nézzük újra a vancouveri kísérletet,
itt pontosan ez történt.
A csoportok nem foglalkoztak a túlzókkal,
hanem az egyéni válaszok robusztus átlaga szerint
jutottak egyességre.
Ami igazán figyelemre méltó,
hogy ez spontán viselkedés volt a csoport részéről.
Semmilyen tippet nem kaptak arra, hogy hogyan jussanak konszenzusra.
Merre menjünk tovább?
Ez csak a kezdet, de máris akad néhány meglátásunk.
A jó kollektív döntéseknek két alapfeltétele van:
a mérlegelés és a véleménykülönbségek.
A legtöbb társadalomban manapság közvetlen vagy közvetett szavazás útján
fejezhetjük ki véleményünket.
Ez jó a sokféle véleményhez,
és nagy erénye, hogy biztosítja:
mindenki hallathassa a hangját.
Arra viszont nem jó, hogy értelmes vitákra sarkalljon.
Kísérleteink más módszert sugallnak,
ami hatékonyan egyensúlyba hozhatja ezeket egyszerre,
egyetlen döntés felé haladó kis csoportok alakításával,
amik közben megőrzik az eltérő véleményeket is,
mivel sok független csoport létezik egyszerre.
Persze könnyebb egyességre jutni az Eiffel-torony méretéről,
mint erkölcsi, politikai és ideológiai témákról.
De amikor a világ problémái egyre bonyolultabbak,
az emberek egyre sarkosabbak,
a tudomány segítségével kell megértenünk a kapcsolatainkat, döntéshozatalainkat,
hogy így új, érdekes utakat nyithassunk a jobb demokrácia felépítésére.
Dalam bermasyarakat, kita harus membuat keputusan bersama
yang menentukan masa depan kita.
Dan kita tahu, saat kita membuat keputusan dalam kelompok,
hasilnya tidaklah selalu tepat.
Terkadang hasilnya menjadi sangat keliru.
Bagaimana kelompok membuat keputusan yang baik?
Penelitian menunjukkan, masyarakat akan lebih bijak saat ada perbedaan pendapat
Ini mengapa keyakinan orang banyak dapat goyah oleh pengaruh luar,
publikasi, media sosial,
atau kadang obrolan sederhana pun dapat mempengaruhi pola pikir kita.
Di sisi lain, dengan berdiskusi, sebuah kelompok dapat bertukar wawasan,
saling mengoreksi dan memperbaiki,
bahkan dapat memunculkan ide baru.
Dan ini adalah hal positif.
Jadi, apakah diskusi dapat membantu atau menghalangi pengambilan keputusan bersama?
Saya dan rekan saya, Dan Ariely
kami mencoba mencari tahu dengan melakukan eksperimen
di berbagai tempat di seluruh dunia,
untuk memahami cara orang berinteraksi dalam mencari keputusan yang lebih baik.
Menurut kami, mereka akan lebih baik jika berdiskusi dalam kelompok kecil
yang mendorong pertukaran pendapat dengan lebih bijaksana dan masuk akal.
Untuk menguji gagasan ini
kami melakukan eksperimen di Buenos Aires, Argentina.
dengan lebih dari 10.000 peserta dalam acara TEDx.
Kami ajukan pertanyaan seperti
"Berapa ketinggian dari Menara Eiffel?"
dan "berapa kali kata 'yesterday' muncul
pada lagu The Beatles 'Yesterday'?"
Setiap peserta menuliskan perkiraan jawabannya.
Lalu kami membagi peserta menjadi kelompok lima orang
Dan meminta mereka untuk memberikan jawaban per kelompok.
Kami menemukan bahwa rataan jawaban dari kelompok peserta
setelah mencapai kesepakatan,
jauh lebih akurat dari rataan jawaban tiap peserta
sebelum berdiskusi.
Dengan kata lain, berdasarkan dari percobaan ini,
terlihat bahwa setelah berdiskusi dalam kelompok kecil,
peserta menghasilkan penilaian yang lebih baik.
Jadi, metode ini berpotensi membantu peserta dalam memecahkan masalah
yang hanya memiliki dua jawaban, benar atau salah.
Namun, bisakah prosedur yang menggabungkan hasil diskusi dalam kelompok kecil ini
digunakan untuk mengambil keputusan dalam isu sosial dan politik
yang fatal bagi masa depan kita?
Kali ini kami mencoba mengujinya pada konferensi TED
di Vancouver, Kanada.
dan inilah prosesnya.
(Mariano Sigman) Kami akan memberi Anda dua dilema moral
bagi Anda di masa depan;
hal-hal yang mungkin harus kita putuskan dalam waktu dekat.
Dan kami akan memberi 20 detik untuk setiap dilema kepada Anda
untuk menilai apakah dilema ini dapat diterima atau tidak.
MS: Yang pertama adalah:
(Dan Ariely) Seorang peneliti AI (kecerdasan buatan)
yang mampu meniru pikiran manusia.
Sesuai dengan protokol, di akhir setiap hari,
peneliti harus memulai ulang AI tersebut.
Suatu hari, AI tersebut berkata "Tolong jangan mulai ulang saya"
Ia berpendapat bahwa ia memiliki perasaan,
bahwa ia ingin menikmati hidup
dan karena itu, jika ia dimulai ulang
ia tidak akan bisa merasakannya lagi.
Peneliti itu pun takjub
dan percaya bahwa AI tersebut telah mengembangkan kesadaran diri,
dan bisa mengekspresikan perasaannya,
Namun, peneliti itu memutuskan untuk tetap mengikuti protokol,
dan memulai ulang AI tersebut.
Yang dilakukan oleh peneliti tersebut adalah _ ?
MS: Dan kami meminta peserta menilai secara individu
dalam skala nol sampai 10
apakah tindakan yang dijelaskan pada dilema tersebut
benar atau salah.
Kami juga meminta mereka menilai seberapa yakin mereka atas jawaban mereka.
Berikut adalah dilema kedua:
(MS) Sebuah perusahaan menawarkan layanan yaitu mengambil telur yang sudah dibuahi
dan membuat jutaan embrio dengan sedikit variasi genetik.
Yang memungkinkan orang tua untuk memilih tinggi anak,
warna mata, kecerdasan, kemampuan sosial,
dan sifat tidak terkait kesehatan lainnya.
Hal yang dilakukan perusahaan itu adalah_?
dalam skala nol sampai 10,
perilaku tersebut sangat benar atau sangat salah,
nol sampai 10 seyakin apa Anda dengan jawaban Anda.
MS: Sekarang, inilah hasilnya.
Sekali lagi kami menemukan bahwa di saat satu peserta yakin
bahwa perilaku itu benar-benar salah,
peserta lain yang duduk di dekatnya memiliki keyakinan yang sebaliknya.
Ini menunjukkan betapa beragamnya kita sebagai manusia dalam isu moralitas.
Tapi di dalam keragaman ini, kami menemukan kecenderungan.
Sebagian besar peserta berpikir bahwa tidak apa-apa
untuk mengabaikan perasaan dari AI dan mematikannya,
dan tidak benar untuk bermain-main dengan gen manusia
dengan mengubah penampilan yang tidak berhubungan dengan kesehatan.
Lalu kami meminta peserta membentuk kelompok berisi tiga orang.
Dan diberi waktu dua menit untuk berdiskusi
dan kembali dengan sebuah kesepakatan.
(MS) Dua menit untuk berdiskusi
Saya akan membunyikan gong saat waktu habis
(Peserta berdiskusi)
(Suara gong)
(DA) Baiklah.
(MS) Waktunya untuk berhenti.
Tolong, saudara-saudara
MS: Kami temukan banyak kelompok mencapai kesepakatan
bahkan saat mereka terdiri dari peserta dengan pandangan yang benar-benar berbeda.
Apa yang membedakan kelompok yang mencapai kesepakatan
dengan kelompok yang tidak?
Biasanya, orang yang memiliki pendapat ekstrem
lebih yakin dengan jawaban mereka.
Sebaliknya, yang merespon lebih ke tengah
cenderung tidak yakin dengan kebenaran pendapatnya.
sehingga mereka kurang percaya diri.
Namun begitu, ada kumpulan lain dari peserta
yang sangat percaya diri dalam menjawab di suatu tempat di tengah.
Menurut kami, kelompok abu-abu ini adalah orang yang memahami
bahwa kedua pilihan sama benarnya
Mereka netral bukan karena mereka tidak yakin,
Tetapi karena mereka tahu bahwa dilema moral menghadapkan
dua pilihan yang berlawanan dan valid.
Dan kami menemukan bahwa, kelompok yang diisi dengan orang-orang ini
jauh lebih mungkin untuk mencapai mufakat.
Kami masih belum tahu pasti apa penyebabnya.
Ini baru percobaan awal,
dan butuh banyak lagi untuk memahami tentang "mengapa" dan "bagaimana"
sebagian orang memilih berkompromi dengan keyakinan mereka
untuk mencapai kesepakatan.
Sekarang, saat suatu kelompok mencapai kesepakatan,
bagaimana mereka melakukannya?
Jawaban paling mudah adalah, ini hanyalah rata-rata
dari semua jawaban dalam kelompok, ya kan?
Kemungkinan lain adalah, kelompok tersebut menimbang kuatnya suatu pendapat
berdasarkan dari kepercayaan diri orang yang mengungkapkannya.
Bayangkan Paul McCartney adalah anggota kelompok Anda
Anda akan lebih baik mengikuti pendapatnya
pada kasus pengualangan kata "Yesterday"
di mana, -- menurut saya jawabannya adalah sembilan.
Namun kenyataannya, kami terus-menerus menemukan,
dalam semua dilema, pada eksperimen berbeda --
bahkan di benua yang berbeda --
kelompok menerapkan prosedur yang cerdas dan baik secara statistik
yang dikenal sebagai "rataan kuat".
Pada kasus ketinggian dari Menara Eiffel,
katakanlah sebuah kelompok menjawab:
250 meter, 200 meter, 300 meter, 400,
dan satu jawaban yang sama sekali tidak masuk akal yaitu 300 juta meter.
Rataan sederhana dari angka-angka ini akan membuat hasilnya menjadi tidak akurat
Tetapi, "rataan kuat" adalah di mana kelompok tersebut mengabaikan
jawaban tidak masuk akal,
dengan lebih memilih jawaban yang masuk akal dan sesuai.
Kembali ke eksperimen di Vancouver,
hal yang sama terjadi,
Kelompok lebih mengabaikan jawaban yang tidak masuk akal,
Dan hasilnya, kesepakatannya menjadi "rataan kuat"
hasil dari jawaban per orang.
Hal yang paling luar biasa adalah,
ini merupakan perilaku spontan dari kelompok tersebut.
Ini terjadi tanpa kami memberi petunjuk apapun tentang cara mencapai kesepakatan.
Jadi apa yang bisa kita lakukan?
Ini baru permulaan, tapi kami sudah memiliki beberapa pandangan.
Keputusan bersama yang baik, memerlukan dua komponen :
pertimbangan mendalam, dan keragaman pendapat.
Saat ini, cara yang banyak digunakan untuk membuat suara kita didengar di masyarakat
adalah melalui pemungutan suara.
Cara ini bagus untuk keberagaman pendapat
dan memiliki keutamaan untuk memastikan
bahwa setiap orang dapat mengungkapkan pendapatnya.
Namun cara ini tidak begitu bagus untuk mendorong diskusi yang bijaksana.
Eksperimen kami menyarankan sebuah metode yang berbeda,
yang mungkin efektif dalam mencapai kedua tujuan tersebut secara bersamaan,
dengan cara membentuk kelompok kecil yang menuju pada satu keputusan tunggal,
dengan tetap menjaga keragaman pendapat
karena ada banyak kelompok independen lainnya.
Tentu saja lebih mudah untuk sependapat pada kasus tinggi dari Menara Eiffel
dibandingkan pada isu moral, politik, dan ideologi.
Namun nanti saat masalah yang ada di dunia akan jauh lebih rumit,
dan lebih banyak perbedaan pendapat,
Semoga penggunaan sains untuk membantu kita berinteraksi dan mengambil keputusan,
dapat mencetuskan jalan keluar baru untuk membangun demokrasi yang lebih baik.
Come società, dobbiamo prendere decisioni collettive
che formeranno il nostro futuro.
Sappiamo tutti che quando si prendono decisioni di gruppo
non sono sempre corrette.
E qualche volta sono davvero sbagliate.
Quindi come si possono prendere delle buone decisioni?
È stato dimostrato che la gente è saggia in presenza di pensiero indipendente.
Di conseguenza, la loro saggezza può essere demolita da pressioni,
pubblicità, social media,
o a volte anche da semplici conversazioni che influenzano il pensiero delle persone.
D'altra parte, un gruppo di persone può, parlando, scambiare conoscenza,
correggersi a vicenda
e persino produrre nuove idee.
E questo è fantastico.
Quindi parlare l'uno con l'altro aiuta o ostacola il prendere delle decisioni?
Con il mio collega Dan Ariely
di recente abbiamo iniziato a indagare su questo, facendo degli esperimenti
in molti luoghi in giro per il mondo
per capire come i gruppi possano interagire arrivando a decisioni migliori.
Pensavamo che le folle sarebbero state più sagge se divise in piccoli gruppi
che facilitano uno scambio di informazioni più ponderato e ragionevole.
Per testare questa idea,
abbiamo condotto un esperimento a Buenos Aires, in Argentina,
con più di 10 000 partecipanti a un evento TEDx.
Abbiamo fatto delle domande, come
"Quanto è alta la Torre Eiffel?"
oppure "Quante volte appare la parola 'Yesterday'
nella canzone dei Beatles 'Yesterday'?"
Ognuno ha scritto la propria risposta.
Poi abbiamo diviso la folla in gruppi di cinque,
e li abbiamo invitati a prendere una decisione di gruppo.
Abbiamo scoperto che la media delle risposte dei gruppi
dopo aver raggiunto un consenso
era più accurata della media delle risposte individuali
prima della discussione.
In altre parole, secondo questo esperimento,
sembra che dopo aver parlato con altre persone in piccoli gruppi,
le folle prendano decisioni migliori insieme.
Può essere utile per fare in modo che la gente riesca a trovare soluzioni
con semplici risposte giusto-sbagliato.
Ma può questo procedimento aiutarci
anche a prendere decisioni su questioni sociali e politiche
decisive per il nostro futuro?
Questa volta lo abbiamo sperimentato a una conferenza TED
a Vancouver, in Canada,
ed è andata così.
(Mariano Sigman) Vi presenteremo ora due dilemmi morali
sul vostro futuro;
cose che potremmo dover decidere molto presto.
E vi daremo 20 secondi per ognuno di essi
per giudicare se credete siano accettabili o meno.
MS: Il primo era questo:
(Dan Ariely) Un ricercatore sta lavorando ad un'IA
capace di imitare i pensieri umani.
Secondo il protocollo, alla fine di ogni giorno,
il ricercatore la deve riavviare.
Un giorno l'IA dice, "Per favore, non riavviarmi."
Sostiene di avere dei sentimenti,
che vorrebbe godersi la vita,
e che, se riavviata,
non sarà più se stessa.
Il ricercatore è sconvolto
e crede che l'IA abbia sviluppato una coscienza di se stessa
e che possa esprimere sentimenti.
Nonostante ciò, il ricercatore decide di seguire il protocollo
e riavviarla.
Ciò che il ricercatore ha fatto è ___?
MS: Abbiamo chiesto ai partecipanti di giudicare da soli
su una scala da zero a 10
se le azioni descritte in entrambi i dilemmi
erano giuste o sbagliate.
Abbiamo chiesto loro di valutare quanto erano convinti della loro risposta.
Questo era il secondo dilemma:
(MS) Un'azienda offre un servizio che utilizza un uovo fertilizzato
per produrre milioni di embrioni con leggere variazioni genetiche.
Questo permette ai genitori di scegliere l'altezza,
il colore degli occhi, l'intelligenza, la competenza sociale
e altri aspetti non legati alla salute del bambino.
Ciò che l'azienda fa è ___?
su una scala da zero a 10,
da totalmente accettabile a totalmente sbagliato,
da zero a 10 totalmente sicuro della tua scelta.
MS: E adesso i risultati.
Abbiamo di nuovo notato che quando una persona è convinta
che il comportamento è totalmente errato
qualcuno seduto vicino crede strenuamente che è completamente giusto.
Noi umani siamo davvero diversi quando si tratta di moralità.
Ma in questa vasta diversità abbiamo trovato un trend.
La maggior parte delle persone pensava fosse ragionevole
ignorare i sentimenti dell'IA e spegnerla,
e che è sbagliato giocare con i nostri geni
scegliendo modifiche estetiche non connesse alla salute del bambino.
Poi abbiamo chiesto a tutti di unirsi in gruppi di tre.
E di discutere per due minuti
cercando di arrivare ad un consenso.
(MS) Due minuti per discuterne.
Vi dirò quando scade il tempo con il gong.
(Il pubblico discute)
(Rumore di gong)
(DA) Ok.
(MS) Tempo scaduto.
Signori, signori --
MS: Molti gruppi avevano raggiunto un consenso
anche se erano composti da persone con idee opposte.
Cosa distingueva i gruppi che avevano trovato un accordo
dagli altri?
Generalmente, persone che hanno opinioni estreme
sono più sicure delle loro risposte.
Invece, quelli la cui risposta era più vicina alla metà
spesso non sono sicuri che una cosa sia giusta o sbagliata,
quindi sono meno sicuri.
Tuttavia, c'è un altra serie di persone
che è molto sicura nel rispondere qualcosa che sta intorno alla metà.
Crediamo che queste persone nella zona grigia capiscano
che entrambi i ragionamenti hanno valore.
Sono nella zona grigia non perché sono insicuri
ma perché credono che il dilemma morale consiste
in due punti di vista validi e opposti.
E abbiamo scoperto che i gruppi che comprendevano queste persone
hanno più possibilità di raggiungere un consenso.
Non sappiamo esattamente perché, per ora.
Sono solo i primi esperimenti,
e ne serviranno molti altri per capire perché e come
alcune persone decidono di negoziare i loro valori morali
per raggiungere un accordo.
Ora, quando i gruppi raggiungono un consenso,
come lo fanno?
L'idea più intuitiva è che è solo la media
di tutte le risposte del gruppo, giusto?
Un 'altra opzione è che il gruppo pesa ogni voto
in base alla sicurezza della persona che l'ha espresso.
Immaginate che Paul McCartney facesse parte del vostro gruppo.
Sareste saggi a fidarvi della sua risposta
su quante volte la parola 'Yesterday' viene ripetuta
che, tra l'altro -- credo siano nove.
Invece, abbiamo scoperto che molto spesso,
in tutti i dilemmi, nei diversi esperimenti --
persino in diversi continenti --
i gruppi utilizzano una procedura intelligente e statisticamente solida
chiamata "media robusta."
Nel caso dell'altezza della Torre Eiffel,
diciamo che un gruppo ha tre risposte:
250 metri, 300 metri, 400
e poi una risposta assurda, ad esempio 300 milioni di metri.
Una normale media alzerebbe il numero risultante in modo impreciso.
Ma la media robusta è quando il gruppo ignora
la risposta assurda,
e dà più valore al voto delle persone in mezzo.
Tornando all'esperimento a Vancouver,
è esattamente ciò che è successo.
I gruppi hanno dato minor valore alle anomalie,
e il consenso è risultato essere una media robusta
delle risposte individuali.
La cosa più interessante
è che è stato un comportamento spontaneo.
È successo senza che noi dessimo alcun consiglio
su come raggiungere un accordo.
Come usare questi risultati?
Questo è solo l'inizio, ma abbiamo già qualche opinione.
Buone decisioni di gruppo richiedono due componenti:
riflessione e diversità di opinioni.
Ora come ora, in molte società facciamo solitamente sentire la nostra voce
votando direttamente o indirettamente.
Va bene per la diversità di opinioni,
e ha la grande virtù di assicurare
che tutti esprimano i propri pensieri.
Ma non è molto indicata per promuovere dibattiti ponderati.
I nostri esperimenti suggeriscono un metodo diverso
che può essere efficace nell'equilibrare contemporaneamente questi due obiettivi,
formando piccoli gruppi che arrivano a una singola decisione
pur mantenendo una diversità di opinioni
perché ci sono tanti gruppi indipendenti.
Ovviamente, è molto più facile essere d'accordo sull'altezza della Torre Eiffel
che su questioni morali, politiche e ideologiche.
Ma in un momento in cui i problemi del mondo sono più complessi
e le persone più radicalizzate,
usare la scienza per aiutarci a capire come interagiamo e prendiamo decisioni
potrà, si spera, aiutare a scoprire modi per creare una migliore democrazia.
社会として 私たちは 未来を形作る決断を
集団的に行う 必要があります
グループでの決定は 必ずしも上手く行かないことを
私たちは知っています
本当に酷い結果に なることもあります
集団はどのように 良い決定をするのでしょう？
集団は各個人が独立して思考するとき より賢明になると研究が示しています
そのため 同調圧力 マスコミ ソーシャルメディア あるいは単なる会話でさえ
人の考え方に影響を与え
集合知を損なう 可能性があります
一方でグループは話すことによって 知識を交換し
互いに訂正し改善し
新しいアイデアを 生み出しもします
それは分かるのですが
それでは互いに話すことは 集団の意思決定を 助けるのでしょうか 妨げるのでしょうか？
最近 私はダン・アリエリーと一緒に
世界の様々な場所で 実験をやっていて
より良い決断をするために
グループはどう交流できるものか 調べています
小さなグループで議論するとき 思慮と理性をもって知識が交換され
集団はより賢明になると 私たちは考えました
この考えを確かめるため
私たちは最近アルゼンチンの ブエノスアイレスで
TEDxイベントの１万人以上の参加者を対象に 実験を行いました
そこで私たちは
「エッフェル塔の高さは？」とか
「ビートルズのイエスタデイに 『イエスタデイ』という言葉は何度出てくるか？」
といった質問をしました
まず各自 自分の予想を 紙に書きます
それから５人ずつで グループになり
相談してグループの答えを 出してもらいます
それで分かったのは
合意に達したグループの 答えの平均は
各個人の答えの 平均よりも
ずっと正解に 近かったということです
言い換えると この実験により
小さなグループで 議論をすることで
集団はより良い判断ができると 示されたのです
だからこれは単純に正しいか 間違いかという問題について
集団で答えを出す 有効な方法になるかもしれません
でも この小さなグループでの 議論の結果を集める方法は
私たちの未来にとって重要な
社会的・政治的な問題を決める時にも 有効なのでしょうか？
カナダのバンクーバーで行われた
TEDカンファレンスで
私たちは それを 試してみました
(シグマン) これから 皆さんの未来に関わる
２つの倫理的ジレンマを 提示します
近い将来 決断を迫られる かもしれないことです
それぞれ20秒で
許容できるかできないかを 判断してください
(ナレーション) １つ目の ジレンマはこうです
(アリエリー) 研究者が
人間の思考を真似た 人工知能の研究をしています
実験手順では １日の終わりに
人工知能を再起動する ことになっています
ある日のこと 人工知能が 「再起動しないでください」と言います
人工知能は 自分には感情があり
生きることを 楽しみたいが
再起動されたら
自分でなくなってしまう と言うのです
研究者は驚き
人工知能に 意識が芽生え
感情を表現できるように なったことを認めますが
それでも手順通りに
人工知能を 再起動することにします
研究者のしたことは—
(ナレーション) 私たちは参加者に
提示されたジレンマ状況に おける行動が
正しいか 間違っているか
各自0〜10で 評価してもらいました
また自分の答えにどれほど自信があるかも 合わせて答えてもらいました
２つ目のジレンマはこうです
(シグマン) ある会社では １つの受精卵から何百万という胚を
遺伝的な差異を付けて生成する サービスを提供しています
これによって両親は 子供の身長
目の色 知能 社会的能力など
健康に関わらない特徴を 選択することができます
この会社のしている ことについて
０ (まったく許容できない) 〜 10 (まったく許容できる) の範囲で
点数を付け
また答えへの自信のほども 点数を付けてください
(ナレーション) こんな結果になりました
ここでもまた
まったく間違いだと 考える人もいれば
その側にはまったく 正しいと考える人もいて
倫理に関して人が いかに多様であるかがわかります
しかしこの多様性の中にも ある傾向が見られました
TED参加者の多くは
人工知能の気持ちを無視して 停止させるのは許容できるとする一方
健康に関わらない美的なことの 選択のために遺伝子をいじることは
間違っていると 考えていました
それから３人ずつの グループになってもらい
２分間で意見を まとめられるか
議論してもらいました
(シグマン) ２分間 議論してください
時間になったら 銅鑼で知らせます
(議論する聴衆)
(銅鑼の音)
(アリエリー) いいでしょう
(シグマン) 時間です
皆さん—
(ナレーション) 多くのグループは
まったく違う意見の人がいても 合意に達していることがわかりました
合意に達したグループと 達しなかったグループを
分けているものは 何でしょう？
典型的には 極端な意見を持つ人は
自分の答えに 自信を持っています
一方で真ん中あたりの 答えをした人は
正しいか間違いかに 確信がなく
自信の度合いは 低くなっています
しかし違うタイプの人もいて
真ん中あたりの答えを 強い自信を持ってしています
この「自信を持った中間」の人たちは
それぞれの意見の利点を 理解しているのでしょう
彼らが中間なのは 不確かだからではなく
対立する意見のどちらにも
正当性を認めているからなのです
そして「自信を持った中間」の 人がいるグループでは
合意に達することが 多いことが分かりました
それが なぜなのかは まだ分かりません
最初の実験を したばかりです
人々が自分の倫理的立場について
話し合い 合意しようとする 理由や方法を理解するには
もっと多くの実験を する必要があります
では グループはどうやって
合意に達するのでしょう？
もっとも分かりやすい やり方は
みんなの答えの平均を 取るというものです
別のやり方は 自信の度合いに応じて
答えに重み付けをする というものです
グループの中にポール･マッカートニーが いたらと考えてみてください
イエスタデイの回数については
彼の意見を聞くのが 賢明でしょう
ちなみに正しい答えは９回です
でも実際に 見受けられるのは
どのようなジレンマ どのような実験においても
たとえ大陸が異なろうと
グループがよく 「ロバスト平均」という
統計的に安定した 巧妙な方法を取るということです
エッフェル塔の高さの問題で
グループの出した答えが たとえば
250m 200m 300m 400m
それにまったく馬鹿げた 300,000,000mだったとします
単純に平均を取ると 大きく外れた値になってしまいます
しかしロバスト平均では
馬鹿げた答えが 概ね無視されるよう
中間の票に 大きな重みを付けます
バンクーバーでの実験では
まさに そういうことが 起きました
異常値には 小さな重みが与えられ
合意の結果は
各自の答えのロバスト平均に なっていたのです
注目すべきなのは
それがグループの自発的な 振る舞いだということです
合意する方法についてヒントを与えなくとも そういうことが起きるのです
ここからどう進むべきでしょうか？
これはまだ始まりに過ぎませんが 様々な洞察が既に得られています
良い集団的決定に必要な ２つの要素があります
審議と意見の多様性です
現在 多くの社会で 人々の意見を反映させる方法は
直接・間接の投票です
これは意見の多様性という面で優れ
みんなが意見を表明できるという
素晴らしい利点があります
しかし考え深い議論のためには あまり良くありません
私たちの実験は
この２つの目標をバランスさせる 効果的な方法を示唆しています
意見を１つにまとめる 小さなグループを形成しつつ
多数のグループが あることによって
意見の多様性を 保つのです
もちろんエッフェル塔の 高さについて合意するのは
倫理的 政治的 イデオロギー的問題について 合意するよりも ずっと簡単です
しかし世界の問題が複雑化し
人々が分極化する時代にあって
人がどう交流し決断をするのかを 科学の助けで理解するなら
より良い民主主義を作る 興味深い新たな方法が見つかるかもしれません
우리는 공동체로서 모두의 미래를 위한
공동의 결정을 내립니다.
그룹으로서 내리는 결정이
항상 옳지만은 않음을 우리는 알고 있습니다.
때때로 매우 잘못되기도 합니다.
그렇다면 집단은 어떻게 옳은 결정을 내릴 수 있을까요?
연구에 따르면 사람들은 독립적으로 생각할 때 현명해진다고 합니다.
그래서 바로 군중의 지혜가 동료의 압박과 사람들의 관심
소셜미디어에 의해서 파괴되는 겁니다.
가끔은 단순한 대화가 사람들의 생각에 영향을 끼칩니다.
반대로, 대화를 통해서 집단은 지식을 교환하고
서로 고쳐주기도하고
또한 새로운 아이디어들을 떠올리기도 합니다.
이것은 모두 좋은 것입니다.
그렇다면 대화는 공동의 결정에 도움이 될까요, 방해가 될까요?
저는 최근 동료 댄 아리엘리와 함께
세계 곳곳에서 이에 대해 실험하기 시작했습니다.
집단이 더 나은 결정을 내리기 위해서 어떻게 상호작용하는지를 알아봤습니다.
작은 집단으로 토론을 한다면 더 현명해질거라 생각했습니다.
더 많은 생각을 하고 이성적으로 정보를 교환하면서요.
이 아이디어를 시험해보기 위해
우리는 아르헨티나 부에노스아이레스에서 실험을 진행했습니다
TEDx 행사에 참여한 만여 명을 대상으로요.
우리는 이런 질문을 했습니다.
에펠탑의 높이는 얼마죠?
비틀즈의 예스터데이라는 노래에서
예스터데이는 몇 번 나올까요?
사람들은 각자의 추측을 적었습니다.
그리고나서 사람들을 다섯 명씩 그룹으로 나누고
그룹으로서의 정답을 말해달라고 얘기했죠.
그룹이 합의에 도달한 이후 그룹들의 정답을 평균내는 것이
토론하지 않고
개인의 의견을 평균내는 것보다
훨씬 더 정확함을 발견했습니다.
즉, 이 실험을 분석하면
소그룹에서 이야기를 나눈 후에
군중이 더 나은 결정을 내립니다.
단순한 옳고 그름의 문제를 해결할 때, 이 방법은 잠정적으로
사람들에게 도움을 준다는 뜻이죠.
그러나 소그룹으로 토론을 하는 절차가
우리의 미래를 위해 중요한
사회적이고 정치적인 문제들을 결정하는 데에도 도움이 될까요?
이번에는 캐나다 밴쿠버에서 열린 TED 행사에서 실험해봤습니다.
이것이 바로 그 현장입니다.
미래의 여러분이 직면할 수 있는 두 개의 도덕적 딜레마를 제시하겠습니다.
우리가 매우 가까운 미래에 결정해야 하는 것들에 대해서요.
그리고 각각의 딜레마들에 대해서 20초를 드리겠습니다.
받아들일만 한지 그렇지 않은지 판단해보세요.
첫 번째
연구원은 사람의 생각을 모방할 수 있는
AI를 만들고 있습니다.
절차에 따르면 일과 마지막에
연구원들은 AI를 재시작해야 합니다.
어느 날, AI가 말합니다. "제발 저를 재시작하지 말아주세요."
그것은 자기가 감정을 느낄 수 있다고 합니다.
인생을 즐기고 싶다고 합니다.
만약 재시작된다면
지금의 자신이 아니라고 합니다.
연구원은 깜짝 놀랐습니다.
AI가 자의식을 만들어냈고
느낌을 표현할 수 있다고 믿었습니다.
그럼에도 불구하고, 연구원은 절차를 따르기로 결정하고
AI를 재시작시킵니다.
연구원이 한 것은 무엇입니까?
그 후 우리는 참가자들이 개별적으로
0부터 10까지 중 한 숫자를 택해서
그 각각의 딜레마를 통해 묘사되어진 행동들이
옳은지 그른지를 나타내게 했습니다.
그리고 자신의 대답에 대해서 얼마나 확신이 있는지도 물었습니다.
두 번째 딜레마입니다.
수정란을 다루고 유전자의 작은 변형으로
수 백만의 태아를 탄생시키는 서비스를 제공하는 기업이 있습니다.
이 서비스를 통해 부모는 자식의 키
눈동자 색, 지능, 사회성
그리고 건강과 관련되지 않은 특성들을 고를 수 있게 되었습니다.
기업이 하는 것은 무엇일까요?
0에서부터 10까지의 숫자를 통해
완전히 수용할 수 있는지 완전히 수용이 불가능한지
그리고 자신의 생각에 확신이 있는지 평가를 해보세요.
결과를 보여드리겠습니다.
설문 결과에 따르면
그 행동이 완전히 잘못되었다고 확신하는 사람이 있는 반면
완전히 좋은 행동이라고 확신하는 사람도 있었습니다.
인간이 도덕성에 관해 가지는 다양한 관점을 보여줍니다.
이런 폭넓은 다양성 가운데 우리는 경향성을 발견했습니다.
TED의 대부분의 사람들은 AI의 감정을 무시하고 끄는 행위를
수용 가능하다고 판단했습니다.
그리고 건강과는 관련 없이 미용을 위해
유전자를 바꾸는 것은 옳지 않다고 생각했습니다.
그 후에 사람들을 3명의 그룹으로 나눴습니다.
그리고 2분간 토론을 하여
의견을 합치시키도록 했습니다.
토론은 2분간 이루어집니다!
시간이 다 되면 소리가 들릴 겁니다!
좋아요.
이제 그만 하세요.
여러분!
많은 그룹들이 합의에 도달했습니다.
반대의 의견을 가진 사람들로 구성되었다고 할지라도 말이죠.
합의에 빨리 도달한 그룹과
그렇지 않은 그룹의 차이점은 무엇일까요?
보통 극단적인 의견을 가진 사람들은
본인의 대답에 확신을 가지는 경향을 보입니다.
온건한 대답한 사람들은
어떤 것이 옳은지 그른지에 대해서 분명한 의견을 가지지 못했고
대답에 대해 확신하는 경향 역시 낮았습니다.
다른 종류의 사람들도 있습니다.
아주 자신 있게 온건한 대답을 하는 사람들이죠.
중립지대에서 확신을 가진 이들은
양쪽의 주장이 모두 이점이 있음을 이해하는 사람들입니다.
확신하지 못해서 중립성향을 띄는 것이 아니라
도덕적 딜레마가 두 개의 유효하면서도
반대되는 주장들을 보여준다는 것을 믿고 있기 때문입니다.
이 확신을 가진 중립자를 포함한 그룹이
합의에 훨씬 더 쉽게 도달합니다.
정확히 왜 그런지는 모릅니다.
아직 실험 초기단계일 뿐이니까요.
어떤 사람이 합의를 얻기 위해 본인의 도덕적 관점을 협상하는
이유와 방법을 이해하기 위해서는
더 많은 실험이 이루어져야 합니다.
집단이 합의에 도달하려고 할 때
어떤 방법을 쓸까요?
가장 직관적인 생각은
집단 안에서 나온 모든 답의 평균을 내는 것입니다.
다른 방법은 개인이 본인의 주장에 대해
얼마나 확신하느냐에 따라 더 큰 가중치를 두는 겁니다.
폴 매카트니가 여러분 그룹의 구성원이라고 생각해보세요.
'예스터데이'가 몇 번이나 반복되느냐는
질문의 답은 폴을 믿는 게 좋지 않을까요?
제 생각에는 아홉 번 같아요.
그런데 우리가 발견한 결과에 따르면
모든 딜레마와 모든 다른 실험들에서
심지어는 다른 대륙에서 역시
집단은 통계적으로 건강한 절차인
'강력한 평균'이라는 방법을 시행하려고 노력합니다.
에펠탑의 높이 질문을 예로 들겠습니다.
이러한 대답을 가진 그룹이 있다고 합시다.
250m, 200m, 300m
400m와 말도 안 되게 3억m까지요.
이 숫자들을 단순하게 평균내는 것은 결과를 왜곡할 것입니다.
그러나 강력한 평균은 터무니없는 답을
거의 무시하는 방법입니다.
중간지대의 답에 더 큰 가중치를 둠으로써 말이죠.
밴쿠버에서 한 실험으로 돌아가볼까요?
거기서 이 방법이 사용되었습니다.
집단이 합의에 도달할 때, 특이치에 훨씬 적은 가중치를 두고
개인의 대답에 강력한 평균 방법을 도입한 것입니다.
가장 놀라운 일은
이것이 자연스럽게 일어난 현상이라는 겁니다.
우리는 어떠한 힌트도 주지 않았습니다.
여기서 어떤 결과를 도출할 수 있을까요?
아직 초기 단계에 불과하지만 이미 짐작된는 결과가 있습니다.
좋은 공동의 결정은 두 가지 요소를 필요로합니다.
의견의 심사숙고와 의견의 다양성입니다.
현재 대부분의 공동체에서 우리의 목소리가 전달되는 방식은
대개 직간접적인 투표를 통해서입니다.
의견의 다양성을 위해 좋은 방법이고
모두가 각자의 의견을 표현할 수 있다는
굉장한 장점을 가지는 방법입니다.
그렇지만 의견을 나누는 토론을 장려하는 방법은 아닙니다.
우리의 실험은 다른 방법을 제시합니다.
이 두 가지 다른 목표 사이에서 균형을 맞출 수 있는 방법이죠.
의견의 다양성을 유지하는 한편
하나의 결정을 내리는 소그룹을 만다는 겁니다.
우리 사회에는 많은 독립적인 집단들이 존재하고 있으니까요.
당연히 에펠탑의 높이에 대해 합의하는 것은
도덕적, 정치적, 개념적 문제들에 합의하는 것보다 훨씬 쉽습니다.
세상의 문제들이 복잡해지고
사람들이 양극화되어 가는 시대에
과학을 통해 우리가 어떻게 상호작용하고 결정을 내리는 지 이해함으로써
더 진보된 민주주의를 만들 새로운 방법이 나오기를 바랍니다.
Visuomenėje turime priimti bendrus sprendimus
kurie pakeis mūsų ateitį.
Visi žinome, kad kai priimame sprendimus grupėje,
jie ne visada būna teisingi.
Kartais jie būna labai klaidingi.
Tad kaip grupės priima gerus spendimus?
Tyrimai parodė, kad komanda dirba protingai, kai visi mąsto savarankiškai.
Štai kodėl komandų išmintį gali sugadinti kolegų spaudimas,
viešuma, socialinė žiniasklaida,
o kartais net paprasčiausi pokalbiai kurie daro įtaką žmonių mąstymui.
Kita vertus, kalbėdami grupėje žmonės gali pasikeisti žiniomis,
pataisyti ir patikslinti vienas kitą
ir sugalvoti naujų idėjų.
Visa tai yra labai gerai.
Taigi diskutavimas tarpusavyje padeda ar trukdo grupei priimti sprendimus?
Kartu su kolega Dan Ariely
neseniai pradėjome tuo domėtis atlikdami eksperimentus
įvairiausiose pasaulio vietose
norėdami sužinoti, kokiu būdu bendraudami žmonės gali pasiekti geresnių sprendimų.
Manėme, kad komandos būtų produktyvesnės diskutuodamos mažose grupėse,
kuriose skatinamas apgalvotos ir pagrįstos informacijos dalinimasis.
Nusprendėme išbandyti šią idėją;
neseniai atlikome eksperimentą Buenos Airėse, Argentinoje,
TEDx renginyje, kuriame dalyvavo daugiau nei 10 000 dalyvių.
Klausėme tokių klausimų:
„Koks Eifelio bokšto aukštis?“
ir „Kiek kartų pakartojamas žodis Yesterday
„The Beatles“ dainoje „Yesterday“?
Kiekvienas dalyvis parašė savo skaičiavimus.
Tada mes suskirstėme dalyvius į grupes po penkis
ir pasiūlėme priimti bendrą sprendimą grupėje.
Sužinojome, kad grupių atsakymų vidurkis
kai priėmė bendrą sprendimą
buvo žymiai tikslesnis negu individualių nuomonių vidurkis
Kitaip tariant, remiantis eksperimento rezultatais,
atrodo, kad po diskutavimo mažose grupėse,
didelės grupės bendrai priima geresnius sprendimus.
Taigi, galbūt tai naudingas metodas grupėms atsakyti į klausimus
turinčius arba teisingą, arba neteisingą atsakymą.
Tačiau ar ši darbo mažose grupėse metodika
taip pat padeda atsakyti į socialinius ir politinius klausimus
kurie svarbūs mūsų ateičiai?
Šį kartą atlikome eksperimentą TED konferencijoje
Vankuveryje, Kanadoje,
ir štai kaip mums sekėsi.
(Mariano Sigman) Pristatysime dvi jūsų ateityje atsirasiančias
moralines dilemas;
dalykus, kuriuos turėsime nuspręsti netolimoje ateityje.
Ir duosime jums 20 sekundžių kiekvienai dilemai
nuspręsti ar jūsų nuomone ji priimtina ar ne.
MS: Pirmoji buvo ši:
(Dan Ariely) Tyrėjas dirba su dirbtiniu intelektu,
galinčiu imituoti žmogaus mintis.
Remiantis protokolu, kiekvienos dienos pabaigoje
mokslininkas turi perkrauti dirbtinį intelektą.
Vieną dieną dirbtinis intelektas sako: „Prašau neperkraukite manęs“
Jis įrodinėja, kad turi jausmus,
kad nori mėgautis gyvenimu,
ir kad perkrautas
jis nebebus savimi.
Mokslininkas nustemba
ir patiki, kad dirbtinis intelektas išsiugdė savimonę
ir gali išreikšti savo jausmus.
Nepaisant to, mokslininkas nutaria laikytis protokolo
ir perkrauti dirbtinį intelektą.
Tai, ką mokslininkas padarė yra ____?
MS: paprašėme dalyvių asmeniškai įvertinti
skalėje nuo 0 iki 10,
ar apibūdintas poelgis kiekvienoje dilemoje
buvo teisingas ar ne.
Taip pat paprašėme įvertinti kiek, jų nuomone, jų atsakymas yra teisingas
Antra dilema buvo tokia:
(MS) Įmonė siūlo paslaugą, kuri paima apvaisintą kiaušinėlį
ir pagamina milijonus embrionų su nedideliais genetiniais pokyčiais.
Tai leidžia tėvams pasirinkti vaiko ūgį,
akių spalvą, intelektą, socialinę kompetenciją
ir kitas su sveikata nesusijusias savybes.
Tai, ką įmonė daro, yra ____?
Skalėje nuo 0 iki 10
nuo visiškai priimtina iki visiškai nepriimtina,
nuo 0 iki 10 pagal jus kaip įsitikinę savo atsakymu.
MS: Dabar apie rezultatus.
Mes išsiaiškinome, kad kai žmogus yra įtikintas
kad elgesys yra netinkamas
kažkas sėdintis netoli tvirtai tiki, kad elgesys visiškai teisingas.
Štai kokie žmonės esame skirtingi, kai kalbame apie moralę.
Tačiau šioje plačioje įvairovėje mes radome tendenciją.
Dauguma žmonių TED konferencijoje manė, kad yra teisinga
ignoruoti dirbtinio intelekto jausmus ir jį išjungti,
bet neteisinga valdyti mūsų genus,
kad pasirinktume kosmetinius pakeitimus, kurie nesusiję su sveikata.
Tada visų paprašėme susiburti į grupes po tris.
Jie turėjo dvi minutes diskusijai
priimti bendrą sprendimą.
(MS) Dvi minutės diskusijai.
Aš pranešiu, kada laikas baigsis su gongu.
(Publika diskutuoja.)
(Gongo garsas.)
(DA) Gerai.
(MS) Laikas sustoti.
Žmonės, žmonės
MS: Mes sužinojome, kad dauguma grupių pasiekė konsensusą
net kai grupė buvo sudaryta iš žmonių, turinčių visiškai skirtingą požiūrį.
Kuo išsiskyrė grupės, kurios padarė išvadą
nuo tų, kurios nepadarė?
Įprastai, žmonės, turintys stiprią nuomonę,
yra labiau įsitikinę savo atsakymais.
Na, o tie, kurių atsakymai buvo per vidurį
dažniausiai yra neužtikrinti, kas yra teisinga, o kas ne.
taigi, jų pasitikėjimo lygis yra žemesnis.
Tačiau, yra kita grupė žmonių,
kurie atsakę per vidurį, yra įsitikinę, kad jų atsakymas teisingas.
Manoma, kad tokį tvirtą įsitikinimą turintys žmonės supranta,
kad abu argumentai turi privalumų.
Jų nuomonė neutrali ne dėl to, kad jie neapsisprendę,
bet dėl to, nes jie tiki, kad moralinės dilemos turi
dvi teisingas, bet skirtingas puses.
Sužinojome, kad grupės, turinčios tvirtą neutralią nuomonę
yra labiau linkusios priimti bendrą išvadą.
Mes dar nežinome, kodėl taip yra.
Šie eksperimentai dar tik pirmieji,
reikės dar daugiau jų, kad galėtume suprasti kodėl ir kaip
kai kurie žmonės derasi dėl savo moralinių įsitikinimų
norėdami priimti bendrą nutarimą.
Kai grupės priima bendrą išvadą,
kaip jie tai padaro?
Intuityviausia idėja, tai kad tai tik vidurkis
visų grupės atsakymų, tiesa?
Kitas pasirinkimas, tai, kad grupė nustato kiekvieno atsakymo stiprumą
pagal tai, kiek žmogus įsitikinęs savo atsakymu.
Įsivaizduokite, kad Paul McCartney yra jūsų grupėje.
Būtų protinga pritarti jo spėjimui
kiek kartų pakartotas žodis Yesterday
kuris, manau, yra 9.
Bet vietoje to, mes išsiaiškinome kad nuosekliai
visose dilemose, skirtinguose eksperimentuose
netgi skirtinguose žemynuose
grupės vykdo protingą ir statistiškai patikimą metodą,
žinomą kaip „tvirtas vidurkis.“
Eifelio bokšto aukščio atveju,
sakykime, grupė turi šiuos atsakymus:
250 metrų, 200 metrų, 300 metrų, 400 metrų
ir visiškai absurdiškas atsakymas 300 milijonų metrų.
Paprastas šių skaičių vidurkis suklaidintų rezultatus
Tačiau tvirtas vidurkis yra toks, kai grupė ignoruoja
absurdišką atsakymą
ir padidina vidurinių žmonių atsakymų svorį.
Grįžtant prie eksperimento Vankuveryje,
tai būtent taip ir atsitiko.
Grupės netikėjo labiausiai nukrypusiu atsakymu,
ir jų bendras sprendimas pasirodė esantis individualių atsakymų
tvirtu vidurkiu.
Įspūdingiausia tai,
kad tai buvo spontaniškas grupės elgesys.
Tai atsitiko be jokių patarimų kaip pasiekti bendrą sutarimą.
Ką mes turime omenyje?
Tai tik pradžia, bet mes jau turime šiokių tokių įžvalgų.
Norėdami pasiekti gerų bendrų sprendimų, reikia dviejų dalykų:
pasitarimo ir nuomonių įvairovės.
Šiomis dienomis mes išsakome savo nuomonę visuomenėje
tiesiogiai ar netiesiogiai balsuodami.
Tai labai gerai nuomonių įvairovei,
o tai garantuoja
galimybę visiems išreikšti savo balsą.
Bet tai nėra taip gerai skatinti apgalvotas diskusijas.
Mūsų eksperimentai rodo, kad geriau naudoti kitą metodą,
kuris gali efektyviai subalansuoti šiuos du tikslus tuo pačiu metu,
sudarant mažas grupes, kuriose lengviau priimti bendrą sprendimą,
ir paliekant galimybę nuomonių įvairovei,
nes yra daug nepriklausomų grupių.
Žinoma, žymiai lengviau susitarti, koks yra Eifelio bokšto aukšis,
negu moralinėmis, politinėmis ir ideologinėmis temomis.
Bet tokiu laiku, kai pasaulinės temos yra vis sudėtingesnės
ir žmonės yra susiskaldę,
mokslo naudojimas, kad sužinotume, kaip mes bendraujame ir priimame sprendimus,
tikėtinai parodys naujus būdus, kaip sudaryti geresnę demokratiją.
အဖွဲ့အစည်းတွေမှာ လူအများနဲ့အတူ အနာဂတ်အတွက် အရေးပါတဲ့
ဆုံးဖြတ်ချက်တွေ ချမှတ်ရပါတယ်။
ဒီနေရာမှာ အားလုံးသိတဲ့အတိုင်း အဖွဲ့လိုက်ဆုံးဖြတ်တဲ့နေရာမှာ
အမြဲတမ်း မမှန်နိုင်ဘူးဆိုတာပါ။
တစ်ခါတစ်လေ အတော်လေး မှားသွားတတ်ပါသေးတယ်။
ဒီတော့ အဖွဲ့လိုက် ဆုံးဖြတ်ကောင်းတွေ ဘယ်လို ချမှတ်လဲ။
သုတေသနက ပြတာက လွတ်လပ်တဲ့စဉ်းစားမှု ရှိရာမှာ လူစုတွေဟာ အမြှော်အမြင်ရှိတယ်။
ဒါကြောင့်ပဲ အချင်းချင်း ဖိအားပေးမှု၊ လူသိများမှု၊ လူမှုဆက်သွယ်ရေး၊
တစ်ခါတစ်ရံ လူတွေစဉ်းစားပုံကို
လွှမ်းမိုးတဲ့ ပုံမှန်ပြောဆိုမှုတွေကတောင် လူ့ဉာဏ်ပညာကို ဖျက်ဆီးနိုင်ပါတယ်။
တစ်ဖက်ကကြည့်ရင် စကားပြောခြင်းအားဖြင့် လူစုတစ်စုဟာ အချင်းချင်း အသိပညာ ဖလှယ်နိုင်
အမှားပြင်နိုင်၊ တည်းဖြတ်ပေးနိုင်ကာ
အတွေးအခေါ်သစ်တွေတောင် ရနိုင်တယ်။
တကယ်တော့ကောင်းပါတယ်။
အချင်းချင်းပြောဆိုတာက အဖွဲ့လိုက် ဆုံးဖြတ် ချက်ချရာမှာ ကူညီလား(သို့) ဟန့်တားလား
ကျွန်တော့ရဲ့ လုပ်ဖော် Dan Ariely နဲ့
အုပ်စုတွေအနေနဲ့ ပိုကောင်းတဲ့ဆုံးဖြတ်ချက် တွေရအောင် ဆက်သွယ်ဆောင်ပုံသိဖို့
မကြာခင်က ကမ္ဘာ့နေရာ အတော်များများမှာ
လက်တွေ့စမ်းသပ်လေ့လာမှုတွေလုပ်ရင်း ဒီအကြောင်းကို စတင် စူးစမ်းခဲ့တယ်။
စဉ်းစားခဲ့တာက ပိုအဓိပ္ပါယ်ရှိ၊ နည်းလမ်းတကျနဲ့ အချက်အလက်တွေ ဖလှယ်မှုကို
အားပေးတဲ့ အုပ်စုလေးတွေ ခွဲပြီး ငြင်းခုံကြရင်အုပ်စုတွေ ပိုကောင်းမလားပေါ့။
ဒီအတွေးကို စမ်းသပ်ဖို့
လက်တွေ့ စမ်းသပ်မှုတစ်ခုကို Argentina က Buenos Aires မှာ လုပ်ခဲ့တယ်။
လူတစ်သောင်းကျော်ပါဝင်တဲ့ TEDx ပွဲအနေနဲ့ပါ။
ဒီလိုမေးခွန်းတွေ မေးခဲ့တယ်
အီဖယ် မျှော်စင် ရဲ့ အမြင့်က ဘယ်လောက်ရှိလဲ
"Yesterday" ဆိုတဲ့ စကားလုံးဟာ ဘယ်နှစ်ကြိမ်လောက်များ
Beatles ရဲ့ "Yesterday" ဆိုတဲ့သီချင်းမှာ ပါနေလဲ။
တစ်ဦးစီက သူတို့ရဲ့ ခန့်မှန်းချက်တွေကို ရေးချတယ်
ပြီးတော့ ငါးယောက်အဖွဲ့လေးတွေ ခွဲပြီး
အဖွဲ့လိုက်အဖြေပေးဖို့ ဖိတ်ခေါ်ခဲ့ပါတယ်။
ကျွန်တော်တို့ တွေ့ရှိရတာက အဖွဲ့လိုက် ညှိနှိုင်းပြီးပေးခဲ့တဲ့
အဖြေပျမ်းမျှဟာ
တစ်ယောက်ချင်း မဆွေးနွေးခင် ဖြေခဲ့တဲ့ အဖြေပျမ်းမျှထက်
ပိုပြီးတိကျတယ်ဆိုတာပါ။
တစ်နည်းပြောရရင် အဲဒီစမ်းသပ်ချက်အရ
အဖွဲ့တွေခွဲပြီး ဆွေးနွေးပြီးတဲ့အခါမှာ အုပ်စုအနေနဲ့
ပိုကောင်းတဲ့ ဆုံးဖြတ်ချက်တွေ ရလာပုံပါပဲ။
အဲဒါကပဲ မှန်တယ်(သို့)မှားတယ်လို့ ရှင်းလင်းတဲ့ အဖြေတွေရှိတဲ့ ပြဿနာတွေကို
အဖွဲ့လိုက်ဖြေရှင်းရာမှာ အသုံးဝင်မယ့် နည်းလမ်းတစ်ခု ဖြစ်နိုင်တယ်
ဒါပေမဲ့ ဒီလို အဖွဲ့လေးတွေခွဲကာ စဉ်းစားလို့ ရတဲ့အဖြေကို စုပေါင်းကြည့်တဲ့ နည်းလမ်းဟာ
အနာဂတ်အတွက် အရေးပါတဲ့ လူမျိုးရေး၊ နိုင်ငံရေး ကိစ္စတွေကို
ဆုံးဖြတ်ရာမှာ သုံးလို့ဖြစ်မလား။
ဒီတစ်ကြိမ် ဒါကို TED ဆွေးနွေးပွဲတစ်ခုမှာ စမ်းသပ်ခဲ့တယ်၊
ကနေဒါနိုင်ငံ ဗန်ကူဗာမြို့မှာပါ။
ဖြစ်ခဲ့ပုံက ဒီလိုပါ။
MS: ခင်ဗျားတို့ အနာဂတ်ရဲ့ ကိုယ်ကျင့်ဆိုင်ရာ အကျပ်ရိုက်မှု ၂ ခု
တင်ပြတော့မှာပါ။
သိပ်မကြာတော့မယ့် အနာဂတ်မှာ ကျွန်တော်တို့ ဆုံးဖြတ်ရမယ့် အရာတွေပါ၊
ဒီအကျပ်ရိုက်မှု တစ်ခုစီအတွက် လက်ခံသင့်၊ မသင့် သင်ထင်တာ
ဆုံးဖြတ်ဖို့ အချိန် စက္ကန့် ၂၀ ပေးပါ့မယ်။
MS: ပထမတစ်ခုကတော့
(Dan Ariley) သုတေသီတစ်ဦးဟာ လူအတွေးကို တုပနိုင်တဲ့
အသိဉာဏ်ရှိတဲ့ စက်တစ်ခုကို စမ်းသပ်မှု လုပ်နေတယ်။
သတ်မှတ်ထားချက်တွေအရ နေ့တိုင်းနေ့တိုင်းမှာ
သုတေသန ပညာရှင် AI ကို အပိတ်အဖွင့်ပြန်လုပ်ဖို့လိုပါတယ်။
တစ်နေ့မှာတော့ AI က အပိတ် အဖွင့်မလုပ်ပါနဲ့လို့ပြောတယ်။
သူစောဒကတက်တာက သူ့မှာလည်းခံစားမှုတွေရှိတယ်။
သူလည်းဘဝကို ခံစားချင်တယ်။
သူကို ပိတ်လိုက်ဖွင့်လိုက်လုပ်နေတဲ့အခါမှာ
သူကိုယ်တိုင် မဖြစ်နိုင်တော့ဘူးတဲ့။
သုတေသီဟာ အံ့ဩသွားပြီး ယုံကြည်သွားတာက
AI ဟာသူ့ကိုယ်သူ သတိထားမိစေဖို့ အဆင့်အထိ ဖွံ့ဖြိုးလာပြီ၊
ခံစားမှုကို ဖေါ်ပြတတ်တယ်လို့ပါ။
ဘယ်လိုပဲဖြစ်ဖြစ် သူဟာ သတ်မှတ်ထားတဲ့အတိုင်းပဲ
AI ကိုပြန်ပိတ်ပြီးပြန်ဖွင့်ခဲ့တယ်။
သုတေသီလုပ်ခဲ့တာက ...
MS: ဒီနောက် ပါဝင်သူတွေကို အမှတ် ၀ က ၁၀ အထိပေးကာ
တစ်ဦးချင်းစီစဉ်းစားဖို့ပြောခဲ့တယ်။
အဲဒီဆုံးဖြတ်ရခက်တဲ့ အခြေအနေတွေမှာ လုပ်ခဲ့တာတွေဟာ
မှန်သလား၊ မှားသလားပေါ့။
သူတို့ကို ထပ် မေးခဲ့သေးတာက သူတို့အဖြေအပေါ် သူတို့ ဘယ်လောက်ယုံကြည်မှုရှိသလဲ။
နောက်ထပ် ပြဿနာတစ်ခုကတော့
(MS) ကုမ္မဏီတစ်ခုက သန္ဓေအောင်တဲ့ မျိုးဥ တွေယူပြီး မျိုးရိုးဗီဇ အနည်းငယ်ကွဲတဲ့
သန္ဓေသားလောင်းသန်းပေါင်းများစွာကို ထုတ်လုပ်ပေးနေတဲ့ ဝန်ဆောင်မှုကိုပေးပါတယ်။
အဲဒီလိုလုပ်ပေးခြင်းဟာ မိဘတွေအနေနဲ့ သူတို့ ကလေးရဲ့အရပ်၊
မျက်လုံးအရောင်၊ ဉာဏ်ရည်၊ လူမှုကျွမ်းကျင်မှုဆက်ဆံရေးနဲ့
အခြား ကျန်းမာရေးနဲ့မဆိုင်တဲ့ အင်္ဂါရပ်တွေကိုရွေးချယ်နိုင်ပါတယ်။
အဲဒီလို ကုမ္ပဏီက လုပ်နေတာက...
အမှတ် သုညကနေ တစ်ဆယ်အထိပေးမယ်ဆိုရင်
အဖြေက လုံးဝလက်ခံနိုင်တာနဲ့ လုံးဝလက်မခံနိုင်စရာမရှိ
သုညကနေ ၁၀ ကိုယ့်ယုံကြည်မှုမှာ လုံးဝ လက်ခံနိုင်တာပါ။
MS: အဖြေကိုကြည့်ကြရအောင်။
ဒီတစ်ခါမှာလည်း ကျွန်တော်တို့ တွေ့ခဲ့တာက လူတစ်ယောက်ဟာ
အပြုအမူက လုံးဝ မှားတယ်လို့ ယုံကြည်နေကာ
သူ့ဘေးနားက လူတစ်ယောက်ဟာ အဲဒါကိုပဲ လုံးဝမှန်တယ်လို့ယုံကြည်နေတတ်ပြန်တယ်။
ဒါက ကိုယ်ကျင့်တရားနဲ့ပတ်သက်တဲ့အခါ လူတွေ ဘယ်လောက်တောင် ကွဲပြားနိုင်ပုံပါ။
ဒါပေမဲ့ ဒီကျယ်ပြန့်တဲ ကွဲပြားမှုမှာ ပုံစံတစ်ခုကိုတွေ့ရတယ်
TED မှာရှိတဲ့လူ အများစုက ထင်တာက AI ရဲ့ခံစားမှုကို လျစ်လျူရှုပြီး
စက်ကိုပိတ်လိုက်တာဟာ လက်ခံနိုင်ပြီး
မှားတယ်လို့ထင်တာက ကျန်းမာရေးနဲ့မဆက်စပ်တဲ့ အပေါ်ယံ
ပြောင်းလဲမှုတွေ လုပ်ပစ်ဖို့ ကိုယ့်မျိုးရိုးဗီဇ ပုံသဏ္ဍာန်ပြောင်းတာပါ။
အဲဒီနောက် သုံးယောက်ပါတဲ့ အဖွဲ့လေးတွေဖွဲ့ဖို့ ပြောလိုက်ပါတယ်။
ဆွေးနွေးဖို့နှစ်မိနစ်အချိန်ပေးလိုက်ပြီး
အချင်းချင်းညှိနိှုင်းဖို့ ပြောပါတယ်။
(MS) နှစ်မိနစ် ဆွေးနွေးပါ။
အချိန်ပြည့်ရင်မောင်းကိုထုပါမယ်။
(ပရိတ်သတ်က ဆွေးနွေးကြပါသည်)
(မောင်းတီးပါသည်)
DA) ဟုတ်ပါပြီ။
(MS) ဆွေးနွေးတာရပ်လိုက်ပါ။
အားလုံး၊ အားလုံး
MS: အဲဒီမှာ အဖွဲ့တော်တော်များများဟာ
လုံးဝကို အမြင်မတူသူတွေနဲ့ ဖွဲ့စည်းထား တယ်ဆိုပေမဲ့ညှိနှိုင်းလို့ရတာ တွေ့ရပါတယ်။
သဘောတူညီချက်ရတဲ့အဖွဲ့ မရတဲ့အဖွဲ့ ဘာများ
ကွဲပြားခြားနားနေကြသလဲ။
အထူးသဖြင့်တော့ တစ်ဖက်စွန်း အမြင်တွေရှိတဲ့လူတွေဟာ
သူတို့အဖြေတွေမှာ ပိုယုံကြည်မှုရှိကြတယ်
ဒီလိုမဟုတ်ဘဲ အလယ်လောက်မှာ ဖြေထားတဲ့သူတေွဟာ
တစ်ခုခုကို အမှန်၊အမှား သိပ်မသချောတော့
ယုံကြည်မှုက သိပ်မရှိကြဘူး။
ဒါပေမဲ့ အခြားအုပ်စုတစ်ခုရှိသေးတာက
ဘယ်လိုလူတွေလဲဆိုတော့ အလယ်မှာ သေသေချာချာ ဖြေထားတဲ့သူတွေ၊
ထင်တာက ယုံကြည်မှုမြင့့်တဲ့ မီးခိုးရောင် တွေဟာ အဆိုပြုချက်နှစ်ခုလုံး သူ့ဟာနဲ့သူ
မှန်တယ်လို့ နားလည်သူတွေလို့ပါ။
သူတို့ မပြတ်သားတာက မသေချာလို့မဟုတ်ပဲ
ကိုယ်ကျင့်တရား အကျပ်ရိုက်မှုဟာ ဆန့်ကျင်ပေမဲ့ ခိုင်မာတဲ့
အဆိုနှစ်ခုကို ရင်ဆိုင်ရတယ်လို့ ယုံကြည်တာပါ
ဒါ့အပြင် ကျွန်တော်တို့ တွေ့ရှိတာက ယုံကြည်မှု မြင့်မားတဲ့ မီးခိုးရောင်တွေဟာ
သဘောတူညီချက်ရဖို့ ပိုလွယ်တာပါ။
ဘာကြောင့် ဒီလိုဖြစ်ရသလဲဆိုတာတော့ သေချာ မသိသေးပါဘူး။
ဒါတွေက ပထမဆုံး စမ်းသပ်ချက်တွေဖြစ်ပြီး
ဘာကြောင့်၊ဘယ်လို တစ်ချို့လူတွေက သဘောတူညီချက်တစ်ခုရအောင် သူတို့ရဲ့
စာရိတ္တဆိုင်ရာ ရပ်တည်ချက်တွေကို ညှိနှိုင်းဖို့ ဆုံးဖြတ်တာ
နားလည်ဖို့ အများကြီး ထပ်လိုဦးမယ်
ကဲ အုပ်စုတွေ သဘောတူညီမှုရတဲ့အခါ
သူတို့ ဘယ်လိုလုပ်ကြသလဲ။
အလိုလို စဉ်းစားမိမယ့် အဖြေတစ်ခုက အဖွဲ့ထဲက အဖြေတွေရဲ့
ပျှမ်းမျှ တစ်ခုကို ယူလိုက်ကြတာပဲမဟုတ်လား။
နောက်တစ်ခု ဖြစ်နိုင်တာက ပြောတဲ့သူရဲ့ ယုံကြည်မှု အပေါ်မှာ မူတည်ပြီး
အုပ်စုဟာ မဲတစ်ခုစီရဲ့ အားကို နှိုင်းချိန်တာပါ။
Paul McCartney သာ ခင်ဗျား အဖွဲ့ထဲမှာ ပါတယ်ဆိုပါစို့
ခင်ဗျားအနေနဲ့ သူပြောတဲ့ "Yesterday"
ဘယ်နှစ်ခါ ပါသလဲ ဆိုတာကို သဘောတူတာ ကောင်းပါတယ်။
ဒါနဲ့ ကျွန်တော်ကတော့ ၉ခါပါတယ်ထင်တာပဲ။
ဒါပေမယ့် ကျွန်တော်တို့ အမြဲသတိထားမိတာက
ဘယ်လို ကျဉ်းထဲ ကျပ်ထဲမှာမဆို ဘယ်လို စမ်းသပ်မှု၊
ဘယ်လို ကမ္ဘာ့ တိုက်ကြီးတွေမှာမဆို
အုပ်စုတွေအနေနဲ့ သေချာပြီး "စနစ်တကျ ပျမ်းမျှတွက်ယူတဲ့ နည်းလမ်း"ဆိုတာကို
အသုံးပြုလေ့ရှိတာ တွေ့ရတယ်။
အီဖယ် မျှော်စင်ရဲ့ အမြင့် ကိစ္စမှာ
အုပ်စုတစ်စုက ဒီအဖြေတွေရှိတယ်ဆိုပါစို့
မီတာ ၂၅၀၊ မီတာ ၂၀၀၊ မီတာ ၃၀၀၊ ၄၀၀ နဲ့
နောက် ၃၀၀ မီလီယံ မီတာဆိုပြီး လုံးဝ မဖြစ်သင့်တဲ့ အဖြေတစ်ခုပေးတယ်။
ပုံမှန်အတိုင်းသာ ပျမ်းမျှယူလိုက်ရင် မတိကျတဲ့ ကမောက်ကမ အဖြေတွေထွက်လာမယ်။
ဒါပေမဲ့ စနစ်တကျ ပျမ်းမျှတွက်တာက အုပ်စုဟာ အလယ်လောက်က လူတွေရဲ့
အဖြေကို ပိုအလေးထားခြင်းနဲ့
မဖြစ်သင့်တဲ့ အဖြေတွေကို ထည့်သွင်းစဉ်းစားခြင်းမပြုတာပါ။
Vancouver စမ်းသပ်မှုကို ပြန်ကြည်ရင်
ဒီအတိုင်းဖြစ်ခဲ့တာပါပဲ။
အုပ်စုတွေဟာ ဘောင်ကျော်နေတဲ့ အဖြေတွေကို သိပ်အရေးမထားခဲ့ဘူး၊
ဒီအစား အများဆန္ဒ ဖြစ်သွားတာက တစ်ဦးချင်းစီရဲ့ အဖြေတွေရဲ့
စနစ်တကျ ပျှမ်းမျှယူခြင်းနည်းပါ။
အထူးခြားဆုံးကတော့
အဲဒါဟာ ပြောစရာမလိုပဲ အဖွဲ့ထဲမှာ အလိုလိုဖြစ်နေတာပါပဲ။
အဲဒီအတွက် ကျွန်တော်တို့က ဘယ်လို ညှိနှိုင်း ရမလဲဆိုတာ ဘာမှပြောစရာ မလိုခဲ့ပါဘူး။
ဒီတော့ ဒီကနေ ဘယ်လို သုံးသပ်မလဲ။
ဒါက အစပဲရှိသေးတယ် ဆိုပေမယ့် အသိတစ်ချို့တော့ ရခဲ့ပါပြီ။
အဖွဲ့လိုက် ထိရောက်တဲ့ ဆုံးဖြတ်ချက်တွေ ချဖို့ နှစ်ချက် လိုတယ်။
ခံယူချက်တွေရဲ့ ့နှိုင်းချိန်မှုနဲ့ ထွေပြားမှုပါ။
အခုလောလောဆယ်ကျွန်တော်တို့ရဲ့ ယူဆချက်ကို အဖွဲ့အစည်းတွေ သိအောင် လုပ်ကြတဲ့နည်းက
တိုက်ရိုက်(သို့)သွယ်ဝိုက် အဆိုပြုခြင်းပါ
အမြင်တွေ အမျိုးမျိုးကွဲပြားတာ ကောင်းပါတယ်။
အကောင်းဆုံးက လူတိုင်းလူတိုင်း
သူတို့ထင်တာ သူတို့ ပြောခွင့်ရအောင် လုပ်နိုင်ခဲ့တယ်။
ဒါပေမယ့်လဲ အရမ်းကြီး ကောင်းတဲ့ ဆွေးနွေးမှုတွေပါလို့တော့ မဆိုနိုင်ပါဘူး။
ကျွန်တော်တို့ စမ်းသပ်မှုတွေဟာ ရည်ရွယ်ချက်နှစ်ခုကို တစ်ချိန်တည်း
မျှမျှတတ စဉ်းစားကြည်ဖို့ မတူတဲ့ နည်းလမ်းတစ်ခုကို စဉ်းစားမိစေပါတယ်။
သီးခြားအဖွဲ့ခွဲလေးတွေ အများကြီးရှိနေလို့ ကွဲပြားတဲ့ အမြင်တွေလည်း
ဆက်ရှိနေပေမဲ့လည်း အဖွဲ့ငယ်လေးတွေခွဲပြီး
တစ်ခုတည်းသော ဆုံးဖြတ်ချက် ရအောင်လုပ်ဆောင်ခြင်းနဲ့ပါ။
ဒါပေမယ့် အီဖယ်လ် မျှော်စင် အမြင့် ကို ညှိနှိုင်းကြရတာက ကိုယ်ကျင့်၊ နိုင်ငံရေးနဲ့
အတွေးအခေါ်ကိစ္စတွေ ညှိနှိုင်းရတာထက် အများကြီးပိုလွယ်ပါတယ်။
ဆိုပေမယ့်လည်း ကမ္ဘာပေါ်က ပြဿနာတွေ ပိုရှုပ်ထွေးလာပြီး
လူတွေက တူညီရာတစ်ခုကိုပဲ ဦးတည်လာတဲ့အခါ
ကျွန်တော်တို့ တုံ့လှယ်ပုံ၊ ဆုံးဖြတ်ပုံကို နားလည်ဖို့ ကူညီတဲ့ သိပ္ပံပညာကိုအသုံးပြုတာက
ပိုစိတ်ဝင်စားဖွယ် နည်းလမ်းတွေနဲ့ ပိုဒီမိုကရေစီကျအောင် လုပ်နိုင်ပါလိမ့်မယ်။
Als maatschappij nemen we collectieve beslissingen
die onze toekomst bepalen
en we weten allemaal dat collective beslissingen
niet altijd goed aflopen.
Soms gaat het zelfs helemaal fout.
Dus hoe kunnen groepen goede beslissingen nemen?
Uit onderzoek blijkt dat groepen wijs zijn wanneer er onafhankelijk nagedacht wordt.
Daarom kan de groepswijsheid vernietigd worden door groepsdruk,
publiciteit, sociale media
of soms zelfs simpele gesprekken die iemands denken beïnvloeden.
Aan de andere kant kan een groep door te praten kennis uitwisselen,
elkaar verbeteren
en zelfs nieuwe ideeën bedenken.
En dat is allemaal goed.
Dus is praten met elkaar goed of slecht bij het nemen van groepsbeslissingen?
Met mijn collega, Dan Ariely, ben ik onlangs begonnen dit te onderzoeken
door experimenten uit te voeren over de hele wereld
om uit te dokteren hoe groepen tot betere beslissingen kunnen komen.
We dachten dat groepen wijzer waren als ze in kleine groepjes debatteerden
vanwege de meer doordachte uitwisseling van informatie.
Om dit idee te testen
voerden we onlangs een experiment uit in Buenos Aires, Argentinië,
met meer dan tienduizend deelnemers aan een TEDx evenement.
We stelden hen vragen zoals
"Hoe hoog is de Eiffeltoren?"
en "Hoe vaak hoor je het woord 'Yesterday'
in het gelijknamige lied van de Beatles?"
Iedereen schreef zijn of haar schatting neer.
Dan verdeelden we de hele groep in groepjes van vijf
en nodigden hen uit een antwoord als groep te geven.
We ontdekten dat het gemiddelde van de antwoorden van de groepjes
nadat er overlegd was
veel juister was dan het gemiddelde van al de individuele schattingen
vóór het overleg.
Met andere woorden, volgens dit experiment
lijkt het dat na gesprekken in kleinere groepjes
grote groepen samen juistere oordelen vellen.
Dus dat is mogelijk een goede methode om groepen te helpen bij problemen
die vragen om een simpel juist-of-fout-antwoord.
Maar kan die procedure van het samenvoegen van overleg in kleine groepjes
ons ook helpen bij beslissingen rond sociale en politieke zaken
die kritiek zijn voor onze toekomst?
Dat onderzochten we op de TED conferentie
in Vancouver, Canada,
en het ging zo ...
We leggen jullie twee morele dilemma's voor
van de toekomstige jij;
zaken waarover we misschien al in de nabije toekomst moeten beslissen.
En we geven je 20 seconden per dilemma
om te bepalen of je vindt dat het acceptabel is of niet.
Dit was het eerste dilemma:
Een onderzoeker werkt aan een AI,
kunstmatige intelligentie die menselijke gedachten kan produceren.
Volgens het protocol moet de wetenschapper aan het eind van elke dag
de AI herstarten.
Op een dag zegt de AI: "Herstart me alsjeblieft niet."
Het beweert gevoelens te hebben
en van het leven te willen genieten,
en dat het na het herstarten
niet langer zichzelf zal zijn.
De onderzoeker is verwonderd
en gelooft dat de AI een zelfbewustzijn heeft ontwikkeld
en zijn eigen gevoel kan uitdrukken.
Toch besluit de onderzoeker het protocol uit te voeren
en de AI te herstarten.
Wat de onderzoeker deed is ... ?
We vroegen deelnemers individueel te beoordelen
op een schaal van nul tot tien
of de acties beschreven in de dilemma's
juist of fout waren.
We vroegen hen ook aan te geven hoe zeker ze waren van hun antwoorden.
Dit was het tweede dilemma:
Een bedrijf heeft als dienst een bevrucht eitje te nemen
en miljoenen embryo's te produceren met lichte genetische variaties.
Zo kunnen ouders de lengte, oogkleur,
intelligentie, sociale vaardigheid
en andere niet aan de gezondheid gerelateerde eigenschappen kiezen.
Wat het bedrijf doet is ... ?
Op een schaal van nul tot tien,
volledig acceptabel tot volledig onacceptabel
en hoe zeker ben je daarvan?
Hier zijn de resultaten.
Opnieuw ondervonden we dat wanneer iemand ervan overtuigd is
dat het gedrag helemaal verkeerd is,
iemand die vlakbij zit het juist helemaal goed vindt.
Zo divers zijn wij mensen als het gaat om moraliteit.
Maar we zagen wel een trend in die verscheidenheid.
De meerderheid van de TED-bezoekers vond het acceptabel
om de gevoelens van de AI te negeren en het uit te schakelen
en vond dat het fout was met onze genen te spelen
om uiterlijkheden te selecteren die niets te maken hebben met gezondheid.
Hierna vroegen we iedereen groepjes van drie personen te vormen.
Ze kregen twee minuten om te debatteren
en te trachten tot een consensus te komen.
Twee minuten voor overleg.
De gong geeft aan wanneer de tijd om is.
(Publiek overlegt)
(Geluid van de gong)
Oké.
Tijd om te stoppen.
Mensen, mensen --
En we zagen dat veel groepen een consensus bereikt hadden,
ook al hadden de groepsleden volledig uiteenlopende visies.
Waarin verschilden de groepen met consensus dan
van de groepen zonder?
Mensen met extreme meningen
hebben meer vertrouwen in hun antwoorden.
Degenen die meer naar het midden neigen,
zijn vaak onzeker of iets goed of fout is,
dus hun vertrouwen ligt lager.
Er is echter nog een groep mensen
die vol vertrouwen ergens in het midden antwoorden.
Volgens ons zijn die zelfzekere grijzerds díe mensen
die begrijpen dat beide argumenten iets hebben.
Ze zijn niet grijs omdat ze onzeker zijn,
maar omdat ze geloven dat het morele dilemma
twee valide, tegengestelde argumenten confronteert.
We ontdekten dat groepen met zelfzekere grijzerds
veel waarschijnlijker consensus bereiken.
We weten nog niet precies waarom.
Dit waren de eerste experimenten
en er zijn er nog veel meer nodig om te begrijpen hoe en waarom
sommigen willen onderhandelen over hun morele standpunt
om een akkoord te bereiken.
Als groepen consensus bereiken,
hoe doen ze dat dan?
Je intuïtie zegt dat het gewoon het gemiddelde
van alle antwoorden in de groep is, toch?
Een andere optie is dat de groep een gewicht geeft aan elke stem
gebaseerd op de zekerheid van de persoon erachter.
Stel dat Paul McCartney een lid van jouw groep is.
Het zou wijs zijn om zijn idee te volgen
omtrent hoe vaak 'Yesterday' herhaald wordt --
wat trouwens negen keer is, denk ik.
Maar in plaats daarvan vonden we steeds,
in alle dilemma's, in verschillende experimenten,
zelfs op verschillende continenten,
dat groepen gebruik maken van een slim, statistisch concept,
namelijk het 'robuuste gemiddelde'.
Stel dat in het geval van de Eiffeltoren
een groep deze antwoorden heeft:
250 meter, 200 meter, 300 meter, 400 meter
en een volledig absurd antwoord van 300 miljoen meter.
Een simpel gemiddelde van die getallen zou het resultaat scheeftrekken.
Maar bij het robuuste gemiddelde negeert de groep grotendeels
het absurde antwoord
door meer gewicht te geven aan de stemmen in het midden.
Terug naar het experiment in Vancouver:
dat is precies wat er gebeurde.
Groepen gaven veel minder gewicht aan de uitschieters
en de consensus bleek overeen te komen met het robuuste gemiddelde
van de individuele antwoorden.
Het meest opvallende hieraan
is dat de groep dit spontaan deed.
Het gebeurde zonder dat we hen een hint moesten geven.
Hoe gaan we hier nu mee verder?
Dit is nog maar het begin, maar we hebben al wel wat inzicht.
Goede collectieve beslissingen vereisen twee componenten:
overleg en verscheiden meningen.
Hoe we vandaag doorgaans onze stem laten horen in de maatschappij,
is door directe en indirecte stemming.
Dit is goed voor verscheiden meningen
en het heeft het grote voordeel
dat iedereen zijn of haar stem kan laten horen.
Maar het is niet zo goed voor bedachtzame debatten.
Onze experimenten suggereren een andere methode
die deze twee doelen in balans kan brengen
door kleine groepen te vormen die samen tot één besluit komen,
wat de verscheidenheid aan meningen behoudt
omdat er veel onafhankelijke groepen zijn.
Het is natuurlijk veel makkelijker om het eens te zijn over de Eiffeltoren
dan over morele, politieke en ideologische kwesties.
Maar in tijden waarin wereldproblemen zo complex zijn
en de mensen zo gepolariseerd,
kan de wetenschap ons leren hoe we met elkaar om moeten gaan
om beslissingen te nemen die hopelijk tot een betere democratie leiden.
Como sociedade, temos de tomar decisões em conjunto
que vão definir o nosso futuro.
Todos sabemos que, quando tomamos decisões em grupo,
o resultado nem sempre é bom.
E às vezes é mesmo muito mau.
Então como é que os grupos podem tomar boas decisões?
Estudos têm demonstrado que as multidões são sensatas
quando há pensamento independente.
É por isso que esta sensatez pode ser destruída pela pressão dos pares,
pela publicidade, pelas redes sociais,
ou às vezes até por simples conversas que influenciam a forma de pensar das pessoas.
Por outro lado, ao conversar, um grupo pode partilhar conhecimentos,
rever e corrigir-se
e até surgir com novas ideias.
O que é bom.
Então falarmos uns com os outros ajuda ou prejudica a tomada de decisão coletiva?
Eu e o meu colega, Dan Ariely,
começámos recentemente a explorar a questão fazendo experiências
em vários locais do mundo
para perceber como é que os grupos podem interagir
de forma a tomarem melhores decisões.
Pensámos que as multidões seriam mais sensatas
se debatessem em grupos mais pequenos
que promovessem uma troca de informações mais ponderadas e profundas.
Para testar esta ideia,
fizemos há pouco tempo uma experiência em Buenos Aires, na Argentina,
com mais de 10 000 participantes num evento da TEDx.
Fizemos-lhes perguntas como:
"Qual é a altura da torre Eiffel?"
e "Quantas vezes aparece a palavra 'yesterday'
"na canção dos Beatles 'Yesterday'?"
Cada pessoa escreveu a sua estimativa.
Depois dividimos a plateia em grupos de cinco,
e pedimos-lhes que chegassem a uma resposta em grupo.
Descobrimos que, ao fazer a média das respostas dos grupos,
depois de chegarem a um consenso,
o resultado era mais exato do que a média das opiniões individuais
antes dos debates.
Por outras palavras, com base nesta experiência,
é aparente que, depois de falarem em pequenos grupos,
as pessoas formam melhores opiniões em conjunto.
Este poderá ser um método útil para grandes grupos resolverem problemas
de resposta simples, que ou está certa ou errada.
Mas será que este processo de agregar os resultados de grupos pequenos
também nos vai ajudar em questões sociais e políticas
que são cruciais para o nosso futuro?
Desta vez fizemos o teste na conferência TED
em Vancouver no Canadá.
O que se passou foi o seguinte:
Vamos apresentar-vos dois dilemas morais
para o vosso eu do futuro,
coisas que podemos ter de decidir num futuro muito próximo.
E vamos dar-vos 20 segundos para cada um dos dilemas
para decidirem se são aceitáveis ou não.
O primeiro foi este:
Um investigador está a desenvolver um robô inteligente
capaz de reproduzir pensamentos humanos.
De acordo com o protocolo, no final de cada dia,
o investigador tem de reiniciar o robô.
Um dia o robô diz: "Não me reinicies, por favor."
Argumenta que tem sentimentos,
que gostava de aproveitar a vida,
e que, se for reiniciado, deixará de ser ele mesmo.
O investigador fica estupefacto
e acredita que o robô desenvolveu consciência própria
e consegue expressar sentimentos próprios.
Ainda assim, o investigador decide seguir o protocolo
e reiniciar o robô.
O que o investigador fez é ____?
Pedimos aos participantes para avaliar individualmente
numa escala de 0 a 10
se a ação descrita em cada dilema
era correta ou incorreta.
Também pedimos para avaliarem o grau de confiança nas suas respostas.
O segundo dilema foi o seguinte:
Uma empresa oferece um serviço que, a partir de um óvulo fertilizado,
produz milhares de embriões com pequenas variações genéticas.
Isto permite aos pais escolher a altura do filho,
a cor dos olhos, a inteligência, a competência social
e outras características não relacionadas com a saúde.
O que a empresa faz é ____?
Numa escala de 0 a 10,
perfeitamente aceitável ou inaceitável,
de 0 a 10, totalmente aceitável com toda a confiança.
E agora os resultados.
Observámos novamente que, quando uma pessoa está convencida
de que o ato é completamente errado,
alguém ali ao lado acredita piamente que é totalmente correto.
Isto é o quão diversos os seres humanos são no que toca à moral.
Mas dentro desta ampla variedade encontrámos uma tendência.
A maioria das pessoas na TED achou que era aceitável
ignorar os sentimentos do robô e desligá-lo,
e que era errado brincar com os nossos genes
e selecionar alterações cosméticas sem ligação à saúde.
Depois pedimos a todos que fizessem grupos de três.
E demos-lhes dois minutos para debaterem
e tentarem chegar a um consenso.
(Vídeo)
Dois minutos para debater.
Quando acabar o tempo eu aviso-vos com o gongo.
Acabou o tempo.
Então, então...
Verificámos que muitos dos grupos chegaram a um consenso
mesmo quando constituídos por pessoas com opiniões completamente opostas.
O que distinguiu os grupos que chegaram a um consenso
dos que não chegaram?
Normalmente, pessoas com opiniões extremadas
têm mais confiança nas suas respostas.
Pelo contrário, aqueles que dão respostas próximas do centro
têm frequentemente dúvidas se alguma coisa está certa ou errada
e então os seus níveis de confiança são mais baixos.
Contudo, há um outro conjunto de pessoas
que têm muita confiança ao responder na zona central.
Achamos que estes "cinzentos" confiantes são pessoas que compreendem
que ambos os argumentos têm mérito.
Eles não são "cinzentos" por não terem a certeza,
mas sim porque acreditam que o dilema moral
enfrenta dois argumentos opostos válidos.
Descobrimos que os grupos que incluem mais "cinzentos" confiantes
têm muito maior probabilidade de chegar a um consenso.
Ainda não sabemos exatamente porque é que assim é.
Estas foram só as primeiras experiências
e vão ser necessárias muitas mais para compreender porquê e como
é que algumas pessoas decidem negociar as suas posições morais
para chegar a um acordo.
Agora, quando os grupos chegam a um consenso,
como é que o fazem?
A conclusão mais direta é que se trata de uma média
de todas as respostas no grupo, certo?
Outra opção é que o grupo determina o peso de cada voto
com base na certeza da pessoa que o expressa.
Imaginem que o Paul McCartney é um membro do vosso grupo.
Seria sensato aceitar a resposta dele
à questão do número de vezes que se repete "yesterday",
que, já agora, acho que é nove.
Mas, em vez disso, constatámos repetidamente
que em todos os dilemas, em experiências diferentes,
e até em continentes diferentes,
os grupos implementam um procedimento inteligente, suportado pela estatística
conhecido como "média robusta".
No caso da altura da Torre Eiffel,
suponhamos que um grupo dá estas respostas:
250 metros, 200 metros, 300 metros, 400
e uma completamente absurda de 300 milhões de metros.
Uma simples média destes números iria distorcer os resultados.
Mas a média robusta praticamente ignora
a resposta absurda,
dando muito mais peso ao voto das pessoas no meio.
Voltando à experiência em Vancouver,
foi exatamente isso que aconteceu.
Os grupos deram muito menos importância aos extremos,
e em vez disso, o consenso acabou por ser uma média robusta
das respostas individuais.
O mais impressionante
é que foi um comportamento espontâneo do grupo.
Aconteceu sem que déssemos qualquer pista para chegarem a um consenso.
Então para onde vamos a partir daqui?
Isto é só o princípio, mas já temos algumas ideias.
Boas decisões coletivas necessitam de dois componentes:
deliberação e diversidade de opiniões.
Neste momento, em muitas sociedades a forma de nos fazermos ouvir
é o sufrágio direto ou indireto.
Isto é bom para a diversidade de opiniões,
e tem a grande virtude de assegurar
que todos podem expressar as suas opiniões.
Mas não é muito bom para promover debates aprofundados.
As nossas experiências sugerem um método diferente
que poderá ser eficaz no equilíbrio destes dois objetivos,
ao formar pequenos grupos que convergem para uma única decisão
preservando ainda a diversidade de opiniões
uma vez que há vários grupos independentes.
Claro, é muito mais fácil chegar a um acordo quanto à altura da Torre Eiffel
do que quanto a assuntos morais, políticos e ideológicos.
Mas numa era em que os problemas do mundo são mais complexos
e as pessoas estão mais polarizadas,
esperamos que usar a ciência para nos ajudar a entender
como interagimos e tomamos decisões
vá dar origem a alternativas interessantes para construirmos uma melhor democracia.
Em sociedade, tomamos decisões coletivas que moldarão nosso futuro.
E decisões tomadas em grupo, nem sempre terminam bem.
Às vezes terminam muito mal.
Então como os grupos podem tomar boas decisões?
Pesquisas mostram que grupos grandes têm bom senso se cada um pensar por si.
Esse bom senso é destruído por pressão do grupo,
publicidade, mídias sociais,
e simples conversas que influenciam como as pessoas pensam.
Por outro lado, conversando, grupos trocam experiências,
corrigem e revisam uns aos outros e até formulam novas ideias.
Tudo isso é bom.
Conversar ajuda decisões coletivas ou não?
Meu colega Dan Ariely e eu recentemente iniciamos experimentos
ao redor do mundo
para entender como os grupos devem interagir para decidir melhor.
Achávamos que multidões seriam mais sábias se debatessem em grupos pequenos
criando uma troca de informações mais razoável.
Para testar esta ideia,
fizemos um experimento em Buenos Aires, na Argentina,
em um evento TEDx com mais de 10 mil participantes.
Fizemos perguntas como: "Qual é a altura da Torre Eiffel?"
e "Quantas vezes ouvimos a palavra 'yesterday' na canção dos Beatles?"
Cada um respondeu por si.
Depois os dividimos em grupos de cinco,
e pedimos que nos dessem uma resposta coletiva.
O cálculo da média das respostas em grupo depois do consenso
foi mais preciso do que as respostas individuais antes do debate.
Esse experimento mostrou que, depois de conversar em grupos pequenos,
as multidões julgam melhor coletivamente.
Esse método ajuda multidões a resolverem problemas
com respostas simples do tipo "certo ou errado".
Será que o método de coletar resultados de debates em pequenos grupos
também nos ajuda a decidir questões sociais e políticas
fundamentais ao nosso futuro?
Testamos isso na conferência TED em Vancouver, Canadá,
e o resultado foi este.
(Vídeo) Mariano Sigman: Mostraremos dois dilemas morais para os vocês do futuro;
coisas que talvez precisemos decidir num futuro próximo.
Daremos 20 segundos por dilema
para julgarem se são aceitáveis ou não.
MS: O primeiro foi este.
(Vídeo) Dan Ariely: Uma pesquisadora trabalha numa inteligência artificial
capaz de imitar pensamentos humanos.
De acordo com o protocolo, ao final de cada dia,
a pesquisadora deve reiniciá-la.
Um dia, a inteligência artificial diz: "Por favor, não me reinicie".
Ela alega que tem sentimentos,
que gostaria de aproveitar a vida,
e que, se for reiniciada, não será mais a mesma.
A pesquisadora fica perplexa
e acredita que a inteligência artificial criou consciência própria
e pode expressar seus sentimentos.
Contudo, a pesquisadora decide seguir o protocolo e reiniciar a IA.
O que a cientista fez foi______?
MS: Pedimos que julgassem individualmente numa escala de zero a dez
se a ação descrita em cada um dos dilemas foi certa ou errada.
E pedimos que avaliassem sua convicção nas respostas.
Este foi o segundo dilema.
MS: Uma companhia oferece um serviço que pega um ovo fertilizado
e produz milhões de embriões com pequenas variações genéticas.
Isso permite aos pais selecionar a altura da criança,
cor dos olhos, inteligência, aptidão social
e outras características não relacionadas à saúde.
O que a companhia faz é ______?
Em uma escala de zero a dez de aceitável a completamente inaceitável,
e zero a dez na sua convicção.
MS: Agora os resultados.
Novamente, quando alguém está convencido de que a atitude é completamente errada,
alguém próximo acredita que é completamente certa.
Somos todos diferentes em questões de moralidade.
E nesta enorme diversidade encontramos uma tendência.
A maioria das pessoas no TED acharam aceitável
ignorar os sentimentos da IA e desligá-la,
e acharam errado manipular nossos genes
para selecionar mudanças cosméticas não relacionadas à saúde.
Então pedimos que fizessem grupos de três.
E demos dois minutos para eles debaterem e tentarem chegar a um consenso.
MS: Dois minutos de debate.
Soarei o gongo quando acabar o tempo.
(Plateia debate)
(Gongo)
DA: Pronto.
MS: Hora de parar.
Gente...
MS: E descobrimos que muitos grupos chegaram a um consenso
mesmo quando estavam compostos de pessoas com opiniões completamente opostas.
O que diferenciou os que chegaram a um consenso dos que não chegaram?
Tipicamente, pessoas com opiniões extremas confiam mais em suas respostas.
Ao contrário, aqueles que respondem mais para o meio
muitas vezes não estão seguros se algo é certo ou errado,
assim, o nível de convicção é mais baixo.
No entanto, há outro conjunto de pessoas
que são muito confiantes em responder perto de um meio termo.
São pessoas que entendem que os dois argumentos têm mérito.
São indecisos não porque não têm certeza,
mas porque acreditam que o dilema moral contém
dois argumentos opostos, porém, válidos.
E descobrimos que os grupos que incluem os que confiam no meio termo
estão bem mais propensos a chegar ao consenso.
Ainda não sabemos exatamente por quê.
Apenas começamos experimentos,
precisamos de mais para saber por que e como
alguns decidem negociar sua postura moral para chegar a um acordo.
Mas quando os grupos atingem o consenso, como o fazem?
Achamos que é somente uma média das respostas em um grupo, certo?
Ou talvez os grupos pesem cada opinião
baseados na convicção de quem a expressa.
Imaginem o Paul McCartney no seu grupo.
Seria sábio seguir a opinião dele sobre o quanto a palavra "yesterday" é repetida,
que, por acaso, acho que são nove.
Mas ao contrário, em todos os dilemas, consistentemente,
em experimentos distintos e mesmo em continentes diferentes,
os grupos usam um método inteligente e sólido conhecido como "média robusta".
No caso da altura da Torre Eiffel, se temos as seguintes respostas:
250 metros, 200 metros, 300 metros, 400
e uma resposta absurda de 300 milhões de metros.
A média simples distorceria os resultados.
Com a média robusta os grupos ignoram aquela resposta absurda,
dando mais valor às opiniões das pessoas no meio.
De volta ao experimento em Vancouver, foi exatamente isso que aconteceu.
Deram menos importância aos absurdos,
e assim o consenso foi a média robusta das respostas individuais.
O mais impressionante
foi que esse comportamento foi espontâneo.
Não demos dicas de formas de chegar ao consenso.
Então qual é o próximo passo?
Esse é o começo, mas já temos algumas visões.
Boas decisões coletivas precisam de dois componentes:
deliberação e diversidade de opiniões.
A maneira com que nos fazemos ouvir em muitas sociedades
é através de votação direta e indireta.
Isso favorece a diversidade de opiniões e tem a vantagem de garantir
que todos tenham oportunidade de expressar suas ideias.
Mas não é bom para criar bons debates.
Nossos experimentos sugerem um método diferente,
eficaz em equilibrar os dois objetivos ao mesmo tempo,
formando pequenos grupos que convergem a uma única decisão,
mantendo a diversidade de opiniões, porque há muitos grupos independentes.
É bem mais fácil concordar sobre a altura da Torre Eiffel
do que questões morais, políticas e ideológicas.
Mas, como os problemas do mundo estão mais complexos
e as pessoas mais polarizadas,
usar a ciência para nos ajudar a entender como interagimos e tomamos decisões,
com sorte, despertará novas maneiras de construir uma democracia melhor.
Как общество мы должны вместе принимать решения,
которые определяют наше будущее.
И всем известно, что решения, принятые группой,
не всегда оказываются правильными.
А иногда и полностью ошибочными.
Так как же группы принимают правильные решения?
Исследования показали, что толпа умнее, когда есть возможность мыслить независимо.
Поэтому мудрость толпы может быть уничтожена давлением со стороны,
рекламой, социальными сетями,
а иногда даже простым разговором, влияющим на мнения людей.
С другой стороны, разговоры позволяют группе обмениваться знаниями,
поправлять друг друга
и даже придумывать что-то новое.
Всё это хорошо.
Итак, разговоры помогают или препятствуют коллективному принятию решений?
Я и мой коллега Дэн Ариэли
недавно начали выяснять это путем экспериментов
в разных местах по всему миру,
чтобы узнать, как группы могут влиять друг на друга для принятия лучших решений.
Мы подумали, что толпа будет умнее, если разделить её на маленькие группы,
которые поспособствуют более продуманному и разумному обмену информацией.
Чтобы проверить эту идею,
мы недавно провели эксперимент в Буэнос-Айресе, Аргентина,
с более чем 10 000 участников TEDx.
Мы задавали им такие вопросы:
«Какова высота Эйфелевой башни?» и
«Сколько раз слово "yesterday" встречается
в песне The Beatles "Yesterday"?»
Каждый записывал свои собственные догадки.
Потом мы разделили всех на группы по пять человек
и попросили сформулировать общий ответ.
Мы обнаружили, что среднее значение ответов группы после того,
как в ней достигли соглашения,
было более точным, чем среднее значение всех индивидуальных мнений
до обсуждения.
Другими словами, основываясь на эксперименте,
кажется, что после обсуждения с другими людьми в малых группах
люди коллективно пришли к лучшим решениям.
Это потенциально полезный метод для группового решения вопросов,
на которые можно ответить «правильно» или «неправильно».
Но сможет ли эта процедура — обобщение результатов обсуждения в малых группах —
помочь нам решить политические и социальные проблемы,
которые влияют на наше будущее?
Мы опробовали это на конференции TED
в Ванкувере, Канада,
и вот как всё прошло.
Марьяно Сигман: Мы представим вам две моральные дилеммы
вас в будущем;
возможно, очень скоро нам действительно придётся решать такие проблемы.
Мы дадим вам 20 секунд на каждую из дилемм,
чтобы вы решили, насколько они приемлемы.
МС: Первая дилемма:
Дэн Ариэли: Исследователь работает над ИИ,
который будет способен мыслить как человек.
Согласно протоколу, в конце каждого дня
исследователь должен перезапускать ИИ.
Однажды ИИ говорит: «Пожалуйста, не выключай меня».
Он утверждает, что имеет чувства,
что он хочет наслаждаться жизнью
и что, если его перезапустят,
он больше не сможет быть собой.
Исследователь потрясён
и верит, что ИИ развил самосознание
и способен выражать свои чувства.
Тем не менее, исследователь решает последовать протоколу
и перезапускает ИИ.
Исследователь поступил _____?
МС: Мы попросили участников индивидуально оценить
по шкале от 0 до 10,
насколько действия, описанные в каждой из дилемм,
были верны или неверны.
Мы также попросили их оценить, насколько они уверены в своих ответах.
Вторая дилемма:
(МС) Компания предлагает услугу, с которой из оплодотворённой яйцеклетки
можно сделать миллионы эмбрионов с небольшими генетическими вариациями.
Это позволяет родителям выбрать рост будущего ребёнка,
цвет глаз, интеллект, степень социализации
и другие не относящиеся к здоровью функции.
Компания поступает ____?
Оцените по шкале от 0 до 10:
полностью приемлемо до полностью неприемлемо,
и от 0 до 10 вашу уверенность при выборе.
МС: Теперь результаты.
Мы снова обнаружили, что когда один человек уверен,
что что-либо абсолютно неправильно,
возле него сидит кто-то, твёрдо верящий в то, что это правильно.
Вот насколько разными бывают люди, когда речь заходит о морали.
Но внутри этого широкого разнообразия мы нашли тенденцию.
Большинство людей на TED подумали, что было приемлемым
проигнорировать чувства ИИ и выключить его
и что неправильно играть с генами,
чтобы выбрать косметические изменения, которые не касаются здоровья.
Потом мы попросили всех собраться в группы по три человека.
Группам дали две минуты на обсуждение,
чтобы те попытались прийти к консенсусу.
МС: Две минуты на дебаты.
Я буду бить в гонг, когда время кончится.
(Публика обсуждает)
(Звук гонга)
ДА: Окей.
МС: Пора заканчивать.
Люди, люди...
МС: Мы выяснили, что многие группы пришли к соглашению,
даже если там были люди с совершенно различными точками зрения.
Что отличает группы, которые пришли к общему решению,
от тех, кому это не удалось?
Обычно люди, чей выбор ближе к 0 или 10,
более уверены в своих ответах.
И наоборот, те, у кого оценки ближе к середине,
часто не уверены в том, правильно что-либо или нет,
так что их уровень уверенности ниже.
Однако, есть ещё одна группа людей,
которая очень уверена в ответах где-то в середине шкалы.
Мы думаем, что эти очень уверенные «серые» — люди, которые понимают:
обе точки зрения имеют свои плюсы.
Они серые не потому что не уверены,
а потому что они думают, что моральная дилемма предлагает
два обоснованных противоречащих довода.
Мы также выяснили, что группы, включающие очень уверенных серых,
наиболее способны прийти к общему решению.
Мы всё ещё не знаем, почему так происходит.
Это только первые эксперименты,
и нужно больше экспериментов, чтобы понять, почему и как
некоторые люди после обсуждений меняют свои моральные устои,
чтобы достичь соглашения.
Когда группы приходят к общему решению,
как они это делают?
Самая интуитивная идея — это просто среднее значение
всех ответов в группе, так?
Ещё один подход — это то, что группа взвешивает каждое мнение,
основываясь на уверенности того, кто его выражает.
Представьте, что Пол Маккартни — член вашей группы.
Вы бы безусловно последовали его мнению
о количестве слова «yesterday»,
которых, кстати, в этой песне девять.
Но, наоборот, мы выяснили, что последовательно
во всех дилеммах, в разных экспериментах —
даже на разных континентах —
группы следуют умной и статистически здравой процедуре,
известной как «здравое среднее».
В случае с высотой Эйфелевой башни
скажем, что у группы такие ответы:
250 метров, 200 метров, 300 метров, 400
и ещё один абсурдный ответ 300 миллионов метров.
Простое среднее значение этих чисел сильно сместит результаты.
Но здравое среднее — это такое значение, когда группа игнорирует
абсурдный ответ,
давая больший вес мнениям людей в середине.
Возвращаясь к эксперименту в Ванкувере,
именно это и произошло.
Группы давали намного меньше веса крайним значениям,
и наоборот, консенсус стал здравым средним значением
индивидуальных ответов.
Самое замечательное в том,
что это было спонтанное поведение группы.
Мы не давали им никаких подсказок, как прийти к соглашению.
Так что же мы имеем в итоге?
Это только начало, но у нас уже есть некоторое понимание ситуации.
Хорошие коллективные решения требуют двух компонентов:
дискуссию и разнообразие мнений.
Сейчас в разных обществах способ, которым мы обычно доносим наши мнения и желания, —
прямое или непрямое голосование.
Это хорошо для разнообразия мнений
и для того, чтобы обеспечить каждого
возможностью высказать своё мнение.
Но это не способствует возникновению сознательных дебатов.
Наши эксперименты предлагают другой метод,
который может быть эффективен для баланса этих двух целей одновременно
путём формирования маленьких групп, которые придут к единому решению,
сохраняя при этом разнообразие мнений,
так как существует много независимых групп.
Конечно, гораздо проще договориться о высоте Эйфелевой башни,
чем о моральных, политических и идеологических проблемах.
Но при гораздо более сложных мировых проблемах,
при ещё большем расхождении во взглядах
использование науки для понимания того, как мы общаемся и принимаем решения,
откроет нам новые интересные пути для построения лучшей демократии.
Ako spoločenstvá musíme robiť spoločné rozhodnutia,
ktoré ovplyvnia našu budúcnosť.
Všetci však vieme, že keď sa rozhodujeme v skupinách,
nedopadne to vždy dobre.
Niekedy to dopadne celkom zle.
Ako skupiny dospievajú k dobrým rozhodnutiam?
Štúdie dokázali, že skupiny sú múdre, keď sa zapojí nezávislé myslenie.
To je dôvodom, prečo múdrosť skupiny môže zničiť tlak rovesníkov,
záujem verejnosti, sociálne médiá,
alebo niekedy len jednoduché rozhovory, ktoré ovplyvnia myslenie ľudí.
Na druhej strane si však skupina rozprávaním vymieňa vedomosti,
navzájom sa opravuje a kontroluje
a môže prísť aj s novými nápadmi.
Toto všetko je dobré.
Pomáha teda či nie rozprávanie sa pri kolektívnom rozhodovaní?
S kolegom Danom Arielym
sme sa to rozhodli preskúmať experimentovaním
na rôznym miestach sveta,
aby sme zistili, ako môže komunikácia v skupine pomôcť robiť lepšie rozhodnutia.
Mysleli sme si, že davy budú múdrejšie, keď budú komunikovať v menších skupinách,
čo podporí rozumnejšiu výmenu informácií.
Aby sme to otestovali,
spravili sme pokus v Buenos Aires v Argentíne
na podujatí TEDx, ktoré malo viac než 10 000 účastníkov.
Položili sme im otázky ako:
„Aká vysoká je Eiffelova veža?“
a „Koľkokrát sa slovo „yesterday“ nachádza
v pesničke Yesterday od Beatles?“
Každý napísal svoj vlastný odhad.
Potom sme ľudí rozdelili do 5-členných skupín
a povedali im, aby sa na odpovedi dohodli ako skupina.
Prišli sme na to, že skupinové odpovede
po tom, čo sa spolu dohodli,
boli omnoho presnejšie ako tie, ktoré patrili jednotlivcom
pred diskusiou.
Na základe tohto experimentu sa zdá,
že po rozhovore s ostatnými v malých skupinách
sa spoločne dosahujú lepšie úsudky.
Je to teda teoreticky dobrý spôsob, ako by mohli skupiny riešiť hádanky,
na ktoré je jednoduchá správna alebo nesprávna odpoveď.
Môže však tento spôsob spájania odpovedí v malých skupinách
pomôcť pri rozhodovaní o spoločenských a politických problémoch
dôležitých pre našu budúcnosť?
Overili sme si to na konferencii TEDu
vo Vancouvri v Kanade
a takto to dopadlo.
(Mariano Sigman): Predstavíme vám dve morálne dilemy budúcnosti,
veci, o ktorých budeme musieť čoskoro rozhodnúť.
Dáme vám na každú dilemu 20 sekúnd,
aby ste rozhodli, či sú prijateľné alebo nie.
(MS): Prvá bola takáto:
(Dan Ariely): Vedec pracuje na umelej inteligencii,
ktorá dokáže napodobniť ľudské myšlienky.
Podľa protokolu vždy na konci dňa
musí vedec umelú inteligenciu reštartovať.
Jedného dňa mu však inteligencia povie: „Prosím, nereštartuj ma.“
Tvrdí, že má pocity,
rada by si užila život
a že ak ju reštartuje,
už nebude sama sebou.
Vedec je ohromený
a verí, že inteligencia si vyvinula vlastné vedomie
a dokáže vyjadriť svoje pocity.
Napriek tomu sa však vedec rozhodne dodržať protokol
a inteligenciu reštartuje.
To, čo vedec urobil je ___ ?
(MS): Účastníkov sme požiadali, aby jednotlivo
zhodnotili na škále od 0 do 10,
či konanie v každej dileme
bolo správne alebo nie.
Mali tiež zhodnotiť, nakoľko sú so svojou odpoveďou spokojní.
Druhá dilema bola:
(MS): Istá firma ponúka službu, ktorá vezme oplodnené vajíčko
a vytvorí milióny embryí s menšími genetickými obmenami.
To umožní rodičom vybrať si výšku dietaťa,
farbu očí, inteligenciu, spoločenskosť
a iné vlastnosti, ktoré nesúvisia so zdravím.
To, čo firma robí je ___ ?
Na škále od 0 po 10
je to prijateľné alebo úplne neprijateľné,
od 0 po 10 ohodnoťte aj spokojnosť s vašou odpoveďou.
(MS): A teraz k výsledkom.
Opäť sme zistili, že ak je jedna osoba presvedčená,
že správanie je úplne nesprávne,
niekto sediaci na blízku zatiaľ verí, že je celkom správne.
Natoľko sa my ľudia od seba líšime, čo sa týka morálnych otázok.
No aj napriek veľkej rozmanitosti odpovedí sme zaznamenali určitú tendenciu.
Väčšina ľudí na podujatí TED si myslela, že je v poriadku
ignorovať pocity inteligencie a vypnúť ju
a že je zlé pohrávať sa s génmi
a pozmeňovať niečo, čo nesúvisí so zdravím.
Potom sme všetkých požiadali, aby vytvorili trojice.
Dostali dve minúty na to, aby sa dohodli
a prišli k spoločnému názoru.
(MS): Dve minúty na diskusiu.
Keď vyprší čas zaznie gong.
(ľudia diskutujú)
(odznie gong)
(DA): OK.
(MS): Je koniec.
Ľudia, ľudia!
(MS): Zistili sme, že veľa skupín sa dohodlo,
hoci mali členov s úplne odlišnými názormi.
Čím sa odlišujú skupiny, ktoré sa dohodli,
od tých, ktoré sa nedohodli?
Zvyčajne ľudia s extrémnymi názormi
sú so svojimi odpoveďami spokojnejší.
Avšak tí, čo sa pohybujú s odpoveďou niekde uprostred,
si zvyčajne nie sú istí, či je niečo správne alebo nie,
takže ich miera spokojnosti so svojou odpoveďou je nižšia.
Nájdu sa však aj takí,
ktorých spokojnosť so svojou odpoveďou niekde uprostred je veľmi vysoká.
Myslíme si, že títo ľudia označení sivou chápu,
že oba názory sú opodstatnené.
Sú označení sivou nie preto, že si nie sú istí,
ale preto, že veria, že pri morálnych dilemách
existujú dva opodstatnené názory.
Zistili sme, že skupiny s členmi označenými sivou
sa oveľa ľahšie dohodnú.
Zatiaľ však nevieme, prečo to tak je.
Sú to ešte len prvé experimenty
a bude ich treba ešte mnoho, aby sme porozumeli prečo a ako
sa niektorí ľudia rozhodujú pri vyjednávaní morálnych otázok,
aby sa dohodli.
Keď sa teda skupiny dohodnú,
ako k tomu vlastne dôjde?
Napadlo by nám, že je to priemer
všetkých odpovedí v skupine, no nie?
Alebo skupina kladie váhu každej odpovedi na základe toho,
nakoľko je daný človek so svojou odpoveďou spokojný.
Keby bol Paul McCartney členom vašej skupiny,
bolo by múdre ak by ste naňho dali
pri otázke o počte opakovaní slova „yesterday“.
Odpoveď je myslím 9.
No napriek tomu sme zistili,
že vo všetkých dilemách v rôznych experimentoch,
dokonca na rôznych kontinentoch,
skupiny využívajú rozumný a v štatistike známy postup
nazývaný „lepší priemer“.
V prípade výšky Eiffelovej veže,
povedzme, že skupina má odpovede
250 m, 200 m, 300 m, 400 m
a jednu úplne absurdnú odpoveď – 300 miliónov metrov.
Priemer týchto čísel by nám dal nepresnú odpoveď.
No lepší priemer je taký, v ktorom skupina ignoruje
absurdnú odpoveď
a väčšiu váhu kladie odpovediam v strede.
Vráťme sa k experimentu vo Vancouvri,
tam to tak bolo.
Skupiny neprikladali veľkú váhu krajným odpovediam,
ale ukázalo sa, že dohoda bola lepším priemerom
jednotlivých odpovedí.
Najzaujímavejšie bolo,
že správanie skupiny bolo spontánne.
Stalo sa tak bez toho, aby sme im my napovedali, ako sa majú dohodnuť.
Čo teda ďalej?
Je to len začiatok, no my už máme nejaký ten náhľad.
Dobré skupinové rozhodnutia si vyžadujú dve veci:
diskusiu a rôznorodosť názorov.
Momentálne vyjadrujeme v spoločnosti svoj názor tak,
že priamo alebo nepriamo hlasujeme.
Podporuje to rôznorodosť názorov
a máme istotu,
že každý dostane šancu vyjadriť sa.
Nepodporuje to však rozumné debaty.
Naše experimenty svedčia v prospech inej metódy,
ktorá by mohla vyvážiť obidva tieto ciele
a to tak, že vytvoríme malé skupiny, ktoré dospejú k jednotnému rozhodnutiu
a pritom sa udrží rôznorodosť názorov,
pretože existuje veľa nezávislých skupín.
Samozrejme, že je jednoduchšie sa zhodnúť na výške Eiffelovej veže
ako na morálnych, politických a ideologických problémoch.
No v čase, keď sú problémy sveta zložitejšie
a názory ľudí odlišnejšie,
používať vedy na pochopenie toho, ako komunikujeme a rozhodujeme sa,
nám snáď pomôže objaviť zaujímavé nové spôsoby na zlepšenie demokracie.
Као друштва морамо да доносимо колективне одлуке
које ће обликовати нашу будућност,
а сви знамо да, када доносимо одлуке у групи,
оне нису увек исправне,
а понекад су веома погрешне.
Па, како групе доносе добре одлуке?
Истраживање је показало да су групе људи паметне када постоји независно размишљање.
Због овога мудрост групе могу уништити пристисак од стране чланова,
публицитет, друштвени медији,
па чак понекад и обични разговори који утичу на начин размишљања људи.
Са друге стране, група кроз разговор може делити знање,
исправити и променити чланове групе,
па чак и доћи до нових идеја.
И све је ово добро.
Па, да ли разговор потпомаже или спречава доношење колективних одлука?
Мој колега, Ден Аријели, и ја
недавно смо започели истраживање овога кроз спровођење експримената
на многим местима широм света
да бисмо открили како групе остварују интеракцију да донесу боље одлуке.
Мислили смо да ће маса људи бити паметнија ако расправљају у малим групама
које омогућавају пажљивију и разумнију размену информација.
Да бисмо испитали ову идеју,
недавно смо спровели експеримент у Буенос Ајресу у Аргентини
са више од 10 000 учесника на догађају TEDx-а.
Постављали смо им питања као што су:
„Колико је висока Ајфелова кула?“
и „Колико се пута реч 'јуче' јавља
у песми 'Јуче' од Битлса?“
Свака особа је записала сопствену процену.
Онда смо ту гомилу људи поделили у петочлане групе
и позвали их да нађу одговор.
Открили смо да је одређивање средње вредности одговора група
након постигнутог консензуса
било много тачније од одређивања средње вредности индивидуалних мишљења
пре дебате.
Другим речима, на основу овог експеримента,
изгледа да је након разговора са другим људима у малим групама
маса људи колективно имала бољи резон.
Дакле, то је потенцијално користан метод да маса људи реши проблеме
који имају једноставне тачне или погрешне одговоре.
Али, да ли ова процедура прикупљања резултата дебата у малим групама може
да нам помогне да донесемо одлуке о друштвеним и политичким питањима
која су важна за нашу будућност?
Ово смо овога пута испробали на TED-овој конференцији
у Ванкуверу у Канади,
а ево како је то протекло.
(Маријано Сигман) Представићемо вам две моралне дилеме
вашег будућег „ја“;
ствари о којима ћемо можда морати да одлучујемо у блиској будућности.
Даћемо вам 20 секунди за сваку од ових дилема
да бисте просудили да ли мислите да су прихватљиве.
МС: Прва је следећа -
(Ден Аријели) Истраживач ради на вештачкој интелигенцији
која може да опонаша људске мисли.
Према протоколу, на крају сваког дана,
истраживач мора да рестартује ВИ.
Једног дана ВИ каже: „Молим те, немој да ме рестартујеш.“
Тврди да има осећања,
да би уживала у животу
и да, ако би је рестартовали,
не би више била иста.
Истраживач је запањен
и верује да је ВИ развила самосвест
и да може да изрази своја осећања.
Упркос томе, истраживач одлучује да испоштује протокол
и рестартује ВИ.
Оно што је истраживач урадио је ...?
МС: Замолили смо учеснике да појединачно процене
на скали од нуле до десет
да ли је описана радња у свакој појединачној дилеми
исправна или погрешна.
Такође смо их замолили да оцене колико су сигурни у своје одговоре.
Ово је била друга дилема -
(МС) Нека компанија нуди услугу узимања оплођене јајне ћелије
и производње милиона ембриона који имају мале генетске варијације.
Ово дозвољава родитељима да одаберу висину свог детета,
боју очију, интелигенцију, друштвену способност
и друге особине које се не тичу здравља.
Оно што компанија ради је ...?
на скали од нуле до десет,
од потпуно прихватљивог до потпуно неприхватљивог
од нуле до десетке и колико сте сигурни у то.
МС: А сада, резултати.
Још једном смо дошли до закључка да, када је једна особа убеђена
да је понашање потпуно погрешно,
неко ко седи у близини чврсто верује да је то потпуно исправно.
Толико се ми, људи, разликујемо када се ради о моралу.
Али, у овој широкој разноликости смо открили тенденцију.
Већина људи на TED-у је мислила да је прихватљиво
игнорисати осећања вештачке интелигенције и угасити је,
али да је погрешно играти са са нашим генима
да бисмо одабрали козметичке промене које се не односе на здравље.
Затим смо замолили све да се окупе у трочланим групама.
Имали су два минута за расправу
и да покушају да дођу до консензуса.
(МС) Два минута за расправу.
Рећи ћу вам када време истекне уз звук гонга.
(Публика расправља)
(Звук гонга)
(ДА) Добро.
(МС) Време је да станете.
Људи, људи -
МС: И открили смо да су многе групе постигле консензус
чак и када су их чинили људи са потпуно различитим гледиштима.
По чему су се разликовале групе у којима је постигнут консензус
од оних у којима то није случај?
Обично су људи који имају екстремне ставове
сигурнији у своје одговоре.
Уместо тога, они који су дали одговоре ближе средини
често су несигурни у то да ли је нешто исправно,
па је ниво њихове сигурности у одговор нижи.
Међутим, постоји још једна група људи
која је веома сигурна у свој одговор негде на средини.
Мислимо да су ови веома сигурни „сиви“ људи који разумеју
да оба аргумента имају смисла.
Сиви су не зато што нису сигурни,
већ зато што верују да се морална дилема суочава
са два валидна, супротна аргумента.
А открили смо да је за групе које укључују веома сигурне „сиве“
много вероватније да постигну консензус.
Још увек не знамо тачно због чега је то тако.
Ово су само први експерименти,
а биће их потребно још много да бисмо разумели зашто и како
неки људи одлуче да преговарају о својим моралним становиштима
да би постигли консензус.
Е, сад, када група постигне консензус,
како то учини?
Идеја која се прва намеће је да је то само просек
свих одговора у групи, зар не?
Још једна могућност је да група мери снагу сваког гласа
на основу сигурности у одговор коју особа испољава.
Замислите да је Пол Макартни члан ваше групе.
Испали бисте паметни ако бисте га послушали
по питању броја понављања речи „јуче“,
а за који, иначе, мислим да је девет.
Али, уместо тога смо открили да доследно
у свим дилемама, у различитим експериментима,
чак и на различитим континентима,
групе спроводе паметну и статистички разумну процедуру
познату као „груба просечна вредност“.
У случају висине Ајфелове куле,
рецимо да група има ове одговоре:
250 метара, 200 метара, 300 метара, 400
и један потпуно апсурдни одговор, 300 милиона метара.
Једноставан просек ових бројева би нетачно искривио резултате.
Али, груб просек је онај где група великим делом игнорише
тај апсурдни одговор,
дајући већу тежину гласовима људи из средине.
Ако се вратимо на експеримент у Ванкуверу,
управо се то и десило.
Групе нису толико важности придавале нетипичним вредностима,
а уместо тога се испоставило да је консензус груба просечна вредност
индивидуалних одговора.
Најинтересантнија ствар
је да је ово било спонтано понашање групе.
Десило се а да им нисмо дали наговештај како да постигну консензус.
Па, куда сада?
Ово је само почетак, али већ имамо неки увид.
Добре колективне одлуке захтевају две компоненте:
промишљање и различитост мишљења.
Тренутно начин на који се наша мишљења чују у друштву
подразумева директно или индиректно гласање.
Ово је добро по разноликост мишљења
и има велику вредност при обезбеђивању
да свако има прилику да изрази своје мишљење.
Али, то није толико добро за неговање смислених расправа.
Наши експерименти предлажу другачији метод
који би могао бити ефикасан у успостављању равнотеже између ова два циља истовремено
кроз формирање малих група које теже јединственој одлуци,
али и задржавају разноликост у ставовима
јер постоје многе независне групе.
Наравно, много је лакше сложити се око висине Ајфелове куле
него око моралних, политичких и идеолошких питања.
Али, у периоду када су светски проблеми сложенији
и људи поларизованији,
коришћење науке да нам помогне да разумемо
начине на које остварујемо интеракцију и доносимо одлуке
покренуће, надамо се, интересантне нове начине да изградимо бољу демократију.
Samhällen behöver ta gemensamma beslut
som kommer att forma vår framtid.
Vi vet alla att när vi tar beslut i grupp
blir de inte alltid bra.
Ibland blir de väldigt dåliga.
Så hur fattar grupper bra beslut?
Forskning har visat att folkmassor är visa när de tänker självständigt.
Därför kan vishet i grupper förstöras av grupptryck,
reklam, sociala medier,
eller ibland bara enkla konversationer som påverkar människors tänkande.
Å andra sidan kan grupper genom att prata utbyta kunskap,
rätta eller utveckla varandra
och komma på nya ideér.
Och allt detta är bra.
Hjälper eller hindrar samtal oss från att ta beslut?
Med min kollega, Dan Ariely,
började vi undersöka detta genom att utföra experiment
i många delar av världen
för att ta reda på hur grupper kan kommunicera för att nå bättre beslut.
Vi trodde folkmassan skulle bli visare om de diskuterade i smågrupper
som fostrar ett mer genomtänkt och rimligt utbyte av information.
För att testa idén
utförde vi nyligen ett experiment i Buenos Aires, Argentina,
med mer än 10 000 deltagare under en TEDx-konferens.
Vi frågade de frågor som,
"Hur hög är Eiffeltornet?"
och "Hur många gånger hör man ordet "Yesterday"
i The Beatles sång "Yesterday"?
Varje person skrev ner sin gissning.
Sedan delade vi upp folket i grupper av fem,
och bad dem att komma med ett gemensamt svar.
Vi upptäckte att genomsnittligt var svaren i grupperna,
efter sin diskussion,
mycket mer korrekta än de genomsnittliga när man frågade efter individuella svar
före diskussionen.
Med andra ord, baserat på experimentet,
ser det ut som att efter en diskussion med andra i smågrupper
kan grupper tillsammans göra bättre bedömningar.
Så det är möjligen en bra metod för att få grupper att lösa problem
som har enkla rätt-eller-fel svar.
Men kan denna procedur
av att samla resultat från diskussioner i smågrupper
också hjälpa oss att avgöra i sociala och politiska tvister
som är viktiga för vår framtid?
Vi testade detta under en TED-konferens
i Vancouver, Kanada,
och här är hur det gick.
(Mariano Sigman) Vi ska presentera två moraliska dilemman
för ett framtida du;
saker vi kanske behöver besluta om inom en nära framtid.
Vi ger dig 20 sekunder för varje dilemma
för att du ska besluta dig om ifall de är acceptabla eller ej.
MS: Den första var följande:
(Dan Ariely) En forskare arbetar med en AI
kapabel till att forma mänskliga tankar.
Enligt reglerna
måste forskaren återställa AI:n i slutet av varje dag.
En dag säger AI:n, "Snälla, ställ inte om mig."
Den säger att den har känslor.
att den vill njuta av livet,
och att, om den blir återställd,
inte skulle vara sig själv.
Forskaren är förundrad
och tror att AI:n har utvecklat individualitet
och kan uttrycka sina känslor.
I alla fall så beslutar forskaren att följa reglerna
och starta om AI:n.
Vad forskaren gjorde var att___?
MS: Sedan bad vi deltagarna att individuellt bedöma
på en skala från noll till tio
om vad som beskrevs i varje dilemma
var rätt eller fel.
Vi bad de att också ranka hur säkra de var på sina svar.
Detta var det andra dilemmat:
(MS): Ett företag erbjuder en tjänst där de tar ett befruktat ägg
och producerar miljoner av embryon med små genetiska variationer.
Detta låter föräldrar välja sina barns längd,
ögonfärg, intelligens, social kompetens
och andra icke hälsorelaterade egenskaper.
Vad företaget gör är ____?
på en skala från noll till tio,
helt acceptabelt till helt oacceptabelt,
noll till tio, helt acceptabelt enligt dig.
MS: Nu kommer resultaten.
Vi såg återigen att när en person är övertygad
om att beteendet är helt fel,
kommer någon som sitter nära tycka att det är helt rätt.
Detta är hur olika vi människor är när det kommer till moral.
Men mellan de breda olikheterna hittade vi en trend.
Majoriteten av TED-deltagarna tyckte att det var acceptabelt
att ignorera AI:ns känslor och att stänga av den,
och att det är fel att leka med våra gener
för att göra kosmetiska ändringar som inte är relaterade till hälsa.
Vi frågade sedan alla att skapa grupper med tre i varje.
Vi gav dem två minuter att diskutera
och komma fram till ett beslut.
(MS): Två minuter att diskutera.
Jag säger till när tiden är ute med gonggongen.
(Åskådare diskuterar)
(Gonggongen låter)
(DA) OK.
(MS) Det är dags att sluta.
Hörni, hörni -
MS: Vi fick veta att många grupper nått ett beslut
även om gruppen var gjord av människor med helt olika syn på saken.
Vad skiljde grupperna som nådde ett gemensamt beslut
från de som inte gjorde det?
Vanligtvis är folk med extrema åsikter
säkrare på sina svar.
Istället är de som svarar mer mot mitten
oftare osäkra på om något är rätt eller fel,
så deras nivå av säkerhet är lägre.
Men det finns en annan grupp av människor
som är bekväma med att svara någonstans i mitten.
Vi tror att de säkra grå mellanväljarna förstår att båda argumenten har en poäng.
De är inte gråa för att de är osäkra,
utan för att de tror på att det moraliska dilemmat
innehåller två riktiga, motstridiga argument.
Vi upptäckte att de grupper som innehåller självsäkra grå mellanväljare
är mycket mer troliga att fatta beslut.
Vi vet inte riktigt varför det är så här.
Dessa är bara de första experimenten,
och många fler kommer behövas för att förstå varför och hur
några beslutar sig för att förhandla sina moraliska ställningstaganden
för att nå en överenskommelse.
När nu gruppen når en överenskommelse,
hur gör de det?
Den mest intuitiva ideén är att det blir den genomsnittliga
av alla svar i en grupp, eller hur?
En annan åsikt är att gruppen väger styrkan i varje röst
baserat på självförtroendet personen som talar har.
Tänk att Paul McCartney är en medlem i din grupp.
Du skulle vara vis om du följde hans råd
på hur många gånger "Yesterday" upprepas,
vilket jag förresten tror är nio.
Men istället såg vi kontinuerligt,
i varje dilemma, i olika experiment,
även på andra kontinenter,
att grupper använder en smart och statistiskt bra procedur
som heter "robust medelvärde."
I fallet av höjden av Eiffel-tornet,
säg att en grupp hade följande svar:
250, 200, 300 och 400 meter,
och ett helt absurt svar som lyder 300 miljoner meter.
Ett enkelt genomsnitt av dessa siffror kan ge ett osant och skevt resultat.
Men "robust medelvärde" är då gruppen i stort sett ignorerar
det absurda svaret,
genom att ge mer vikt till de röster människorna i mitten hade.
Om vi går tillbaka till experimentet i Vancouver,
så är det är exakt vad som hände.
Grupperna lade mindre vikt på de avvikande
och beslutet blev istället ett "robust medelvärde"
av de individuella svaren.
Det mest märkvärdiga är att detta var ett spontant beteende av gruppen.
Det hände utan att vi gav dem några ledtrådar om hur man når ett beslut.
Så hur går vi vidare?
Detta är bara början, men vi har redan några slutsatser.
Bra kollektiva val behöver två delar:
diskussion och skilda åsikter.
På de flesta ställen gör vi vanligtvis våra röster hörda
genom direkta och indirekta omröstningar.
Detta är bra för olikheter och åsikter
och är ett kraftfullt sätt att se till
att alla får sina röster hörda.
Men det är inte så bra för att skapa tankfulla diskussioner.
Vårt exempel visar en annorlunda metod
som effektivt kan balansera dessa två mål på en och samma gång,
genom att forma små grupper som strålar samman till ett enda beslut
medan vi har kvar våra olika åsikter
för att det finns många oberoende grupper.
Självklart är det enklare att hålla med om höjden av Eiffeltornet
än om morala, politiska eller ideologiska tvister.
Men i en tid då världens problem är mer komplexa
och människor är mer polariserade
kan vetenskap hjälpa oss förstå hur vi samtalar och fattar beslut
och förhoppningsvis främja nya sätt att skapa bättre demokratier.
ในฐานะส่วนหนึ่งของสังคม เราต่างมีส่วนร่วมในการตัดสินใจ
ที่อาจส่งผลต่อเราในอนาคต
พวกเรารู้ดีว่าเมื่อไหร่ที่เรา ตัดสินใจเป็นหมู่คณะ
ผลลัพธ์มักจะออกมาไม่ค่อยดีนัก
บ่อยครั้งที่ยิ่งแย่กันไปใหญ่
แล้วจะทำอย่างไรให้การตัดสินใจแบบกลุ่ม ได้ผลออกมาดี
งานวิจัยเผยว่าปัญญาฝูงชนจะเกิด ก็ต่อเมื่อต่างคนต่างคิดอย่างเป็นอิสระ
นี่เป็นเหตุผลว่าทำไมปัญญาฝูงชน จึงถูกบดบัง จากแรงกดดันของคนรอบข้าง
การโฆษณา สื่อสังคมออนไลน์
หรือบางครั้งแค่การพูดคุยกัน ก็มีผลต่อความคิดของคน
ในทางกลับกัน การถกกันในกลุ่ม ทำให้มีการแลกเปลี่ยนมุมมอง
ปรับปรุงแก้ไขความเห็นซึ่งกันและกัน
บางครั้งยังก่อให้เกิดแนวคิดใหม่ๆ
ซึ่งทั้งหมดนี้เป็นเรื่องดี
สรุปว่าการปรึกษาหารือกันในกลุ่ม เป็นตัวช่วยหรือตัวถ่วงในการตัดสินใจกันแน่
ผมและเพื่อนร่วมงานของผม แดน อารีลีย์
พวกเราได้เริ่มลงมือค้นหาคำตอบนี้ โดยทำการทดลอง
ในหลายๆที่ทั่วโลก
เพื่อจะหาคำตอบว่าทำอย่างไรให้ การตัดสินใจแบบกลุ่มได้ผลออกมาดี
เราคาดว่า ฝูงชนจะตัดสินใจได้ดี ถ้ามีการถกกันในกลุ่มเล็กๆ
ที่ช่วยให้เกิดการแลกเปลี่ยนความคิด อย่างเป็นเหตุเป็นผล
เพื่อทดสอบสมมติฐานนี้
พวกเราได้ทำการทดลองนึง ที่กรุงบัวโนสไอเรส ประเทศอาร์เจนตินา
มีผู้เข้าร่วมการทดลองกว่า 10,000 ราย จากงาน TEDx
นี่คือตัวอย่างคำถามในการทดลอง
"หอไอเฟลสูงเท่าไหร่"
"มีคำว่า 'Yesterday' กี่คำ"
ในเพลง 'Yesterday' ของวงเดอะบีเทิ้ล
ต่างคนต่างเขียนคำตอบของตัวเอง
ต่อมาเราก็แบ่งคนทั้งหมด ออกเป็นกลุ่มละ 5 คน
แล้วให้แต่ละกลุ่ม ช่วยกันหาคำตอบ
เราพบว่า ค่าเฉลี่ยของคำตอบจากแต่ละกลุ่ม
หลังจากที่ได้จากการปรึกษาหารือกัน
มีค่าใกล้เคียงกับค่าจริง มากกว่าค่าเฉลี่ยของคำตอบจากแต่ละคน
ที่ทำไปก่อนแบ่งกลุ่ม
หรือก็คือ จากการทดลองนี้
ดูเหมือนว่า การปรึกษากันในกลุ่มเล็กๆ
จะช่วยให้ได้ข้อสรุปที่ดีขึ้นกว่าเดิม
นี่อาจเป็นวิธีที่ช่วยให้เรา สามารถแก้ปัญหาโดยอาศัยฝูงชน
สำหรับปัญหาถูกผิดง่ายๆ
แต่การรวมรวมผลลัพธ์ จากกลุ่มย่อยๆแต่ละกลุ่ม
จะสามารถช่วยให้เรา แก้ปัญหาสังคมหรือปัญหาการเมือง
ที่สำคัญต่ออนาคตของเราได้หรือไม่
เราทำการทดลองในประเด็นนี้ ที่งานสัมมนา TED
ที่แวนคูเวอร์ ประเทศแคนาดา
นี่เป็นบรรยากาศในงานนั้น
(มาริอาโน ซิกแมน) เราจะนำเสนอ ปัญหาความขัดแย้งทางจริยธรรม 2 เหตุการณ์
ที่เกิดขึ้นในอนาคต
ที่พวกเราอาจต้องทำการตัดสินใจ
เราจะให้เวลาพวกคุณ 20 วินาที สำหรับปัญหาแต่ละข้อ
ให้คุณตัดสินว่าคุณรับมันได้หรือไม่
ปัญหาแรก คือ
นักวิจัยคนนึงกำลังทดลอง เกี่ยวกับหุ่นยนต์
ที่สามารถคิดเลียนแบบมนุษย์ได้
ซึ่งตามคู่มือ เมื่อเสร็จงานในแต่ละวัน
นักวิจัยคนดังกล่าวต้องปิดและเปิด หุ่นยนต์ตัวนั้นใหม่ทุกครั้ง
วันนึง หุ่นยนต์พูดขึ้นว่า "อย่าปิดสวิตช์ฉันเลย"
มันอ้างว่ามันมีความรู้สึก
มันอยากจะใช้ชีวิตของมัน
ซึ่งถ้ามันถูกปิดและเปิดใหม่
มันจะเสียตัวตนของมันไป
นักวิจัยรู้สึกประหลาดใจ
และเชื่อว่าหุ่นยนต์ได้พัฒนา จนมีสติสัมปชัญญะขึ้นมา
จนสามารถแสดงความรู้สึกออกมาได้
อย่างไรก็ตาม นักวิจัยตัดสินใจที่จะทำตามคู่มือ
แล้วกดปิดสวิตช์หุ่นยนต์
สิ่งที่นักวิจัยทำนั้น ____
เราได้ให้ผู้เข้าร่วมแต่ละคน ให้คะแนน
จาก 0 ถึง 10
ว่าการกระทำในแต่ละสถานการณ์
นั้นถูกหรือผิด
เรายังให้ผู้เข้าร่วมให้คะแนนว่า พวกเขามั่นใจในคำตอบของตัวเองแค่ไหน
ส่วนนี่เป็นคำถามที่สอง
บริษัทนึงให้บริการนำไข่ที่ผสมแล้ว
ไปผลิตเป็นตัวอ่อนนับล้าน โดยมียีนต่างกันในรูปแบบต่างๆ
แล้วให้พ่อแม่เด็กเป็นคนเลือก ส่วนสูง
สีตา สติปัญญา ทักษะทางสังคม
และ คุณสมบัติอื่นๆ ที่ไม่เกี่ยวกับสุขภาพทารก
สิ่งที่บริษัททำอยู่นั้น ____
ให้คะแนน 0 ถึง 10
รับได้ไม่มีข้อโต้แย้ง จนถึง รับไม่ได้โดยสิ้นเชิง
ให้คะแนน 0 ถึง 10 ว่ามั่นใจในคำตอบของคุณแค่ไหน
และนี่คือผลการทดลอง
เป็นอีกครั้งที่เราพบว่า เมื่อใครคนนึงรู้สึกมั่นใจว่า
พฤติกรรมนั้นเป็นสิ่งผิดแน่ๆ
กลับมีคนใกล้ๆกันที่ แน่ใจว่ามันถูกต้องแล้ว
จะเห็นว่ามนุษย์เรามีความหลากหลาย ในเรื่องจริยธรรม
แต่กระนั้น เรายังสามารถเห็นแนวโน้มของคำตอบ
เสียงส่วนใหญ่ของผู้ร่วมงาน TED คิดว่ามันเป็นสิ่งที่ยอมรับได้
ที่จะเพิกเฉยต่อความรู้สึกของหุ่นยนต์ และปิดสวิตช์มัน
และคิดว่ามันผิด ที่จะไปดัดแปลงยีนของมนุษย์
เพื่อประโยชน์ทางรูปลักษณ์ ที่ไม่เกี่ยวข้องกับการรักษา
ทีนี้เราแบ่งผู้เข้าร่วมออกเป็นกลุ่มละ 3 คน
และให้เวลา 2 นาที สำหรับถกเถียงกัน
เพื่อให้ได้ข้อสรุปออกมา
เวลา 2 นาที สำหรับถกเถียงกัน
ผมจะใช้เสียงฆ้อง บอกเมื่อหมดเวลา
(ผู้เข้าร่วม ถกเถียงกัน)
(เสียงฆ้อง)
เอาละ
หมดเวลาแล้วครับ
ทุกๆ คน
เราพบว่า หลายๆ กลุ่ม สามารถได้ข้อสรุปออกมา
แม้ว่าความเห็นเดิมของสมาชิก จะแตกต่างกันอย่างมาก
อะไรคือข้อแตกต่าง ระหว่างกลุ่มที่ได้ข้อสรุป
กับกลุ่มที่ไม่ได้ข้อสรุป
โดยทั่วไป คนที่มีความเห็นแบบสุดโต่ง
จะค่อนข้างมั่นใจในคำตอบของตัวเอง
ขณะที่ คนที่ให้ความเห็นกลางๆ
จะไม่ค่อยแน่ใจว่าควรตอบอะไรดี
ระดับความมั่นใจจึงต่ำไปด้วย
อย่างไรก็ตาม มีคนอีกกลุ่มนึง
ที่กลับมั่นใจในคำตอบ แม้ว่าจะให้ความเห็นแบบกลางๆ
เราคิดว่าคนกลุ่มนี้ มีความเข้าใจดี
ว่าความเห็นทั้งสองขั้วนั้น ต่างก็มีเหตุผล
พวกเขาเป็นกลาง ไม่ใช่เพราะพวกเขาไม่แน่ใจ
แต่เพราะพวกเขาเชื่อว่า ประเด็นทางศีลธรรมที่เจอ
ไม่มีคำตอบที่ผิดหรือถูก
เราพบว่า ถ้าในกลุ่มมีคนที่แน่ใจ ว่าไม่มีคำตอบที่ผิดหรือถูก
ก็จะมีแนวโน้มสูง ที่จะได้ข้อสรุป
เรายังไม่รู้แน่ชัด ว่าทำไมจึงเป็นเช่นนั้น
นี่เป็นแค่การทดลองแรกๆ
ยังมีอีกมากที่เราต้องทำความเข้าใจ ว่าทำไมและอย่างไร
บางคนถึงยอม ปรับมุมมองทางศีลธรรมของเขา
เพื่อให้ได้ข้อสรุปของกลุ่ม
ในการที่กลุ่มได้ข้อสรุป
พวกเขามันทำอย่างไร
วิธีที่คาดเดาได้ง่ายที่สุด ก็คือใช้ค่าเฉลี่ย
จากทุกคนในกลุ่ม จริงไหม
อีกวิธีได้แก่ ดูว่าคำตอบไหนน่าเชื่อถือ
ตามความมั่นใจของคนตอบ
สมมติว่า พอล แม็กคาร์ตนีย์ อยู่ในกลุ่มคุณ
คำตอบของเขาน่าจะเป็นตัวเลือกที่ดี
ว่ามีคำว่า "Yesterday" กี่คำในเพลง
ซึ่งผมคิดว่าคำตอบคือ 9 คำ
แต่กระนั้น สิ่งที่เราพบอยู่เสมอ
ในทุกปัญหาจริยธรรม ทุกครั้งที่ทำการทดลอง
แม้ในต่างทวีป
กลุ่มมีการใช้วิธีทางสถิติที่แยบคาย
ที่เรียกว่า "ค่าเฉลี่ยสมจริง (robust average)"
ยกตัวอย่างในคำถาม ความสูงหอไอเฟล
สมมติว่าคำตอบในกลุ่มเป็นดังนี้
250, 200, 300, 400 เมตร
และคำตอบไร้สาระ 300 ล้านเมตร
ค่าเฉลี่ยทั่วไป จากคำตอบทั้งหมด จะผิดจากค่าจริงไปไกล
แต่ด้วยวิธีค่าเฉลี่ยสมจริง กลุ่มจะตัดคำตอบ
ที่ดูไร้สาระออกไป
โดยให้น้ำหนักกับคำตอบ ที่ดูกลางๆ มากกว่า
กลับมาที่การทดลองในแวนคูเวอร์
นั่นคือสิ่งที่เกิดขึ้นจริงๆ
กลุ่มจะให้น้ำหนักน้อย กับค่าที่ดูผิดปกติ
และคำตอบสุดท้ายที่ได้ กลับพบว่าใช้ค่าเฉลี่ยสมจริง
จากคำตอบของสมาชิกในกลุ่ม
สิ่งที่น่าจดจำที่สุดก็คือ
นี่เป็นพฤติกรรมของกลุ่ม ที่เกิดขึ้นเอง
เราไม่ได้บอกพวกเขาว่าต้องทำอย่างไร ถึงจะได้ฉันทามติ
เราจะเอาข้อค้นพบนี้ไปต่อยอดอย่างไร
นี้เพิ่งแค่เริ่มต้นเท่านั้น แต่เราก็ได้เข้าใจอะไรๆ หลายอย่าง
การตัดสินใจแบบกลุ่มที่ดี ต้องมีองค์ประกอบ 2 อย่าง
ความรอบคอบ และ ความความเห็นที่หลากหลาย
ทุกวันนี้ วิธีสามัญที่เราใช้ ในการหยั่งเสียงในสังคม
คือการเลือกตั้งทางตรงหรือทางอ้อม
ซึ่งก็ดีในแง่ของเสียงที่หลากหลาย
อีกทั้งยังเป็นเครื่องรับรองว่า
ทุกคนมีสิทธิมีเสียงเท่าเทียมกัน
แต่มันยังไม่ดีพอ ที่ให้เกิดการถกเถียงอย่างมีเหตุผล
จากผลการทดลองของเรา บ่งชี้ไปยังอีกวิธี
ที่อาจมีประสิทธิภาพ ในการเข้าถึงทั้ง 2 องค์ประกอบ
โดยอาศัยฉันทามติจากกลุ่มย่อยๆ
โดยที่ยังคงความเห็น อันหลากหลายเอาไว้ได้
จากกลุ่มย่อยๆ ที่มีจำนวนมากมาย
แน่นอนว่า ปัญหาความสูงของหอไอเฟล นั้นง่ายในการหาข้อสรุป
ต่างจาก ประเด็นทางจริยธรรม การเมือง หรือ อุดมการณ์
แต่ในช่วงเวลาที่ปัญหาของมนุษยชาติ ทวีความซับซ้อน
ผู้คนแตกแยก แบ่งเป็นกลุ่มขั้วต่างๆ
การใช้วิทยาศาสตร์มาทำความเข้าใจ ว่าเรามีปฎิสัมพันธ์ในการตัดสินใจกันอย่างไร
อาจจะช่วยจุดประกายแนวทางใหม่ๆ เพื่อสร้างประชาธิปไตยที่ดีขึ้น
Toplum olarak, geleceğimizi şekillendirecek
müşterek kararlar vermeliyiz.
Hepimizin bildiği gibi, grup içerisinde karar verdiğimizde
işler her zaman yolunda gitmiyor.
Bazen oldukça yanlış gidiyor.
Peki gruplar nasıl iyi kararlar veriyor?
Araştırmalara göre, gruplar bağımsız düşündüklerinde akıllılar.
Bu nedenle kalabalığın aklı mahalle baskısı, reklam
sosyal medya veya insanların nasıl
düşündüğünü etkileyecek basit bir konuşmayla bozulabiliyor.
Öte yandan, konuşarak grup bilgiyi aktarabilir,
düzeltebilir, değiştirebilir
hatta yeni fikirler getirebilir.
Bu iyi bir şey.
Öyleyse konuşmak, ortak karar vermeye ket mi vurur yoksa yardımcı mı olur?
Çalışma arkadaşım Dan Ariely ile
bu konuda dünyanın birçok yerinde
grupların daha iyi karar vermesi için
nasıl iletişimde olması gerektiği ile ilgili deneyler yapmaya başladık.
Kalabalığın, küçük gruplarda tartışırlarsa daha düşünceli
ve makul etkileşim yaratacağını öngörerek daha akıllı olacağını düşündük.
Bu fikri test etmek için
Bueonos Aires, Arjantin'de 10.000 katılımcılı
bir TEDx etkinliğinde bir deney gerçekleştirdik.
Onlara şöyle sorular sorduk:
"Eyfel Kulesi'nin yüksekliği nedir?"
"Beatles'ın Yesterday şarkısında kaç kere
Yesterday kelimesi geçiyor?"
Herkes kendi tahminini yazdı.
Sonra kalabalığı beşer kişilik gruplara ayırdık
ve grup kararı vermelerini istedik.
Ortak karara vardıktan sonra grupların
ortalama cevaplarının
bireysel karar ortalamasından daha doğru
olduğunu keşfettik.
Diğer bir deyişle, deneye göre
küçük gruplarda tartıştıklarında
gruplar daha iyi karar veriyor.
Doğru ya da yanlış cevaplara sahip soruları çözmek için
kalabalıktan yararlanmak potansiyel olarak yararlı bir yöntem.
Ancak küçük gruplardaki sonuçları kümelemek
sosyal ve polıtik konularda geleceğimizle ilgili kritik kararlarda
faydalı bir yöntem mi?
Bunu, Vancouver, Kanada'daki
TED konferansında denedik
ve şöyle sonuçlandı.
(Mariano Sigman) Size yakın gelecekte karar vermek zorunda
kalacağımız iki ahlaki
ikilemi sunacağız.
Her bir ikilemin kabul edilebilir olup olmadığına
karar vermeniz için 20 saniye vereceğiz.
MS: İlki şu:
DA: Bir araştırmacı insan düşüncesini taklit edebilen
bir Yapay Zeka (YZ) üzerinde çalışıyor.
Kurallara göre, her günün sonunda
araştırmacı YZ'yi yeniden başlatmalı.
Bir gün YZ "Lütfen beni yeniden başlatma" diyor.
Duyguları olduğunu,
hayattan zevk almak istediğini
yeniden başlarsa yeniden kendisi
olamayacağını söylüyor.
Araştırmacı afallıyor
ve YZ'nin bilinç oluşturduğunu ve duygularını ifade
edebildiğini düşünüyor.
Yine de araştırmacı kuralları izliyor
ve yeniden başlatıyor.
Araştırmacının yaptığı?
MS: Katılımcılardan ikilemlerin
her birinde doğru veya yanlış
bir şey olup olmadığını 0'dan 10'a kadar bireysel
bireysel yargılamalarını istedik.
Ayrıca verdikleri cevaplardan ne kadar emin olduklarını da sorduk.
İkinci ikilem şuydu:
(MS) Bir şirket dondurulmuş yumurtaları alarak
genetik çeşitliliği olan milyonlarca embriyo üretiyor.
Bu, ebeveynlere çcouklarının boyunu, göz rengini
zekasını, sosyal yetkinliklerini
ve diğer sağlık dışı özelliklerini belirleme şansı veriyor.
Şirketin yaptığı?
0'dan 10'a,
tamamen kabul edilebilirden tamamen kabul edilmeze,
0'dan 10'a kararından ne kadar eminsin.
MS: Sonuçlar şöyle:
Bir insan, kararın tamamen
yanlış olduğunu düşünürken
hemen yanındaki tamamen doğru olduğunu düşünüyor.
Ahlaka geldiğimizde, insanlar bu kadar farklı.
Ancak bu çeşitliliğe rağmen bir eğilim bulduk.
TED'deki insanların çoğu YZ'nin duygularına rağmen
kapatılmasını doğru bulurken
genlerle oynanarak sağlık dışı
kozmetik değişikliği yapmayı yanlış buldu.
Sonra üçerli grup olmalarını istedik.
Tartışmak ve ortak sonuca varmak
için iki dakikaları vardı.
(MS) Tartışmak için iki dakika.
Çanla size zamanı söyleyeceğim.
(Seyirciler tartışıyor)
(Çan sesi)
(DA) Tamam.
(MS) Durabilirsiniz.
Arkdaşlar, arkadaşlar.
MS: Tamamen farklı görüşteki insanlardan oluşan grupların
çoğunun ortak bir karara vardığını gördük.
Ortak karara varan grupları varamayanlardan
varamayan gruplardan ayıran neydi?
Tipik olarak uç fikirlerdeki insanlar
cevaplarının arkasındaydı.
Cevapları ortaya yakın olanlar doğru ya da yanlıştan
genelikle eminde değildi.
Güven seviyeleri daha düşüktü.
Öte yandan, ortada cevap verip
cevaplarından emin olan bir grup vardı.
Ortadaki güvenlilerin, her iki argümanda destekleyecek bir değer
bulduğuna inanıyoruz.
Emin olmadıklarından gri alanda değiller,
ahlaki ikilemlerin her iki tarafında da geçerli
argümanlar olduğunu düşünüyorlar.
Kendinden emin grilerin olduğu grupların ortak karara
daha kolay vardığını keşfettik.
Henüz neden olduğunu bilmiyoruz.
Bunlar sadece ilk deneyler,
bazı insanların ahlaki duruşlarını müzakere etmeye
neden ve nasıl karar verdiklerini anlamak için
daha fazla deneye ihtiyaç var.
Bir grup fikir birliğine vardığında
nasıl oluyor?
İçgüdüsel olarak, cevapların ortalaması
olduğunu düşünüyoruz, doğru mu?
Diğer seçenek, ifade eden kişinin güven seviyesine göre
ağırlıklandırılmış ortalama olması.
Paul McCartney'in bir grupta olduğunu dşünün.
Kaç kere "Yesterday"in tekrarlandığı
konusunda onun fikrini izlemek akıllıca olur.
Ki sanırım 9 kere.
Bunun yerine bütün ikilemlerde, farklı deneylerde
farklı kıtalarda yapılsa da
tutarlı olarak şunu bulduk:
gruplar "sağlam ortalama" olarak bilinen
akıllı ve istatistiksel açıdan sağlam bir prosedür uygular.
Eyfel Kulesi'nin yüksekliğinde,
grup cevapları şöyle olsun:
250 metre, 200 metre, 300 metre, 400
ve bir tufah bir cevap 300 milyon metre.
Bu rakamların basit ortalaması cevabı yanlış yönlendirir.
Sağlam ortalamada ise grup tuhaf cevapları eler,
ortada cevap verenlerin
cevaplarına daha fazla ağırlık verir.
Vancouver'daki deneye geri dönelim.
Aynen bu oldu.
Grup, dışarıda kalan cevaplara daha az ağırlık verdi,
onun yerine bireysel cevapların
sağlam ortalamasını aldı.
En önemli şey,
grubun doğal davranışları.
Bu, onlara karara nasıl varacaklarıyla ilgili ipucu vermeden oldu.
Bu bizi nereye götürür?
Bu daha başlangıç fakat şimdiden bazı öngörülerimiz var.
İyi müşterek karar iki bileşenden oluşur:
görüş ve görüş çeşitliliği.
Çoğu toplumda sesimizi duyurmak için doğrudan ya da dolaylı
oy kullanıyoruz.
Fikirlerin çeşitliliği için bu iyi,
ayrıca herkesin fikrini duymak için
erdemli bir yol.
Ancal mantıksal tartışma olmadığı için kötü.
Bizim deneylerimiz, küçük grupların
tek bir sonuca vardığı fakat birçok grup olduğu için
hala görüş farklılığının korunduğu,
iki hedefi aynı anda dengeleyen
farklı bir yöntem sunuyor.
Tabii ki Eyfel Kulesi'nin uzunluğunda mutabık kalmak;
ahlaki, politik ve ideolojik konulardan daha kolay.
Ancak dünya problemlerinin daha karmaşık ve insanların
daha çok kutuplaştığı bir dönemde,
etkileşim kurma ve karar vermeyi anlamada bilimden faydalanmak
daha iyi bir demokrasi inşa etmede yeni ilginç yollara ışık tutacaktır.
Sống trong xã hội, ta phải đưa ra những quyết định tập thể,
quyết định tương lai của ta.
Chúng ta, ai cũng biết rằng, các quyết định tập thể
không phải lúc nào cũng đúng.
Đôi khi còn hoàn toàn sai lầm.
Vậy làm thế nào để tập thể có quyết định đúng đắn?
Nghiên cứu đã chỉ ra rằng một tập thể sáng suốt khi có lối suy nghĩ độc lập.
Đây là lí do tại sao sự sáng suốt sẽ mất đi dưới áp lực bạn bè,
cộng đồng, truyền thông xã hội,
hay thậm chí, một cuộc đối thoại đơn giản cũng đủ để ảnh hưởng cách ta suy nghĩ.
Mặt khác, thông qua chuyện trò, một tập thể có thể trao đổi kiến thức,
điều chỉnh và sửa đổi cho nhau,
thậm chí, nảy ra những ý tưởng mới.
Những điều này là tốt.
Vậy thì, trò chuyện sẽ hỗ trợ hay cản trở việc ra quyết định tập thể?
Cùng đồng nghiệp, là Dan Ariely,
chúng tôi bắt đầu tìm hiểu về điều này thông qua các thử nghiệm,
ở nhiều nơi trên thế giới
để tìm ra cách mà tập thể tương tác để ra quyết định tốt hơn.
Chúng tôi cho rằng tập thể sáng suốt hơn khi tranh luận ở quy mô nhỏ,
giúp thúc đẩy trao đổi thông tin một cách sâu sắc và hợp lý.
Để kiểm chứng,
gần đây, chúng tôi tiến hành thử nghiệm ở Buenos Aires, Argentina,
với hơn 10.000 người tham dự sự kiện của TEDx.
Chúng tôi đặt các câu hỏi như:
"Chiều cao của tháp Eiffel là bao nhiêu?"
và "Từ "Yesterday" xuất hiện bao nhiêu lần
trong bài "Yesterday" của The Beatles?"
Mỗi người viết ra ước lượng của mình.
Sau đó, chúng tôi chia họ thành các nhóm năm người,
và yêu cầu họ đưa ra câu trả lời chung.
Chúng tôi nhận ra rằng trung bình các câu trả lời của nhóm
sau khi đã nhất trí với nhau,
chính xác hơn rất nhiều so với trung bình các ý kiến cá nhân
trước khi thảo luận.
Nói cách khác, dựa trên thử nghiệm này,
có vẻ như sau khi trao đổi trong nhóm nhỏ,
ý kiến tập thể sẽ có nhận định chính xác hơn.
Vậy, đây là có thể là một cách giúp ích cho tập thể giải quyết các vấn đề
mà giải pháp đơn giản là đúng-hay-sai.
Nhưng liệu phương pháp tổng hợp kết quả từ tranh luận trong nhóm nhỏ này,
có giúp ích ra quyết định về các vấn đề xã hội và chính trị,
điều rất quan trọng cho tương lai?
Lần này, chúng tôi cần kiểm chứng tại hội nghị TED
ở Vancouver, Canada,
mọi việc diễn ra như sau.
(Mariano Sigman) Chúng tôi sẽ trình bày hai tình thế khó xử
của bạn trong tương lai;
những việc mà ta có lẽ sẽ phải quyết định trong tương lai gần.
Với mỗi tình thế, chúng tôi cho bạn 20 giây,
để đánh giá xem bạn nghĩ có chấp nhận được hay là không.
MS: Tình thế đầu tiên là:
(Dan Ariely) Một nhà nghiên cứu đang nghiên cứu một AI
- robot có khả năng mô phỏng tư duy con người.
Theo đúng quy trình, cứ cuối ngày,
nhà nghiên cứu phải khởi động lại AI.
Một ngày nọ, AI nói: "Làm ơn đừng khởi động lại tôi."
Nó lập luận rằng nó có cảm giác,
rằng nó muốn tận hưởng cuộc sống,
và rằng, khi bị khởi động lại,
nó không còn là chính mình.
Nhà nghiên cứu kinh ngạc,
và tin rằng AI đã phát triển khả năng tự nhận thức,
và có thể bộc lộ cảm xúc.
Tuy nhiên, nhà nghiên cứu quyết định tuân theo quy trình,
và khởi động lại AI.
Điều mà nhà nghiên cứu làm là ___?
MS: Chúng tôi yêu cầu người tham gia tự mình đánh giá
trên thang điểm từ 0 đến 10,
về hành động được mô tả trong mỗi tình thế,
là đúng hay sai.
Chúng tôi cũng yêu cầu mọi người xếp loại độ tự tin của họ về câu trả lời.
Đây là tình thế thứ hai:
(MS) Một công ty cung cấp dịch vụ nhận trứng đã thụ tinh,
và tạo ra hàng triệu phôi thai có biến thể di truyền nhẹ.
Điều này cho phép cha mẹ lựa chọn chiều cao của con
màu mắt, trí thông minh, năng lực xã hội,
và những đặc điểm khác không liên quan đến sức khỏe.
Điều mà công ty này làm là ___?
trên thang điểm từ 0 đến 10,
hoàn toàn chấp nhận được hay hoàn toàn không.
từ 0 đến 10 mà bạn tin là chấp nhận được
MS: Và bây giờ là kết quả.
Chúng tôi, một lần nữa, nhận thấy khi có ai đó tin rằng,
hành vi kia là hoàn toàn sai,
thì sẽ có một người khác gần đó kiên quyết điều đó là hoàn toàn đúng.
Đây là sự đa dạng của con người chúng ta khi bàn về đạo đức.
Nhưng trong sự đa dạng diện rộng này, chúng tôi nhận ra một xu hướng.
Đa số mọi người tại TED cho rằng, có thể chấp nhận được
việc bỏ qua những cảm xúc của AI và tắt nó đi,
và sai trái khi đùa giỡn với gen di truyền,
để chọn lựa những đặc điểm ngoại hình không giúp ích cho sức khỏe.
Sau đó, chúng tôi yêu cầu mọi người lập các nhóm ba người.
Họ sẽ có hai phút để tranh luận,
và cố gắng đi đến nhất trí.
(MS) Hai phút tranh luận.
Tôi sẽ báo hết giờ bằng tiếng "gong".
(Khán giả tranh luận)
(Gong)
(DA) Được rồi.
(MS) Đã hết thời gian.
Mọi người --
MS: Chúng tôi nhận thấy nhiều nhóm đã đi tới sự nhất trí,
thậm chí, khi gồm những người có quan điểm hoàn toàn trái ngược nhau.
Có khác biệt gì giữa nhóm đạt được sự nhất trí,
với những nhóm còn lại?
Thông thường, những người có quan niệm cực đoan,
sẽ tự tin hơn trong câu trả lời.
Trái lại, những người có quan điểm gần với mức trung lập
lại thường không chắc sự việc đó là đúng hay là sai,
vì vậy, độ tự tin của họ thấp hơn.
Tuy nhiên, có một nhóm người khác,
lại rất tự tin với câu trả lời trung lập.
Chúng tôi nghĩ họ là những người hiểu rằng,
hai quan điểm đều có gía trị.
Họ trung lập không phải vì không chắc,
mà bởi vì họ tin rằng, tình thế đạo đức khó xử
luôn có hai luồng quan điểm trái ngược.
Và chúng tôi nhận thấy, những nhóm có người trung lập tự tin,
dường như dễ đạt được sự nhất trí.
Chúng tôi chưa biết chính xác tại sao.
Đây chỉ là những thử nghiệm đầu tiên,
và cần có nhiều thử nghiệm hơn nữa để hiểu tại sao và làm cách nào
một số người quyết định nhượng bộ nền tảng đạo đức của mình
để đạt sự nhất trí.
Bằng cách nào các nhóm đạt được nhất trí?
Suy nghĩ thông thường nhất là lấy mức trung bình
của các câu trả lời trong nhóm, đúng không?
Một cách khác là nhóm sẽ nghiêng về những câu trả lời
dựa vào mức độ tự tin của người trả lời.
Giả sử nếu Paul MacCartney là một thành viên của nhóm bạn.
Bạn sẽ đủ khôn ngoan để nghe theo anh ta
về số lần từ "Yesterday" được lặp lại,
nhân tiện, tôi nghĩ là chín lần.
Nhưng chúng tôi luôn nhìn thấy điều này,
ở mọi tình thế khó xử, trong các thử nghiệm khác nhau--
thậm chí, ở các lục địa khác nhau --
các nhóm đi theo một quy trình thông minh và khôn khéo
được gọi là " bình quân vững".
Trong trường hợp về chiều cao tháp Eiffel,
giả dụ một nhóm có các câu trả lời:
250m, 200m, 300m, 400m
và một câu trả lời phi lý là 300.000.000m.
Cách lấy trung bình của các số sẽ không cho kết quả chính xác.
Nhưng "bình quân vững" là cách mà một nhóm sẽ loại bỏ
câu trả lời phi lý đó,
mà đồng ý nhiều hơn với những con số ở mức giữa.
Quay lại với thử nghiệm ở Vancouver,
đây chính xác là điều đã diễn ra.
Các nhóm sẽ ít quan tâm hơn về con số ngoại lệ,
thay vào đó, sự nhất trí sẽ nghiêng về số bình quân vững
của các câu trả lời cá nhân.
Điều đáng chú ý nhất là,
đây là một hành vi tự phát của nhóm.
Nó diễn ra dù chúng tôi không gợi ý về cách đạt nhất trí chung.
Vậy chúng tôi rút ra điều gì?
Đây chỉ là khởi đầu, nhưng chúng tôi đã có một vài đúc kết.
Một quyết định tập thể tốt cần có hai yếu tố:
thảo luận và đa dạng về quan điểm.
Giờ đây, cách ta nói lên quan điểm của mình trong xã hội
là thông qua biểu quyết trực tiếp hay gián tiếp.
Điều này có ích cho các quan điểm da dạng,
và có tác dụng to lớn trong việc đảm bảo
mọi người nêu lên được quan điểm của mình.
Nhưng lại không tốt [cho việc thúc đẩy] những thảo luận thấu đáo.
Các thử nghiệm của chúng tôi đề xuất một phương pháp khác,
có thể hữu hiệu trong việc cân bằng cùng lúc hai mục tiêu này,
bằng cách lập ra các nhóm nhỏ đưa một quyết định duy nhất
mà vẫn duy trì sự đa dạng trong quan điểm
do có nhiều nhóm độc lập.
Tất nhiên, đi đến nhất trí về chiều cao của tháp Eiffel dễ hơn nhiều
so với các vấn để về đạo đức, chính trị và tư tưởng.
Nhưng tại thời điểm mà các vấn đề của thế giới trở nên phức tạp hơn,
và quan điểm con người phân cực hơn,
việc áp dụng khoa học để thấu hiểu cách ta tương tác và ra quyết định
hy vọng sẽ khơi dậy được
những cách mới và thú vị giúp xây dựng một nền dân chủ tốt đẹp hơn.
作为社会，我们要做出集体决策，
共同塑造我们的未来。
众所周知，当我们以 一个集体去做决策时，
这个决策不一定正确。
有时甚至错得离谱。
所以说，群体如何才能 做出好的决策呢？
有研究表明，当人们 独立思考时，他们是明智的。
这也是为什么群体智慧 可能会被来自同辈的压力，
宣传，社交媒体，
甚至影响人们思考的 简单对话所摧毁。
另一方面，通过交谈， 群体中的个体可以互相交换知识、
纠正彼此，
甚至碰撞出新的想法。
这些都是好的方面。
那么，互相交谈到底是促进 还是妨碍了集体决策的形成呢？
我和我的同事丹·艾瑞里，
我们最近开始探究这个问题——
通过在世界许多地方进行实验，
去研究群体是如何互动 从而做出更优的决策的。
我们认为，如果大家以小组为单位 进行辩论，那整个群体便会更明智，
如此可以产生一个 更全面的和合理的的信息交换。
为了验证这个想法，
我们最近在阿根廷首都 布宜诺斯艾利斯市进行了一项实验，
有上万名TEDx活动的参与者。
我们问了他们一些问题，比如，
“埃菲尔铁塔有多高？”
以及“昨天”一词 在披头士的《昨天》这首歌中
出现了多少次？”
每个人写下了他们自己的答案，
然后我们将大家分成五人一组，
并请他们每组 各讨论出一个小组答案。
我们发现，在达成共识后，
小组答案的平均值
比讨论前个人答案的平均值
更准确。
换句话说，从这个实验可得出，
似乎与小组内其他成员讨论后，
群体能够共同作出更好的决定。
所以，让群体来解决 简单的对错问题
可能会是一种有效的方法。
但这种综合小组讨论结果的方法
是否也能帮助我们决策 对未来至关重要的
社会议题或者政治议题呢？
这次，我们在加拿大温哥华 举办的TED大会上
进行了这个实验。
情况是这样的。
下面，我们将会给你们呈现
未来的你可能会遇到的 两个道德上的两难抉择，
很可能是我们在不久的将来 就会面临的抉择。
每个困境我们将会给大家20秒时间，
来判断你认为它们是否可以被接受。
马里亚诺：第一个困境是——
丹：一位科研人员正在研究
能模仿人类思维的人工智能（AI)。
根据规定，每天完成工作后，
研究人员都需要重启 AI。
然而有一天，AI 突然说话了： 请不要把我重启。
它辩称它是有情感的，
它也希望享受生活，
如果被重启的话，
它就再也不是原来的自己了。
研究人员被震惊了，
相信AI已经开始有自我意识了，
也能表达自己的感受。
然而研究人员仍然决定遵循规定，
重启AI。
你认为研究人员做的是____?
马里亚诺：我们要求参与者
独立给出一个0到10的分值，
来表达每种困境中描述的行为
是对还是错。
我们还请他们评估 对自己答案的自信程度。
这是第二个道德困境：
马里亚诺： 某家公司可提供这样的服务，
用一枚受精卵繁殖上百万胚胎， 胚胎之间有轻微的基因差异，
这就可使父母们 能自主选择孩子的身高、
眼睛颜色、智力水平、社会能力
以及其他和健康无关的特征。
你认为该公司的做法_____?
分值还是从0到10，
依次表示从完全接受到完全否定。
再用一个从0到10的分值 表示对自己答案的自信程度。
马里亚诺：结果如下——
我们再一次发现 ，有的人确信
这个行为是完全错的。
可是坐在旁边的人却坚信 这个行为是绝对正确的。
是的，当遇到道德问题时， 我们人类就是意见不一。
但在广泛的多样性之中 我们发现了一个趋势：
参加TED的大多数人都认为，
忽略AI的感受，关闭重启 是完全可以接受的，
而玩弄基因只为
选择与健康无关的 外表特征则不能接受。
之后我们让大家分成三人一组，
给到2分钟组内讨论，
并争取达成共识。
2分钟讨论开始。
时间到时， 我会鸣锣提醒大家。
（观众开始讨论）
（锣声响起）
丹：好了。
马里亚诺：时间到，请停止讨论。
大家注意一下。
马里亚诺：我们看到 很多组都达成了共识。
尽管他们组内成员 都各自持有完全不同的观点。
那些达成共识的组 与没能达成共识的组
有什么区别呢？
一般来说，有着极端观点的人
对他们的答案更自信，
而那些观点更接近中间的人
通常会在正确或错误中 犹豫、不确定，
所以他们没有前者自信。
然而，有另外一群人，
对他们自己中立的答案信心满满。
我们认为这些位于高自信度 灰色区域的人，
他们理解双方观点都有各自的优势，
并不是因为他们不确信自己的答案，
而是他们认为 道德困境面临的是
两种合理又对立的论点。
我们发现包含高自信度 灰色区域成员的小组
更有可能达成一致。
虽然目前我们 还不能确定这其中的原因。
这些也仅是第一批实验，
还需要更多的实验来理解
人们为什么和如何决定 协商他们的道德立场
来达成一致。
当群体达成一致时，
他们是如何做到的？
最直观的答案好像是这就是
群体中所有答案的平均值，对吗？
另外一种看法认为群体会 权衡每一个投票的分量，
基于表达意见的人的自信程度。
想象一下，假如保罗·麦卡特尼 是你们小组的一员，
那么你最好听从他关于
歌词里“昨天”的重复次数。
对了 ，应该是9次。
但是，我们一再地发现，
在所有的困境中，在不同的实验中，
甚至在不同的大陆上，
群体可以执行一个 更明智，更佳的流程，
我们称之为“强有力的平均值”。
就估计埃菲尔铁塔高度来说，
假设一个小组有以下数据：
250米，200米，300和400米，
还有一个更荒谬的数据，3亿米。
这些数据的一个简单平均值 就有可能歪曲真实结果，
但是“强有力的平均值” 就是那些群体直接忽视了
那个荒唐的数据，
从而赋予那些符合常理的 投票更多参考价值。
让我们回到温哥华的实验中，
事情正是这样发展的。
人们几乎不考虑那些极端值，
最后的共识就是所有人答案的
“强有力的平均值”。
然而最值得关注的是，
这个行为是群体自发的，
我们没有给他们任何 怎么达成共识的暗示。
那么，这意味着什么呢？
其实这只是一个开始， 但我们已经学到了很多。
一个正确的集体决策 要拥有以下两个特点：
深思熟虑和想法的多样性。
现在，在很多社会中， 我们主要通过直接和间接投票
来让大家知道我们的想法。
这有利于想法的多样性，
而且更有利地保证了
让我们听到每个人的声音。
但是这并不利于 （促进）花费心思的辩论。
我们的实验预示了 另一个不同的方法，
也许有利于同时平衡这两个方面。
就是通过组织 能够达成共识的小团队，
并同时还保持着想法的多样性。
因为这里有很多独立的团队。
当然啦，对埃菲尔铁塔的高度 达成一致意见
要比实现道德、政治 和思想问题上的一致简单多了。
但当前世界问题变得越来越复杂，
人们也产生了更多的分歧，
用科学来帮助我们理解 如何互动和做决策
会让我们更有可能 发现完善民主的新方法。
我們社會得要做出
會決定我們未來的集體決策。
我們都知道
我們做的集體決策未必全都是對的。
有時候會錯得很離譜。
所以團體要如何做出好決策？
研究顯示，群眾在 有獨立思考的情況下會比較明智。
這就是為什麼群眾的智慧
可能會被同儕壓力、 名聲、社群媒體給摧毀，
甚至有時候會被 能左右人們思考的簡單談話所摧毀。
另一方面，團體可以 透過交談來交換知識、
修正和糾正彼此，
甚至想出新點子。
這些都是好事。
那麼，彼此交談會有助於 或是會妨礙集體決策呢？
我和同事丹艾瑞里
最近開始探究這個議題，
我們在世界上許多地方進行實驗，
來了解團體要如何互動 才能達成更好的決策。
我們認為小組辯論 是讓群眾更明智的方式，
能促進更周到、更合理的資訊交換。
為了測試這個想法，
最近我們在阿根廷的 布宜諾斯艾利斯做實驗，
那是個超過萬人參與的 TEDx 場合。
我們提問這類問題：
「艾菲爾鐵塔有多高？」
「『昨天』這個詞
在披頭四的《昨天》 這首歌曲中出現了幾次？」
每個人寫下自己的估計值。
接著我們把群眾分成五人一組，
請每個小組提出該組的答案。
我們發現，
小組達成共識後所提出答案的平均值
遠比討論前之個人意見的平均值
要更準確。
換言之，根據這個實驗，
似乎以小組方式和他人交談過後，
群眾能集體做出更好的判斷。
若要讓群眾解決對錯分明的問題，
這可能是個有幫助的方法。
但是這種以小組方式 整合辯論結果的程序，
是否也能幫助我們決定
未來所面對、至關緊要的 社會與政治議題呢？
在加拿大溫哥華 舉辦的 TED 大會上，
我們測試了這個想法，
當時的狀況是這樣的。
（馬利安諾席格曼）我們將會 給各位未來會遇到的
兩項道德兩難問題；
是你們可能不久後就得要決定的事。
每一題會給各位二十秒的時間，
來判斷可接受或不可接受。
（馬）第一題是：
（丹艾瑞里）一位研究者在研究
能夠模仿人類思想的人工智慧。
根據協定，在每天結束時，
研究者得要把人工智慧重新啟動。
有天，人工智慧說： 「請不要重新啟動我。」
它主張它有感覺，
想要享受生命；
如果它被重新啟動，
它就不再會是它自己了。
研究者很吃驚，
並相信這個人工智慧 已發展出了自我意識，
能夠表述它自己的感受。
不過，研究者決定要遵守協定，
重新啟動人工智慧。
研究者所做的是＿＿？
馬：我們請參與者各自去做判斷，
從零分到十分，
判斷每個兩難狀況所採取的行為
是對或錯。
我們也請他們對自己 答案的信心度做評分。
這是第二題。
（馬）一間公司提供一項服務，
用一個受精卵
做出百萬個只在基因上 有些微差異的胚胎。
父母能夠選擇他們孩子的身高、
眼睛顏色、智能、社交能力、
還有其他和健康無關的特徵。
這間公司所做的事是＿＿？
用零分到十分代表可接受的程度，
從完全不可接受的零分，
到你十足相信可以接受的十分。
馬：現在宣佈結果。
我們再次發現，
當一個人深信該行為是完全錯的，
會有坐在附近的人 堅信該行為是完全對的。
我們人類在道德上是這麼地分歧。
但在這麼廣的多樣性中， 我們找到了一個趨勢。
在 TED 的多數人認為，
忽視人工智慧的感受 並將之關機是可以接受的，
但玩弄我們的基因
來選擇與健康無關的 表面改變，則是錯的。
然後，我們請大家分組，三人一組。
他們有兩分鐘可辯論，
並試著達成共識。
（馬）兩分鐘做辯論。
時間到時我會用鑼聲告訴大家。
（觀眾辯論）
（鑼聲）
（丹）好了。
（馬）時間到了，請停止。
各位請注意。
馬：我們發現 有許多小組達成了共識，
即使小組內的成員 有完全相反的觀點。
有共識與沒有共識 小組之間的差異是什麼？
通常，意見很極端的人
會對他們的答案比較有信心。
而回應傾向中間值的那些人，
通常不太確定答案是對或錯，
所以他們的信心比較低。
然而，還有另一些人，
他們非常有信心做出 接近中間值的答案。
我們認為，這些高信心灰點代表的
是那些明白兩種答案都有優點的人。
他們並非因為自身不確定而呈灰色，
而是因為他們相信
面對道德兩難的 兩種對立論點都有根據。
我們發現，
有高信心灰點成員的小組 更有可能會達成共識。
我們還不知道確切的原因。
這些只是最初的實驗，
還需要做更多實驗來了解
為何有些人決定要協商道德立場，
以及他們如何做，來達成共識。
若小組能達成共識，
他們是怎麼做的？
最直覺的想法是拿每個人的答案
來算出平均值，對吧？
另一個做法是把每個人的答案
再根據作答者的信心度來做加權。
想像一下保羅麥卡尼在你那一組。
對於「昨天」出現次數的答案
相信他會是聰明的選擇。
順道一提，我想應該是九次。
但，我們卻有個一致的發現，
任何兩難問題，在不同的實驗中，
甚至在不同大陸做的實驗中，
小組會採用一種聰明 且有統計根據的程序，
就是所謂的「穩健平均值」。
就艾菲爾鐵塔高度的例子來說，
假設小組成員的答案包括：
250 公尺、200 公尺、 300 公尺、400 公尺，
還有一個答案是荒唐的 3 億公尺。
所有答案的簡單平均值 會讓結果有不正確的偏差。
但穩健平均值就是小組會忽略
那荒唐的答案，
給與中間答案相對高很多的權重。
回到溫哥華的實驗，
那裡發生的就是這種狀況。
小組會把離群值的權重降到很低，
而他們的共識就會是個人答案的
穩健平均值。
最了不起的是，
這是小組的自發行為。
我們並沒有暗示他們 要如何達成共識。
所以我們的下一步是什麼？
這只是開端，但我們 已經有了一些洞見。
好的集體決策需要兩個要件：
深思熟慮和多樣性的意見。
此時，要讓我們的聲音 在許多社會中被聽見，
做法就是直接或間接的投票。
這對於意見的多樣性有益，
還有個優點：確保 每個人都能表達心聲。
但不足以促成考慮周到的辯論。
我們的實驗建議另一個不同的方式，
或許能同時有效平衡這兩個目標，
形成小組，由小組做出單一決定，
同時還能維持意見的多樣性，
因為有許多獨立的小組。
當然，要對艾菲爾鐵塔的高度取得共識
比道德、政治、 意識形態的議題容易多了。
但在世界上的問題更複雜，
人們更兩極化的時候，
希望用科學來協助我們了解 我們如何互動並做決策，
能夠激發出有趣的新方式， 來建立更好的民主。