So whenever I visit a school and talk to students,
I always ask them the same thing:
Why do you Google?
Why is Google the search engine of choice for you?
Strangely enough, I always get the same three answers.
One, "Because it works,"
which is a great answer; that's why I Google, too.
Two, somebody will say,
"I really don't know of any alternatives."
It's not an equally great answer and my reply to that is usually,
"Try to Google the word 'search engine,'
you may find a couple of interesting alternatives."
And last but not least, thirdly,
inevitably, one student will raise her or his hand and say,
"With Google, I'm certain to always get the best, unbiased search result."
Certain to always get the best, unbiased search result.
Now, as a man of the humanities,
albeit a digital humanities man,
that just makes my skin curl,
even if I, too, realize that that trust, that idea of the unbiased search result
is a cornerstone in our collective love for and appreciation of Google.
I will show you why that, philosophically, is almost an impossibility.
But let me first elaborate, just a little bit, on a basic principle
behind each search query that we sometimes seem to forget.
So whenever you set out to Google something,
start by asking yourself this: "Am I looking for an isolated fact?"
What is the capital of France?
What are the building blocks of a water molecule?
Great -- Google away.
There's not a group of scientists who are this close to proving
that it's actually London and H30.
You don't see a big conspiracy among those things.
We agree, on a global scale,
what the answers are to these isolated facts.
But if you complicate your question just a little bit and ask something like,
"Why is there an Israeli-Palestine conflict?"
You're not exactly looking for a singular fact anymore,
you're looking for knowledge,
which is something way more complicated and delicate.
And to get to knowledge,
you have to bring 10 or 20 or 100 facts to the table
and acknowledge them and say, "Yes, these are all true."
But because of who I am,
young or old, black or white, gay or straight,
I will value them differently.
And I will say, "Yes, this is true,
but this is more important to me than that."
And this is where it becomes interesting,
because this is where we become human.
This is when we start to argue, to form society.
And to really get somewhere, we need to filter all our facts here,
through friends and neighbors and parents and children
and coworkers and newspapers and magazines,
to finally be grounded in real knowledge,
which is something that a search engine is a poor help to achieve.
So, I promised you an example just to show you why it's so hard
to get to the point of true, clean, objective knowledge --
as food for thought.
I will conduct a couple of simple queries, search queries.
We'll start with "Michelle Obama,"
the First Lady of the United States.
And we'll click for pictures.
It works really well, as you can see.
It's a perfect search result, more or less.
It's just her in the picture, not even the President.
How does this work?
Quite simple.
Google uses a lot of smartness to achieve this, but quite simply,
they look at two things more than anything.
First, what does it say in the caption under the picture on each website?
Does it say "Michelle Obama" under the picture?
Pretty good indication it's actually her on there.
Second, Google looks at the picture file,
the name of the file as such uploaded to the website.
Again, is it called "MichelleObama.jpeg"?
Pretty good indication it's not Clint Eastwood in the picture.
So, you've got those two and you get a search result like this -- almost.
Now, in 2009, Michelle Obama was the victim of a racist campaign,
where people set out to insult her through her search results.
There was a picture distributed widely over the Internet
where her face was distorted to look like a monkey.
And that picture was published all over.
And people published it very, very purposefully,
to get it up there in the search results.
They made sure to write "Michelle Obama" in the caption
and they made sure to upload the picture as "MichelleObama.jpeg," or the like.
You get why -- to manipulate the search result.
And it worked, too.
So when you picture-Googled for "Michelle Obama" in 2009,
that distorted monkey picture showed up among the first results.
Now, the results are self-cleansing,
and that's sort of the beauty of it,
because Google measures relevance every hour, every day.
However, Google didn't settle for that this time,
they just thought, "That's racist and it's a bad search result
and we're going to go back and clean that up manually.
We are going to write some code and fix it,"
which they did.
And I don't think anyone in this room thinks that was a bad idea.
Me neither.
But then, a couple of years go by,
and the world's most-Googled Anders,
Anders Behring Breivik,
did what he did.
This is July 22 in 2011,
and a terrible day in Norwegian history.
This man, a terrorist, blew up a couple of government buildings
walking distance from where we are right now in Oslo, Norway
and then he traveled to the island of Utøya
and shot and killed a group of kids.
Almost 80 people died that day.
And a lot of people would describe this act of terror as two steps,
that he did two things: he blew up the buildings and he shot those kids.
It's not true.
It was three steps.
He blew up those buildings, he shot those kids,
and he sat down and waited for the world to Google him.
And he prepared all three steps equally well.
And if there was somebody who immediately understood this,
it was a Swedish web developer,
a search engine optimization expert in Stockholm, named Nikke Lindqvist.
He's also a very political guy
and he was right out there in social media, on his blog and Facebook.
And he told everybody,
"If there's something that this guy wants right now,
it's to control the image of himself.
Let's see if we can distort that.
Let's see if we, in the civilized world, can protest against what he did
through insulting him in his search results."
And how?
He told all of his readers the following,
"Go out there on the Internet,
find pictures of dog poop on sidewalks --
publish them in your feeds, on your websites, on your blogs.
Make sure to write the terrorist's name in the caption,
make sure to name the picture file "Breivik.jpeg."
Let's teach Google that that's the face of the terrorist."
And it worked.
Two years after that campaign against Michelle Obama,
this manipulation campaign against Anders Behring Breivik worked.
If you picture-Googled for him weeks after the July 22 events from Sweden,
you'd see that picture of dog poop high up in the search results,
as a little protest.
Strangely enough, Google didn't intervene this time.
They did not step in and manually clean those search results up.
So the million-dollar question,
is there anything different between these two happenings here?
Is there anything different between what happened to Michelle Obama
and what happened to Anders Behring Breivik?
Of course not.
It's the exact same thing,
yet Google intervened in one case and not in the other.
Why?
Because Michelle Obama is an honorable person, that's why,
and Anders Behring Breivik is a despicable person.
See what happens there?
An evaluation of a person takes place
and there's only one power-player in the world
with the authority to say who's who.
"We like you, we dislike you.
We believe in you, we don't believe in you.
You're right, you're wrong. You're true, you're false.
You're Obama, and you're Breivik."
That's power if I ever saw it.
So I'm asking you to remember that behind every algorithm
is always a person,
a person with a set of personal beliefs
that no code can ever completely eradicate.
And my message goes out not only to Google,
but to all believers in the faith of code around the world.
You need to identify your own personal bias.
You need to understand that you are human
and take responsibility accordingly.
And I say this because I believe we've reached a point in time
when it's absolutely imperative
that we tie those bonds together again, tighter:
the humanities and the technology.
Tighter than ever.
And, if nothing else, to remind us that that wonderfully seductive idea
of the unbiased, clean search result
is, and is likely to remain, a myth.
Thank you for your time.
(Applause)
في كل مرّة أزور مدرسةً و أتكلم مع الطلاب،
أسألهم دائمًا نفس السؤال:
لماذا تبحث في غوغل؟
لماذا غوغل هو محرك البحث المختار من قبلك؟
الغريب، أنني دائمًا أحصل على نفس الأجوبة الثلاثة.
الأول, "لأنه يعمل،"
إنه جوابٌ عظيم؛ لهذا أنا أبحث في غوغل، أيضًا.
الثاني، أحدهم يقول،
"أنا لا أعرف أي بديل في الحقيقة."
إنه ليس بجواب رائعٍ على حدٍ سواء و ردي في العادة يكون،
"جرّب البحث في غوغل عن كلمة 'محرك بحث،'
قد تجد بضع بدائل مثيرة للإعجاب."
و الأخر و ليس الأخير، ثالثًا،
حتمًا، أحد الطلاب سيرفع أو ترفع يدها و يقول،
"مع غوغل، أنا متأكد أني سأجد الأفضل، نتائج بحث موضوعية."
متأكد دائمًأ بالحصول على الأفضل، نتائج بحث موضوعية.
الآن، كرجل علوم إنسانية
و إن كان بشكلٍ رقمي،
هذا يجعل جسدي يقشعّر،
حتى لو كنت أنا أيضّا، أدرك أن هذه الثقة، أن فكرة نتائج البحث الموضوعية
هي حجز الزاوية لحبنا أجمعين و تقديرنا لغوغل.
سأريكم لماذا، فلسفيًا، هو استحالة تقريبًا.
ولكن اسمحوا لي أن أعرج أولا، قليلًا فقط، على مبدأ أساسي
و هو أننا عند كل طلب بحث أحيانًا ننسى.
لذا، كل ما شرعت بالبحث عن شيء عن طريق غوغل،
ابدأ بسؤال نفسك التالي: "هل أبحث عن حقيقة معزولة؟"
ما هي عاصمة فرنسا؟
ما هي المكونات الأساسية لجزيء الماء؟
عظيم -- غوغل خارج الحساب.
ليس هناك مجموعة من العلماء قريبون لهذه الدرجة من إثبات
أته في الحقيقة لندن و H3O.
لاترى مؤامرةً كبيرةً بين هذه الأشياء.
نحن نتفق، على مستوى عالمي،
حول الأجوبة بالنسبة إلى هذه الحقائق المعزولة.
لكن عندما تعقّد سؤالك قليلًا فقط و تسأل شيئًا من هذا القبيل،
"لماذا هناك صراع اسرائيلي-فلسطيني؟"
إنك لم تعد تبحث عن حقيقة مفردة بعد الآن،
إنك تبحث عن المعرفة،
التي تكون شيئًا أعقد بكثير و حساسًا أكثر.
و للحصول على المعرفة،
عليك بجلب 10 أو 20 أو 100 حقيقىة على الطاولة
و الاعتراف بها و قول، "نعم، كل هذا هو الحقيقة."
و لكن بسبب كوني أنا،
شابا أو عجوزا ، أسود أو أبيض، مثليا أو عاديا ،
سأقيمها بشكلٍ مختلف،
و سأقول، "نعم، هذا صحيح،
و لكن هذا مهمٌ بالنسبة إلي أكثر من هذا."
و هنا يصبح الأمر مثيرًا،
لأننا هنا نصبح إنسانيين.
هنا حيث نبدأ بالنقاش، لتشكيل مجتمع.
و لنصل حقيقةً إلى مكانٍ ما، نحتاج إلى تصفية جميع الحقائق هنا،
من خلال الأصدقاء و الجيران و الأهل و الأطفال
و شركاء العمل و الجرائد و المجلات،
لنستند في النهاية إلى حقيقة حقيقية،
التي تكون شيئًا تضعف محركات البحث في المساعدة على تحقيقه.
لذا، لقد وعدتكم بمثال فقظ لأريكم لماذا هو من الصعوبة بمكان
الوصول إلى نقظة المعرفة الخالصة، الموضوعية --
كغذاء للفكر.
سوف أجري بضعةً من الاستفسارات، و الاستعلامات البسيطة.
سوف نبدأ ب "ميشيل أوباما,"
السيدة الأولى للولايات المتحدة.
و سوف ننقر على صور.
إنها تجري جيدًا، كما ترون.
إنها نتائج بحثٍ ممتازة، تقريبًا.
إنها هي فقط في الصورة، و لا حتى الرئيس معها.
كيف يحدث هذا؟
ببساطة شديدة.
يستعمل غوغل بعض الذكاء لإكمال هذا، و لكن ببساطة شديدة،
إنهم ينطرون إلى شيئين أكثر من أي شيءٍ.
أولًا، ماذا تقول التسمية التوضيحية تحت الصورة تحت كل موقع؟
هل تقول "ميشيل أوباما" تحت الصورة؟
مؤشر جيد جدًا إنها هي في الحقيقة.
ثانيًا، ينظر غوغل إلى ملف الصورة،
اسم الملف كما هو مرفوعٌ على الموقع.
مرة أخرى، هل يدعى "مشيل أوباما.jpeg"؟
مؤشرٌ جيدٌ جدًا إنها ليست صورة كلينت إيستوود.
إذًا، لديك هذين الاثنين و ستحصل على نتائج بحثٍ كهذه -- تقريبًا.
الآن، في 2009، كانت ميشيل أوباما ضحيةً لحملةٍ عنصرية،
حيث قام الناس بإهانتها من خلال نتائج البحث.
كان هناك صورةٌ قد انتشرت بشكلٍ كبيرٍ في الانترنت
حيث تم تشويه وجهها لتشبه قردًا.
و تم نشر هذه الصورة في كل مكان.
و نشرها الناس بشكلٍ مقصودٍ بقوة،
لوضعها هناك في نتائج البحث.
تأكدوا من كتابة "ميشيل أوباما" في التسمية التوضيحية
و تأكدوا من رفع الصورة تحت مسمى "ميشيل أوباما.jpeg"، أو ما شابه ذلك.
سترى لماذا -- للتلاعب في نتائج البحث.
و قد نجحت أيضًا.
لذا عندما بحثت في غوغل عن صورة "ميشيل أوباما" عام 2009،
ظهرت صورة القرد المشوه في الأعلى بين النتائج الأولى.
الآن، النتائج تتصفى بنفسها،
و هنا تكمن جماليتها،
لأن معايير غوغل تتلائم كل ساعة، كل يوم.
و مع ذلك، لم يقم غوغل بتسوية هذا هذه المرّة،
فقط فكروا، " هذا عنصري و هي نتائج بحثٍ سيئة
و سوف نقوم بالعودة و مسحها يدويًا.
سنقوم بكتابة بعض الأكواد لإصلاحها،"
الأمر الذي فعلوه.
و لا أعتقد أن أي أحدٍ في هذه القاعة يعتقد بأنها فكرةٌ سيئة.
و لا أنا أيضًا.
لكن بعدها، تمر بضعة سنين،
و يصبح أكثر بحثٍ على غوغل هو اندرش،
اندرش بهرنغ بريفيك،
فعل ما فعله.
هذا في 22 يوليو "تموز" عام 2011،
و هو يومٌ فظيع في تاريخ النرويج.
هذا الرجل، إرهابي، فجّر بضع مبانٍ حكوميةٍ
على بعد مرمى حجر من مكاننا هنا الآن في أوسلو، النرويج
و سافر بعدها إلى جزيرة أوتويا
و رمى الرصاص و قتل مجموعةً من الأطفال.
مات تقريبًا 80 شخصًا ذلك اليوم.
و يصف الكثير من الأشخاص هذا العمل الإرهابي في خطوتين،
أنه فعل شيئين: فجّر المباني و قتل الأطفال.
هذا ليس بصحيح.
لقد كانت ثلاثة خطوات.
فجّر تلك المباني و قتل أولئك الأطفال،
و جلس و انتظر العالم ليبحثوا عنه في غوغل.
و قد جهّز الخطوات الثلاث بدقة متساوية.
و إذ كان هناك شخصٌ قد فهم فورًا هذا،
كان مطور انترنت سويدي،
خبير محرك البحث الأمثل في ستوكهولم يسمى، نيكي لينكفيست.
و هو شخصٌ سياسيٌ جدًا
و كان حاضرا تمامًا في وسائل التواصل، و مدونته و الفيسبوك.
و أخبر الجميع،
"لو كان هناك شيءٌ يريده هذا الشخص الآن،
هو سيطرته على صورته.
فلنر إن كنا نستطيع تشويه هذا.
فلنر إن كنا، في العالم المتحضّر، نستطيع التظاهر ضد ما فعله
من خلال إهانته في نتائج البحث."
و كيف؟
أخبر جميع قرائه و متابعيه،
"اذهبوا إلى شبكة الانترنت،
جدوا صورًا لفضلات كلب على الأرصفة --
انشروها في مغذيات أخباركم، و على مواقعكم، و مدونتاكم.
تأكدوا من كتابة اسم الإرهابي في التسمية التوضيحية،
تاكدوا من تسمية ملف الصورة "بريفيك.jpeg."
دعونا نعلّم غوغل أن هذا هو وجه الإرهابي."
و قد نجحت الخطة.
بعد عامين من الحملة ضد ميشيل أوباما،
كانت حملة التشويه ضد أندرش بيهرينغ بريفيك قد نجحت.
إن كنت تبحث عنه في صور غوغل بعد أسابيع من حدث 22 يوليو في السويد،
فستجد صورًا لفضلات كلب قد اعتلت نتائج البحث،
كاحتجاجٍ بسيط.
بشكلٍ غريب، لم يتدخل غوغل هذه المرّة.
لم يتدخلوا و يحذفوا يدويًا نتائج البحث العليا تلك.
لذا، سؤال المليون دولار،
هل هناك أي فرقٍ بين هذين الحدثين هنا؟
هل هناك أي شيءٍ مختلف بين ما حصل مع ميشيل أوباما
و ما حدث مع أندرش بهرينغ بريفيك؟
بالطبع لا.
إنه نفس الشيء تمامًا،
و مع ذلك تدخل غوغل في قضيةٍ و لم يتدخل في الأخرى .
لماذا؟
لأن ميشيل أوباما شخصيةٌ مرموقة، لهذا السبب،
و أندرش بهرينغ بريفيك شخصٌ دنيء.
إذًا ما الذي يحصل هنا؟
تقييم شخصٍ ما يؤخذ بعين الاعتبار
و هناك لاعبٌ قوي في العالم
مع صلاحية القول لتحديد من يكون.
"أنت تعجبنا، أنت لا تعجبنا.
نحن نثق بك، نحن لا نثق بك.
أنت على حق، لست على حق. أنت حقيقي، أنت مزيف.
أنت أوباما،و أنت بريفيك."
هذه هي القوة بعينها.
لذا أطلب منكم أن تتذكروا أن وراء كل خوارزمية
دائمًا هناك شخصٌ،
شخصٌ معدٌّ بمعتقداتٍ شخصيةٍ
حيث لا يمكن لأي شيفرة أن تقضي عليها تمامًا.
و توجَّه رسالتي ليس فقط إلى غوغل،
بل إلى كل المؤمنين بقدرة الشيفرات حول العالم.
عليك تحديد الانحياز الشخصي الخاص بك.
عليك أن تفهم أنك بشر
وتحمل المسؤولية وفقًا لذلك.
و أقول هذا لأتي أعتقد اننا قد وصلنا إلى نقطة في وقتنا
وهي أنه أصبح من الضروري للغاية
أن نربط هذين الحبلين سويًا مرة أخرى، بشكلٍ محكم:
وهما الإنسانية و التكنولوجيا.
بشكلٍ محكمٍ أكثر من أي وقت.
و، إن كان هناك أي شيءٍ آخر، ليذكرنا أن هذه الفكرة الرائعة و المغرية
حول نتائج البحث، النظيفة و الغير منحازة
فهو أن تظل أسطورة.
شكرًا لوقتكم
(تصفيق)
И така, когато посетя училище и говоря пред студенти,
винаги им задавам следния въпрос:
Защо използвате Гугъл?
Защо предпочитате да използвате търсачката Гугъл?
За моя изненада, винаги получавам три отговора.
Първият, "Защото работи,"
което е страхотен отговор; затова и аз го използвам.
Второ, някой ще каже,
"Не зная да има алтернативи."
Това не е толкова добър отговор и моят отговор обикновено е,
"Потърси в Гугъл с думата 'търсачка',
може да откриеш няколко интересни алтернативи."
И последно, но не и по значение,
Неминуемо някой от студентите ще вдигне ръка и ще каже:
"Използвайки Гугъл съм сигурен, че винаги имам най-добрия, безпристрастен резултат."
Сигурен, че винаги получавам най-добрия, безпристрастен резултат при търсенето.
Сега, като човек на хуманитарните науки,
макар и на дигиталните хуманитарни науки,
този отговор ме кара да настръхна,
въпреки че и аз осъзнавам, че доверието и идеята за безпристрастния резултат
е в основата на нашата всеобща любов и признателност към Гугъл.
Ще ви покажа защо това от философска гледна точка е почти невъзможно.
Позвотеле ми първо да внеса малко яснота по един основен принцип
зад всяка заявка за търсене, коeто понякога изглежда забравяме.
И така, винаги когато търсиш нещо в Гугъл
започни задавайки си следния въпрос: "Отделен факт ли търся?"
Коя е столицата на Франция?
От какво се състои молекулата на водата?
Страхотно - търсете чрез Гугъл.
Не съществува група учени които да докажат, че
всъщност Лондон и H3O са отговорите.
Няма голяма конспирация сред тези факти.
Съгласни сме като цяло
какви са отговорите на тези отделни факти.
Но ако усложните въпроса си съвсем малко и търсите нещо като:
"Защо съществува Изрaелско-Палестински конфликт?"
Вие всъщност не търсите отделен факт.
Вие търсите познание,
което е много по-сложно и деликатно.
И за да стигнете до познанието,
вие трябва да поставите на масата 10, 20 или 100 факта и
да ги оцените и да кажете: "Да, всички те са истина."
Но заради това кой съм аз,
млад или стар, черен или бял, гей или хетеро,
аз ще ги оценя различно.
И ще кажа: "Да, това е истина,
но това е по-важно за мен от другото."
И тук е мястото където става интересно,
защото тук ние ставаме хора.
Тук започваме да спорим и да формираме общност.
И за да стигнем до някъде, трябва да пречупим всички наши факти
през приятелите и съседите, нашите родители и деца,
колегите, вестниците и списания,
за да се трансформират фактите в истинско познание.
Това трудно може да се постигне с помощта на търсачка.
И така, обещах ви пример за да ви покажа защо е толкова трудно
да се достигне до истинско, чисто обективно познание --
за да има над какво да мислите.
Ще потърся няколко прости неща.
Ще започнем с "Мишел Обама,"
първата дама на САЩ.
И ще натиснем на снимки.
Както виждате работи много добре.
Резултата е почти перфектен.
На снимките е само тя, дори президента го няма.
Как става това?
Много просто.
Гугъл използва много интелект за да го постигне, но обикновено
те проверяват преди всичко за две неща.
Първото, какво пише в коментара под снимката на всеки уебсайт?
Пише ли "Мишел Обама" под снимката?
Много добра индикация, че това всъщност е тя.
Второто, Гугъл гледа самия файл,
името с което е качен в сайта.
И отновно, казва ли се "МишелОбама.jpeg"?
Много добра индикация, че това не е Клинт Истууд на снимката.
И така, вземаш тези два критерия и получаваш търсеното - почти.
През 2009 Мишел Обама стана жертва на расистка кампания,
при която се опитаха да я обидят чрез резултатите от търсенето.
Имаше една снимка разпространена широко в интернет,
на която лицето и беше променено да прилича на маймуна.
И снимката беше качена навсякъде.
И хората я публикуваха с ясната цел
за да се появява при търсенето.
Те написаха "Мишел Обама" в коментара
и се увериха, че името на файла е "МишелОбама.jpeg.
Разбирате защо - за да манипулират резултатите
И това проработи.
Когато търсите по снимка "Мишел Обама" през 2009,
променената снимка с лице на маймуна се появи най-отгоре при търсенето.
Сега тези резултати са самопочистващи се,
и в това се изразява красотата,
защото Гугъл измерва съпоставимост всеки час, всеки ден.
Но този път беше различно,
те мислеха, "Това е расистко и е неподходящ резултат от търсенето
и ние ще се върнем и изчистим ръчно това, което се появява.
Ще напишем код, който да почисти,"
което и направиха.
Не мисля, че има някой в тази зала, който счита това за лоша идея.
Аз също.
Но, минаха няколко години...
и най-търсения в Гугъл Андерс,
Андерс Бейринг Брейвик,
направи каквото направи.
22 юли 2011 е,
трагичен ден за историята на Норвегия.
Този мъж, терорист, взриви няколко правителствени сгради
на малко разстояние от мястото, на което се намираме в Осло.
след това той отиде на остров Утоя
и стреля по и уби група деца.
Почти 80 човека бяха убити него ден.
Много хора биха описали този акт на терор
че е направил две неща: взривил е сградата и е застрелял децата.
Не е истина.
Стъпките бяха три.
Взриви тези сгради, застреля децата,
и започна да чака света да го търси в Гугъл.
И той подготви еднакво добре и трите стъпки.
И ако имаше някой, който на момента разбра всичко,
това беше програмист от Швеция,
който се занимава с оптимизирането на търсачките в Стокхолм, Ники Линдявист.
Той се интересува и от политика
и в онзи момент беше в социалните медии, в своя блог и в Фейсбук.
Той каза на всички,
"Ако има нещо, което този човек иска в момента,
то е да контролира своя имидж.
Нека се опитаме да попречим на това.
Да видим ние, в цивилизования свят, можем ли да протестираме
като го изобличим в резултатите при търсене за него."
Как?
Той каза на всички свои читатели,
"Отидете в Интернет,
намерете снимки
на кучешко ако на тротоара --
публикувайте ги във вашите блогове, на сайтовете си.
Уверете се, че сте написали името на терориста в коментара,
уверете се също че името на файла е "Брейвик.jpeg"
Нека научим Гугъл, че това е лицето на терориста."
И това проработи.
Две години след кампанията срещу Мишел Обама,
тази манипулационна кампания срещу Андерс Бейринг Брейвик проработи.
Ако търсите негова снимка в Гугъл седмици след събитията от 22 юли в Швеция,
вие ще видите тази снимка на кучешко ако в началото на резултатите от търсенето.
като форма на протест.
За моя изненада Гугъл този път не се намеси.
Те не направиха ръчно почистване на тези резултати.
Въпросът за милиони е
има ли нещо различно между тези две събития?
Има ли нещо различно между това, което се случи с Мишел Обама
и това с Андерс Бейринг Брейвик?
Разбира се че няма.
Едно и също нещо е,
Гугъл обаче се намеси в единия но не и в другия случай.
Защо?
Защото Мишел Обама е уважаван човек, ето защо,
а Андерс Бейринг Брейвик е ужасен човек.
Виждате ли какво става?
Случва се оценяване на човека
и има само един силен играч в света
с власт да каже кой какъв е.
"Ние те харесваме, ние не те харесваме.
Ние вярваме или не вярваме в теб.
Ти си прав, ти не си, Ти си истински, ти не си.
Ти си Обама, а ти си Брейвик."
Ако правилно разбирам това е власт.
И така, моля ви да запомните че зад всеки алгоритъм
стой човек,
човек с лични убеждения
които никой код не може да изкорени напълно.
И моето послание е не само към Гугъл
но и към всички, които вярват в истиността на кода.
Трябва да идентифицирате вашите собствени предразсъдъци.
Трябва да разбере, че сте хора
и да поемете отговорност.
Казвам това защото вярвам, че сме достигнали момента
когато е абсолютно задължително
по-здраво да свържем двата края
на човешкото начало и на технологията
По-силно от всякога.
И ако не друго, то поне да си напомняме, че тази чудесна
идея за неподправения, чист резултат
е, и вероятно ще остане мит.
Благодаря за вниманието!
(Аплодисменти)
Quan vaig a una escola i parlo amb estudiants
i sempre els pregunto el mateix:
"Per què cerqueu a Google?"
"Per què el trieu?"
Sempre em donen aquestes raons:
Primera, "perquè funciona":
molt bé, jo també l'utilitzo per això.
Segona, alguns diuen:
"No conec cap altra alternativa."
Aquesta no és tan bona, i normalment els hi dic:
"Posa 'motor de cerca' a Google,
i veuràs algunes bones alternatives."
L'última, però no menys important,
és la d'un estudiant, que aixeca la mà i diu:
"Amb Google m'asseguro sempre els millors resultats; els més objectius."
Segur d'obtenir sempre els millors resultats; els més objectius.
Com que sóc d'Humanitats,
encara que d'Humanitats digitals,
se'm posa la pell de gallina,
tot i que sé que aquesta confiança en la objectivitat
és un dels pilars de l'apreci col·lectiu pel Google.
Us explicaré per què això és, filosòficament, impossible.
Però primer, parlaré una mica del principi bàsic
darrere de qualsevol cerca, i que a vegades oblidem.
Quan cerqueu a Google
pregunteu-vos primer: "Busco un fet aïllat?"
Quina és la capital de França?
Quins són els components de la molècula de l'aigua?
Perfecte. Feu servir el Google.
No hi ha cap grup de científics a punt de demostrar
que les respostes són Londres i H3O.
No hi ha cap conspiració al darrere.
Estem d'acord, a escala global,
de les respostes a aquests fets aïllats.
Però si compliquem la cerca i busquem, per exemple,
"Per què existeix el conflicte Israel-Palestina?"
Ara ja no cerquem un fet específic,
ara cerquem coneixement:
molt més complicat i delicat.
Per arribar al coneixement,
agafaríeu 10, 20 ó 100 fets
i diríeu, "són certs".
Però segons qui sóc,
jove o vell, blanc o negre, gay o no,
els valoraré de manera diferent.
I jo diría: "Sí, això és cert,
però per a mi és més important que allò."
És aquí on comença a ser interessant,
perquè aquí esdevenim humans.
Perquè comencem a debatre, a crear la societat.
I per a arribar a algun lloc hem de filtrar els fets aquí,
entre amics, veïns, pares i fills
i col·legues, i diaris i revistes
fins a arribar al coneixement real,
que un motor de cerca no ens pot ajudar a trobar.
Us he promès un exemple que demostri
com n'és de difícil arribar al coneixement real i objectiu...
perquè ens faci pensar.
Realitzaré dues cerques senzilles.
Començarem per "Michelle Obama",
la Primera Dama dels Estats Units.
Cliquem per a veure imatges.
Funciona força bé, com veieu.
És una cerca perfecta, més o menys.
Només surt ella a les fotos, ni tan sols apareix el President.
Com funciona això?
Molt senzill.
Google empra l'intel·ligència però simplement
cerca dues coses principals.
Primer, què surt a cada peu de foto?
Diu "Michelle Obama" a sota de la foto?
Un bon indicador perquè només hi aparegui ella.
Segon, Google cerca, l'arxiu de la imatge,
el nom de l'arxiu que han pujat a la web.
L'arxiu es diu "MichelleObama.jpeg"?
Bon indicador que en Clint Eastwood no hi surt a la foto.
Si teniu això, obtindreu un resultat com aquest - gairebé.
L'any 2009 la Michelle Obama va ser víctima d'una campanya racista,
on la gent l'insultava mitjançant els resultats de cerca.
Havia una foto d'ella, estesa per tota la xarxa,
amb la cara distorsionada per fer-la semblar un mico.
Aquella foto es va publicar a tot arreu.
I la gent la publicava amb la intenció clara
de que anés pujant en els resultats de cerca.
S'asseguraven de posar "Michelle Obama" a la descripció
i, de pujar la foto amb el nom "MichelleObama.jpeg".
Ja sabeu per què: per manipular els resultats de cerca.
I va funcionar.
Si cercaves "Michelle Obama" per Google el 2009
la foto del mico deformat surtia als primers resultats.
Els resultats s'autonetejen
cosa que forma part de la bellesa de tot això:
La rellevància es calcula cada hora, cada dia.
Però en aquest cas, Google no es va conformar amb això,
van pensar: "això és un resultat negatiu i racista,
i l'el·liminarem manualment.
Escriurem un codi i ho arreglarem."
I ho van fer.
No crec que ningú en aquesta sala ho trobi malament.
Jo tampoc.
Però, al cap de dos anys
"l'Anders" més cercat a Google,
Anders Behring Breivik,
va fer el que tots sabem.
El 22 de juliol del 2011,
va ser un dia horrible per a Noruega.
Aquest terrorista va fer volar dos edificis del govern
a unes passes d'aquí, a Oslo, a Noruega,
i va anar fins a l'illa d'Utøya,
on va disparar i assassinar un grup de nanos.
Quasi 80 persones van morir aquell dia.
Molts descriurien aquest acte terrorista
en dues parts: fer volar els edificis i assassinar els nanos.
No és veritat.
Van ser tres parts.
Va fer explotar els edificis, va disparar als nanos,
i va esperar que el món el googlegés.
I va planejar les tres parts igual de bé.
I si va haver-hi algú que ho va entendre,
va ser un desenvolupador web suec,
un expert en optimització de cerques d'Estocolm, Nikke Lindqvist.
També està ficat en política,
i en els mitjans socials, té un blog i Facebook.
Va dir a tothom,
"El que aquest vol ara,
és controlar la seva imatge.
A veure si la podem distorsionar.
A veure si el món civilitzat protesta
pel que ha fet i l'insulta amb els resultats de cerca."
Però com?
Va dir als seus lectors:
"Aneu a Internet,
trobeu imatges de caques de gos...
trobeu imatges de caques al carrer...
i publiqueu-les al mur, a les webs, als blogs.
Assegureu-vos d'escriure el seu nom a la descripció,
anomeneu l'arxiu de foto 'Breivik.jpeg.'.
Ensenyem-li a Google com és la cara d'un terrorista."
I va funcionar.
Després de la campanya
contra Michelle Obama, la de Anders Behring Breivik va funcionar.
Si cercaves la seva imatge a Google després del 22 de juliol a Suècia
trobaves la imatge d'una caca de gos ben amunt als resultats de cerca,
com a forma de protesta.
Curiosament, Google no va intervenir.
No van entrar per el·liminar manualment aquells resultats.
La pregunta del milió de dòlars és:
en què es diferencien aquests dos casos?
En què es diferencia el cas de la Michelle Obama,
del cas de l'Anders Behring Breivik?
En res.
Són exactament el mateix,
però Google només va intervenir en un cas
Per què?
Perquè Michelle Obama
és honorable, i Anders Behring Breivik és menyspreable.
Veieu què passa?
Es jutja una persona
i només hi ha un poderòs
amb autoritat per dir qui és qui.
"Ens agrades o no ens agrades."
"Creiem en tu, o no hi creiem."
"Ets bo, ets dolent. Vertader, o fals."
"Ets Obama, ets Breivik."
Això és poder, sense cap dubte.
Recordeu que darrere d'un algoritme
sempre hi ha una persona,
amb una sèrie de creences personals
que no es poden erradicar amb cap codi.
I el meu missatge va no només a Google,
sinó a tots els que creieu en els codis.
Heu d'identificar els vostres prejudicis.
Heu d'entendre que sou humans
i actuar en conseqüència.
I us ho dic perquè hem arribat a un punt
on és absolutament imperatiu
que enfortim aquest vincle:
entre humanitats i tecnologia.
Més fort que mai.
I també per recordar-vos que la idea
meravellosa d'un resultat imparcial i net
és, i seguirà sent, un mite.
Gràcies pel vostre temps.
(Aplaudiments)
Når jeg møder elever på forskellige skoler,
stiller jeg altid samme spørgsmål:
Hvorfor Googler du?
Hvorfor er Google din foretrukne søgemaskine?
Underligt nok, får jeg altid de samme 3 svar.
1) "Fordi den virker",
som er et udemærket svar; og også grunden til jeg Googler.
2) Nogen siger,
"Jeg kender ikke nogen alternativer."
Det svar er ikke lige så godt, og min respons er som regel,
"Prøv at Google ordet 'søgemaskine',
du finder muligvis et par alternativer."
3) Sidst men ikke mindst,
vil en elev række fingeren i vejret og sige,
"Med Google er jeg sikker på et fordomsfrit resultat."
Sikker på altid at få et fordomsfrit resultat.
Som et menneske af humaniora,
omend en digital humaniora,
får det mine hår til at rejse sig
selv om jeg er klar over at tilliden, ideen om et objektivt resultat
er en hjørnesten i den kollektive påskønnelse af Google.
Jeg vil vise Jer hvorfor dette, rent filosofisk, er nærmest umuligt.
Men lad mig først kort gennemgå de basale principper
bag hver søgning, som vi ofte glemmer
Når du beslutter at Google noget,
så spørg dig selv: "Er det rene fakta jeg leder efter?"
Hvad er hovedstaden i Frankrig?
Hvad består et vandmolekule af?
Fint -- Google derudaf.
Ingen videnskabsfolk er tæt på at bevise
at det er London og H30.
Her findes ingen store sammensværgelser.
Hele verden er enige om,
hvad svarene på disse spørgsmål er.
Men hvis vi komplicerer det en smule og spørger,
"Hvorfor er der en konflikt mellem Israel og Palæstina?"
Er det ikke længere simpel fakta du leder efter,
i stedet søger du viden,
som er langt mere kompliceret og følsom.
Og for at opnå viden,
skal du have 10, 20 eller 100 fakta
og kunne sige, "Ja, disse er alle sande."
Men pga den jeg er,
ung/gammel, hvid/sort, homo- eller heteroseksuel
vil jeg vægte dem forskelligt.
og jeg vil sige, "Ja, det er sandt,
men dette er vigtigere".
Og her bliver det interessant
det er her vi bliver menneskelige.
Det er her vi begynder at debattere.
Og for at komme fremad, må vi filtrere alle fakta,
gennem venner, naboer, forældre og børn
og kolleger og aviser og dagblade,
for til sidst at ende med reel viden,
og her en en søgemaskine en dårlig hjælp
Jeg lovede et eksempel der viser hvorfor det er så svært
at nå til et punkt af sand og ren objektiv viden --
som stof til eftertanke.
Jeg vil udføre et par simple søgninger
Vi starter med "Michelle Obama,"
førstedame i USA.
Og vi vælger billeder.
Som I kan se fungerer det rigtig godt.
Det er et perfekt søgeresultat mere eller mindre.
Det er kun hende på billederne, end ikke præsidenten.
Hvordan fungerer det?
Meget simpelt.
Google bruger mange smarte tricks, men helt enkelt,
kigges der primært på 2 ting.
1) Billedets titel på hjemmesiden
Står der "Michelle Obama" under billedet?
En ret god indikation på at hun rent faktisk er motivet.
2) Google kigger på selv billedfilen,
dvs. navnet på den fil der er lagt op på hjemmesiden.
Igen, hedder det "MichelleObama.jpeg"?
Et ret sikkert bevis på det ikke er Clint Eastwood.
Og sådan får du dette søgeresultat -- næsten.
I 2009 var Michelle Obama offer for en racistisk kampagne,
hvor folk forsøgt at håne hende gennem søgeresultater.
Et billede blev spredt på Internet
hvor hendes ansigt var forvrænget så hun lignede en abe.
Det billede blev offentliggjort overalt.
Det blev offentliggjort med et meget tydeligt formål,
at dukke op i søgeresultater.
De skrev "Michelle Obama" i billedets titel
og navngav filen "MichelleObama.jpeg" eller lignende.
Alt sammen for at manipulere med søgeresultater.
Og det fungerede.
Dvs. når man i 2009 Googlede "Michelle Obama",
dukkede dette forvrængede billede op, som et af de første resultater.
Resultaterne er selvrensende,
og det er det smukke ved det,
fordi Google måler relevans døgnet rundt hver dag.
Men Google lod sig ikke nøje i dette tilfælde,
og tænkte, "Dette er racistisk og giver et dårligt resultat
så vi går ind og rydder op manuelt.
Nu skriver vi noget kode der fikser det,"
og det gjorde de så.
Der er nok ingen her som synes det var en dårlig ide.
Heller ikke jeg.
Men så går der et par år,
og verdens mest Googlede Anders
Anders Behring Breivik,
gjorde hvad han gjorde.
Det var 22. juli 2011,
en forfærdelig dag i Norges historie
Denne mand, en terrorist, sprang et par regeringsbygninger i luften
i gåafstand fra vores nuværende lokation i Oslo, Norge.
Så rejste han til øen Utøya
og skød og dræbte en gruppe børn.
Næsten 80 mennesker døde den dag.
Mange vil beskrive dette som to terrorhandlinger,
at han gjorde 2 forskellige ting: udløste bomber og skød disse børn.
Det er ikke sandt.
Der var 3 handlinger.
Han sprang bygninger i luften, skød børnene,
og satte sig derefter ned og afventede at verden Googlede ham.
Og han gjorde meget ud af forberedelserne af alle 3.
En person gennemskuede dette med det samme,
En svensk webudvikler
og ekspert i optimering af søgeresultater, Nikke Lindqvist.
Han er også meget politisk
og var hurtigt ude med en reaktion på sin blog og på Facebook.
Han fortalte alle,
"Hvis der er noget den fyr ønsker sig lige nu,
er det at kontrollere sit image.
Lad os se om vi kan forvrænge det.
Lad os, som en civiliseret verden, protestere mod hans handlinger
med forhånelse af hans søgeresultater."
Og hvordan?
Han bad sine læsere om følgende,
"Gå på Internet,
find billeder af hundelort --
og placer dem i indlæg, på Jeres hjemmesider og blogs.
Skriv navnet på denne terrorist i billedets titel,
og navngiv filen "Breivik.jpeg."
Lad os fortælle Google at dette er terroristens ansigt."
Og det virkede.
To år efter kampagnen mod Michelle Obama,
virkede kampagnen mod Anders Behring Breivik fint.
I flere uger efter 22. juli viste billedsøgninger på ham
alle disse billeder af hundelort som noget af det første,
som en lille protest.
Underligt nok, fandt Google ingen grund til at gribe ind.
De gik ikke ind og rensede søgeresultatet manuelt.
Det store spørgsmål er derfor nu,
hvad er forskellen på disse to kampagner?
Er der nogen forskel på hvad der skete for Michelle Obama
og hvad der skete for Anders Behring Breivik?
Selvfølgelig ikke.
Det er nøjagtig det samme,
alligevel greb Google kun ind i det ene tilfælde.
Hvorfor?
Fordi Michelle Obama er en hæderlig person. Derfor.
Og Anders Behring Breivik er en foragtelig person.
Kan I se hvad der sker?
Man evaluerer en person
og der er kun een magtfuld spiller i verden
med autoritet til at skelne.
"Dig kan vi li', dig hader vi.
Dig har vi tillid til, du er en løgner.
Du har ret, du tager fejl. Du er sand, du er falsk.
Du er Obama og du er Breivik."
Det er ,om noget, magt.
I bør huske at bag enhver algoritme
er der altid et menneske,
et menneske med personlige holdninger
som ingen programmering nogensinde kan fjerne.
Jeg siger dette, ikke kun til Google,
men til alle i verden der har tillid til kode.
Du må identificere dine egne fordomme.
Du må forstå at du er menneskelig
og tage ansvar i overenstemmelse hermed.
Jeg siger dette fordi vi er nået til et punkt
hvor det er bydende nødvendigt
at vi knytter disse bånd sammen igen, tættere:
Humaniora og teknologi.
Tættere end nogensinde.
Om ikke andet, så for at minde om at den forførende ide
om fordomsfrie og rene søgeresultater
er, og altid vil være, en myte.
Tak fordi I lyttede.
(Bifald)
Wann immer ich eine Schule besuche und mit den Schülern spreche,
frage ich immer das Gleiche:
"Warum googelt ihr?
Warum benutzt ihr Google als Suchmaschine?"
Jedes Mal bekomme ich die gleichen drei Antworten.
Erstens: "Weil es funktioniert."
Das stimmt, deshalb google ich ja auch.
Zweitens:
"Ich kenne keine gute Alternative."
Das ist nicht so eine gute Antwort, und meistens erwidere ich dann:
"Google doch mal 'Suchmaschine',
dann findest du bestimmt eine."
Und drittens,
das wird immer ein Schüler sagen:
"Mit Google kann ich mir sicher sein,
immer das beste, wertneutralste Ergebnis zu bekommen."
Sicher sein, immer das beste, wertfreie Suchergebnis zu bekommen.
Da ich aus den Geisteswissenschaften komme,
wenn auch aus den digitalen,
läuft mir bei dieser Antwort ein Schauer über den Rücken.
Ich verstehe zwar, dass diese Sicherheit, die Idee des wertneutralen Ergebnisses,
der Grundstein unserer Liebe und Wertschätzung für Google ist.
Aber ich werde Ihnen zeigen, warum das schon rein theoretisch nicht möglich ist.
Zuerst müssen wir uns dafür ein Prinzip genauer anschauen,
das hinter jedem Suchvorgang steckt und das wir gerne vergessen.
Wann immer Sie etwas googeln,
fragen Sie sich zuerst: "Suche ich nach einem isolierten Fakt?"
Was ist die Hauptstadt von Frankreich?
Was sind die Teile eines Wassermoleküls?
Super -- dann können Sie googeln.
Es gibt keine Wissenschaftler, die kurz davor stehen, zu beweisen,
dass das in Wirklichkeit London und H3O ist.
Hier gibt es keine Uneinigkeiten.
Wir sind uns alle einig, was die Antworten auf diese isolierten Fakten sind.
Wenn Sie jetzt Ihre Frage ein wenig komplizierter stellen
und zum Beispiel fragen:
"Warum gibt es einen Konflikt zwischen Israel und Palästina?"
suchen Sie nicht mehr nach einem Fakt,
sondern nach Wissen,
das viel komplizierter und heikler ist.
Um Wissen zu erlangen,
müssen Sie 10, 20, 100 Fakten sammeln,
ihnen zustimmen und sagen können, "Ja, die sind alle wahr."
Aber durch das, was ich bin,
jung oder alt, weiß oder schwarz, homo- oder heterosexuell,
bewerte ich jeden Fakt unterschiedlich.
Ich werde sagen: "Ja, das stimmt,
aber das hier ist wichtiger für mich."
Ab da wird's interessant,
weil wir ab dem Punkt menschlich werden.
An diesem Punkt fangen wir an, zu diskutieren, Gesellschaften zu formen.
Um wirklich etwas zu erreichen, müssen wir alle Fakten filtern,
durch unsere Freunde und Nachbarn, Eltern und Kinder, Kollegen,
Zeitungen und Zeitschriften.
Erst dann haben wir echtes Wissen,
bei dem uns eine Suchmaschine eigentlich nicht helfen kann.
Ich sprach von einem Beispiel, um zu zeigen, warum es so schwierig ist,
dieses objektive, reine, wahre Wissen zu erlangen --
sozusagen als Denkanstoß.
Ich werde einfache Suchanfragen starten.
Fangen wir mit "Michelle Obama" an,
der First Lady der USA.
Wir suchen nach Bildern.
Das funktioniert super, wie man sieht.
Es sind ziemlich perfekte Suchergebnisse.
Nur Michelle ist im Bild, nicht mal der Präsident.
Wie funktioniert das?
Erstaunlich einfach:
Google ist dabei sehr clever, aber um es einfach zu erklären:
Sie schauen sich zwei Dinge an.
Erstens: Was sagt die Bildunterschrift?
Steht "Michelle Obama" unter dem Bild?
Ein gutes Zeichen, dass wirklich sie im Bild ist.
Zweitens schaut sich Google den Dateinamen an,
also den Namen, unter dem das Foto hochgeladen wurde.
Heißt es "MichelleObama.jpeg"?
Ein gutes Indiz dafür, dass es nicht Clint Eastwood ist.
Man hat also diese beiden Kriterien und bekommt dieses Ergebnis -- fast.
2009 wurde Michelle Obama Opfer einer rassistischen Kampagne,
in der sie durch ihre Suchergebnisse beleidigt werden sollte.
Es gab ein weit verbreitetes Bild,
in dem ihr Gesicht so entstellt war, dass sie aussah wie ein Affe.
Das Bild wurde überall hochgeladen.
Man hat das sehr strategisch getan,
um es in die Suchergebnisse zu bekommen.
Es wurde "Michelle Obama" betitelt,
und man lud es als "MichelleObama.jpeg" oder etwas ähnliches hoch.
Sie verstehen, warum -- um die Suchergebnisse zu manipulieren.
Und das hat tatsächlich funktioniert.
Wenn man also 2009 "Michelle Obama" gegoogelt hat,
fand man unter den ersten Bildern auch dieses Affen-Bild.
Die Ergebnisse bereinigen sich selbst,
und das ist das Schöne dabei,
weil Google jede Stunde, jeden Tag, die Relevanz der Ergebnisse misst.
Dieses Mal ging Google aber weiter,
da sie fanden: "Das ist rassistisch und ein schlechtes Suchergebnis.
Wir entfernen das manuell.
Wir müssen einen Code schreiben, und das Ganze reparieren."
Und das taten sie.
Ich glaube, niemand hier denkt, dass das eine schlechte Idee war.
Ich auch nicht.
Aber dann, ein paar Jahre später,
tat der meist gegoogelte Anders,
Anders Behring Breivik,
was er tat.
Das war am 22. Juli 2011,
einem schrecklichen Tag für Norwegen.
Dieser Mann, ein Terrorist, jagte einige Regierungsgebäude hoch,
in Gehweite von hier, wo wir grade sind, in Oslo, Norwegen,
und fuhr dann auf die Insel Utøya,
schoss auf und tötete eine Gruppe Kinder.
Fast 80 Menschen starben an diesem Tag.
Viele würden diesen Terrorakt in zwei Schritten beschreiben:
Er jagte die Gebäude in die Luft und erschoss die Kinder.
Aber das stimmt nicht.
Es gab drei Schritte.
Er jagte die Gebäude in die Luft, erschoss die Kinder,
und wartete, dass die Welt ihn googelt.
Jeden dieser Schritte bereitete er sorgfältig vor.
Und wenn das einer sofort verstanden hat,
dann war das ein schwedischer Webentwickler
und Suchmaschinen-Optimierungs-Experte aus Stockholm, Nikke Linqvist.
Er ist auch politisch engagiert
und war an jenem Tag in seinem Blog und auf Facebook sehr aktiv.
Er sagte allen:
"Wenn es eines gibt, was dieser Kerl will,
dann ist es, sein Bild zu kontrollieren.
Mal sehen, ob wir es verzerren können.
Mal sehen, ob wir, die Zivilisierten, gegen das, was er getan hat,
protestieren können, indem wir ihn durch seine Suchergebnisse beleidigen."
Wie ging das?
Er sagte all seinen Lesern Folgendes:
"Geht ins Internet,
sucht Bilder von Hundehaufen --
und ladet sie bei euch hoch, auf euren Websites und Blogs.
Stellt sicher, dass ihr seinen Namen als Überschrift benutzt,
und die Datei "Breivik.jpeg" nennt.
Lasst uns Google beibringen, dass das das Gesicht des Terroristen ist."
Es hat funktioniert.
Zwei Jahre nach Michelle Obama
funktionierte diese Kampagne gegen Anders Behring Breivik.
Googelte man ihn in den Wochen danach,
sah man unter den ersten Bild-Ergebnissen diese Hundehaufen als Protest.
Seltsamerweise schritt Google dieses Mal nicht ein.
Die Suchergebnisse wurden nicht manuell bereinigt.
Die Eine-Millionen-Dollar-Frage ist:
Gibt es irgendeinen Unterschied zwischen den beiden Kampagnen?
Ist das, was Michelle Obama passierte,
anders als das, was Anders Behring Breivik passierte?
Natürlich nicht.
Es ist genau das Gleiche,
aber Google schritt nur in einem Fall ein.
Warum?
Weil Michelle Obama eine ehrhafte Person ist,
und Anders Behring Breivik eine verabscheuenswürdige.
Sehen Sie, was passiert?
Es findet eine Bewertung statt,
und es gibt nur einen Power-Player in der Welt,
der die Autorität hat, zu sagen, wer gut und wer schlecht ist.
"Wir mögen dich. Dich mögen wir nicht.
Wir glauben an dich, aber nicht an dich."
"Du hast Recht, du nicht.
Du bist Obama, und du bist Breivik."
Das ist wahre Macht.
Ich möchte, dass Ihnen bewusst wird, dass hinter jedem Algorithmus
immer eine Person sitzt,
eine Person mit individuellen Meinungen,
die kein Code jemals entfernen kann.
Meine Botschaft gilt nicht nur Google,
sondern allen, die fest an Codes glauben.
Sie müssen Ihre eigenen Neigungen einsehen
und verstehen, dass Sie ein Mensch sind
und dementsprechend handeln.
Ich bin der Meinung, dass wir an einem Punkt angelangt sind,
an dem es absolut notwendig wird,
dass wir diese Verknüpfungen immer enger machen:
Technik und Geisteswissenschaften.
Enger als je zuvor,
nicht zuletzt, um uns daran zu erinnern, dass diese so verlockende Idee,
eines wertfreien Suchergebnisses ein Mythos ist,
und wahrscheinlich auch bleiben wird.
Vielen Dank.
(Applaus)
Όποτε επισκέπτομαι ένα σχολείο και μιλάω σε μαθητές,
πάντα τους κάνω την ίδια ερώτηση:
Γιατί αναζητείτε στο Google;
Γιατί το Google είναι η μηχανή αναζήτησης της επιλογής σας;
Παράξενα, παίρνω πάντα τις ίδιες τρεις απαντήσεις.
Πρώτον, «Επειδή δουλεύει,»
που είναι καλή απάντηση, γι' αυτό αναζητώ κι εγώ στο Google.
Δεύτερον, κάποιος θα πει,
«Δεν γνωρίζω κι άλλες εναλλακτικές μηχανές αναζήτησης.»
Δεν είναι η πιο καλή απάντηση και συνήθως απαντώ,
«Ψάξε 'μηχανή αναζήτησης' στο Google
και ίσως βρείς καμιά ενδιαφέρουσα εναλλακτική.»
Τρίτο και τελευταίο,
σίγουρα κάποιος μαθητής θα σηκώσει το χέρι και θα πεί,
«Με το Google είναι βέβαιος ότι θα πάρω το πιο αμερόληπτο αποτέλεσμα αναζήτησης.»
Πάντα βέβαιος να πάρει το πιο καλό, αμερόληπτο αποτέλεσμα αναζήτησης.
Ως άτομο ανθρωπιστικών επιστημών,
μολονότι ψηφιακών ανθρωπιστικών επιστημών,
αυτό με κάνει να ανατριχιάζω,
έστω αν κι εγώ πιστεύω ότι η ιδέα του αμερόληπτου αποτελέσματος αναζήτησης
είναι ακρογωνιαίος λίθος της αγάπης και εκτίμησης μας για τη Google.
Θα σας δείξω φιλοσοφικά, ότι αυτή η ιδέα είναι αδύνατη.
Αλλά πρώτα να εξηγήσω λίγο μια βασική αρχή
την οποία ξεχνάμε όταν κάνουμε μία αναζήτηση.
Όποτε αναζητήσεις κάτι στο Google,
ρώτα πρώτα τον εαυτό σου: «Ψάχνω για ένα συγκεκριμένο γεγονός;»
π.χ. Ποια είναι η πρωτεύουσα της Γαλλίας;
Ποια είναι τα δομικά στοιχεία ενός μορίου νερού;
Ωραία τότε - αναζήτησε στο Google.
Δεν υπάρχει ομάδα επιστημόνων που κοντεύουν να αποδείξουν
ότι είναι το Λονδίνο ή Η30 αντίστοιχα.
Δεν βλέπεις κάποια συνωμοσία σε αυτά τα πράγματα.
Συμφωνούμε, σε όλη την υφήλιο,
ποιες είναι οι απαντήσεις σε αυτά τα γεγονότα.
Αλλά αν περιπλέξεις λίγο την ερώτηση και ρωτήσεις κάτι σαν,
«Γιατί υπάρχει η κρίση Ισραήλ-Παλαιστίνης;»
Δεν ψάχνεις πια για ένα απλό γεγονός,
ψάχνεις για γνώση,
που είναι κάτι πιο πολύπλοκο κι ευαίσθητο.
Και για να φτάσεις στη γνώση,
πρέπει να φέρεις 10 ή 20 ή 100 γεγονότα στο τραπέζι
να τα αναγνωρίσεις και να πεις, «Ναι, αυτά όλα είναι αληθινά.»
Αλλά εξαιτίας αυτού που είμαι,
νέος ή γέρος, μαύρος ή άσπρος, ομοφυλόφιλος ή όχι,
θα τα αξιολογήσω διαφορετικά.
Θα πω, «Ναι, αυτό είναι αλήθεια,
αλλά αυτό είναι πιο σημαντικό από αυτό.»
Και εδώ είναι που γίνεται πιο ενδιαφέρον,
επειδή εδώ είναι που γινόμαστε ανθρώπινοι.
Εδώ αρχίζουμε να συζητούμε, να σχηματίζουμε κοινωνία.
Και για να φτάσουμε κάπου, χρειάζεται να φιλτράρουμε τα γεγονότα εδώ,
μεταξύ φίλων και γειτόνων, γονιών και παιδιών,
συναδέλφων, εφημερίδων και περιοδικών,
για να καταλήξουμε τελικά σε αληθινή γνώση,
κάτι που μια μηχανή αναζήτησης δεν μπορεί να διεκπεραιώσει σωστά.
Λοιπόν, σας υποσχέθηκα ένα παράδειγμα να σας δείξω γιατί είναι δύσκολο
να φτάσεις στο σημείο να πάρεις αληθινή, καθαρή, αντικειμενική γνώση -
σαν τροφή για σκέψη.
Θα κάνω κανα δυο αναζητήσεις
Θα αρχίσω με «Μισέλ Ομπάμα»,
την Πρώτη Κυρία των Η.Π.Α.
Και θα κάνουμε κλικ για εικόνες.
Δουλεύει καλά, όπως βλέπετε.
Είναι σχεδόν τέλειο αποτέλεσμα αναζήτησης.
Μόνο αυτή είναι στην εικόνα, ούτε καν ο Πρόεδρος.
Πως γίνεται αυτό;
Αρκετά απλά.
Το Google δουλεύει έξυπνα για να το πετύχει, αλλά βασικά,
κοιτά κυρίως για δύο στοιχεία.
Πρώτο, τι λέει στη λεζάντα της εικόνας σε κάθε ιστοσελίδα;
Γράφει «Μισέλ Ομπάμα» κάτω από την εικόνα;
Αρκετά καλή ένδειξη ότι θα είναι αυτή.
Δεύτερο, το Google κοιτάζει το αρχείο της εικόνας,
το όνομα του αρχείου που ανέβηκε στην ιστοσελίδα.
Πάλι, ονομάζεται "MichelleObama.jpeg";
Αρκετά καλή ένδειξη ότι δεν είναι ο Κλιντ Ιστγούντ στην εικόνα.
Οπότε έχεις αυτά τα δύο και παίρνεις αποτέλεσμα σαν αυτό - σχεδόν.
Το 2009 η Μισέλ Ομπάμα ήταν θύμα ρατσιστικής εκστρατείας,
όπου άτομα θέλανε να την προσβάλουν μέσω των αποτελεσμάτων αναζήτησης.
Διαδόθηκε μία εικόνα στο Διαδίκτυο
που έδειχνε τη φάτσα της σαν πιθήκου.
Και η εικόνα αυτή διαδόθηκε παντού.
Και άτομα την διέδωσαν με επιτήδειο σκοπό,
να φαίνεται στα αποτελέσματα αναζήτησης.
Γράφανε «Μισέλ Ομπάμα» στη λεζάντα
και ανεβάζανε την εικόνα με όνομα «MichelleObama.jpeg» ή κάτι παρόμοιο.
Για να παραποιήσουν το αποτέλεσμα αναζήτησης.
Και το καταφέρανε.
Οπότε αν αναζητούσες «Μισέλ Ομπάμα» στο Google το 2009,
η παραποιημένη εικόνα εμφανιζόταν στα πρώτα αποτελέσματα.
Τα αποτελέσματα καθαρίζονται αυτόματα,
και είναι κάπως ωραίο αυτό,
επειδή η Google μετρά σχετικότητα κάθε ώρα, κάθε ημέρα.
Ωστόσο η Google δεν το δέχτηκε αυτή τη φορά,
σκεφτήκανε, «Είναι ρατσιστικό και κακό αποτέλεσμα αναζήτησης
και θα πρέπει να το καθαρίσουμε ιδιοχειρώς.
Θα γράψουμε κώδικα και θα το φτιάξουμε,»
το οποίο και έκαναν.
Δε νομίζω κανείς σε αυτό το δωμάτιο να πιστεύει ότι αυτό ήταν κακή ιδέα.
Ούτε κι εγώ.
Αλλά μετά, περνάνε δύο χρόνια
και ο πιο αναζητούμενος Άντερς,
ο Άντερς Μπέριγκ Μπρέιβικ,
έκανε αυτό που έκανε.
Ήταν 22 Ιουλίου του 2011,
μια τραγική μέρα στην ιστορία της Νορβηγίας.
Αυτός ο άνθρωπος, ένας τρομοκράτης, ανατίναξε κάποια κυβερνητικά γραφεία
πολύ κοντά από όπου είμαστε τώρα εδώ στο Όσλο της Νορβηγίας
και μετά πήγε στο νησί της Ούτεγα,
πυροβόλησε και σκότωσε μια ομάδα παιδιών.
Περίπου 80 άτομα σκοτώθηκαν τότε.
Πολλά άτομα περιέγραψαν την ιστορία ως δύο βήματα,
ότι έκανε δύο πράματα: ανατίναξε τα κτίρια και σκότωσε τα παιδιά.
Δεν είναι αλήθεια αυτό.
Ήταν τρία βήματα.
Ανατίναξε τα κτίρια, σκότωσε τα παιδιά,
μετά περίμενε τον κόσμο να τον αναζητήσει στο Google.
Προετοίμασε και τα τρία βήματα εξίσου καλά.
Κι αν κάποιος το κατάλαβε αυτό αμέσως,
ήταν ένας Σουηδός,
προγραμματιστής ιστοσελίδων στην Στοκχόλμη, ονόματι Νίκκι Λίντκβιστ.
Ήταν κιόλας ένα πολιτικό άτομο
και ήταν στα κοινωνικά μέσα, την ιστοσελίδα του και στο Facebook.
Κι έλεγε σε όλους,
«Αν υπάρχει κάτι που αυτός θέλει τώρα,
είναι να ελέγξει την εικόνα του εαυτού του.
Ας δούμε αν μπορούμε να το αλλάξουμε αυτό.
Ας δούμε, στον πολιτισμένο κόσμο, αν μπορούμε να διαμαρτυρηθούμε σε αυτό
με το να τον προσβάλουμε μέσω των αποτελεσμάτων αναζήτησης.»
Και πώς;
Είπε στους αναγνώστες του τα ακόλουθα,
«Πάτε στο Διαδίκτυο,
βρείτε εικόνες με περιττώματα σκύλων στα πεζοδρόμια,
βρείτε εικόνες με περιττώματα σκύλων,
διαδώστε τις στις ιστοσελίδες σας.
Σιγουρευτείτε να γράψετε το όνομα του τρομοκράτη στη λεζάντα,
σιγουρευτείτε να ονομάσετε το αρχείο «Breivik.jpeg».
Ας μάθουμε στο Google ότι αυτή είναι η φάτσα του τρομοκράτη."
Και δούλεψε.
Δύο χρόνια μετά την εκστρατεία κατά της Μισέλ Ομπάμα,
η εκστρατεία αυτή κατά του Αντερς Μπέριγκ Μπρέιβικ δούλεψε.
Αν αναζητούσες εικόνα του στο Google μετά το συμβάν, από την Σουηδία,
θα έβλεπες τις εικόνες με τα περιττώματα στα πρώτα αποτελέσματα αναζήτησης,
σαν μικρή διαμαρτυρία.
Κατά παράξενο λόγο, η Google δεν επενέβηκε αυτή τη φορά.
Δεν καθαρίσανε ιδιοχειρώς τα αποτελέσματα αναζήτησης.
Οπότε η μεγάλη ερώτηση είναι,
υπάρχει διαφορά μεταξύ αυτών των δύο περιπτώσεων;
Διαφέρει αυτό που έγινε στην Μισέλ Ομπάμα
από αυτό που έγινε στον Άντερς Μπρέιβικ;
Φυσικά όχι.
Είναι ακριβώς το ίδιο πράμα,
όμως η Google επενέβηκε στην μια περίπτωση κι όχι στην άλλη.
Γιατί;
Επειδή η Μισέλ Ομπάμα είναι έντιμο άτομο, για αυτό.
Κι ο Άντερς Μπέριγκ Μπρέιβικ είναι ποταπός άνθρωπος.
Βλέπετε τι συμβαίνει εδώ;
Γίνεται μια αξιολόγηση ατόμου
και υπάρχει μόνο ένας δυνατός παίκτης στον κόσμο
με την εξουσία να πει ποιος είναι ποιος.
«Συμπαθούμε εσένα, εσένα όχι.
Πιστεύουμε σε εσένα, σε σένα όχι.
Έχεις δίκιο, άδικο. Είσαι σωστός, λάθος.
Είσαι η Ομπάμα, είσαι ο Μπρέιβικ.»
Αυτό είναι δύναμη κατά τη γνώμη μου.
Σας ζητώ λοιπόν να θυμάστε ότι πίσω από κάθε αλγόριθμο
υπάρχει πάντα ένα άτομο,
ένα άτομο με δικές του πεποιθήσεις,
τις οποίες κανένας κώδικας δεν μπορεί πλήρως να εξαλείψει.
Και το μήνυμα μου δεν πάει μόνο στην Google,
αλλά σε όλους παγκόσμια που πιστεύουν στον κώδικα.
Πρέπει να προσδιορίσετε τις δικές σας προκαταλήψεις.
Πρέπει να καταλάβετε ότι είστε άνθρωποι
και να αναλογιστείτε τις ευθύνες σας.
Και το λέω αυτό γιατί πιστεύω φτάσαμε σε ένα σημείο
όπου είναι απόλυτα αναγκαίο
να δέσουμε αυτά τα δύο μαζί πάλι, σφικτά:
τις ανθρωπιστικές επιστήμες και την τεχνολογία.
Πιο σφικτά από ποτέ.
Αν μη τι άλλο, για να θυμόμαστε ότι η θαυμάσια σαγηνευτική ιδέα
του αμερόληπτου, καθαρού αποτελέσματος αναζήτησης
είναι και μάλλον θα παραμείνει ένας μύθος.
Ευχαριστώ για τον χρόνο.
(Χειροκρότημα)
Cuando voy a una escuela y hablo con los estudiantes,
siempre les pregunto lo mismo:
¿Por qué googlean?
¿Por qué escogen Google como su motor de búsqueda?
Extraño y todo, siempre dan las mismas 3 respuestas.
Uno: "Porque funciona",
que es una gran respuesta; por eso yo también googleo.
Dos: --alguno dirá--
"No conozco ninguna otra alternativa".
No es una respuesta igual de buena y siempre respondo diciendo:
"Intenten googlear 'motor de búsqueda',
puede que encuentren un par de alternativas interesantes".
Y por último, pero no menos importante:
inevitablemente, un estudiante levantará la mano y dirá:
"Con Google, estoy seguro de que siempre obtendré el resultado más imparcial".
Seguro de que siempre obtendré el resultado más imparcial.
Como hombre de humanidades,
aunque hombre de humanidades digitales,
esto me eriza la piel,
aunque también veo que esa confianza, la creencia en el resultado imparcial,
es una piedra angular de nuestro amor colectivo y del valor que damos a Google.
Les mostraré por qué, filosóficamente, eso es casi un imposible.
Pero déjenme primero profundizar, solo un poco, en un principio básico
que hay detrás de toda consulta y que algunas veces parece que olvidamos.
Cuando vayan a googlear,
empiece preguntándose lo siguiente: "¿Busco un hecho aislado?".
¿Cuál es la capital de Francia?
¿Cuáles son los componentes básicos de una molécula de agua?
Listo, googleelo.
No hay un grupo de científicos que estén a punto de probar
que en realidad es Londres y H30.
Uno no ve una gran conspiración en esas cosas.
Estamos de acuerdo, a escala global,
sobre cuáles son las respuestas a estos hechos aislados.
Pero si uno complica la consulta un poco y pregunta, por ejemplo:
"¿Por qué hay un conflicto entre Israel y Palestina?".
Entonces, ya no busca un hecho particular,
uno busca conocimiento,
que es algo mucho más complicado y delicado.
Y para llegar al conocimiento,
hay que poner 10, 20 o 100 hechos sobre la mesa
y reconocerlos y decir: "Sí, son todos ciertos."
Pero al ser lo que soy, joven o viejo, negro o blanco, gay o heterosexual,
los valoraré de manera diferente.
Y diré: "Sí, esto es cierto,
pero esto es más importante para mí que aquello".
Y en este punto es que se vuelve interesante,
porque es ahí donde nos volvemos humanos.
Ahí es cuando empezamos a discutir, a ser sociedad.
Para llegar realmente a alguna parte, necesitamos filtrar todos los hechos,
a través de amigos, vecinos, padres, niños,
compañeros de trabajo y periódicos y revistas,
y así finalmente estar basados en un conocimiento real,
algo en lo que poco puede ayudar un motor de búsqueda.
Les prometí un ejemplo solo para mostrar por qué es tan difícil
llegar al punto de verdadero conocimiento limpio, objetivo,
como alimento del pensamiento.
Llevaré a cabo un par de consultas simples, consultas de búsqueda.
Vamos a empezar con "Michelle Obama"
la Primera Dama de EE. UU.
Y vamos a buscar por imágenes.
Funciona muy bien, como se puede ver.
Es un resultado de búsqueda perfecto, más o menos.
Solo está ella en la foto, ni siquiera el Presidente.
¿Cómo funciona esto?
Bastante sencillo.
Google lo hace con mucha inteligencia, pero es algo bastante sencillo,
reparan en dos cosas antes que nada.
Primero, ¿cuál es la leyenda a pie de foto en cada sitio web?
¿Dice "Michelle Obama" a pie de foto?
Bastante buena indicación de que en realidad ella está allí.
Segundo, Google explora en el archivo de imagen,
el nombre del archivo subido a la página web.
¿Se llama "MichelleObama.jpeg"?
Buena señal de que Clint Eastwood no está en la foto.
Uno tiene esos criterios y se obtiene un resultado de búsqueda como este. Casi.
En 2009, Michelle Obama fue víctima de una campaña racista,
donde la gente empezó a insultarla a través de resultados de búsqueda.
Había una imagen distribuida ampliamente a través de Internet
con su cara distorsionada para que pareciera un mono.
Y esa foto fue publicada por todas partes.
Y la gente la publicó muy a propósito,
para llegar hasta allí en los resultados de búsqueda.
Se aseguraron de escribir "Michelle Obama" en la foto
y se aseguraron de cargar la imagen como 'MichelleObama.jpeg' o similares.
Uds. entienden por qué, para manipular el resultado de búsqueda.
Y funcionó, también.
Así que cuando se googleaba 'Michelle Obama' por imágenes en 2009,
esa imagen distorsionada como mono aparecía entre los primeros resultados.
Los resultados son de autolimpieza,
y eso es parte de belleza de esto,
porque Google mide la relevancia cada hora, cada día.
Sin embargo, Google no se conformó esta vez,
pensaron: "Eso es racista y un mal resultado de búsqueda
y vamos a limpiar esto manualmente.
Escribiremos algo de código para arreglarlo".
Lo hicieron.
Y no creo que nadie aquí crea que haya sido una mala idea.
Yo tampoco.
Pero un par de años más tarde,
lo más googleado del mundo fue Anders,
Anders Behring Breivik,
quien hizo lo que hizo.
El 22 de julio en 2011,
un terrible día en la historia de Noruega.
Este hombre, un terrorista, voló un par de edificios del gobierno
a poca distancia de donde estamos ahora en Oslo, Noruega,
y luego viajó a la isla de Utoya
y disparó y mató a un grupo de niños.
Casi 80 personas murieron ese día.
Y un montón de gente describiría este acto de terror como dos pasos,
que hizo dos cosas: hizo explotar los edificios y disparó a esos niños.
No es verdad.
Fueron tres pasos.
Hizo explotar esos edificios, disparó a esos niños,
y se sentó y esperó a que el mundo lo googleara.
Y preparó los tres pasos igualmente bien.
Y si hubo alguien que inmediatamente entendió esto,
fue un desarrollador sueco de webs,
un experto en motores de búsqueda de Estocolmo, llamado Nikke Lindqvist.
También es un hombre muy político
y estaba bien en las redes sociales, en su blog y en Facebook.
Y dijo a todo el mundo,
"Si hay algo que este tipo quiere en este momento,
es controlar su propia imagen.
Veamos si podemos distorsionar eso.
Veamos si nosotros, el mundo civilizado, podemos protestar contra lo que hizo
insultándolo en sus resultados de búsqueda".
¿Y cómo?
Dijo a todos sus lectores lo siguiente:
"Busquen en Internet,
encuentren fotos de caca de perro en las aceras
encuentren fotos de caca de perro en las aceras,
publíquenlas en sus feeds, en sus sitios web, en sus blogs.
Asegúrense de escribir el nombre del terrorista en la imagen,
asegúrese de nombrar el archivo de imagen así 'Breivik.jpeg'.
Enseñemos a Google que ese es el rostro del terrorista".
Y funcionó.
Dos años después de la campaña contra Michelle Obama,
funcionó esta campaña de manipulación contra Anders Behring Breivik.
Al googlear por imágenes de él semanas tras lo acaecido el 22 de julio en Suecia,
se verían imágenes de la caca de perro arriba de los resultados de búsqueda,
como una pequeña protesta.
Por extraño que parezca, Google no intervino en esta ocasión.
No intervino y no limpió manualmente los resultados de búsqueda.
Así la pregunta del millón es
¿hay algo diferente entre estos dos acontecimientos?
¿Hay algo diferente entre lo que pasó con Michelle Obama
y lo que le pasó con Anders Behring Breivik?
Por supuesto que no.
Es exactamente lo mismo,
sin embargo, Google intervino en un caso y no en el otro.
¿Por qué?
Debido a que Michelle Obama es una persona honorable, por eso,
y Anders Behring Breivik es una persona despreciable.
¿Ven lo que pasa?
Se evalúa a una persona
y solo hay un poder en el mundo
con autoridad para decidir quién es quién.
"Le gusta, le disgusta.
Creemos en ti, no creemos en ti.
Tienes razón, te equivocas. Eres verdad, eres falso.
Tú eres Obama y tú Breivik".
Ese es poder sin igual.
Por eso les recuerdo que detrás de cada algoritmo
hay siempre una persona,
una persona con un conjunto de creencias personales
que ningún código puede erradicar completamente.
Y mi mensaje va no solo a Google,
sino a todos los creyentes en la fe de código del mundo.
Es necesario identificar su propio sesgo personal.
Es necesario comprender que uno es humano
y, en consecuencia, asumir la responsabilidad
Y digo esto porque creo que hemos llegado a un punto
en que es absolutamente imperativo
atar esos lazos de nuevo, de forma más ajustada:
las humanidades y la tecnología.
Más apretados que nunca.
Y para recordarnos que esa idea maravillosamente seductora
del resultado de búsqueda limpio imparcial
es, y probable siga siendo, un mito.
Gracias por tu tiempo.
(Aplausos)
من هر موقع به مدرسهای میروم و با دانشآموزها حرف میزنم
همیشه یک سوال را میپرسم:
چرا از گوگل استفاده میکنید؟
چرا گوگل، موتور جستجوگر انتخابی شماست؟
عجیب است که هر دفعه ۳ جواب مشابه میگیرم.
یک، "چون جواب میده"
که خیلی جواب خوبیه ؛ من هم به همین دلیل از گوگل استفاده میکنم
دوم، یک نفر خواهد گفت،
"من واقعاً گزینۀ دیگهای نمیشناسم".
که خیلی پاسخ خوبی نیست و من معمولا اینطور جواب میدم که :
"سعی کن کلمۀ «موتور جستجو» رو گوگل کنی،
ممکنه جایگزینهای جالبی پیدا کنی"
و سومی که آخرین اما بیاهمیتترین نیست،
دانشآموزی دستش رو بلند میکنه و میگه،
"با گوگل، همیشه مطمئنم که بهترین نتیجه بیطرفانه رو میگیرم"
همیشه مطمئنترین راه برای یافتن بهترین نتیجۀ بیطرفانه است.
حالا، به عنوان فرد متخصص در علوم انسانی
البته متخصص در علوم انسانی دیجیتالی،
این جواب از وحشت من رو مورمور میکنه،
حتی اگه این رو بفهمم که آن اطمینان و ایدۀ بی طرفانه بودن نتایج
برای نشان دادن علاقه و قدردانی ما به گوگل خیلی مهمه.
میتونم بهتون نشون بدم که به طور منطقی تقریباً غیر ممکنه.
اما اجازه بدید اول توضیح بیشتری بدم راجع به اصول اولیهای
که پشت هر درخواست جستجو وجود داره و ما گاهی اونها رو فراموش میکنیم.
خب هر موقع که شما شروع به جستجو چیزی در گوگل میکنید،
اول از خودتون بپرسید: «آیا من دنبال یک حقیقت ثابت هستم"
پایتخت فرانسه کجاست؟
ساختار مولکولی آب چیست؟
عالیه -- به گوگل کردن ادامه بدید.
گروهای از دانشمندان نیستند که
پی ثابت کردن این باشند که لندن و H30 است.
در این مسائل زد و بندی وجود نداره.
ما در همه جای دنیا قبول داریم
که جواب این مدل واقعیتهای ثابت چیه.
اما اگه یه مقدار سوال رو پیچیده کنید وچیزی مثل این بپرسید،
"درگیری اسراییل و فلسطین برای چیست؟"
شما دیگه دنبال یک جواب ثابت نیستید،
شما اطلاعاتی می خواهید که
یک جورایی پیچیدهتر و ریزبینانهتره.
و برای رسیدن به این دانش،
شما باید ۱۰ یا ۲۰ یا ۱۰۰ مدل حقیقت رو بررسی کنید
و درستی آنها رو قبول کنید و بگید، "آره، همۀ اینا درسته."
اما نسبت به اینکه من چه کسی هستم
جوان یا پیر، سفید یا سیاه، همجنسباز یا دگرجنسخواه،
آنها رو متفاوت ارزشگذاری میکنم.
واینطور خواهم گفت،"بله،این درسته،
اما این از آن برام مهمتره"
و اینجاست که موضوع جالب میشه،
چون اینجاست که ما تبدیل به انسان میشویم.
اینجا ما بحث کردن رو شروع میکنیم تا اجتماعی روشکل دهیم.
و اگر واقعا بخواهیم به نتیجهای برسیم لازمه همینجا همه حقایق رو فیلتر کنیم،
از طریق دوستان، همسایهها والدین و بچهها
و همکاران و روزنامهها و مجلهها،
تا بالاخره به آن دانش واقعی برسیم.
دانشی که یه موتور جستجو کمک خیلی کمی برای رسیدن بهش می کنه.
خب، من قول دادم یک مثال بزنم تا نشان بدم چرا اینقدر سخته که
به یک دانش حقیقی، پاک و عملی برسیم--
بعنوان غذای برای روح.
چندتایی موضوع ساده را برای جستجو طرح می کنم.
با " میشل اوباما " شروع می کنیم،
بانوی اول ایالات متحده آمریکا.
بر روی قسمت عکسها کلیک میکنیم.
همانطور که میبینید همه چی خوبه.
این کم و بیش نتیجهای عالی برای جستجوست.
فقط و فقط عکسهای میشل اوباما، حتی بدون رئیس جمهور.
این چطوری کار می کنه؟
خیلی ساده است.
گوگل برای این کار از هوش زیادی استفاده میکنه ولی خیلی ساده است،
آنها به دو چیز بیشتر از هر چیز دیگه نگاه میکنند.
اول، در هر وبسایتی چه چیزی در توضیح زیر عکس نوشته شده؟
آیا کلمۀ "میشل اوباما" زیر عکس آورده شده؟
معیار خیلی خوبی که نشون میده واقعاً خود او تو این عکسهاست.
دوم، گوگل به فایل عکس نگاه میکنه،
نام فایل همونطور که در سایت آپلود شده.
دوباره، آیا نام فایل «MichelleObama.jpeg»هست؟
نشانه خوبیه که این عکس کلینت ایستوود نیست.
پس، شما با این دو تا به جواب جستجوی خود میرسید-- تقریباً.
حالا، در سال ۲۰۰۹، میشل اوباما قربانی یک کمپین نژادپرستانه شد،
و مردم ازطریق نتایج جستجوی اسمش توهین به او رو شروع کردند.
یه عکسی به طور گسترده در اینترنت پخش شد که
چهره او به صورت میمون درست شده بود.
و آن عکس همه جا منتشر شد.
و مردم خیلی هدفمند آن رو منتشر کردند،
که در نتایج جستجو دیده بشه.
آنها از این مطمئن شدن که در موضوع عکس "میشل اوباما" نوشته شده
و اینکه عکس رو با فایل "MichelleObama.jpeg" یا چیزی شبیه به این آپلود کنند.
شما دلیلش رو میدونید -- که نتایج سرچ رو دستکاری کنند.
که عملی هم شد.
پس وفتی عکس میشل اوباما رو درسال ۲۰۰۹ گوگل میکردی،
عکس اون میمون دستکاری شده جزء اولین نتایج جستجو بود.
حالا، نتایج خود به خود پاکسازی میشوند،
و این یک جورایی زیبایی قضیه است،
چون گوگل هر روز و هر ساعت روابط رو می سنجه.
به هر حال، گوگل اینبار بیکار نماند،
آنها فکر کردند، "این قضیه نژادپرستی است، پس این نتایج جستجو خوب نیستند،
و آنها رو باید به صورت دستی پاک کنیم.
ما یک سری کدها رو مینویسیم و آن رو درستش میکنیم"
و این کارو کردن
و فکر نمیکنم کسی تو این اتاق فکر کنه که ایدۀ بدی بوده.
منم فکر نمیکنم.
اما بعدها، چندین سال که میگذره،
و آندرس، بیشترین اسم گوگل شده در جهان،
آندرس برینگ بریویک،
این کار رو انجام داد.
۲۲ ژوئیه ۲۰۱۱،
یه روز وحشتناک در تاریخ نروژه.
این مرد تروریست، چندین ساختمان دولتی رو منفجر کرد
که از جایی که ما الان هستیم، اسلو، نروژ فاصله ای ندارد.
و بعدش به جزیره اوتوئیا میره
و به گروهی از کودکان تیرانداری میکنه و آنها رو میکشه.
.نزدیک به ۸۰ نفر آن روز مردند.
خیلیها این حرکت تروریستی رو در دو مرحله تشریح کردند،
او دو کار انجام داد: ساختمان ها رو منفجرکرد و به اون بچه ها شلیک کرد.
این درست نیست.
سه مرحله وجود داشت.
او ساختمانها رو منفجر کرد، به آن بچهها شلیک کرد،
و نشست و منتظر ماند تا دنیا در گوگل جستجوش کنه.
و آن هر سه مرحله رو به خوبی انجام داد.
و اگر کسی بود که این رو به سرعت متوجه شه،
یک سازنده وب سوئدی بود،
یک متخصص بهینهساز وب در استکهلم، به نام Nikke Lindqvist.
علاوه بر این او بسیار سیاستمدار بود
و او به درستی در رسانههای اجتماعی، در وب سایت خودش و فیس بوک حضور داشت،
و به همه گفت
«اگر چیزی باشد که این شخص همین الان آن رو بخواهد،
کنترل وجهه شخصیش هست.
بگذارید اگر میتونیم او رو خراب کنیم
بگذارید اگر میتونیم در این جهان متمدن، اعتراض خود رو نسبت به اعمالش اعلام کنیم
از طریق توهین کردن به نتایج جستجوی نامش.»
و چطور ممکن بود؟
او به همه خوانندگانش این مطالب رو گفته،
« به اینترنت بروید،
تصاویر کثافت کاری سگ در پیاده روها رو پیدا کنید--
و آن رو در وب سایتها و بلاگها منتشر کنید.
مطمئن شوید که نام تروریست رو در عنوان بنویسید،
مطمئن شوید که نام فایل تصویر "Breivik.jpeg" هست
بزارید به گوگل بفهمانیم که این تصویر تروریست است.»
و این جواب میده.
دو سال بعد از آن کمپین علیه میشل اوباما،
این کمپین علیه آندرس برینگ بریویک، جواب داد.
اگر شما تصویر او رو برای اتفاق ۲۲ ژوئیه سوئد جستجو کنید
خواهید دید که تصاویر کثافت کاری سگها تعداد زیادی از نتایج را شامل میشود،
به همراه کمی اعتراض.
و اتفاقا گوگل این بار مداخله نکرده است.
آنها مداخله نکردند و به صورت دستی نتایج جستجو رو پاک نکردند.
خب سوال با ارزشی که مطرح میشه،
آیا واقعا تفاوتی بین این دو اتفاق وجود دارد؟
آیا تفاوتی بین آنچه برای میشل اوباما
و آندرس برینگ بریویک، اتفاق افتاد وجود دارد
مسلما نه
انها کاملا یکسان بودند
در حالی که گوگل در یکی مداخله کرد و در دیگری نه
چرا؟
چون میشل اوباما شخص قابل احترامی است،
و آندرس برینگ بریویک شخصی نفرتانگیز.
ببینید آنجا چه اتفاقی افتاد.
ارزیابی یک شخص اتفاق میافتد
و فقط یک بازیگر قدرتمند در جهان وجود دارد
با این مرجعیت که بگوید کی به کیست.
«ما شما رو دوست داریم، ما شما رو دوست نداریم.
ما به شما اعتقاد داریم، ما به شما اعتقاد نداریم.
حق با شماست، حق با شما نیست. شما اشتباه میکنید یا درست میگویید.
شما اوباما هستید، و شما بریویک.»
این قدرت است اگر قادر به دیدنش باشیم.
حالا از شما میخوام که این رو بخاطر بسپرید که پشت هر الگوریتمی
همیشه یک شخصی هست،
شخصی با یک سری اعتقادات فردی
که هیچ کدی توان حذف کردن آن رو نداره.
و پیام من نه تنها برای گوگل هست
بلکه برای تمام باورمندان آن کد در سراسر جهان است.
شما باید تمایلات خودتون رو مشخص کنید.
شما باید بدونید که یک انسان هستید
و متعاقبا مسئولیتش رو قبول کنید
و به این دلیل این رو میگم چون باور دارم به این خواهم رسید.
زمانی که کاملا ضروریه
و ما این پیوندها را محکمتر از قبل کردیم:
انسانیت و فناوری.
محکمتر از همیشه.
و اگر هیچ چیز دیگر نباشد برای یادآوری این ایدهاغوا کننده
برای داشتن جستجویی بدون جهتگیری و پاک
و احتمالا برای یاداوری این که یک افسانه است.
ممنون از وقت شما.
(تشویق)
Kun käyn koulussa puhumassa opiskelijoille,
kysyn heiltä aina saman kysymyksen:
Miksi googlaat?
Miksi valitset hakukoneeksesi Googlen?
Merkillistä, että saan aina kolme samaa vastausta.
Yksi: "Koska se toimii",
mikä on hyvä vastaus; siksi minäkin googlaan.
Kaksi, joku sanoo:
"En tiedä mitään vaihtoehtoja."
Se ei ole yhtä hyvä vastaus, ja yleensä vastaan:
"Yritä googlata sanalla 'hakukone',
saatat löytää pari mielenkiintoista vaihtoehtoa."
Ja viimeisenä, vaan ei vähäisimpänä, kolmanneksi,
väistämättä, yksi opiskelija nostaa kätensä ja sanoo:
"Googlella voin olla varma, että saan aina parhaan ja puolueettoman hakutuloksen."
Varma, että saa aina parhaan, puolueettoman hakutuloksen.
Humanistina,
vaikkakin digitaalisena humanistina,
tuo nostaa karvani pystyyn,
vaikka minäkin ymmärrän, että luottamus, idea puolueettomasta hakutuloksesta,
on kollektiivisesti rakastamamme Googlen arvostuksen kulmakivi.
Näytän teille kuinka tämä on filosofisesti lähes mahdotonta.
Haluan kuitenkin ensin hieman tarkentaa pääperiaatetta
jokaisen haun takana, joka näyttää joskus unohtuvan.
Aina kun ryhdyt googlaamaan jotain,
aloita kysymällä itseltäsi: "Etsinkö yksittäistä faktaa?"
Mikä on Ranskan pääkaupunki?
Mistä osista vesimolekyyli muodostuu?
Hyvä -- googlaa pois.
Ei ole ryhmää tiedemiehiä, joka on juuri todistamaisillaan,
että itse asiassa Lontoo ja H30.
Et löydä suuria salaliittoja näiden asioiden tiimoilta.
Olemme globaalisti samaa mieltä
näistä yksittäisistä faktoista.
Mutta jos kysymyksesi on vähän mutkikkaampi, kuten:
"Mistä Israelin ja Palestiinan konflikti johtuu?"
Et olekaan enää etsimässä yksittäistä faktatietoa,
olet etsimässä tietämystä,
joka on paljon monimutkaisempaa ja hienosyisempää.
Saavuttaaksesi tiedon
sinun on tuotava pöydälle 10 tai 20 tai 100 faktaa
ja myöntää: "Kyllä, nämä kaikki ovat totta."
Mutta riippuen siitä kuka olen,
nuori vai vanha, tumma vai valkoinen, homo vai hetero,
arvotan ne eri tavalla.
Ja sanon, "Kyllä, totta,
mutta tämä on minulle tärkeämpää kuin tuo."
Tässä kohtaa asiat käyvät mielenkiintoisiksi,
koska mukaan tulee ihmisyytemme.
Tässä kohtaa alamme kiistellä, muodostaen yhteiskunnan.
Ja päästäksemme johonkin tulokseen, meidän täytyy suodattaa kaikki faktat,
ystävien, naapureiden, vanhempien, lasten,
työkavereiden, sanoma- ja aikakauslehtien,
löytääksemme lopulta oikean tiedon,
johonkin, jonka saavuttamisessa hakukone on kehno apuri.
Lupasin näyttää teille esimerkin, miksi on niin vaikeaa
saavuttaa oikea, puhdas, objektiivinen tieto --
antaa ajattelun aihetta.
Aion tehdä pari yksinkertaista hakukyselyä.
Aloitamme haulla "Michelle Obama",
Yhdysvaltain ensimmäinen nainen.
Ja klikkaamme kuvahakuun.
Toimii oikein hyvin, kuten näette.
Enemmän tai vähemmän täydellinen hakutulos.
Juuri hän on näissä kuvissa, ei näy edes presidenttiä.
Miten tämä toimii?
Aika yksinkertaisesti.
Google käyttää yksinkertaista nokkeluutta saavuttaakseen tämän,
he etsivät ennen muuta kahta asiaa.
Ensinnäkin, mitä on kuvan alla kuvatekstissä kullakin sivulla?
Lukeeko kuvan alla "Michelle Obama"?
Melko hyvä merkki, että siinä todella on hän.
Toiseksi Google tutkii kuvatiedostoa,
nimeä, jolla tiedosto on ladattu nettisivulle.
Jälleen, onko se nimetty "MichelleObama.jpeg"?
Aika hyvä merkki siitä, ettei kuva esitä Clint Eastwoodia.
Näiden kahden tiedon varassa pääset tällaiseen tulokseen -- melkein.
Vuonna 2009 Michelle Obama joutui uhriksi rasistiseen kampanjaan,
jossa ihmiset ryhtyivät häpäisemään häntä hakutulosten kautta.
Internetissä jaeltiin laajasti kuvaa,
jossa hänen kasvonsa oli vääristetty näyttämään apinalta.
Tuota kuvaa oli julkaistu ympäriinsä.
Ihmiset julkaisivat sitä hyvin, hyvin tietoisesti,
saadakseen sen hakutulosten kärkeen.
He varmistivat, että kuvatekstissä luki "Michelle Obama"
ja että kuva tuli ladatuksi tidostonimellä "MichelleObama.jpeg", tai vastaavalla.
Ymmärrätte miksi -- manipuloidakseen hakutuloksia.
Ja se myös toimi.
Kun googlasit vuonna 2009 kuvahaulla "Michelle Obama",
tuo vääristynyt apinan kuva ilmaantui ensimmäisten hakutulosten joukkoon.
Nyt tulokset ovat puhdistuneet,
ja tässä on tavallaan asian kauneus,
koska Google arvioi tulosten relevanssia joka tunti, joka päivä.
Tuolloin Google ei kuitenkaan ratkaissut asiaa näin,
vaan he ajattelivat: "Tuo on rasistista ja hakutulos on huono
ja puhdistamme sen manuaalisesti.
Kirjoitamme vähän koodia ja korjaamme sen."
Niin he tekivätkin.
En usko kenekään tässä huoneessa ajattelevan, että se oli huono idea.
En minäkään.
Sitten muutama vuosi sitten,
maailman googlatuin Anders,
Anders Behring Breivik,
teki mitä teki.
Heinäkuun 22. päivä vuonna 2011,
Norjan historian hirvittävin päivä.
Tämä mies, terroristi, räjäytti pari hallintorakennusta
kävelymatkan päässä siitä, missä nyt olemme Oslossa, Norjassa
sitten hän suuntasi Utøyan saarelle
ja ampui ja tappoi joukon lapsia.
Lähes 80 ihmistä kuoli sinä päivänä.
Useat ihmiset kuvailisivat tätä terroritekoa kaksivaiheisena,
että hän teki kaksi asiaa: hän räjäytti rakennuksia ja ampui nuo lapset.
Se ei ole totta.
Vaiheita oli kolme.
Hän räjäytti rakennukset, ampui lapset,
ja istui odottamaan, että maailma googlaisi häntä.
Hän valmisteli kaikki kolme vaihetta yhtä huolellisesti.
Tämän ymmärsi välittömästi
ruotsalainen web-kehittäjä,
hakukone optimointiin erikoistunut Nikke Lindqvist Tukholmasta.
Hän on myös hyvin poliittinen kaveri
ja hän oli oikeassa sosiaalisessa mediassa, blogissaan ja Facebookissa.
Hän kertoi kaikille:
"Juuri nyt tämä kaveri haluaa
hallita kuvaa itsestään.
Katsotaanpa voimmeko vääristää sitä.
Katsotaan voiko sivistynyt maailma protestoida sitä vastaan, mitä hän teki,
halventamalla häntä koskevia hakutuloksia."
Miten?
Hän kehoitti lukijoita seuraavasti.
"Mene internetiin,
etsi kuvia koiran kakasta jalkakäytävällä --
julkaise niitä syötteissäsi, nettisivuillasi, blogissasi.
Varmista, että kuvatekstissä on terroristin nimi,
varmista, että kuvatiedoston nimi on "Breivik.jpeg".
Opetetaanpa Googlelle, että nuo ovat terroristin kasvot."
Ja se toimi.
Kaksi vuotta Michelle Obamaa vastaan suunnatun kampanjan jälkeen,
tämä manipulaatiokampanja Anders Behring Breivikiä vastaan toimi.
Jos googlasit kuvia hänestä Ruotsissa viikkoja 22.7. tapahtumien jälkeen,
näit hakutulosten kärjessä kuvan koirankakasta,
kuin pienenä protestina.
Kumma kyllä, Google ei puuttunut tähän tällä kertaa.
He eivät tulleet väliin ja puhdistaneet manuaalisesti hakutuloksia.
Miljoonan dollarin kysymys,
onko näiden kahden tapahtuman välillä mitään eroa?
Onko mitään eroa siinä, mitä tapahtui Michelle Obamalle
ja mitä tapahtui Anders Behring Breivikille?
Ei tietenkään.
Se on täsmälleen sama asia,
vaikka Google puuttuikin näistä vain toiseen tapaukseen.
Miksi?
Koska Michelle Obama on kunnioitettava henkilö,
ja Anders Behring Breivik on halveksittava henkilö.
Mitä tapahtui?
Kyseessä on henkilön arvottaminen,
ja maailmassa on vain yksi voimakas toimija,
jolla on valta sanoa kuka on kuka.
"Pidämme sinusta, emme pidä sinusta.
Uskomme sinuun, emme usko sinua.
Olet oikeassa, olet väärässä. Olet totta, olet epäaito.
Sinä olet Obama ja sinä olet Breivik."
Se vasta on voimaa.
Joten pyydän teitä muistamaan, että jokaisen hakualgoritmin takana
on aina ihminen,
ihminen henkilökohtaisine uskomuksineen,
eikä niitä voida koskaan täysin poistaa koodista.
Viestini ei ole tarkoitettu pelkästään Googlelle,
vaan kaikille koodiuskovaisille ympäri maailmaa.
Sinun täytyy tunnistaa omat ennakkoasenteesi.
Sinun tulee ymmärtää olevasi ihminen
ja kantaa siitä vastuu.
Sanon tämän, koska uskon, että olemme saavuttaneet pisteen,
jossa on ehdottoman välttämätöntä
sovittaa yhteen uudestaan, lujemmin:
ihmisyys ja teknologia.
Lujemmin kuin koskaan.
Ja muistuttaakseni meitä siitä, että ihanan houkutteleva ajatus
puolueettomasta, puhtaasta hakutuloksesta
on myytti ja todennäköisesti pysyy sellaisena.
Kiitos ajastanne.
(Suosionosoituksia)
Quand je visite une école et parle aux élèves,
je leur demande toujours la même chose :
Pourquoi utiliser Google ?
Pourquoi Google est-il votre moteur de recherche préféré ?
Curieusement, j'obtiens toujours trois réponses.
Premièrement : « Parce que ça marche. »
Bonne réponse ; c'est pour ça que moi aussi, je google.
Ensuite, quelqu'un d'autre dira :
« Je ne connais pas d'autres alternatives. »
Cette réponse est moins bonne. J'y réponds d'habitude par :
« Tape moteur de recherche dans Google,
tu trouveras sûrement des alternatives valables. »
Enfin et surtout,
inévitablement, un élève lèvera la main pour dire :
« Avec Google, je suis sûr de toujours obtenir le meilleur résultat impartial. »
Sûr de toujours obtenir un résultat impartial.
En tant qu'humaniste,
quoiqu'humaniste numérique,
ça me fait grincer des dents.
Je me rends certes compte que notre confiance en un résultat neutre
est la clef de voûte de notre amour et de notre estime pour Google.
Je vais cependant vous démontrer pourquoi c'est une utopie philosophique.
En préambule, je vais esquisser le principe de base, souvent oublié,
qui rend possible chacune de nos recherches.
Quand on fait une recherche sur Google,
on doit se demander si on est à la recherche d’un fait isolé ou pas.
Quelle est la capitale de la France ?
Quels sont les éléments d'une molécule d'eau ?
Super - on lance la recherche.
Le groupe de scientifiques qui vous prouvera
que c'est Londres et H3O n'est pas encore né.
Pas de conspiration à l'horizon.
Le monde entier accepte ces réponses
à des questions qui portent sur des faits isolés.
Mais quand les questions sont complexes,
« Pourquoi y a-t-il un conflit israélo-palestinien ? », par exemple,
on n'est plus à la recherche d'un fait unique.
On est à la recherche d'intelligence,
ce qui est plus complexe et plus délicat.
Pour acquérir ce savoir,
il faut réunir et recouper 10, 20 ou 100 données,
les reconnaître, les accepter : « Oui, tout ça est exact. »
Cependant, je vais leur accorder une importance variable,
selon qui je suis, jeune, âgé, noir, blanc, gay ou hétéro.
Je reconnais l'exactitude des faits,
mais ceci est plus important à mes yeux que ça.
C'est là que ça devient intéressant,
car c'est là que l'on devient humain.
C'est à cet instant que l'on commence à délibérer et former une société.
Pour y réussir, on doit filtrer tous les faits,
à travers nos amis et voisins, nos parents et enfants,
nos collègues, les journaux et magazines.
Tous ces filtres nous aident à transformer les données en intelligence,
ce qui est le point faible d'un moteur de recherche.
Je vous ai promis un exemple illustratif de la difficulté de créer un vrai savoir,
pur et objectif.
J'espère que ça vous fera réfléchir.
Réalisons quelques recherches ensemble.
Commençons avec « Michelle Obama »,
la Première Dame des États-Unis.
On va cliquer sur les photos.
Ça fonctionne très bien, comme vous le voyez.
C'est un résultat parfait pour notre recherche.
Elle est seule sur la photo, sans même le Président.
Comment ça fonctionne ?
En fait, c'est assez simple.
Google est très malin, mais la manière est simple.
Le système recherche avant tout deux choses.
D'abord, le libellé de la légende des photos sur chaque site web.
Est-ce « Michelle Obama » ?
Voilà une bonne indication sur son identité.
Ensuite, Google regarde le nom du fichier lui-même,
tel qu'il est téléchargé sur le site.
Dans ce cas aussi, ça s'appelle « MichelleObama.jpeg ».
Un indice nous laissant penser que ce n'est pas Clint Eastwood.
Les deux indices croisés permettent donc d'obtenir un résultat comme celui-ci.
En 2009, Michelle Obama a été la victime d'une campagne raciste.
Des gens l'ont insultée à travers les résultats de recherche.
Une photo a été publiée sur internet
dans laquelle son visage a été déformé pour ressembler à un singe.
Cette photo a été publiée partout.
Les gens l'ont postée délibérément,
pour qu'elle s'affiche en haut des résultats.
Ils se sont assurés que la légende soit « Michelle Obama »,
et que le nom du fichier téléchargé soit « MichelleObama.jpeg ».
Dans un seul but : manipuler le résultat des recherches.
Et ça a fonctionné.
Quand on cherchait une image d'elle sur Google en 2009,
cette photo de singe déformée arrivait dans les premiers résultats.
Les résultats sont en fait auto-correctifs.
C'est ça qui fait la beauté du système.
Google mesure la pertinence des données en continu.
Or, dans ce cas précis, Google est allé plus loin.
Ils ont pensé : « C'est un acte raciste, et le résultat est erroné.
Revenons en arrière, et corrigeons manuellement.
On va écrire un code et corriger ça ! »
Aussitôt dit, aussitôt fait.
Je suis absolument sûr que tout le monde ici trouve l'idée bonne.
Moi aussi.
Cependant, quelques années plus tard,
l'Anders le plus recherché sur Google,
Anders Behring Breivik,
a commis les actes que l'on sait.
Le 22 Juillet 2011 restera un jour noir dans l'histoire de la Norvège.
Cet homme, un terroriste, a fait sauter quelques bâtiments administratifs,
à un jet de pierre d'Oslo, où nous sommes.
Il s'est ensuite rendu dans l'ile d'Utøya
et a tiré sur un groupe d'enfants.
Presque 80 personnes sont mortes ce jour-là.
La plupart des gens pensent que cet acte horrible a deux étapes.
Un, il fait sauter les immeubles ; et deux, il tue ces enfants.
Ce n'est pas exact.
Il y a 3 étapes à son plan.
Il fait sauter les immeubles, il tue les enfants,
et trois, il attend que le monde entier le google.
Et il a préparé les 3 étapes minutieusement.
Quelqu'un a compris ça immédiatement :
un développeur web Suédois, Nikke Lindqvist,
spécialisé dans l’optimisation des moteurs de recherche.
Il s’intéresse aussi à la politique.
Il s'est immédiatement connecté aux réseaux sociaux, son blog, FB.
Voici ce qu'il a dit :
« Cet homme veut avant tout contrôler son image.
C'est son objectif principal.
Tentons de déformer ça.
Voyons si on peut, dans la monde civilisé, protester les actes qu'il a commis,
en l'insultant dans les résultats de recherche. »
Comment faire ?
Il a demandé à tous ses lecteurs :
« Allez sur Internet,
trouvez des photos de crottes de chien sur les trottoirs,
des crottes de chien,
et postez-les sur vos sites web, sur vos blogs.
Mentionnez le nom du terroriste dans la légende de la photo,
et donnez au fichier le nom « Brievik.jpeg. »
Apprenons à Google que tel est le visage d'un terroriste. »
Ça a marché.
Deux ans après la campagne contre Michelle Obama,
cette campagne manipulatrice contre Anders Behring Breivik a marché.
Quand on faisait une recherche des semaines après ce 22 Juillet,
cette photo de crottes de chien apparaissait en haut des résultats.
Une petite protestation.
Curieusement, Google n'est pas intervenu cette fois-ci.
Ils n'ont pas nettoyé ces résultats manuellement.
La question à cent balles consiste à savoir
s'il y a une différence entre ces deux événements.
Y a-t-il une différence entre ce qui est arrivé à Michelle Obama
et ce qui est arrivé à Anders Breivik ?
Bien sûr que non.
C'est exactement la même chose.
Cependant, Google est intervenu dans un cas et non dans l'autre.
Pourquoi ?
Parce que Michelle Obama est une personne honorable,
et Anders Breivik est une personne ignoble.
Vous comprenez ce qui se passe ?
On a porté un jugement de valeur sur une personne.
Il n'y a qu'une puissance au monde
pourvue de l'autorité de décider qui est qui.
« On vous aime, on ne vous aime pas.
On croit en vous, on ne croit pas en vous.
Vous avez raison, vous avez tort.
Vous êtes Obama, et vous êtes Breivik. »
Voilà le pouvoir à l'état brut.
C'est pour ça que je vous demande de vous rappeler
que derrière chaque algorithme, il y a toujours une personne,
avec des croyances personnelles,
qu'aucun code ne pourra jamais complètement effacer.
J'adresse mon message à Google,
et à tous les croyants en la programmation.
Vous devez identifier vos propres préjugés.
Vous devez comprendre que vous êtes humain,
et prendre vos responsabilités en conséquence.
Je crois que nous avons atteint un moment où il est impératif
que nous resserrions les liens entre l'humanisme et la technologie,
et que nous les cultivions comme jamais auparavant.
Si vous ne deviez retenir qu'une seule idée :
l'idée séductrice du résultat de recherche neutre, et objectif,
est et restera, un mythe.
Merci pour votre temps.
(Applaudissements)
בכל פעם שאני מבקר בבית ספר ומדבר עם תלמידים,
אני תמיד שואל אותם את אותה שאלה:
למה אתם משתמשים בגוגל?
למה גוגל הוא מנוע החיפוש המועדף עליכם?
באופן מוזר, אני תמיד מקבל את אותן 3 תשובות:
הראשונה: ״כי הוא עובד״,
שזו תשובה מצויינת, זו גם הסיבה שבגללה אני משתמש בגוגל.
שנית, מישהו יאמר:
״אני לא מכיר חלופה אחרת״.
זוהי תשובה פחות טובה ותגובתי לתשובה כזו היא בדרך כלל:
״נסה לערוך חיפוש בגוגל של המילה ׳מנוע חיפוש׳,
אולי תמצא כמה חלופות מעניינות״.
ואחרונה חביבה, התשובה השלישית,
באופן בלתי נמנע אחד או אחת מהתלמידים ירימו את ידם ויאמרו:
״עם גוגל אני בטוח שתמיד אקבל את תוצאת החיפוש הבלתי משוחדת הטובה ביותר״.
בטוח שתמיד אקבל את תוצאת החיפוש הבלתי משוחדת הטובה ביותר.
ובכן, כאדם אנושי
-- ליתר דיוק, אדם אנושי דיגיטלי --
תשובה זו גורמת לי הרגשת אי נוחות,
אף שאני מבין שהאמון הזה, הרעיון הזה של מנוע חיפוש בלתי משוחד
הוא אבן היסוד של רגשות האהבה וההערכה שכולנו רוחשים לגוגל.
אני אראה לכם למה רעיון זה, מבחינה פילוסופית, הינו כמעט בלתי אפשרי.
אבל ראשית הרשו לי לפרט קצת, על העיקרון הבסיסי
שמאחורי כל שאילתת חיפוש, עיקרון שאנו לפעמים נוטים לשכוח.
אז בכל פעם שאתם עורכים חיפוש בגוגל,
שאלו את עצמיכם: ״האם אני מחפש אחר עובדה מבוססת״?
מהי בירת צרפת?
ממה מורכבת מולקולת מים?
נהדר - חפשו בגוגל.
זה לא שישנה קבוצת מדענים שקרובים להוכיח
שהתשובות הן לונדון ו-H3O.
אינכם רואים קונספירציות מטורפות סביב נושאים שכאלה.
ישנה הסכמה כוללת,
על התשובות לעובדות מבוססות מסוג זה.
אבל אם תסבכו קלות את שאלתכם ותשאלו משהו כמו:
״מדוע קיים סכסוך ישראלי-פלסטינאי״?
כבר אינכם מחפשים אחר עובדה בודדת,
הנכם מחפשים אחר ידע,
שהוא דבר הרבה יותר עדין ומורכב.
ובכדי לרכוש ידע,
יש לאסוף 10, 20 או 100 עובדות,
להכיר בקיומן ולומר: ״כן, כל העובדות האלה נכונות״.
אבל בגלל מי שאני,
צעיר או זקן, שחור או לבן, הומו או סטרייט,
אני אעריך אותן באופן שונה.
ואומר: ״כן, זו עובדה נכונה,
אבל העובדה הזו חשובה יותר מהעובדה ההיא״ .
וכאן זה נהיה מעניין.
כי כאן אנו הופכים לאנושיים,
כאן אנו מתחילים להתווכח, לרקום חברה.
ובכדי לעשות עבודה טובה, יש לסנן את כל העובדות שאספנו,
מחברים ושכנים והורים וילדים
וקולגות ועיתונים ומגזינים,
על מנת לרכוש ידע אמיתי,
וזה משהו שקשה להשיג באמצעות מנוע חיפוש.
אז, הבטחתי לכם דוגמה רק כדי להדגים לכם כמה זה קשה
לרכוש ידע אמיתי, נקי ואובייקטיבי --
כחומר למחשבה.
אני אנסה שתי שאילתות חיפוש פשוטות.
נתחיל עם ״מישל אובמה״,
הגברת הראשונה של ארה״ב.
ונלחץ על תמונות.
זה עובד מאוד יפה כפי שאתם רואים.
תוצאת חיפוש מושלמת פחות או יותר.
היא לבדה בתמונה, אפילו בלי הנשיא.
כיצד זה עובד?
פשוט למדי.
אנשי גוגל משתמשים בהרבה חוכמה להשגת תוצאה זו, אבל אם לפשט זאת,
הם מסתכלים בעיקר על שני דברים.
ראשית, מה כתוב בכותרת שמתחת לתמונה בכל אתר?
האם כתוב ״מישל אובמה״ מתחת לתמונה?
זה מצביע כמעט בודאות על כך שזאת אכן היא בתמונה.
שנית, גוגל בוחן את קובץ התמונה,
שם הקובץ שהועלה על האתר.
שוב, האם הוא נקרא ״מישל אובמה.jpeg"?
סיכוי די גבוה שאין זו תהיה תמונה של קלינט איסטווד.
אז בזכות שני אלה פחות או יותר, מתקבלת תוצאת חיפוש שכזו.
ובכן, ב-2009, מישל אובמה הייתה קורבן של מסע תעמולה גזעני,
שבו אנשים ניסו להשמיצה דרך תוצאות שאילתת החיפוש של שמה.
הייתה תמונה שהופצה באתרי אינטרנט רבים
שבה פנייה עוותו בכדי שתדמה לקוף.
ותמונה זו פורסמה באינסוף מקומות.
ואנשים פרסמו תמונה זו עם כוונה ברורה
לגרום לה להגיע לראש דפי תוצאות החיפוש.
הם וידאו שיהיה כתוב ״מישל אובמה״ בכותרת
והם וידאו שהתמונה תועלה בקובץ בשם ״מישל אובמה.jpeg" או משהו דומה.
אתם מבינים למה -- על מנת לתמרן את תוצאות החיפוש.
וזה אכן עבד.
אז בשנת 2009 כשחיפשתם בגוגל תמונות של מישל אובמה,
תמונת הקוף המעוותת הופיעה בראש דפי תוצאות החיפוש.
אבל תוצאות החיפוש מתנקות בעצמן.
וזה בעצם היופי שבהן,
כי גוגל מודד רלוונטיות בכל שעה בכל יום נתון.
אבל בגוגל לא הסכימו עם תוצאה זו,
הם חשבו לעצמם: ״זוהי גזענות, זוהי אינה תוצאת חיפוש רצוייה
ואנו נמחק אותה באופן ידני.
נכתוב איזה קוד ונתקן את תוצאות החיפוש״.
וכך הם עשו.
ואינני חושב שמישהו כאן בחדר זה חושב שזה היה רעיון גרוע.
גם אני לא חושב כך.
אבל אז, חלפו כשנתיים,
והאנדרס הכי פופולרי בחיפוש בגוגל,
אנדרס ברינג בריוויק,
עשה מה שעשה.
ב-22 ליולי 2011,
יום נוראי בהיסטוריה של נורבגיה.
אדם זה, טרוריסט, פוצץ שני בניינים ממשלתיים
מרחק הליכה ממקום המצאותנו ברגע זה באוסלו שבנורבגיה,
ואז הוא נסע לאי אוטייה,
וירה למוות בקבוצת ילדים.
כמעט 80 איש מתו באותו יום.
הרבה אנשים יתארו מעשה טרור זה בשני שלבים,
הוא עשה שני דברים: פוצץ את הבניינים וירה בילדים.
זה לא נכון.
היו שלושה שלבים.
הוא פוצץ את הבניינים, ירה בילדים,
ואז הוא ישב וחיכה שהעולם יבצע עליו חיפוש בגוגל.
והוא תכנן ביסודיות כל אחד משלבים אלה.
ומי שעלה על זה באופן מיידי,
היה מתכנת אינטרנט שוודי,
מומחה משטוקהולם לקידום אתרים במנועי חיפוש בשם ניקה לינדקוויסט.
הוא גם אדם מאוד פוליטי,
והוא יצא כנגד זה במיידיות במדיה החברתית, בבלוג ובדף הפייסבוק שלו.
והוא אמר לכולם:
״אם יש דבר אחד שהאיש הזה רוצה מאוד כרגע,
זה לשלוט בתדמית שלו.
בואו ונראה אם אנו יכולים לעוות את תדמית זו.
בואו ונראה אם אנו, האנשים התרבותיים, יכולים למחות כנגד מעשיו
על ידי שנשמיץ אותו דרך תוצאות שאילתת החיפוש של שמו״.
וכיצד?
הוא אמר לכל קוראיו:
״ערכו חיפוש באינטרנט,
מצאו תמונות של קקי של כלב על מדרכה --
פרסמו אותן בדפי המדייה החברתית שלכם, באתר הבית שלכם, בבלוג שלכם,
ודאו ששמו של הטרוריסט נמצא בכותרת,
ודאו ששם הקובץ של התמונה הוא ״בריוויק.jpeg".
בואו נלמד את מנוע החיפוש של גוגל שכך נראה הטרוריסט״.
וזה עבד.
שנתיים לאחר מסע התעמולה כנגד מישל אובמה,
מסע התעמולה המניפולטיבי הזה כנגד אנדרס ברינג בריוויק עבד.
אם ערכתם חיפוש של תמונות שלו בגוגל, שבועות לאחר מאורעות ה-22 ליולי, משוודיה,
הייתם רואים תמונות קקי של כלב, בראש דף תוצאות החיפוש,
כמחאה קטנה.
באופן מוזר, אנשי גוגל לא התערבו הפעם.
הם החליטו שלא למחוק ידנית את תוצאות החיפוש הללו.
אז שאלת מיליון הדולר היא:
האם יש שוני בין שני המקרים שלפנינו?
האם יש שוני בין מה שקרה למישל אובמה
לבין מה שקרה לאנדרס ברינג בריוויק?
ודאי שלא.
זה בדיוק אותו דבר.
ובכל זאת, גוגל התערב במקרה אחד ולא בשני.
למה?
כי מישל אובמה היא אדם מכובד, זו הסיבה.
ואנדרס ברינג בריוויק הוא אדם נבזה.
אתם מבינים מה קרה פה?
קרה פה תהליך הערכה של אדם,
ויש בעולם רק גורם בר-כח אחד,
עם הסמכות לומר מי הוא מי.
״אנו אוהבים אותך, אנו שונאים אותך.
אנו מאמינים בך, אנחנו לא מאמינים בך.
אתה צודק, אתה טועה. אתה אמיתי, אתה שקרי.
את אובמה ואתה בריוויק״.
זהו בברור שימוש בכח.
אז אני מבקש מכם לזכור שמאחורי כל אלגוריתם
תמיד מסתתר אדם,
אדם עם אמונות אישיות
שאף קוד בעולם לא מסוגל לעקרן.
והמסר שלי מכוון לא רק לגוגל,
אלא לכל מאמיני דת הקוד ברחבי העולם.
אתם צריכים להכיר בנטיות שלכם.
אתם צריכים להבין שאתם אנושיים
ולקחת אחריות בהתאם.
ואני אומר זאת כי אני מאמין שהגענו לנקודה בזמן
שבה בהחלט חייבים
להדק מחדש את הקשרים, ביתר חוזקה:
אנושיות וטכנולוגיה.
הדוקים יותר מתמיד.
ולהזכיר לעצמינו מעל לכל שהרעיון הנפלא והמפתה הזה
של תוצאת חיפוש נקייה ובלתי משוחדת
הינו, וודאי ישאר, אגדה.
תודה על שהקדשתם מזמנכם.
(מחיאות כפיים)
Kada god posjetim neku školu i razgovaram s učenicima,
uvijek ih pitam istu stvar:
Zašto guglate?
Zašto ste odabrali Google kao svoj pretraživač?
Začudo, uvijek dobivam ista tri odgovora.
Prvi, "Zato jer radi,"
što je sjajan odgovor; i ja guglam iz istog razloga.
Drugi, netko će reći,
"Ne znam za druge mogućnosti."
To nije podjednako sjajan odgovor i na to obično uzvraćam,
"Pokušajte guglati riječ 'pretraživač',
mogli biste naći par zanimljivih mogućnosti."
I zadnji, ali ne manje važan, treći,
neizbježno će neki od učenika dignuti ruku i reći,
"S Googleom sam siguran da ću uvijek dobiti najbolji, nepristran rezultat.
Siguran da će uvijek dobiti najbolji, nepristran rezultat pretraživanja.
Kao čovjek od humanističkih znanosti,
premda digitalno humanističkih,
od toga se naprosto naježim,
čak iako, i sam shvaćam da je ta vjera,
ta ideja nepristranog rezultata pretraživanja
kamen temeljac naše kolektivne ljubavi i uvažavanja Googlea.
Pokazat ću vam zašto je to, filozofski gledano, gotovo nemoguće.
No, dozvolite mi da prvo pojasnim, sasvim ukratko, osnovni princip
iza svakog upita za pretragu, koji izgleda ponekad zaboravljamo.
Kada se god spremate nešto guglati
započnite pitajući se ovo: "Tražim li izdvojenu činjenicu?"
Koji je glavni grad Francuske?
Koji su sastavni dijelovi molekule vode?
Sjajno -- odguglajte.
Ne postoji grupa znanstvenika koja bi bila ovako blizu dokaza
da je to ustvari London i H3O.
U tim stvarima nećete vidjeti veliku zavjeru.
U globalu se slažemo
koji su odgovori na ove izdvojene činjenice.
No, ako samo malo zakomplicirate svoje pitanje i upitate nešto poput,
"Zašto postoji izraelsko-palestinski sukob?",
vi više baš ne tražite pojedinu činjenicu,
vi tražite znanje,
što je nešto puno kompliciranije i osjetljivije.
A da bi došli do znanja,
morate prikupiti 10 ili 20 ili 100 činjenica,
potvrditi ih i reći, "Da, sve su one istinite."
Ali, zbog onoga tko sam ja,
mlad ili star, crn ili bijel, gej ili strejt,
vrednovat ću ih različito.
I reći ću, "Da, ovo je istina,
ali ovo mi je važnije od onoga."
I upravo ovdje postaje zanimljivo,
jer ovdje postajemo ljudska bića.
Tu se počinjemo prepirati, formirati društvo.
No, da bismo stvarno nekuda dospjeli, ovdje trebamo filtrirati svoje činjenice,
putem prijatelja i susjeda i roditelja i djece
i suradnika i novina i časopisa,
da bismo na kraju bili potkovani pravim znanjem
u čemu vam je pretraživač slaba pomoć.
Obećao sam vam primjer
samo da pokažem zašto je tako teško doći do
istinskog, čistog, objektivnog znanja --
kao materijal za razmišljanje.
Postavit ću par jednostavnih upita, upita za pretraživanje.
Počet ćemo sa "Michelle Obama",
prvom damom Sjedinjenih država.
I kliknut ćemo za slike.
To stvarno dobro radi, kao što vidite.
Savršen rezultat pretrage, manje više.
Na slici je samo ona, čak nema ni predsjednika.
Kako to funkcionira?
Sasvim jednostavno.
Google koristi puno domišljatosti da bi ovo postigao,
no ukratko, gledaju se dvije stvari prije svega.
Prvo, što piše u tekstu ispod slike na svakoj web stranici?
Piše li "Michelle Obama" ispod slike?
Prilično dobra indikacija da je na slici stvarno ona.
Drugo, Google gleda datoteku slike,
ime datoteke kao takve, prenesene na web stranicu.
Ponovo, zove li se datoteka "MichelleObama.jpeg"?
Prilično dobra indikacija da na slici nije Clint Eastwood.
Dakle, imate to dvoje i dobivate ovakav rezultat pretrage -- skoro.
2009. godine Michele Obama je bila žrtva rasističke kampanje
u kojoj su je ljudi počeli vrijeđati putem rezultata pretrage.
Postojala je slika naširoko rasprostranjena Internetom
na kojoj je njeno lice bilo izobličeno da liči na majmuna.
I ta je slika bila objavljena posvuda.
A ljudi su je objavljivali
vrlo, vrlo promišljeno,
kako bi se pojavila na vrhu rezultata pretrage.
Pazili su da ispod slike pišu "Michelle Obama"
i pazili su da sliku prenose kao "MichelleObama.jpeg" ili tome slično.
Shvaćate zašto --
da bi manipulirali rezultatima pretrage.
I to je stvarno funkcioniralo.
Pa kada ste guglali slike za "Michelle Obama" 2009.
ta izobličena majmunska slika pojavljivala se među prvim rezultatima.
E sada, rezultati pretrage se sami proćišćavaju,
i u tome je neka vrsta ljepote toga,
jer Google mjeri relevantnost svakog sata, svakog dana.
Međutim Google se ovaj puta nije zadovoljio time,
mislili su, "To je rasistički i to je loš rezultat pretrage
i mi ćemo to počistiti ručno.
Napisat ćemo nekakav kod i to popraviti,"
što su i učinili.
I mislim da nitko u ovoj dvorani ne misli da je to bila loša ideja.
Niti ja.
No zatim, prošlo je nekoliko godina,
i najguglaniji Anders na svijetu,
Anders Behring Brevik,
učinio je ono što je učinio.
Bilo je to 22. srpnja 2011.
užasan dan u norveškoj povijesti.
Ovaj čovjek, terorist, dignuo je u zrak par vladinih zgrada
baš nadomak mjesta na kojem se upravo nalazimo u Oslu, u Norveškoj
i onda je otputovao na otok Utoyau
i pucao i ubio grupu djece.
Skoro 80 ljudi je poginulo toga dana.
I mnogi ljudi bi ovaj čin nasilja opisali kao dva koraka,
da je učinio dvije stvari: digao u zrak zgrade i ubio tu djecu.
To nije istina.
Bilo je tri koraka.
Digao je u zrak te zgrade, ubio tu djecu,
i sjeo i čekao da ga svijet počne guglati.
A sva tri koraka je pripremio podjednako dobro.
I ako je postojao netko tko je to smjesta shvatio,
bio je to švedski web programer,
stručnjak za optimizaciju pretraživača u Stockholmu, Nikke Lindquist.
On je također politički aktivan
i odmah se pojavio u društvenim medijima,
na svom blogu i Facebooku.
I svima je rekao,
"Ako postoji nešto što ovaj momak želi ovoga časa,
to je kontrola nad slikom o sebi.
Hajde da vidimo možemo li to poremetiti.
Da vidimo možemo li mi u civiliziranom svijetu
protestirati protiv onog što je učinio
vrijeđajući ga kroz rezultate pretraga o njemu."
A kako?
Svim svojim čitateljima rekao je sljedeće,
"Otiđite na Internet,
nađite slike psećeg govna na pločnicima
nađite slike psećeg govna na pločnicima,
objavite ih u svojim sadržajima, na svojim web stranicama i blogovima.
Ne zaboravite ispod slike napisati ime terorista,
ne zaboravite datoteku slike nazvati "Breivik.jpeg".
Hajde da naučimo Google da je to lice terorista.
I to je radilo.
Dvije godine poslije kampanje protiv Michelle Obama,
ova manipulacijska kampanja protiv Andersa Breivika je radila.
Ako ste guglali njegove slike
tjednima poslije događaja 22. srpnja u Švedskoj
vidjeli biste sliku psećeg govna pri vrhu rezultata pretrage,
kao mali protest.
Začudo, Google ovaj puta nije intervenirao.
Nisu uskočili i ručno očistili te rezultate pretrage.
Pa, evo pitanja za milijun dolara,
ima li ikakve razlike između ova dva događanja?
Ima li ikakve razlike između onoga što se dogodilo Michelle Obama
i onoga što se dogodilo Andersu Behringu Breiviku?
Naravno da nema.
To je potpuno ista stvar,
ipak je Google intervenirao u jednom slučaju, a u drugom nije.
Zašto?
Zato jer je Michelle Obama uvažena osoba, eto zašto,
a Anders Behring Breivik je osoba vrijedna prezira.
Vidite što se ovdje događa?
Dešava se procjena osobe
a samo je jedan moćni igrač na svijetu
s autoritetom da kaže tko je tko.
"Ti nam se sviđaš, ti nam se ne sviđaš.
U tebe vjerujemo, u tebe ne vjerujemo.
Ti si u pravu, ti nisi u pravu. Ti si iskren, ti nisi.
Ti si Obama, a ti si Brevik."
To je moć, ako sam je ikada vidio.
Zato od vas tražim da upamtite da iza svakog algoritma
uvijek stoji osoba,
osoba sa svojim osobnim uvjerenjima
koja nikakav kôd ne može u potpunosti ukloniti.
I moja poruka nije upućena samo Googleu,
već svima koji vjeruju u kôd, diljem svijeta.
Trebali biste prepoznati vlastite osobne pristranosti.
Trebali biste razumjeti da ste ljudi
i preuzeti odgovornost u skladu s tim.
A to kažem jer vjerujem da je došlo vrijeme
kada je apsolutno nužno
da ponovo povežemo te veze, čvršće:
humanističke znanosti i tehnologiju.
Čvršće no ikada.
I, ako ništa drugo, da nas podsjeća da ta prekrasno zavodljiva ideja
nepristranog, čistog rezultata pretrage,
jest, i vjerojatno će ostati, mit.
Hvala vam na vremenu.
(Pljesak)
Amikor iskolákban diákokkal beszélgetek,
mindig ugyanazt kérdem tőlük:
Miért gugliztok?
Miért a Google-t választjátok keresőmotornak?
Elég furcsa, hogy mindig ugyanazt a 3 választ hallom.
Az első: "Mert működik."
Remek válasz; én is ezért guglizom.
A második, van aki így felel:
"Nem ismerek másokat."
Ez már nem olyan pompás válasz, s azt szoktam felelni rá:
"Írd be a Google-ba a 'keresőmotor'-t,
és egy csomó más érdekeset is találhatsz.
Végül, de nem utoljára, a harmadik.
Az egyik diák jelentkezik, és így szól:
"A Google mindig a legjobb, tárgyilagos keresési eredményt adja."
Biztos benne, hogy mindig a legjobb, elfogulatlan eredményt kapja.
Humán területről jövök,
noha digitálisan humán területről,
de ebbe beleborzongok.
Még akkor is, ha tudom, hogy a bizalom, a tárgyilagos eredmény
a Google iránti közös szerelmünk és elismerésünk alapja.
Ki fogom mutatni, hogy ez filozófiailag miért csaknem lehetetlen.
Először kifejtem, csak futólag, mi az összes keresőkérdés alapelve,
amelyről hajlamosak vagyunk elfeledkezni.
Amikor a Google-nak föladunk valamit,
kérdezzük meg magunktól: "Egyedi tényt keresek?"
Mi Franciaország fővárosa?
Mik a vízmolekulák építőkövei?
Ragyogó — akkor guglizhatunk.
Nincs tudós, aki bebizonyíthatná,
hogy a helyes válasz: London és H30.
Ezekben a dolgokban nincs nagy összeesküvés.
Az egész világon elfogadják,
hogy mi a válasz az egyedi tényeket illetően.
De ha egy kicsit bonyolítjuk a kérdést, és ilyesmit kérdezünk:
Miért az izraeli-palesztin ellentét?
Most már nem egyedi tényt keresünk,
hanem tudást,
amely valahogy bonyolultabb és kényesebb.
Hogy tudáshoz jussunk,
10-20 vagy 100 tényt kell táblázatba foglalnunk,
nyugtáznunk őket, és kijelenteni: "Igen, ez mind igaz."
De mert vagyok, aki vagyok,
ifjú vagy öreg, fekete vagy fehér, meleg vagy sem,
másként értékelem őket.
S azt mondom: "Ez igaz,
de emez fontosabb nekem, mint az."
Itt válik az ügy érdekessé,
mert itt mutatkozik meg emberi mivoltunk.
Ennél a pontnál kezdünk vitázni, társadalmat létrehozni.
S hogy valamire jussunk, meg kell szűrnünk a tényeket
barátokon, szomszédokon, szülőkön és gyerekeken,
munkatársakon és újságokon keresztül,
hogy véglegesen megalapozzuk a tudásunkat,
ezzel pedig a keresőmotor nem tud megbirkózni.
Egy példát ígértem, hogy megmutassam, miért nehéz
eljutni a valódi, tiszta és objektív tudáshoz,
ami a gondolkodást táplálja.
Végzek egy pár egyszerű keresést.
Kezdjük ezzel: "Michelle Obama",
az USA First Ladyje.
Képekre kattinthatunk.
Elég jól működik, láthatják.
Többé-kevésbé tökéletes eredmény.
Ő van a képen, nem az elnök.
Hogy működik?
Nagyon egyszerűen.
Ennek elérésére a Google sok ügyes, de egyszerű fogást alkalmaz:
leginkább két dolgot figyelnek.
Az első: mi a képaláírás az egyes weboldalakon?
A "Michelle Obama"?
Akkor elég jó az esélyünk, hogy ő van a képen.
A második: a Google megnézi a képfájlt,
milyen fájlnévvel töltötték fel a weboldalra.
A fájlnév "MichelleObama.jpeg"?
Akkor nagyon valószínű, hogy nem Clint Eastwood van a képen.
Ha ez a kettő megvan, akkor megvan a keresés eredménye. Majdnem.
2009-ben Michelle Obama egy rasszista kampány áldozata volt,
amelyben keresési eredményekkel akarták őt gyalázni.
Az interneten egy képet terjesztettek,
amelyen az arcát majompofává torzították.
A képet mindenhol leközölték.
Nagyon-nagyon céltudatosan terjesztették,
hogy az eredményekben megjelenjen.
Elintézték, hogy a képaláírás "Michelle Obama" legyen,
s azt is, hogy "MichelleObama.jpeg" vagy hasonló névvel töltsék fel.
Értik, miért: hogy manipulálják a kereséseket
Működött is.
Amikor 2009-ben Michelle Obama képét gugliztuk,
az első eredmények között az a torz majomkép jelent meg.
Az eredmények tisztítják magukat,
s ez benne a szép,
mert a Google óránként, naponta méri a fontosságot.
De ezúttal a Google tovább lépett,
és megállapította: "Ez rasszista ügy, nem jó keresési eredmény.
Azért manuálisan megtisztítjuk.
Programot kell írnunk, és az egészet meg kell javítanunk."
Így is tettek.
Nem hiszem, hogy a jelen lévők azt gondolnák, hogy ez helytelen lett volna.
Én sem.
De egy pár év múlva
a világ legtöbbet guglizott Anderse,
Anders Behring Breivik,
elkövette, amit elkövetett.
2011. július 22-e
a norvég történelem iszonyatos napja.
Ez a terrorista férfi fölrobbantott egy csomó kormányépületet,
járótávolságra tőlünk, itt a norvégiai Oslóban,
azután elment az Utøya szigetre,
és lelőtt egy csomó gyereket.
Közel 80-an haltak meg aznap.
Sokak szerint ez a rémtett két lépésből állt:
Breivik fölrobbantotta az épületeket, és lelőtte a gyerekeket.
Nem így van.
Három lépésből.
Fölrobbantotta a házakat, lelőtte a gyerekeket,
aztán leült, és várta, hogy a világ őt guglizza.
Mindhárom lépést egyformán jól előkészítette.
Ha volt valaki, aki ezt rögvest fölfogta,
az egy svéd webfejlesztő volt,
egy stockholmi keresőmotor-szakértő, Nikke Lindqvist.
A fiú benne van a politikában,
rögtön megjelent a közösségi médiában, a blogján és a Facebookon.
Mindenkihez szólt:
"Most Breivik arra vágyik,
hogy irányítsa a képe megjelenését.
Nézzük meg, eltorzíthatjuk-e.
Nézzük, hogy a civilizált világ képes-e tiltakozni a tette ellen úgy,
hogy a keresési eredményein keresztül a becsületébe gázol."
Hogyan?
Nikke azt mondta minden olvasójának:
"Menjetek fel az internetre,
keressetek kutyaszaros képeket —,
tegyétek közzé őket a honlapotokon és blogotokon,
feltétlenül írjátok a kép alá a terrorista nevét,
a képnek adjátok a "Breivik.jpeg" fájlnevet.
Tanítsuk meg a Google-t, hogy ilyen a terrorista pofája."
A dolog bevált.
Két évvel a Michelle Obama elleni kampány után
az Anders Behring Breivik elleni manipulációs kampány működött.
Ha Breivik képére keresnek rá Svédországból július 22-e után,
az eredmények tömve lesznek kutyaszaros képekkel,
a tiltakozás apró jeleként.
Furcsa módon, a Google nem emelt ezúttal kifogást.
Nem avatkoztak közbe, és nem tisztították meg a kereséseket.
A millió dolláros kérdés jön:
van-e különbség a két esemény között?
Van-e különbség a Michelle Obama
és a Breivikkel történtek között?
Természetesen nincs.
Teljesen egyformák,
ám a Google az egyik esetben közbelépett, de a másikban nem.
Miért?
Mert Michelle Obama tiszteletre méltó személy,
míg Anders Behring Breivik aljas gazember.
Mi történik?
A személyt értékeljük,
és csak egy valódi tekintély létezik,
aki megmondja: ki kicsoda.
"Magát szeretjük, magát meg nem.
Magában hiszünk, de magában nem.
Igaza van, nincs igaza. Maga igaz ember, maga hamis.
Maga Obama, maga pedig Breivik."
Ha jól látom, ez a hatalom.
Arra kérem önöket, tartsák észben, hogy minden algoritmus mögött
mindig ott egy ember,
aki telve van személyes meggyőződéssel,
s nincs program, amely azt semmissé tehetné.
Mondandóm nemcsak a Google-ra vonatkozik,
hanem mindenkire a világon, aki programokban hisz.
El kell dönteniük, mi a személyes elfogultságuk.
Meg kell érteniük, hogy emberek,
és ennek megfelelő felelősséget viselnek.
Ezt azért hangsúlyozom, mert meggyőződésem:
ott tartunk, hogy szükségszerű
szorosabbra fűzni
a humanitás és a technológia kötelékét.
Szorosabbra, mint eddig bármikor.
Ha más nem is, de ez figyelmeztessen bennünket,
hogy az elfogulatlanul tiszta keresési eredmények
csodásan csábító elve csak mítosz, — és az is marad.
Köszönöm a figyelmet.
(Taps)
Setiap kali saya mengunjungi sekolah dan bicara dengan pelajar,
saya selalu bertanya hal yang sama pada mereka:
mengapa kamu meng-Google?
Mengapa mesin pencarian Google menjadi pilihanmu?
Anehnya, saya selalu mendapat tiga jawaban sama.
Pertama, "Karena selalu berhasil,"
yang mana itu jawaban bagus; itu juga kenapa saya meng-Google.
Kedua, akan ada yang bilang,
"Aku tak tahu alternatif lainnya."
Tidak sebagus jawaban sebelumnya, dan biasanya saya jawab
"Coba meng-Google kata 'mesin pencari,'
mungkin kamu bisa menemukan beberapa alternatif menarik."
Dan yang ketiga, dan selalu terjadi,
seorang pelajar akan mengacungkan tangan dan berkata,
"Dengan Google, saya yakin
akan selalu mendapat hasil pencarian yang terbaik dan tak menyimpang."
Yakin akan selalu mendapat hasil pencarian yang terbaik dan tak menyimpang.
Nah, sebagai makhluk dengan kemanusiaan,
meskipun juga sebagai manusia digital,
jawaban itu membuat saya miris,
walau saya juga sadar bahwa pemikiran akan hasil pencarian yang tidak bias
adalah dasar kecintaan dan penghargaan kita bersama pada Google.
Saya akan menunjukkan mengapa hal itu hampir tak mungkin secara filosofis.
Tapi mari saya jelaskan dulu sedikit,
prinsip dasar di balik setiap permintaan pencarian yang kadang kita lupakan.
Setiap kali Anda akan meng-Google sesuatu,
tanyakanlah pada diri Anda, "Apakah saya mencari fakta yang sudah pasti?"
Apa ibu kota Perancis?
Apa komponen pembangun molekul air?
Bagus -- silahkan meng-Google.
Tak ada ilmuwan yang mencoba membuktikan
bahwa jawabannya adalah London dan H3O.
Tak ada konspirasi besar tentangnya.
Kita setuju, secara global,
jawaban akan fakta yang sudah pasti tersebut.
Tapi jika Anda membuat pertanyaan yang sedikit lebih kompleks, seperti
"Mengapa terjadi konflik Israel-Palestina?"
Anda tak lagi mencari fakta tunggal,
Anda mencari pengetahuan,
yang merupakan sesuatu yang lebih rumit dan pelik.
Dan untuk mencapai pengetahuan,
Anda harus menghadirkan 10, 20, bahkan 100 fakta,
melihat semuanya dan berkata, "Ya, semua ini benar."
Tapi karena siapa saya,
muda atau tua, hitam atau putih, homo atau tidak,
cara pandang saya akan berbeda.
Dan saya akan bilang, "Ya, ini benar,
tapi bagi saya, ini lebih penting dari itu."
Di sinilah ini menjadi menarik,
karena di sinilah kita menjadi manusia.
Di sinilah kita mulai berargumen, membentuk masyarakat.
Dan untuk mencapai sesuatu, kita harus menyaring semua fakta,
lewat teman, tetangga, orangtua, anak-anak
rekan kerja, koran, dan majalah,
sampai akhirnya mendapatkan pengetahuan yang sebenarnya,
yang mana mesin pencari tak bisa membantu kita.
Jadi, saya menjanjikan Anda contoh untuk menunjukkan mengapa sangat sulit
mendapatkan pengetahuan yang benar, bersih, dan objektif --
sebagai asupan untuk otak.
Saya akan melakukan beberapa permintaan pencarian sederhana.
Kita mulai dengan "Michelle Obama,"
Ibu Negara Amerika Serikat.
Dan kita klik gambar.
Berhasil, seperti yang Anda lihat.
Ini adalah hasil pencarian yang sempurna, kurang lebih.
Hanya fotonya sendiri, bahkan tak ada yang dengan Presiden.
Bagaimana cara kerjanya?
Sederhana saja.
Google sangat pintar untuk sampai ke sini, tapi sederhananya,
Google melihat pada dua hal utama.
Pertama, apa kata teks di bawah gambar pada setiap situs?
Apakah tertulis "Michelle Obama" di bawah gambar?
Indikasi yang cukup bagus, ini betul gambarnya.
Kedua, Google melihat pada file gambar,
nama file yang diunggah di situs.
Sekali lagi, apakah namanya "MichelleObama.jpeg"?
Indikasi yang cukup bagus, ini bukan gambar Clint Eastwood.
Jadi dengan kedua hal itu,
Anda akan mendapat hasil pencarian seperti ini -- hampir selalu.
Nah, di tahun 2009, Michelle Obama menjadi korban kampanye rasial,
di mana ada orang-orang yang ingin menghinanya lewat hasil pencarian.
Ada gambar yang disebarluaskan di Internet
di mana wajahnya diubah menjadi seperti monyet.
Dan gambar itu disebarkan di mana-mana.
Dan orang menyebarkannya secara sengaja,
agar muncul di hasil pencarian.
Mereka memastikan, judul gambarnya tertulis "Michelle Obama"
dan mengunggah gambarnya sebagai "MichelleObama.jpeg," atau semacamnya.
Anda tahu mengapa -- untuk memanipulasi hasil pencarian.
Dan berhasil.
Jadi ketika meng-Google gambar "Michelle Obama" tahun 2009,
gambar monyet terdistorsi itu muncul di antara hasil utama.
Nah, hasilnya bersih sendiri,
dan di situlah keindahannya,
karena Google mengecek relevansi setiap jam, setiap hari.
Tapi, Google tak menggunakannya kali ini,
mereka berpikir, "Ini rasis dan hasil pencarian yang buruk
dan kami akan mengembalikan dan membersihkannya secara manual.
Kami akan menulis kode dan memperbaikinya,"
dan mereka melakukannya.
Dan saya rasa tak seorangpun di sini berpendapat itu ide yang buruk.
Saya juga tidak.
Tapi kemudian, beberapa tahun berlalu,
dan Anders yang paling sering di-Google di dunia,
Anders Behring Breivik,
melakukan suatu hal.
Ini 22 Juli 2011
dan suatu hari yang buruk dalam sejarah Norwegia.
Pria ini, seorang teroris, mengebom beberapa bangungan pemerintah
tak jauh dari tempat kita berada saat ini di Oslo, Norwegia
lalu ia pergi ke Pulau Utøya
dan menembak dan membunuh sekelompok anak.
Hampir 80 orang tewas pada hari itu.
Dan banyak orang menggambarkan aksi teror ini sebagai dua langkah,
bahwa ia melakukan dua hal: meledakkan gedung dan menembak anak-anak.
Itu tak benar.
Ada tiga langkah.
Ia meledakkan gedung, menembak anak-anak,
dan ia duduk dan menunggu dunia meng-Googlenya
Dan ia mempersiapkan ketiga langkah ini sama baiknya.
Dan jika ada yang cepat memahami hal ini,
ia adalah pengembang situs Swedia,
ahli optimasi mesin pencari di Stockholm, yang bernama Nikke Lindqvist.
Ia juga orang yang amat gemar politik
dan ia ada di media sosial, di blognya dan Facebook.
Dia bilang ke semua orang,
"Jika ada sesuatu yang diinginkan orang ini sekarang,
itu adalah mengendalikan citra dirinya.
Mari lihat, apakah kita dapat mengubahnya.
Mari lihat, apakah kita di dunia beradab, bisa memprotes tindakannya
dengan menghinanya pada hasil pencariannya."
Dan bagaimana caranya?
Ia mengatakan pada seluruh pembacanya,
"Bukalah Internet,
cari gambar kotoran anjing di pinggir jalan --
sebarkan di feed Anda, situs web Anda, di blog Anda.
Pastikan nama si teroris tertulis pada teksnya,
pastikan untuk menamai gambarnya "Breivik.jpeg."
Mari kita ajarkan pada Google, itulah wajah si "teroris."
Dan berhasil.
Dua tahun setelah kampanye terhadap Michelle Obama,
kampanye manipulasi terhadap Anders Behring Breivik berhasil.
Jika Anda meng-Google gambarnya
beberapa minggu setelah kejadian 22 Juli dari Swedia,
Anda akan melihat gambar kotoran anjing muncul di hasil pencarian,
sebagai protes kecil.
Anehnya, Google tak ikut campur kali ini.
Mereka tak bergerak dan membersihkan hasil pencariannya secara manual.
Jadi pertanyaan besarnya,
apakah ada yang berbeda antara kedua kejadian ini?
Apakah ada yang berbeda antara yang terjadi pada Michelle Obama
dengan Anders Behring Breivik?
Tentu tidak.
Keduanya sama saja,
tapi Google ikut campur di satu kasus dan membiarkan yang satunya.
Mengapa?
Karena Michelle Obama adalah orang terhormat, itu sebabnya,
dan Anders Behring Breivik adalah orang yang keji.
Lihat yang terjadi di sini?
Evaluasi terhadap seseorang terjadi
dan hanya ada satu pemain berkuasa di dunia
yang memiliki otoritas untuk mengatakan siapa yang mana.
"Kami suka Anda, kami tak suka Anda.
Kami percaya Anda, kami tak percaya Anda.
Anda benar, Anda salah. Anda jujur, Anda bohong.
Anda Obama, dan Anda Breivik."
Itulah kekuasaan dari sudut pandang saya.
Jadi saya meminta Anda untuk mengingat bahwa di balik setiap algoritma
selalu ada seorang manusia,
seseorang dengan sepaket keyakinan pribadi
yang tak bisa benar-benar dihapus oleh kode apapun.
Dan pesan saya, tak hanya pada Google,
tapi pada semua orang yang beriman pada kode di seluruh dunia.
Anda perlu mengidentifikasi penyimpangan Anda sendiri.
Anda perlu memahami bahwa Anda manusia
dan bertanggung jawab atasnya.
Dan saya mengatakannya karena saya percaya kita telah sampai
pada saat yang sangat mendesak
untuk menyatukan ikatan kita bersama sekali lagi, lebih erat:
kemanusiaan dan teknologi.
Lebih erat lagi.
Dan jika tak ada yang mengingatkan kita
akan ide menarik mengenai hasil pencarian yang bersih dan tak menyimpang,
maka ia sepertinya akan tetap menjadi suatu mitos.
Terima kasih atas waktu Anda.
(Tepuk tangan)
Quando visito una scuola e parlo agli studenti,
chiedo sempre la stessa cosa:
Perché Google?
Perché Google è il tuo motore di ricerca preferito?
Stranamente, ricevo sempre le stesse tre risposte.
Uno, "Perché funziona",
che è una gran risposta; anch'io uso Google per questo.
Due, qualcuno dice,
"In realtà non conosco nessuna alternativa."
Non è una grande risposta e la mia replica è, generalmente,
"Scrivi su Google "motore di ricerca",
puoi trovare un paio di alternative interessanti."
Ultimo, non per importanza, terzo,
inevitabilmente, uno studente o una studentessa alza la mano e dice:
"Con Google, è sicuro avere sempre il meglio, un risultato imparziale.
È sicuro di avere sempre il migliore risultato imparziale.
In quanto filosofo,
benché filosofo nell'era digitale,
questo mi fa venire la pelle d'oca
anche se capisco che questa fiducia, quell'idea del risultato imparziale
è il fondamento della nostra adorazione e del nostro apprezzamento per Google.
Vi mostrerò come, filosoficamente, è quasi impossibile.
Ma prima, permettetemi di ragionare, un po', sul principio di base
dietro ogni quesito di ricerca, che talvolta sembriamo dimenticare.
Ogni volta che digitate qualcosa su Google,
cominciate a chiedervi: "Sto cercando una singola informazione?"
Qual è la capitale della Francia?
Quali i legami costitutivi di una molecola d'acqua?
Eccellente -- vai con Google.
Non ci sono gruppi di scienziati così vicini a dimostrare
che in realtà è Londra e H3O.
Non vedete una grande complotto in queste cose.
Siamo d'accordo, globalmente,
su quali siano le risposte a queste informazioni.
Ma se complicate la domanda, e chiedete qualcosa come,
"Perché c'è il conflitto Israelo-Palestinese?"
Non state più cercando una singola informazione,
state cercando conoscenza,
che è qualcosa di più complicato e delicato.
Per arrivare alla conoscenza,
dovete mettere sul tavolo 10 o 20 o 100 fatti
dimostrarli e dire, "Sì, questi sono tutti veri."
Ma, in relazione a ciò che io sono,
giovane o vecchio, bianco o nero, gay o etero,
li valuterò diversamente.
E dirò, "Sì, questo è vero,
ma per me questo è più rilevante, di quello."
Ed è qui che diventa interessante,
perché qui diventiamo umani.
Qui cominciamo a discutere, a formare la società.
Per arrivare realmente da qualche parte, dobbiamo filtrare i fatti
attraverso amici, vicini, genitori, bambini,
colleghi, quotidiani e riviste,
per poterci basare sulla conoscenza reale
una cosa a cui il motore di ricerca può contribuire poco.
Vi ho promesso un esempio solo per mostrarvi perché è così difficile
raggiungere il punto della vera, pulita, oggettiva conoscenza --
come cibo per la mente.
Vi porterò un paio di semplici quesiti, interrogazioni di ricerca.
Cominceremo con "Michelle Obama",
First Lady degli Stati Uniti.
E selezioneremo immagini.
Funziona molto bene, come potete vedere.
È un risultato di ricerca perfetto, più o meno.
C'è solo lei nelle immagini, non c'è neanche il Presidente.
Come funziona?
Molto semplice.
Google utilizza molte abilità per fare questo, ma soprattutto
cerca due cose più di ogni altra.
Primo, cosa dice la didascalia sotto l'immagine in ciascun sito web?
Dice "Michelle Obama" sotto l'immagine?
Indicazione abbastanza buona, c'è lei nella foto.
Secondo, Google cerca il file immagine
il nome del file così come è stato caricato sul sito web.
Di nuovo, si chiama "MichelleObama.jpg"?
Indicazione abbastanza buona, non c'è Clint Eastwood.
Con queste due, ottenete questo risultato, o quasi.
Nel 2009, Michelle Obama è stata vittima di una campagna razzista,
da persone con l'intento di insultarla attraverso i risultati di ricerca.
C'era un'immagine largamente distribuita su Internet
dove il viso era distorto per somigliare a una scimmia.
E quell'immagine è stata pubblicata ovunque.
La gente l'ha pubblicata proprio con l'intenzione
di arrivare nei risultati di ricerca.
Si è assicurata di scrivere "Michelle Obama" nel titolo
e di caricare l'immagine come "MichelleObama.jpg", o simili.
Capite perché -- per manipolare i risultati di ricerca.
E ha anche funzionato.
Se cercavate su Google foto di "Michelle Obama" nel 2009,
quell'immagine distorta di scimmia compariva tra i primi risultati.
I risultati si auto-ripuliscono
e questa è la bellezza,
perché Google misura la rilevanza ogni ora, ogni giorno.
Tuttavia, Google non l'ha sistemato questa volta,
hanno pensato, "È razzista ed è un pessimo risultato di ricerca;
torneremo indietro e lo puliremo manualmente.
Riscriveremo il codice e lo sistemeremo,"
e così hanno fatto.
E penso che nessuno in questa sala pensi sia stata una pessima idea.
Neanch'io.
Ma quando, circa due anni fa,
il più ricercato su Google, Anders
Anders Behring Breivik,
fece quello che ha fatto.
È il 22 luglio del 2011,
e un giorno terribile in Norvegia.
Quest'uomo, un terrorista, fece esplodere un paio di palazzi del Governo
poco distanti da dove ci troviamo adesso a Oslo, in Norvegia
e poi viaggiò verso l'isola di Utøya
e sparò e uccise un gruppo di bambini.
Morirono circa 80 persone.
E molte persone descriverebbero questo atto di terrorismo in due fasi,
fece due cose: far esplodere i palazzi e uccidere quei bambini.
Non è così.
Erano tre fasi.
Fece esplodere i palazzi, uccise i bambini,
si sedette e aspettò che il mondo lo cercasse su Google.
E preparò le tre fasi ugualmente bene.
E se qualcuno lo ha immediatamente capito
è stato uno sviluppatore svedese
esperto in motori di ricerca a Stoccolma, Nikke Lindqvist.
Politicamente impegnato.
Aveva ragione nei social, nel suo blog e su Facebook.
Lo ha detto a tutti,
"Se c'è qualcosa che quest'uomo vuole adesso,
è controllare la sua immagine.
Vediamo se possiamo distorcerla.
Vediamo se, nel mondo civile, possiamo protestare contro quello che ha fatto
insultandolo nei suoi risultati di ricerca."
Come?
Disse ai suoi lettori quanto segue,
"Andate su Internet,
trovate immagini di cacche di cane --
pubblicatele nei vostri feed, nei vostri siti web, nei vostri blog.
Sinceratevi di scrivere il nome del terrorista nel titolo,
assicuratevi di nominare il file immagine "Breivik.jpeg".
Insegniamo a Google che quella è la faccia del terrorista."
E funzionò.
Due anni dopo quella campagna contro Michelle Obama,
l'iniziativa di manipolazione contro Anders Behring Breivik funzionò.
Se cercavate sue immagini su Google dopo i fatti del 22 luglio in Svezia,
vedevate l'immagine della cacca di cane in cima ai risultati di ricerca,
come una piccola protesta.
Stranamente, Google non è intervenuto questa volta.
Non sono intervenuti e non hanno ripulito manualmente quei risultati.
La domanda da un milione di dollari,
c'è qualche differenza tra queste due vicende?
C'è qualche differenza tra quello che è successo a Michelle Obama
e quello che è successo a Anders Behring Breivik?
Certo che no.
È esattamente la stessa cosa,
eppure, Google è intervenuto in un caso e non nell'altro.
Perché?
Perché Michelle Obama è una persona stimata, ecco perché,
e Anders Behring Breivik è una persona orribile.
Visto cos'è successo?
Si giudica una persona
e c'è soltanto una figura
che ha l'autorità di dire chi è chi.
"Tu ci piaci, tu non ci piaci.
A te crediamo, a te non ti crediamo.
Tu hai ragione, tu hai torto. Sei vero, sei falso.
Tu sei Obama, e tu sei Breivik."
Questo è potere, se ho visto bene.
Vi chiedo di ricordare che dietro ogni algoritmo
c'è sempre una persona,
una persona con un insieme di convinzioni personali
che nessun codice potrà mai completamente sradicare.
Il mio messaggio va non soltanto a Google,
ma a tutti coloro al mondo che credono nel codice.
Si devono identificare i propri pregiudizi personali.
Bisogna capire di essere umani
e assumersi responsabilità di conseguenza.
Dico questo perché credo che sia giunto il momento
in cui è fondamentale
ricreare questi legami, più stretti:
le umanità e la tecnologia.
Più stretti che mai.
Se non altro, ci ricorda che quella meravigliosa idea seducente
di risultati di ricerca imparziali, puliti
è, ed è probabile che rimanga, un mito.
Grazie del vostro tempo.
(Applausi)
学校で生徒たちに話す機会があると
必ず聞くことがあります
「なぜGoogle検索するの？
なぜ検索エンジンにGoogleしか選ばないの？」
不思議と 返ってくる答えは 決まってこの３つです
１つ目は「うまく検索できるから」
ご名答です 私も同じ理由でGoogleを使っています
２つ目は―
「ほかの検索エンジンを知らないから」
ちょっと惜しい たいてい 私はこう返します
「Googleで『検索エンジン』を
検索してごらん ほかにも面白いのがあるよ」
そして トリとなる３つ目です
必ず 手を挙げて 満を持して言う子がいるんです
「Googleを使うと 絶対に 常に最高で公正な検索結果が得られるから」
絶対に 常に最高で公正な 検索結果が得られる―
これを耳にするたび デジタル世代とはいえ
人類のひとりとして
虫唾（むしず）が走ります
みんながGoogleを愛し 大事にしているからこそ
「公正な検索結果」と信じ 考えるのだと わかっていてもです
公正な結果など 哲学的にほぼありえません なぜかご説明しましょう
でも まず検索の基本原理について 少しだけお話しさせてください
みんな 忘れてしまいがちなことです
Googleで何かを検索するとき
まず考えるべきは 「個別の事実を知りたいのか？」
フランスの首都はどこか
水分子の構成元素は何か といったものです
この場合は ぜひGoogle検索しましょう
科学者といえども 答えは「ロンドン」と「H30」だなんて
証明できやしませんから
ここに何の陰謀もありません
こうした個別の事実については
世界全体で 答えが何か 一致しているのです
でも 質問をほんの少し複雑にして こんな風にしたらどうでしょう
「なぜパレスチナ問題が起こっているのか？」
もはや 求めているのは ただ一つの「事実」ではなく
「知識」ということになります
知識は はるかに複雑で繊細なものです
そうした知識を得るには
10 、20 または100の事実を集め 自分のものにし
「これらは すべて真実だ」と 言えないといけません
でも ひとは
年齢や人種、性的趣向に関わらず
違う価値観を持っています
ですから「確かに これは真実だけど
こっちのほうが重要だ」となります
ここからが面白いのです
私たちが人間らしさを発揮するからです
私たちは互いに議論し 社会を形成し始めます
本当に答えを出すには まず事実をすべて ふるいにかけます
友だちやご近所さん 両親、子どもたち、同僚
そして新聞や雑誌を通じて ふるいにかけ
真の知識にたどりつくのです
ここで検索エンジンは あまり役に立ちません
さきほど 真に純粋で客観的な知識を 手にするのが なぜ難しいか
例をお見せするとお話ししました
皆さんにお考えいただきましょう
まず いくつか簡単な検索をしてみます
まずは「ミシェル・オバマ」
アメリカのファーストレディです
「画像」をクリックします
ご覧のとおり うまく行っていますね
まあ 完ぺきな検索結果です
写真には ミシェル一人だけ 大統領さえいません
どうなっているんでしょう
とてもシンプルです
Googleは 色々頭を使っていますが 簡単に言うと
２つのことに着目しています
１つは 各ウェブサイトの写真の下にある キャプションの内容です
写真の下に「ミシェル・オバマ」とあれば
彼女の写真の可能性が高いですね
つぎにGoogleが見るのは 写真ファイル
ウェブサイトにアップロードされた ファイルの名前です
「MichellObama.jpeg」というファイルなら
クリント・イーストウッドの写真 ということはないでしょう
この２つを手がかりにすると こんな検索結果になるんです―普通は
さて2009年 ミシェル・オバマに 人種差別攻撃の矛先が向きました
検索結果を通じて侮辱されたのです
ある写真がばらまかれ インターネットを席巻します
彼女の顔が サルのように ゆがめられた写真です
写真は インターネット上の あらゆるところに掲載されました
しかも 検索結果の上位に表示されるよう
非常に意図的な形でネット掲載されました
キャプションには必ず 「ミシェル・オバマ」と書かれ
ファイル名も 「MichelleObama.jpeg」などとされたのです
そう 検索結果を操作するためです
確かに それは成功し
Googleで「ミシェル・オバマ」を 画像検索すると
2009年当時 サル顔に変形された写真が 結果上位に表示されました
さて 検索結果には自浄作用があります
そこが素晴らしいところでもあり
Googleは 毎日 毎時間 関連度を測っているのです
でも このときGoogleは 黙ってはいませんでした
「これは人種差別的で 悪い検索結果だから
自らの手で きれいにしないといけない
プログラムを書いて修正するんだ」と考え
実際にそうしました
皆さんのなかで これが悪いことと 思う方はいないでしょう
私も そう思いません
それから２年ほどして
世界で最もGoogle検索されたアンネシュ
アンネシュ・ベーリン・ブレイヴィークは
こんなことをしました
2011年7月22日
ノルウェー史上 悲惨な日となったこの日
この男―テロリストは 政府庁舎を爆破しました
ここ ノルウェー・オスロの会場から 徒歩圏内の場所です
その後 彼はウトヤ島に渡り
子どもたちを銃撃し殺しました
その日 80人近くの命が失われました
多くの場合 このテロ行為には ２つの段階があったと語られます
つまり 建物爆破と 子どもの銃殺 という２つの段階です
実は違うのです
３つの段階があったんです
彼は建物を爆破し 子どもたちを銃殺し
そして世界が彼を Google検索するのを待ったのです
彼は この３つの段階すべてを 周到に準備していました
彼の意図をすぐに見破ったのが
スウェーデンのウェブ開発者で
検索エンジン適正化の専門家 ストックホルムのニック・リンドクヴィストです
自らも非常に政治的なニックは
ブログやFacebookなど ソーシャルメディアを通じて
みんなに訴えかけました
「こいつが今ほしいものがあるとしたら
自分のイメージをコントロールすることだ
みんなで それを崩そうじゃないか
文明社会のみんなの力をあわせて 彼の行為に対して抗議するんだ
検索結果を通して彼を侮辱するんだ」
でも どうやって？
彼は以下のことをするよう呼びかけました
インターネットで
道端の犬のフンの写真を探し―
それをフィードやウェブサイト ブログに掲載するのです
そのとき必ず キャプションにはテロリストの名前を書き
ファイル名を「Breivik.jpeg」とするのです
Googleに これがテロリストの顔だと 教えるのです
効果てき面でした
ミシェル・オバマ事件の２年後
アンネシュ・ベーリン・ブレイヴィークの 検索結果が操作されました
7月22日事件以降の数週間 スウェーデンから彼をGoogleで画像検索すると
検索結果の上位に犬のフンの写真が 表示されるに至りました
小さな抗議行動です
奇妙なことに このとき Googleは介入しませんでした
人為的に検索結果をきれいにしようとは しなかったのです
さて ここで難しい質問です
これら２つの現象は何が違うんでしょうか？
ミシェル・オバマに起こったことと
アンネシュに起こったことは違いますか？
もちろん違いません
まったく同じ事象です
でも Googleは片方には介入し 他方にはしませんでした
なぜでしょう
それはミシェル・オバマが 尊敬に値する人物である一方
アンネシュ・ベーリン・ブレイヴィークが 卑劣な人間だからです
ご覧いただいたとおり
ここには 人に対する評価が介在しています
世界には 重要人物を決める権力を持つ―
唯一の権力者がいるのです
「君は好き 君は嫌い
君は信じる 君は信じない
君は正しい 君は間違っている 君は真実 君は嘘
君はオバマで 君はブレイヴィーク」
これが力というものです
ですから覚えておいてください どんなアルゴリズムでも
その後ろには 必ず人間がいるんです
人間は それぞれ価値観を持っていて プログラムで
その影響を 完全に消し去ることはできません
私はこのメッセージを Googleだけではなく
プログラムに信頼を寄せる 世界中のすべての人に伝えたい
自らの偏見をしっかり認識し
人間であることを自覚し
責任を持たなければいけません
このことを伝えたいのは 結束を今一度
強くしなければいけない
そんなときが来ていると 信じているからです
人類と技術のつながり
この結束を 今以上に強くするのです
少なくとも 心地よい魅惑的に聞こえる―
公正で きれいな検索結果というものは
神話に過ぎず これからもそうだと 心に留めるべきです
ありがとうございました
（拍手）
저는 학교에서 학생들에게 강연할 때마다
항상 똑같은 것을 묻습니다.
왜 구글을 쓰니?
왜 검색엔진으로 구글을 선택했니?
신기하게도, 항상 답은 세 개로 똑같습니다.
첫 번째는 "잘 되니까요."입니다.
훌륭한 대답이죠. 저도 그래서 구글을 씁니다.
두 번째로 어떤 이들은 이렇게 말합니다.
"다른 건 뭐가 있는지 잘 몰라요."
첫 번째 대답만큼 좋진 않지만 이에 대한 제 대답은 주로 이렇습니다.
"''검색엔진'을 구글에 쳐 봐.
괜찮은 사이트를 한 두 개 찾을 수도 있어."
마지막으로, 세 번째 대답으로는
꼭 한 명의 학생이 손을 들고 이렇게 말합니다.
"구글은 언제나 편향되지 않은 최고의 검색결과를 가져다 주니까요."
언제나 편향되지 않은 최고의 검색결과를 가져다 준다고요.
인류의 한 사람으로서
디지털 인류의 사람일지라도.
소름이 돋게 만드는 말입니다.
비편파적 검색결과에 대한 신뢰와 생각이 우리의
구글에 대한 집단적 사랑과 감사의 초석이라는 것을 저도 알지만 말이죠.
제가 왜 이것이 철학적으로 거의 불가능한지 보여드리겠습니다.
하지만 먼저 모든 검색어 이면의 우리가 가끔 잊어버리곤 하는
기본 원칙에 대해 조금만 설명드리겠습니다.
뭔가를 구글에 치려고 할 때마다
먼저 이 질문을 스스로에게 물어보세요. "객관적 사실을 찾는 것인가?"
프랑스의 수도는 어디인가?
물 분자의 구성요소는 무엇인가?
좋아요-- 마음껏 검색하세요.
그 정답이 런던이나 H3O라고 증명할
과학자 집단은 하나도 없으니까요.
이런 것들에는 큰 음모랄게 없는거죠.
세계적으로 우리는
이 객관적 사실의 답에 동의하죠.
하지만 질문을 약간 더 복잡하게 만들어
"왜 이스라엘과 팔레스타인 분쟁이 일어나는가?" 같은 다른 질문을 물으면
더 이상 하나의 사실을 찾는 게 아닙니다.
지식을 찾는거죠.
지식은 훨씬 더 복잡하고 까다롭습니다.
그리고 지식을 얻으려면
10개, 20개 또는 100개의 사실을 논의 대상으로 가져와
모두 사실이라는 걸 인정해야 합니다.
하지만 자신이 누구냐에 따라
젊든 늙었든, 흑인이든 백인이든 동성애자든 이성애자든
사람들은 각자 다르게 평가내릴 것입니다.
저는 이렇게 말하겠죠. "그래, 이게 사실이지만
이게 나한테 저것보다 중요해."
여기서부터 재밌어집니다,
이 부분에서 인간적인 모습을 보이기 때문이죠.
여기서 우리는 논쟁하기 시작하고 집단을 형성합니다.
그리고 정말 어딘가에 도달하려면 친구나, 이웃, 부모님,
자식, 직장동료, 신문, 잡지를 통해
모든 사실을 걸러내야 합니다.
궁극적으로 진리 속에 둘러싸이기 위해선 말입니다.
이건 검색엔진이 도움이 안 되는 부분입니다.
제가 생각해 볼 거리로 왜 진실되고 깨끗하고 객관적인
지식에 도달하는 것이 왜 그렇게 어려운지 보여주는
예시를 약속했었죠?
한 두 개 간단한 검색어를 검색해보겠습니다,
미국의 영부인인
"미셸 오바마"부터 해보죠.
이미지를 누르면
보시다시피 정말 잘 되네요.
검색결과가 거의 완벽하네요.
정말 영부인만 있고 대통령 조차 같이 없습니다.
어떤 원리일까요?
꽤 간단합니다.
구글은 기발한 방법도 많이 동원하지만 사실 단순하게,
다른 것보다 두 가지를 중점적으로 봅니다.
먼저, 웹사이트 상의 사진 밑에 있는 설명에 뭐라고 쓰여있는가?
"미셸 오바마"라고 적혀 있는가?
그렇다면 정말로 영부인 사진일 가능성이 크죠.
두 번째로, 구글은 사진 파일을 봅니다.
웹사이트에 올려진 파일의 이름을 봅니다.
파일명이 "미셸오바마.jpg"인가?
사진이 클린트 이스트우드가 아니라는 걸 잘 말해주죠.
그렇게 두 가지가 갖춰지면 대개는 이런 검색결과가 나옵니다.
2009년에 미셸 오바마는 인종차별 캠페인의 피해자였습니다.
사람들은 검색 결과로 그녀에게 모욕을 주려 했죠.
인터넷에 그녀의 얼굴을 원숭이처럼
왜곡시킨 사진이 인터넷에 널리 퍼졌었습니다.
모든 곳에 게시되었죠.
사람들은 다분히 의도적으로 사진이 상위 검색 결과에
뜨도록 게시했습니다.
사진 설명에 반드시 "미셸 오바마"를 넣었고
파일명을 "미셸오바마.jpg" 나 비슷한 이름으로 올렸습니다.
검색결과를 조작하기 위해서였다는 거 아시겠죠.
이 수법은 통했습니다.
2009년에 "미셸 오바마"의 이미지를 검색하면
가장 먼저 뜨는 결과들 중에 일그러진 원숭이 사진이 있었습니다.
검색 결과는 정화능력이 있습니다.
그게 사실 좋은 점이죠.
구글이 연관성을 매 시간, 매일 체크하기 때문입니다.
하지만 구글은 이 때 그 이상을 했습니다.
그들은 이렇게만 생각했습니다. "인종차별적이고 부적절한
검색결과니까 수동으로 정화시켜야겠어.
코드를 입력해서 고치자."
그리고 그렇게 했습니다.
여러분 중에 누구라도 이게 나쁜 생각이라 여기지 않을 겁니다.
저도 그렇습니다.
그런데 2년 후에
세계에서 가장 많이 검색된
안드레스 베링 브레이비크가
사건을 일으켰습니다.
2011년 7월 22일이었는데
노르웨이 역사상 최악의 날이었습니다.
테러리스트였던 그는 지금 우리가 있는 곳에서
걸어서 갈 수 있을만큼 가까이 있던 정부 청사 두 개를 폭파시키고
우퇴야 섬으로 가서
아이들을 모아놓고 쏘아 죽였습니다.
그 날 거의 80명의 사람들이 죽었죠.
많은 사람들이 이 테러행각을 두 단계로 묘사합니다.
빌딩을 폭파시키고 아이들을 쏴 죽이는 두 가지 사건을 일으켰다고 합니다.
하지만 사실이 아닙니다.
세 단계가 있었죠.
건물을 폭파시키고 아이들을 쏜 다음
앉아서 세계가 그를 구글에 검색하기를 기다렸습니다.
그는 세 단계를 다 잘 준비했습니다.
이걸 바로 알아차린 사람은 스웨덴인으로 스톡홀름에 사는
웹사이트 개발자이자
검색 엔진 최적화 전문가인 니키 린드크비스트뿐이었습니다.
굉장히 정치적인 사람이었죠.
소셜미디어와 블로그와 페이스북을 하는 사람이었죠.
그는 모든 사람에게
"이 남자가 지금 바라는 게 있다면
바로 자기 이미지를 조종하는 겁니다.
그걸 우리가 막아봅시다.
문명화된 세상에 사는 우리가 검색 결과로 그에게 모욕을 줘서
그가 한 행동에 대해 시위할 수 있는지 봅시다."
어떻게 하는 걸까요?
니키는 모든 구독자에게 이렇게 말했습니다.
"인터넷에 들어가서
길거리에 있는 개똥 사진을 찾아,
여러분의 뉴스피드, 웹사이트, 블로그에 올리세요.
제목에 테러리스트의 이름을 넣는 것을 잊지 마세요.
파일명을 꼭 "브레이비크.jpg"로 붙이세요.
구글에게 그게 테러리스트의 얼굴이라는 걸 보여줍시다."
그리고 이게 먹혀들었습니다.
미셸 오바마를 반대하는 운동이 일어나고 2년 후에
안드레스 베링 브레이비크를 반대하는 조작 운동이 통했습니다.
7월 22일이 몇 주나 지난 시점에서 이미지 검색을 해도
여전히 상위 검색 결과에 개똥 사진이 떴습니다.
일종의 시위였죠.
재미있게도 이번엔 구글이 개입하지 않았습니다.
나서서 수동적으로 검색 결과를 정화하려고 하지 않았습니다.
그렇다면 중요한 질문은 이겁니다.
두 사건 사이에 차이가 있는가?
미셸 오바마에게 일어난 일과 브레이비크에게 일어난 일에
차이가 있는가?
당연히 없습니다.
완전히 동일합니다.
그런데도 구글은 한 번은 개입하고 다른 한 번은 안했죠.
왜일까요?
미셸 오바마는 존경스러운 인물이고
안드레스 베링 브레이비크는 파렴치한 인간이기 때문입니다.
무슨 일이 벌어지고 있는지 아시겠어요?
인물에 대한 평가가 이루어지고,
세상에는 누가 어떤 사람인지 말할 수 있는 권위를 가진
권력자는 단 하나밖에 없습니다.
"우리는 너가 좋아, 우리는 너가 싫어.
우리는 널 믿어. 우리는 널 안 믿어.
너는 맞고 너는 틀려. 너는 사실이고 너는 거짓이야."
넌 오바마고 넌 브레이비크야."
바로 그게 권력입니다.
그래서 저는 여러분들께 모든 알고리즘 뒤에는 항상
그 어떤 코드도
완전히 말살할 수 없는 자기만의 신념을 가진
사람이 있다는 걸 기억해달라고 부탁하고 싶습니다.
그리고 제가 드리는 말씀은 구글뿐만이 아니라
코드를 신뢰하는 전세계 모든 사람들에게도 해당됩니다.
여러분은 자신이 가진 편견을 구분해내야 합니다.
자신이 인간이라는 걸 받아들이고
그에 맞는 책임을 져야 합니다.
제가 이 말을 하는 이유는 우리가 인간과 기술 간의
유대를 더 공고히해야 하는
절대적으로 중요한 시점에
다다랐다고 생각하기 때문입니다.
그 어느 때보다 끈끈해야 하죠.
그리고 정말 매력적으로 보이는 편파적이지 않고 깨끗한 검색 결과는
지금도, 앞으로도 허구로 남을 가능성이
높다는 걸 최소한 일깨워드리기 위해서입니다.
시간 내 주셔서 감사합니다.
(박수)
Ikreiz, apmeklējot kādu skolu un runājot ar skolēniem,
es vienmēr uzdodu to pašu jautājumu –
kāpēc jūs izmantojat Google?
Kāpēc jūs dodat priekšroku Google meklētājprogrammai?
Dīvainā kārtā es allaž saņemu tās pašas trīs atbildes.
Pirmā: „Jo tā darbojas.”
Tā ir lieliska atbilde; tāpēc arī es izmantoju Google.
Kā otro atbildi kāds min:
„Es nezinu nevienu alternatīvu.”
Tā nav tikpat lieliska atbilde, un es uz to parasti atbildu:
„Ierakstiet Google vārdu „meklētājprogramma”,
un jūs atradīsiet dažas interesantas alternatīvas.”
Visbeidzot, trešā atbilde –
kāds noteikti pacels roku, sakot:
„Izmantojot Google, esmu drošs, ka vienmēr iegūšu vislabāko, objektīvāko rezultātu.”
Drošs, ka vienmēr iegūs labāko, objektīvāko meklēšanas rezultātu.
Kā humanitāro zinātņu cilvēkam,
tiesa, digitālo humanitāro zinātņu cilvēkam,
man no tā vienkārši uzmetas zosāda,
pat ja es saprotu, ka uzticība, ideja par objektīviem meklēšanas rezultātiem
ir pamats mūsu kopīgajai patikai un pozitīvajam Google novērtējumam.
Es jums parādīšu, kāpēc tas, filozofiski raugoties, ir gandrīz neiespējami.
Tomēr vispirms es nedaudz paskaidrošu pamatprincipu
ikvienam meklēšanas vaicājumam, ko mēs reizēm aizmirstam.
Ikreiz, kad vēlaties kaut ko atrast Google,
no sākuma pajautājiet sev: „Vai es meklēju faktu?”
Kas ir Francijas galvaspilsēta?
Kāda ir ūdens molekulas formula?
Lieliski – meklējiet to Google.
Nav zinātnieku grupas, kas gatavotos pierādīt,
ka tā patiesībā ir Londona un H30.
Šajos jautājumos nav īpašu domstarpību.
Visa pasaule ir vienisprātis par atbildēm uz šiem atsevišķajiem faktiem.
Ja jūs uzdodat nedaudz sarežģītāku jautājumu, piemēram,
kas izraisīja Izraēlas un Palestīnas konfliktu,
jūs vairs nemeklējat atsevišķu faktu,
jūs meklējat zināšanas,
kas ir daudz sarežģītākas un smalkākas.
Lai gūtu zināšanas,
jāapkopo 10, 20 vai 100 fakti
un jāapstiprina, ka, jā, tie visi ir patiesi.
Ņemot vērā, vai esmu jauns vai vecs, baltādains vai melnādains,
homoseksuāls vai heteroseksuāls, es tos vērtēšu atšķirīgi.
Es teikšu: „Jā, tā ir patiesība, bet šis fakts man ir svarīgāks nekā tas.”
Ar to sākas interesantais,
jo šajā brīdī mēs esam cilvēciskas būtnes.
Mēs sākam diskutēt, veidot sabiedrību.
Lai gūtu skaidrību, mums jāfiltrē visi mūsu fakti
caur draugiem un kaimiņiem, vecākiem un bērniem,
kolēģiem, avīzēm un žurnāliem,
lai visbeidzot gūtu patiesas zināšanas,
ko meklētājprogramma nespēj pilnvērtīgi nodrošināt.
Es solīju parādīt piemēru, lai jūs redzētu, kāpēc ir tik grūti
gūt patiesas, tīras, objektīvas zināšanas.
Tā jums būs viela pārdomām.
Es veikšu dažus vienkāršus vaicājumus – meklēšanas vaicājumus.
Es sākšu ar „Mišelu Obamu”, ASV pirmo lēdiju.
Es noklikšķinu uz attēliem.
Kā redzat, tas darbojas ļoti labi.
Tas vairāk vai mazāk ir ideāls meklēšanas rezultāts.
Attēlos ir tikai viņa, tajos nav redzams pat prezidents.
Kā tas darbojas?
Tas ir visai vienkārši.
Google izmanto daudz viltību, lai to panāktu, bet, vienkāršāk sakot,
uzmanība tiek pievērsta galvenokārt diviem faktoriem.
Pirmkārt, kas ir teikts attēla parakstā katrā tīmekļa vietnē?
Vai zem attēla ir rakstīts „Mišela Obama”?
Tā ir visai laba norāde, ka attēlā redzama viņa.
Otrkārt, Google apskata attēla failu –
tīmekļa vietnē augšupielādētā faila nosaukumu.
Vai tā nosaukums ir „MichelleObama.jpeg”?
Tā ir visai ticama norāde, ka attēlā nav Klints Īstvuds.
Ar šiem diviem faktoriem jūs gandrīz iegūstat šādu meklēšanas rezultātu.
2009. gadā Mišela Obama bija rasistu kampaņas upure –
cilvēki mēģināja viņu aizvainot caur viņas meklēšanas rezultātiem.
Internetā tika plaši izplatīts attēls,
kurā viņas seja bija izkropļota, lai atgādinātu pērtiķi.
Šis attēls tika publicēts visur.
Cilvēki attēlu publicēja tīšām, lai tas parādītos meklēšanas rezultātos.
Parakstā viņi norādīja „Mišela Obama”,
un augšupielādētā attēla nosaukums bija „MichelleObama.jpeg” vai kas tamlīdzīgs,
lai manipulētu ar meklēšanas rezultātiem.
Tas arī izdevās.
Ja jūs 2009. gadā Google meklējāt attēlu „Mišela Obama”,
pirmo rezultātu starpā parādījās izkropļotais pērtiķa attēls.
Notiek arī rezultātu pašattīrīšanās,
un tas ir lieliski,
jo Google izvērtē atbilstību ik stundu, ik dienu.
Tomēr šajā gadījumā Google to nedarīja,
viņi nodomāja: „Tas ir rasistiski, šis ir neatbilstošs rezultāts,
tāpēc mēs atgriezīsimies un veiksim manuālu tīrīšanu.
Mēs uzrakstīsim kodu un savedīsim šo kārtībā.”
Un to viņi arī izdarīja.
Diez vai kāds šajā telpā uzskata, ka tā bija slikta ideja.
Es arī ne.
Tad pagāja daži gadi,
un visvairāk Google meklētais Annešs,
Annešs Bērings-Breivīks,
izdarīja to, ko izdarīja.
Tas notika 2011. gada 22. jūlijā,
un tā bija šausmīga diena Norvēģijas vēsturē.
Šis vīrietis, terorists, uzspridzināja divas valdības ēkas,
kas atrodas pavisam netālu no mums, Oslo, Norvēģijā.
Pēc tam viņš devās uz Ūtejas salu,
kur nošāva vairākus bērnus.
Todien nomira gandrīz 80 cilvēki.
Daudzi cilvēki teiktu, ka šim teroraktam bija divi soļi –
viņš uzspridzināja ēkas un nošāva bērnus.
Tā nav patiesība.
Kopumā bija trīs soļi.
Viņš uzspridzināja ēkas, nošāva bērnus
un gaidīja, kad pasaule sāks meklēt viņu Google.
Viņš bija vienlīdz labi sagatavojis visus trīs soļus.
To nekavējoties saprata
zviedru tīmekļa izstrādātājs,
meklētājprogrammu optimizācijas speciālists Stokholmā, Nike Lindkvists.
Viņu ļoti interesē arī politika,
un tobrīd viņš bija sociālajos tīklos – savā emuārā un Facebook.
Viņš visiem paziņoja:
„Šis cilvēks šobrīd vēlas vienu –
kontrolēt savu tēlu.
Paskatīsimies, vai mēs varam to mainīt,
vai mēs, civilizētā pasaule, varam protestēt pret viņa nodarīto,
aizvainojot viņu meklēšanas rezultātos.”
Kā tas notika?
Viņš mudināja visus savus lasītājus:
„Atveriet internetu,
atrodiet attēlus ar suņa kaku uz ietves,
– atrodiet attēlus ar suņa kaku uz ietves, –
publicējiet tos savās plūsmās, tīmekļa vietnēs, emuāros.
Ierakstiet aprakstā terorista vārdu,
nodēvējiet attēla failu „Breivik.jpeg”.
Iemācīsim Google, ka tā ir terorista patiesā seja.”
Tas izdevās.
Divus gadus pēc kampaņas pret Mišelu Obamu
šī manipulācijas kampaņa pret Annešu Bēringu-Breivīku nostrādāja.
Ja Zviedrijā meklējāt viņa attēlu
vēl vairākas nedēļas pēc 22. jūlija notikumiem,
rezultātu augšgalā parādījās suņa kaku attēls –
kā neliels protests.
Dīvainā kārtā šoreiz Google neiesaistījās.
Viņi neķērās pie darba un neveica manuālu šo rezultātu dzēšanu.
Tāpēc lielais jautājums ir –
vai šie divi gadījumi kaut kādā ziņā atšķiras?
Vai ir jebkāda atšķirība starp gadījumu ar Mišelu Obamu
un Annešu Bēringu-Breivīku?
Protams, ka nav.
Šie gadījumi ir identiski,
tomēr vienā gadījumā Google iesaistījās, bet otrā – ne.
Kāpēc?
Mišela Obama ir cienījams cilvēks,
bet Annešs Bērings-Breivīks – riebumu izraisošs cilvēks.
Vai saprotat?
Cilvēks tiek novērtēts,
un pasaulē ir tikai viens varenais,
kuram ir tiesības noteikt, kāds kurš ir.
„Tu mums patīc, bet tu – ne.
Mēs tev ticam, bet tev – ne.
Tev ir taisnība, tev – ne. Tu esi patiess, tu – ne.
Tu esi Obama, un tu esi Breivīks.”
Tā manā skatījumā ir vara.
Tāpēc atcerieties, ka katru algoritmu
vienmēr veido cilvēks,
cilvēks ar personīgajiem uzskatiem,
ko neviens kods nevar pilnībā iznīdēt.
Mans vēstījums vērsts ne vien uz Google,
bet arī uz visiem cilvēkiem pasaulē, kas uzticas kodam.
Jums jāidentificē pašiem savs objektivitātes trūkums.
Jums jāsaprot, ka esat cilvēciskas būtnes,
un attiecīgi jāuzņemas atbildība.
Es to saku, jo ticu, ka ir pienācis brīdis,
kad pilnīgi noteikti jāatjauno un jāpadara vēl ciešāka saikne
starp humanitārajam zinātnēm un tehnoloģiju.
Ciešāka nekā jebkad.
Mums vismaz jāatceras, ka brīnišķīgi vilinošā ideja
par objektīviem, tīriem meklēšanas rezultātiem
ir un visticamāk paliks tikai mīts.
Paldies par uzmanību.
(Aplausi)
Кога посетувам училишта и зборувам со учениците,
секогаш го поставувам истото прашање:
Зошто гуглате?
Зошто токму Гугл го користите како пребарувач?
За чудо, секогаш добивам три исти одговори.
Прво, „Бидејќи функционира.“
што е одличен одговор, затоа и јас гуглам.
Второ, некој ќе рече:
„Не знам за други алтернативи“,
што не е толку добар одговор и јас обично им велам,
„Обидете се да изгуглате 'интернет пребарувач'
и ќе најдете неколку други алтернативи.“
И трето, но не и последно,
на крај некој ќе крене рака и ќе рече:
„Со Гугл сум сигурен дека ќе го добијам најдобриот и најобјективниот одговор.“
Уверени се дека секогаш ќе го добијат најдобриот и најобјективен одговор.
Како човек од хуманитарните науки,
т.е. човек од дигиталните хуманитарни науки,
тоа ме вади од кожа,
иако и јас сфаќам дека таа доверба, идејата за објективни одговори
е темелот на нашата колективна љубов кон Гугл.
Ќе ви покажам зошто ова филозофски е речиси невозможно.
Но, дозволете прво да разјаснам нешто околу основниот принцип
на сите пребарувања, кое понекогаш го забораваме.
Кога ќе сакате да изгуглате нешто,
прво запрашајте се: „Дали барам изолиран факт?“
Кој е главен град на Франција?
Кои се составните делови на молекулот на водата?
Одлично-Гугл настрана.
Никој не се обидува да докаже дека тоа
е Лондон и Н3О.
Нема голема дебата околу овие нешта.
Се согласуваме на глобално ниво,
за одговорите на овие изолирани факти.
Но, ако поставите сложено прашање и прашате, на пример,
„Зошто постои Израелско-Палестинскиот конфликт?“
Веќе не барате изолиран факт,
туку барате знаење,
кое е многу посложено и деликатно.
а за да добиете знаење,
треба да извадите 10, 20 или 100 факти пред себе,
да ги потврдите и речете: „Да, сите се точни.“
Но, бидејќи јас сум тоа што сум,
млад или стар, црн или бел, геј или стрејт
јас ќе ги вреднувам различно.
И ќе речам:„Ова е точно,
но ова ми е поважно од другото."
И тука станува интересно,
бидејќи тука стануваме луѓе.
Тука почнуваме да се расправаме, да заземаме страни.
И за да стигнеме некаде, треба да ги филтрираме фактите,
преку пријателите, соседите родителите и децата,
колегите, весниците и списанијата,
за да на крај дојдеме до вистинското знаење,
за кое ниту еден пребарувач не може да ни помогне.
Ќе ви дадам пример за да ви покажам зошто е тешко
да се дојде до моментот на чистата, објективна вистина-
вреди да се размисли.
Сега ќе направам неколку едноставни пребарувања.
Ќе започнам со "Мишел Обама",
првата дама на Соединетите Држави.
Ќе кликнеме за слики.
Функционира добро, како што гледате.
Совршен одговор, повеќе или помалку.
Таа е на сликите, дури го нема ни претседателот.
Како функционира ова?
Многу едноставно.
Гугл паметно работи да го постигне ова, но е прилично едноставно.
Две основни работи се земаат предвид.
Прво, што пишува под секоја слика на интернет страните?
Пишува “Мишел Обама“ под сликата?
Добар показател, значи на сликите е таа.
Второ, Гугл го чита фајлот на сликата,
името на фајлот кој е поставен на веб страната.
Тој е наречен "MichelleObama.jpeg"?
Добар показател пак- секако не е Клинт Иствуд на сликите.
Значи, овие две работи и ги добивате овие резултати.
Во 2009 Мишел Обама беше жртва на расистичка кампања,
кога луѓето почнаа да ја навредуваат преку пребарувањата.
Имаше една слика широко распространета низ интернет,
каде лицето и беше изобличено како на мајмун.
И сликата беше објавена насекаде.
И луѓето ја објавија со јасна намера
за да ја има во пребарувањата.
Не заборавиле да напишат „Мишел Обама“ на сликите
и ја објавија сликата како "MichelleObama.jpeg или слично.
Јасно е зошто - за да манипулираат со пребарувањата.
И тоа функционираше.
Ако сте барале слика на Гугл за Мишел Обама во 2009,
изобличената слика на мајмун се појавуваше меѓу првите.
Резултатите од пребарувањата сами се чистат
и тоа е убавата страна кај нив,
бидејќи Гугл ја мери веродостојноста секој час, секој ден.
Но, Гугл овојпат не се согласи,
помислија:„ Расистички е и лошо пребарување.
затоа ќе се вратиме и ќе го исчистиме рачно.
Ќе напишеме некоја шифра и ќе средиме.
И го сторија тоа.
И сигурно никој овде не мисли дека тоа беше лоша замисла.
Ниту јас.
Така, поминаа неколку години,
и најгугланиот на светот-Андерс,
Андерс Беринг Брејвик,
го направи тоа што го направи.
на 22 јули во 2011,
ужасниот ден во историјата на Норвешка.
Овој човек, терорист, крена во воздух неколку владини згради
блиску до местото каде сме сега во Осло, Норвешка
и замина на островот Утоја
и застрела, уби група на деца.
Речиси 80 луѓе загинаа тој ден.
Многумина ќе го опишат овој ужасен акт во два чекора,
дека направи две работи: ги крена во воздух зградите и ги уби децата.
Не е вистина.
Имаше три чекори.
Ги крена во воздух зградите, ги уби децата
а потоа седна и чекаше светот да го пребарува на интернет.
Секој од овие три чекори еднакво добро ги осмисли.
Ова веднаш го свати
Шведскиот веб дивелопер,
Нике Линдквист, стручњак за оптимизирање на пребарувачи од Стокхолм.
Тој се занимава и со политика
и беше таму во социјалните медиуми, на неговиот блог и на Фејсбук.
Тој им кажа на сите,
„Типот во моментов сака
да има контрола над својот имиџ.
Ајде да го разобличиме тоа.
Дали ние, во цивилизираниот свет можеме да протестираме против тоа што го направи
така што ќе го навредуваме преку пребарувањата.
И како?
На своите читатели им го кажа следново:
„Одете на интернет,
најдете слики од кучиња кои вршат нужда по тротоари-
најдете такви слики со кучиња
објавете ги на вашите веб страни, блогови, социјални мрежи.
Не заборавајте да го ставите името на терористот под сликите,
обележете ги сликите како фајл "Breivik.jpeg."
Да го подучиме Гугл дека тоа е ликот на еден терорист.
И тоа успеа.
Две години после кампањата против Мишел Обама,
оваа манипулациска кампања против Брејвик успеа.
Ако побарате негова слика на Гугл од Шведска, по настаните од 22 јули
меѓу првите слики ќе се појават оние со кучиња кои вршат нужда,
како мал знак на протест.
За чудо, Гугл не интервенираше овојпат.
Тие не ги чистеа рачно резултатите од пребарувањата.
Па, еве го прашањето за милион долари:
Дали има разлика помеѓу овие две случувања тука?
Дали е различно тоа што ѝ се случи на Мишел Обама
од она што му се случи на Беринг Брејвик?
Секако дека нема.
Сосема е исто,
но, Гугл интервенираше во едниот случај, а во другиот не.
Зошто?
Бидејќи Мишел Обама е ценета личност, ете зошто,
а Беринг Брејвик е омразена личност.
Гледате што се случува овде?
Имаме вреднување на личноста
и има само еден кој ја има моќта во светот
со авторитет да каже кој е кој.
„Ни се допаѓаш, не ни се допаѓаш.
Ти веруваме, не ти веруваме.
Ти си во право; Ти не си во право,
Ти си Обама, а ти си Брејвик.
Тоа е моќта, ако некогаш ја имам видено.
Затоа, ве молам имајте на ум дека зад секој алгоритам
стои секогаш човекот,
со своите лични убедувања
кои ниту една шифра не може да ги искорени.
Мојата порака не е упатена само до Гугл,
туку кон сите оние во светот кои веруваат во кодирањето.
Треба ди ги идентификувате вашите лични убедувања,
да разберете дека сте човечко суштество
и соодветно на тоа преземете одговорност.
Ова го велам зашто верувам дека го достигнавме моментот
кога е неопходно
уште посилно да ги соединиме двете врски:
хуманистичките науки и технологијата.
Посилно од било кога досега.
Ако ништо друго, да нé потсетува дека привлечната идеја
за објективните резултати од пребарувањата
е, и веројатно ќе остане само мит.
Ви благодарам !
(аплауз)
Wanneer ik een school bezoek en praat met studenten,
vraag ik hun altijd hetzelfde:
Waarom googel je?
Waarom is Google dé zoekmachine van jouw keuze?
Vreemd genoeg krijg ik altijd dezelfde drie antwoorden.
Een: "Omdat het werkt",
wat een prima antwoord is; daarom googel ik ook.
Twee, er is altijd iemand die zegt:
"Ik ken eigenlijk geen alternatieven."
Dat is geen goed antwoord.
Ik zeg dan meestal: "Googel eens het woord 'zoekmachine',
je vindt misschien een paar interessante alternatieven."
En tenslotte, ten derde,
steekt er onvermijdelijk een student zijn of haar hand op en zegt:
"Met Google krijg ik gegarandeerd altijd het beste, objectieve zoekresultaat."
'Krijg ik gegarandeerd altijd het beste, objectieve zoekresultaat.'
Als menswetenschapper,
ofschoon een digitale menswetenschapper,
krijg ik daar krullende tenen van.
Hoewel ik ook besef dat dat vertrouwen, dat idee van objectieve zoekresultaten,
een hoeksteen is in onze collectieve liefde en waardering voor Google.
Ik zal je laten zien waarom dat filosofisch gezien bijna onmogelijk is.
Laat ik eerst wat dieper ingaan op een basisprincipe achter elke zoekvraag
dat we soms vergeten.
Wanneer je iets wil googelen,
vraag jezelf dan eerst af: zoek ik een geïsoleerd feit?
Wat is de hoofdstad van Frankrijk?
Wat zijn de bouwstenen van een watermolecule?
Prima! Googelen maar.
We staan nou niet echt op het punt te ontdekken dat het Londen is en H3O.
Er bestaan hierover geen grote samenzweringen.
We zijn het er wereldwijd over eens
wat de antwoorden zijn inzake deze geïsoleerde feiten.
Maar als je je vraag moeilijker maakt
en iets vraagt als:
"Waarom bestaat er een Palestijns-Israelisch conflict?"
Dan zoek je geen eenvoudig feit meer.
Dan zoek je naar kennis,
wat veel gecompliceerder en delicater is.
Om kennis te verkrijgen,
moet je 10, 20 of 100 feiten kennen,
die erkennen en zeggen: "Ja, dat is allemaal waar."
Maar door wie ik ben,
jong of oud, blank of donker, homo of hetero,
zal ik hen anders waarderen en zeggen:
"Ja, dat is waar, maar dit is belangrijker voor mij dan dat."
Daar wordt het interessant,
want hier worden we mensen.
Hier beginnen we te discussiëren, vormen we een maatschappij.
Om echt iets te bereiken, moeten we hier de feiten filteren,
met vrienden en buren en ouders en kinderen
en collega's en kranten en tijdschriften,
om uiteindelijk echte kennis te krijgen;
iets wat je moeilijk aan een zoekmachine over kunt laten.
Ik beloofde jullie een voorbeeld
om te tonen waarom het zo moeilijk is
om tot echt objectieve kennis te komen
-- als iets om over na te denken.
Ik zal een paar eenvoudige zoekopdrachten doen.
We starten met:
'Michelle Obama', presidentsvrouw van de Verenigde Staten
en we zoeken foto's.
Dat werk heel goed, zoals je ziet.
Praktisch een perfect zoekresultaat.
Het is alleen zij op de foto, niet eens de president.
Hoe werkt dit?
Vrij simpel.
Google gebruikt veel trucs om dit te bereiken,
maar eenvoudig gesteld kijken ze vooral naar twee dingen.
Ten eerste: wat zegt het bijschrift onder de foto op de website?
Staat er 'Michelle Obama' onder de foto?
Dat is een goede indicatie dat zij het is.
Ten tweede: Google kijkt naar het bestand.
De naam van het bestand zoals het op de website geüpload werd.
Opnieuw: heet het 'MichelleObama.jpeg'?
Dikke kans dat het niet Clint Eastwood is.
Is aan die twee voorwaarden voldaan, dan krijg je dit zoekresultaat -- bijna.
In 2009 was Michelle Obama slachtoffer van een racistische campagne
waarin mensen haar wilden beledigen via de zoekresultaten.
Er werd een foto verspreid over het internet,
waarop haar gezicht was vervormd tot dat van een aap.
Die foto werd overal gepubliceerd.
Mensen publiceerden die heel, heel bewust
om hem in de zoekresultaten te krijgen.
Ze schreven bewust 'Michelle Obama' in het bijschrift
en ze uploaden de foto bewust als 'MichelleObama.jepg' of zoiets.
Je snapt waarom: om het zoekresultaat te manipuleren.
En het werkte ook.
Dus wanneer je in 2009 'Michelle Obama' googelde,
stond die misvormde aap bij de eerste zoekresultaten.
De resultaten zijn zelfreinigend
en dat is de schoonheid ervan.
Google beoordeeld de relevantie elk uur, elke dag.
Maar Google vond dat deze keer niet genoeg.
Ze dachten: dat is racistisch en een slecht zoekresultaat.
We gaan dat terugdraaien en manueel corrigeren.
We passen de software aan en we lossen het op.
En dat deden ze.
Ik denk niet dat iemand hier vindt dat dat een slecht idee was.
Ik ook niet.
Maar dan, een paar jaar later,
deed 's werelds meest gegoogelde Anders,
Anders Behring Breivik,
wat hij deed.
Dat was op 22 juli 2011,
een vreselijke dag in de Noorse geschiedenis.
Deze man, een terrorist, blies een aantal overheidsgebouwen op,
op wandelafstand hiervandaan in Oslo, Noorwegen.
Daarna reed hij naar het eiland Utøya
en beschoot een groep kinderen.
Bijna 80 mensen stierven die dag.
Veel mensen beschrijven deze terreurdaad als zijnde twee stappen:
die gebouwen opblazen en die kinderen doodschieten.
Dat is niet waar.
Er waren drie stappen.
Hij blies die gebouwen op, beschoot die kinderen,
en ging zitten wachten tot de wereld hem googelde.
Hij had al die drie stappen even goed voorbereid.
Er was iemand die dat onmiddellijk begreep.
Dat was een Zweedse webontwikkelaar,
een zoekmachine-optimalisatie-expert in Stockholm, genaamd Nikke Lindqvist.
Hij is ook erg politiek ingesteld
en hij was onmiddelijk op sociale media, op zijn blog en Facebook,
en hij vertelde iedereen:
"Als er iets is dat die man nu wil,
dan is dat zijn imago controleren.
Laten we eens kijken of we dat kunnen verstoren.
Laten we kijken of de beschaafde wereld kan protesteren tegen wat hij deed
door hem te beledigen in de zoekresultaten."
Hoe?
Hij vertelde al zijn lezers het volgende:
"Ga op het internet,
zoek foto's van hondenpoep op de stoep,
publiceer die in jullie feed, op jullie websites en op jullie blogs.
Vergeet niet de naam van de terrorist in het bijschrift te noemen,
en noem het bestand 'Breivik.jpeg'.
Laten we Google leren dat dat het gezicht is van de terrorist."
En het werkte.
Twee jaar na de campagne tegen Michelle Obama,
werke deze manipulatiecampagne tegen Anders Behring Breivik.
Als je na de gebeurtenissen van 22 juli op Google naar zijn afbeelding zocht,
dan zag je die foto van hondenpoep hoog in de zoekresultaten,
als een klein protest.
Vreemd genoeg,
kwam Google deze keer niet tussenbeide.
Ze grepen niet in om de resulaten manueel bij te werken.
Dus de vraag van één miljoen:
is er iets verschillend tussen deze twee gebeurtenissen?
Is er een verschil tussen wat er gebeurde met Michelle Obama
en wat er gebeurde met Anders Behring Breivik?
Natuurlijk niet.
Het is exact hetzelfde.
Toch greep Google in het ene geval in en niet in het andere.
Waarom?
Omdat Michelle Obama een eerbaar persoon is, daarom,
en Anders Behring Breivik is een verwerpelijk persoon.
Zie je wat daar gebeurt?
Er is een evaluatie van de persoon
en er is maar één machthebber ter wereld
met de autoriteit om te zeggen wie wie is.
"We mogen jou, we mogen jou niet.
Wij geloven in jou, we geloven niet in jou.
Jij hebt gelijk, jij hebt ongelijk.
Jij bent Obama en jij bent Breivik."
Dat is pure macht.
Ik vraag je te onthouden
dat achter elk algoritme een persoon schuilt,
een persoon met eigen waarden
die geen code ooit kan uitsluiten.
Mijn boodschap is -- niet alleen aan Google --
maar aan alle mensen op de wereld die vertrouwen op codes.
Je moet je eigen subjectiviteit in kaart hebben.
Je moet begrijpen dat je menselijk bent
en verantwoordelijkheid nemen naargelang.
Ik zeg dat omdat ik geloof dat we op het punt gekomen zijn
waarop het absoluut nodig is
dat we de band verstevigen tussen
de menswetenschappen en de technologie.
Steviger dan ooit.
En om ons er op zijn minst aan te herinneren
dat het verleidelijke idee van een objectief, schoon zoekresultaat
een mythe is en wellicht zal blijven.
Bedankt voor je tijd.
(Applaus)
Ilekroć odwiedzam szkołę i rozmawiam ze studentami,
zawsze zadaję im to samo pytanie:
"Dlaczego googlujesz?
Dlaczego wybierasz wyszukiwarkę Google?".
O dziwo, zawsze dostaję te same trzy odpowiedzi.
Raz: "Bo działa", co jest świetną odpowiedzią.
Z tego samego powodu ja też z niej korzystam.
Dwa, ktoś powie:
"Nie znam żadnej alternatywy".
To nie jest równie świetna odpowiedź i zazwyczaj odpowiadam:
"Spróbuj wygooglować słowo 'wyszukiwarka internetowa'.
Możesz znaleźć jakąś ciekawą alternatywę".
I ostatnia, ale nie najgorsza, trzecia:
Nieuchronnie jeden student podniesie rękę i powie:
"Bo jestem pewien, że zawsze dostaję najlepszy, obiektywny wynik wyszukiwania".
Pewność, że zawsze dostanę najlepszy, obiektywny wynik.
Jako humanista,
aczkolwiek humanista cyfrowy,
odczuwam na te słowa dreszcze,
nawet jeśli sam zdaję sobie sprawę, że to zaufanie, ta idea obiektywności,
jest kluczem do zrozumienia, dlaczego tak kochamy i cenimy Google.
Pokażę wam dlaczego, filozoficznie, jest to prawie niemożliwe.
Ale najpierw opowiem trochę o podstawowych zasadach,
o których czasem zapominamy, które stoją za każdym wyszukiwaniem.
Ilekroć chcesz coś wygooglować,
zadaj sobie pytanie: "Czy szukam bezdyskusyjnej odpowiedzi?".
Jaka jest stolica Francji?
Co jest budulcem cząsteczki wody?
Super. Google znajdzie.
Żadna grupa naukowców nie udowodni,
że tak chodzi o Londyn oraz H3O.
Nie ma w tym wielkiej konspiracji.
Zgadzamy się,
jakie są odpowiedzi na te niezaprzeczalne fakty.
Ale jeśli choć trochę skomplikujesz pytanie, jak na przykład:
"Z czego wynika konflikt izraelsko-palestyński?",
nie szukasz pojedynczego faktu,
szukasz wiedzy,
czyli czegoś o wiele bardziej skomplikowanego i delikatnego.
Aby zdobyć wiedzę,
musisz zebrać 10, 20 lub 100 faktów,
połączyć je i powiedzieć, "Tak, wszystkie są prawdziwe".
Ale z racji tego, kim jestem,
młody czy stary, czarny czy biały, homo- czy heteroseksualny,
ocenię je inaczej.
"Tak, to prawda,
ale to jest dla mnie bardziej istotne".
Tutaj zaczyna być interesująco,
bo w tym momencie stajemy się człowiekiem.
To jest moment, gdzie zaczynamy spierać się, formując społeczeństwo.
Aby naprawdę dojść do jakichś wniosków, musimy zweryfikować wszystkie fakty
przez przyjaciół, sąsiadów, rodziców, dzieci,
współpracowników, gazety i magazyny,
by ostatecznie utwierdzić się w wiedzy,
a tego wyszukiwarka nie potrafi.
Obiecałem podać przykład, dlaczego tak trudno
przejść do sedna prawdziwej, czystej, obiektywnej wiedzy,
jako materiał do przemyśleń.
Przeprowadzę kilka prostych zapytań.
Zacznijmy od Michelle Obamy,
Pierwszej Damy USA.
Wybierzemy zdjęcia.
Jak widzicie, działa całkiem nieźle.
Idealny wynik wyszukiwania, mniej więcej.
Są tylko jej zdjęcia, nawet żadnego prezydenta.
Jak to działa?
Całkiem prosto.
Google używa sprytu, aby to osiągnąć, ale to całkiem proste.
Zwracają przede wszystkim uwagę na dwie rzeczy,
Po pierwsze podpis pod obrazkiem na każdej stronie internetowej.
Czy napisane jest "Michelle Obama"?
Całkiem niezła wskazówka.
Druga to nazwa pliku,
jaki załadowano na stronę.
Czy nazywa się "MichelleObama.jpeg"?
Niezła wskazówka, że na zdjęciu nie ma Clinta Eastwooda.
Wiedząc te dwie rzeczy, otrzymasz taki właśnie rezultat - prawie.
W 2009 roku Michelle Obama padła ofiarą rasistowskiej kampanii,
gdy ludzie postanowili ją znieważyć przez wynik wyszukiwania.
W sieci rozpowszechniono zdjęcie
na którym jej twarz zniekształcono, aby przypominała małpę.
Opublikowano je wszędzie.
Ludzie robili to celowo,
aby znalazło się w wynikach wyszukiwania.
Pamiętali o podpisie "Michelle Obama" pod zdjęciem
i o nazwaniu pliku w stylu "MichelleObama.jpeg".
Domyślacie się, dlaczego - aby zmanipulować wyniki.
I to zadziałało.
Zatem w 2009 roku szukanie zdjęć MIchelle Obamy
dawało na pierwszym miejscu zdjęcie małpy.
Wyniki wyszukiwania czyszczą się same.
Na tym polega ich urok,
bo Google mierzy ważność co godzinę, każdego dnia.
Ale wtedy w Google na tym nie poprzestano.
Stwierdzono "To rasistowski i niewłaściwy wynik wyszukiwania,
zatem wrócimy do tego i zrobimy porządek.
Napiszemy kod i naprawimy to".
Tak też zrobili.
Nie sądzę, żeby ktoś na tej sali uznał to za zły pomysł.
Ja też nie.
Ale kilka lat temu
najbardziej googlowany Anders,
Anders Behring Breivik,
zrobił, co zrobił.
22 lipca 2011 roku,
straszny dzień w historii Norwegii.
Ten człowiek, terrorysta, wysadził kilka rządowych budynków
niedaleko miejsca, w którym się znajdujemy, w Oslo w Norwegii.
Następnie dostał się na wyspę Utoya,
gdzie zastrzelił grupę dzieci.
Tamtego dnia zginęło prawie 80 osób.
Wielu ludzi opisałoby ten akt terroryzmu w dwóch etapach,
zrobił dwie rzeczy: wysadził budynki i zastrzelił dzieci.
To nieprawda.
To były trzy etapy.
Wysadził budynki, zabił dzieci,
po czym usiadł i czekał, aż świat go wygoogluje.
Każdy etap przygotował równie dobrze.
Znalazł się wtedy ktoś, kto natychmiast to zrozumiał.
Był to szwedzki programista,
ekspert w optymalizacji wyszukiwarek, Nikke Lindqvist ze Sztokholmu.
Jest facetem związanym z polityką
był na miejscu, w społecznych mediach, na swoim blogu i Facebooku.
Powiedział wszystkim:
"Ten facet chce teraz przede wszystkim
kontrolować swój wizerunek w sieci.
Zobaczmy, czy uda nam się to zniszczyć,
Zobaczmy, czy w cywilizowanym świecie, jesteśmy w stanie zaprotestować
przez obrażenie go w wyszukiwarce".
Jak to zrobić?
Powiedział wszystkim czytelnikom:
"Zajrzyjcie do internetu,
znajdźcie zdjęcia psich kup na chodniku
opublikujcie je na swoich stronach, blogach.
Koniecznie podpiszcie zdjęcie nazwiskiem terrorysty
i nazwijcie plik ze zdjęciem "Breivik.jpeg".
Nauczmy Google, że to jest twarz terrorysty.
To zadziałało.
Dwa lata po kampanii przeciwko Michelle Obamie
manipulacja przeciwko Andersowi Breivikowi zadziałała.
Googlowanie jego zdjęcia po wydarzeniach 22 lipca
dawało przez tydzień zdjęcia psiej kupy
w ramach małego protestu.
Co najdziwniejsze, Google tym razem nie interweniował.
Nie wkroczyli i nie usunęli ręcznie tych wyników.
Pytanie za milion dolarów.
Czy jest jakaś różnica między tymi dwoma zdarzeniami?
Czy jest jakaś różnica między tym, co spotkało Michelle Obamę
i Andersa Behringa Breivika?
Oczywiście nie.
Jest to dokładnie to samo.
Ale Google interweniował tylko raz.
Dlaczego?
Ponieważ Michelle Obama jest osobą czcigodną,
a Anders Behring Breivik - nikczemną.
Widzicie, jak to działa?
Mamy doczynienia z oceną osoby
i na świecie jest tylko jeden silny gracz,
którego autorytet mówi nam, kto jest kim.
"Ciebie lubimy, ciebie nie lubimy.
W ciebie wierzymy, w ciebie nie wierzymy.
Ty masz rację , a ty nie. Ty mówisz prawdę, ty nie.
Ty jesteś Obama, a ty Breivik".
To jest niespotykana moc.
Pamiętajcie więc, że za każdym algorytmem
zawsze stoi człowiek,
człowiek z osobistymi poglądami,
którego żaden kod nigdy kompletnie nie zastąpi.
Moje przesłanie biegnie nie tylko do Google,
ale do wszystkich wierzących w kod na całym świecie.
Musicie zidentyfikować własne uprzedzenia.
Musicie zrozumieć, że jesteście ludźmi
i brać za to stosowną odpowiedzialność.
Mówię to, bo wierzę, że znaleźliśmy w miejscu,
gdzie jest absolutna konieczne,
aby ponownie zacieśnić więzy
między humanistyką i techniką.
ciaśniej niż kiedykolwiek.
I żeby przypomnieć nam, że ta wspaniale kusząca idea
bezstronnego, obiektywnego wyniku wyszukiwań
jest, i pewnie pozostanie, mitem.
Dziękuję za uwagę.
(Brawa)
Sempre que visito uma escola e falo com estudantes
pergunto-lhes sempre a mesma coisa:
"Porque é que usam o Google?
"Porque é que o Google é o vosso motor de pesquisa preferido?"
É curioso que obtenho sempre as mesmas três respostas.
Um: "Porque funciona",
o que é uma ótima resposta, também é por isso que eu uso o Google.
Dois, há alguém que diz:
"Não conheço nenhuma alternativa".
Não é uma resposta tão boa e a minha resposta habitualmente é:
"Experimenta pesquisar no Google 'motor de busca',
"talvez encontres algumas alternativas interessantes".
Por fim, mas não menos frequente, terceiro,
inevitavelmente, um estudante levanta a mão e diz:
"Com o Google, tenho a certeza de obter sempre
"o melhor resultado de pesquisa, e imparcial".
A certeza de obter sempre o melhor resultado de pesquisa, imparcial.
Enquanto homem de Humanidades.
apesar de ser uma pessoa de Humanidades Digitais,
fico todo arrepiado,
embora eu também perceba que essa confiança,
essa ideia de resultado imparcial de pesquisa
seja uma pedra basilar no nosso amor e apreciação coletiva do Google.
Vou mostrar-vos porque é que, filosoficamente, isso é quase impossível.
Mas, primeiro, vou refletir um pouco sobre um princípio básico
por detrás de cada pesquisa, que por vezes esquecemos.
Sempre que se dispuserem a usar o Google, comecem por pensar nisto:
"Estou à procura de um facto isolado?
"Qual é a capital da França?
"Quais são os elementos constitutivos duma molécula da água?"
Ótimo... Google para a frente.
Não há nenhum grupo de cientistas que estejam dispostos a provar
que é Londres e H3O.
Não vemos nenhuma conspiração nestas coisas.
Numa escala global, estamos de acordo
quanto às respostas para este tipo de factos isolados.
Mas, se complicarem um pouco a pergunta e perguntarem:
"Porque é que há um conflito israelo-palestino?"
já não estão propriamente a procurar um facto singular,
estão a procurar conhecimentos,
o que é uma coisa mais complicada e delicada.
Para chegar ao conhecimento
precisamos de pôr em cima da mesa 10 ou 20 ou 100 factos,
analisá-los e dizer: "Sim, estes são todos verdadeiros".
Mas, consoante eu seja
novo ou velho, negro ou branco, "gay" ou hetero,
avalio-los de modo diferente e digo:
"Sim, isto é verdade, mas, para mim, isto é mais importante do que aquilo".
É aqui que as coisas se tornam interessantes,
porque é aqui que nos tornamos humanos.
É aqui que começamos a argumentar, a formar sociedade.
Para chegar a algum lado, é preciso filtrar todos os nossos factos
com os amigos e vizinhos, com os pais e os filhos
e colegas e jornais e revistas,
para finalmente chegarmos a um conhecimento real,
coisa que um motor de busca dificilmente consegue.
Prometi-vos um exemplo, só para mostrar porque é tão difícil
chegar ao ponto da verdade, nua e crua, de um conhecimento objetivo,
como alimento para o pensamento.
Vou fazer algumas pesquisas simples.
Vamos começar com "Michelle Obama",
a primeira dama dos EUA.
E clicamos em imagens.
Funciona mesmo bem, como podem ver.
É um resultado de pesquisa perfeito, mais ou menos.
É só ela na imagem, sem sequer o Presidente.
Como é que isto funciona?
Muito simples.
O Google usa muita esperteza para conseguir isto, mas é muito simples,
olha sobretudo para duas coisas.
Primeiro, o que é que diz na legenda por baixo da imagem em cada website?
Diz: "Michelle Obama" por baixo da imagem?
É uma boa indicação de que é realmente ela que ali está.
Segundo, o Google olha para o ficheiro da imagem,
para o nome do ficheiro, tal como carregado no "website".
Chama-se "MichelleObama.jpeg"?
Uma boa indicação de que não é o Clint Eastwood na imagem.
Portanto, temos estes dois e obtemos um resultado de pesquisa como este... quase.
Ora bem, em 2009, Michelle Obama foi vítima duma campanha racista,
em que as pessoas se puseram a insultá-la, através dos resultados de pesquisa.
Houve uma imagem distribuída amplamente na Internet
com a cara dela distorcida para parecer um macaco.
Essa imagem foi publicada por toda a parte.
As pessoas publicaram-na de propósito
para que ela aparecesse no resultado da pesquisa.
Tiveram o cuidado de escrever "Michelle Obama" na legenda
e tiveram o cuidado de carregar a imagem como "MichelleObama.jpeg", ou equivalente.
Porquê? Para manipularem o resultado da pesquisa.
E também funcionou.
Quando, em 2009, procurávamos no Google imagens de Michelle Obama,
essa imagem distorcida aparecia entre os primeiros resultados.
Ora bem, os resultados fazem uma auto-limpeza,
— é o que faz a beleza do sistema —
porque o Google está sempre a medir a relevância.
Mas, dessa vez, o Google não se contentou com isso e pensou:
"Isto é racista, e é um mau resultado da pesquisa,
"vamos limpar isto manualmente.
"Vamos escrever um código qualquer e consertar isto".
E assim fizeram.
Penso que ninguém nesta sala acha que foi uma má ideia.
Eu também não.
Mas depois, passaram uns anos
e Anders Behring Breivik,
o Anders mais procurado no Google,
fez o que fez.
Foi a 22 de julho de 2011,
um dia terrível na história da Noruega.
Este homem, um terrorista, fez explodir alguns edifícios governamentais
perto do sítio onde nos encontramos em Oslo, na Noruega.
Depois, foi para a ilha de Utøya
e matou a tiro um grupo de jovens.
Morreram quase 80 pessoas nesse dia.
Muita gente pensou que este ato de terrorismo teve duas fases:
fazer explodir os edifícios e matar aqueles jovens.
Não é verdade.
Foram três fases.
Fez explodir os edifícios, matou aqueles jovens,
sentou-se e esperou que o mundo o procurasse no Google.
E preparou igualmente bem todas essas três fases.
Houve alguém que percebeu isto imediatamente,
um programador sueco, Nikke Lindqvist.
um especialista de otimização de motores de busca, em Estocolmo.
É também um tipo muito político.
Saltou logo para as redes sociais, no seu blogue e no Facebook.
Disse a toda a gente:
"O que este tipo quer, neste momento, é controlar a própria imagem.
"Vejamos se podemos contrariar isso.
"Vejamos se nós, no mundo civilizado, podemos protestar contra o que ele fez
"insultando-o nos resultados da pesquisa."
Mas como?
Ele disse o seguinte a todos os seus leitores:
"Vão à Internet,
"procurem imagens de cocó de cão nos passeios,
"encontrem imagens de cocó de cão nos passeios,
"publiquem-nas nos vossos websites, nos vossos blogues.
"Não se esqueçam de escrever o nome do terrorista na legenda,
"não se esqueçam de pôr o nome 'Breivik.jpeg' no ficheiro da imagem.
"Vamos ensinar ao Google que é esse o rosto do terrorista".
E funcionou.
Dois anos depois da campanha contra Michelle Obama,
esta campanha de manipulação contra Anders Behring Breivik funcionou.
Quem procurou imagens dele no Google, depois de 22 de julho na Suécia,
viu que as imagens de cocó de cão apareciam nos resultados da pesquisa,
como um pequeno protesto.
Estranhamente, o Google dessa vez não interferiu.
Não limparam manualmente os resultados da pesquisa.
Então, a pergunta de ouro,
"Há alguma diferença entre estes dois acontecimentos?"
"Há alguma diferença entre o que aconteceu a Michelle Obama
"e o que aconteceu a Anders Behring Breivik?"
Claro que não.
Foi exatamente a mesma coisa.
No entanto, o Google interveio num caso e não no outro.
Porquê?
Porque Michelle Obama é uma pessoa respeitável, é por isso,
e Anders Behring Breivik é uma pessoa ignóbil.
Estão a ver o que acontece aqui?
Fez-se um juízo de valor duma pessoa
e só há um todo-poderoso no mundo com autoridade para dizer quem é quem.
"Gosto de ti, não gosto de ti.
"Acredito em ti, em ti não.
"Tens razão, tu não. Estás certo, estás errado.
"És o Obama, e tu és o Breivik."
Esse é um poder sem igual.
Portanto, peço-vos que se lembrem de que, por detrás de cada algoritmo,
está sempre uma pessoa,
uma pessoa com um conjunto de crenças pessoais
que nenhum código consegue eliminar totalmente.
A minha mensagem não se dirige exclusivamente ao Google,
mas a todos os que acreditam na fé do código, pelo mundo inteiro.
Precisamos de identificar os nossos preconceitos pessoais.
Precisamos de perceber que somos seres humanos
e assumir essa responsabilidade, em conformidade com isso.
Digo isto porque acredito que chegámos a um ponto
em que é totalmente imperativo
que voltemos a ligar estes laços, mais apertados ainda,
as humanidades e a tecnologia.
Mais apertados do que nunca.
E, pelo menos, lembrarmo-nos de que essa ideia maravilhosamente sedutora
de resultados de pesquisa limpos, imparciais,
é, e provavelmente continuará a ser, um mito.
Obrigado pelo vosso tempo.
(Aplausos)
Sempre que visito uma escola e falo com os alunos,
sempre lhes faço a mesma pergunta:
"Por que vocês usam a busca do Google?
Por que vocês optam pela ferramenta de busca do Google?"
É engraçado, mas sempre recebo as mesmas três respostas.
Primeiro: "Porque funciona",
o que é uma ótima resposta. Também opto pelo Google por isso.
Segundo, alguém vai dizer: "Não conheço outras ferramentas".
Não é uma resposta tão boa quanto a anterior, e normalmente respondo:
"Busque 'ferramenta de busca' no Google",
e vai encontrar algumas alternativas interessantes".
Por último, mas não menos importante,
inevitavelmente, algum aluno levanta a mão e diz:
"Com o Google, sempre obtenho o resultado melhor e imparcial".
"Sempre obtenho o resultado melhor e imparcial."
Como um cara de humanas, embora um cara de humanas digitais,
isso simplesmente me assusta,
embora eu também saiba que essa confiança, essa ideia de um resultado imparcial,
é a base de nosso apreço e paixão coletivos pelo Google.
Vou mostrar por que, filosoficamente, isso é quase impossível,
mas primeiro vou falar, só um pouquinho, sobre um princípio básico
por trás de cada pesquisa feita, do qual às vezes parecemos nos esquecer.
Sempre que você pesquisar algo no Google,
faça antes a seguinte pergunta a si mesmo: "Estou buscando um fato isolado?"
Tipo, qual é a capital da França?
Quais elementos compõem a molécula de água?
Perfeito. Pesquise à vontade.
Não há um grupo sequer de cientistas que esteja perto de provar
que as respostas são "Londres" e "H3O".
Não se vê uma grande conspiração em torno disso.
Concordamos, em escala mundial,
quanto a quais são as respostas para esses fatos isolados.
Porém, se você complicar a pergunta só um pouquinho, assim:
"Por que existe um conflito entre Israel e Palestina?",
não estará mais buscando exatamente um único fato,
mas estará buscando conhecimento,
o que é bem mais complicado e delicado.
E, para chegar ao conhecimento,
você precisa trazer 10, 20 ou 100 fatos à mesa,
reconhecê-los e dizer: "Sim, todos são verdadeiros".
Mas, por causa de quem somos -
jovens, idosos, negros, brancos, gays, héteros -,
vamos valorizá-los de forma diferente: "Sim, isso aqui é verdade,
mas isso aqui é mais importante pra mim do que aquilo".
É aí que a coisa fica interessante, porque é aí que nos tornamos humanos,
que começamos a debater, a criar uma sociedade.
E, para realmente chegar a algum lugar, precisamos filtrar todos os fatos,
entre amigos, vizinhos, pais, filhos, colegas de trabalho, jornais, revistas,
para finalmente estarmos baseados em conhecimento real,
algo que uma ferramenta de busca é ruim em nos ajudar a obter.
Prometi a vocês um exemplo, apenas para mostrar por que é tão difícil
chegar ao conhecimento real, claro e objetivo,
como ponto para reflexão.
Vou fazer algumas pesquisas simples, buscas simples.
Vamos começar com "Michelle Obama", a primeira-dama dos Estados Unidos,
e vamos clicar em "imagens".
Funciona muito bem, como vocês podem ver.
É um resultado de busca praticamente perfeito.
Só ela aparece nas fotos. Nem o presidente aparece.
Como isso funciona?
Bem simples.
O Google usa muita inteligência para isso, mas, de forma bem simples,
eles analisam principalmente duas coisas.
Primeiro, o que está escrito na legenda da foto, em cada site?
Está escrito "Michelle Obama" abaixo da foto?
É bem provável que seja ela mesma na foto.
Segundo, o Google analisa o arquivo da imagem,
o nome com que o arquivo foi carregado no site.
Novamente, se o nome do arquivo for "MichelleObama.jpeg",
é bem provável que a foto não seja do Clint Eastwood.
Então, você tem essas duas coisas, e obtém um resultado mais ou menos assim.
Bem, em 2009, Michelle Obama foi vítima de uma campanha racista,
quando as pessoas começaram a insultá-la
através dos resultados de pesquisa relacionados a ela.
Uma foto circulou em toda a internet,
com o rosto dela distorcido, fazendo-a parecer com um macaco.
Essa imagem foi publicada em toda a internet.
As pessoas a publicaram realmente com a intenção
de aparecer nos primeiros resultados de pesquisa.
Certificaram-se de escrever "Michelle Obama" na legenda
e de carregar a imagem como "MichelleObama.jpeg", ou algo assim.
Entendem por quê? Para manipular os resultados.
E funcionou também.
Então, ao pesquisar imagens de "Michelle Obama" em 2009,
a imagem distorcida de macaco aparecia entre os primeiros resultados.
Mas os resultados são autoajustáveis, o que é meio que a vantagem disso tudo,
porque o Google avalia a relevância a cada hora, a cada dia.
Porém, o Google não fez isso dessa vez.
Eles pensaram: "Isso é racismo e um resultado ruim de pesquisa.
Vamos lá e vamos corrigir isso manualmente.
Vamos escrever algum código para consertar isso".
E assim o fizeram.
Não acredito que alguém nesta sala ache que isso foi uma má ideia.
Também não acho.
Mas então, dois anos depois,
e o "Anders" mais buscado no Google, Anders Behind Breivik,
fez o que fez.
É 22 de julho de 2011, um dia terrível na história da Noruega.
Este homem, um terrorista, explodiu dois edifícios governamentais,
a poucos metros daqui, em Oslo, na Noruega,
e depois viajou para a ilha de Utøya e matou a tiros um grupo de jovens.
Quase 80 pessoas morreram naquele dia.
Muitos descreveriam esse ato de terror como realizado em duas etapas,
que ele fez duas coisas: explodiu os edifícios e atirou nos jovens.
Não é verdade.
Foram três etapas: ele explodiu aqueles edifícios, atirou naqueles jovens,
depois parou e esperou até que o mundo o buscasse no Google.
Ele preparou todas as três etapas igualmente bem.
Alguém que imediatamente entendeu isso foi um desenvolvedor web sueco,
especialista em otimização de ferramentas de busca de Estocolmo,
chamado Nikke Lindqvist.
Ele também é um cara bem político
e ele estava lá nas redes sociais, em seu blog e Facebook.
Ele disse a todo mundo:
"O que esse cara deseja agora é controlar sua própria imagem.
Vejamos se conseguimos distorcer os resultados.
Vejamos se nós, do mundo civilizado,
conseguimos protestar contra o que ele fez,
insultando-o em seus resultados de pesquisa".
Mas como?
Ele disse o seguinte a todos os leitores dele:
"Procurem na internet
imagens de cocô de cachorro em calçadas.
Imagens de cocô de cachorro em calçadas.
Publiquem-nas em suas páginas, seus sites, seus blogs.
Certifiquem-se de escrever o nome do terrorista na legenda,
coloquem o seguinte nome na imagem: 'Breivik.jpeg'.
Vamos mostrar ao Google que essa é a imagem do terrorista".
E funcionou.
Dois anos após a campanha contra Michelle Obama,
essa campanha de manipulação contra Anders Behring Breivik funcionou.
Ao pesquisar a imagem dele no Google
semanas após os eventos de 22 de julho, na Suécia,
você veria a imagem do cocô de cachorro no topo dos resultados,
como uma pequena forma de protesto.
Por incrível que pareça, o Google não interveio dessa vez.
Eles não ajustaram manualmente esses resultados de pesquisa.
Então, a pergunta que não quer calar:
há algo diferente entre esses dois acontecimentos?
Há algo diferente entre o que aconteceu com Michelle Obama
e o que aconteceu com Anders Behring Breivik?
Claro que não.
É exatamente a mesma coisa,
mas o Google interveio em um caso e no outro não.
Por quê?
Porque Michelle Obama é uma pessoa honrada,
e Anders Behring Breivik é uma pessoa desprezível.
Percebem o acontece aqui?
A avaliação de uma pessoa acontece
e há apenas um mandachuva no mundo
com a autoridade para dizer quem é quem.
"Gostamos de você. Não gostamos de você.
Acreditamos em você; não em você. Está certo, errado. É verdadeiro, falso.
Você é Obama. Você é Breivik."
Isso é que é poder.
Então, peço que vocês lembrem que, atrás de cada algoritmo,
sempre existe alguém com um conjunto de crenças pessoais
que código algum jamais poderá erradicar totalmente.
Minha mensagem não é apenas ao Google,
mas a todos os que creem piamente em códigos, em todo o mundo.
Vocês precisam identificar sua própria parcialidade.
Precisam entender que são humanos e assumir responsabilidade como tais.
Digo isso porque acredito que chegamos a um ponto
em que é absolutamente imperativo
que atemos esses laços novamente, de maneira mais forte:
ciências humanas e tecnologia,
mais unidas que nunca,
e, no mínimo, lembrar que essa ideia maravilhosamente sedutora
de um resultado de pesquisa imparcial e limpo
é, e provavelmente continuará sendo, um mito.
Obrigado pela atenção.
(Aplausos)
Când vizitez o şcoală şi le vorbesc elevilor,
le pun această întrebare:
De ce daţi căutare pe Google?
De ce preferaţi Google?
Surprinzător, mereu primesc aceleaşi trei răspunsuri:
Primul: „Pentru că funcţionează.”
E un răspuns excelent; de-asta folosesc și eu Google.
Al doilea, cineva va zice:
„Nu știu alternative.”
Nu e o variantă la fel de bună, iar răspunsul meu e de obicei:
„Încearcă ‘motor de căutare’ pe Google,
poate găseşti câteva alternative interesante.”
Iar a treia variantă de răspuns -
inevitabil, un elev va ridica mâna şi va zice:
„Cu Google, sunt sigur că voi obţine cel mai bun rezultat imparţial.”
Sigur că se obţine cel mai bun rezultat imparţial.
Ca om al ştiinţelor umane,
deși unul al științelor umane digitale,
mă cutremur când aud asta,
chiar dacă şi eu realizez că încrederea în ideea unei căutări imparţiale
stă la baza admiraţiei şi iubirii noastre colective pentru Google.
Am să vă demonstrez de ce asta este aproape o imposibilitate filosofică.
Mai întâi, permiteți-mi să vorbesc despre un principiu fundamental
ce stă la baza fiecărei căutări, dar de care uităm adesea.
Atunci când daţi o căutare pe Google,
începeţi prin a vă întreba: „Caut un fapt izolat?"
Care este capitala Franţei?
Din ce e alcătuită o moleculă de apă?
Super - căutaţi în voie.
Nu există niciun grup de specialişti aproape de a demostra
că e vorba, de fapt, depre Londra şi H3O.
Nu vedem nicio conspiraţie în aceste lucruri.
Suntem de acord global
cu răspunsurile la aceste fapte izolate.
Dar dacă aveţi o întrebare puţin mai complicată precum:
„De ce există un conflict palestino-israelian?”,
nu mai sunteţi în căutarea unui fapt singular,
sunteţi în căutare de cunoştinţe,
ceva mult mai complicat şi mai delicat.
Pentru a ajunge la cunoştinţe,
trebuie să incluzi 10, 20 sau 100 de fapte în ecuaţie,
să le confirmi şi să spui: „Da, toate astea sunt adevăruri.”
Însă datorită identităţii mele,
tânăr sau bătrân, negru sau alb, gay sau hetero,
le voi evalua diferit.
Și voi spune: „Da, asta e adevărat,
dar acest lucru e mai important decât acela."
În acea clipă lucrurile devin interesante,
fiindcă atunci devenim umani.
Atunci începem să dezbatem, să formăm societatea.
Iar pentru a putea ajunge undeva, trebuie să filtrăm totul aici,
prin prieteni şi vecini, părinţi şi copii,
colegi de muncă, ziare şi reviste,
ca să avem la final o bază reală de cunoaştere,
un lucru la care motoarele de căutare nu prea ne ajută.
Deci v-am promis un exemplu pentru a demonstra dificultatea
de a ajunge la o cunoştere adevărată, curată şi obiectivă -
luaţi-o ca şi temă de gândire.
O să efectuez două căutări simple.
Începem cu „Michelle Obama”,
Prima Doamnă a Statelor Unite.
Şi o să căutăm imagini.
După cum vedeţi, funcţionează foarte bine.
E mai mult sau mai puţin un rezultat perfect al căutării.
Nici măcar preşedintele nu apare în imagini, doar ea.
Cum funcţionează asta?
Destul de simplu.
Google foloseşte multă inteligenţă
pentru a obține asta, dar, în principal,
e atent la două lucruri:
Mai întâi, ce titlu au imaginile de pe fiecare site?
Scrie „Michelle Obama” sub imagine?
Acesta ar fi un indiciu bun că e ea în imagine.
Apoi, Google se uită la fişierul imagine,
numele fişierului aşa cum a fost el încărcat pe Internet.
Din nou, se numeşte imaginea „MichelleObama.jpeg”?
Dacă da, cel mai probabil nu e Clint Eastwood în ea.
Deci avem aceste două criterii şi obţinem acest rezultat - aproape.
În 2009, Michelle Obama a fost victima unei campanii rasiste.
Oamenii doreau să o insulte prin rezultatele la căutările numelui ei.
O anumită imagine s-a răspândit larg pe Internet,
una în care faţa ei e făcută să semene cu o maimuţă.
Imaginea a fost publicată peste tot.
Oamenii o publicau cu intenţia clară de a fi prima
la rezultatele de căutare.
S-au asigurat să pună titlul “Michelle Obama”
şi să încarce imaginea
ca “MichelleObama.jpeg” sau ceva similar.
Aţi înţeles de ce:
să manipuleze rezultatele.
Şi a mers.
Astfel, dacă în 2009 căutaţi “Michelle Obama” pe Google imagini
acea imagine distorsionată apărea printre primele rezultate.
Dar, rezultatele căutărilor se auto-corectează,
în aceasta constă de fapt frumuseţea lor,
pentru că Google le măsoară relevanţă în fiecare oră, fiecare zi.
În acest caz însă, Google nu s-a mulţumit doar cu atât.
A zis: “Asta e rasism şi un rezultat de căutare prost.
O să curăţăm rezultatele manual.
O să codăm ceva şi o să rezolvăm problema.
Şi au reuşit.
Nu cred că se afla cineva aici care să creadă că a fost o idee rea.
Nici eu nu cred.
Însă după doi ani,
cel mai căutat Anders de pe Google,
anume Anders Behring Breivik,
a făcut ce a făcut.
E 22 iulie 2011,
o zi înfiorătoare în istoria Norvegiei.
Acest individ, un terorist, a atacat două clădiri guvernamentale
aproape de locul unde ne aflăm acum în Oslo, Norvegia
Apoi a călătorit în insula Utøya
unde a împuşcat mortal un grup de copii.
Aproape 80 de persoane au murit atunci.
Mulţi ar zice ca actul terorist a avut două etape,
că teroristul a comis două fapte: a detonat clădirile şi a ucis copiii.
Nu este adevărat.
Au fost trei etape.
A detonat clădirile, a împușcat acei copii
apoi a stat şi a aşteptat ca lumea să îl caute pe Google.
A pregătit toţi cei trei paşi la fel de atent.
Cineva a înţeles imediat acest lucru,
un dezvoltator web suedez, un expert
în optimizarea motoarelor de căutare
din Stockholm, pe nume Nikke Lindqvist.
El este şi activ politic,
prezent pe reţele de socializare, pe blogul lui şi pe Facebook.
A spus tuturor:
“Ceea ce îşi doreşte acest om cel mai mult acum
este să îşi controleze imaginea publică.
Să vedem dacă reuşim să încurcăm asta,
dacă noi, lumea civilizată, reuşim să protestăm împotriva a ceea ce a făcut
prin a-l insulta în rezultatele lui de căutare.
Dar cum?
Le-a spus cititorilor lui următoarele:
Intraţi pe internet,
şi găsiţi imagini cu excremente de câine pe trotuar,
publicaţi-le în postările, blogurile şi site-urile voastre.
Asiguraţi-vă să scrieţi numele teroristului în titlu,
asiguraţi-vă să denumiţi fişierul “Breivik.jpeg.”
Haideţi să-l învăţăm pe Google că aceasta e faţa unui terorist.
Şi a funcţionat.
La doi ani după campania împotriva lui Michelle Obama,
campania de manipulare împotriva lui Anders Breivik a funcţionat.
Câteva săptămâni după incidentul din 22 iulie, căutarea imaginii lui
dădea în fruntea rezultatelor imagini cu excremente de câine,
în semn de protest.
Straniu, de această dată Google nu a intervenit.
Nu au acţionat să cureţe manual acele rezultate de căutare.
Deci întrebarea fundamentală:
Există vreo diferenţă între cele două campanii prezentate?
Există vreo diferenţă între ce a păţit Michelle Obama şi Anders Breivik?
Desigur că nu.
Este exact aceeaşi situaţie
Dar Google a intervenit
într-un caz, nu şi în celălalt.
De ce?
Pentru că Michelle Obama este o persoană onorabilă,
iar Anders Behring Breivik este demn de dispreţ.
Înţelegeţi ce se întâmplă?
Are loc o evaluare a persoanei,
şi există un singur actor de putere în lume autorizat să facă asta,
să decidă:
“Ne place de tine, nu ne place de tine.
Credem în tine, dar nu în tine.
Tu ai dreptate, tu nu.
Tu ești adevat, tu fals.
Tu eşti Obama, tu eşti Breivik.
Asta da putere.
Așadar vă îndemn să ţineti cont că în spatele fiecărui algoritm
se află o persoană,
cineva cu un set de valori personale
pe care nici un cod nu îl poate elimina complet.
Mesajul meu nu este îndreptat nu doar către Google,
ci către toţi cei cred în soarta codurilor.
Trebuie să vă identificaţii propriile voastre prejudecăţi
trebuie să înţelegeţi că sunteţi oameni
şi să vă asumaţi responsabilitatea corespunzător.
Şi spun asta fiindcă cred că am ajuns într-o etapă în care
este absolut imperativ
să înnodăm din nou mai strâns acea legătură
dintre ştiinţele umane şi tehnologie,
mai strâns ca niciodată.
Măcar ca să ne amintească că acea idee atât de atrăgătoare
a unui rezultat de căutare imparţial, curat
este, şi probabil va rămâne, un mit.
Vă mulţumesc pentru timpul acordat.
(Aplauze)
Когда я посещаю школы и общаюсь со студентами,
я всегда у них спрашиваю:
«Почему вы гуглите?
Почему вы выбираете Гугл из всех поисковиков?»
Как ни странно, я всегда получаю три одинаковых ответа.
Первый: «Потому что он работает»,
и это прекрасный ответ, я тоже гуглю по этой же причине.
Второй будет озвучен как-то так:
«А разве есть другие альтернативы?»
Это не такой же прекрасный ответ, и я обычно на это отвечаю:
«Попробуйте погуглить слово «поисковик»,
и вы сможете найти несколько интересных альтернатив».
И, наконец, третий, не менее значимый ответ.
В итоге кто-то из студентов поднимет руку и скажет:
«С Гуглом я уверен, что всегда получу лучший и наименее предвзятый результат».
Уверен, что всегда получу лучший и наименее предвзятый результат.
Поскольку я гуманитарий,
пусть и «цифровой» гуманитарий,
меня такой ответ приводит в замешательство,
даже если я тоже осознаю, что эта вера в непредвзятый результат поиска
является основой нашей общей любви и признательности Гуглу.
Я покажу вам, почему с философской точки зрения это почти невозможно.
Но сначала позвольте мне рассказать немного подробнее
об основном часто забываемом принципе работы поисковой системы.
Каждый раз, когда вы гуглите что-то,
сначала спросите себя: «Ищу ли я единичный факт?»
Например: «Какая столица Франции?»
«Как в химии обозначают молекулу воды?»
Если так, замечательно. Спокойно гуглите.
Нет такой группы учёных, которая скоро докажет,
что это на самом деле Лондон и Н3O.
Здесь вы не увидите теории заговора.
Мы договорились на глобальном уровне
о ряде фактов, с которыми согласны все.
Но если вы немного усложните вопрос и спросите, например:
«Почему начался конфликт между Израилем и Палестиной?»
Вы уже не ищете обособленный факт,
вы ищете знание,
которое намного сложнее и деликатней.
И чтобы получить знание,
сперва нужно изучить 10, 20 или 100 фактов,
утвердить их и сказать: «Да, они все отражают реальность».
Но в зависимости от того, какой я,
молодой или старый, чёрный или белый, гей или нет,
я оценю их по-разному.
И я скажу: «Да, это правда,
но вот это для меня важнее, чем это».
Именно в этом кроется любопытная деталь,
потому что мы начинаем думать как люди.
Поэтому мы начинаем спорить и формировать общество.
И чтобы до чего-то дойти, нам нужно отфильтровать все факты
через взгляды друзей и соседей, родителей и детей,
коллег, газет и журналов,
чтобы в конце прийти к настоящему знанию,
в чём поисковик нам вряд ли поможет.
Я обещал вам пример, чтобы объяснить,
как непросто прийти к верному и объективному знанию,
просто чтобы вы задумались об этом.
Я сделаю несколько поисковых запросов.
Сперва попробуем набрать «Мишель Обама»,
первая леди США.
Найдём её изображения.
Видно, что поиск работает хорошо.
Это идеальный результат, более или менее.
На изображениях только она, без появления президента.
Как это работает?
Очень просто.
Гугл использует много инструментов для лучших результатов,
но в целом важны две составляющие.
Первое — как фотографию подписывают на разных сайтах.
Есть ли в подписи «Мишель Обама»?
Это верный показатель, что это она на изображении.
Второе — Гугл смотрит на сам файл изображения,
на имя самого файла, загруженного на сайт.
Тот же принцип, назван ли файл «МишельОбама.jpeg»?
Это ещё один верный признак, что на нём нет Клинта Иствуда.
На этих двух пунктах базируется результат, похожий на тот, что я показал.
В 2009 году Мишель Обама стала жертвой расистской агитации,
когда люди хотели оскорбить её с помощью поисковых результатов.
В интернете широко распространяли фотографию,
на которой из-за изменённого лица она выглядела как обезьяна.
И фото было опубликовано везде.
Люди намеренно его публиковали,
чтобы оно было одним из первых результатов поиска.
Они писали «Мишель Обама» в описании
и называли загружаемый файл «МишельОбама.jpeg».
Очевидно, для влияния на результаты поиска.
И это сработало.
Если в 2009 году вы бы погуглили фото «Мишель Обама»,
то переделанное фото обезьяны появлялось одним из первых.
Теперь результаты самообновляемые,
в чём и состоит красота процесса,
потому что Гугл проверяет правильность каждый час и каждый день.
Но Гуглу показалось этого мало,
и разработчики сказали: «Это расистский и плохой результат поиска,
нужно почистить его вручную.
Мы напишем код для обновления результатов этого поиска».
Это было сделано.
Не думаю, что кто-то может подумать, что это была плохая идея.
И я так не думаю.
Но потом, через несколько лет,
самый востребованый в поисковых запросах человек по имени Андерс,
Андерс Беринг Брейвик,
сделал то, что он сделал.
22 июля 2011 года
навсегда стало ужасным днём в истории Норвегии.
Этот мужчина, террорист, взорвал несколько государственных зданий,
в пешей доступности отсюда в Осло, Норвегия,
поехав затем на остров Утойя,
где застрелил целую группу подростков.
Почти 80 человек погибли в тот день.
Многие люди опишут этот ужасный поступок в два этапа,
то есть он сделал две вещи: взорвал здания и застрелил подростков.
Это не так.
На самом деле было три этапа.
Он взорвал здания, он застрелил подростков,
и он сел ждать, когда мир начнет гуглить его.
И все эти этапы были одинаково хорошо подготовлены.
И если и был кто-то, кто сразу это понял,
это был веб-разработчик из Швеции,
эксперт по оптимизации веб-поиска из Стокгольма, Ник Линдквист.
Он также общественный активист,
использующий социальные сети в блогосфере и на Фейсбуке.
И он сказал всем:
«Если и есть что-то такое, что этот парень сейчас хочет,
так это управлять своим имиджем.
Давайте попробуем видоизменить его образ.
Давайте попробуем в цивилизованном мире выразить протест против его поступка,
оскорбив его в результатах поиска».
Каким образом?
Он написал своим читателям следующее:
«Зайдите в Интернет,
найдите фотографии собачьих экскрементов на дороге,
найдите фотографии собачьих экскрементов на дороге
и опубликуйте их на ваших сайтах и блогах.
Не забудьте написать имя террориста в описании фото
и назовите файл «Брейвик.jpeg».
Давайте покажем Гуглу лицо террориста».
И это сработало.
Спустя два года после расизма в отношении Мишель Обамы
агитация против Брейвика сработала.
Если бы вы прогуглили его фото через несколько недель после 22 июля из Швеции,
вы бы увидели фото собачьих экскрементов высоко в поиске
в качестве небольшого протеста.
Как ни странно, Гугл не вмешался в этот раз.
Они не стали вручную чистить результаты.
Поэтому вопрос на миллион:
есть ли различия между двумя ситуациями?
Есть ли различия между способами оскорбления Мишель Обамы
и Андерса Брейвика?
Конечно нет.
Способ абсолютно одинаковый,
но Гугл решил вмешаться только в одном случае из двух.
Почему?
Из-за того, что Мишель Обама — это уважаемая личность,
а Андерс Беринг Брейвик — ужасный человек.
Вы понимаете, что произошло?
Оценка человека,
и есть только одна сила в мире
с авторитетом сказать, кто есть кто.
«Ты нам нравишься, ты нам не нравишься.
Мы верим тебе, мы не верим тебе.
Ты прав, ты не прав.
Ты Обама, а ты Брейвик».
Это власть как я её вижу.
Поэтому я прошу вас запомнить, что за каждым алгоритмом
всегда стоит человек,
человек с личным набором убеждений,
от которых не сможет полностью избавиться ни один код.
И моё обращение направлено не только к Гуглу,
но и ко всем верующим в силу кода в мире.
Вам нужно идентифицировать ваши собственные предубеждения.
Вам нужно понимать, что вы человек,
и нести подобающую ответственность.
Я говорю это, потому что считаю, что мы достигли точки во времени,
когда крайне важно
снова связать вместе два направления как можно крепче —
гуманитарные науки и технологии.
Крепче, чем когда-либо.
Время по крайней мере напомнить себе, что соблазнительная идея о том,
что может существовать непредвзятый результат поиска,
является и, скорее всего, останется мифом.
Спасибо за ваше время.
(Аплодисменты)
Када год посетим школу и причам са ученицима,
увек их питам исту ствар:
зашто гуглате?
Зашто је Гугл претраживач који сте изабрали?
Зачудо, увек добијем три иста одговора.
Један је: „Зато што функционише“,
што је сјајан одговор; због тога и сам гуглам.
Као други одговор, неко ће рећи:
„Заиста не знам за другу могућност.“
То није једнако добар одговор и обично на то одговорим:
„Покушајте да изгуглате реч ’претраживач’.
Можда пронађете пар интересантних опција.“
Као последњи, али не и најмање важан,
трећи одговор - неизбежно се јави један од ученика и каже:
„Уз Гугл сам сигуран да ћу увек добити најбоље, непристрасне резултате претраге.“
Сигуран сам да ћу увек добити најбоље, непристрасне резултате претраге.
Пошто сам човек који се бави хуманистичким наукама,
додуше, дигиталним хуманистичким наукама,
од тога се просто јежим,
иако и сам схватам да је поверење,
идеја о непристрасним резултатима претраге,
камен темељац наше колективне љубави и уважавања Гугла.
Показаћу вам због чега то, филозофски гледано, скоро да није могуће.
Дозволите ми да, пре свега, укратко изложим основни принцип
који стоји иза сваког упита за претрагу, а који изгледа понекад заборављамо.
Дакле, када год почнете да гуглате нешто,
започните тако што ћете се запитати: „Да ли тражим изоловану чињеницу?“
Који је главни град Француске?
Шта су градивне јединице молекула воде?
Сјајно. Изгуглајте то.
Не постоји група научника која је на корак од доказивања
да су то заправо Лондон или H3O.
Не видите велику заверу међу овим стварима.
У глобалу се слажемо
који су одговори на ове изоловане чињенице.
Међутим, ако мало закомпликујете питање и упитате нешто као што је:
„Зашто постоји израелско-палестински конфликт?“,
више не тражите појединачну, изоловану чињеницу;
тражите знање, а то је нешто много компликованије и деликатније.
Да бисте стигли до знања, међутим,
морате да прикупите 10, 20 или 100 чињеница,
да их потврдите и кажете: „Да, све су оне истините.“
Међутим, због онога ко сам -
млад или стар, црн или бео, хомосексуалац или хетеросексуалац -
различито ћу их вредновати
и рећи: „Да, ово је тачно, али ми је ово важније од тога.“
Овде ствари постају интересантне
јер на овом месту постајемо људска бића.
У овом тренутку започињемо неслагања, формирање друштва,
а да бисмо заиста напредовали, треба да профилтрирамо чињенице овде,
кроз пријатеље, суседе, родитеље, децу,
колеге, новине и часописе,
да бисмо коначно били утемељени у истинском знању,
за које су нам претраживачи од мале користи.
Па, обећао сам вам пример
само да бих вам показао зашто је толико тешко
стићи до правог, чистог, објективног знања -
као храна за мисли.
Спровешћу неколико једноставних упита.
Започећемо са „Мишел Обамом“,
првом дамом Сједињених Држава.
Кликнућемо на претрагу слика.
Функционише добро, као што видите.
Ово је мање-више савршени резултат претраге.
Само је она на слици; нема чак ни председника.
Како ово функционише?
Прилично једноставно.
Гугл користи приличну виспреност да би постигао ово,
али прилично једноставно - примећују две ствари више него остале.
Као прво, како гласи наслов испод сваке слике на сваком вебсајту?
Да ли садржи име „Мишел Обама“ испод слике?
Прилично добар наговештај да је она на слици.
Као друго, Гугл узима у обзир фајл слике,
име фајла који је постављен на вебсајт.
Поново, да ли је насловљен „МишелОбама.jpeg“?
Прилично добар показатељ да на слици није Клинт Иствуд.
Дакле, имате ова два и добијете резултате претраге попут ових... скоро.
Е, сад, 2009. године, Мишел Обама је била жртва расистичке кампање,
када су људи кренули да је вређају
кроз резултате претраге који су је помињали.
Постојала је слика која се често делила по интернету,
на којој је њено лице изобличено да би изгледала као мајмун,
а та слика је објављивана свуда.
Људи су је објављивали врло промишљено
да би је поставили међу прве резултате претраге.
Побринули би се за то да напишу „Мишел Обама“ у наслову
и да поставе слику на интернет као „Мишел Обама.jpeg“ или слично томе.
Схватате због чега - да манипулишу резултатима претраге,
а то је функционисало.
Ако бисте на Гуглу тражили слике за „Мишел Обама“ из 2009. године,
та изобличена слика мајмуна појављивала се међу првим резултатима.
Е, сад, резултати се сами прочишћавају
и у томе је лепота тога,
јер Гугл процењује важност сваког сата, сваког дана.
Овога пута, међутим, Гугл није хтео да пристане на то.
Мислили су: „То је расистички и то су лоши резултати претраге,
па ћемо се вратити и рашчистити то ручно.
Написаћемо неки код и средити то“,
што су и урадили,
а не мислим да ико у овој соби мисли да је то била лоша идеја.
Ни ја не мислим тако.
Затим је прошло пар година,
а најтраженији човек на нету под презименом Андерс,
Андерс Беринг Брејвик,
урадио је оно што је урадио.
Ово је 22. јул 2011. године,
грозан дан у норвешкој историји.
Овај човек, терориста, дигао је у ваздух неколико владиних зграда,
у самој близини места на ком смо у Ослу у Норвешкој,
а затим је отпутовао до острва Утеје и упуцао на смрт групу деце.
Скоро 80 људи је погинуло тог дана.
Много људи би описало ову страхоту као чин из два корака,
да је урадио две ствари - разнео је зграде и упуцао децу.
То није тачно.
Било је три корака.
Разнео је зграде, упуцао децу,
а затим је сео и чекао да свет почне да га тражи преко Гугла,
а сва три корака је припремио подједнако добро.
Ако је ико ово разумео истог тренутка,
био је то шведски веб-дизајнер,
стручњак за оптимизацију претраживача у Стокхолму, под именом Нике Линдквист.
Он је веома заинтересован и за политику
и одмах се појавио на друштвеним медијима, на свом блогу и Фејсбуку
и свима рекао:
„Ако постоји нешто што овај тип жели у овом тренутку,
то је да контролише слику о себи.“
Хајде да видимо да ли можемо да је искривимо.
Хајде да видимо да ли ми у цивилизованом свету
можемо да устанемо против његовог чина
тако што ћемо га увредити кроз резултате претраге који га помињу.“
Како?
Свим својим читаоцима је рекао следеће:
„Идите на интернет,
нађите слике псеће каке на плочнику -
поставите их у својим објавама, на својим вебсајтовима и блоговима.
Побрините се да напишете име терористе у наслову,
осигурајте да се слика зове ‘Брејвик.jpeg.’
Хајде да научимо Гугл да је то лице терористе.“
Упалило је.
Две године после кампање уперене против Мишел Обаме,
ова манипулативна кампања против Андерса Беринга Брејвика
је упалила.
Ако бисте тражили његове слике
недељама после догађаја који су се одиграли 22. јула у Шведској,
видели бисте псећу каку међу првим резултатима,
као знак малог протеста.
Чудно, али Гугл није реаговао овог пута.
Нису се умешали и ручно средили ове резултате претраге.
Тако је питање које вреди милион долара -
каква је разлика између ова два догађаја?
По чему се оно што се десило Мишел Обами
разликује од онога што се десило Андерсу Берингу Брејвику?
Ни по чему, наравно.
То је потпуно иста ствар,
а ипак, Гугл се умешао у један случај, а није и у други.
Зашто?
Зато што је Мишел Обама особа вредна поштовања, зато,
а Андерс Беринг Брејвик је особа вредна презира.
Видите шта се овде дешава?
Дешава се процена особе,
а постоји само један моћни актер на свету
са овлашћењем да каже ко је ко.
„Свиђате нам се, не свиђате нам се.
Верујемо у вас, у вас не верујемо.
Ви сте у праву, ви нисте. Ви сте прави, ви сте лажни.
Ви сте Обама, а ви сте Брејвик.“
Ако постоји моћ, онда је то - то.
Дакле, тражим од вас да запамтите да је иза сваког алгоритма
увек особа,
која има низ личних уверења,
а која ниједан код никада не може потпуно да искорени.
Шаљем своју поруку не само Гуглу,
већ свима онима широм света који верују у код.
Треба да идентификујете сопствену пристрасност.
Треба да разумете да сте људско биће
и да, сходно томе, прихватите и одговорност.
Кажем ово јер верујем да смо достигли тачку
када је апсолутно нужно
да ове везе учврстимо, јаче,
хуманистичке и технолошке,
јаче него икада,
ако ништа друго, да нас подсећају да дивна, примамљива идеја
о непристрасним, чистим резултатима претраге
јесте, а највероватније ће и остати, мит.
Хвала вам на издвојеном времену.
(Аплауз)
När jag besöker en skola och pratar med eleverna
frågar jag dem alltid samma sak:
Varför googlar du?
Varför är Google den sökmotor som du väljer?
Konstigt nog får jag alltid samma tre svar.
Ett, "För att det fungerar,"
vilket är ett grymt bra svar; det är därför jag också googlar.
Två, någon kommer att säga,
"Jag känner egentligen inte till några alternativ."
Det är inte ett lika bra svar och mitt svar på det är oftast,
"Försök att googla ordet 'sökmotor',
du kanske hittar några intressanta alternativ."
Och sist men inte minst, för det tredje,
oundvikligen kommer en elev att räcka upp handen och säga,
"Men Google är jag säker på att alltid få det bästa, mest objektiva sökresultatet."
Säker på att alltid få det bästa, mest objektiva sökresultatet.
Som den humanist jag är,
även om jag är en digital humanist,
ger det mig kalla kårar,
även om jag också inser att tillit till idén om det objektiva sökresultatet
är en hörnsten i vår kollektiva kärlek för och uppskattning av Google.
Jag ska visa er varför det, filosofiskt sett, nästan är en omöjlighet.
Men låt mig först prata lite om en grundläggande princip
bakom varje sökning som vi ibland glömmer.
Varje gång du vill googla något,
fråga dig själv: "Söker jag efter en isolerad faktauppgift?"
Vilken är Frankrikes huvudstad?
Vilka byggstenar består en vattenmolekyl av?
Perfekt - googla på.
Det finns inte någon forskargrupp som är nära att bevisa
att det faktiskt är London och H3O.
Det finns inga konspirationer runt dem.
Folk i hela världen är överens
om vilka svaren är på de isolerade frågorna.
Men om du ställer en mer komplicerad fråga,
som "Varför finns det en konflikt mellan Israel och Palestina?"
Då letar du inte längre efter en enskild faktauppgift,
du söker efter kunskap, vilket är
något mycket mer komplicerat och ömtåligt.
Och för att få kunskap
måste du dra fram 10 eller 20 eller 100 faktauppgifter
och bekräfta dem och säga "Ja, allt det här är sant."
Men beroende på vem jag är,
ung eller gammal, svart eller vit, gay eller straight,
kommer jag värdera dem olika.
Och säga, "Ja, det här är sant,
men det här är mycket viktigare för mig än det där."
Och det är här det blir intressant,
för det är då vi blir mänskliga.
Det är här vi börjar diskutera, att forma ett samhälle.
Och för att verkligen komma någonstans behöver vi filtrera alla våra fakta,
genom vänner, grannar, föräldrar, barn,
kollegor, dagstidningar och veckotidningar,
för att till slut nå det riktiga kunskapen,
vilket en sökmotor är en dålig hjälp för att göra.
Jag lovade er ett exempel för att visa varför det är så svårt
att uppnå sann, ren, objektiv kunskap -
något att fundera på.
Jag ska göra några enkla sökningar.
Vi börjar med "Michelle Obama,"
USA:s första dam.
Och vi klickar oss fram till bilder.
Det går väldigt bra, som ni ser.
Det är ett nästan perfekt sökresultat.
Det är bara hon på bilden, inte ens presidenten.
Hur går det till?
Ganska enkelt.
Google använder sin kunskap för att klara av det, men enkelt uttryckt
tittar de på två saker mer än något annat.
Först och främst, vad står det under bilden på varje webbplats?
Står det "Michelle Obama" under bilden?
En bra indikation på att hon är med.
Google tittar också på bildfilen,
namnet på den faktiska filen som laddats upp på webbplatsen.
Heter den "MichelleObama.jpeg"?
En ganska bra indikation på att bilden inte visar Clint Eastwood.
Om man har de två får man ett sökresultat som det här - ungefär.
Under 2009 utsattes Michelle Obama för en rasistisk kampanj
där människor ville kränka henne genom hennes sökresultat.
Det fanns en bild som spreds över internet
där hennes ansikte var förvrängt för att se ut som en apa.
Och den bilden publicerades överallt.
Och folk publicerade den mycket medvetet,
för att den skulle hamna högt i sökresultaten.
De skrev "Michelle Obama" i bildtexten och laddade upp en bild
som hette "MichelleObama.jpeg", eller något liknande.
Ni förstår varför - för att manipulera sökresultatet.
Det fungerade också.
Så när man bildgooglade efter "Michelle Obama" under 2009
dök den där förvrängda apbilden upp bland de första sökresultaten.
Men resultaten är självsanerande,
och det är det fina i kråksången,
för Google mäter relevans varje timme under varje dag.
Google nöjde sig inte med det den här gången,
de tänkte, "Det där är rasistiskt och ett dåligt sökresultat,
vi borde rensa upp det där manuellt.
Vi skriver lite kod och fixar det",
vilket de gjorde.
Jag tror inte att någon i det här rummet tycker att det var en dålig idé.
Inte jag heller.
Men sen går ett par år
och världens mest googlade Anders,
Anders Behring Breivik,
gjorde vad han gjorde.
Det är 22 juli 2011,
en fruktansvärd dag i Norges historia.
Den här mannen, en terrorist, sprängde ett par regeringsbyggnader
på gångavstånd från där vi nu befinner oss i Oslo, Norge
och sen reste han till ön Utøya
och sköt ihjäl en grupp ungdomar.
Nästan 80 personer dog den dagen.
Många människor skulle beskriva denna terrorhandling som två steg,
att han gjorde två saker: sprängde byggnaderna och sköt ungdomarna.
Det är inte sant.
Det var tre steg.
Han sprängde byggnaderna, sköt ungdomarna
och han satte sig ner och väntade på att världen skulle googla honom.
Och han förberedde alla tre stegen lika väl.
Om det fanns någon som omedelbart förstod det här,
var det den svenske webbutvecklaren
och sökmotorexperten från Stockholm, Nikke Lindqvist.
Han är också en politisk kille
och han gav sig ut i sociala medier, på sin blogg och på Facebook.
Och han sa till alla,
"Om det är något den här killen vill just nu,
så är det att kontrollera bilden av sig själv.
Vi kan väl försöka förvränga den.
Låt oss i den civiliserade världen se om vi kan protestera mot vad han gjorde
genom att förolämpa honom i hans sökresultat.
Hur då?
Han sa följande till sina läsare,
"Gå ut på internet,
leta efter bilder på hundbajs på trottoarer -
hitta bilder på hundbajs på trottoarer -
publicera dem i era flöden, på era webbplatser, på era bloggar.
Se till att skriva terroristens namn i bildtexten, och se till att döpa bilden
till "Breivik.jpeg."
Vi ska lära Google att det är terroristens ansikte.
Och det fungerade.
Två år efter den där kampanjen mot Michelle Obama,
så fungerade manipulationskampanjen mot Anders Behring Breivik.
Om du bildgooglade från Sverige några veckor efter den 22 juli
såg man att bilder av hundbajs kom högt upp i sökresultatet,
som en liten protest.
Konstigt nog grep inte Google in den här gången.
De rensade inte upp sökresultatet.
Den stora frågan är
vad det är som skiljer de två händelserna åt.
Finns det något som skiljer det som hände Michelle Obama
och det som hände Anders Behring Breivik?
Såklart inte.
Det är precis samma sak,
men Google grep in i det ena fallet men inte i det andra.
Varför?
För att Michelle Obama är en hedervärd person,
och Anders Behring Breivik är en avskyvärd person.
Ser ni vad som händer här?
En utvärdering av en person sker
och det finns bara en kraftfull aktör i världen
som har makten att säga vem som är vem.
"Vi gillar dig, vi ogillar dig.
Vi tror på dig, vi tror inte på dig.
Du har rätt, du har fel. Du är sann, du är falsk.
Du är Obama, och du är Breivik."
Där kan vi prata om makt.
Därför vill jag be er komma ihåg att bakom varje algoritm
finns det alltid en person,
en person med en uppsättning egna värderingar
som ingen kod någonsin helt kan utrota.
Mitt budskap gäller inte bara Google,
utan till alla er där ute som sätter er tilltro till kod.
Ni behöver identifiera vilka era egna värderingar är.
Ni behöver förstå att ni är människor
och ta ansvar för det.
Jag säger det för jag tror att vi har nått en punkt
där det är absolut nödvändigt
att vi återknyter banden
mellan humaniora och teknik.
Tätare än någonsin.
Och om inte annat, påminna oss om att den underbart förföriska idén
om det opåverkade, rena sökresultatet
är och fortsätter vara en myt.
Tack för er tid.
(Applåder)
เมื่อใดก็ตามที่ผมไปเยี่ยมโรงเรียน และพูดกับนักเรียน
ผมถามพวกเขาด้วยคำถามเดิมเสมอว่า
ทำไมถึงใช้กูเกิล
ทำไมกูเกิลถึงเป็นอุปกรณ์ค้นหา ที่คุณเลือกใช้
น่าแปลกทีเดียว ที่ผมมักได้คำตอบ ซ้ำ ๆ กันสามคำตอบ
หนึ่ง "เพราะมันใช้การได้"
ซึ่งเป็นคำตอบที่เยี่ยม นั่นเป็นเหตุผลที่ฉันใช้กูเกิลเหมือนกัน
สอง ใครบางคนจะบอกว่า
"ฉันไม่รู้หรอกว่ามีทางเลือกอื่นไหนอีก"
มันไม่ได้เป็นคำตอบที่ดีไม่เท่ากับอันก่อน และฉันก็ตอบมันว่าปกติดี
"ลองกูเกิลคำว่า 'อุปกรณ์ค้นหา' ดูสิ
คุณอาจจะเจอตัวเลือกอื่นที่น่าสนใจ"
และสุดท้าย แต่ไม่ท้ายสุด สาม
นักเรียนสักคนจะยกมือขึ้นอย่างหลีกเลี่ยงไม่ได้ และบอกว่า
"ถ้าใช้กูเกิล ผมจะได้ผลการค้นหา ที่ดีที่สุดและไม่ลำเอียงเสมอ"
ได้ผลการค้นหาที่ดีที่สุดและไม่ลำเอียง เป็นส่วนใหญ่ถึงเสมอๆ
ครับ ในฐานะที่เป็นคนของมวลมนุษยชาติ
แม้ว่าจะเป็นมนุษย์แห่งมวลมนุษยชาติดิจิตัล
มันก็ทำให้ผมขนลุกเกรียว
แม้ว่า ผมก็เช่นกัน ที่เชื่อมั่น ในความคิดเกี่ยวกับผลการค้นหาที่ไม่ลำเอียง
ว่าเป็นเสาหลักหนึ่งในเหตุผล ที่เรารักและชื่นชอบกูเกิล
ผมจะแสดงให้คุณเห็นว่าทำไม มันแทบจะเป็นไปไม่ได้ในทางปรัชญา
แต่ให้ผมขยายความไปมากกว่านี้สักนิด ในเรื่องของหลักการพื้นฐาน
เบื้องหลังแต่ละคำสั่งการค้นหา ที่บางทีเหมือนว่าเราจะลืมมันไป
ถ้าเมื่อใดก็ตาม ที่คุณใช้กูเกิล
โดยเริ่มจากการถามตัวเองว่า "ฉันกำลังหาข้อเท็จจริงโดด ๆ หรือเปล่า"
เมืองหลวงของฝรั่งเศสคืออะไร
อะไรเป็นองค์ประกอบหลักของโมเลกุลน้ำ
ยอดเลยครับ ใช้กูเกิลเลย
ไม่มีนักวิทยาศาสตร์กลุ่มไหน ที่จะพิสูจน์อะไรที่ใกล้เคียงกับการบอกว่า
อันที่จริงแล้ว คำตอบนั้นคือ ลอนดอน และ H30
คุณจะไม่เจอทฤษฎีสมคบคิดอันยิ่งใหญ่อะไร ท่ามกลางสิ่งเหล่านี้
เราเห็นพ้องต้องกัน ในระดับสากล
ว่าอะไรเป็นคำตอบ ของข้อเท็จจริงโดด ๆ เหล่านั้น
แต่ถ้าคุณทำให้คำถามซับซ้อนไปมากกว่านี้สักนิด และถามอะไรประมาณว่า
"ทำไมถึงมีความขัดแย้ง ระหว่างอิสราเอลและปาเลสไตน์"
คุณไม่ได้กำลังมองที่ข้อเท็จจริงเดี่ยว อีกแล้ว
คุณกำลังมองหาความรู้
ที่เป็นอะไรที่ซับซ้อนและอ่อนไหว
และเพื่อให้ได้ความรู้นั้น
คุณจะต้องนำข้อเท็จจริง 10 หรือ 20 หรือ 100 ข้อเท็จจริงมาพิจารณา
และอ้างถึงพวกมันและบอกว่า "เอาล่ะ ทั้งหมดนี้เป็นความจริง"
แต่อยู่ที่ว่าผมจะเป็นใคร
เด็กหรือแก่ ดำหรือขาว เป็นเกย์หรือเป็นชายแท้
ผมจะให้ค่ากับมันอย่างแตกต่าง
และผมจะบอกว่า "ใช่ นี่มันจริง
แต่อันนี้สำคัญมากกว่าอีกอันหนึ่ง ในความคิดของผม"
และนี่แหละ เป็นสิ่งที่ทำให้มันน่าสนใจ
เพราะว่านี่คือสิ่งที่ทำให้เราเป็นมนุษย์
นี่คือตอนที่เราเริ่มถกเถียง เพื่อสร้างสังคม
และเพื่อที่จะเดินหน้าไปทางไหนสักทาง เราต้องทำการกรองข้อเท็จจริงทั้งหมดที่มี
ผ่านเพื่อนฝูง เพื่อนบ้านพ่อแม่ เด็กๆ
เพื่อนร่วมงาน หนังสือพิมพ์ นิตยสาร
จนกระทั่งถึงก้นบึ้งของความรู้ที่แท้จริง
ซึ่งเป็นอะไรบางอย่าง ที่อุปกรณ์ค้นหาช่วยได้น้อยมาก
ฉะนั้น ผมให้ตัวอย่างกับคุณ เพียงแค่จะบอกว่า ทำไมมันถึงยากนัก
ที่จะไปถึงจุดแห่งความรู้ที่เป็นความจริง สะอาด และตรงประเด็น
เป็นดั่งอาหารทางความคิด
ผมจะลองทำการค้นหาง่าย ๆ สองสามอย่าง
เราจะเริ่มกันด้วย "มิเชล โอบามา"
สุภาพสตรีหมายเลขหนึ่งของสหรัฐอเมริกา
และเราจะกดเรียกดูภาพ
มันทำงานได้ดี อย่างที่คุณเห็น ๆ กัน
มันเป็นการค้นหาที่สมบูรณ์แบบ
มันมีแค่นางในภาพ ไม่มีประธานาธิบดีด้วยซ้ำ
มันทำได้อย่างไร
ค่อนข้างง่ายครับ
กูเกิลใช้ความฉลาดค่อนข้างมาก แต่มันอธิบายได้ไม่ยาก
มันมองหาสองสิ่ง ยิ่งกว่าสิ่งอื่น ๆ
ประการแรก สิ่งที่เขียนไว้ใต้ภาพในแต่ละเว็บไซต์
มันเขียนไว้ว่า "มิเชล โอบามา" ที่ใต้ภาพหรือเปล่า
ค่อนข้างจะเป็นตัวกำหนดที่ดี มันเป็นนางจริง ๆ
ประการที่สอง กูเกิลมองหาที่ไฟล์ภาพ
ชื่อลองไฟล์ เช่นไฟล์ที่อัพโหลดไว้ตามเว็บไซต์
อีกครั้ง มันถูกตั้งชื่อว่า "มิเชลโอบามา.เจพีอีจี" หรือไม่
ค่อนข้างเป็นตัวกำหนดที่ดี ในภาพไม่ใช่ คลินท์ อีสวู๊ด
ฉะนั้น เมื่อคุณได้ทั้งสองอย่างนั้น และคุณได้ผลการค้นหาที่แทบจะเป็นแบบนี้
ทีนี้ ใน ค.ศ. 2009 มิเชล โอบามา เป็นเหยื่อของโครงการรณรงค์เหยียดผิว
ที่ผู้คนก่อกวนนางผ่านผลการค้นหา
มีภาพที่ถูกเผยแพร่ออกไปอย่างกว้างขวาง ในอินเทอร์เน็ต
ที่ซึ่งหน้าของนางถูกตัดต่อให้เหมือนลิง
และภาพนั้นก็ถูกแสดงเต็มไปหมด
และคนก็นำมันออกมาแสดง อย่างมีจุดประสงค์มาก ๆ ทีเดียว
เพื่อที่จะให้มันขึ้นไปอยู่ในผลการค้นหา
พวกเขาดูให้แน่ใจ ว่ามีคำว่า "มิเชล โอบามา" ในคำบรรยาย
และพวกเขาดูให้แน่ใจ ว่ามีการอัพโหลดภาพ ที่ชื่อ "มิเชลโอบามา.เจพีอีจี" หรืออะไรแบบนั้น
คุณคงรู้ว่าทำไม ก็เพื่อเปลี่ยนแปลงผลการค้นหา
และมันก็ได้ผลเสียด้วย
ฉะนั้น เมื่อคุณกูเกิลค้นหาภาพ "มิเชล โอบามา" ในปี 2009
ภาพลิงที่ถูกติดต่อถูกแสดงออกมา ท่ามกลางผลลัพท์แรก
ทีนี้ ผลลัพท์เป็นการลบล้างตัวเอง
และนี่ก็เป็นความงามอย่างหนึ่งของมัน
เพราะกูเกิลวัดความเกี่ยวข้อง ทุกชั่วโมง ทุกวัน
อย่างไรก็ดี กูเกิลไม่ได้ยุติอยู่ที่ตรงนั้น ในเวลานั้น
มันคิดว่า "นั่นมันเหยียดผิว และเป็นผลการค้นหาที่ไม่ดี
และเรากำลังที่จะย้อนกลับไป และล้างมันทีละขั้นตอน
พวกเรากำลังที่จะเขียนโค้ดบางอย่าง และซ่อมมัน"
ซึ่งพวกเขาก็ทำ
และผมไม่คิดว่าจะมีใครในห้องนี้ คิดว่ามันเป็นความคิดที่แย่
ผมก็เหมือนกันครับ
แต่จากนั้น สองสามปีผ่านไป
คนชื่อ อันเดอร์ส ที่ถูกกูเกิล มากที่สุดในโลก
อันเดอร์ส เบห์ริง เบรวิก
ทำในสิ่งที่เขาได้ทำลงไป
นี่คือวันที่ 22 กรกฎาคม ค.ศ. 2011
และเป็นที่น่าสยองในประวัติศาสตร์นอร์เวย์
ชายคนนี้ ผู้ก่อการร้าย ระเบิดตึกรัฐบาลไปสองสามหลัง
ซึ่งห่างจากจุดที่เรายืนอยูตรงนี้ไปไม่มาก ในกรุงออสโล นอร์เวย์
และจากนั้นเขาเดินทางไปยังเกาะอูเตอยา
ยิงและสังหารเด็กกลุ่มหนึ่ง
คนประมาณ 80 รายเสียชีวิตในวันนั้น
และคนมากมายคงจะอธิบายการกระทำ ที่แสนน่ากลัวนี้เป็นสองขั้น
ว่าเขาทำสองอย่างคือ ระเบิดตึก และยิงเด็ก ๆ
มันไม่จริงครับ
มันมีสามขั้นตอน
เขาระเบิดตึกเหล่านั้น เขายิงเด็กพวกนั้น
และเขานั่งลง และรอ ให้โลกกูเกิลหาเขา
และเขาเตรียมการทั้งสามขั้นตอนนั้น ไว้อย่างดีเท่า ๆ กัน
และถ้ามีใครสักคน ที่เข้าใจสิ่งนี้ได้อย่างทันท่วงที
ก็เห็นจะเป็นผู้พัฒนาเว็บไซต์ชาวสวีเดน
ผู้เชี่ยวชาญการปรับปรุงอุปกรณ์การค้นหา ในกรุงสตอกโฮม นามว่า นิคกี ลินควิสท์
เขายังเป็นคนที่ในวงการการเมือง
และเขาก็ใช้โซเชียลมีเดีย บล๊อค และเฟสบุ๊ค ของเขา
บอกกับทุก ๆ คน
"ถ้าหากจะมีอะไรสักอย่าง ที่ชายคนนี้จะปรารถนาในตอนนี้
มันคือการควบคุมภาพของเขาเอง
ลองมาดูว่า เขาบิดเบือนมันได้หรือไม่
ลองมาดูว่า ในโลกที่เจริญแล้ว เราจะสามารถประท้วงการกระทำของเขาได้หรือไม่
โดยใช้การก่อกวนเขาในผลการค้นหา"
และอย่างไรล่ะครับ
เขาบอกนักอ่านทุกคนของเขาว่า
"ออกไปใช้อินเทอร์เน็ต
ค้นหาภาพของหมาที่อึข้างทาง
นำมันขึ้นแสดงในฟีดของคุณ บนเว็บไซต์ บนบล๊อค
ดูให้แน่ใจว่าคุณได้เขียนชื่อของผู้ก่อการร้าย ไว้ในคำบรรยายภาพ
ดูให้แน่ใจว่าได้ตั้งชื่อภาพไฟล์ว่า "เบรวิก.เจพีอีจี"
มาสอนกูเกิลให้รู้ว่า นั่นคือโฉมหน้าของผู้ก่อการร้าย"
และมันได้ผลครับ
สองปีหลังจากการรณรงค์ต่อต้าน มิเชล โอบามา
การรณรงค์เพื่อการเปลี่ยนแปลงต่อต้าน อันเดอร์ส เบห์ริง เบรวิก นี้ได้ผล
ถ้าคุณค้นหาภาพของเขาทางกูเกิล สัปดาห์หลังจากวันที่ 22 กรกฎาคม จากสวีเดน
คุณจะเห็นภาพหมาอึอยู่สูงที่สุดในผลการค้นหา
เป็นการประท้วงเล็ก ๆ
น่าแปลก ที่กูเกิลไม่ได้เข้าแทรกแซงในครั้งนี้
พวกเขาไม่ได้เข้าไปและทำการล้าง ผลการค้นหาที่ละขั้นตอน
ฉะนั้น นี่เป็นคำถามล้านดอลลาร์ครับ
มันมีความแตกต่างบ้างไหม ระหว่างสองเหตุการณ์ที่เกิดขึ้นนี้
มันมีความแตกต่างบ้างไหม ระหว่างสิ่งที่เกิดขึ้นกับมิเชล โอบามา
และสิ่งที่เกิดขึ้น กับ อันเดอร์ส เบห์ริง เบรวิก
ไม่เลยครับ
มันเป็นสิ่งเดียวกันเลย
แต่กระนั้นกูเกิลเข้าแทรกแทรงในกรณีหนึ่ง แต่ไม่ทำในอีกกรณีหนึ่ง
ทำไมล่ะ
เพราะว่ามิเชล โอบามาเป็นบุคคลอันทรงเกียรติ นั่นแหละเป็นสาเหตุว่าทำไม
และ อันเดอร์ส เบห์ริง เบรวิก เป็นบุคคลแสนชั่วร้าย
ลองดูว่าเกิดอะไรขึ้น
การตัดสินบุคคลได้เกิดขึ้น
และมันมีผู้มีอำนาจอยู่เพียงหนึ่งเดียวในโลก
ที่มีอำนาจบอกว่าใครเป็นใคร
"เราชอบคุณ เราเกลียดคุณ
เราเชื่อคุณ เราไม่เชื่อคุณ
คุณทำถูก คุณทำผิด คุณจริง คุณหลอก
คุณคือโอบามา คุณคือเบรวิก
นั่นคืออำนาจ ผมมองว่าอย่างนั้น
ฉะนั้น ผมอยากจะถามคุณในพึงระลึกว่า ทุก ๆ อัลกอริทึมนั้น
มีคนอยู่เสมอ
คนที่มีกลุ่มความเชื่อส่วนตัว
ที่ไม่มีโค้ดใดสามารถ ที่จะลบล้างได้อย่างสมบูรณ์
และข้อความจากผม ที่ไม่ได้แต่เพียงจะฝากไปให้กับกูเกิลเท่านั้น
แต่ผมอยากจะฝากไปให้กับ ผู้ที่เชื่อมั่นในโค้ดทั้งหลายทั่วโลก
คุณต้องระบุความลำเอียงส่วนตัวของคุณให้ได้
คุณต้องเข้าใจว่าคุณเป็นมนุษย์
และรับผิดชอบตามนั้น
และผมพูดแบบนี้ เพราะผมเชื่อ ว่าเรามาถึงจุดหนึ่ง
ที่มันหลีกเลี่ยงไม่ได้อย่างสมบูรณ์
ที่เราพันผูกพันธะเหล่านั้นด้วยกันอีก ใกล้ชิดกันมากขึ้น
มนุษยชาติและเทคโนโลยี
ใกล้ชิดกันกว่าที่เคยเป็นมา
และ ถ้าไม่มีอะไรเป็นอื่น เพื่อที่จะย้ำเตือนเรา ว่าแนวคิดที่เย้ายวนใจอย่างน่าประหลาด
ของผลการค้นหาที่สะอาดไม่ลำเอียง
คือปริศนา และมันก็น่าจะยังคงเป็นแบบนั้น
ขอบคุณสำหรับเวลาอันมีค่าครับ
(เสียงปรบมือ)
Ne zaman bir okula gidip, öğrencilerle konuşsam,
onlara hep aynı şeyi sorarım:
neden Google-larsınız?
Arama motoru olarak tercihiniz neden Google'dır?
Garip belki ama sürekli aynı üç cevap verilir.
İlki, “işe yarıyor”,
güzel bir cevap, benim de Google’ı tercih sebebim.
İkincisi, bazıları,
“gerçekten alternatifini bilmiyorum.” der.
Bu o kadar güzel bir cevap sayılmaz, onlara genellikle cevabım
"Google’a 'arama motoru' yazmayı denersen,
birkaç ilginç alternatif bulabilirsin.” olur.
Sonuncusu ise,
kaçınılmaz bir şekilde, bir öğrenci parmak kaldırıp
“Google'la kesin olarak, hep en iyi ve önyargısız arama sonucuna ulaşırım.” der.
En iyi ve önyargısız arama sonucuna kesin olarak, hep ulaşmak.
Bir beşeri bilim insanı olarak,
hatta dijital insani bilim insanı olarak,
bu durum beni ürpertiyor,
bu önyargısız arama sonucuna güvenin, Google’a olan ortak sevgimizin ve
ve Google'ı takdirimizin köşetaşı olmasını anlayabilsem bile.
Size bunun felsefi açıdan neden neredeyse imkansız olduğunu göstereceğim.
Ancak ilkin, her sorgumuzun ardındaki, bazen görmeyi unuttuğumuz
temel kuralı kısaca açıklamama izin verin.
Google’a bir şey yazdığınız zaman,
kendinize şunu sorun: “kesin bir gerçekliği mi arıyorum?"
Fransa’nın başkenti neresidir?
Su molekülünün yapıtaşları nelerdir?
Harika, hemen Google-layın.
Cevapların Londra ve H3O olduğunu
ispatlamaya çalışan bilim insanları yoktur.
Bu tür şeylerde büyük komplolara rastlamazsınız.
Küresel ölçekli
kesin gerçekliklerin cevabı ne ise , hepimiz kabul ederiz.
Ancak sorunuzu biraz daha karmaşıklaştırırsanız:
“Neden İsrail – Filistin çatışması var?” gibi,
artık kesin kabul görmüş bir gerçeklik aramıyorsunuz,
bir bilgiyi araştırıyorsunuz,
ki bu daha karmaşık ve hassas bir şeydir.
Bu bilgiye ulaşmak için,
masaya 10 veya 20 veya 100 gerçeklik getirmek,
onları kabul etmek ve “Bunların hepsi doğru.” demelisiniz.
Fakat kim olduğuma göre,
genç, yaşlı, siyah, beyaz, eşcinsel ya da değil,
her birini farklı değerlendireceğim.
“Evet bu doğru, ancak
diğeri benim için daha önemli.” diyeceğim.
İşin ilginç tarafı tam burası,
çünkü bizi insan yapan şey de bu.
Toplumu şekillendirmek için tartışmaya başladığımız yer burası.
Bir yerlere varmak için gerçeklerimizi filtrelememiz gerekir.
Arkadaşlar, komşular, aileler, çocuklar,
iş arkadaşları, gazeteler, dergiler yardımıyla.
Sonuçta gerçek bilgiye ulaşmak için,
bir arama motorunun bunu başarmanızda çok az yardımı olabilecektir.
Doğru, açık ve tarafsız bilgiyi elde etmenin neden
bu kadar zor olduğunu bir örnekle size göstermek istiyorum.
Konu üzerinde düşünmek için.
Bazı basit arama sorguları yapacağım.
"Michelle Obama" ile başlayacağız.
ABD'nin first lady’si.
Görsellere tıklayacağız.
Gördüğünüz üzere oldukça iyi çalışıyor.
Neredeyse mükemmel bir arama sonucu.
Resimde sadece o var, başkan bile yok.
Nasıl çalışıyor?
Oldukça basit.
Bir çok akıllıca yöntem kullanılıyor, ama basitleştirirsek,
iki şeye diğerlerinden daha çok bakıyor.
İlki, her bir internet sitesinde resmin altında ne yazdığı.
Resmin altında "Michelle Obama" mı yazıyor?
Gerçekten onun olduğuna dair iyi bir gösterge.
İkinci olarak Google internet sitesine
yüklenen resim dosyasının adına bakıyor.
"Michelle Obama.jpeg” mi denmiş?
Resimde Clint Eastwood olmadığına dair iyi bir gösterge.
Böylece bu iki yöntemle böyle bir arama sonucuna ulaştınız -- neredeyse.
Michelle Obama 2009 yılında arama sonuçları üzerinden
ona hakaret etmek üzere ayarlanmış ırkçı bir kampanyanın mağduruydu.
İnternette yaygın olarak paylaşılan,
yüzünün maymuna benzetildiği, oynanmış bir resim vardı.
Bu resim her yerde yayınlandı.
İnsanlar bilinçli bir şekilde,
o resmin arama sonuçlarında çıkması için uğraştılar.
Resmin başlığına “Michelle Obama” yazdılar
ve resmi "MichelleObama.jpeg” veya benzer bir dosya adıyla yüklediler.
Neden olduğunu anladınız, arama sonuçlarını manipüle etmek için.
İşe de yaradı.
2009'da Google görsellerinde “Michelle Obama” aratıldığında,
üzerinde oynanmış o maymun resmi ilk sonuçlar arasında çıkıyordu.
Sonuçlar kendini yeniliyor
ve bu işin güzel tarafı,
çünkü Google her saat, her gün sonuçların uygunluğunu ölçmektedir.
Ancak bu sefer Google bununla yetinmedi,
şöyle düşündüler; “bu ırkçı ve kötü bir arama sonucu,
geriye dönüp bunu elle düzelteceğiz.
Bazı kodlar yazıp bunu düzelteceğiz.”,
ki yaptılar da.
Salonda hiç kimsenin bunun kötü bir fikir olduğunu düşündüğünü sanmıyorum.
Ben de dahil.
Ancak birkaç yıl sonra,
dünyanın en çok Google-lanan Anders’i,
Anders Behring Breivik,
yapacağını yaptı.
22 Temmuz 2011’de
Norveç tarihinin korkunç günlerinden biri.
Terörist olan bu adam Oslo, Norveç'te şu an bulunduğumuz yere
yürüme mesafesinde olan bazı devlet binalarını havaya uçurdu;
ve sonra Utøya Adasına gitti,
bir grup çocuğa ateş etti ve onları öldürdü.
80'e yakın kişi o gün öldü.
Birçok insan bu terör hadisesini iki aşamalı tasvir ediyor,
binaları patlattı ve o çocukları öldürdü.
Bu doğru değil.
Üç aşamalı idi.
O binaları patlattı, o çocukları öldürdü
ve oturup dünyanın onu Google-lamasını bekledi.
Üç aşamayı da oldukça iyi hazırladı.
Eğer bunu hemen anlayan biri varsa,
o da İsveçli internet tasarımcısı,
Stockholm’de arama motoru optimizasyonu uzmanı olan Nikke Lindqvist'tir.
Aynı zamanda oldukça siyasi birisiydi.
sosyal medyada bloğunu ve Facebook'u aktif kullanan biriydi.
Herkese şunu dedi:
“Şu anda bu adamın yapmak istediği bir şey varsa,
o da kendi imajını kontrol etmektir.
Bunu değiştirebilecek miyiz görelim.
Bakalım yaptığı eylemi medeni dünya olarak kendi arama sonuçlarında
ona hakaret ederek protesto edebilecek miyiz?”
Peki nasıl?
Tüm okurlarına şunları dedi,
“İnternete girin,
kaldırım üzerinde köpek dışkısı resimleri bulun --
yayınlarınızda, internet sitelerinizde ve bloglarınızda bunu yayınlayın.
Resmin altına teröristin ismini yazdığınızdan emin olun,
resim dosyasının adının “Breivik.jpeg” olduğundan emin olun.
Google’a teröristin yüzünün bu olduğunu öğretelim.”
Ve işe yaradı.
Michelle Obama’ya karşı yürütülen kampanyadan iki yıl sonra,
Anders Behring Breivik'e karşı manipülasyon kampanyası işe yaradı.
22 Temmuz'dan bir süre sonra İsveç’ten Google görsellerinde onu aratsaydınız,
arama sonuçlarının üst kısımlarında köpek dışkısı resmini görebilirdiniz,
küçük bir protesto olarak.
Garip bir şekilde Google bu kez müdahale etmedi.
Devreye girip arama sonuçlarını elle düzeltmediler.
Şimdi milyon dolarlık soru,
bu iki hadise arasında fark var mı?
Michelle Obama’ya yapılan ile Anders Behring Breivik’e yapılan
eylem arasında bir fark var mı?
Elbetteki yok.
Kesinlikle aynı şey
ama bir durumda Google müdahale etti, diğerinde ise etmedi.
Neden?
Çünkü Michelle Obama saygıdeğer bir insan, sebep bu
ve Anders Breivik ise aşağılık bir insan.
Ne olduğunu anlıyor musunuz?
Bir kişi değerlendiriliyor
ve dünya üzerinde kimin kim olduğunu
söyleme otoritesine sahip tek bir güç var.
"Seni seviyoruz. Seni sevmiyoruz.
Sana inanıyoruz. Sana inanmıyoruz.
Haklısın. Haksızsın. Doğrusun. Yanlışsın.
Obama'sın. Breivik'sin.”
Bu, eğer şu ana kadar gördüysem, gücün kendisidir.
Sizden şunu hatırlamanızı rica ediyorum: her algoritmanın ardında
her zaman bir insan vardır.
Hiçbir kodun tamamen yok edemeyeceği
bir takım kişisel değerleri olan birisi.
Mesajım sadece Google’a değil,
aynı zamanda kodların doğruluğuna inananlaradır.
Kişisel önyargılarınızı belirlemek zorundasınız.
İnsan olduğunuzu anlamanız
ve sorumluluğu ona göre almanız gerekiyor.
Bunu şunun için söylüyorum: öyle bir noktaya geldik ki
kesinlikle şu iki şeyi
sıkı bir şekilde tekrar bağlamak zorundayız, daha sıkı bir şekilde:
beşeri bilim ve teknolojiyi.
Şimdiye kadarkinden daha da sıkı.
Bir de muhteşem bir şekilde cezbediciliği olan
önyargısız, temiz arama sonucu fikrinin bir efsane olduğunu
hatırlatmak istiyorum.
Zamanınızı ayırdığınız için teşekkürler.
(Alkış)
Mỗi khi đến thăm một ngôi trường nào đó và nói chuyện với sinh viên
Tôi luôn hỏi họ cùng một câu hỏi
Tại sao bạn sử dụng Google?
Tại sao bạn chọn Google là công cụ tìm kiếm cho mình?
Điều kì lạ là, tôi luôn nhận được cùng ba câu trả lời
Thứ nhất, "Vì nó mang lại kết quả"
Một câu trả lời rất thú vị, và đó chính là lý do vì sao tôi cũng chọn Google
Thứ hai, một vài người sẽ nói
"Tôi thật sự không tìm thấy công cụ thay thế nào khác
Theo tôi câu trả lời này không thỏa đáng, và thường đáp lại rằng
"Thế thì bạn hãy thử Google từ 'công cụ tìm kiếm' xem"
bạn chắc chắn sẽ tìm thấy rất nhiều công cụ tìm kiếm thú vị khác đấy
Thứ ba, cuối cùng nhưng không kém phần quan trọng
hiển nhiên là một học sinh giơ tay lên và nói
"Tìm kiếm bằng Google, tôi luôn chắc chắn rằng mình sẽ nhận được những kết quả khách quan nhất"
Chắc chắn sẽ luôn nhận được kết quả tốt và khách quan nhất
Ngay lúc này, với tư cách là một con người trong nhân loại,
dù là một người trong thời đại kỹ thuật số
thì điều đó cũng làm tôi thấy sởn gai ốc
Kể cả khi tôi cũng nhận ra rằng sự thật đó, ý tưởng về các kết quả tìm kiếm không thiên vị
là nền tảng của tình yêu chung của chúng ta đối với, và trân trọng Google.
Tôi sẽ cho các bạn thấy lý do tại sao, theo triết học, đây gần như là điều không thể
Nhưng trước hết hãy để tôi giải thích một chút, dựa trên một nguyên tắc cơ bản
đằng sau mỗi truy vấn tìm kiếm mà đôi khi chúng ta dường như quên mất...
Bất cứ khi nào bạn yêu cầu Google tìm kiếm một điều gì đó
Hãy bắt đầu bằng cách tự hỏi mình "Tôi có đang tìm kiếm một sự thật độc lập?"
Thủ đô của Pháp là gì?
Các nhân tố nào trong một phân tử nước?
Tuyệt - Tra Google ngay lập tức
Không một nhà khoa học nào có thể chứng minh
rằng đó là London và H3O
Bạn không hề thấy có sự thông đồng nào trong những câu trả lời đó
Chúng tôi đều thừa nhận, trên quy mô toàn cầu,
câu trả lời là những thực tế độc lập này
Nhưng nếu bạn phức tạp hóa những câu hỏi của mình một chút, và hỏi những câu như,
Tại sao lại xảy ra xung đột giữa Israel và Palestine?
Lúc đó, bạn sẽ không đơn giản là tìm kiếm một sự thật cá nhân nữa,
bạn đang tìm kiếm kiến thức
một thứ gì đó phức tạp và tinh vi hơn
Và để có được kiến thức,
bạn phải đưa 10, 20 hay thậm chí 100 sự thật vào bàn tròn,
và thừa nhận chúng, và nói rằng : "Vâng, những điều này hoàn toàn đúng"
Nhưng dù tôi là ai,
dù trẻ hay già, đen hay trắng, đồng tính hay "trai thẳng"
tôi đều sẽ đánh giá chúng khác nhau.
Và tôi sẽ nói rằng: "Vâng, điều này đúng,
nhưng điều này đối với tôi còn quan trọng hơn thế nữa."
Và đây là thứ khiến mọi chuyện thú vị hơn,
bởi vì đây là thứ khiến chúng ta là những con người,
Đây là khi chúng ta bắt đầu tranh luận, hình thành nên xã hội,
và để thật sự biết được một nơi nào đó, chúng ta phải chắt lọc những sự kiện ở đây
thông qua bạn bè, hàng xóm, cha mẹ và con cái
đồng nghiệp, báo và tạp chí,
để cuối cùng, đặt nền cho kiến thức thực tế,
mà một công cụ tìm kiếm khó có thể làm được
Vì vậy, tôi đã đưa ra cho các bạn một ví dụ chỉ để cho các bạn thấy lí do tại sao
để có được kiến thức đúng, "sạch" và khách quan laị khó khăn đến vậy
- một đề tài đáng suy ngẫm.
Tôi sẽ thực hiện một vài truy vấn tìm kiếm đơn giản
Chúng ta sẽ bắt đầu với "Michelle Obama",
Đệ Nhất Phu Nhân Hoa Kì.
Và chúng ta nhấp chuột vào phần tìm kiếm hình ảnh
Nó hoạt động thực sự tốt, bạn có thể nhìn thấy.
Ít nhiều, đó là một kết quả tìm kiếm hoàn hảo.
chỉ có hình Bà ấy, thậm chí còn không hề có sự xuất hiện của Ngài Tổng Thống trong những bức hình.
Công cụ này hoạt động như thế nào?
Đơn giản thôi,
Google sử dụng khá nhiều" trí thông minh" để đạt được các kết quả này, tuy nhiên, một cách đơn giản,
Google sẽ chú ý đến hai thứ này nhiều hơn bất cứ thứ gì khác
Thứ nhất, nội dung của dòng chú thích bên dưới bức ảnh trên mỗi trang web là gì
Liệu có phải là "Michelle Obama" không?
Quả nhiên, đúng là bà ấy ở đó.
Thứ hai, Google nhìn vào các tập tin hình ảnh,
tên của các tập tin được đăng tải lên trang web
Một lần nữa, có phải tên là " Michelle Obama.jpeg" không
Rất tốt, tên file không phải là Clint Eastwood trong hình.
Như vậy, bạn vừa biết được hai cách tìm kiếm và hầu như là bạn nhận được kết quả tìm kiếm thông qua quá trình như thế đấy
Trong năm 2009, Michelle Obama từng là nạn nhân của một chiến dịch phân biệt chủng tộc,
mọi người gày bẫy để sỉ nhục bà ấy thông qua các kết quả tìm kiếm về bà
Có một bức ảnh được phát tán rộng rãi trên mạng
trong đó, khuôn mặt bà ấy bị bóp méo trông giống như một con khỉ
Và bức ảnh ấy được phát tán rộng rãi.
và những người công bố bức ảnh ấy rất cố ý,
làm cho bức ảnh ấy hiển thị trên các kết quả tìm kiếm
Họ chắc chắn đã viết "Michelle Obama" trong dòng chú thích
và cũng chắc chắn đăng tải bức ảnh với tập tin "Michelle Obama.jpeg" hoặc những thứ tương tự.
Bạn đã biết làm sao để thao túng các kết quả tìm kiếm.
Và chúng đã thành công.
Vì vậy, khi bạn tìm kiếm bức hình "Michelle Obama" trên Google trong năm 2009
bạn sẽ thấy bức hình với khuôn mặt biến dạng hình mặt khỉ ấy xuất hiện ở những kết quả đầu tiên
Nhưng giờ thì những kết quả ấy đã tự biến mất,
và đó giống như là một ưu điểm của Google
bởi vì Google đánh giá sự hợp lý mỗi giờ, mỗi ngày.
Tuy nhiên, Google đã không giải quyết vấn đề đó trong khoảng thời gian này
họ chỉ nghĩ rằng" đó là phân biệt chủng tộc và đó là một kết quả tìm kiếm không tốt
Chúng ta sẽ quay trở lại và tự tay dọn dẹp sạch sẽ
Chúng ta sẽ viết một số mã và sửa chữa nó".
Điều mà họ đã từng làm
Và tôi không nghĩ rằng ai đó trong phòng này nghĩ đó là một ý kiến tồi.
Và tôi cũng vậy.
Nhưng một vài năm sau,
người được cả thế giới tìm kiếm nhiều nhất trên Google - Anders
Anders Behring Breivik
làm việc hắn đã làm.
Và ngày 22 tháng 7 năm 2011
một ngày tồi tệ trong lịch sử Na Uy
Hắn ta, một kẻ khủng bố đã thổi bay khu tòa nhà Chính phủ
nơi cách chỗ chúng ta bây giờ tại Oslo, Na Uy không xa
sau đó, hắn chạy đến đảo Utoya
xả súng tấn công vào một đoàn thiếu niên
Gần 80 người đã thiệt mạng ngày hôm đó.
Rất nhiều người có thể mô tả hành động khủng bố này qua hai bước,
rằng hắn đã làm 2 việc: đánh sập các tòa nhà bắn những đứa trẻ
Nhưng điều này không đúng.
Thực tế, có tới ba bước.
Hắn ta thổi bay các tòa nhà, hắn bắn lũ trẻ,
và ngồi xuống, chờ thế giới Google về mình.
Và hắn đã chuẩn bị rất tốt cho cả ba bước này
Và nếu có ai ngay lập tức hiểu ra điều này,
thì đó là một nhà phát triển web người Thụy Sĩ,
một chuyên gia về tối ưu hóa công cụ tìm kiếm sống tại Stockholm, có tên là Nikke Lindqvist.
Anh ta cũng là một anh chàng rất có tư tưởng chính trị
Và trên các phương tiện truyền thông xã hội, trên blog và facebook của mình,
anh ta nói với mọi người
"Nếu có điều gì đó mà tên sát nhân muốn ngay bây giờ,
thì đó là kiểm soát hình ảnh của chính hắn.
Xem xem liệu chúng ta có làm biến dạng những bức hình,
hay trong thế giới văn minh này, chúng ta có thể phản đối những gì hắn ta đã làm
bằng cách nhục mạ hắn thông qua các kết quả tìm kiếm hay không.
Và bằng cách nào?
Anh ta đã nói với độc giả của mình thế này:
"Hãy lên mạng,
tìm kiếm những bức hình chụp phân chó trên vỉa hè,
rồi công bố chúng trên các phản hồi, trên các trang web và trên blog của bạn.
Và hãy chắc chắn rằng bạn sẽ viết tên của tên khủng bố trên dòng chú thích,
và đặt tên tập tin cho bức hình đó là "Breivik.jpeg"
Hãy cho Google biết rằng đó chính là gương mặt của tên sát nhân."
Và hành động này đã đem lại kết quả.
Hai năm sau chiến dịch chống Phu Nhân Michelle Obama,
chiến dịch thao tác này chống Anders Behring Breivik đã hoạt động
Nếu bạn Google hình ảnh của hắn 2 tuần sau sự kiện ngày 22 tháng 7 tại Thụy Điển,
bạn sẽ thấy bức hình phân chó xuất hiện ở những trang đầu tiên trong kết quả tìm kiếm,
giống như là một cuộc biểu tình quy mô nhỏ.
Cũng thật kì lạ là trong thời gian này, Google đã không can thiệp
Họ không hề xen vào và "dọn dẹp" các kết quả tìm kiếm trên
Vậy nên câu hỏi đáng giá triệu đô là,
Có điều gì khác biệt giữa hai sự kiện này?
Liệu có sự khác biệt nào giữa những gì đã xảy ra với bà Michelle Obama
và những việc xảy ra với Anders Behring Breivik?
Dĩ nhiên là không.
Hai sự kiện này hoàn toàn giống hệt nhau.
Thế nhưng Google lại chỉ can thiệp vào một trường hợp của bà Michelle Obama
Tại sao lại như vậy?
Là bởi vì Michelle Obama là một người đáng kính,
còn Anders Behring Breivik là một kẻ đáng khinh.
Bạn đã hiểu ra vấn đề ở đây chưa?
Việc đánh giá một con người xảy ra
và chỉ có một người chơi có quyền lực trên thế giới
có thẩm quyền để nói ai là ai.
Chúng tôi ủng hộ bạn, chúng tôi căm ghét bạn.
Chúng tôi tin tưởng ở bạn, chúng tôi không tin bạn.
Bạn nói đúng rồi, bạn nói sai rồi Bạn làm đúng, bạn đã sai rồi.
Bạn là Obama, và bạn là Breivik.
Đó chính là quyền lực mà tôi đã từng chứng kiến
Vậy nên, tôi muốn các bạn nhớ rằng, đằng sau mỗi thuật toán
luôn luôn là một con người.
một người với những đức tin cá nhân,
rằng không một mã số nào có thể bị xóa bỏ hoàn toàn.
Và thông điệp tôi muốn gửi tới không chỉ cho Google,
mà cho tất cả những người luôn tin vào các dòng lệnh trên toàn thế giới.
Bạn cần phải xác định được chính kiến của mình.
Bạn cần phải hiểu rằng bạn là con người,
và do đó bạn phải có trách nhiệm
Tôi nói điều này bởi lẽ tôi tin chúng ta đã đạt đến một thời điểm nào đó
mà chúng ta hoàn toàn bị bắt buộc
thắt chặt mối quan hệ này một lần nữa, chặt chẽ hơn:
giữa Nhân loại và Công nghệ
Chặt chẽ hơn bao giờ hết.
Và, nếu không còn thứ gì khác, nhắc chúng ta rằng cái ý tưởng vô cùng thú vị
về kết quả tìm kiếm sạch, không thiên vị
đang, và hẳn sẽ vẫn là một huyền thoại
Cảm ơn các bạn đã lắng nghe.
(Tiếng vỗ tay)
每当我参观一所学校， 和学生们交谈，
我总是问他们同样的问题：
为什么你用Google？
为什么你首选Google 作为搜索引擎呢？
奇怪的是，我总是得到 三个相同的回答。
第一个回答， “因为它是个管用的搜索工具，”
这是最好的答案，也是 我使用Google的原因。
第二个回答是，
”我真的不知道其他 任何可代替的方法。“
这不是一个很好的回答， 而我的回应总是，
”尝试在Google上 键入搜索引擎，
你可以发现一些有趣的， 可代替的搜索方法。”
最后一个回答 并非不重要，
如我所预料的， 一个学生举手说，
”使用Google， 我确信总得到 最好和客观公正的搜索结果。“
一定得到最好和客观 公正的搜索结果。
作为一个学习人文科学的人，
尽管我是研究科技 和人文科学间关系的，
这个回答听起来 使我心里发毛，
尽管我也知道， 这种对搜索结果的信任，
是以我们共同喜爱和对 Google的认识为基础的。
我会证明给你看，这种想法 在哲学思维分析上几乎不存在。
但首先，我对网上查询的 基本原则说明一下，
我们有时似乎忘记，每个 搜索查询背后的原则。
因此，每当你用Google 查询所需的东西，
首先要问自己： “我要寻找个别的事实吗？”
例如，法国的首都是哪里？
水分子的构成要素是什么？
使用Google搜索 都能找到这些答案。
没有一个严密的 科学家小组去证明
这些答案，实际上 会是伦敦和H30。
在这些答案中， 你不会找到什么阴谋。
我们同意，在全球范围内，
这些个别事实通过 网上查询能找到答案。
但是，如果你搜索 一些稍复杂的问题，
例如，“为什么出现以色列 和巴勒斯坦之间的冲突？“
你不会只寻找单独 形式的个别事实，
你要找的是知识，
这些知识会表现出很 复杂和微妙的形式。
为了获得这些知识，
你必须要搜索10，20或 100个相关的事实
并认可这些事实，说： ”这些都是真实的。“
但是，取决于我是谁，
年龄、肤色、性别取向，
人们以不同方式， 去评估这些事实。
我会说，“这是真实的，
但对我来说，这些事实 比那些更重要。”
事情在这里变得微妙，
你可以在这里发现人性。
当我们开始对这些事实 进行辩论，这就形成社会。
要获得真实的信息，我们需要 对所有的事实进行过滤，
通过我们的朋友， 邻居，父母和小孩
还有通过同事， 报纸和杂志，
最后会得到真实的知识，
这些真实的知识， 很难依赖网上搜索引擎的帮助。
让我举例证明
要得到真实， 公正和客观的知识有多困难 －
提供另一个观点供你们思考。
在这里，我会进行一些 简单的搜索查询。
我们查询“Michelle Obama，”
美国第一夫人。
我们点击她的图片。
你能看到，这个查询 方法很管用。
或多或少这是一个 完美的搜索结果。
只有她在相片中，她的 总统丈夫不在相片中。
搜索引擎是如何工作呢？
很简单。
Google使用大量智能技术 呈现搜索结果，但很简单，
它们更多看两样东西比 任何其他东西。
首先，每个网站上 的图片标题是什么？
在图片下有显示 “Michelle Obama” 吗？
有的话会是很好的指标。
第二，Google显示图像文件，
该文件的名字会传到网站。
被称为“MichellObama.jpeg”吗？
非常好的指标，它不是 Clint Eastwood的图片。
你已经获得两个搜索结果，而且 你会得到其他像这样类似的结果。
在2009年，Michelle Obama 是一个种族主义运动的受害者，
有些人通过网上搜索结果， 有意对她进行侮辱。
有一张她的相片在 互联网上广泛散布，
她的脸被扭曲， 看起来像一只猴子。
这张相片全世界 被公布了。
这些人很故意地 发布这张相片，
登载在互联网上，在她 相关图片的搜索结果中。
这些人确信，要用 “MichelleObama”作标题，
而且，他们确信上传的图片 为“MichelleObama.jpeg"。
你明白这个原因--- 操纵搜索结果。
而且，它也管用。
当你Google搜索图片， ”MichelleObama“ 2009，
被扭曲了的猴子图片会 出现在第一个搜索结果中。
现在，这图片在 搜索结果中自我消失了，
这是Google的优点，
因为Google每小时， 每天都测量信息的相关性。
但是， Google在这个事件上没有妥协，
Google只是想，”这是种族主义 的表现，是糟糕的搜索结果，
我们用手工清除它。
我们会编写一些 代码并修复它。”
修复这个恶作剧。
我不认为，这里会有人觉得 这个主意不好，
我也不觉得。
但是，几年过去后，
世界上最多用Google 搜索的是Anders，
Anders Behring Breivik，
他为所欲为做他想做的事。
在2011年7月22日，
在挪威史上是很可怕的一天。
Anders是恐怖分子， 他炸毁了几栋政府大楼，
在挪威首都奥斯陆，离我们 现在所在地仅几步之遥，
然后，他前往Utoya岛
并开枪打死一群孩子。
近80人在那天丧生。
很多人描述他的 恐怖行为有两个步骤，
他做了两件事：炸毁建筑物 和枪杀那些孩子。
这不是真的。
该包括三个步骤。
他炸毁那些建筑物， 他枪杀孩子，
还有，他坐下来并等待 全世界的人用Google搜索他。
他同样出色地 准备了这三个步骤。
如果有人立刻明白他的目的，
这个人就是瑞典互联网的开发员，
名叫Nikke Lindqvist，是斯德哥尔摩 的搜索引擎优化专家。
他也是一个非常 政治化的家伙，
他出现在社会媒体，博客 和Facebook上。
他告诉每一个人，
“如果他现在想做一件事情，
就是去控制他自己的图像。
让我们看看是否 能扭曲图像。
在文明世界里，让我们看看 能否反对他所做的事
在他的搜索结果中侮辱他。“
该怎样做呢？
他告诉所有的读者，
“在互联网上，
找人行道上狗屎的照片 --
把这些照片公布在食物上， 你的网站和博客上。
务必写恐怖分子 的名字作为题目，
务必给图像文件取名 为“Breivik.jpeg".
让我们教导Google， 恐怖分子的脸是怎样的。”
这个方法管用。
在那场用来反对Michelle Obama 的战役两年后，
反对Anders Behring Breivik 的操纵战役有效。
在瑞典7月22日的事件发生几周后， 如果你Google搜索Anders的图片，
你会看到有狗屎的相片 排在他的搜索结果前面，
这作为对他的小抗议。
奇怪的是，这次Google 没有干预这件事。
Google没有介入，并 手工清除那些搜索结果。
所以，重要的问题是，
这两个发生的事件在 Google上有什么不同？
这两者之间有不同吗？ 发生在Michelle Obama的事，
和发生在Anders Behring Breivik的事？
当然这是折然不同的事。
其实，这是同样的事情，
但Google介入一个案件， 另一个不介入。
为什么？
因为Michelle Obama是一个 体面和正直的人，这就是原因，
而Anders Behring Breivik 是一个卑鄙的人。
你都看到这里发生的事吗？
对一个人的评价。
在世界上，只有唯一 一个权力重要参与者，
有权威决定谁是谁，
“我们喜欢你，我们不喜欢你。
我们相信你，我们不相信你。
你是对的，你是错的； 你是真的，你是假的。
你是Obama，而你 是Breivik。”
我在任何时候都看到， 这就是权力。
所以，我要求你记住， 每个计算机操作的背后
总有一个人，
这个人有一套个人的信念
从来没有破译密码能 彻底根除这种信念。
我发布这些信息表明， 不仅Google是这样，
而且世界上所有相信 计算机操作的人都这样。
你需要确定自己 个人的偏见。
你需要明白，你是人
并承担相应的责任。
我说这些，因为我相信 我们已经及时达成共识，
这是绝对必要的，
我们又把这个纽带 更加拉紧在一起：
人文科学和科技，
比以往任何时候更紧密。
而且，如果没有其他东西， 提醒我们这个极其吸引人的
公正，干净的搜索结果的想法
是一个神话。
谢谢。
（鼓掌）
每當我拜訪一所學校 跟那裡的學生交流
我都會問同樣的問題：
你為什麼用Google？
為什麼Google 是你獨愛的搜索引擎？
很奇妙， 答案永遠是這三種。
一、因為有用。
的確是不錯的答案， 我也是因此而使用Google的。
二、有些人會說，
「我真的不知道還有什麼選擇」
這不是很好的答案， 我通常這樣回應，
「試試看用Google搜索 『搜索引擎』
你將會找到其他 更有趣的選擇。」
最後但一樣重要的是，三、
一定會有學生會舉手說，
「透過Google，我很肯定能找到 最好、最沒有偏差的結果」
肯定能夠找到最好、 最沒有偏差的結果。
學人文學的我，
雖然是數位人文學，
聽到這句話真是令人發毛，
即便我也發覺到這種信任、 這種無偏差搜尋結果的想法
是我們對於Google共同的喜愛 和感激的基礎。
我等等會透過哲學思維 證明給你看這句話根本不可能成立。
但我要事先 稍微闡述每個搜尋查詢背後的
基本運作， 這些是我們常常忽略的。
每次當你開始用Google查詢，
先問問自己： 「我在尋找單一的事實嗎？」
法國的首都在哪裡？
構成水分子的 基本結構是什麼？
很好--用Google搜尋吧！
不會有一群科學家 有那麼一點點可能證明
答案是倫敦和H3O的。
這當中沒有什麼陰謀。
我們大家都同意
這些事實的真偽是什麼。
但如果你問的問題 稍微複雜一點，像是
「為什麼以色列 和巴勒斯坦會有衝突？」
你要的不只是單一的事實了，
你要的是知識，
是更加複雜也更加細微的東西。
而為了獲得知識，
你得列出10個、20個 甚至100個事實
然後承認它們，並且說： 「是的，這些都是事實。」
但會因為我是誰，
是年輕人或老人、黑人或白人、 同性戀或異性戀，
而對它們產生不同評價。
然後我會說：「對，這是事實，
但我覺得這個比那個重要。」
事情就從這一刻變得精彩，
因為這就是我們為何身而為人，
我們會因此開始辯論， 而形成一個社會。
要能真正有所進展， 我們首先要篩選手上的資訊，
透過朋友、鄰居、父母、孩子、
同事和報章雜誌，
來取得最終真正的知識，
這種事搜尋引擎很難辦得到。
我剛剛答應你們我會舉例說明為什麼
要獲得真實、純淨、 客觀的知識那麼困難--
好讓你深思一下。
我來現場搜尋一些簡單的東西。
我們就從「蜜雪兒·歐巴馬」
美國的第一夫人開始吧。
我們搜尋圖片。
正如你所見，效果還不錯。
結果或多或少還算不錯啦。
圖片裡都只有她， 連總統都沒有。
背後的運作是如何的呢？
很簡單。
Google利用不少智慧型功能來 達成這些目的，但簡單來說
他們主要看兩樣東西。
首先，每一個網頁上 圖片的標題是什麼？
圖片底下的標題是否是 「Michelle Obama」？
有的話代表圖中人物應該就是她。
第二、Google看圖片檔名，
上傳到網路上的檔名。
我們來看看， 檔名是否是MichelleObama.jpeg？
很明顯圖片中不是 克林·伊斯威特(Clint Eastwoood)。
上面那兩項條件會讓你 搜尋到這樣的結果--幾乎啦。
在2009年的時候，蜜雪兒·歐巴馬 變成一個種族歧視運動的受害者，
一些人透過搜尋結果來侮辱她。
有一張在網路上廣為流傳的照片，
照片中她的臉被扭曲成像猴子一樣。
而那張照片到處可見。
而且這些人真的是故意在上傳，
為的就是讓它成為搜尋結果。
他們確保有把 「Michelle Obama」寫入標題裡，
也確保被上傳的圖片的檔名是 「MichelleObama.jpeg」，或類似的。
你應該知道為什麼-- 為了操縱搜尋結果。
結果真的成功了。
當你在2009年用Google 搜尋「Michelle Obama」的圖片，
那張被改成像猴子的圖片 就會出現在結果的前端。
這些搜尋結果會自動清除，
這也算是Google的美啦，
因為Google每小時、每天 都在測量結果的相關性。
然而，Google這次並沒有 讓這件事順其自然，
他們想說：「這有種族歧視， 是不好的搜尋結果，
我們要手動清除掉這些，
我們需要寫一些程式把它給弄好。」
而他們真的做到了。
我不認為這裡有人會 覺得這是個餿主意吧。
對啊，我也不這麼認為。
但是，一直到幾年之後，
世上最多人Google搜尋的昂德史
昂德史·北令·布雷維克，
做了一件事。
那時是2011年7月22日，
在挪威歷史上 是慘不忍睹的一天。
這個人，一個恐怖分子， 炸毀了好幾棟
離這裡（奧斯陸）不遠的政府機關，
然後再到烏托亞島上
射殺了一群孩子。
那天，死了將近80人。
很多人認為這個惡行是兩部曲，
認為他做了兩件事：炸毀建築物 以及射殺那群孩子。
不對。
這件事其實是三部曲。
他炸毀建築物， 射殺那群孩子，
然後坐下來等待 天下人Google搜尋他。
而且他為這三部曲做足了準備。
如果說有誰馬上明白他的真正用意，
那就是一位瑞典網路設計者，
住在斯德哥爾摩的搜尋引擎最佳化專家， 叫尼克·林德威斯特
他也是個很有政治主見的人，
他剛好就在社群網路上， 瀏覽他的部落格和臉書。
他告訴大家，
「這個人現在最想要的是
能夠主宰他自己的形象。
讓我們試著扭曲他的形象。
讓我們嘗試在文明世界裡，
透過他的搜尋結果侮辱他， 來抗議他的惡行。』
要怎麼做呢？
他讓所有的讀者這樣做，
「連上網絡
搜尋一下狗狗在路邊大便的圖片--
上傳到你們的發文、網頁、部落格。
記得一定要把這位恐怖分子 的名字寫到標題中，
確保圖片檔名是『Breivik.jpeg』
一起來告訴Google 這就是那位恐怖分子的臉孔。」
後來真的成功了。
繼蜜雪兒·歐巴馬那件事的兩年之後，
這次針對昂德史·北令·布雷維克 所發起的操縱運動成功了。
你如果在7月22日後的幾個禮拜， 你在瑞典Google圖片搜尋他的話，
你會看到先出現的都是 狗狗在路邊大便的圖片，
算是對他小小的討伐。
奇怪的是，Google 這次竟撒手閉眼。
他們沒有介入， 手動把這些搜尋結果清除掉。
那我要問你們一個迫切而困難的問題，
這兩件事有什麼差別嗎？
究竟發生在蜜雪兒·歐巴馬身上的事件
跟昂德史·北令·布雷維克的有何差別？
當然沒有。
這兩件事根本是一樣的，
但Google並沒有一視同仁。
為什麼？
因為蜜雪兒·歐巴馬德高望重，
而昂德史·北令·布雷維克十惡不赦。
你看到了嗎？
有人被斷定其好壞，
而世上只有一個大玩家
被賦予權利去判定對錯。
「我們喜歡你，我們不喜歡你。
我們相信你， 我們不相信你。
你對，你錯。 你說真話，你說謊。
你是歐巴馬，你是布雷維克。」
這就是權勢。
所以我在此提醒你在任何運算中
都有一個人在背後，
一個擁有自己根深蒂固、 難以動搖的信仰的人。
而我的不只是要對Google說，
我也想對世上所有 擁有相信某種教條的人說。
你必須要釐清 自己的個人偏差。
你必須明瞭你身而為人
然後擔當起相對的責任。
我這麼說是因為相信 我們已經到了一個
必須無可避免地
重新把這些距離拉得更近的時機：
人文跟科技之間的距離。
比以前更近。
我也相信那誘人的觀念，
認為搜尋結果是無偏差、純淨的，
只是個天方夜譚， 永遠是個天方夜譚。
謝謝你撥冗聆聽。
（掌聲）