インターネット検索結果に隠れた道徳的価値観
-
0:01 - 0:04学校で生徒たちに話す機会があると
-
0:04 - 0:06必ず聞くことがあります
-
0:07 - 0:08「なぜGoogle検索するの?
-
0:09 - 0:12なぜ検索エンジンにGoogleしか選ばないの?」
-
0:13 - 0:15不思議と 返ってくる答えは
決まってこの3つです -
0:15 - 0:171つ目は「うまく検索できるから」
-
0:17 - 0:20ご名答です
私も同じ理由でGoogleを使っています -
0:20 - 0:222つ目は―
-
0:22 - 0:25「ほかの検索エンジンを知らないから」
-
0:26 - 0:29ちょっと惜しい
たいてい 私はこう返します -
0:29 - 0:31「Googleで『検索エンジン』を
-
0:31 - 0:33検索してごらん
ほかにも面白いのがあるよ」 -
0:33 - 0:35そして トリとなる3つ目です
-
0:35 - 0:39必ず 手を挙げて
満を持して言う子がいるんです -
0:39 - 0:44「Googleを使うと 絶対に
常に最高で公正な検索結果が得られるから」 -
0:45 - 0:52絶対に 常に最高で公正な
検索結果が得られる― -
0:53 - 0:55これを耳にするたび
デジタル世代とはいえ -
0:56 - 0:58人類のひとりとして
-
0:58 - 0:59虫唾(むしず)が走ります
-
0:59 - 1:04みんながGoogleを愛し
大事にしているからこそ -
1:04 - 1:08「公正な検索結果」と信じ 考えるのだと
わかっていてもです -
1:09 - 1:13公正な結果など 哲学的にほぼありえません
なぜかご説明しましょう -
1:13 - 1:16でも まず検索の基本原理について
少しだけお話しさせてください -
1:16 - 1:19みんな 忘れてしまいがちなことです
-
1:20 - 1:22Googleで何かを検索するとき
-
1:22 - 1:26まず考えるべきは
「個別の事実を知りたいのか?」 -
1:26 - 1:29フランスの首都はどこか
-
1:30 - 1:32水分子の構成元素は何か
といったものです -
1:32 - 1:34この場合は
ぜひGoogle検索しましょう -
1:34 - 1:37科学者といえども
答えは「ロンドン」と「H30」だなんて -
1:37 - 1:39証明できやしませんから
-
1:39 - 1:42ここに何の陰謀もありません
-
1:42 - 1:43こうした個別の事実については
-
1:43 - 1:46世界全体で 答えが何か
一致しているのです -
1:46 - 1:52でも 質問をほんの少し複雑にして
こんな風にしたらどうでしょう -
1:52 - 1:54「なぜパレスチナ問題が起こっているのか?」
-
1:55 - 1:58もはや 求めているのは
ただ一つの「事実」ではなく -
1:58 - 1:59「知識」ということになります
-
1:59 - 2:02知識は はるかに複雑で繊細なものです
-
2:03 - 2:04そうした知識を得るには
-
2:04 - 2:0710 、20 または100の事実を集め
自分のものにし -
2:07 - 2:10「これらは すべて真実だ」と
言えないといけません -
2:10 - 2:12でも ひとは
-
2:12 - 2:14年齢や人種、性的趣向に関わらず
-
2:14 - 2:16違う価値観を持っています
-
2:16 - 2:18ですから「確かに これは真実だけど
-
2:18 - 2:20こっちのほうが重要だ」となります
-
2:20 - 2:22ここからが面白いのです
-
2:22 - 2:24私たちが人間らしさを発揮するからです
-
2:24 - 2:27私たちは互いに議論し
社会を形成し始めます -
2:27 - 2:30本当に答えを出すには
まず事実をすべて ふるいにかけます -
2:30 - 2:33友だちやご近所さん
両親、子どもたち、同僚 -
2:33 - 2:35そして新聞や雑誌を通じて
ふるいにかけ -
2:35 - 2:38真の知識にたどりつくのです
-
2:38 - 2:42ここで検索エンジンは
あまり役に立ちません -
2:43 - 2:50さきほど 真に純粋で客観的な知識を
手にするのが なぜ難しいか -
2:50 - 2:53例をお見せするとお話ししました
-
2:53 - 2:55皆さんにお考えいただきましょう
-
2:55 - 2:58まず いくつか簡単な検索をしてみます
-
2:58 - 3:03まずは「ミシェル・オバマ」
-
3:03 - 3:04アメリカのファーストレディです
-
3:04 - 3:06「画像」をクリックします
-
3:07 - 3:09ご覧のとおり うまく行っていますね
-
3:09 - 3:12まあ 完ぺきな検索結果です
-
3:12 - 3:15写真には ミシェル一人だけ
大統領さえいません -
3:16 - 3:17どうなっているんでしょう
-
3:18 - 3:19とてもシンプルです
-
3:19 - 3:22Googleは 色々頭を使っていますが
簡単に言うと -
3:22 - 3:252つのことに着目しています
-
3:25 - 3:301つは 各ウェブサイトの写真の下にある
キャプションの内容です -
3:30 - 3:32写真の下に「ミシェル・オバマ」とあれば
-
3:32 - 3:34彼女の写真の可能性が高いですね
-
3:34 - 3:37つぎにGoogleが見るのは
写真ファイル -
3:37 - 3:40ウェブサイトにアップロードされた
ファイルの名前です -
3:40 - 3:42「MichellObama.jpeg」というファイルなら
-
3:43 - 3:46クリント・イーストウッドの写真
ということはないでしょう -
3:46 - 3:50この2つを手がかりにすると
こんな検索結果になるんです―普通は -
3:50 - 3:57さて2009年 ミシェル・オバマに
人種差別攻撃の矛先が向きました -
3:57 - 4:01検索結果を通じて侮辱されたのです
-
4:01 - 4:04ある写真がばらまかれ
インターネットを席巻します -
4:04 - 4:07彼女の顔が サルのように
ゆがめられた写真です -
4:07 - 4:10写真は インターネット上の
あらゆるところに掲載されました -
4:10 - 4:14しかも 検索結果の上位に表示されるよう
-
4:14 - 4:16非常に意図的な形でネット掲載されました
-
4:16 - 4:19キャプションには必ず
「ミシェル・オバマ」と書かれ -
4:19 - 4:23ファイル名も
「MichelleObama.jpeg」などとされたのです -
4:23 - 4:25そう 検索結果を操作するためです
-
4:25 - 4:27確かに それは成功し
-
4:27 - 4:29Googleで「ミシェル・オバマ」を
画像検索すると -
4:29 - 4:332009年当時 サル顔に変形された写真が
結果上位に表示されました -
4:33 - 4:36さて 検索結果には自浄作用があります
-
4:36 - 4:38そこが素晴らしいところでもあり
-
4:38 - 4:42Googleは 毎日 毎時間
関連度を測っているのです -
4:42 - 4:44でも このときGoogleは
黙ってはいませんでした -
4:44 - 4:47「これは人種差別的で
悪い検索結果だから -
4:48 - 4:51自らの手で きれいにしないといけない
-
4:51 - 4:54プログラムを書いて修正するんだ」と考え
-
4:54 - 4:55実際にそうしました
-
4:55 - 4:59皆さんのなかで これが悪いことと
思う方はいないでしょう -
5:00 - 5:01私も そう思いません
-
5:03 - 5:06それから2年ほどして
-
5:06 - 5:09世界で最もGoogle検索されたアンネシュ
-
5:09 - 5:11アンネシュ・ベーリン・ブレイヴィークは
-
5:11 - 5:13こんなことをしました
-
5:13 - 5:152011年7月22日
-
5:15 - 5:18ノルウェー史上 悲惨な日となったこの日
-
5:18 - 5:21この男―テロリストは
政府庁舎を爆破しました -
5:21 - 5:24ここ ノルウェー・オスロの会場から
徒歩圏内の場所です -
5:24 - 5:26その後 彼はウトヤ島に渡り
-
5:26 - 5:29子どもたちを銃撃し殺しました
-
5:29 - 5:31その日 80人近くの命が失われました
-
5:32 - 5:37多くの場合 このテロ行為には
2つの段階があったと語られます -
5:37 - 5:40つまり 建物爆破と 子どもの銃殺
という2つの段階です -
5:40 - 5:42実は違うのです
-
5:42 - 5:443つの段階があったんです
-
5:44 - 5:47彼は建物を爆破し
子どもたちを銃殺し -
5:47 - 5:50そして世界が彼を
Google検索するのを待ったのです -
5:51 - 5:54彼は この3つの段階すべてを
周到に準備していました -
5:55 - 5:57彼の意図をすぐに見破ったのが
-
5:57 - 5:59スウェーデンのウェブ開発者で
-
5:59 - 6:03検索エンジン適正化の専門家
ストックホルムのニック・リンドクヴィストです -
6:03 - 6:04自らも非常に政治的なニックは
-
6:04 - 6:07ブログやFacebookなど
ソーシャルメディアを通じて -
6:07 - 6:09みんなに訴えかけました
-
6:09 - 6:11「こいつが今ほしいものがあるとしたら
-
6:11 - 6:14自分のイメージをコントロールすることだ
-
6:15 - 6:17みんなで それを崩そうじゃないか
-
6:17 - 6:21文明社会のみんなの力をあわせて
彼の行為に対して抗議するんだ -
6:21 - 6:25検索結果を通して彼を侮辱するんだ」
-
6:25 - 6:26でも どうやって?
-
6:27 - 6:29彼は以下のことをするよう呼びかけました
-
6:29 - 6:31インターネットで
-
6:31 - 6:34道端の犬のフンの写真を探し―
-
6:35 - 6:37道端の犬のフンの写真を探し―
-
6:37 - 6:40それをフィードやウェブサイト
ブログに掲載するのです -
6:40 - 6:43そのとき必ず
キャプションにはテロリストの名前を書き -
6:43 - 6:48ファイル名を「Breivik.jpeg」とするのです
-
6:48 - 6:52Googleに これがテロリストの顔だと
教えるのです -
6:54 - 6:55効果てき面でした
-
6:56 - 6:59ミシェル・オバマ事件の2年後
-
6:59 - 7:02アンネシュ・ベーリン・ブレイヴィークの
検索結果が操作されました -
7:02 - 7:077月22日事件以降の数週間
スウェーデンから彼をGoogleで画像検索すると -
7:07 - 7:11検索結果の上位に犬のフンの写真が
表示されるに至りました -
7:11 - 7:12小さな抗議行動です
-
7:13 - 7:18奇妙なことに このとき
Googleは介入しませんでした -
7:18 - 7:23人為的に検索結果をきれいにしようとは
しなかったのです -
7:24 - 7:26さて ここで難しい質問です
-
7:26 - 7:29これら2つの現象は何が違うんでしょうか?
-
7:29 - 7:32ミシェル・オバマに起こったことと
-
7:32 - 7:34アンネシュに起こったことは違いますか?
-
7:34 - 7:36もちろん違いません
-
7:37 - 7:38まったく同じ事象です
-
7:38 - 7:41でも Googleは片方には介入し
他方にはしませんでした -
7:41 - 7:42なぜでしょう
-
7:43 - 7:47それはミシェル・オバマが
尊敬に値する人物である一方 -
7:47 - 7:50アンネシュ・ベーリン・ブレイヴィークが
卑劣な人間だからです -
7:50 - 7:52ご覧いただいたとおり
-
7:52 - 7:55ここには 人に対する評価が介在しています
-
7:55 - 7:59世界には
重要人物を決める権力を持つ― -
7:59 - 8:01唯一の権力者がいるのです
-
8:02 - 8:04「君は好き 君は嫌い
-
8:04 - 8:06君は信じる 君は信じない
-
8:06 - 8:08君は正しい 君は間違っている
君は真実 君は嘘 -
8:08 - 8:10君はオバマで 君はブレイヴィーク」
-
8:11 - 8:13これが力というものです
-
8:15 - 8:19ですから覚えておいてください
どんなアルゴリズムでも -
8:19 - 8:21その後ろには 必ず人間がいるんです
-
8:21 - 8:23人間は それぞれ価値観を持っていて
プログラムで -
8:23 - 8:26その影響を
完全に消し去ることはできません -
8:26 - 8:28私はこのメッセージを
Googleだけではなく -
8:28 - 8:31プログラムに信頼を寄せる
世界中のすべての人に伝えたい -
8:31 - 8:34自らの偏見をしっかり認識し
-
8:34 - 8:36人間であることを自覚し
-
8:36 - 8:39責任を持たなければいけません
-
8:40 - 8:43このことを伝えたいのは
結束を今一度 -
8:43 - 8:44強くしなければいけない
-
8:44 - 8:48そんなときが来ていると
信じているからです -
8:48 - 8:50人類と技術のつながり
-
8:50 - 8:52この結束を 今以上に強くするのです
-
8:52 - 8:56少なくとも
心地よい魅惑的に聞こえる― -
8:56 - 8:58公正で きれいな検索結果というものは
-
8:58 - 9:01神話に過ぎず これからもそうだと
心に留めるべきです -
9:02 - 9:03ありがとうございました
-
9:03 - 9:06(拍手)
- Title:
- インターネット検索結果に隠れた道徳的価値観
- Speaker:
- アンドレアス・エクストローム
- Description:
-
検索エンジンは、今や最も信頼できる情報源、そして真実の拠り所となりました。でも、公正な検索結果は存在しうるのでしょうか? スウェーデンの文筆家でジャーナリストのアンドレアス・エクストロームは、そのようなものは哲学的にありえないと言います。この示唆に富んだトークで、彼は技術と人類との結びつきを強めるよう呼びかけます。そして、アルゴリズムには人間の価値観が反映されており、どんなプログラムをもってしても、それを消し去ることはできないことを心に留めておくべきだと訴えます。
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 09:18
Yuko Yoshida approved Japanese subtitles for The moral bias behind your search results | ||
Yuko Yoshida edited Japanese subtitles for The moral bias behind your search results | ||
Yuko Yoshida edited Japanese subtitles for The moral bias behind your search results | ||
Yuko Yoshida edited Japanese subtitles for The moral bias behind your search results | ||
Masako Kigami accepted Japanese subtitles for The moral bias behind your search results | ||
Masako Kigami edited Japanese subtitles for The moral bias behind your search results | ||
Masako Kigami edited Japanese subtitles for The moral bias behind your search results | ||
Masako Kigami edited Japanese subtitles for The moral bias behind your search results |