Return to Video

インターネット検索結果に隠れた道徳的価値観

  • 0:01 - 0:04
    学校で生徒たちに話す機会があると
  • 0:04 - 0:06
    必ず聞くことがあります
  • 0:07 - 0:08
    「なぜGoogle検索するの？
  • 0:09 - 0:12
    なぜ検索エンジンにGoogleしか選ばないの？」
  • 0:13 - 0:15
    不思議と 返ってくる答えは
    決まってこの３つです
  • 0:15 - 0:17
    １つ目は「うまく検索できるから」
  • 0:17 - 0:20
    ご名答です
    私も同じ理由でGoogleを使っています
  • 0:20 - 0:22
    ２つ目は―
  • 0:22 - 0:25
    「ほかの検索エンジンを知らないから」
  • 0:26 - 0:29
    ちょっと惜しい
    たいてい 私はこう返します
  • 0:29 - 0:31
    「Googleで『検索エンジン』を
  • 0:31 - 0:33
    検索してごらん
    ほかにも面白いのがあるよ」
  • 0:33 - 0:35
    そして トリとなる３つ目です
  • 0:35 - 0:39
    必ず 手を挙げて
    満を持して言う子がいるんです
  • 0:39 - 0:44
    「Googleを使うと 絶対に
    常に最高で公正な検索結果が得られるから」
  • 0:45 - 0:52
    絶対に 常に最高で公正な
    検索結果が得られる―
  • 0:53 - 0:55
    これを耳にするたび
    デジタル世代とはいえ
  • 0:56 - 0:58
    人類のひとりとして
  • 0:58 - 0:59
    虫唾（むしず）が走ります
  • 0:59 - 1:04
    みんながGoogleを愛し
    大事にしているからこそ
  • 1:04 - 1:08
    「公正な検索結果」と信じ 考えるのだと
    わかっていてもです
  • 1:09 - 1:13
    公正な結果など 哲学的にほぼありえません
    なぜかご説明しましょう
  • 1:13 - 1:16
    でも まず検索の基本原理について
    少しだけお話しさせてください
  • 1:16 - 1:19
    みんな 忘れてしまいがちなことです
  • 1:20 - 1:22
    Googleで何かを検索するとき
  • 1:22 - 1:26
    まず考えるべきは
    「個別の事実を知りたいのか？」
  • 1:26 - 1:29
    フランスの首都はどこか
  • 1:30 - 1:32
    水分子の構成元素は何か
    といったものです
  • 1:32 - 1:34
    この場合は
    ぜひGoogle検索しましょう
  • 1:34 - 1:37
    科学者といえども
    答えは「ロンドン」と「H30」だなんて
  • 1:37 - 1:39
    証明できやしませんから
  • 1:39 - 1:42
    ここに何の陰謀もありません
  • 1:42 - 1:43
    こうした個別の事実については
  • 1:43 - 1:46
    世界全体で 答えが何か
    一致しているのです
  • 1:46 - 1:52
    でも 質問をほんの少し複雑にして
    こんな風にしたらどうでしょう
  • 1:52 - 1:54
    「なぜパレスチナ問題が起こっているのか？」
  • 1:55 - 1:58
    もはや 求めているのは
    ただ一つの「事実」ではなく
  • 1:58 - 1:59
    「知識」ということになります
  • 1:59 - 2:02
    知識は はるかに複雑で繊細なものです
  • 2:03 - 2:04
    そうした知識を得るには
  • 2:04 - 2:07
    10 、20 または100の事実を集め
    自分のものにし
  • 2:07 - 2:10
    「これらは すべて真実だ」と
    言えないといけません
  • 2:10 - 2:12
    でも ひとは
  • 2:12 - 2:14
    年齢や人種、性的趣向に関わらず
  • 2:14 - 2:16
    違う価値観を持っています
  • 2:16 - 2:18
    ですから「確かに これは真実だけど
  • 2:18 - 2:20
    こっちのほうが重要だ」となります
  • 2:20 - 2:22
    ここからが面白いのです
  • 2:22 - 2:24
    私たちが人間らしさを発揮するからです
  • 2:24 - 2:27
    私たちは互いに議論し
    社会を形成し始めます
  • 2:27 - 2:30
    本当に答えを出すには
    まず事実をすべて ふるいにかけます
  • 2:30 - 2:33
    友だちやご近所さん
    両親、子どもたち、同僚
  • 2:33 - 2:35
    そして新聞や雑誌を通じて
    ふるいにかけ
  • 2:35 - 2:38
    真の知識にたどりつくのです
  • 2:38 - 2:42
    ここで検索エンジンは
    あまり役に立ちません
  • 2:43 - 2:50
    さきほど 真に純粋で客観的な知識を
    手にするのが なぜ難しいか
  • 2:50 - 2:53
    例をお見せするとお話ししました
  • 2:53 - 2:55
    皆さんにお考えいただきましょう
  • 2:55 - 2:58
    まず いくつか簡単な検索をしてみます
  • 2:58 - 3:03
    まずは「ミシェル・オバマ」
  • 3:03 - 3:04
    アメリカのファーストレディです
  • 3:04 - 3:06
    「画像」をクリックします
  • 3:07 - 3:09
    ご覧のとおり うまく行っていますね
  • 3:09 - 3:12
    まあ 完ぺきな検索結果です
  • 3:12 - 3:15
    写真には ミシェル一人だけ
    大統領さえいません
  • 3:16 - 3:17
    どうなっているんでしょう
  • 3:18 - 3:19
    とてもシンプルです
  • 3:19 - 3:22
    Googleは 色々頭を使っていますが
    簡単に言うと
  • 3:22 - 3:25
    ２つのことに着目しています
  • 3:25 - 3:30
    １つは 各ウェブサイトの写真の下にある
    キャプションの内容です
  • 3:30 - 3:32
    写真の下に「ミシェル・オバマ」とあれば
  • 3:32 - 3:34
    彼女の写真の可能性が高いですね
  • 3:34 - 3:37
    つぎにGoogleが見るのは
    写真ファイル
  • 3:37 - 3:40
    ウェブサイトにアップロードされた
    ファイルの名前です
  • 3:40 - 3:42
    「MichellObama.jpeg」というファイルなら
  • 3:43 - 3:46
    クリント・イーストウッドの写真
    ということはないでしょう
  • 3:46 - 3:50
    この２つを手がかりにすると
    こんな検索結果になるんです―普通は
  • 3:50 - 3:57
    さて2009年 ミシェル・オバマに
    人種差別攻撃の矛先が向きました
  • 3:57 - 4:01
    検索結果を通じて侮辱されたのです
  • 4:01 - 4:04
    ある写真がばらまかれ
    インターネットを席巻します
  • 4:04 - 4:07
    彼女の顔が サルのように
    ゆがめられた写真です
  • 4:07 - 4:10
    写真は インターネット上の
    あらゆるところに掲載されました
  • 4:10 - 4:14
    しかも 検索結果の上位に表示されるよう
  • 4:14 - 4:16
    非常に意図的な形でネット掲載されました
  • 4:16 - 4:19
    キャプションには必ず
    「ミシェル・オバマ」と書かれ
  • 4:19 - 4:23
    ファイル名も
    「MichelleObama.jpeg」などとされたのです
  • 4:23 - 4:25
    そう 検索結果を操作するためです
  • 4:25 - 4:27
    確かに それは成功し
  • 4:27 - 4:29
    Googleで「ミシェル・オバマ」を
    画像検索すると
  • 4:29 - 4:33
    2009年当時 サル顔に変形された写真が
    結果上位に表示されました
  • 4:33 - 4:36
    さて 検索結果には自浄作用があります
  • 4:36 - 4:38
    そこが素晴らしいところでもあり
  • 4:38 - 4:42
    Googleは 毎日 毎時間
    関連度を測っているのです
  • 4:42 - 4:44
    でも このときGoogleは
    黙ってはいませんでした
  • 4:44 - 4:47
    「これは人種差別的で
    悪い検索結果だから
  • 4:48 - 4:51
    自らの手で きれいにしないといけない
  • 4:51 - 4:54
    プログラムを書いて修正するんだ」と考え
  • 4:54 - 4:55
    実際にそうしました
  • 4:55 - 4:59
    皆さんのなかで これが悪いことと
    思う方はいないでしょう
  • 5:00 - 5:01
    私も そう思いません
  • 5:03 - 5:06
    それから２年ほどして
  • 5:06 - 5:09
    世界で最もGoogle検索されたアンネシュ
  • 5:09 - 5:11
    アンネシュ・ベーリン・ブレイヴィークは
  • 5:11 - 5:13
    こんなことをしました
  • 5:13 - 5:15
    2011年7月22日
  • 5:15 - 5:18
    ノルウェー史上 悲惨な日となったこの日
  • 5:18 - 5:21
    この男―テロリストは
    政府庁舎を爆破しました
  • 5:21 - 5:24
    ここ ノルウェー・オスロの会場から
    徒歩圏内の場所です
  • 5:24 - 5:26
    その後 彼はウトヤ島に渡り
  • 5:26 - 5:29
    子どもたちを銃撃し殺しました
  • 5:29 - 5:31
    その日 80人近くの命が失われました
  • 5:32 - 5:37
    多くの場合 このテロ行為には
    ２つの段階があったと語られます
  • 5:37 - 5:40
    つまり 建物爆破と 子どもの銃殺
    という２つの段階です
  • 5:40 - 5:42
    実は違うのです
  • 5:42 - 5:44
    ３つの段階があったんです
  • 5:44 - 5:47
    彼は建物を爆破し
    子どもたちを銃殺し
  • 5:47 - 5:50
    そして世界が彼を
    Google検索するのを待ったのです
  • 5:51 - 5:54
    彼は この３つの段階すべてを
    周到に準備していました
  • 5:55 - 5:57
    彼の意図をすぐに見破ったのが
  • 5:57 - 5:59
    スウェーデンのウェブ開発者で
  • 5:59 - 6:03
    検索エンジン適正化の専門家
    ストックホルムのニック・リンドクヴィストです
  • 6:03 - 6:04
    自らも非常に政治的なニックは
  • 6:04 - 6:07
    ブログやFacebookなど
    ソーシャルメディアを通じて
  • 6:07 - 6:09
    みんなに訴えかけました
  • 6:09 - 6:11
    「こいつが今ほしいものがあるとしたら
  • 6:11 - 6:14
    自分のイメージをコントロールすることだ
  • 6:15 - 6:17
    みんなで それを崩そうじゃないか
  • 6:17 - 6:21
    文明社会のみんなの力をあわせて
    彼の行為に対して抗議するんだ
  • 6:21 - 6:25
    検索結果を通して彼を侮辱するんだ」
  • 6:25 - 6:26
    でも どうやって？
  • 6:27 - 6:29
    彼は以下のことをするよう呼びかけました
  • 6:29 - 6:31
    インターネットで
  • 6:31 - 6:34
    道端の犬のフンの写真を探し―
  • 6:35 - 6:37
    道端の犬のフンの写真を探し―
  • 6:37 - 6:40
    それをフィードやウェブサイト
    ブログに掲載するのです
  • 6:40 - 6:43
    そのとき必ず
    キャプションにはテロリストの名前を書き
  • 6:43 - 6:48
    ファイル名を「Breivik.jpeg」とするのです
  • 6:48 - 6:52
    Googleに これがテロリストの顔だと
    教えるのです
  • 6:54 - 6:55
    効果てき面でした
  • 6:56 - 6:59
    ミシェル・オバマ事件の２年後
  • 6:59 - 7:02
    アンネシュ・ベーリン・ブレイヴィークの
    検索結果が操作されました
  • 7:02 - 7:07
    7月22日事件以降の数週間
    スウェーデンから彼をGoogleで画像検索すると
  • 7:07 - 7:11
    検索結果の上位に犬のフンの写真が
    表示されるに至りました
  • 7:11 - 7:12
    小さな抗議行動です
  • 7:13 - 7:18
    奇妙なことに このとき
    Googleは介入しませんでした
  • 7:18 - 7:23
    人為的に検索結果をきれいにしようとは
    しなかったのです
  • 7:24 - 7:26
    さて ここで難しい質問です
  • 7:26 - 7:29
    これら２つの現象は何が違うんでしょうか？
  • 7:29 - 7:32
    ミシェル・オバマに起こったことと
  • 7:32 - 7:34
    アンネシュに起こったことは違いますか？
  • 7:34 - 7:36
    もちろん違いません
  • 7:37 - 7:38
    まったく同じ事象です
  • 7:38 - 7:41
    でも Googleは片方には介入し
    他方にはしませんでした
  • 7:41 - 7:42
    なぜでしょう
  • 7:43 - 7:47
    それはミシェル・オバマが
    尊敬に値する人物である一方
  • 7:47 - 7:50
    アンネシュ・ベーリン・ブレイヴィークが
    卑劣な人間だからです
  • 7:50 - 7:52
    ご覧いただいたとおり
  • 7:52 - 7:55
    ここには 人に対する評価が介在しています
  • 7:55 - 7:59
    世界には
    重要人物を決める権力を持つ―
  • 7:59 - 8:01
    唯一の権力者がいるのです
  • 8:02 - 8:04
    「君は好き 君は嫌い
  • 8:04 - 8:06
    君は信じる 君は信じない
  • 8:06 - 8:08
    君は正しい 君は間違っている
    君は真実 君は嘘
  • 8:08 - 8:10
    君はオバマで 君はブレイヴィーク」
  • 8:11 - 8:13
    これが力というものです
  • 8:15 - 8:19
    ですから覚えておいてください
    どんなアルゴリズムでも
  • 8:19 - 8:21
    その後ろには 必ず人間がいるんです
  • 8:21 - 8:23
    人間は それぞれ価値観を持っていて
    プログラムで
  • 8:23 - 8:26
    その影響を
    完全に消し去ることはできません
  • 8:26 - 8:28
    私はこのメッセージを
    Googleだけではなく
  • 8:28 - 8:31
    プログラムに信頼を寄せる
    世界中のすべての人に伝えたい
  • 8:31 - 8:34
    自らの偏見をしっかり認識し
  • 8:34 - 8:36
    人間であることを自覚し
  • 8:36 - 8:39
    責任を持たなければいけません
  • 8:40 - 8:43
    このことを伝えたいのは
    結束を今一度
  • 8:43 - 8:44
    強くしなければいけない
  • 8:44 - 8:48
    そんなときが来ていると
    信じているからです
  • 8:48 - 8:50
    人類と技術のつながり
  • 8:50 - 8:52
    この結束を 今以上に強くするのです
  • 8:52 - 8:56
    少なくとも
    心地よい魅惑的に聞こえる―
  • 8:56 - 8:58
    公正で きれいな検索結果というものは
  • 8:58 - 9:01
    神話に過ぎず これからもそうだと
    心に留めるべきです
  • 9:02 - 9:03
    ありがとうございました
  • 9:03 - 9:06
    （拍手）
Title:
インターネット検索結果に隠れた道徳的価値観
Speaker:
アンドレアス・エクストローム
Description:

検索エンジンは、今や最も信頼できる情報源、そして真実の拠り所となりました。でも、公正な検索結果は存在しうるのでしょうか？ スウェーデンの文筆家でジャーナリストのアンドレアス・エクストロームは、そのようなものは哲学的にありえないと言います。この示唆に富んだトークで、彼は技術と人類との結びつきを強めるよう呼びかけます。そして、アルゴリズムには人間の価値観が反映されており、どんなプログラムをもってしても、それを消し去ることはできないことを心に留めておくべきだと訴えます。
more » « less
Video Language:
English
Team:
closed TED
Project:
TEDTalks
Duration:
09:18

Japanese subtitles

Revisions

Our website uses cookies for analysis purposes.