ツイッターが必要としている変革

Twitter（ツイッター）を救うことはできるのか？ TEDのクリス・アンダーソンとウィットニー・ペニントン・ロジャースとともに多岐にわたる話をする中で、Twitterの最高経営責任者であるジャック・ドーシーが、Twitterの未来について語ります。彼は嫌がらせ行為とその調停というTwitterが抱える問題を認めつつ、健全かつ互いを尊重し合う対話を促すような抜本的な変革を提案します。「Twitterは人々が日々価値を見いだせるようなものを提供できているのだろうか？」とドーシーは自問します。

（クリス・アンダーソン）
どんな懸念がありますか？

Twitterの抱える問題について
あなたはオープンに話してますが

現状に関して

１番の懸念は何ですか？

（ジャック・ドーシー）
現在は 対話の健全性です

私たちの目的は
公共の場での対話に寄与することですが

そこでたくさん攻撃を
目にしています

誹謗中傷や嫌がらせ行為

情報操作もあります

機械によるもの 組織的活動
誤った情報もありました

こうした動きの数々は
13年前に起業したときには

予想していなかった事柄です

しかし それが
規模を増しています

１番の懸念は
我々がそういった問題に対し

大きな規模で体系的に
対処できるかということで

取り組みへの深い理解―

取り組みについての
クリアな理解と

過ちが起きた際の
厳格な是正手続きが必要です

過ちは起きるものですから

（ウィットニー・ペニントン・ロジャース）
懸念されていると聞けて

うれしく思います

これまでに多くの人々が

Twitter で誹謗中傷や
嫌がらせを受けており

女性や 有色人種の女性
黒人女性は特にそうです

データにも示されています

アムネスティ・インターナショナルの
数か月前の報告では

黒人女性の活発なユーザーの一部が
受け取るツイートの

平均１割が何らかの
ハラスメントだということでした

だから Twitter コミュニティの
健全性について—

「すべての人にとっての健全さ」について
伺いたいものですが

具体的には 女性や有色人種の女性
黒人女性のグループについて

Twitterをどう安全な場に
変えていくのですか？

（ジャック）そうですね

かなりひどい状況ですよね

何かのサービスを利用していて

理想的には 世界について
何か学びたいのに

ほとんどの時間を
誹謗中傷や嫌がらせを受け

その報告に費やしているなんて

今 最も深く掘り下げているのは
プラットフォームとサービスが

自然に生み出す
動機そのものについてです

現在は サービスを通じて
他者に誹謗中傷をしたり

嫌がらせ行為をしたりするのが
非常に容易なシステムになっています

残念ながら
これまでのシステムはもっぱら

人々が嫌がらせや誹謗中傷を
報告してくれるのに頼っていました

なので 昨年の中頃に
もっと機械学習を使おう

この問題に深層学習を
適用しようと決め

誹謗中傷が起きる場で
もっと積極的な対策を講じようとしています

被害者の負担を
完全になくすのが目的です

最近 進歩も見られました

約38%の誹謗中傷ツイートが
機械学習アルゴリズムで

自動的に検出されるようになり

報告する必要がなくなりました

しかし 検出されたものは
人の目で確認しており

人による確認なしに
内容やアカウントの凍結はしていません

とはいえ １年前の０%からは
進歩でしょう

つまり ０%であったときは

誹謗中傷を受けた人が
皆 報告する必要があり

当事者にとっても
私たちにとっても大きな負担で

非常に不公平だったのです

もうひとつの取り組みは
企業として

あらゆるコミュニティが
参画できるよう努めることです

ビジネスを成功に導くには

こうした問題を
日々実感している人々の

多様な視点を
内部に持たねばなりません

作業をしているチームだけではなく

上層部についても そうです

人々の経験に対して
共感を高め続ける必要があるし

行動を起こすのに役立つツールを
提供する必要があります

ユーザーが目にしているものに
もっとうまく容易に対処できる方法を

提供する必要もあります

ですから 技術面での取り組みが
多いですが

サービスが人々に与える
動機についても考えています

Twitter を開いたときに
何をしたいと思わせるのか？

過去には

怒りや 群衆行動
集団的嫌がらせも

多く誘発していました

大きな変革をするには

サービスが何をしているのか本質的なことを
深く理解する必要があります

先ほど言った通り 技術面で
小さな変更は多くできますが

最終的には ネットワークそのものの
力学を深く理解する必要があり

それが今取り組んでいることです

（クリス）ですが 実感としては―

実際に人々の行動を
根本的に変えるために

どんなことができると
思いますか？

（ジャック）始めた当初は

このサービスの基本に
「アカウントのフォロー」がありました

これは ひとつの例ですが

でもそれは 人々がTwitterを使う
理由ではないと思うんです

Twitter は関心に基づいた
ネットワークとして優れています

特定の関心を持って
利用されているんです

今は各自の関心に関係のあるアカウントを
探してフォローして回るのに

手間がかかります

そうではなく
関心をフォローしたり

ハッシュタグやトレンドや
コミュニティを

フォローするようにするのです

そうすれば特定の話題や関心に
関係するアカウントや

トピックや「モーメント」や
ハッシュタグなどを

すべて表示することが
できるようになり

目に入ってくる視野が
大きく広がります

とはいえ アカウント中心から

トピックや関心を中心にするよう
ネットワーク全体を移行するのは

大々的で根本的な変更です

（クリス）それほどまでに

コンテンツが
豊富である理由のひとつは

世界中の何百万人もの人々に

フォロワーや注目の争奪戦を
させたからではありませんか？

Twitter で情報を得るだけの人には
その変更は

問題ないでしょうが

コンテンツを生み出す人々は
皆 こう考えていますよね

「いいねや フォロワーや
リツイートをもっと増やしたい！」と

彼らは それを実現しようと

試行錯誤しています

そして１番効果的だと
分かったのは

少し挑発的になったり

不快なことを言い立てたりすることです

声高な侮辱は Twitter で
注目されます

すごい速さで反応が来ますから

炎上を自ら招く手法が
できてしまうわけです

それには どう対処しますか？

（ジャック）ええ その通りで

それは動機の話に戻ります

初期に下した選択のひとつに

フォロワーの数を表示する
というものがあります

その数字を大きい太字で
表示することにしました

大きく太字で表示されているものは
重要なわけで

もっと上を目指そうとします

当時として正しい判断だったか？

違うかもしれません

サービスを最初から
作り直すなら

フォロワー数は
そこまで強調しないと思います

「いいね」の数も強調しません

「いいね」をする機能を
そもそも作りませんね

現在 最も重要だと考えていることを

後押しはしてくれませんから

ネットワークに健全な貢献をしたり

ネットワークに対話をもたらしたり

対話への参加を促したり

対話から何かを学ぶことには
つながりません

こうしたことを 13年前には
考えていませんでしたが

今は非常に重要だと思っています

ですから フォロワー数を
どう表示するか

リツイート数や「いいね」を

どう表示するかを考え

深く問いかけねばなりません

本当にこの数字を
追求させたいのか？

Twitter を開いたときに

「この数字を増やそう」と
思わせたいのか？

今は そうではないと思います

（拍手）

（ウィットニー）ここで客席からのツイートも

少し見てみましょうか

（クリス）皆さんの質問を見ましょう

これは Twitter の
素晴らしい点のひとつですね

みんなの知恵を借りて

想像しないほど多くの
知識や問いや視点を活用でき

その多くはとても
健全なものです

（ウィットニー）今 流れていきましたが

「2020年の米大統領選挙で
外国の介入にどう対処するのか？」

インターネットで一般的に

多く見られる問題ですね

自動化された悪意ある活動が
多く見られます

たとえば Twitter については

Zignal Lab による
調査結果が手元にありますが

今 お話ししていることの

良い例として見てみましょう

「ボット」というか

組織的な悪意ある
自動化されたアカウントが

選挙などを左右するのに
使われたりしています

Zignal Lab 提供の
こちらの例は

Twitter から抽出した
データを使っていますが

ここから実際に分かるのは—

ひとつひとつの点がアカウントで
白が人間のユーザーで

赤みが強いものほど

自動化傾向の強いアカウントです

ボットと関わっている人間のユーザーが
いくらか見られます

このケースは
イスラエルの選挙に関連したもので

ベニー・ガンツに関する
虚偽の情報が広められています

ご存じの通り
最終的に選挙結果は

ネタニヤフが僅差で
勝利しましたが

これに影響された部分も
あるかもしれません

Twitter 上の こうした活動について

具体的には 何をされていますか？

虚偽の情報がいたずらに広まり
人々に影響して

民主主義を左右しないように
何をしていますか？

（ジャック）少し補足しますが

私たちも自問しました

実際に対話の健全性を
測ることはできるのか？

それがどういうことなのか？

自分が健康かを測る上で

体温や顔色などの尺度を

人間として持っているのと
同じように

対話の健全性についても
尺度を見いだせると思います

MIT の Cortico という
ラボと共同して

手始めに４つの指標案を出しました

最終的には システム上で
測れるものだと思います

１つめは「関心の共有度」です

ある対話において
どれほどが同じ話題に

収斂しているかどうかを測ります

２つめは「事実の共有度」です

これは ある対話において
同じ事実を

共有している割合を測ります

その事実が真実かどうかではなく

対話において 同じ事実が
共有されているかどうかです

３つめは「受容性」です

ある対話のどれほどが
受容的かつ礼儀にかなったものか

あるいは逆に不快なものかを測ります

４つめは「視点の多様性」です

フィルターバブルや
エコーチェンバー現象が起きているか

それとも 対話において
様々な意見が見られるかを測ります

この４つに共通するのは
それが大きいほどに

対話がより健全なものになる
ということです

第一歩はこれらをその場で
測れるかを試すことですが

できると思います

「受容性」について
特に力を入れています

不快度のモデルを
システム上に構築していて

不快であるとの理由から
Twitter 上での対話から

立ち去る可能性を

実際に測定できます

かなりの精度です

その他についても取り組んでおり

次の段階は

解決策を講じるとともに

これらの指標が時の経過とともに
どう変化するかを観察し

実験を続けることです

目標はこれらをバランスよく
運用することです

どれかを増やすと
他が減少することもあるでしょう

「視点の多様性」を上げることで

「事実の共有度」が下がる
かもしれません

（クリス）多く寄せられた質問に
言及しますね

（ジャック）質問攻めですね

（クリス）多くの人が
疑問に思っているのは

Twitter からネオナチを駆逐するのが
どれだけ難しいのかということです

（ジャック）（笑）

暴力的な過激派集団に対する
方針があります

私たちの仕事や
サービス規約のほとんどは

コンテンツではなく
行動を対象にしています

ですから 行動に着目しています

つまり サービスを通じて

繰り返し あるいは散発的に
嫌がらせ行為をしたり

KKK やアメリカ・ナチ党に
関連するような―

不愉快な画像を使ったり
といったことです

そういったものには
即 対処します

現状では この規約は
緩やかに運用されていて

誰かを責めるのに
そういう言葉を

ひと言使ったからといって

プラットフォームから
除外することはしません

ですから 私たちのモデルが
基づいているのは まず

暴力的な過激派集団に
関連するアカウントかどうか？

そうであれば 対処します

KKK やアメリカ・ナチ党などについては
すでにそうしています

２点目としては そういった団体に
関連付けられるような―

画像の使用や行動を
しているかどうかです

（クリス）コンテンツ・モデレーションには
何人くらい関わっていますか？

（ジャック）色々ですね

フレキシブルにしたいんです

まず 人員をたくさん
雇い入れるのではなく

アルゴリズムを構築したいと
思っているからです

大規模に行えなければ
いけませんし

人海戦術では
追いつきません

ですから 誹謗中傷を自動検出して
人がそれを確認できるよう

努力してきました

望ましい状況は

アルゴリズムに常時
ツイートを精査させて

最も注意を引くものを
トップに表示させることで

利用規約に基づいて
除去するかどうかを

人が判断できるというものです

（ウィットニー）問題の規模に
人手では対応できないとのことですが

アカウントの監視は
現在何人がしているんですか？

それが十分であるかを
決める方法は何ですか？

（ジャック）まったくフレキシブルです

スパムの対処を
してもらうこともありますし

誹謗中傷や嫌がらせ行為に
対処してもらうこともあります

人員について柔軟性を保つことで

最も必要なことに
従事してもらえます

選挙であることもあります

メキシコで一連の選挙があり
今度インドでもあります

もちろん 昨年の
米国中間選挙もありましたね

だから 人員については
柔軟にしたいと思っています

誰かが―

たとえばですが
現在の利用規約にアクセスし

ページを開いて

今受けたばかりの
嫌がらせ行為について

利用規約に反していると
報告できるかと調べるとします

ページを開いて
まず目に入るのは

知的財産権についてです

下にスクロールしていくと
誹謗中傷や嫌がらせ行為など

他の事柄について書かれています

うちの企業史で いつそうなったかは
定かではないですが

人々が最も情報を求めていて
行動を望んでいるものよりも上に

そういうのがきています

その順序自体が 何を重んじているかを
世界に示してしまっています

ですから 変えようと思っています

順序をあるべきものに変えて

ルールも簡潔にして
普通に読んで分かるものにします

規約違反かどうかを 利用者が
実際に理解できるようにしたいのです

それから取り組んでいるのは―

被害者の負担を取り除くよう
注力するということです

もっとテクノロジーの
裁量を増やして

人間の作業を減らします

誹謗中傷を受けた人の負担も

検証する人の負担も
減らすということです

努力しているのは

非常にネガティブなものに対する

対処を進めるだけでなく

テクノロジーと
人間が創造性を発揮できる場の

バランスをうまく取るということです

ただ違反を見つけて報告する
機械的な部分だけでなく

規則に基づいて
判断するという部分でも

そう考えています

（クリス）今の発言を
掘り下げたいのですが

システムの基本デザインを
見直すための方法を

探っているのは
とても良いことだと思います

反射的な行動を
やめさせたり あるいは―

トリスタン・ハリス風に言えば

人々の内省的な思考に
訴えるということでしょうか

それはどこまで進んでいますか？

「いいね」に代わるものは
何になるのでしょう？

（ジャック）そうですね
まず何よりも

このサービスについての
個人的な目標であり

私が信じていることは
公共の場での対話の重要性です

世界が直面している
人間の存在に関わる問題―

特定の国だけでなく
世界全体が直面している問題には

公共の場での議論に
利するものがあります

Twitter 独特の力強さのひとつは

完全にオープンで

完全に公に開かれていて

完全に流動的なことです

誰でも あらゆる対話を目にでき
参加することができます

気候変動に関する話題もあるでしょう

人工知能によって
労働力が代替されることに関する

話題もあるでしょう

経済格差に関する話題もあります

ひとつの国家が何をしようが

単独では解決し得ない問題です

世界全体での協力が必要ですし

Twitter はそれに
役立てると思います

２つめは 現状では
Twitter にアクセスしても

何かを学んだとは 必ずしも
感じないということです

学んでいる人もいます

中には 非常に
豊かなネットワークを持っていて

日々学びを得ている人もいると思います

しかし その段階に到達するには
手間も時間もかかります

ですから 人々がそういう
トピックや関心事項にもっと早く

到達できるようにしたいのです

それから 人々が必ず何かを
見付けられるようにしたい

どれだけの時間を
Twitter 上で過ごすにせよ―

利用時間を
最大化したいのではなく

そこから得られるもの—
そこから学べるものを

最大化したいんです

（クリス）本当ですか？

多くの人が聞きたい
核心的な問いはそこなんです

「ジャック いろいろ制約が
あるのは分かる

公開企業であるわけだし

出資者のプレッシャーもあるだろう

最大の収入源は広告であって

ユーザーの利用度合いに
依存してもいる

本当に 必要とあれば
ユーザーの利用時間を失ってでも

内省的な対話を促そうと
考えているのか？」と

（ジャック）関連性を高めると
利用時間が減るというなら

それはそれで構いません

Twitter を利用したときに
すぐに何かを学べて

追求できるものが
見つかるようにしたいと思いますし

それに広告をつけることはできます

広告を見てもらうために
長くいてもらう必要はありません

２つめの取り組みは―

（クリス）１日あたりの
利用についてですが

それがそのまま
人々が価値を見いだしている内容の

量であるとは限りません

おそらくは

火に集まる蛾のように 引き寄せられただけ
ということもあるでしょう

中毒的になって
腹が立つ内容を目にして

火にさらに油を注ぐことをします

すると １日あたりの利用が増えて

広告料はもっと入ってきますが

皆 お互いに対して
もっと腹を立てるばかりです

どう定義するんですか？

「１日あたりの利用」は最適化するには
非常に危険なものだと思いますよ

（拍手）

（ジャック）単独では そうです

もうひとつの指標について
まだお話ししていません

対話や関連する一連のツイートにも
注目しています

ネットワークに健全な貢献が
自発的にされるよう促したいんです

それは 先程お話しした
４つの指標で定義されるような

健全な対話に参加する
ということだと考えています

１つの指標についてだけ
最適化はできません

バランスを取って
常に見守る必要があります

ネットワークへの健全な貢献や
健全な体験を生み出すのは何であるかを

最終的には 人々が

「Twitter から何かを学んで
価値のある経験をした」と

思えるための指標を
目指しています

それが最終的な目標ですが

時間はかかるでしょう

（クリス）多くの人は あなたを
謎めいていると思っていると思います

ちょっとひどいかもしれませんが
先日夜にふと目覚めて

あなたを取り巻く状況を
こんな風にイメージしたんです

私たちはあなたと一緒に
客船「ツイッタニック」号に乗っていて―

（笑）

三等船室の乗客たちが

不安を表明していると

あなたは 他の船長とは違って

「教えてくれ 話をしよう
君たちの話を聞きたい」と言う

人々が「前方にある氷山が
気がかりなんだ」と告げると

あなたは「非常に良い指摘だ

この船は 正直に言って
うまく操舵できるように

作られてはいない」と言う

「どうにかしてくれ」と言うと

あなたは船橋に行くが

みんな やきもきして待っているのに

あなたは やたらに落ちついた様子で

私たちは外から「頼むから
舵を切ってくれ！」と叫んでいる—

わかりますか？

（笑）

（拍手）

つまり―

（拍手）

危険にさらされているのは
民主主義であり

私たちの文化であり 世界なんです

Twitter は素晴らしいもので
役立ってもいます

他のプラットフォームに比べれば
小さくても

影響力のある人々が
方向を示すのに使っています

これ以上に世界で重要な役割は
ないと思います―

あなたは 人々の言葉に
耳を傾けていて素晴らしいけれど―

実際に緊急性をもって
物事を実行するという重要な役割を

あなたは実行するんですか？

（ジャック）ええ 大きな行動を
起こしています

Twitter の歴史には
いくつか転換点がありました

私が会社に復帰したとき

将来の見通しは
かなり悲惨なものでした

プラットフォームの
利用のされ方だけでなく

企業のあり方としてもです

ですから 企業としての
基礎を修正して

方向転換をしました

２度 大規模なリストラもしました

企業として大きくなりすぎていたんです

それから 全エネルギーを

公共の場での対話に役立つという
理念に向けました

努力も必要でした

実際に深く取り組んでみて

根本的な部分の問題にも
気づきました

今 話に出たことに対処するため
表層的なことは色々できても

変化は持続するもので
なければなりません

だからこそ 深く掘り下げて

13年前に始めたことに
しっかり目を向けて

問いかけなければなりません

システムや枠組みが
どう機能しているのか

また 物事も利用の仕方も
どんどん変わっていく中で

現在の世界は
何を必要としているのか

できるだけ迅速に対応していますが
迅速さだけでは成し遂げられません

重点の置き方や
優先順位も重要ですし

このネットワークの本質を理解し

規模の大きさや変化に
柔軟に対応できる枠組みを

構築しなければなりません

現状についてオープン
かつ透明性を保って

信頼を得ることも必要です

実現にこぎつけた枠組みについては
誇りに思っていますし

方向性についても そうです

もっと速く前進もできるでしょうが

過去のばかげた過ちの数々を
止めねばなりませんでしたので

（クリス）なるほど

この場にいる多く人が
機会さえあれば

変革へのアジェンダについて
手助けしたいと思っているでしょう

ウィットニーもそうでしょう

ジャック 登壇してオープンに
語ってくれてありがとう

勇気が要ったと思います

非常に良いことを言ってくれました
うまくいくことを願っています

（ジャック）ありがとうございました

（拍手）

ありがとう