私はGoogleで 機械知能に取り組む 開発チームを率いています
機械知能とは コンピューターや いろいろな種類の端末に
人間の脳のような機能を 持たせるための技術です
仕事上 私たちは 人間の脳の働きや
神経科学に関心があり
脳が未だコンピューターより はるかに優れている領域に
特に興味を持っています
そのような領域として 古くから認識されていたのは 知覚です
知覚とは 外界に存在するもの―
つまり 音や映像のようなものを
心の中の概念に 変えるプロセスです
これは 人間の脳に 本質的に備わっている能力ですが
コンピューターにも 有用なものです
例えば 私の部署で作っている 機械知覚アルゴリズムは
Googleフォトの画像を
写っているものに基づいて 検索できるようにする技術です
一方 知覚と対照的なものに 創造性があります
創造性とは 概念を 何かの形で世に生み出すことです
この１年の我々の 機械知覚への取り組みの中で
コンピューターによる創造 「機械芸術」の世界との
意外な接点を見ました
ミケランジェロには 先見の明があり
この「知覚と創造の二重の関係」を 見ていたのだと思います
彼は 有名な言葉を残しています
「どんな石の塊にも 彫像が隠れており
彫刻家の仕事は その像を見出すことである」
ミケランジェロが気づいていたのは
我々は 知覚によって 創造しているということで
知覚自体が 想像する行為であり
創造的なものだということです
人体の中で 思考 知覚 想像を行う器官は
言うまでもなく 脳です
そこで 脳科学の歩みについて
簡単に振り返りましょう
心臓や腸などとは違い
脳については 外観からは 分からないことが多いからです
少なくとも 肉眼で見た場合には
脳に注目した 昔の解剖学者たちは
脳の外部構造を見て しゃれた名前を付けました
例えば「海馬」 これは タツノオトシゴのことです
しかし そのように付けられた名前は
その働きについて ほとんど何も示していません
脳内で起きていることについて 本当の知見を初めて得たのは
19世紀の 偉大な スペイン人神経解剖学者
サンティアゴ・ラモン・イ・カハールだと
私は思います
彼は顕微鏡と 選択的に染める特殊な染料を使って
脳内の個々の細胞を 非常にはっきりした形で
見られるようにし
そこから 形態学的理解が 進むようになりました
19世紀に 彼が描いた 神経のイメージは
このようなものでした
これは 鳥の脳です
このように 驚くほど 多様な細胞があります
当時は 細胞説自体が ごく新しいものでした
この構造 この細胞には
樹状突起があります
この突起は 非常に長く伸びうるのですが
これも 当時は目新しいことでした
樹状突起は 配線のようにも見えます
このことは 19世紀の一部の人には 一目瞭然だったかもしれません
電気による革命が進み 配線が普及し始めた時代だったからです
しかし いろいろな面で
ラモン・イ・カハールが提示した 微細解剖学的な図は
ある意味 今なお越えられていません
１世紀を経た今も 我々は
ラモン・イ・カハールが始めた仕事を 完成させようと試み続けています
これは 我々が提携している
マックス・プランク神経科学研究所による 生のデータです
彼らが行ったのは
脳の組織の小さな断片を 可視化するということです
この試料全体の大きさは １立方ミリメートルで
今 お見せしているのは そのごく一部です
左の棒の長さが １ミクロンです
ご覧の構造は ミトコンドリアで
大きさとしては バクテリアと同程度です
ごく小さな組織片の
連続的断面を映しています
比較のために言うと
髪の毛の直径は 平均約100ミクロンです
ご覧のものは 髪の毛の直径よりも
はるかに小さいんです
このような 電子顕微鏡による 連続断面像から
ニューロンの３次元像を 再構成できます
ここでは ラモン・イ・カハールが したのと同じように
ごく一部のニューロンだけを示しています
そうしなければ あまりに密集していて
わけが分からなくなってしまいます
ニューロンは 互いに結合し合った —
非常に複雑な構造をしているためです
ラモン・イ・カハールは 時代の先を行っていて
脳に対する理解は
その後の数十年で ゆっくりと進んでいきました
やがて ニューロンは 電気を使っていることが発見され
第二次世界大戦の頃には
仕組みの解明のため 生きたニューロンを使って
電気的な実験ができるくらいに 技術が進歩しました
ほぼ同時期に コンピューターも発明されましたが
これは 人間の脳をモデル化するという アイデアに基づいていました
コンピュータ科学の父の１人である アラン・チューリングは
これを「知的機械」と呼びました
そしてウォーレン・マカロックと ウォルター・ピッツが
ラモン・イ・カハールの 視覚野の図に 目を向けました
今 ここでお見せしているものです
これは 目から受け取ったイメージを 処理する皮質です
２人には これが 回路図のように見えました
マカロックとピッツの回路図の 細かい部分には
間違いが たくさんありますが
その基本的な概念
つまり 視覚野は一連の 計算要素のように働き
段階的に情報を 受け渡していくという概念は
本質的に正しいものでした
ここで 少し時間を取って
視覚情報処理が どんなことをするのか 説明しようと思います
知覚の基本的な仕事は
このような画像を見て 識別をすることです
「あれは鳥だ」と
人間の脳は この処理を簡単にやってのけますが
コンピューターにとっては難問で
数年前までは ほとんど不可能でした
従来の コンピューターの構造は
こういうタスクには不向きなんです
鳥のピクセル画像と
「鳥」という言葉の間にあるのは
ニューラルネットワークの中の
結合しあった 一連のニューロンです
図示すると こうなります
このニューラルネットワークは 視覚野内に生物学的なものとして存在し
また最近では コンピューター上に
モデル化できるようになりました
どのように動作するか お見せしましょう
画像は ニューロンの 第１層を示しています
これは目で言うと
網膜内のニューロンに相当します
情報は
ニューロンの１つの層から別の層へと 次々と受け渡され
ニューロン同士は 重みの異なる シナプスでつながれています
このネットワークの動作は
シナプス結合の 強さによって変わり
それが ネットワークの 計算的特徴を決めます
そうして最終的には
少数のニューロン群が反応し
「鳥」だと認識されます
ここで３つの対象物 ―
入力されたピクセル ニューラルネットワーク内のシナプス
出力である「鳥」
この３つを 「ｘ」「ｗ」「ｙ」と置きましょう
ｘは 画像中のピクセルなので
100万個くらいあり
ｗは数十億から数兆個
ニューラルネット内の全シナプスの 結合強度を表します
このネットワークからの 出力である
ｙの個数はごくわずかです
「bird」は たった４文字ですよね？
ここで 次の簡単な式が 成立すると仮定します
ｘ “×” ｗ ＝ｙ
「かける」に引用符を付けたのは
この場面で実行される演算は
実際には 非常に複雑な 数学的な計算だからです
１つの方程式があって
３個の変数があります
ご存じのように ３つの変数のうち ２つの値が分かれば
残りの変数の値も求められます
ここでの問題は
鳥の画像から
それが鳥だと推論する ということでした
つまり y が未知で ｘとｗが分かっています
画像 x と ネットワーク w は 与えられています
ご覧のように 比較的単純な問題です
２と３を掛け合わせれば 答えは出ます
我々が最近構築した ニューラルネットワークでは
まさに これを実行しています
携帯電話上で リアルタイムで処理をしています
こんなに すごいことができるのも
現在の携帯電話では １秒当たり 数十億～数兆の命令を
実行できるからです
ご覧いただいているのは
携帯電話で次々に出す 鳥の画像に対し
ニューラルネットが 「これは鳥だ」と言うだけでなく
鳥の種類まで 特定しているところです
この式で言うと
ｘとｗが既知で ｙが未知の場合です
ここで 難しい部分を はしょっていました
ｗは そもそも どうやって求めたらいいのか
脳がやっているようなことですが
人間は どうやって学ぶのでしょう？
この学習プロセス ｗを解くという問題は
変数が数値の 簡単な式であれば
どうすればよいか分かります
６＝２×ｗ を解くには
両辺を２で割れば済みます
ここで問題になるのは この演算子です
今 割り算をしましたが
それは割り算が 掛け算の逆演算だからです
しかし 先ほど言ったとおり
掛け算と見るのには ウソがあり
実際には とても複雑な非線形演算で
逆演算が存在しません
だから 除算演算子を使わずに
これを解かなければなりません
でも そのやり方はそう難しくありません
代数学的な ちょっとしたワザを使うんです
まず「６」を式の右辺に移します
依然として乗算を使っています
そして 左辺の「０」を誤差と考えます
つまり ｗを正しく求められれば
誤差の値は０になります
ｗの値が 正しくない場合
誤差は０より大きくなります
誤差の値が最小になるよう 推量をします
こういう処理なら コンピューターは大得意です
最初の推測値として
ｗ＝０では どうでしょう？
誤差は６です
ｗ＝１の場合 誤差は４
マルコ・ポーロ式鬼ごっこのような調子で
誤差を０に近づけていき
そうやってｗの近似値を求めます
通常 正解そのものにたどり着くことは ありませんが
数十回繰り返すと ｗ＝2.999のような 十分近い値が求まります
これが 学習プロセスです
ここで改めて 思い出してください
私たちがやっていたのは 既知の ｘとｙに対し
反復的プロセスによって 真ん中の ｗの値を求めるということです
これは人間がものごとを学習するのと 同じやり方です
赤ちゃんのとき たくさんの絵を見せられ
「これは鳥 これは鳥じゃない」と 教わります
この学習を反復することで
ｗを解いて 神経結合を作り出すんです
ｘと w に対して y を求めるというのは
高速な日常的「知覚」です
w を求める方法を 先ほど考えましたが
これは「学習」であり ずっと難しいことです
なぜなら 多くの訓練例を使って
誤差を最小化する必要が あるからです
１年ほど前 私のチームの アレックス・モードヴィンツェフは
既知の w と y に対して x の値を求めるとどうなるか
実験してみることにしました
言い換えると
鳥に対してトレーニングされた ニューラルネットが
鳥だと答えを出す
「鳥の絵」はどんなものか ということです
鳥を認識するネットワークを訓練するのと 同じ誤差最小化の手順が
この場合も使えることが 分かりました
結果として出てきたのは —
一種の鳥の絵です
これは「鳥」を認識するように訓練した ニューラルネットワークによって
生成された鳥のイメージです
ｙの値を求めるかわりに
反復によって ｘを求めたんです
別の面白い例を 紹介しましょう
私のグループのマイク・タイカが 作ってくれたものです
マイクは「動物のパレード」と呼んでました
ウィリアム・ケントリッジの作品を 思わせます
ケントリッジは スケッチを描いては消し
また 描いては消しして
アニメーションを作り出します
この場合
マイクは 動物種の集合の中で ｙの値を変えていて
動物の種類を識別するよう 設計された
ネットワークを使っています
エッシャーのだまし絵のように 動物が別の動物へと変形していきます
次は マイクとアレックスが 協力して作ったもので
y を二次元空間に 収めようと試みていて
ネットワークが認識するもの 全てを含む空間の
地図を作っています
この画像合成・画像生成を
ｙの値を変化させながら 画面全体にわたって行うことで
このような地図が できあがります
ネットワークが認識するものすべての 視覚地図です
いろんな動物が現れます あそこにアルマジロがいますね
他のネットワークでも 同様の処理が実行できます
これは 人物の顔を見分ける―
顔認識のために設計された ネットワークです
ここで ｙは「私」です
私の顔をパラメータにして
このネットワークを使い ｘの値を求めると
かなり ぶっ飛んだ 画像が作られます
キュービズムというか シュールというか サイケな感じの 私の絵です
複数の視点を １つにまとめています
このように 複数の視点が １つになっている理由は
このネットワークが あいまいさを除去する 設計になっているためです
人の顔の見え方は 見る角度によって変わり
光の当たり方によっても 変わります
だから このような再構成を行う場合
ガイドとなる画像や 統計値がないと
視点に関して
混乱が生じるんです
あいまいさがあるためです
ここでは 私の顔を再構成する 最適化プロセスで
アレックスの顔の映像を ガイドとして使っています
完璧とは言えず
この最適化プロセスを 改善するために
やることは まだまだありますが
とりあえず 顔をガイドとして使うことで
統一感のあるイメージが できるようになります
別に 真っ白なキャンバスや
ホワイトノイズから 始める必要はありません
ｘを求めるという場合
ｘとして 何か別の画像から 出発してもいいんです
それを説明するデモを お見せしましょう
これは 人工物であれ 動物であれ
あらゆるものを分類するよう 設計されたネットワークです
この雲の写真からスタートします
これを最適化すると
このネットワークは 「雲の中に何が見えるか」を探します
画面をじっと見ているうちに
雲の中に いろんなものが 見えてきます
これに顔認識ネットワークを使うと 幻覚っぽい映像になります
ちょっと頭がおかしくなりそうな
（笑）
マイクはまた
この雲の画像で 別の実験もしています
幻視とズームを繰り返していくと
こんな感じに
フーガのような 自由連想のような映像を
このネットワークから 作り出せます
ネットワークが 自分の尻尾を食べています
それそれのイメージが 次のイメージのベースになっています
「次に 何が見える？
次に 何が見える？ 次に 何が見える？」という風に
ちなみに このデモを 最初に披露したのは
シアトルで開かれた 「高等教育」と題した講演会で
マリファナが合法化された 直後のことでした
（笑）
最後にまとめとして
この技術は お見せしたようなものに 限定されないことを指摘しておきます
今回は視覚的にちょっと面白い例を 紹介しましたが
別に 視覚のテクノロジー というわけではないんです
我々の協力者でアーティストの ロス・グッドウィンによる実験ですが
彼がカメラで写真を撮ると
その写真の中身を元に 背負っているコンピューターが
ニューラルネットワークで 詩を書きます
詩のニューラルネットワークは
20世紀の詩の 膨大なコーパスで トレーニングされています
そうやって書かれた詩は
どうして そう悪くないと思います
（笑）
まとめになりますが
ミケランジェロは正しかったと
つくづく思います
知覚と創造性とは 密接に結びついているんです
先ほどお見せした ニューラルネットワークは
世の中の さまざまなものを区別するよう
学習させたものですが
処理を逆転させて 新しいものを作り出すこともできます
そこで気づかされるのは
石の塊の中に 彫刻を見ることができるのは
ミケランジェロだけではないということ
どんな生物であれ どんな存在 地球外生命体だろうと
知覚を行う能力のあるものは
創造もできるということです
どちらも同じメカニズムで できることだからです
そして 知覚と創造は
決して 人間に限られたものではありません
私たちは そのようなことができる コンピューターモデルを作り始めています
驚くことではありません 脳もまた計算機械だからです
最後に
コンピューティングは 知的機械の設計から始まり
機械はいかに知的になれるか という発想から
モデル化されましたが
今や我々は 昔の先駆者が 夢見た世界を
ようやく実現させつつあります
チューリングやフォン・ノイマンの夢
マカロックやピッツの夢を
コンピューティングは 会計処理だとか
キャンディークラッシュで 遊ぶだけのものではありません
コンピューターはそもそも 人間の脳をモデルとしたものでしたが
それは 人間の知性を よりよく理解するためにも
人間の知性を拡張するためにも 使えるのです
ありがとうございました
（拍手）