『シンギュラリティサロン #30』(7/21(土)) 聴講レポート

名称: シンギュラリティサロン 第 30 回公開講演会
日時: 2018年7月21日(土) 1:30pm ～ 4:00pm
場所: グランフロント大阪・ナレッジサロン・プレゼンラウンジ
主催: シンギュラリティサロン
共催: 株式会社ブロードバンドタワー、
　　　一般社団法人ナレッジキャピタル
講師: 渡辺 正峰氏 (東京大学大学院工学系研究科 准教授)
演題: 『「人工意識の脳接続主観テスト」が切り拓く意識の科学のこれから』
講演概要:

研究対象としての「意識」は、長らく哲学と科学の間を彷徨ってきた。意識の仮説を検証する術を我々が持たないためだ。素直に考えれば、意識を有する脳を用いて仮説群を検証すべきところだが、生体である宿命から、仮説検証に必要な「意識の本質」の抽出が許されない。無理に抽出しようとすれば、今度は脳が死んでしまう。ここで「意識の本質」の候補をあげるなら、哲学者のチャーマーズは、すべての情報が意識を生む (「情報の二相理論」) と主張し、神経科学者のトノーニは、統合された情報のみが意識を生む (「統合情報理論」) と主張している。

拙書『脳の意識　機械の意識』(中公新書) ではこの壁を乗り越えるべく、機械へと意識を宿す試み、すなわち、アナリシス・バイ・シンセシスによって意識の本質へと迫る手法を取り上げた。ここで必須となるのは、機械の意識を検証する手法である。空気がなければ飛行機械の開発がままならないように、人工意識の検証法なくして、アナリシス・バイ・シンセシスによる意識の探求は成立しない。

私が提案するのは、「人工意識の脳接続主観テスト」[1]である。当該機械を自らの脳に接続することにより、自らの意識をもって機械の意識を“味わう”。ただし、人工網膜や人工鼓膜によっても感覚意識体験が生じてしまうように、単に脳に機械を接続すればよいというものではない。テストの可否を握るのは、機械に意識が宿った場合にのみ、脳との間で感覚意識体験が共有される機械と脳の接続のあり方だ。ヒントとなるのは、ロジャー・スペリーによって二つの意識が共存することが示された分離脳である。検証の原理が指し示されることにより、意識の科学が「真の科学」(仮説提案と仮説検証の繰り返しによる本質の追求) へと昇華することが期待される。

最後に「人工意識の脳接続主観テスト」を思考実験として用いることにより、情報に意識が宿るとするこれまでの仮説群の問題点を指摘し、その代案として、神経アルゴリズム (生成モデル) が意識を生むとする自身の仮説 [2] を紹介する。

[1] Watanabe, M. (2014). “A Turing test for visual qualia: an experimental method to test various hypotheses on consciousness.” Talk presented at Towards a Science of Consciousness 21-26 April 2014, Tucson: online abstract 124

[2] 渡辺正峰 (2010)「意識」『イラストレクチャー 認知神経科学 ― 心理学と脳科学が解くこころの仕組み』村上郁也編、オーム社

定員: 100名
入場料: 無料
聴講者: 小林 秀章 (記)
https://singularity20180721.peatix.com/

【タイムテーブル】

13:30 ～ 15:00 渡辺 正峰氏 (東京大学大学院工学系研究科 准教授) 講演
『「人工意識の脳接続主観テスト」が切り拓く意識の科学のこれから』
15:00 ～ 15:30 自由討論

【ケバヤシが聴講する狙い】

意識の謎が常に頭から離れなくなって、「無限後退思考障害」という名の (実在しない) 病に罹患しているほどの私であるから、この講演会を聴講しに行かないという手は考えられない。

もともとの必然性の上にさらに必然性を上塗りする、ちょっとした裏話がある。

2018年3月11日(日) 10:12am、シンギュラリティサロンを主宰する松田卓也氏 (神戸大学名誉教授) から facebook でメッセージが届いた。

この日は、大手町サンケイプラザにてシンギュラリティサロンが開催され、中野圭氏と中ザワヒデキ氏が講演する予定になっており、出かける準備をしているところだった。
https://peatix.com/event/351900

松田氏からのメッセージは、本文がなく、産経ニュースの記事にリンクが張ってあるだけ。記事は、渡辺正峰 (まさたか) 氏の著書を紹介する内容であった。

　　2018.3.10 07:24
　　産経ニュース
　　高みをめざしたチャレンジ『脳の意識 機械の意識 脳神経科学の挑戦』
　　渡辺正峰著
　　上林達也 (中公新書編集部)
　　http://www.sankei.com/life/news/180310/lif1803100019-n1.html

記事自体は前日に上がったものだが、渡辺氏の著書は、去年の 11月に出版されている。

　　渡辺 正峰 (著)『脳の意識 機械の意識 ― 脳神経科学の挑戦』中央公論新社 (2017/11/18)

無限後退思考障害に陥るほどの私であるから、そんなのはとっくに読了していた。… と言いたいところだが、不覚にも、チェックから漏れていた。私の関心をよーく把握していて、そのド真ん中を衝いてくるような本を紹介してくれた松田氏に感謝しつつ、即、Amazon でポチる。

facebook に渡辺氏がいるのを見つけ、「友達」申請を送る。まだお会いしてもいないどころか、著書も読んでいないうちから、馴れ馴れしくて失礼かな、と多少は気にかけつつも、ずうずうしく。翌日、12日(月) 7:54pm に承認していただけた。

3月26日(月) には読み終わり、そこらじゅうのページの端が折り曲げてあり、赤のボールペンで書き込みだらけという状態になった。

7月14日(土) に町田で開催される「NHK カルチャー」で講演することになったと渡辺氏が facebook でアナウンスし、私は 5月19日(土) に聴講申し込みしている。
http://www.nhk-cul.co.jp/nhkcc-webapp/web/WKozaShosaiInsatsu.do?kozaId=1670698

その後で、シンギュラリティサロンのアナウンスがあった。まず、6月23日(土) に大手町サンケイプラザで。
https://peatix.com/event/392444

このとき初めて渡辺氏にお会いした。開始直前、すでに壇上に上がっている渡辺氏のところへ松田氏が私を呼んでくれて、紹介してくださった。「真面目な人なんです」と。その真面目な人の姿が、どう見ても変態にしか見えない、セーラー服を着たおっさんだったのはシュールだったかもしれない。

それから、7月7日(土) に大阪で。
https://singularity-salon-30.peatix.com/

この大阪の回が大雨で延期になり、今回、7月21日(土) の開催となった。
https://singularity20180721.peatix.com/

ってことは、3月にリンクだけを送ってきた松田氏の facebook メッセージは、「シンギュラリティサロンに渡辺氏を呼ぶからね」っていう予告だったのか。そこまでは読み切れなかったっす。

さらに、8月7日(火) には、原宿で茂木健一郎氏 (脳科学者、作家) との対談『身体と意識 (Body & Conscious) ― 脳の未来を科学する ―』が開催された。
https://bodyandconcious.peatix.com/

私の中で渡辺氏ブームが起きている。難解なところは多々あっても、さすがに 4 回も聴講すれば記憶には刷り込まれ、なんなら、風邪引いたから代打でしゃべってくれ、って言われたら、できちゃいそうだ。魂の入っていない、ものまねロボットになっちゃうだろうけど。

【内容】

(やや難解な箇所を理解しやすくする狙いから、報告者が順番を再構成したり、解説を付加したりしています。)

□ 松田氏よりイントロ

このところ「意識シリーズ」というのを意識的にやっている (※)。慶応義塾大学の前野隆司先生から始まり、アラヤの金井良太氏と続き、前回が中部大学の津田一郎先生だった。今回は、東京大学の渡辺正峰先生。さらに次回はアラヤの大泉 匡史 (まさふみ) 氏を予定している。

※ 松田先生は、シンギュラリティを起こすという観点からすれば、機械に意識なんか宿ってないほうが人間にとって都合がよいとお考えで、意識の謎の深みに引き込まれているのはむしろ私のほうだ。意識シリーズは私にとって、非常にありがたい。

このシリーズ、セーラー服おじさんが講演者候補をサジェストすることが多いけど、渡辺先生に関しては、松田先生が“発見”した。著書に『脳の意識 機械の意識』があり、これを読んで、お呼びしなきゃとなった。ところが、連絡が取れなくて、えらく大変だったのだとか。

渡辺氏は、日本の研究者たちとそれほど密には交流をもたないようで、人づてに連絡をつけようとしても、近い位置にいるはずの人でさえ、どこにいるか分からないという。教授会に出てこないんだとか。さては、地下の実験室にこもって出てこない、天才ならではの変人か。かつて、研究に没頭するあまり日露戦争に気づかなかった学者がいたらしい。

東大の大学院生の三上氏という方が、連絡つきますよ、と facebook で言ってくれた。ドイツにいますが、と。神経科学の権威であるニコル・ロゴセシス氏のもとへ行っていることが多いんだとか。

お呼びしたら、セーラー服おじさんのほうがハマってしまい、ほとんど追っかけ状態で、前回の東京でのシンギュラリティサロンに引き続き、町田にも行ったそうで (報告者注: はい、その顛末については後述します)。

□ 渡辺氏より自己紹介

哲学者ジョン・サールの言葉。「脳を研究して意識を研究しないのは、胃を研究して消化を研究しないようなものだ」。

渡辺氏は、サール氏の示唆を地で行き、脳の研究を通じて意識を研究している脳科学者である。

意識研究は、哲学と科学の間をさまよっている状態が、数千年来続いている。仮説は出てくるけど、検証できなくて、同じところをぐるぐる回っている。これを何とか打開したいというのが、著書『脳の意識 機械の意識』を書く動機だった。一番のポイントが主観テストなのだが、今日の話の途中ぐらいで出てくる。

もともとは東京大学の合原一幸教授のもとで、脳の理論研究をやっていた。他人の研究の出がらしみたいなデータを使っていたが、出がらしだけあって、おいしいところはすでに持っていかれている。自分の立てた仮説に沿って実験を組み立てたくなり、理論から実験のほうへ流れていった。

まず目をつけたのが、心理実験。認知心理学者である下條信輔先生 (カリフォルニア工科大学教授) のもとで、一年間勉強した。しかし、心理実験では仮説検証に不十分と感じ、やっぱりサルを使って、実際にニューロンを計測しなきゃと思うようになって、ドイツのロゴセシス先生のところへ行った。

2005年ごろから数年のつもりだったのが、10年ほど行っていた。下條先生の下にいたころ、意識の問題に出会い、金井良太氏や土谷尚嗣氏からインスパイアされてしまった。

もうひとつ裏テーマがあり、対象に意識が宿っているかどうかをテストする方法を提案し、その可能性について考えてみたい。

□ 錯視を通じて実感できる「意識」とは

意識とは何か、言葉をもって客観的に定義しようとすると、ややこしいことになりかねない。しかし、実感をもって「なるほど、これが意識か」と手っ取り早く分かる手段がある。

ロゴセシス先生が、サルの実験を通じて、どうやって意識を研究したのか。「両眼視野闘争」という、若干、物騒な響きのある錯視がある。右目と左目とが、意識を奪い合う。

現実の景色を両目で眺めているとき、右目と左目の位置が離れているため、左右の目は、物体をほんの少しだけ異なる角度から見ている。なので、左目の見ている映像と右目の見ている映像とは、異なっている。近くにある物体ほど、それを見る角度のずれが大きいので、映像の相違も大きくなる。

この相違を利用して、自分から物体までの距離を算出することができる。おかげで、われわれは周囲にあるものを三次元的にありありと頭の中に描き出すことができる。これが両眼立体視である。

では、もし、左右の目に対して、どうがんばっても立体像を構築できないくらい、がらっと異なる映像を強制的に見せたらどういうことが起きるか。

この実験は、赤青メガネを使って簡単にできる。グレーの地の上に赤い縦縞模様と青い横縞模様とを重ね合わせた図柄を用意する。赤と青の重なり部分は紫色に塗られている。

この図柄を、赤青メガネを通して見る。左目には赤、右目には青の半透明のフィルタを通して映像が入ってくる。赤いフィルタを通して見ると、グレーと赤の区別がつかなくなるので、青い横縞模様が見える。一方、青いフィルタを通して見ると、赤い縦縞模様が見える。

立体像復元問題を解決できない無茶苦茶な入力に対し、われわれは、いったい何を見るのか。渡辺氏は、聴講者に赤青メガネを配布し、実際に体験させてくれた。

結果、縦縞か横縞かのどちらか一方だけしか見えず、それがぱっぱぱっぱと切り替わる、不思議な現象を体験する。切り替わるタイミングは周期的ではなく、不規則である。右目と左目とが、自分が見ている映像こそ本物であると主張しあって、結論としての映像を奪い合うような現象である。

このとき、今現在見えているのがどっちであるか、それが視覚のクオリアである。元となる絵柄自体は何も動かないので、この切り替わりの現象は、純粋に主観の側の作用であることが明確なのがミソである。

左目で見ている景色の左半分と、右目で見ている景色の左半分とが、右脳へ行く。両者の右半分は左脳へ行く。左右それぞれの目で見ている絵の情報は、ちゃんと左右の脳半球までは間違いなく届いている。今現在、こっちの絵が見えている、というのは、主観の側の現象である。

とにかく、ものが見えていれば、それが視覚のクオリアである。音が聞こえていれば聴覚のクオリアだし、においや味がしていれば、それぞれ嗅覚と味覚のクオリアだし、痛みを感じていれば、痛みのクオリアだし、オタクはメイドさんから萌えのクオリアを感じ取っているかもしれない。

どれかひとつでもクオリアが生じていれば、そこに意識があると言える。睡眠中、五感からの情報入力が遮断された状態にあっても、夢をみているときにはクオリアが生じている。なので、意識がある。

デジタルビデオカメラを使えば、リアルタイムで映像情報を取得することができるが、カメラ自体が、映像が見えていると感じ取っているとは考えづらく、おそらく意識は宿っていない。二眼式 3D カメラで縦縞・横縞の実験をしても、カメラ自身が両眼視野闘争を起こすことは、もちろんない。

ある人が両眼視野闘争を経験している最中において、それを眺める他人からは、今現在、この人がどっちを見ているのか、直接的に知る手段は存在しない。他人の意識をみるには、その人の自己申告を信じる以外にない。このことを指して、意識は「第一人称的」であるという。

サルは、両眼視野闘争が起きるので、意識があると考えられている。縦縞が見えているか、横縞が見えているかに応じて、左右それぞれのレバーを引くようにサルを訓練しておいて、上記の実験をすれば、今現在、どっちが見えているかを自己申告してくれる。

結果、人間と同じように、不規則なタイミングで、ぱっぱぱっぱと切り替わる。サルの自己申告を信じれば、サルにも意識があることになる。

サルを訓練するだけで 2年ぐらいかかるのだが、ヒトではなく、わざわざサルを使って実験する意味は、両眼視野闘争の最中に脳のどの部位のニューロンが発火しているのかを観察できる点にある。

脳に電極を入れていいことになっているのは、ニホンザルとアカゲザルで、チンパンジーとオランウータンはやっちゃいけないことになっている。違う目的のついでであれば、ヒトに対してもやっていいことに、なぜかなりつつあるんだとか。

哲学者であるデイヴィッド・チャーマーズ氏は、思考実験上の仮想的な存在として「哲学的ゾンビ」というのを 1990年代に提唱した。外からみると、その人はいかにも意識を宿しているように振る舞うが、その実、本人にとっては、映像も見えてないし、音も聞こえていないし、痛みも感じていないし、夢もみないし、萌えもしない。

もし、自分以外が全員哲学的ゾンビだったとしても、それを見抜く手段はない。また、他人から「おまえ、ゾンビだろ」と嫌疑をかけられたとしても、身の潔白を立証する手段はない。ここに気がつくことは、意識を理解する上での第一歩と言える。

意識とは、第一人称的な感覚体験のことだ、と言える。

□ 意識は脳のどこに宿るか

大脳や小脳が腫瘍などで損傷を負った場合、記憶や運動がどうかなることはあっても、意識それ自体はびくともしない。一方、皮質や視床あたりが損傷を負うと、途端に、意識がどうかなってしまう。このことから、意識は脳全体にわたって宿るわけではなく、ある特定の部位が役を担っていると考えられる。

1990年に神経科学者である Francis Crick 氏と Christof Koch 氏が「意識に相関する神経活動 (neural correlates of consciousness; NCC)」という概念を提唱している。ある特定の意識的知覚を共同して引き起こすのに十分な、最小の神経メカニズムとして定義される。Wikipedia には「意識に相関した脳活動」という見出しがある。

両眼視野闘争が起きている最中、脳のどの領域の神経細胞 (ニューロン) が発火しているかをサルで調べてみると、どちらか一方が見えているときにだけ発火率の高い領域があるので、そのあたりは意識に関わっているかもしれないと推測することができる。

しかし、NCC をちゃんと特定しようとすると、緻密な論理運びに基づいた綿密な実験構成が必要で、それはそれはたいへんな苦労を強いられる。特に、第一次視覚野 (V1) が NCC に含まれているかどうかについては、説が揺れて、2011年に渡辺氏が決定打を放つまで、20年以上かかっている。渡辺氏はこれを「V1 をめぐる仁義なき戦い」と呼んでいる。

網膜に映った倒立画像が、V1 から V4 まで順々に伝達されていき、低次の視覚野は、点や線や縞模様など単純なパターンに反応するニューロンが占め、高次の視覚野は、顔などに反応するニューロンが占める。V1 を強制的に機能しなくすれば、もちろん何も見えなくなるのだが、だからと言って、V1 が NCC に含まれていると結論づけるわけにはいかない。

目をふさいでしまえばものは見えなくなるけれど、目に意識が宿っているわけではないのと同じことだ、という理屈である。目からの入力がなくたって、夢をみている最中には、視覚クオリアが生じている。

あるいは、ラジオから電池を抜いてしまえば、ラジオは鳴らなくなるけれど、だからといって、電池がラジオの本質に関わるとは言えない。AC 電源で代用することだってできる。

V1 が NCC に含まれるかどうかを、ネズミを使った実験によって特定しようと考えたが、ネズミでは両眼視野闘争が起きていないらしいと分かるだけで 3年を要し、絶望的な気分になったのだとか。

錯視の二大巨頭とされる、もう一方に、「ビジュアル・バックワード・マスキング」というのがある。

ある画像、たとえば、縦縞模様などをほんの一瞬だけ表示すると、意識の側は、数百ミリ秒遅れて、それを認識することができる。この画像をターゲット刺激と呼ぶ。

ところが、ターゲット刺激を表示してから、70 ～ 80 ミリ秒後に、別の画像、たとえば、チェック模様などをほんの一瞬だけ表示すると、最初の画像が表示されたことはまったく認識されなくなり、後のほうの画像だけが一瞬だけ表示されたと認識する。この画像をマスク刺激と呼ぶ。

ターゲット刺激からマスク刺激までの時間幅を長くしていくと、133 ミリ秒くらいのところから、ぱぱっと両方が表示されたと認識できるようになる。

ターゲット刺激が脳のどこかでぐるぐる回って待機しており、一定時間内に別のものが来なければ意識にのぼるが、マスク刺激が来ると上書きされて消えてしまうのだと考えられる。

ターゲット刺激が V1 を通り抜け終わったとみられるまでの短い時間を経たのちに、V1 を強制的に機能しなくして、それでもやっぱり知覚に影響が及ばないことが分かれば、V1 は単なる情報の通り道にすぎず、NCC に含まれないという結論になる。

脳に人工的に手を加えることによって、因果性があるのかどうかを見分けることを「操作実験」という。

脳の特定の部位だけに対して、精密なタイミングで強制的に発火を抑制する、画期的な手法が開発された。「オプトジェネティック抑制」という。遺伝子工学的手法を用いて脳の特定のニューロンに細工を施すことで、光を照射することにより強制発火させることができるようになる。

抑制性のニューロンにこの細工を施すことにより、ごく近接したニューロンだけを一斉に黙らせることができる。この瞬間、その脳領域は存在しないのと同じことになる。しばらくすると回復する。

ネズミによる実験の結果、V1 は NCC から排除された。2011年。
http://www.riken.jp/~/media/riken/pr/press/2011/20111111/20111111.pdf

さて、ここまでが序論である。いきなり本論の意識の話に入ると、オカルト方面のアヤシイおじさんだと思われかねないので、まず、学者としてのちゃんとした実績を示しておきたかったということのようで。

□ 意識のハード・プロブレム

脳において、意識を宿すために必要な最小限の領域である NCC が特定できたからといって、意識の謎がすべて解けたことにはならない。というのは、これだけでは、肝心の意識がいったいどういうメカニズムによって生じるのか、まったく説明がついていないからだ。

われわれの脳といえども、物質であることには違いない。物質であるからには物理法則に厳密にしたがうはずである。言うなれば、機械のようにしか、動作しようがない。それなのに、その“機械”の上には、いったいどのようなメカニズムによって意識が宿るのか。これが「意識のハード・プロブレム」である。

たったそれだけの問いなのに、この問い自体が一般の人々に理解されづらいことは、報告者も以前に嘆いたことがある。同じ問いを、手を変え品を変え表現しなおしたとしても、伝わらない相手にはぜったいに伝わらないという絶望感がある。しかし、それはそれとして、言い換えようはある。

ライプニッツ (Gottfried Wilhelm Leibniz、1646 – 1716) は、ドイツの哲学者、数学者で、微積分法に大きな業績を残しているが、彼の思考実験に「意識を宿す風車小屋」というのがある。

仮に意識を宿す風車小屋があったとしよう。われわれが中に立ち入ったとしても、目にするのは歯車だの回転軸だの機械的な仕掛けばかりで、その仕組みが完全に理解できたとしても、肝心の意識そのものは、どうしても見ることができない。

現実に意識を宿すわれわれの脳についても、事情は仮想の風車小屋と似たり寄ったりで、視覚情報を脳で処理する仕組みについては、解明することができるかもしれない。しかし、それができたところで、なぜ視覚のクオリア (感覚的意識体験) が生じているのか、まるっきり説明されていない。

第三人称的な視点でいくら観察しても、第一人称的な感覚の説明がつかないのが意識を扱う上での難しさになっている。

□ 「意識の自然則」の必要性

意識の問題は従来科学では解けない。なぜなら、従来科学がすべて、客観世界の中に閉じていたから。第三人称的視点しかなかったのだ。この枠組みの内側だけでは、主観と結びつけることができない。

主観と客観とを結びつけようとするならば、どうしても客観の外へ出て行かざるをえない。というか、自動的に外に出てしまう。

物理学には、いくつかの根本原理がある。宇宙のどこで測っても、光の速度は一定であるとか。なぜ光速は不変なんだと問うてみても仕方がない。そうなっているとしか言いようがない。つまり、根本原理にまで行き着くと、それ以上、「なぜか」が問えなくなる。あらゆる科学の土台には一種の非科学がある。

意識の問題についても、物理学の扱う客観世界における根本原理と同じような土台が必要であろう。それは、主観世界と客観世界とを結びつける位置に置かれるべきものである。その中身がどんなふうに記述されるか、現時点では不明だが、「意識の自然則」と呼んでおきたい。

チャーマーズ (David John Chalmers、1966 – ) は、「すべての情報に主観的側面と客観的側面とがある」とする「情報の二相理論」を提唱した。寒暖に応じてスイッチが入ったり切れたりする仕組みになっているサーモスタットにも小さな意識が宿ると言っている。

サーモスタットは、今現在スイッチがオンであるかオフであるかの 1 ビットの客観情報を保持しており、他方では、暑い / 寒いという主観の原型みたいなものを備えている。

ただし、言った本人がその内容を本気で信じているかどうかは疑わしい。意識の謎は非常に深遠なので、それほど大胆な仮説が必要だという極端な例として挙げているだけかもしれない。

ジュリオ・トノーニ (Giulio Tononi) は、情報が統合されることによって、個々の情報量の総和以上の情報が湧き起こってくるとき、この情報湧出分が意識の本質だとする「統合情報理論」を唱えている。

デジカメはたしかに視覚情報を取得しているけれども、画素ごとにばらばらに色の情報を保持しており、それらの情報が統合されていないので、視覚のクオリアが発生していない。

しかし、dis っちゃうのもアレなんだけど、統合情報理論は、非常に問題だと思っている。次回、これに詳しい大泉氏が登壇すると聞いて、ぜひ聞きたいと思っているのだけど、9月はまた日本にいないかもしれない。みなさん、聞いておいてください。

このように、意識の自然則の候補はすでにいくつかあるのだが、仮説が出たとしても、検証できなければ、… ええと、この中に哲学者はいますか？ いませんね、じゃあ言っちゃいましょう、哲学と同じです。科学である以上、実験によって仮説を検証できなくてはならない。

ガリレオ・ガリレイは、ものが落下する速度はその物体の重さによらず一定であることを示すために、ピサの斜塔から大小二つの金属球を落とす実験をした。この実験の上手いところは、金属球を使うことにより、空気抵抗という余計な要因を排除できた点にある。

情報に意識が宿るという仮説を実験的に検証したければ、脳から情報以外の余計な要因を排除しなくてはならない。しかし、生きている脳のことだから、それはできない。

かくなる上は、人工意識を使うしかない。作ってみることによって、動作原理を知ろうとすることを、構成論的アプローチという。

□ 機械に意識は宿るか

チャーマーズの思考実験にフェーディング・クオリア (fading qualia) というのがある。脳を構成するニューロンのうち、1 個だけを、機械に置き換えたとしよう。

このとき、機械は、中身までそっくりにニューロンを真似する必要はない。他のニューロンとつながっている入力と出力のところだけ同じはたらきをするように作っておけば、電気信号を中でどうやって処理するかについては、本物とは別の手法を使ってちょろまかしても構わない。だって、他のニューロンは気づくわけがないのだから。

このとき、脳全体としては、まったく同じように機能しているのであるから、宿っている意識に影響が及ぶはずがない。

では、1 個から 2 個、3 個、… と次々に置き換えていったとしよう。そうしても、脳全体としては、まったく同じように機能しているはずである。最後の 1 個まで置き換えて、結局全体が機械だけになったとしても、同じことではないか。ゆえに、機械が意識を宿すことはありうる。

□ 人工意識をテストするには

意識は第一人称的であるという、いかんともしがたい制約に縛られている。つまり、他者の意識は見えない。哲学的ゾンビを見分ける手段は存在しない。

怪しい研究者が変な箱を持ってきて、「30 年かけてこれを作りました。実は、この箱には意識が宿っているんですよ」と言ったとしても、ほいほい信じるわけにはいかない。かと言って、この機械に意識が宿っていることを客観的に判定する方法がない。

この手詰まり状態を打開することができなければ、人工意識の研究はちっとも進まなくて、困る。こうなったら、自分の主観をもって、機械に宿っている意識を味わうことによって確認するしかない、というのが渡辺氏のアイデアの根底にある。

多くの方がご存知のように、脳は左脳と右脳に分かれていて、両者は脳梁でつながっている。脳梁もまた、脳神経細胞 (ニューロン) の束である。

かつて、てんかんの治療法として、脳梁切断術が施されていた。文字通り、脳梁をバスッと切断し、左右の脳半球間の情報の連絡を遮断してしまうのである。

そうするとたしかにてんかんの症状は緩和されるのだが、とんでもない副作用が生じることが分かった。意識がふたつになってしまうのである。「分離脳」という。ロジャー・スペリー (Roger Wolcott Sperry, 1913 – 1994) は分離脳を研究してノーベル賞を受賞している。

健常者においては、どうなっているのか。潜在的には、左脳と右脳それぞれに一個ずつ意識が宿っており、ふたつあるのだが、脳梁を介して情報をやりとりしているがゆえに、何らかの形でひとつに統合されている。

意識がどっちか片方の半球にだけ鎮座してマスター (支配者) として機能し、他の片方の半球はスレーブ (服従者) として機能しているというわけではない。どっちも等価なマスター – マスターの関係である。

渡辺氏のアイデアは、脳の一方の半球を丸ごと機械で置き換え、脳梁に相当するところを細い電線の束で接続しようというものである。それでも左視野と右視野とがスムーズに連結されてひとつに見えたら、機械に意識が宿っているとしか言いようがないという。

この手法をもって、人類は初めて、他者の意識の有無を確認する手段を手に入れ、意識の第一人称性という限界を乗り越えられるはずだと主張する。

□ 意識は情報かアルゴリズムか

チャーマーズは情報に意識が宿るとの説を提唱しているが、これには大きな問題がある。情報は 0 か 1 かの数字の単なる羅列であって、それ自体に意味が内包されているわけではない。ソフトウェアを走らせて解釈することによって、初めて意味を取り出すことができる。

情報ではなくて、情報を解釈するアルゴリズムのほうにこそ、意識の本質的な役割があるのではなかろうか。

夢の中であっても、現実世界と変わらず、ものごとがリアルに感じられる。また、腕を失った人であっても、目の前にあるものをつかむ動作をしたつもりになって、手触りを感じたり、引っ張られると痛みを感じたりすることがあり、これを幻肢という。

ないにもかかわらず、あるという感覚が生じるのは、脳の中で現実をシミュレーションするソフトウェアが走っているからだとしか考えられない。現実世界をソフトウェアでシミュレーションすることが、意識の本質なのではないかと考えている。

両眼立体視によって 3D モデルを組み立てたらそれで終わりではなく、今度は逆に、コンピュータ・グラフィクス (CG) のレンダリング計算の要領で、今の視点からものがどんなふうに見えるはずだというのをシミュレーションする。

出てきた画像を、実際に目で見ている画像と照合して、合っているかどうかを確認する。この計算が脳の中で常に実行されている。

で、この計算そのものが、意識の正体なのだと考えている。そうだとすると、ニューロン一個一個の機能を忠実に機械で再現する必要はなく、全体として実行しているソフトウエアの機能を機械に実装すればよい。意外と早く、意識が機械にアップロードできてしまうのではないか。

【考察】

□ その構想、ホントにだいじょうぶ？

意識についてド素人のただの変態の分際で、日本でも屈指の天才たちをつかまえて言うのもナンだけど、意識を研究する学者たちって、どうしてこう揃いも揃ってイケイケでノリノリで楽観的なんだろう。

私の中では、かぐや姫に求婚してきたあのオジサンたちとイメージが重なり合う。月の者にアプローチすんのに、地球の上でごちょごちょやってて、なんとかなったりしますかいな。

あのですねぇ、「意識のハード・プロブレム」って、ハードっちゅうぐらいで、むずかしいんですよ。生きてる間に何とかなっちゃうんじゃないか、って、どうして思えるんだろう。

渡辺氏は著書のあとがきで、「こんなイケイケな本にするつもりはなかった」と述べており、自覚があるのはいいとしても、そのイケイケぶりが、私は心配で心配でしょうがない。

だって、そうでしょ。自分の意識を機械にアップロードしておけば、生物としては死んで肉体が灰になった後でも、純粋精神みたいな格好で、機械の中で、事実上、永遠に生き延びることができますよったって、ほいほい信じて、ぱっぱと試してみるわけにはいかない。

意識をアップロードしたら、機械がしゃべり始めて、そのしゃべり口がまさに本人の生き写しで、しかも、以前にしゃべったことの再生ではなく、ちゃんと文脈に即して、いかにも本人らしいことを言ったとしよう。それを見た人たちは、「おおお！ 大成功だ！」と歓声をあげるに違いない。

けど、本人にとってはどうなんだ？ 実は、何も見えていない、何も聞こえていない、味覚も嗅覚も触覚もなく、夢もみない、意識の片鱗も宿っていない、いわゆる、哲学的ゾンビだったとしたら。

その状況に誰にも気づいてもらえず、伝える手段もなく、それどころか、そもそも意識がないのだから、困った状況になっていると思うことすらできないわけで、まさに死んでるのと同じ状態だ。コピー元が死んでしまえば、もはや、一巻の終わり。取り返しがつかないとはこのことだ。

もちろん、渡辺氏はそこをうっかりしているということはなく、この状況に陥る可能性を排除するために、非常に慎重に論理を組み立てている。私は、その論理に穴が空いていることを具体的に指摘できるわけではないのだけれど、ただ、心配なだけだ。

安全安全と言われていた原発だって、現にあんなことになっちゃってるわけだし。以前は、政府の安全キャンペーンを真に受けて、あれを安全でないという人は、非科学的な信仰に染まっている、などと言い切る輩もネットで見かけたぞ。

渡辺氏の機械脳半球 – 生体脳半球接続テストの構想は、意識の第一人称性という限界を乗り越えようとするものである。ヒトにせよ、ヒト以外の動物にせよ、機械にせよ、他者に意識が宿っていることを、自己申告を信じるという手段ではなく、客観的に判定する手段が確立されないことには、意識のハード・プロブレムに対して実験的に迫ることができない。

人間の意識を機械にアップロードできたといっても、それが哲学的ゾンビではないことを確認する手段がなければ、成功か失敗か判定することができないのだから。

意識を客観的に観察することが原理的に不可能なのであれば、せめて、ヒトの主観をもって、他者の主観をテストできるようにしたい。

渡辺氏の思考実験は、片側の脳半球を丸ごと機械で置き換え、脳梁に相当するところを電線でつなごうというものである。これによって、機械半球側に意識が宿っているかどうかを、生体半球側の意識をもって判定できるとしている。

この接続テストをちゃんと成立させるためには、脳の可塑性のすごさというものを考慮に入れておかなくてはならない。渡辺氏は、もちろん、そこを考えており、構想に穴は空いていないはずだと主張する。

脳の可塑性とは何か。脳の発達を自然な進行に任せておくと、どの辺がどんな機能を果たすようになるか、だいたい決まっている。しかし、それは絶対的なものではなく、状況によっては、本来の受け持ち以外の機能を果たし始めることができるという柔軟性がある。

生まれたばかりのフェレットの視覚野と聴覚野とをつなぎ替えたら、聴覚野が視覚情報を処理するようになったという実験結果があり、2000年に NATURE 誌に発表されている。

　　Laurie von Melchner, Sarah L. Pallas, and Mriganka Sur
　　”Visual behaviour mediated by retinal projections directed to
　　the auditory pathway”
　　NATURE, Vol.404, 20 April 2000

目から来た情報が聴覚野に入ってくる。聴覚野は、自分に解釈できない情報が入ってきたので、視覚野に向かって「これ、お前んところのじゃね？」と言ってたらい回しするのではなく、自身で視覚情報を解釈しはじめたのである。たとえて言えば、ラジオに対して、テレビの電波を与えたら、ラジオが映像を映しはじめたようなものでる。

コンピュータに対して、外付けのデバイスをつなぐときは、デバイス・ドライバと呼ばれるソフトウェアが必要になる。最近のパソコンは、デバイス・ドライバが自動的にインストールされるようになっているので、その存在に気づかないユーザが多いかもしれないけど。

デバイス・ドライバがないと、コンピュータの側は、入ってきたビット列 (0 または 1 の列からなるデータ) が、文章なのか、画像なのか、音声なのか、何かの計測データなのか、判別のしようがなく、これを取り込むことができない。

ところが、脳は、生のデータだけを与えてやると、触覚などの情報と照合して、整合性がとれるようにそれを解釈する方法を自分で見つけ出してしまうのである。つまり、デバイスドライバを自分で勝手に開発してしまうということだ。これは、非常に高度な数学の問題を解いていることに相当するのだと思う。この柔軟性を脳の可塑性という。

意識領域においては、大人になってからも数学がからっきし苦手って人はザラにいるけれど、そういう人であっても、無意識領域においては、赤ん坊のときから数学の超難問をすいすい解いちゃうんだからすごい。というか、不思議だ。

ダニエル・キッシュ氏は先天的な目の病気 (網膜芽細胞腫) があったため、生後 13 カ月までに両眼を失っていた。ほどなく彼は「舌打ち音 (クリック音)」を立てながら動き回るようになった。コウモリのように、エコーロケーション (反響定位) によって周囲の状況を把握できるようになったのである。弱いフラッシュを焚いたみたいに、一瞬だけ周囲が「見える」のだそうである。自転車にも乗れるようになっている。
http://natgeo.nikkeibp.co.jp/nng/article/20130620/355092/

　　2013年6月20日
　　NATIONAL GEOGRAPHIC
　　音で世界を「見る」ダニエル・キッシュ
　　文＝マイケル・フィンケル

米 Wicab 社は、目のかわりに舌を使って世界を「見る」ことができるデバイス BrainPort を開発した。この装置は、カメラから得た映像データを電気パルスに変換する。平べったいパネルを舌に乗せると、炭酸飲料のようなパチパチした刺激が来る。

はたしてそんなもので本当に「見える」のか。実際に使ってみれば、15 分以内には情報が理解できるようになるのだという。

実験では、出入口やエレベータのボタンを見つけたり、手紙を読んだり、テーブルにあるコップやフォークを拾いあげたりといったことが可能になっている。
http://japanese.engadget.com/2009/08/19/brainport/

　　2009年8月19日 04:15pm
　　engadget 日本版
　　視覚障害者のための舌で「見る」装置 BrainPort
　　Haruka Ueda

この装置は、2015年に米当局が販売を認可し、実用化されている。
http://kenko100.jp/articles/150629003517/

　　2015年06月29日 06:00 公開
　　あなたの健康百科
　　視覚障害者に“舌で見る”機器 ― 米当局が承認
　　文字の判読も可能に
　　あなたの健康百科編集部

周辺機器からの信号が神経に伝わるように [適当に] つないでおけば、デバイスドライバは脳内で勝手に生成される、というわけだ。脳の可塑性、すげぇ！

ただ、このすごさゆえに、生体脳を他者の意識の判定に使おうとするとき、注意が要る。舌で見る装置自体に意識が宿っているとは考えづらい。にも関わらず、脳はその装置から視覚のクオリアを得ることができている。

ということは、機械から入ってきた情報に基づいて、生体脳にクオリアが生じたとしても、機械に意識が宿っていることの裏づけにならないのではあるまいか。生体半球側が、機械半球から渡ってくるデータを解釈するためのデバイスドライバを勝手に開発しちゃっただけかもしれないではないか。この可能性をちゃんと排除しきれているのか。

渡辺氏は、第一に伝達容量、第二に記憶容量、第三に適応時間の観点から、保証できているという。まず、脳梁は細すぎて、機械の獲得した視覚情報そのものを丸ごと生で送り込んでくることはできない。つまり、生体脳半球の一部と機械脳半球の一部とにまたがって視覚のクオリアが形成されている以外にない。第二に、たとえ生体脳半球に視覚情報が丸ごと送り込まれてきたとしても、それを蓄えておくための十分な記憶容量がないため、同様の理由が生じる。第三に、デバイスドライバを開発するにはそれなりの時間を要するため、もし、つないで即座に見えた場合は、脳の可塑性によるものではないと言える。

機械脳半球 – 生体脳半球接続のアイデアは著書に書いてあり、それが出版されたのが 2017年11月のことで、半年以上経つけれども、まだどこからも反論が出てきていないと、渡辺氏は自信をみせる。

いやいやいやいや、私は心配だ。

□ 分離脳の不思議

機械脳半球 – 生体脳半球接続によって生体半球が機械半球に宿る意識を確認することができ、これをもって意識の第一人称性の壁を突破することができれば、意識のハード・プロブレムについて、正しくない仮説を排除するための非常に強力な実証手段になりうるとしている。

例えば、何の量子的効果も利用していない機械に意識が宿っていることが確認できれば、量子脳仮説は即座に却下できる。

ということは、この時点では、まだ、意識のハード・プロブレム自体は解けていないことが仮定されている。大雑把すぎる議論で申し訳ないが、肝心の問題が解けていない段階で、そのテストが間違いなく他者の意識の確認方法として成立していると保証できているのだろうか。

分離脳は、まったくもって不思議すぎる現象で、その現象自体をすっと受け容れるのがむずかしい。左脳と右脳をつないでいる脳梁をバスッと切断することによって、両者間の情報のやりとりを完全に遮断すると、意識がふたつになってしまう。

右手がシャツのボタンをかけていく端から左手がそれを外していくとか。右手に持ったフォークで食べ物を取ると、左手が払い落とすとか。言語野をもたない右脳は、視野の左半分に何が見えているか言葉で報告することはできないけれど、見えているものを左手でつかむことができる。

では、分離脳状態から、どちらかの半球をうまく二分割すると、意識はさらに増えたりするのだろうか。実際問題として、半球内はがっつりと複雑に配線されているので、きれいに切れるところがなく、無理な気はする。しかし、理屈の上では、不可能な話とは言い切れないのかもしれない。

逆に、あなたの脳と私の脳とを、脳梁を渡るニューロンの本数ぐらいの電線の束でつないだとすると、二人の意識が一人になっちゃうのだろうか。目と耳と手と足が 4 つずつ、鼻と口がふたつずつある、ひとつの個体。なんだか、人類補完計画っぽいぞ。まあ、ならないような気はするけど。

脳梁を切断するのではなく、しばらくの間、例えば 10 分間とか 1 時間とか、強制的に情報伝達機能を停止させておくことができたら、その間だけは一時的に分離脳になっているはずだが、機能が回復すれば、また元の一人の意識に戻るはずである。

しかし、脳梁を渡っている情報は、単なるビット列である。ニューロン 1 本あたり、100 ビット/秒ぐらいの伝達容量があるらしい。ふたつの意識の間をビット列が行き来することで、意識はひとつに統合される。これって、非常に不思議な現象ではないだろうか。

ひとつに統合された意識はいったいどこに宿るのか。脳梁は、たしかに、意識が統合するために必要不可欠な働きをしているし、その脳梁自体、ニューロンの束なので、脳梁自体の上に統合意識が宿ると考えることもできなくはない。しかし、それは、たぶん合っていない。脳梁の役割は、左脳と右脳との間で情報を運搬する、単なる電線にすぎないのだと思う。

じゃあ、統合意識は左脳と右脳とにまたがって、もわーっと存在しているのか。

こんな思考実験はどうだろう。一個のニューロンは、樹状突起において他のニューロンから 1 か 0 かの情報を受け取り、それぞれに係数を掛けて足し合わせ、その結果が一定の閾値 (しきいち) を上回ると、「発火」する。発火したかしないかによる 1 か 0 かの情報は、一本だけある軸索から出ていき、その先の枝分かれによって多数の別のニューロンへ、シナプス結合を介して伝達される。すなわち、軸索内を通り抜ける情報は、一方通行なのである。

脳梁を形成するニューロンの束には、左脳から右脳へ情報を送るものと、逆向きに送るものとが混在しているはずである。道路の片側車線だけを閉鎖するかのごとく、右向きのニューロンだけを選択的に機能停止させ、脳梁全体にわたる情報の流れを右脳から左脳への一方通行にしたら、何が起きるだろう。

正常な脳と分離脳との中間みたいな状態になるはずである。それはいったいどんな状態か？

左脳にとっては、入ってくる情報に不足はなく、平常運転なはずである。たぶん、意識がひとつに統合される条件はそろっている。

ただし、左脳から右脳に対して、「こんな情報をください」と要求を出して、右脳がそれに応じて答えを返してくるような対話は、元の要求が届かないので、成立しない。

左脳が左手を動かそうと決断したとして、それを右脳に依頼しても、伝わらないので、左脳の発案で左手を動かすことはできない。

一方、右脳にとっては、ふだん左脳から入ってきている情報が完全に遮断されている。分離脳が起きる条件が成立しているはずだ。

しかし、アウトプットの道について不足はなく、右脳が右手を動かそうとするとき、左脳に対して、動作要求を出し、左脳が拒否しなければ、右手は動くはずである。

この状況において、意識はひとつに統合しているだろうか。

□ アルゴリズム仮説はどうか

意識は情報に宿っているとする、チャーマーズの情報二相理論に対抗して、渡辺氏は、アルゴリズム仮説を唱える。情報そのものはただのビット列にすぎず、それ自体が意味を内包しているわけではない。情報を処理する主体の側が、情報から意味を取り出す方法を知っているからこそ、意味を受取ることができ、そこにこそクオリア生成の本質があるのだとする。

これだけだと、仮説と言っても、「これこれのメカニズムにより意識が生じる」と具体的な過程を説明しきっているわけではなく、仮説の土台部分みたいな段階である。

その土台自体は、現段階では肯定も否定もできず、もしかするとその上に有力な仮説を打ち立てうるかもしれない、としか言いようがない。

一方、「生成モデル」と呼ばれる計算が脳内で実行されていることは、ほぼ間違いないと思う。

現実世界を両眼立体視したり、触れたりして得られる情報から、自分の周囲に何がどう配置されているのかを記述した 3D モデルをまず形成する。次に、コンピュータ・グラフィクス (CG) のレンダリング計算と同じ要領で、自分視点で見たときに、どんな絵が目に入ってくるはずであるかをシミュレーション計算する。そして、計算結果が合っているかどうかを、照合する。

脳内でそんな計算が進行しているのはいいとして、この計算自体が視覚クオリアの正体であるかどうかは、疑問だ。

2016年が「VR 元年」と呼ばれているが、このところ、仮想現実 (Virtual Reality; VR) や拡張現実 (Augmented Reality; AR) が流行っている。どちらも、ユーザはゴーグルやメガネを装着し、そこに映った映像を見ているのだが、前者は現実をまったく見ていなくて、CG で生成された両眼立体視画像だけを見ているのに対して、後者は、ガラスを通じて見ている現実に対して、一部分に CG 画像が重ね合わせられるだけという点が異なる。

AR 用のメガネとして、Microsoft 社から「ホロレンズ (HoloLens)」という製品が販売されている。このデバイスは、ユーザが見ているものの表面を片っ端からポリゴン (多角形) のつなぎ合わせの形式で 3D モデル化していく。動き回って、新しい側面が見えてくると、それまでに作ったモデルの限界の先に、どんどんポリゴンをつなぎ足していく。

家の中を隅々まで歩きまわって、全部の方向を見回せば、家の内側が完全に 3D モデル化される。戸外に出て振り返れば、家の外側も 3D モデル化される。

ホロレンズは、見た景色を CG でレンダリングするのではなく、それに、犬とか架空の生き物とかを、周囲の物体の配置と整合性が取れる形で重ね合わせて表示する。(アルツハイマー型ではなく) レビー小体型の認知症で現れるリアルな幻覚みたいなものを見せてくれる。

Nest+Visual 社は、ホロレンズ用のゲーム「JK Bazooka」を製作し、2017年10月に発表している。

現実世界の床やテーブルをちょろちょろ走り回る小さいセーラー服おじさんをミサイルで撃つシューティングゲームである。人差し指で狙いをつけて、親指とパチョンと合わせるとミサイルが発射され、命中するとおじさんはハートをいっぱい撒き散らしながら昇天していく。

テーブルがあればその上を歩き回るし、その下に隠れれば姿が見えなくなるし、現実世界とちゃんと整合性が取れているところが AR のミソである。

理屈の上では、これを VR 化するのは簡単である。ただ、リアルタイムの状況変化に追随できるよう、じゅうぶんなマシンパワーをもってレンダリング計算の重さを克服しないとならないが。そうすると、ユーザはデバイスが生成した映像だけを見ていることになる。

この VR 装置が実行している計算は、まさに先ほどの生成モデルそのものである。この装置に意識が宿ったと言えるだろうか。私は、そんな感じが全然しない。生成モデルの計算は、実際に脳内で実行されているだろうけど、それが意識の正体だという感じがぜんぜんしないのである。

ただ、意識の第一人称性から、他者の意識を確認する方法は今のところなく、この VR 装置にも意識が宿っているのだと主張されると、それを否定する根拠を提示するのは難しい。

□ ゲーデルの不完全性定理がどう絡むか

7月21日(土)、名古屋の居酒屋「我楽多文庫昭和ビル店」でべろんべろんのへべれけに酔っ払いつつ、それでもなお脳と意識の問題について渡辺氏とエクストリーム・ディスカッションしているとき、あたかも天啓のごとく、「あっ、そうか！」と気がついたことがある。

意識の問題を論じるとき、ゲーデルの不完全性定理を持ち出してきた人にアラン・チューリング (Alan Mathieson Turing、1912 – 1954）やロジャー・ペンローズ (Sir Roger Penrose, 1931 – ) や津田一郎氏 (中部大学 教授) がいて、それぞれ別々の文脈で関連づけているのだけれど、私はいずれにしても、どうしてそれとこれとが結びつくのか、さっぱり分からなかった。

不完全性定理とは、クルト・ゲーデル (Kurt Godel, 1906 – 1978) が 1930年に証明した数学の定理で、煎じ詰めれば「神はいない」と言っている。それはいくらなんでも煎じ詰めすぎなので、もう少し湯戻しすると、こういうことになる。

もし神がいるとしたら、定義により、全知全能であるはずである。全知全能であるならば、どんな命題を与えても、それが真であるか偽であるか、たちどころに示せるばかりでなく、証明するかあるいは反例を挙げることができるはずである。ところが、それができると仮定すると矛盾が生じる。ゆえに、神はいない。

神はともかく、数理体系内で記述可能な任意の正しい定理が、必ずしもその体系内で証明できるとは限らない、と言っている。だから、どんな数理体系も不完全である、というわけだ。

神はいなくても、ヒトならいるぞ。とは言え、ヒトの意識の謎と、ゲーデルの不完全性定理は概念として遠すぎて、どう結びついてくるのかさっぱり分からない。遠い概念のつながりを見つけ出すのが天才ってもんで、凡人からみれば、そこが超越的たるゆえんである。

さて、ゲーデルの不完全性定理をコンピュータのプログラムの停止判定問題に置き換えたのは、チューリングである。第二次世界大戦中、ドイツの暗号を解読する仕事をしていた、数学の天才である。

コンピュータ・プログラムのバグにもいろいろな種類があるけれど、プログラマにとってけっこう困るのは、それを実行したときに、待てど暮らせど答えが返ってこないやつである。まだ計算の途中なので、もう少し待っていれば答えが返ってくるのか、それとも、プログラムにバグがあって無限ループに陥っていて、永久に戻ってこないやつなのか、分からない。

意図的に無限ループを引き起こすのは簡単だ。プログラムは通常、一行ずつ、上から下へと順々に実行していくが、ある行に、それよりも上の行へ処理を飛ばす“go to”文を書いておけばよい。ループしている中に、そのループから抜け出すための“if ナニナニ go to ドコソコ”文を書いておかなければ、ループしっぱなしだ。

こういうのは、ソースコードを読めばすぐに分かる。しかし、うっかり紛れ込んだバグのせいで無限ループするやつは、えてして見つけるのがたいへんだったりする。

プログラムを実行してみなくても、ソースコードを読むことにより、無限ループするかしないかを判定することができませんか、というのが、「停止問題」である。細かいことを言えば、停止しないやつの中には、円周率 π を小数展開した数字列のように、ループに陥ることなく、永久にさまよい続けるやつもあるのだが。

ゲーデルの不完全性定理が、コンピュータ・プログラムの停止問題と同じことだと見破ったチューリングは、まさに遠い概念の間の結びつきを発見する能力によって特徴づけられる、天才だ。

人工知能の手法にニューラル・ネットワークというのがあるが、あれは脳神経細胞 (ニューロン) のシナプス結合によって形成されるネットワークにヒントを得て作られたモデルだ。

しかし、いまよく使われているニューラル・ネットワークは、水が高いほうから低いほうへと流れるがごとく、フィードフォワード (前方送り) しかない、一方通行のモデルだ。

ところが、ヒトの脳のニューロンのつながりは、フィードバック (後方送り) がそこらじゅうにある。外部から脳に入ってきて、下位層から上位層へとフィードフォワードしてくる情報と、脳の上位部分で常に次に起きることを予測していて、上位層から下位層へとフィードバックしてくる予測結果とをどこかで照合し、ほぼ一致していれば平常進行だが、大きな不一致があるとびっくりする。

びっくりしたら、次回も同じことでびっくりしたら馬鹿みたいなので、その差分情報を上位に送り、予測の機構を修正する。脳はそういう仕組みになっているに違いなく、これを「意識の生成モデル」という。

現行の人工知能でよく使われているニューラル・ネットワークは、フィードフォワード一辺倒なので、これではとうてい脳の機能を模倣することはできない。

じゃあ、フィードバック機構を入れりゃ済む話かと言えば、そう簡単にはいかない。不用意にフィードバックを入れると、すぐ無限ループに陥ってしまうのだ。じゃあ、人間の思考はなぜ無限ループに陥らないのだろうか。

どうですか？ このあたりで停止問題、すなわち、ゲーデルの不完全性定理のニオイがしてきましたね。

なんか、自分をメタな立場から常に監視していて、思考が無限ループに陥っていると「おいおい、回ってまっせ」とツッコミを入れてくる、もう一人の小さな自分、みたいなやつがいるって感覚、ないですか？ 中村うさぎ氏の言うところの「ツッコミ小人」みたいなやつである。

すごい心配事があるときなど、ツッコミ小人がなぜか黙ってしまい、思考が無限ループに陥ることがある。ツッコミ小人が死ぬと、人は発狂していくのだと思う。小説や映画などで、人が発狂していく過程が、無限ループ思考をもって描写されるのを見ることがある。

しかし、ツッコミ小人に対してツッコミを入れる、もうひとつ上の階層のメタメタ自分みたいなものがいなくてはならないことになると、マトリョーシカみたいなことになって、無限後退してしまう。ヒトの脳は、そこも巧みに回避しているんだろうな。

ゲーデルの不完全性定理によって提示された限界を知った上で、フィードバック機構を備え、なおかつ、自分を監視するメタ自分が働いて無限ループに陥るのを防止し、なおかつ、メタ自分が無限後退に陥らない、そんな新しいニューラル・ネットワークのモデルを構築すること、これが次世代の人工知能の課題なのだと思う。これは、機械に人工意識を実装する話にもつながっていくはずである。自意識が備わり、自己言及が可能になるよね。

それはニュートンやアインシュタイン級の大天才によってのみなしうる大仕事であり、いったいいつ誰がやってくれるのか、楽しみだ。それを見届けるために、がんばってあと 300 年ほど生きていたいものだ。

【余談】

意識を専門に研究されている天才にド素人が質問をぶつける貴重な機会が与えられるのはたいへんありがたいことだけど、まあ、たいていのことを聞いても、そんなのはとっくの昔に考え済みだとばかりに、まるで録音を再生するかのごとく、すらすらっと即答されてしまうものだ。

6月23日(土) に大手町で開催されたシンギュラリティサロンでは、即答されない質問ができたのは、自分としては上出来だった。脳神経細胞のネットワーク構造においてなされる計算と同等の計算をコンピュータで実行することは理屈の上では可能で、もしそこにも意識が宿るのだとしたら、じゃあ、紙の上で手計算したらどうなのだろう、と疑問に思ったのである。

脳が 0.5 秒ぐらいの間になす計算を紙に書き出したら、紙が何万枚必要になるかは知らない。実際問題としては無理だろうけど、思考実験としては、可能な話だ。脳と同等の計算に意識が宿るのだとしたら、紙の上での手計算の場合、どこに意識が宿るのだろう。計算する行為そのものにか、計算結果にか。どこにも宿りようがないような気もするけど、どうなんだろう。

計算する主体としての人の側の脳内にクオリアが生じるのではないか、という考えもありうるけれど、しかし、その人に生じるのは、あくまでも計算しているというクオリアであって、網膜から伝達されてきた情報を手計算で処理したからといって、視覚のクオリアがありありと湧き起こってくるわけではないだろう。

聞いてる私の側も、質問の意味がよく分かっていなかったりするわけだけども、渡辺氏は、これに即答しちゃマズいと直感されたようだ。「さすがはセーラー服おじさんです。参りました！」という謎の回答。

終了後、お茶に誘っていただけた。東大の大学院生である三上氏と、もう一人の聴講者と私が参加した。松田氏は用事があるとのことで、帰っていかれた。

6:00pm ぐらいまで、たっぷり 2 時間ほど、ディスカッションにおつきあいいただけた。偉い学者先生の貴重な時間をこんなに長く割いていただけるなんて、研究室のゼミ生か、研究仲間である学者か、取材記者でもない限り、ふつうはありえない話だ。

すでに百万回も聞かれたことをまた聞かれたりして、先生にとっては多少ご迷惑だったかもしれないけど、私の側としては、疑問をひとつひとつクリアにしていくことができて、理解が深まった。お世辞かもしれないけど、いちおう「鋭い！」と言っていただけた。紙の上での手計算についての質問に対する回答は、そこでも保留とされた。

写真はこちら:
https://photos.app.goo.gl/prXy9cJmx5PXywVe6

7月14日(土) の NHK カルチャー町田教室のは、聴講参加申し込みした後でシンギュラリティサロンのアナウンスがあり、そっちですっかり満足した私はもう行かなくてもいいようなものだった。けど、すでに 4,050 円払ってあるし、専門家のお話が聞ける貴重な機会なので、行くことにする。

せっかくなので、新しい質問ができるようにと、著書を読み返した。そしたら、聞きたいことが山ほど湧いてきて、とてもじゃないがその場でなんか質問しきれない分量になったので、前日の夜、メールで送りつけておいた。返信が来て、では、終了後に喫茶店かどこかでディスカッションしましょうか、と提案していただけた。

参加無料のシンギュラリティサロンでは用意された 100 席が満席になったが、町田の有料講座に集まったのは 15 人ほどだった。しょせん NHK の文化講座なんて、聴講しに来るのは暇を持て余した素人ばかりだろうと高をくくっていたら、実はそうでもなく、半数ほどは、渡辺先生を目当てに来た、医大の院生など、学術畑のガチな面々だった。

枠は 1:30pm ～ 3:00pm だったけど、終了後も会場に残った人たちからの質問攻めが止まらず、スタッフからの再三の退出催促の声がだいぶ強まってくるまで 1 時間ほど粘った。

先生から、じゃ、続きは喫茶店かどこかでやりましょうか、と提案され、7 人ほどがぞろぞろとついて来た。ところが、そこらへんの喫茶店はどこも満杯で、この人数じゃとても入れそうにない。まだ明るいけど、飲みに行っちゃいましょうか、と。

「炉ばた情緒 かっこ (「」) 町田店」に入ったのが 4:30pm ごろで、2 時間限定とのことなので、6:30pm ごろまで居た。私に質問してきた人がいる。「脳をやられているんですか？」。あ、はい、頭をぶつけちゃいまして。って、そういうことじゃなかった。脳を専門に研究されているんですか、と聞いていたのだった。

飲み屋とは言え、真面目なディスカッションの場として来たのであるから、この時点では、割と抑えて飲んでいた。2 時間ではとうていケリがつかず、次は「カラオケ館小田急町田駅前店」になだれ込んだ。飲み放題オプションをつけたもんで、ここではもう止まらなくなった。しかし、歌へ行くことはなく、延々と脳談義が続いた。

渡辺先生がこの日の講座でもらったギャラを、みんなで寄ってたかって酒に変えて、あらかた飲み尽くしてしまった。暴挙だ。小田急線町田駅から急行新宿行に乗ったのは、23:19 だった。

写真:
https://photos.app.goo.gl/caXBXBkbXWjamcNS6

渡辺先生、怒ってるんじゃなかろうかと、7月21日(土) の大阪のシンギュラリティサロンでは、内心少しびくびくしていたのだが、そんな気配はまったくなく、ほっとした。

終了後、同じフロアー内に隣接するカフェスペースでお茶会が催され、松田先生ほか、十数名が参加した。活発な議論の延長戦が 2 時間ほど続いた。

渡辺先生と三上氏は、翌日、名古屋で用事があるとのこと。名古屋に移動してから一杯どうかとお誘いいだたき、翌日、特に予定が入ってなかった私はお供することに。

18:23 大阪発の東海道本線快速長浜行で新大阪へ、18:40 新大阪発ののぞみ 48 号東京行で名古屋へ。新幹線の中で、3 人並んで座っている写真を渡辺先生が自撮りして、シンギュラリティサロンの facebook ページにアップしていた。この写真:
https://photos.app.goo.gl/cQaNXTj1neSeFhAp9

19:31 名古屋着。名古屋市営地下鉄東山線で栄へ。居酒屋「我楽多文庫昭和ビル店」。そうとうな量の酒を飲みつつも、真剣に意識の問題を論じ合った。特に、計算を端折ってルックアップテーブル (look-up table; LUT) 参照に置き換えていったら、どこまで意識はもつのかが、非常に面白い議論だった。このあたり、ゲーデルの不完全性定理のニオイがぷんぷんしてくる。

11:30pm ごろまでそこで飲んでいた。あ、宿、決めてないぞ。店を出ると、すぐ隣りに「Ｒ＆Ｂホテル名古屋栄東」があり、入ってみると一部屋だけ空いているというので、そこに決める。チェックインだけすると、部屋には行かず、3 人で「ビッグエコー広小路店」へ。

さすがにここまで来ると、脳と意識はもうたくさんで、歌になった。なんと、3 人ともそれなりに歌えるクチで、というか、三上氏はすごーく上手く、意外に盛り上がった。2:00am 近く、『新世紀エヴァンゲリオン』のオープニングテーマ『残酷な天使のテーゼ』(高橋洋子バージョン) を 3 人で大熱唱して締め、お開きとなった。

その旨、シンギュラリティサロンの facebook ページに書き込んでおいたら、翌朝、松田先生からコメント。「よう、やるわ」。

8月7日(火)、原宿の「VACANT」にて、渡辺 正峰氏と茂木 健一郎氏との対談イベントが開催された。題して『身体と意識 (Body & Conscious) ― 脳の未来を科学する ―』。ボディコンですかぃ。
https://bodyandconcious.peatix.com/

茂木氏が一般の聴衆を相手に講演することはめったにないらしい。頭がよすぎて聴衆がついて行けず、言いたいことがちっとも伝わらないことからくるフラストレーションが耐えがたい、ってことだろうか。今回は、対談相手が渡辺氏だからということで、講演依頼を受けてくれたらしい。

100 席ほどが用意されていたが、満席になった上に、後ろのほうにごちゃっと 20 人ほど立ち見で聴講していた。大盛況。

渡辺氏の論点は、意識の第一人称性という限界の突破の可能性にある。脳の片側の半球を機械に置き換え、脳梁に相当するマイクロワイヤーで生体半球と接続することにより、機械半球側に意識が宿っていることを、生体半球側が味わうことで確認可能であろう、としている。

また、意識はアルゴリズムに宿るという仮説に基づいて、計算機に意識を宿らせることができれば、意識のアップロードも現実味を帯びてくる、と。

ばーん！ と、ちゃぶ台返しにかかる茂木氏。マインド・アップローディング？ ないないないない、100% ありえない！「テクノロジーの皮をかぶった、来世幻想の現代版だ！」とまで。

意識を研究している科学者の多くは次のように考えている。脳は、機能としては計算しかしていない。それと同等の計算をコンピュータ上で実行すれば、そこにおのずから意識が宿る、と。んなわきゃあるかい！

プログラミングしているのは人間であって、また、計算結果を解釈しているのも人間で、意識が宿っているのは、そのときの人間側である。コンピュータが計算する過程においては、ビット列を演算操作しているにすぎない。そんなところに意識なんか宿りっこない。断言できる。意識を研究している科学者の 99% (※) はそこを根本的に間違えている。

※ 意識を研究する科学者って 100 人もいたっけ？ 要するにオレ以外は全員間違っとる！ とおっしゃりたいんですな。

テニスや卓球の試合にたとえれば、茂木氏がばんばんばんばんスマッシュを打ち込んでくるのを、渡辺氏はひょいひょいひょいひょい返して、得点では負けてないぞ、みたいな議論になり、たいへん見応えのあるラリーであった。

ところで、当日の 11:20am、渡辺氏はご自身の facebook のタイムラインに次のように書き込んでいた。「茂木さんと相談して、対談後に皆で一緒に飲みに行こうという話になったので、なんとなく、うろうろしていてください！」。おおお！

原宿「居酒屋大炊宴」へ。茂木氏とお話ができる千載一遇のチャンスだっちゅうに、氏の提唱する「オーバーフロー (overflow) 理論」を予習しておかずに臨んだのは、まったくの不覚だった。質問しても、「どうせお前になんか分かりっこないから、理解しようとしなくていいよ」ぐらいの調子で、まともに取り合ってもらえない。

逆に、茂木氏から質問してきたのは、パンツの色とかだった。勝負パンツをご覧に入れる。頭脳じゃ勝負にならんからって、いったいどこで勝負しとんのじゃ、オレ。おそらく印象にはよく残ったことであろう。

写真:
https://photos.app.goo.gl/DpHpDxvNj8bNisMv7

以上。

（報告：小林 秀章）

—————–
＊今回は講演資料は非公開です。