cmsmaster のすべての投稿

シンギュラリティサロン#31 大泉 匡史「意識の統合情報理論から意識の理論の創り方を考える」

名称: シンギュラリティサロン #31
日時: 2018年9月15日(土) 1:30pm 〜 4:00pm
場所: グランフロント大阪・ナレッジサロン・プレゼンラウンジ
主催: シンギュラリティサロン
共催: 株式会社ブロードバンドタワー
   一般社団法人ナレッジキャピタル
講師: 大泉 匡史氏 (株式会社アラヤ マネージャー)
演題: 『意識の統合情報理論から意識の理論の創り方を考える』

講演概要:
意識の統合情報理論 (IIT) とは、意識の量 (意識レベル) と意識の質 (クオリア) を、ネットワークの中の情報と統合という観点から数学的に定量化しようとする試みである。IIT は、深い睡眠時に意識が失われるのはなぜか、視覚と聴覚のクオリアの違いは何によって決まるのか、複数の意識 (例えば二人の人間の脳) の間の境界はどのように決まるのか、脳の中の意識の座はどこかといった問題に関して、統一的な説明と予測を与える。IIT はまだ発展途上の理論であり、実験的な検証が十分に成されているわけではない。しかしながら、IIT を意識の理論の一つの雛形として考えることで、意識の理論とはどのように創るべきかを考えることができる。

本講演では IIT を通して、意識の数理的な理論はどう創るべきか、そしてそれをどのように検証していくべきかを議論する。また、IIT が人間の意識だけでなく、他の生物の意識、そして人工知能の意識を理解する上で、どのように役に立ち得るかを議論したい。
定員: 100名
入場料: 無料
聴講者: 小林 秀章 (記)
https://ss31.peatix.com/

【タイムテーブル】

13:30 〜 15:00 大泉 匡史氏 (株式会社アラヤ マネージャー) 講演
『意識の統合情報理論から意識の理論の創り方を考える』
15:00 〜 15:30 自由討論

【ケバヤシが聴講する狙い】

意識の謎に意識を捉われている私であるからして、今回のを聴講しないという選択肢がありえないのはもちろんのこととして、今回のテーマである「意識の統合情報理論」をちゃんと理解したいという動機が大きい。

2017年10月21日(土) に開催されたシンギュラリティサロンでの金井良太氏 (株式会社アラヤ代表取締役) の講演によると、意識のメカニズムについて数理的に説明づけようとする仮説にはふたつある。

ひとつはカール・フリストン氏の「自由エネルギー原理」、もうひとつはジュリオ・トノーニ氏の「統合情報理論」(※) である。前者は意識を作る方法に関わり、後者は意識を確認する方法に関わる。どちらも、情報の量をエントロピーという尺度で測る、情報理論が下敷きにある。

※ 統合情報理論 (Integrated Information Theory) はジュリオ・トノーニ (Giulio Tononi) 氏が 2004年に提唱した意識に関する仮説。以下、IIT と略記。

大泉氏は、ウィスコンシン大学で 2 年間、トノーニ氏と一緒に研究している。ギリシャ神話に登場するアトラスは、両腕と頭で天空を背負っているが、大泉氏は、あんな感じで、日本において IIT を一手に背負っている。

IIT とは、うんと大雑把に言えば、意識は情報を統合する仕組みに宿るとする仮定の下で、情報処理ネットワークの構造からその統合性の度合いを評価する Φ の算出のしかたを数式的に定義しようとするものである。

これがどういうわけか、意識を研究する学者の面々からすこぶる評判が悪い。IIT が攻撃を受けると、それを支えるアトラスにもついでに矢が当たる。大泉氏は、全身に矢が刺さって、弁慶の立往生みたいなことになっている。アトラスが弁慶になっているの図。

茂木健一郎氏は、twitter の固定ツイートで次のように言っている。「今流行りの IIT を始めとする統計的手法では、意識の本質の解明ができないと論理的に確信しています」。

津田一郎氏 (中部大学教授) は、著書『心はすべて数学である』の中で IIT をけちょんけちょんにけなしている。「ジュリオ・トノーニは意識を数式で書くことができるといって、実際にその式を示している。しかし、内実はただの記号の羅列にも等しく、ほとんど「寿限無寿限無」と言っているのと変わらない印象だ」。

しかし、2018年6月2日(土) に開催されたシンギュラリティサロンにおいて、津田氏は、大泉氏が理化学研究所所属時代に発表した、情報幾何学から IIT を再解釈した数式を取り上げ、「ここまでやってくれればすばらしい!」とほめちぎっていた。多様体上の一点から部分多様体へ下した垂線の足までの距離をもって Φ とする理論である。

渡辺正峰氏 (東京大学准教授) は著書『脳の意識 機械の意識』の中で「意識の自然則の客観側の対象として情報を据えること自体に並々ならぬ疑問を感じている」と述べている。「情報を意識とすることの問題点は、情報がそれだけでは 0 と 1 の単なる羅列にすぎず、意味をもたないことだ。情報は、何かに解釈されてはじめて意味をもつ」。2018年7月21日(土) に開催されたシンギュラリティサロンにおいても、IIT を「非常に問題だと思っている」と述べている。

多数決をとったら IIT に勝ち目はない。しかし、大泉氏は強気だ。「今まで、ちゃんと理解した上で批判してきた人は、私の知る限り、一人もいない」と自信を見せる。渡辺氏に伝えたら、「そんなことはないでしょう」。お互いに引きませんね。

大泉氏は、IIT の中身についてきっちりと解説する本を著すべきだと私は思う。世にはびこる誤解を解き、不毛な議論をスパッと断ち切ってほしいと思う。

トノーニ氏は『意識はいつ生まれるのか』と題する本を出しているが、一般の人々向けに書かれており、「意識のハードプロブレム」の問いそのものについて理解したり、脳の不思議について啓発を受けたりするにはうってつけの良書だが、IIT については能書きばかりで、中身までじゅうぶんに踏み込んでいない。IIT の中身をちゃんと理解したいと思って読んでも、そこまで書いてくれていないのである。

大泉氏は「人工知能学会誌 Vol. 33 No. 4 (2018/7)」に『統合情報理論から考える人工知能の意識』と題する文章を寄稿しており、IIT の中身についてよく解説している。しかし、難解な内容がきゅっとコンパクトにまとめているため、ちょっとやそっとでは解きほぐせない。

【会誌発行】人工知能学会誌 Vol. 33 No. 4 (2018/7)

そこをもう少し湯戻しして、研究者でなくても理解できるよう、懇切丁寧に解説して一冊の本にまとめ上げてくれれば、大いに意義のあることだと思う。日本人でそれができるのは大泉氏を置いてほかにいない。ご本人に言ったら、話は来ているのだけれども、忙しすぎて書いている暇がないのだとか。

あー、やっぱりそうですか。私が大泉氏にインタビューして口述筆記したいくらいだ。しかし、私は私で、そこまでやっている時間は確保できないかもしれない。

今回の講演で大泉氏が IIT の中身についてどこまで踏み込んで解説してくれるか分からないが、自分の理解が深まればうれしいという期待もあった。

【内容】

□ 松田氏よりイントロ

ここ何回か、シンギュラリティサロンでは、意識の研究をされている方々をお呼びした。前野 隆司氏 (慶応義塾大学)、金井 良太氏 (株式会社アラヤ)、津田 一郎氏 (中部大学)、渡辺 正峰氏 (東京大学)、と来て、今回、大泉 匡史氏 (株式会社アラヤ) にお越しいただいた。

津田氏、渡辺氏のお二方と金井氏、大泉氏のお二方との間でひとつの対立軸があるようにみえ、それが、今回のテーマになっている「意識の統合情報理論」をめぐってである。

別の回にあらためて渡辺氏と大泉氏をお呼びし、「意識をめぐる大冒険」と称して議論していただくことを計画している。

統合情報理論について、名前はよく聞くけれども、奥深い数学についてはまだ十分理解が及んでなく、今日の話を楽しみにしています。

□ まるでトンデモ系のように批判されがちだけど…

大泉氏、登壇。統合情報理論を研究してきているが、この理論はあまり理解されてなく、しかし、理解されないまま批判だけされるという、おもしろい (意訳: おもしろくない) 状況になっている。

あたかも突拍子もないことを言っているかのように、よく怒りを込めて批判されるけど、よくよく解きほぐしてみれば、変なことは言っていないと思っている。

もちろん、不十分な点や改善すべき点は多々あり、そこについて批判を受けるのはいいのだけれど、たいていの場合は印象だけで「それはけしからん」みたいな話になる。気持ちを穏やかにして聞いていただければ、そんなに変なことを言っていないと納得していただけるのではないか。

IIT の理論構築の拠りどころは、自分自身の意識にある。他人の意識は分からない (※)。

※ (筆者注) われわれが生活する日常の場面においては、お茶を飲みながら世間話をしている相手にも意識が宿っていることは自明のことのように仮定されている。しかし、もし仮に、その相手がほんとうは意識を宿してなく、組み込まれたプログラムにしたがって機械的に応答しているだけであって、プログラムの出来がよいために意識を宿しているフリが上手いだけだった場合、それを見破る手段がないという問題がある。つまり、いわゆる「哲学的ゾンビ」は見破れないという問題。

ましてや、人工知能の意識はますます分からない。確かなのは自分自身の意識だけ。なので、IIT は基本的に人間の意識に関する理論である。しかし、一般性があるので、その理論が正しいとする仮定の上でなら、例えば動物はどうなっているか、とか、人工知能の意識はどうか、といった方向へ敷衍して考えることが可能である。

スライド資料の表題として『意識の統合情報理論から意識の理論の創り方を考える 〜 人工知能の意識編 〜』を掲げている。

シンギュラリティサロンを聴講する方々は人工知能に興味をお持ちであろうから、IIT が一般的な作りになっていることを利用して、人工知能の意識を評価することについて考えてみる、というのをサブテーマとして掲げている。

メインテーマとしては、意識の理論とはどういうものであるべきか、というのを考えていきたい。つまり、IIT は、物理学における相対性理論などとは異なり、まだ確立されたものではなく、今後どんどん改善していくべきものである。なので、これを叩き台に、じゃあ、いったいどういうふうにすればいいのか、ということを考えていきたい。

理論としてはまだ赤ん坊なので、赤ん坊を狙撃するようなことは、ぜひやめていただきたい。発展させることのほうが重要です。

□ 自己紹介

ここで意識の話をすると言うと、すごく意識大好きな人なんだという印象を受けられるかもしれないが、もともとはそうでもなかった。

物理学をやっていこうと思って、大学は物理学科にいた。しかし、限界を感じ、大学院では脳科学・神経科学の領域に行った。興味の指向は実験よりも理論に向いていて、数理に基づいて脳を解き明かしたいというのが第一の目標。その道具が統計物理だった。それと、情報理論。

大学院を卒業してポスドクになって初めて意識の研究に触れるようになった。ジュリオ・トノーニ氏 (ウィスコンシン大学) と土谷 尚嗣氏 (モナシュ大学) から影響を受けた。

トノーニ氏は IIT を作った人。土谷氏は、クリストフ・コッホ氏 (カリフォルニア工科大学) のところの大学院生だった。『意識の探求』を和訳した。

  クリストフ・コッホ (著)、土谷 尚嗣 (翻訳)、金井 良太 (翻訳)
  『意識の探求 — 神経科学からのアプローチ』
  岩波書店 (2006/6/28)

IIT の数理的なところがおもしろいな、と思ったのが意識研究に入門したきっかけ。どうしても意識をやりたいわけではなかった。

ウィスコンシン大学に 2 年間留学し、数理だけでなく、意識そのものについて考えざるを得ない状況に置かれた。もともとは数理のおもしろさに惹かれてたけれど、後から、意識もおもしろいと思うようになった。

今は、金井氏の設立した株式会社アラヤで意識の基礎研究をやっている。IIT の理論を実験的に検証するというのが重要なテーマになっている。

□ 人工知能に「意識」はあるか

まず、テーマとして人工知能を取り上げ、話の軸にしたい。

Apple Siri がしゃべったり、IBM Watson がクイズに答えたり、Google Alpha Go が囲碁で人間のチャンピオンを負かしたりするようになって、人工知能の能力は、部分的には人間を凌駕するようになってきた。

今現在の人工知能がすでに意識を宿していると思う人はあまりいないかもしれないが、この調子で今後もどんどん機能を足していけば、その延長線上で、いつか意識が芽生えてくるかもしれないと考えるのは、一見もっともなようにみえる。

じゃあ、何を足していけばいいのか? 自己認識か? 感情か? 身体か? 機能を足していって、最終的にドラえもんみたいなロボットが出来てきたら、さすがに意識が宿っていると思っていいのではないか。

しかし、IIT の示唆するところによれば、そういうことではない。意識とは、システムが外部に提供する機能が高度化することによって宿るものではない。機能をいくら足していっても、そこに意識が芽生えるかどうかはまったく別問題である。

睡眠中に夢をみている人には意識があるけれども、そのときその人は外部に対して何か高度な機能を果たしているわけではない。意識は機能の積み上げの末に立ち現れてくるものではない。

人工知能は人間が使う道具なので、人間にとって役に立てばよいという観点で評価される。会話ができるとか。クイズが解けるとか。機能が大事で、中身はどうなっていてもよい。

しかし、意識を考えるとき、何ができるかは関係なく、どうやって実現しているかが大事になってくる。仮に 2 つのシステムがあり、外部に提供する機能が同一だったとしても、その機能をどうやって実現しているか、その中身の仕組みが異なっていれば、意識のあり方としても、異なったものになりうる。

外から見える機能ではなく、中身が大事なので、それを解き明かすべし。これが、今日の結論。最初に言っておく。

□ たぶん、発想の転換が必要

ここから、意識の定義、意識のハードプロブレム、IIT の中身、と話が続いていくが、この手の話は難解すぎてまったく理解できなかったという嘆きをよく聞く。

IIT の中身まで立ち入って、数式がわらわら出てくれば、たしかにそれなりに難解ではあるけれど、そこは別として、意識のハードプロブレムとは何かを概念的に理解するのは、筆者の感覚では、ぜんぜん難しくない。ただ、ちょっとした発想の転換が必要なのだと思う。そこについて話を差し挟んでおきたいと思う。

野球の外野手が、バッターが高々と打ち上げたフライを捕球せんと、落下点まで走っていって、グラブを構えているとしよう。外野手は自分に向かって弧を描いて落下してくるボールを見ているわけだが、ここでふと疑問が湧く。

いま、自分の目にはボールが自分に向かって落下してきているように見えているが、そのボールは見えているとおりにほんとうに実在しているだろうか。

野球の試合の真っ最中に、そんな哲学的瞑想に耽っていたら、おそらく落球するであろう。

我々は、見た目と実体とを瞬時に直結して捉えるよう、トレーニングされすぎている。ものがそこにあるのがまさに見えているし、何なら触ってみればたしかに感触がするのだから、そこにあるに決まっているじゃないか、と。

身に染みついたこの思考の癖をいったんほどき、見た目と実体とを切り離して考える発想に至りさえすれば、見通しが急に明るくなるのだと思う。

そこにものあるように見えるているのは、自分の内部で起きている現象であり、そこにほんとうに実体が存在するのは、自分の外部がそうなっているという状態である。前者が主観で、後者が客観である。で、この主観こそが、まさに意識そのものである。

我々が見たり触れたりすることによって感じ取ったとおりに、外部にものが実在していると直結的に信じる態度を哲学では「素朴実在論 (naive realism)」と呼ぶ。素朴実在論はとっくの昔に否定されており、いまだにこれを自明なことのように信じている人は、そうとう馬鹿にされる。

ここを分けて考えることができるようになることが、ほぼ出発点みたいなものなのだ。しかし、主観的認識と客観的実在との分離をいちいち疑い始めると、実生活上の思考や行動が著しくもたつく。

生物学的な生存確率最大化の原則からすると、このもたつきは、あまりいいことではないのかもしれない。お薦めしないほうがいいのか。野球は下手になるかもしれないが、しかし、意識の問題は理解しやすくなると思う。

□ 意識とは何か

これが意識だとする学術的な定義はまだなく、そこが弱点と言えば弱点だ。直感的な表現で言えば、意識とは「主観的体験」のことである。

体感的に理解するには、主観的認識と客観的実在とが一致しない例を持ち出してくるのが手っ取り早い。錯視がその一例である。渡辺正峰氏は「両眼視野闘争」を取り上げていた。

大泉氏が取り上げたのは、2001年の Nature 誌に掲載された Boneeh 氏らによるものだ。黄色く塗りつぶされた小さな円が 3 つ、正三角形状に配置されている。背景には、青色の細かいドットがランダムに配置されている。人は、正三角形の真ん中を注視する。

背景の青いランダムドットをゆっくりした一定速度で回転させると、黄色い粒が時おり消滅する。実際には、常に表示されている。この錯視は片目でも起きる。

どの粒がどのタイミングで消滅するかは、見ている人によって異なる。今現在どういうふうに見えているかは、その人その人の個人的な主観体験なのである。主観体験は脳内の電気信号にすぎない。

ものがこういうふうに見えているというのが視覚のクオリアであり、同様に聴覚のクオリアや触覚のクオリアがある。クオリアがあることをもって、意識があるという。夢をみている状態において、実体は何も存在しないけど、クオリアはあり、意識があると言える。

意識には質的側面と量的側面とがある。赤の赤らしさ、納豆の匂い、ヴァイオリンの音など、クオリアがまさに質である。覚醒時は意識レベルが高く、睡眠時は低いというのが、量である。

□ 意識のハードプロブレム

脳がどのようにして異なる色を異なる色として区別できるのか、そのメカニズムを物理的に説明することは可能である。色の違いは電磁波 (つまりは光) の波長の違いである。網膜の少し奥にある錐体細胞には 3 種類あって、それぞれ異なる波長に反応して電気信号に変換し、うんぬん。

そのように説明づけたとしても、しかし、われわれが、赤い色をこのような赤として脳内でありありと再生している現象については、何ら説明づけられていない。ここに、説明のギャップがある。

つまり、クオリアがいかなるメカニズムによって生じるのか、そこが説明できないのである。これを「意識のハードプロブレム」という。

大泉氏によれば、「ハードプロブレム」は「むずかしい問題」ではなく「解けない問題」、つまり、原理的に解くことが不可能な問題なので、さっさとあきらめるのがいいらしい。

しかし、意識を科学の研究対象とすることを丸ごとあきらめる必要はなく、科学の側からやれることは多々ある。

□ 外から意識を定量化することはできるか

意識は、中からと外からとの二つの捉え方がある。
(1) 第一人称の意識: 当人の主観的な観点から意識があるかどうか
(2) 第三人称の意識: 第三者から見て意識があるかどうか

後者の観点から意識があるか否かを評価しようとすると、人間らしい知性・振る舞い・見た目があるかどうかに頼らざるを得ない。

しかし、この評価方法には限界がある。意識がないようにみえて実はあるケースとその逆とがある。

前者の例として、植物状態の人間のうちの一部は、外部からの呼びかけに応じて脳が健常者と同様な発火パターンを示すため、意識があるらしいことが分かってきた。

後者は、思考実験だが「中国語の部屋」がある。内部では辞書を引いて答えを返しているだけだが、外からみると、質問をちゃんと理解しているようにみえる。

意識は外からの見た目では判定できないという反省に基づいて、脳そのものを見ないと、という動きになり、1990年ごろから、意識と関係する脳活動の同定が始まった。

渡辺氏の講演に出てきた「意識に相関した脳活動 (neural correlates of consciousness)」である。渡辺氏がよくドイツへ会いに行っているニコス・ロゴセシス氏の得意分野である。

しかし、脳のはたらきをどんなにつぶさに調べてみても、そこで起きていることは計算でしかなく、何が意識の生成に本質的なのかがちっともみえてこなかった。新しい発想が必要だ。理論のガイドをもって実験を解釈するほうがいい。

□ 意識の理論の創り方

意識の理論の創ろうとするならば、次のようなステップを踏むことが必要だろう。

Step 0: 解こうとする対象としての問題を明記する = 理論の守備範囲
Step 1: 現象論から意識の性質を明記する = 意識の定義
Step 2: 意識の性質から導かれる仮説を数学で記述する
    = 仮説を検証可能なものにする
Step 3: 実験によって仮説を検証する
Step 4: 人間以外の意識の評価にも展開できる可能性がある

Step 0 では、まず、何を解こうとしているのかを明記する。これが非常に大事で、これによって、理論の守備範囲を明確化している。

理論を提示する側とされる側との間の期待の齟齬を事前回避している。もしこのステップを省略すると、IIT はメイドロボットの創り方について、何らかの方法論を提示してくれるのではなかろうかと期待して読んだ人が仮にいたとすれば、最後まで読んだ末に答えがどこにも書いていなかったと知って、がっかりするであろう。そんなミスコミュニケーションによって IIT が批判を受けたのでは、たまらない。

Step 1 は、自分の意識を観察することによって、意識に本質的な性質を同定しようとする作業である。このステップがなぜ大事かというと、理論からみた意識の定義に相当するから。

意識とは何かというと、いろんな人がいろんなことを言うもんだから、何について話しているのかの認識に食い違いが生じ、議論が噛み合わなくなる。それではマズい。

この理論が考える意識とはこれこれです、と定義づけしているのが Step 1 である。

Step 2 では、Step 1 の結果として得られた意識の性質を満たすためには、物理系がどんな条件を満たすべきかを導き出し、それを仮説として列挙する。

仮説は、数学的に記述する。言葉で書いてあるだけだと、意味が多義的になるため、よくない。数学で書いて、一義に定めることが重要。これによって初めて、仮説が、検証可能なものになる。

Step 3 では、仮説を実験的に検証する。

仮説がある程度確からしいとなってきたら、Step 4 では、仮説に基づいて、動物や人工知能など、人間以外の意識を確かめることに展開できる。

□ 統合情報理論 (IIT) の概要

IIT は、トノーニ氏 (ウィスコンシン大学) によって提唱された、意識に関する仮説。2004年に最初の論文が出た。以降、発展していて、今も途上にある。理論の本質はあまり変わっていないが、中身が変わっている。

2014年に発表した論文で、最新バージョンである IIT 3.0 を提唱しており、大泉氏が関わっている。日本語でも解説を書いている。

IIT を一言で言うと、意識を情報という観点から数学的に定量化しようとする試みである。

前段で述べた「意識の理論の創り方」に沿って IIT を見ていくと、次のようになる。

Step 0: 解こうとする対象としての問題を明記

IIT における Step 0:
(1) 意識の量的側面 (意識レベル)
(2) 意識の質的側面
(3) 意識の境界

これを解こうとしている。逆に言えば、これ以外は解こうとしていない。これ以外のことを気にしている人は、この理論は役に立たない。

IIT は、「意識のハードプロブレム」を解こうとする理論ではない。意識のハードプロブレムは、脳の電気信号の物理作用からどうやって主観世界が立ち現れるのかを問い、そのメカニズムの説明を要求している。しかし、それはできないと割り切り、IIT はそれをやろうとしていない。

IIT は逆をやっている。逆とは何かというと、主観世界としての意識がそこにあることをまず認めましょうというほうを出発点にする。なぜかは分からないけど、とにかく、あるのだとする。哲学で言うところの、フッサールの現象学をまじめに取扱いましょうということだ。

意識の存在を先に認めた上で、それをよくよく観察しましょう。そこから、意識の性質を抽出しましょう。その性質が生じるためには、物理的実体として、どういう条件がひつようになってくるかを導き出しましょう。この順番になっている。

つまり、意識のハードプロブレムは、物理的実体から、主観的体験がいかにして生じるのかを問うのに対して、IIT は主観的体験はすでに存在するものと認めた上で、そのためには物理的実体がどうあるべきかを問うので、方向が逆というわけである。

Step 1: 現象論から意識の性質を明記する

IIT における Step 1:
(1) 情報
(2) 統合
(3) 排他
(4) 構造

(1) 情報

一瞬一瞬の意識は非常に多くの情報を含んでいる。ある特定の意識が生じたときに、実は他の可能性もあったかもしれない。我々は、いろんな意識を体験する可能性がある中で、多くの可能性からひとつを選んでいる。

(2) 意識は常に統合されている

視覚クオリアを例にとると、左視野だけを意識してください、と言われても、できない。統合された全体としてしか対象を意識できない。りんごを見たとき、形と色を切り離して見ることはできない

(3) 排他

大きな意識の中に小さな意識が入れ子になって存在することはできない。可能性としては入れ子になっていてもおかしくはないけれど、実際にはそういうことは起きない。

右脳と左脳それぞれに独立して意識が宿り、なおかつ、脳全体でひとつに統合された意識も宿るということが、可能性としてはありうるけれども、実際には起きない。ひとつになっているときは、部分部分が排他されている。

一方、あなたと私は、それぞれ独立した意識をもつけれども、その上で、二人が統合されてひとつの意識が生じているということが可能性としてはありうる。しかし、実際には起きない。バラになっているときは、全体が排他されている。

(4) 構造

意識には構造がある。

Step 2: 意識の性質から導かれる仮説を数学で記述する

IIT における Step 2:
Step 1 で提示した性質を満たす条件としての仮説は、意識を宿す物理的基盤において、
(1) 意識を生み出すためには、情報を生み出すことが必要
(2) 意識を生み出すためには、情報の統合が必要
(3) 統合情報量 (Φ) が局所的に最大になる部分系 (コンプレックス)
  のみが意識を生み出しうる
(4) ネットワーク構造が意識の質に対応する

(1) 意識を生み出すためには、情報を生み出すことが必要

明るいか暗いかに応じて、電気信号を出したり出さなかったりするフォトダイオードは確かに情報を生じさせている。しかし、生み出す情報は、きわめて小さい。

(2) 意識を生み出すためには、情報の統合が必要

フォトダイオードを縦横に配列したデジタルカメラは、すごい量の情報を生成するので、いろんなものを弁別できそう。じゃあ、デジカメは自分が見ているものを意識できているか。できてないだろう。なぜかと言うと、デジカメの中ではそれぞれのフォトダイオードが独立に情報を出力しているだけであって、情報を統合する仕組みが実装されていないので。

(3) 統合情報量 (Φ) が局所的に最大になる部分系 (コンプレックス) のみが意識を生み出しうる

実際には、いろんな領域で統合情報量が発生している。脳内でも、局所的には視覚野だけでも統合情報量が正の値をもつ。脳全体でも然り。しかし、実際には、NCC と呼ばれる部分領域に意識は宿る。

二人の脳を包含する領域にも統合情報量が発生している。しかし、実際には、二人を合わせたひとつの意識というのは生じない。

あらゆる局所領域の中でも、Φ の値がいちばん大きいところにのみ、意識が宿っているらしい。

「分離脳」と呼ばれる症例がある。てんかんの治療として、脳梁を切断し、左脳と右脳との間の情報の連絡を遮断すると、とんでもない副作用が起きる。左脳と右脳それぞれに別個の意識が宿り、一人が二人になってしまう。左手が服のボタンをかけていく端から、右手がはずしていくとか。

逆に言えば、左脳と右脳、片方ずつでもそれぞれ意識を宿しうるのに、それらを脳梁で接続したとたんに、意識はひとつに統合され、それぞれの意識は消滅してしまう。このこと自体が非常に不思議である。

二人の脳間を太い電線でつなぐことによって、一人一人の Φ よりも全体の Φ のほうが大きくなれば、二人の意識が統合されて、一人になっちゃう可能性がある。実際になりましたという報告はまだないけど。

(4) ネットワーク構造が意識の質に対応する

視覚クオリアか聴覚クオリアかといった、意識の種類の差異に対応する、情報の構造の差異がなくてはならない。情報の構造をどう定量化するか、ここでは割愛する。

Step 3: 実験によって仮説を検証する

Step 4 に進む前に確立しておかなくてはならない、重要なステップである。仮説自体を実験的に検証しておいて、ある程度確からしいということになっていないと、そこを飛ばして先へ進んでも、批判に耐えきれない。これをいちばん重視している。いろいろやってはいる。

Step 4: 人間以外の意識の評価にも展開できる可能性がある

重要なのは、仮説に情報しか出て来ない点にある。つまり、情報が本質なのであって、情報を媒介するネットワークが何でできているかについては、何も規定していない。言い換えれば、脳に限った話だとは言っていない。その意味で一般性がある。IIT を人工知能についても適用して、同じように議論することができる。

ただし、Step 3 が確立していない現時点において、Step 4 のことを言うのは性急に過ぎると言える。

IIT まとめ。IIT では、自分自身の意識への観察から、まず意識に本質的な性質を同定した (Step 1)。これが、IIT の考える意識の定義に相当する。その性質は、情報、統合、排他、構造。

そこから仮説を導き出す。IIT の言う意識の本質的な性質を満たすために、物理系が満たすべき条件を仮説として提唱。その仮説は、
(1) 意識を生み出すためには、情報を生み出すことが必要
(2) 意識を生み出すためには、情報の統合が必要
(3) 統合情報量 (Φ) が局所的に最大になる部分系 (コンプレックス)
  のみが意識を生み出しうる
(4) ネットワーク構造が意識の質に対応する

IIT では意識の本質は情報にあると言っていて、情報を媒介するネットワークの媒質については、何も規定していないので、人工知能の意識を議論することにも適用可能である。ただし、その前に、理論を実験的に検証しておく必要がある。

IIT では、どのステップもまだちゃんとできていない。理論として、まだ赤ん坊だけど、しかし、指針になるとは思っている。

□ AI の意識を論じる上で重要なのは中身

AI において、それがどんな機能を提供するかはもちろん大事だが、たいていの場合、そっちばかりが重視され、中身の話が置き去りにされる。しかし、AI に意識が宿りうるかどうかを議論する上で重要なのは、機能よりも中身である。

機能はまったく一緒だけど、構造が違う 2 種類のネットワークを例にとる。外から見る限りにおいては、中身はブラックボックスで、入力と出力だけが観察しうる対象となる。

左と右とは、入力と出力との関係が、まったく同一である。その意味おいて、外に提供する機能としては、同一であると言える。外から眺める限りにおいて、区別がつかない。

しかし、ブラックボックスのふたを開けてみれば、中のネットワークの構造が異なる。右側の例では、情報の流れが入力から出力へ向かう「フィードフォワード」の一方向しかなく、統合情報量 Φ の値はゼロである。一方、左側の例では、フィードバックがあり、Φ の値は 0.39 である。

これが示唆するのは、外からの見た目の機能は同一でも、中身の構造が異なれば、一方には意識があって、他方にはないということがありうるということである。哲学的ゾンビは見破れない、ということに相当する。

「中国語の部屋」において、辞書引いてるだけの機構には情報の流れにフィードフォワード方向しかなく、情報の統合も構造もない。つまり、IIT によれば、意識が宿っていないことになる。

ブラックボックスのふたを開けて、中身がどうなっているか、情報の構造を見ることが、意識の理解に重要。

IIT は意識を宿す媒質を規定しない、一般性のある理論なので、これを適用して、情報という観点から、人間の意識、寝ている人の意識、赤ん坊の意識、猫の意識、ロボットの意識を同じように評価することができるようになる可能性がある。

【所感】

□ バトる必要はない

3 月に予定されているシンギュラリティサロンでは、渡辺氏と大泉氏が登壇して、ディスカッションを繰り広げることになっている。もともとのタイトルは『意識をめぐる大バトル』だったような気がするが、『意識をめぐる大冒険』に緩和されている。おそらく大泉氏の希望によってそうなったのであろう。

聴講する側にとっては「バトル」のほうがわくわくするけれど、実際に戦いにする必要はない。平和なのはいいことだ。

渡辺氏は、意識が情報に宿るとする IIT の基本コンセプトに異議を唱え、情報それ自体は意味をもたない単なるビット列 (0 と 1 の連なり) にすぎず、それに意味を与えるのは解釈する側にあるのだから、意識はアルゴリズムに宿るはずだとしている。そこにひとつの対立軸が見える。

しかし、IIT でも情報そのものに意識が宿るとは主張しておらず、それを処理する仕組みの構造に宿ると言っているように筆者には思える。大泉氏は、「よくよく話し合ってみれば、お互いにそんなにかけ離れたことを言ってはいないのではないかなぁ」と述べている。

現段階において IIT は意識を数理モデルとして提示してみただけの仮説にすぎず、いちおう、今までに得られている分離脳などの知見とは矛盾しないように考えられてはいるけれど、実験による検証はまだまだこれからの話である。今後、動物を使った実験なども必要になってくるのではあるまいか。

渡辺氏は「僕、手術は得意ですよ」と言っていた。もっとがっちり手を組んで、協力しあって研究を進めていくという線はないのだろうか。大泉氏「それは大いにありうる話だと思います」。バトルよりはそっちがいいと私も思う。

□ 茂木氏より上、ってはずはない

1月11日(金) に配信した前編について、翌日、金井氏が twitter でほめてくださっている。

Ryota Kanai @kanair_jp
セーラー服おじさん、意識研究相当詳しい。研究者でもIITの意味についてここまで理解している人少ないのではないか。
Otaku ワールドへようこそ![295]統合情報理論—意識は、見た目の機能より、中身の仕組みに宿る(前編)/GrowHair – 日刊デジクリ http://bn.dgcr.com/archives/20190111110100.html … @dgcrより
13:42 – 2019年1月12日

いやぁ、意識研究の第一人者からお墨付きがいただけたようで、たいへん光栄なことです。

このツイートには、1月23日(水) の時点で、「いいね!」が 148 個つき、リツイートが 55 回されている。金井氏のフォロワーには、たぶん人工知能や脳科学方面の研究に携わる錚々たる面々がいらっしゃるに違いなく、そういう方々にも読んでいただけたのだとしたら、さらにうれしい。

しかし、金井氏ってば、その 6 分後とさらに 6 分後に次のようにもツイートしている。

Ryota Kanai @kanair_jp
IITが出てきた頃、そして今もそうだけど、批判があまりに的外れで、本質的なところを理解しないで表面的に結論について議論している人が多かった。それで、わかっている人とわかってない人と分断が起きている。
13:48 – 2019年1月12日

Ryota Kanai @kanair_jp
例えば茂木さんがIITを統計的と評しているが、その時点でこの人はIITについて何も理解していないなと理論を知っている人には明らかで、IITは因果を扱おうとしているのにと反応するのが割と普通だと思う。茂木さんはともかくプロの意識研究者でも的外れな批判が多い。
13:54 – 2019年1月12日

これだとまるで、オレのほうが茂木さんより上、みたいなことになっちゃうけど。いくらなんでもさすがにそれはない。弁明というと逆みたいだけど、とにかく否定しておかなくてはなるまい。

まず、私はこの聴講レポートを書くにあたり、ある種の特権にあずかっている。書いたものは後ほどシンギュラリティサロンの公式サイトに掲載していただける話になっており、大泉氏からスライド資料をもらっており、運営スタッフからは講演を録音した音声ファイルをもらっている。

それを忠実に文字起こしする作業は、内容を理解していなくてもできることである。その過程をブラックボックスにして、出力された結果だけを外から眺めれば、まるでよく理解しているようにみえちゃうという、まさに「中国人の部屋」である。もしかするとオレは哲学的ゾンビかもしれない。

それと、IIT の本質は統計ではない、という点について、私はどれほど理解しているだろうか。

□ IIT は統計か

次のような問題を考えてみよう。

あなたは大腸ガンの検査を受けました。その結果は陽性でした。この検査について、以下の 2 点がわかってます。
1. 大腸ガンの人の 98% は、この検査で陽性になる。
2. 大腸ガンじゃない人の 2% は、この検査で陽性になる。
さて、あなたは大腸ガンでしょうか?

これはまあ確率・統計の問題であることに間違いはないでしょう。

で、こんな精度の高い検査で陽性の結果が出たとしたら、もう間違いなく大腸ガンだ、と思うでしょうか。いやいや、悲観するのはまだ早い。実は、この問題を解くために必要な数値がひとつ、提示されていません。

そもそも大腸ガンに罹る確率って、いくらなんでしょう? それが効いてきます。私はよく知りませんが、仮に、10,000 分の 1 としておきましょう。これを「事前確率」と呼びます。

すると、あなたが大腸ガンに罹患していて、なおかつ、検査で陽性が出る確率は、両者の確率 (10,000 分の 1 と 100 分の 98) を掛け合わせて、1,000,000 分の 98 と算出できます。一方、あなたが大腸ガンに罹患してなく、なおかつ、検査で陽性が出る確率は、両者の確率 (10,000 分の 9,999 と 100 分の 2) とを掛け合わせて、1,000,000 分の 19,998 と出ます。

つまり、陽性の検査結果を知った後では、あなたが大腸ガンに罹患している確率と罹患していない確率との比率は 98 対 19,998 であり、まだまだ罹患していない確率のほうが圧倒的に高いわけです。約 200 倍です。これを「事後確率」と呼びます。

じゃあ、この検査には意味がなかったのかと言えば、そういうことではありません。もともとは大腸ガンに罹患している確率が 0.01% だったのが、陽性の結果を受けて約 0.5% にまで跳ね上がったので、その分の情報は得られているわけです。

この検査にとって、原因にあたる情報は、被験者が大腸ガンであるかないかであり、結果にあたる情報は、陽性か陰性かです。

問題文に示されている 98% という確率は、原因が大腸ガンであった場合に限定した上での、結果が陽性になる確率です。これを「条件つき確率」と呼びます。

今、知りたいのは、陽性という結果を見た上での、原因が大腸ガンである確率であり、これは逆向きの条件つき確率です。順方向の条件つき確率から逆方向の条件つき確率を求めるための数式を示しているのが「ベイズの定理」です。

この問題は、ベイズ統計の問題だったと言えるでしょう。

さて、IIT は、ベイズ統計そのものってわけではないのですが。ネットワークの上を情報が流れることによって、どれほどの情報が得られたか、あるいは、情報の流通経路を恣意的に遮断することにより、得られる情報がどれほど減ったか、というようなことを量的に扱います。情報量は、確率 p に対して、- p log(p) の形をしており、これをエントロピーと呼びます。

情報をこういうふうに量として取り扱っているという点において、IIT は統計の手法を利用していると言ったとしても、まったく間違っているとは言い切れないような気がします。

しかし、意識があるかないかを確率として求めようという話ではありません。怪しげなおじさんが変な箱を抱えてきて「こいつには意識が宿っているんですぜ」と言ったとしたら、信じてよいでしょうか。IIT は、こいつに意識が宿っている確率がいかほどかを統計的に算出しよう、と言っているわけでは、断じて、ありません。この意味において、IIT は、統計ではありません。

細部の議論抜きに IIT は統計か、と言ったら、そうだとも言えるし、そうでないとも言えるような気がします。

そこよりも、ツッコみたい点は…。「IIT を始めとする統計的手法では、意識の本質の解明ができないと論理的に確信しています」とおっしゃるなら、その論理の道筋を知りたいです。今のところそれを具体的に書いたものは発見できてませんが。

とりあえず動画 11 本は見てきましたが、今後に期待ですかね?

□ 意識の第一人称性の壁をどう突破するか?

すべてのネットワークは、入力と出力との対応関係を同じくし、なおかつ、Φ = 0 になるような別のネットワークに置き換えることが可能か?

入力の組み合わせが有限通りしかなければ、辞書を用意しておけば済む話なので、もちろん可能である。

しかし、有限でなかったらどうか。たとえば、アッカーマン関数の値を計算する仕組みは、Φ = 0 のネットワークで実現しうるか。

あるいは、コラッツの問題を、実際に数値計算するプログラムとか。

コラッツの問題とは、「任意の正の整数 n をとり、(1) n が偶数の場合、n を 2 で割る、(2) n が奇数の場合、n に 3 をかけて 1 を足す、という操作を繰り返すと、どうなるか」というもの。

たとえば、9 から始めると、9 → 28 → 14 → 7 → 22 → 11 → 34 → 17 → 52 → 26 → 13 → 40 → 20 → 10 → 5 → 16 → 8 → 4 → 2 → 1 という道をたどって、1 に至る。その後は、1 → 4 → 2 → 1 とループする。

いろいろ試してみると、いつも結局は 1 に至る。では、どんな自然数から始めても必ず 1 に至るのか、という問題。未解決である。

もし、どんなネットワークも、それと (入出力関係が) 同値な Φ = 0 のネットワークに置き換え可能だとすると、ゲーデルの不完全性定理と矛盾するような気がする。

そうだとすると、どうしても Φ = 0 のネットワークに置き換えることのできない機能が存在することになる。ブラックボックスのふたを開けて中身を見てみるまでもなく、その機能を提供することをもって、Φ が正の値をもつことが保証されている機能が存在するのではないか。

たとえば、それがアッカーマン関数を数値計算する機能だったとすると、そんなものに意識が宿ってたまるか、という気がする。言い換えれば、IIT の逆方向の仮説 (Φ の値が大きなネットワークには、おのずから意識が宿る) が否定されたことになりはしないか。

大泉氏に聞いてみると、それに類することを言っている論文が出ているという。ある機械的な作業によってネットワークをどんどん建て増ししていけば、Φ の値を限りなく大きくしていけるというもの。そんな単調なネットワークに意識なんか宿ってたまるか、というわけである。

それに対するトノーニ氏の答えは「いやいや、宿っているかもしれないよ」だったという。

この議論に決着をつけようとするならば、IIT の外から審判を連れてこないとならない気がする。他人の意識は分からない「意識の第一人称性」という限界は依然としてそこにある。

IIT は、もし実験による検証が済んで、理論的仮説から実証済みの定説へと昇格した後でなら、この壁を突破するツールとして用いることができる。しかし、現段階では、IIT それ自体が、壁を突破する方法を提示するものではない。

IIT の正しさを実験によって検証しようとするならば、意識の第一人称性の壁を突破する方法を、外から持ち込んで来ないことには、手をつけ始められないないのではあるまいか。

渡辺氏は、外科手術を伴う方法により、突破が可能だとしている。そこに協力の可能性がありそうな気がするが、どうなのだろう。

□ 余剰次元説はどうか

1月22日(火) に配信されたメルマガ「日刊デジタルクリエイターズ」において、武盾一郎氏は意識の余剰次元説を唱える種市孝氏の講演動画を紹介していた。
http://bn.dgcr.com/archives/20190122110200.html

種市氏のことは武氏から聞いて初めて知り、その動画を見てきた。スーパーおもしろい。こういうのを待ってた。

意識の謎に対して科学的にアプローチする現行の研究において、ほとんどが次の仮定に依って立っている。原子や分子の一個一個に意識は宿っておらず、それが集まってできた脳神経細胞の一個一個にもおそらくまだ意識は宿っておらず、脳神経細胞の間で情報をやりとりするネットワークの階層構造において、上位の階層に意識が宿るという仮定。

私はこの大きなくくりを「意識の創発仮説」と呼んでいる。当分の間は創発仮説の仮定の下で研究を進めていけるけど、いずれは行き詰るんじゃないかと予感している。

そのあとで出てくるのは、ロジャー・ペンローズ氏の量子脳説みたいなやつである。種市氏の唱える余剰次元説も、創発説の部類には属さない。案外、正鵠を射ているかもなぁ、と思う。

しかし、余剰次元は、量子論と相対論とをがっちゃんこするために考え出された数理上の仮説にすぎず、そっち方向のものを実際に見てきた人はいないわけで、余剰次元仮説は現段階では検証する手段がないかもしれない。

そうだとすると、当分の間は、スピリチュアル方面でよく見かける、言いっぱなしの不毛な妄想と区別がつきづらいかもなぁ。

ただ、幽霊やテレパシーや前世記憶や未来予言のようないわゆる超常現象をひとくくりに「科学的でない」と決めつけて、ばかばかしいことだと切り捨てようとする態度は、実は俗な科学信仰に属するもので、かえって科学的ではないと思っている。科学がそういうもの全般をちゃんと否定できたという話は聞かない。

ただ、雷が電気現象だと解明したことで、神々の怒りとする説が否定された例にみるように、科学は適用範囲を徐々に拡大していき、もろもろの自然現象を、物理原理に基づいて説明づけられるようになっていくという流れはある。青虫が葉っぱを食っていくように、科学は神秘を食っていく。

今現在、不思議な超常現象と言われているようなことも、いずれは科学の進歩の流れと合流して、合理的に説明づけられるようになっていくんだろうなぁ、とは思っていて。そこは、講演者の言っていることに、大いに共感する。

ただ、私自身は、まだ超常現象の方面には触りたくないという気持ちがある。議論がややこしくなるから、というのがひとつ。

それともうひとつ、われわれにふつうに意識があること、それ自体が超常現象にもまさる不思議なことで、もうそれだけで不思議はゲップが出るほどだ、という気持ちがある。分離脳だってそうとうおかしい。

ただ、生前記憶や気で動物を眠らせることなどが、事実としてちゃんと裏付けが取れるのであれば、意識の理論を構築する上で、参考情報として取り込んでいくという線はプラスになりうるかもしれないとは考えている。

意識の謎について、人類はまだ正解を知らない。じゃあ、誰がいちばん正解に近いところにいるのだろうか。種市氏だという可能性を否定しないし、むしろ、期待すらしている。

(報告:小林 秀章)

—————–
*講演資料:

シンギュラリティサロン#30 渡辺正峰「『人工意識の脳接続主観テスト』が切り拓く意識の科学のこれから」

『シンギュラリティサロン #30』(7/21(土)) 聴講レポート

名称: シンギュラリティサロン 第 30 回公開講演会
日時: 2018年7月21日(土) 1:30pm ~ 4:00pm
場所: グランフロント大阪・ナレッジサロン・プレゼンラウンジ
主催: シンギュラリティサロン
共催: 株式会社ブロードバンドタワー、
   一般社団法人ナレッジキャピタル
講師: 渡辺 正峰氏 (東京大学大学院工学系研究科 准教授)
演題: 『「人工意識の脳接続主観テスト」が切り拓く意識の科学のこれから』
講演概要:

研究対象としての「意識」は、長らく哲学と科学の間を彷徨ってきた。意識の仮説を検証する術を我々が持たないためだ。素直に考えれば、意識を有する脳を用いて仮説群を検証すべきところだが、生体である宿命から、仮説検証に必要な「意識の本質」の抽出が許されない。無理に抽出しようとすれば、今度は脳が死んでしまう。ここで「意識の本質」の候補をあげるなら、哲学者のチャーマーズは、すべての情報が意識を生む (「情報の二相理論」) と主張し、神経科学者のトノーニは、統合された情報のみが意識を生む (「統合情報理論」) と主張している。

拙書『脳の意識 機械の意識』(中公新書) ではこの壁を乗り越えるべく、機械へと意識を宿す試み、すなわち、アナリシス・バイ・シンセシスによって意識の本質へと迫る手法を取り上げた。ここで必須となるのは、機械の意識を検証する手法である。空気がなければ飛行機械の開発がままならないように、人工意識の検証法なくして、アナリシス・バイ・シンセシスによる意識の探求は成立しない。

私が提案するのは、「人工意識の脳接続主観テスト」[1]である。当該機械を自らの脳に接続することにより、自らの意識をもって機械の意識を“味わう”。ただし、人工網膜や人工鼓膜によっても感覚意識体験が生じてしまうように、単に脳に機械を接続すればよいというものではない。テストの可否を握るのは、機械に意識が宿った場合にのみ、脳との間で感覚意識体験が共有される機械と脳の接続のあり方だ。ヒントとなるのは、ロジャー・スペリーによって二つの意識が共存することが示された分離脳である。検証の原理が指し示されることにより、意識の科学が「真の科学」(仮説提案と仮説検証の繰り返しによる本質の追求) へと昇華することが期待される。

最後に「人工意識の脳接続主観テスト」を思考実験として用いることにより、情報に意識が宿るとするこれまでの仮説群の問題点を指摘し、その代案として、神経アルゴリズム (生成モデル) が意識を生むとする自身の仮説 [2] を紹介する。

[1] Watanabe, M. (2014). “A Turing test for visual qualia: an experimental method to test various hypotheses on consciousness.” Talk presented at Towards a Science of Consciousness 21-26 April 2014, Tucson: online abstract 124

[2] 渡辺正峰 (2010)「意識」『イラストレクチャー 認知神経科学 ― 心理学と脳科学が解くこころの仕組み』村上郁也編、オーム社

定員: 100名
入場料: 無料
聴講者: 小林 秀章 (記)
https://singularity20180721.peatix.com/

【タイムテーブル】

13:30 ~ 15:00 渡辺 正峰氏 (東京大学大学院工学系研究科 准教授) 講演
『「人工意識の脳接続主観テスト」が切り拓く意識の科学のこれから』
15:00 ~ 15:30 自由討論

【ケバヤシが聴講する狙い】

意識の謎が常に頭から離れなくなって、「無限後退思考障害」という名の (実在しない) 病に罹患しているほどの私であるから、この講演会を聴講しに行かないという手は考えられない。

もともとの必然性の上にさらに必然性を上塗りする、ちょっとした裏話がある。

2018年3月11日(日) 10:12am、シンギュラリティサロンを主宰する松田卓也氏 (神戸大学名誉教授) から facebook でメッセージが届いた。

この日は、大手町サンケイプラザにてシンギュラリティサロンが開催され、中野圭氏と中ザワヒデキ氏が講演する予定になっており、出かける準備をしているところだった。
https://peatix.com/event/351900

松田氏からのメッセージは、本文がなく、産経ニュースの記事にリンクが張ってあるだけ。記事は、渡辺正峰 (まさたか) 氏の著書を紹介する内容であった。

  2018.3.10 07:24
  産経ニュース
  高みをめざしたチャレンジ『脳の意識 機械の意識 脳神経科学の挑戦』
  渡辺正峰著
  上林達也 (中公新書編集部)
  http://www.sankei.com/life/news/180310/lif1803100019-n1.html

記事自体は前日に上がったものだが、渡辺氏の著書は、去年の 11月に出版されている。

  渡辺 正峰 (著)『脳の意識 機械の意識 ― 脳神経科学の挑戦』中央公論新社 (2017/11/18)

無限後退思考障害に陥るほどの私であるから、そんなのはとっくに読了していた。… と言いたいところだが、不覚にも、チェックから漏れていた。私の関心をよーく把握していて、そのド真ん中を衝いてくるような本を紹介してくれた松田氏に感謝しつつ、即、Amazon でポチる。

facebook に渡辺氏がいるのを見つけ、「友達」申請を送る。まだお会いしてもいないどころか、著書も読んでいないうちから、馴れ馴れしくて失礼かな、と多少は気にかけつつも、ずうずうしく。翌日、12日(月) 7:54pm に承認していただけた。

3月26日(月) には読み終わり、そこらじゅうのページの端が折り曲げてあり、赤のボールペンで書き込みだらけという状態になった。

7月14日(土) に町田で開催される「NHK カルチャー」で講演することになったと渡辺氏が facebook でアナウンスし、私は 5月19日(土) に聴講申し込みしている。
http://www.nhk-cul.co.jp/nhkcc-webapp/web/WKozaShosaiInsatsu.do?kozaId=1670698

その後で、シンギュラリティサロンのアナウンスがあった。まず、6月23日(土) に大手町サンケイプラザで。
https://peatix.com/event/392444

このとき初めて渡辺氏にお会いした。開始直前、すでに壇上に上がっている渡辺氏のところへ松田氏が私を呼んでくれて、紹介してくださった。「真面目な人なんです」と。その真面目な人の姿が、どう見ても変態にしか見えない、セーラー服を着たおっさんだったのはシュールだったかもしれない。

それから、7月7日(土) に大阪で。
https://singularity-salon-30.peatix.com/

この大阪の回が大雨で延期になり、今回、7月21日(土) の開催となった。
https://singularity20180721.peatix.com/

ってことは、3月にリンクだけを送ってきた松田氏の facebook メッセージは、「シンギュラリティサロンに渡辺氏を呼ぶからね」っていう予告だったのか。そこまでは読み切れなかったっす。

さらに、8月7日(火) には、原宿で茂木健一郎氏 (脳科学者、作家) との対談『身体と意識 (Body & Conscious) ― 脳の未来を科学する ―』が開催された。
https://bodyandconcious.peatix.com/

私の中で渡辺氏ブームが起きている。難解なところは多々あっても、さすがに 4 回も聴講すれば記憶には刷り込まれ、なんなら、風邪引いたから代打でしゃべってくれ、って言われたら、できちゃいそうだ。魂の入っていない、ものまねロボットになっちゃうだろうけど。

【内容】

(やや難解な箇所を理解しやすくする狙いから、報告者が順番を再構成したり、解説を付加したりしています。)

□ 松田氏よりイントロ

このところ「意識シリーズ」というのを意識的にやっている (※)。慶応義塾大学の前野隆司先生から始まり、アラヤの金井良太氏と続き、前回が中部大学の津田一郎先生だった。今回は、東京大学の渡辺正峰先生。さらに次回はアラヤの大泉 匡史 (まさふみ) 氏を予定している。

※ 松田先生は、シンギュラリティを起こすという観点からすれば、機械に意識なんか宿ってないほうが人間にとって都合がよいとお考えで、意識の謎の深みに引き込まれているのはむしろ私のほうだ。意識シリーズは私にとって、非常にありがたい。

このシリーズ、セーラー服おじさんが講演者候補をサジェストすることが多いけど、渡辺先生に関しては、松田先生が“発見”した。著書に『脳の意識 機械の意識』があり、これを読んで、お呼びしなきゃとなった。ところが、連絡が取れなくて、えらく大変だったのだとか。

渡辺氏は、日本の研究者たちとそれほど密には交流をもたないようで、人づてに連絡をつけようとしても、近い位置にいるはずの人でさえ、どこにいるか分からないという。教授会に出てこないんだとか。さては、地下の実験室にこもって出てこない、天才ならではの変人か。かつて、研究に没頭するあまり日露戦争に気づかなかった学者がいたらしい。

東大の大学院生の三上氏という方が、連絡つきますよ、と facebook で言ってくれた。ドイツにいますが、と。神経科学の権威であるニコル・ロゴセシス氏のもとへ行っていることが多いんだとか。

お呼びしたら、セーラー服おじさんのほうがハマってしまい、ほとんど追っかけ状態で、前回の東京でのシンギュラリティサロンに引き続き、町田にも行ったそうで (報告者注: はい、その顛末については後述します)。

□ 渡辺氏より自己紹介

哲学者ジョン・サールの言葉。「脳を研究して意識を研究しないのは、胃を研究して消化を研究しないようなものだ」。

渡辺氏は、サール氏の示唆を地で行き、脳の研究を通じて意識を研究している脳科学者である。

意識研究は、哲学と科学の間をさまよっている状態が、数千年来続いている。仮説は出てくるけど、検証できなくて、同じところをぐるぐる回っている。これを何とか打開したいというのが、著書『脳の意識 機械の意識』を書く動機だった。一番のポイントが主観テストなのだが、今日の話の途中ぐらいで出てくる。

もともとは東京大学の合原一幸教授のもとで、脳の理論研究をやっていた。他人の研究の出がらしみたいなデータを使っていたが、出がらしだけあって、おいしいところはすでに持っていかれている。自分の立てた仮説に沿って実験を組み立てたくなり、理論から実験のほうへ流れていった。

まず目をつけたのが、心理実験。認知心理学者である下條信輔先生 (カリフォルニア工科大学教授) のもとで、一年間勉強した。しかし、心理実験では仮説検証に不十分と感じ、やっぱりサルを使って、実際にニューロンを計測しなきゃと思うようになって、ドイツのロゴセシス先生のところへ行った。

2005年ごろから数年のつもりだったのが、10年ほど行っていた。下條先生の下にいたころ、意識の問題に出会い、金井良太氏や土谷尚嗣氏からインスパイアされてしまった。

もうひとつ裏テーマがあり、対象に意識が宿っているかどうかをテストする方法を提案し、その可能性について考えてみたい。

□ 錯視を通じて実感できる「意識」とは

意識とは何か、言葉をもって客観的に定義しようとすると、ややこしいことになりかねない。しかし、実感をもって「なるほど、これが意識か」と手っ取り早く分かる手段がある。

ロゴセシス先生が、サルの実験を通じて、どうやって意識を研究したのか。「両眼視野闘争」という、若干、物騒な響きのある錯視がある。右目と左目とが、意識を奪い合う。

現実の景色を両目で眺めているとき、右目と左目の位置が離れているため、左右の目は、物体をほんの少しだけ異なる角度から見ている。なので、左目の見ている映像と右目の見ている映像とは、異なっている。近くにある物体ほど、それを見る角度のずれが大きいので、映像の相違も大きくなる。

この相違を利用して、自分から物体までの距離を算出することができる。おかげで、われわれは周囲にあるものを三次元的にありありと頭の中に描き出すことができる。これが両眼立体視である。

では、もし、左右の目に対して、どうがんばっても立体像を構築できないくらい、がらっと異なる映像を強制的に見せたらどういうことが起きるか。

この実験は、赤青メガネを使って簡単にできる。グレーの地の上に赤い縦縞模様と青い横縞模様とを重ね合わせた図柄を用意する。赤と青の重なり部分は紫色に塗られている。

この図柄を、赤青メガネを通して見る。左目には赤、右目には青の半透明のフィルタを通して映像が入ってくる。赤いフィルタを通して見ると、グレーと赤の区別がつかなくなるので、青い横縞模様が見える。一方、青いフィルタを通して見ると、赤い縦縞模様が見える。

立体像復元問題を解決できない無茶苦茶な入力に対し、われわれは、いったい何を見るのか。渡辺氏は、聴講者に赤青メガネを配布し、実際に体験させてくれた。

結果、縦縞か横縞かのどちらか一方だけしか見えず、それがぱっぱぱっぱと切り替わる、不思議な現象を体験する。切り替わるタイミングは周期的ではなく、不規則である。右目と左目とが、自分が見ている映像こそ本物であると主張しあって、結論としての映像を奪い合うような現象である。

このとき、今現在見えているのがどっちであるか、それが視覚のクオリアである。元となる絵柄自体は何も動かないので、この切り替わりの現象は、純粋に主観の側の作用であることが明確なのがミソである。

左目で見ている景色の左半分と、右目で見ている景色の左半分とが、右脳へ行く。両者の右半分は左脳へ行く。左右それぞれの目で見ている絵の情報は、ちゃんと左右の脳半球までは間違いなく届いている。今現在、こっちの絵が見えている、というのは、主観の側の現象である。

とにかく、ものが見えていれば、それが視覚のクオリアである。音が聞こえていれば聴覚のクオリアだし、においや味がしていれば、それぞれ嗅覚と味覚のクオリアだし、痛みを感じていれば、痛みのクオリアだし、オタクはメイドさんから萌えのクオリアを感じ取っているかもしれない。

どれかひとつでもクオリアが生じていれば、そこに意識があると言える。睡眠中、五感からの情報入力が遮断された状態にあっても、夢をみているときにはクオリアが生じている。なので、意識がある。

デジタルビデオカメラを使えば、リアルタイムで映像情報を取得することができるが、カメラ自体が、映像が見えていると感じ取っているとは考えづらく、おそらく意識は宿っていない。二眼式 3D カメラで縦縞・横縞の実験をしても、カメラ自身が両眼視野闘争を起こすことは、もちろんない。

ある人が両眼視野闘争を経験している最中において、それを眺める他人からは、今現在、この人がどっちを見ているのか、直接的に知る手段は存在しない。他人の意識をみるには、その人の自己申告を信じる以外にない。このことを指して、意識は「第一人称的」であるという。

サルは、両眼視野闘争が起きるので、意識があると考えられている。縦縞が見えているか、横縞が見えているかに応じて、左右それぞれのレバーを引くようにサルを訓練しておいて、上記の実験をすれば、今現在、どっちが見えているかを自己申告してくれる。

結果、人間と同じように、不規則なタイミングで、ぱっぱぱっぱと切り替わる。サルの自己申告を信じれば、サルにも意識があることになる。

サルを訓練するだけで 2年ぐらいかかるのだが、ヒトではなく、わざわざサルを使って実験する意味は、両眼視野闘争の最中に脳のどの部位のニューロンが発火しているのかを観察できる点にある。

脳に電極を入れていいことになっているのは、ニホンザルとアカゲザルで、チンパンジーとオランウータンはやっちゃいけないことになっている。違う目的のついでであれば、ヒトに対してもやっていいことに、なぜかなりつつあるんだとか。

哲学者であるデイヴィッド・チャーマーズ氏は、思考実験上の仮想的な存在として「哲学的ゾンビ」というのを 1990年代に提唱した。外からみると、その人はいかにも意識を宿しているように振る舞うが、その実、本人にとっては、映像も見えてないし、音も聞こえていないし、痛みも感じていないし、夢もみないし、萌えもしない。

もし、自分以外が全員哲学的ゾンビだったとしても、それを見抜く手段はない。また、他人から「おまえ、ゾンビだろ」と嫌疑をかけられたとしても、身の潔白を立証する手段はない。ここに気がつくことは、意識を理解する上での第一歩と言える。

意識とは、第一人称的な感覚体験のことだ、と言える。

□ 意識は脳のどこに宿るか

大脳や小脳が腫瘍などで損傷を負った場合、記憶や運動がどうかなることはあっても、意識それ自体はびくともしない。一方、皮質や視床あたりが損傷を負うと、途端に、意識がどうかなってしまう。このことから、意識は脳全体にわたって宿るわけではなく、ある特定の部位が役を担っていると考えられる。

1990年に神経科学者である Francis Crick 氏と Christof Koch 氏が「意識に相関する神経活動 (neural correlates of consciousness; NCC)」という概念を提唱している。ある特定の意識的知覚を共同して引き起こすのに十分な、最小の神経メカニズムとして定義される。Wikipedia には「意識に相関した脳活動」という見出しがある。

両眼視野闘争が起きている最中、脳のどの領域の神経細胞 (ニューロン) が発火しているかをサルで調べてみると、どちらか一方が見えているときにだけ発火率の高い領域があるので、そのあたりは意識に関わっているかもしれないと推測することができる。

しかし、NCC をちゃんと特定しようとすると、緻密な論理運びに基づいた綿密な実験構成が必要で、それはそれはたいへんな苦労を強いられる。特に、第一次視覚野 (V1) が NCC に含まれているかどうかについては、説が揺れて、2011年に渡辺氏が決定打を放つまで、20年以上かかっている。渡辺氏はこれを「V1 をめぐる仁義なき戦い」と呼んでいる。

網膜に映った倒立画像が、V1 から V4 まで順々に伝達されていき、低次の視覚野は、点や線や縞模様など単純なパターンに反応するニューロンが占め、高次の視覚野は、顔などに反応するニューロンが占める。V1 を強制的に機能しなくすれば、もちろん何も見えなくなるのだが、だからと言って、V1 が NCC に含まれていると結論づけるわけにはいかない。

目をふさいでしまえばものは見えなくなるけれど、目に意識が宿っているわけではないのと同じことだ、という理屈である。目からの入力がなくたって、夢をみている最中には、視覚クオリアが生じている。

あるいは、ラジオから電池を抜いてしまえば、ラジオは鳴らなくなるけれど、だからといって、電池がラジオの本質に関わるとは言えない。AC 電源で代用することだってできる。

V1 が NCC に含まれるかどうかを、ネズミを使った実験によって特定しようと考えたが、ネズミでは両眼視野闘争が起きていないらしいと分かるだけで 3年を要し、絶望的な気分になったのだとか。

錯視の二大巨頭とされる、もう一方に、「ビジュアル・バックワード・マスキング」というのがある。

ある画像、たとえば、縦縞模様などをほんの一瞬だけ表示すると、意識の側は、数百ミリ秒遅れて、それを認識することができる。この画像をターゲット刺激と呼ぶ。

ところが、ターゲット刺激を表示してから、70 ~ 80 ミリ秒後に、別の画像、たとえば、チェック模様などをほんの一瞬だけ表示すると、最初の画像が表示されたことはまったく認識されなくなり、後のほうの画像だけが一瞬だけ表示されたと認識する。この画像をマスク刺激と呼ぶ。

ターゲット刺激からマスク刺激までの時間幅を長くしていくと、133 ミリ秒くらいのところから、ぱぱっと両方が表示されたと認識できるようになる。

ターゲット刺激が脳のどこかでぐるぐる回って待機しており、一定時間内に別のものが来なければ意識にのぼるが、マスク刺激が来ると上書きされて消えてしまうのだと考えられる。

ターゲット刺激が V1 を通り抜け終わったとみられるまでの短い時間を経たのちに、V1 を強制的に機能しなくして、それでもやっぱり知覚に影響が及ばないことが分かれば、V1 は単なる情報の通り道にすぎず、NCC に含まれないという結論になる。

脳に人工的に手を加えることによって、因果性があるのかどうかを見分けることを「操作実験」という。

脳の特定の部位だけに対して、精密なタイミングで強制的に発火を抑制する、画期的な手法が開発された。「オプトジェネティック抑制」という。遺伝子工学的手法を用いて脳の特定のニューロンに細工を施すことで、光を照射することにより強制発火させることができるようになる。

抑制性のニューロンにこの細工を施すことにより、ごく近接したニューロンだけを一斉に黙らせることができる。この瞬間、その脳領域は存在しないのと同じことになる。しばらくすると回復する。

ネズミによる実験の結果、V1 は NCC から排除された。2011年。
http://www.riken.jp/~/media/riken/pr/press/2011/20111111/20111111.pdf

さて、ここまでが序論である。いきなり本論の意識の話に入ると、オカルト方面のアヤシイおじさんだと思われかねないので、まず、学者としてのちゃんとした実績を示しておきたかったということのようで。

□ 意識のハード・プロブレム

脳において、意識を宿すために必要な最小限の領域である NCC が特定できたからといって、意識の謎がすべて解けたことにはならない。というのは、これだけでは、肝心の意識がいったいどういうメカニズムによって生じるのか、まったく説明がついていないからだ。

われわれの脳といえども、物質であることには違いない。物質であるからには物理法則に厳密にしたがうはずである。言うなれば、機械のようにしか、動作しようがない。それなのに、その“機械”の上には、いったいどのようなメカニズムによって意識が宿るのか。これが「意識のハード・プロブレム」である。

たったそれだけの問いなのに、この問い自体が一般の人々に理解されづらいことは、報告者も以前に嘆いたことがある。同じ問いを、手を変え品を変え表現しなおしたとしても、伝わらない相手にはぜったいに伝わらないという絶望感がある。しかし、それはそれとして、言い換えようはある。

ライプニッツ (Gottfried Wilhelm Leibniz、1646 – 1716) は、ドイツの哲学者、数学者で、微積分法に大きな業績を残しているが、彼の思考実験に「意識を宿す風車小屋」というのがある。

仮に意識を宿す風車小屋があったとしよう。われわれが中に立ち入ったとしても、目にするのは歯車だの回転軸だの機械的な仕掛けばかりで、その仕組みが完全に理解できたとしても、肝心の意識そのものは、どうしても見ることができない。

現実に意識を宿すわれわれの脳についても、事情は仮想の風車小屋と似たり寄ったりで、視覚情報を脳で処理する仕組みについては、解明することができるかもしれない。しかし、それができたところで、なぜ視覚のクオリア (感覚的意識体験) が生じているのか、まるっきり説明されていない。

第三人称的な視点でいくら観察しても、第一人称的な感覚の説明がつかないのが意識を扱う上での難しさになっている。

□ 「意識の自然則」の必要性

意識の問題は従来科学では解けない。なぜなら、従来科学がすべて、客観世界の中に閉じていたから。第三人称的視点しかなかったのだ。この枠組みの内側だけでは、主観と結びつけることができない。

主観と客観とを結びつけようとするならば、どうしても客観の外へ出て行かざるをえない。というか、自動的に外に出てしまう。

物理学には、いくつかの根本原理がある。宇宙のどこで測っても、光の速度は一定であるとか。なぜ光速は不変なんだと問うてみても仕方がない。そうなっているとしか言いようがない。つまり、根本原理にまで行き着くと、それ以上、「なぜか」が問えなくなる。あらゆる科学の土台には一種の非科学がある。

意識の問題についても、物理学の扱う客観世界における根本原理と同じような土台が必要であろう。それは、主観世界と客観世界とを結びつける位置に置かれるべきものである。その中身がどんなふうに記述されるか、現時点では不明だが、「意識の自然則」と呼んでおきたい。

チャーマーズ (David John Chalmers、1966 – ) は、「すべての情報に主観的側面と客観的側面とがある」とする「情報の二相理論」を提唱した。寒暖に応じてスイッチが入ったり切れたりする仕組みになっているサーモスタットにも小さな意識が宿ると言っている。

サーモスタットは、今現在スイッチがオンであるかオフであるかの 1 ビットの客観情報を保持しており、他方では、暑い / 寒いという主観の原型みたいなものを備えている。

ただし、言った本人がその内容を本気で信じているかどうかは疑わしい。意識の謎は非常に深遠なので、それほど大胆な仮説が必要だという極端な例として挙げているだけかもしれない。

ジュリオ・トノーニ (Giulio Tononi) は、情報が統合されることによって、個々の情報量の総和以上の情報が湧き起こってくるとき、この情報湧出分が意識の本質だとする「統合情報理論」を唱えている。

デジカメはたしかに視覚情報を取得しているけれども、画素ごとにばらばらに色の情報を保持しており、それらの情報が統合されていないので、視覚のクオリアが発生していない。

しかし、dis っちゃうのもアレなんだけど、統合情報理論は、非常に問題だと思っている。次回、これに詳しい大泉氏が登壇すると聞いて、ぜひ聞きたいと思っているのだけど、9月はまた日本にいないかもしれない。みなさん、聞いておいてください。

このように、意識の自然則の候補はすでにいくつかあるのだが、仮説が出たとしても、検証できなければ、… ええと、この中に哲学者はいますか? いませんね、じゃあ言っちゃいましょう、哲学と同じです。科学である以上、実験によって仮説を検証できなくてはならない。

ガリレオ・ガリレイは、ものが落下する速度はその物体の重さによらず一定であることを示すために、ピサの斜塔から大小二つの金属球を落とす実験をした。この実験の上手いところは、金属球を使うことにより、空気抵抗という余計な要因を排除できた点にある。

情報に意識が宿るという仮説を実験的に検証したければ、脳から情報以外の余計な要因を排除しなくてはならない。しかし、生きている脳のことだから、それはできない。

かくなる上は、人工意識を使うしかない。作ってみることによって、動作原理を知ろうとすることを、構成論的アプローチという。

□ 機械に意識は宿るか

チャーマーズの思考実験にフェーディング・クオリア (fading qualia) というのがある。脳を構成するニューロンのうち、1 個だけを、機械に置き換えたとしよう。

このとき、機械は、中身までそっくりにニューロンを真似する必要はない。他のニューロンとつながっている入力と出力のところだけ同じはたらきをするように作っておけば、電気信号を中でどうやって処理するかについては、本物とは別の手法を使ってちょろまかしても構わない。だって、他のニューロンは気づくわけがないのだから。

このとき、脳全体としては、まったく同じように機能しているのであるから、宿っている意識に影響が及ぶはずがない。

では、1 個から 2 個、3 個、… と次々に置き換えていったとしよう。そうしても、脳全体としては、まったく同じように機能しているはずである。最後の 1 個まで置き換えて、結局全体が機械だけになったとしても、同じことではないか。ゆえに、機械が意識を宿すことはありうる。

□ 人工意識をテストするには

意識は第一人称的であるという、いかんともしがたい制約に縛られている。つまり、他者の意識は見えない。哲学的ゾンビを見分ける手段は存在しない。

怪しい研究者が変な箱を持ってきて、「30 年かけてこれを作りました。実は、この箱には意識が宿っているんですよ」と言ったとしても、ほいほい信じるわけにはいかない。かと言って、この機械に意識が宿っていることを客観的に判定する方法がない。

この手詰まり状態を打開することができなければ、人工意識の研究はちっとも進まなくて、困る。こうなったら、自分の主観をもって、機械に宿っている意識を味わうことによって確認するしかない、というのが渡辺氏のアイデアの根底にある。

多くの方がご存知のように、脳は左脳と右脳に分かれていて、両者は脳梁でつながっている。脳梁もまた、脳神経細胞 (ニューロン) の束である。

かつて、てんかんの治療法として、脳梁切断術が施されていた。文字通り、脳梁をバスッと切断し、左右の脳半球間の情報の連絡を遮断してしまうのである。

そうするとたしかにてんかんの症状は緩和されるのだが、とんでもない副作用が生じることが分かった。意識がふたつになってしまうのである。「分離脳」という。ロジャー・スペリー (Roger Wolcott Sperry, 1913 – 1994) は分離脳を研究してノーベル賞を受賞している。

健常者においては、どうなっているのか。潜在的には、左脳と右脳それぞれに一個ずつ意識が宿っており、ふたつあるのだが、脳梁を介して情報をやりとりしているがゆえに、何らかの形でひとつに統合されている。

意識がどっちか片方の半球にだけ鎮座してマスター (支配者) として機能し、他の片方の半球はスレーブ (服従者) として機能しているというわけではない。どっちも等価なマスター – マスターの関係である。

渡辺氏のアイデアは、脳の一方の半球を丸ごと機械で置き換え、脳梁に相当するところを細い電線の束で接続しようというものである。それでも左視野と右視野とがスムーズに連結されてひとつに見えたら、機械に意識が宿っているとしか言いようがないという。

この手法をもって、人類は初めて、他者の意識の有無を確認する手段を手に入れ、意識の第一人称性という限界を乗り越えられるはずだと主張する。

□ 意識は情報かアルゴリズムか

チャーマーズは情報に意識が宿るとの説を提唱しているが、これには大きな問題がある。情報は 0 か 1 かの数字の単なる羅列であって、それ自体に意味が内包されているわけではない。ソフトウェアを走らせて解釈することによって、初めて意味を取り出すことができる。

情報ではなくて、情報を解釈するアルゴリズムのほうにこそ、意識の本質的な役割があるのではなかろうか。

夢の中であっても、現実世界と変わらず、ものごとがリアルに感じられる。また、腕を失った人であっても、目の前にあるものをつかむ動作をしたつもりになって、手触りを感じたり、引っ張られると痛みを感じたりすることがあり、これを幻肢という。

ないにもかかわらず、あるという感覚が生じるのは、脳の中で現実をシミュレーションするソフトウェアが走っているからだとしか考えられない。現実世界をソフトウェアでシミュレーションすることが、意識の本質なのではないかと考えている。

両眼立体視によって 3D モデルを組み立てたらそれで終わりではなく、今度は逆に、コンピュータ・グラフィクス (CG) のレンダリング計算の要領で、今の視点からものがどんなふうに見えるはずだというのをシミュレーションする。

出てきた画像を、実際に目で見ている画像と照合して、合っているかどうかを確認する。この計算が脳の中で常に実行されている。

で、この計算そのものが、意識の正体なのだと考えている。そうだとすると、ニューロン一個一個の機能を忠実に機械で再現する必要はなく、全体として実行しているソフトウエアの機能を機械に実装すればよい。意外と早く、意識が機械にアップロードできてしまうのではないか。

【考察】

□ その構想、ホントにだいじょうぶ?

意識についてド素人のただの変態の分際で、日本でも屈指の天才たちをつかまえて言うのもナンだけど、意識を研究する学者たちって、どうしてこう揃いも揃ってイケイケでノリノリで楽観的なんだろう。

私の中では、かぐや姫に求婚してきたあのオジサンたちとイメージが重なり合う。月の者にアプローチすんのに、地球の上でごちょごちょやってて、なんとかなったりしますかいな。

あのですねぇ、「意識のハード・プロブレム」って、ハードっちゅうぐらいで、むずかしいんですよ。生きてる間に何とかなっちゃうんじゃないか、って、どうして思えるんだろう。

渡辺氏は著書のあとがきで、「こんなイケイケな本にするつもりはなかった」と述べており、自覚があるのはいいとしても、そのイケイケぶりが、私は心配で心配でしょうがない。

だって、そうでしょ。自分の意識を機械にアップロードしておけば、生物としては死んで肉体が灰になった後でも、純粋精神みたいな格好で、機械の中で、事実上、永遠に生き延びることができますよったって、ほいほい信じて、ぱっぱと試してみるわけにはいかない。

意識をアップロードしたら、機械がしゃべり始めて、そのしゃべり口がまさに本人の生き写しで、しかも、以前にしゃべったことの再生ではなく、ちゃんと文脈に即して、いかにも本人らしいことを言ったとしよう。それを見た人たちは、「おおお! 大成功だ!」と歓声をあげるに違いない。

けど、本人にとってはどうなんだ? 実は、何も見えていない、何も聞こえていない、味覚も嗅覚も触覚もなく、夢もみない、意識の片鱗も宿っていない、いわゆる、哲学的ゾンビだったとしたら。

その状況に誰にも気づいてもらえず、伝える手段もなく、それどころか、そもそも意識がないのだから、困った状況になっていると思うことすらできないわけで、まさに死んでるのと同じ状態だ。コピー元が死んでしまえば、もはや、一巻の終わり。取り返しがつかないとはこのことだ。

もちろん、渡辺氏はそこをうっかりしているということはなく、この状況に陥る可能性を排除するために、非常に慎重に論理を組み立てている。私は、その論理に穴が空いていることを具体的に指摘できるわけではないのだけれど、ただ、心配なだけだ。

安全安全と言われていた原発だって、現にあんなことになっちゃってるわけだし。以前は、政府の安全キャンペーンを真に受けて、あれを安全でないという人は、非科学的な信仰に染まっている、などと言い切る輩もネットで見かけたぞ。

渡辺氏の機械脳半球 – 生体脳半球接続テストの構想は、意識の第一人称性という限界を乗り越えようとするものである。ヒトにせよ、ヒト以外の動物にせよ、機械にせよ、他者に意識が宿っていることを、自己申告を信じるという手段ではなく、客観的に判定する手段が確立されないことには、意識のハード・プロブレムに対して実験的に迫ることができない。

人間の意識を機械にアップロードできたといっても、それが哲学的ゾンビではないことを確認する手段がなければ、成功か失敗か判定することができないのだから。

意識を客観的に観察することが原理的に不可能なのであれば、せめて、ヒトの主観をもって、他者の主観をテストできるようにしたい。

渡辺氏の思考実験は、片側の脳半球を丸ごと機械で置き換え、脳梁に相当するところを電線でつなごうというものである。これによって、機械半球側に意識が宿っているかどうかを、生体半球側の意識をもって判定できるとしている。

この接続テストをちゃんと成立させるためには、脳の可塑性のすごさというものを考慮に入れておかなくてはならない。渡辺氏は、もちろん、そこを考えており、構想に穴は空いていないはずだと主張する。

脳の可塑性とは何か。脳の発達を自然な進行に任せておくと、どの辺がどんな機能を果たすようになるか、だいたい決まっている。しかし、それは絶対的なものではなく、状況によっては、本来の受け持ち以外の機能を果たし始めることができるという柔軟性がある。

生まれたばかりのフェレットの視覚野と聴覚野とをつなぎ替えたら、聴覚野が視覚情報を処理するようになったという実験結果があり、2000年に NATURE 誌に発表されている。

  Laurie von Melchner, Sarah L. Pallas, and Mriganka Sur
  ”Visual behaviour mediated by retinal projections directed to
  the auditory pathway”
  NATURE, Vol.404, 20 April 2000

目から来た情報が聴覚野に入ってくる。聴覚野は、自分に解釈できない情報が入ってきたので、視覚野に向かって「これ、お前んところのじゃね?」と言ってたらい回しするのではなく、自身で視覚情報を解釈しはじめたのである。たとえて言えば、ラジオに対して、テレビの電波を与えたら、ラジオが映像を映しはじめたようなものでる。

コンピュータに対して、外付けのデバイスをつなぐときは、デバイス・ドライバと呼ばれるソフトウェアが必要になる。最近のパソコンは、デバイス・ドライバが自動的にインストールされるようになっているので、その存在に気づかないユーザが多いかもしれないけど。

デバイス・ドライバがないと、コンピュータの側は、入ってきたビット列 (0 または 1 の列からなるデータ) が、文章なのか、画像なのか、音声なのか、何かの計測データなのか、判別のしようがなく、これを取り込むことができない。

ところが、脳は、生のデータだけを与えてやると、触覚などの情報と照合して、整合性がとれるようにそれを解釈する方法を自分で見つけ出してしまうのである。つまり、デバイスドライバを自分で勝手に開発してしまうということだ。これは、非常に高度な数学の問題を解いていることに相当するのだと思う。この柔軟性を脳の可塑性という。

意識領域においては、大人になってからも数学がからっきし苦手って人はザラにいるけれど、そういう人であっても、無意識領域においては、赤ん坊のときから数学の超難問をすいすい解いちゃうんだからすごい。というか、不思議だ。

ダニエル・キッシュ氏は先天的な目の病気 (網膜芽細胞腫) があったため、生後 13 カ月までに両眼を失っていた。ほどなく彼は「舌打ち音 (クリック音)」を立てながら動き回るようになった。コウモリのように、エコーロケーション (反響定位) によって周囲の状況を把握できるようになったのである。弱いフラッシュを焚いたみたいに、一瞬だけ周囲が「見える」のだそうである。自転車にも乗れるようになっている。
http://natgeo.nikkeibp.co.jp/nng/article/20130620/355092/

  2013年6月20日
  NATIONAL GEOGRAPHIC
  音で世界を「見る」ダニエル・キッシュ
  文=マイケル・フィンケル

米 Wicab 社は、目のかわりに舌を使って世界を「見る」ことができるデバイス BrainPort を開発した。この装置は、カメラから得た映像データを電気パルスに変換する。平べったいパネルを舌に乗せると、炭酸飲料のようなパチパチした刺激が来る。

はたしてそんなもので本当に「見える」のか。実際に使ってみれば、15 分以内には情報が理解できるようになるのだという。

実験では、出入口やエレベータのボタンを見つけたり、手紙を読んだり、テーブルにあるコップやフォークを拾いあげたりといったことが可能になっている。
http://japanese.engadget.com/2009/08/19/brainport/

  2009年8月19日 04:15pm
  engadget 日本版
  視覚障害者のための舌で「見る」装置 BrainPort
  Haruka Ueda

この装置は、2015年に米当局が販売を認可し、実用化されている。
http://kenko100.jp/articles/150629003517/

  2015年06月29日 06:00 公開
  あなたの健康百科
  視覚障害者に“舌で見る”機器 ― 米当局が承認
  文字の判読も可能に
  あなたの健康百科編集部

周辺機器からの信号が神経に伝わるように [適当に] つないでおけば、デバイスドライバは脳内で勝手に生成される、というわけだ。脳の可塑性、すげぇ!

ただ、このすごさゆえに、生体脳を他者の意識の判定に使おうとするとき、注意が要る。舌で見る装置自体に意識が宿っているとは考えづらい。にも関わらず、脳はその装置から視覚のクオリアを得ることができている。

ということは、機械から入ってきた情報に基づいて、生体脳にクオリアが生じたとしても、機械に意識が宿っていることの裏づけにならないのではあるまいか。生体半球側が、機械半球から渡ってくるデータを解釈するためのデバイスドライバを勝手に開発しちゃっただけかもしれないではないか。この可能性をちゃんと排除しきれているのか。

渡辺氏は、第一に伝達容量、第二に記憶容量、第三に適応時間の観点から、保証できているという。まず、脳梁は細すぎて、機械の獲得した視覚情報そのものを丸ごと生で送り込んでくることはできない。つまり、生体脳半球の一部と機械脳半球の一部とにまたがって視覚のクオリアが形成されている以外にない。第二に、たとえ生体脳半球に視覚情報が丸ごと送り込まれてきたとしても、それを蓄えておくための十分な記憶容量がないため、同様の理由が生じる。第三に、デバイスドライバを開発するにはそれなりの時間を要するため、もし、つないで即座に見えた場合は、脳の可塑性によるものではないと言える。

機械脳半球 – 生体脳半球接続のアイデアは著書に書いてあり、それが出版されたのが 2017年11月のことで、半年以上経つけれども、まだどこからも反論が出てきていないと、渡辺氏は自信をみせる。

いやいやいやいや、私は心配だ。

□ 分離脳の不思議

機械脳半球 – 生体脳半球接続によって生体半球が機械半球に宿る意識を確認することができ、これをもって意識の第一人称性の壁を突破することができれば、意識のハード・プロブレムについて、正しくない仮説を排除するための非常に強力な実証手段になりうるとしている。

例えば、何の量子的効果も利用していない機械に意識が宿っていることが確認できれば、量子脳仮説は即座に却下できる。

ということは、この時点では、まだ、意識のハード・プロブレム自体は解けていないことが仮定されている。大雑把すぎる議論で申し訳ないが、肝心の問題が解けていない段階で、そのテストが間違いなく他者の意識の確認方法として成立していると保証できているのだろうか。

分離脳は、まったくもって不思議すぎる現象で、その現象自体をすっと受け容れるのがむずかしい。左脳と右脳をつないでいる脳梁をバスッと切断することによって、両者間の情報のやりとりを完全に遮断すると、意識がふたつになってしまう。

右手がシャツのボタンをかけていく端から左手がそれを外していくとか。右手に持ったフォークで食べ物を取ると、左手が払い落とすとか。言語野をもたない右脳は、視野の左半分に何が見えているか言葉で報告することはできないけれど、見えているものを左手でつかむことができる。

では、分離脳状態から、どちらかの半球をうまく二分割すると、意識はさらに増えたりするのだろうか。実際問題として、半球内はがっつりと複雑に配線されているので、きれいに切れるところがなく、無理な気はする。しかし、理屈の上では、不可能な話とは言い切れないのかもしれない。

逆に、あなたの脳と私の脳とを、脳梁を渡るニューロンの本数ぐらいの電線の束でつないだとすると、二人の意識が一人になっちゃうのだろうか。目と耳と手と足が 4 つずつ、鼻と口がふたつずつある、ひとつの個体。なんだか、人類補完計画っぽいぞ。まあ、ならないような気はするけど。

脳梁を切断するのではなく、しばらくの間、例えば 10 分間とか 1 時間とか、強制的に情報伝達機能を停止させておくことができたら、その間だけは一時的に分離脳になっているはずだが、機能が回復すれば、また元の一人の意識に戻るはずである。

しかし、脳梁を渡っている情報は、単なるビット列である。ニューロン 1 本あたり、100 ビット/秒ぐらいの伝達容量があるらしい。ふたつの意識の間をビット列が行き来することで、意識はひとつに統合される。これって、非常に不思議な現象ではないだろうか。

ひとつに統合された意識はいったいどこに宿るのか。脳梁は、たしかに、意識が統合するために必要不可欠な働きをしているし、その脳梁自体、ニューロンの束なので、脳梁自体の上に統合意識が宿ると考えることもできなくはない。しかし、それは、たぶん合っていない。脳梁の役割は、左脳と右脳との間で情報を運搬する、単なる電線にすぎないのだと思う。

じゃあ、統合意識は左脳と右脳とにまたがって、もわーっと存在しているのか。

こんな思考実験はどうだろう。一個のニューロンは、樹状突起において他のニューロンから 1 か 0 かの情報を受け取り、それぞれに係数を掛けて足し合わせ、その結果が一定の閾値 (しきいち) を上回ると、「発火」する。発火したかしないかによる 1 か 0 かの情報は、一本だけある軸索から出ていき、その先の枝分かれによって多数の別のニューロンへ、シナプス結合を介して伝達される。すなわち、軸索内を通り抜ける情報は、一方通行なのである。

脳梁を形成するニューロンの束には、左脳から右脳へ情報を送るものと、逆向きに送るものとが混在しているはずである。道路の片側車線だけを閉鎖するかのごとく、右向きのニューロンだけを選択的に機能停止させ、脳梁全体にわたる情報の流れを右脳から左脳への一方通行にしたら、何が起きるだろう。

正常な脳と分離脳との中間みたいな状態になるはずである。それはいったいどんな状態か?

左脳にとっては、入ってくる情報に不足はなく、平常運転なはずである。たぶん、意識がひとつに統合される条件はそろっている。

ただし、左脳から右脳に対して、「こんな情報をください」と要求を出して、右脳がそれに応じて答えを返してくるような対話は、元の要求が届かないので、成立しない。

左脳が左手を動かそうと決断したとして、それを右脳に依頼しても、伝わらないので、左脳の発案で左手を動かすことはできない。

一方、右脳にとっては、ふだん左脳から入ってきている情報が完全に遮断されている。分離脳が起きる条件が成立しているはずだ。

しかし、アウトプットの道について不足はなく、右脳が右手を動かそうとするとき、左脳に対して、動作要求を出し、左脳が拒否しなければ、右手は動くはずである。

この状況において、意識はひとつに統合しているだろうか。

□ アルゴリズム仮説はどうか

意識は情報に宿っているとする、チャーマーズの情報二相理論に対抗して、渡辺氏は、アルゴリズム仮説を唱える。情報そのものはただのビット列にすぎず、それ自体が意味を内包しているわけではない。情報を処理する主体の側が、情報から意味を取り出す方法を知っているからこそ、意味を受取ることができ、そこにこそクオリア生成の本質があるのだとする。

これだけだと、仮説と言っても、「これこれのメカニズムにより意識が生じる」と具体的な過程を説明しきっているわけではなく、仮説の土台部分みたいな段階である。

その土台自体は、現段階では肯定も否定もできず、もしかするとその上に有力な仮説を打ち立てうるかもしれない、としか言いようがない。

一方、「生成モデル」と呼ばれる計算が脳内で実行されていることは、ほぼ間違いないと思う。

現実世界を両眼立体視したり、触れたりして得られる情報から、自分の周囲に何がどう配置されているのかを記述した 3D モデルをまず形成する。次に、コンピュータ・グラフィクス (CG) のレンダリング計算と同じ要領で、自分視点で見たときに、どんな絵が目に入ってくるはずであるかをシミュレーション計算する。そして、計算結果が合っているかどうかを、照合する。

脳内でそんな計算が進行しているのはいいとして、この計算自体が視覚クオリアの正体であるかどうかは、疑問だ。

2016年が「VR 元年」と呼ばれているが、このところ、仮想現実 (Virtual Reality; VR) や拡張現実 (Augmented Reality; AR) が流行っている。どちらも、ユーザはゴーグルやメガネを装着し、そこに映った映像を見ているのだが、前者は現実をまったく見ていなくて、CG で生成された両眼立体視画像だけを見ているのに対して、後者は、ガラスを通じて見ている現実に対して、一部分に CG 画像が重ね合わせられるだけという点が異なる。

AR 用のメガネとして、Microsoft 社から「ホロレンズ (HoloLens)」という製品が販売されている。このデバイスは、ユーザが見ているものの表面を片っ端からポリゴン (多角形) のつなぎ合わせの形式で 3D モデル化していく。動き回って、新しい側面が見えてくると、それまでに作ったモデルの限界の先に、どんどんポリゴンをつなぎ足していく。

家の中を隅々まで歩きまわって、全部の方向を見回せば、家の内側が完全に 3D モデル化される。戸外に出て振り返れば、家の外側も 3D モデル化される。

ホロレンズは、見た景色を CG でレンダリングするのではなく、それに、犬とか架空の生き物とかを、周囲の物体の配置と整合性が取れる形で重ね合わせて表示する。(アルツハイマー型ではなく) レビー小体型の認知症で現れるリアルな幻覚みたいなものを見せてくれる。

Nest+Visual 社は、ホロレンズ用のゲーム「JK Bazooka」を製作し、2017年10月に発表している。

現実世界の床やテーブルをちょろちょろ走り回る小さいセーラー服おじさんをミサイルで撃つシューティングゲームである。人差し指で狙いをつけて、親指とパチョンと合わせるとミサイルが発射され、命中するとおじさんはハートをいっぱい撒き散らしながら昇天していく。

テーブルがあればその上を歩き回るし、その下に隠れれば姿が見えなくなるし、現実世界とちゃんと整合性が取れているところが AR のミソである。

理屈の上では、これを VR 化するのは簡単である。ただ、リアルタイムの状況変化に追随できるよう、じゅうぶんなマシンパワーをもってレンダリング計算の重さを克服しないとならないが。そうすると、ユーザはデバイスが生成した映像だけを見ていることになる。

この VR 装置が実行している計算は、まさに先ほどの生成モデルそのものである。この装置に意識が宿ったと言えるだろうか。私は、そんな感じが全然しない。生成モデルの計算は、実際に脳内で実行されているだろうけど、それが意識の正体だという感じがぜんぜんしないのである。

ただ、意識の第一人称性から、他者の意識を確認する方法は今のところなく、この VR 装置にも意識が宿っているのだと主張されると、それを否定する根拠を提示するのは難しい。

□ ゲーデルの不完全性定理がどう絡むか

7月21日(土)、名古屋の居酒屋「我楽多文庫昭和ビル店」でべろんべろんのへべれけに酔っ払いつつ、それでもなお脳と意識の問題について渡辺氏とエクストリーム・ディスカッションしているとき、あたかも天啓のごとく、「あっ、そうか!」と気がついたことがある。

意識の問題を論じるとき、ゲーデルの不完全性定理を持ち出してきた人にアラン・チューリング (Alan Mathieson Turing、1912 – 1954)やロジャー・ペンローズ (Sir Roger Penrose, 1931 – ) や津田一郎氏 (中部大学 教授) がいて、それぞれ別々の文脈で関連づけているのだけれど、私はいずれにしても、どうしてそれとこれとが結びつくのか、さっぱり分からなかった。

不完全性定理とは、クルト・ゲーデル (Kurt Godel, 1906 – 1978) が 1930年に証明した数学の定理で、煎じ詰めれば「神はいない」と言っている。それはいくらなんでも煎じ詰めすぎなので、もう少し湯戻しすると、こういうことになる。

もし神がいるとしたら、定義により、全知全能であるはずである。全知全能であるならば、どんな命題を与えても、それが真であるか偽であるか、たちどころに示せるばかりでなく、証明するかあるいは反例を挙げることができるはずである。ところが、それができると仮定すると矛盾が生じる。ゆえに、神はいない。

神はともかく、数理体系内で記述可能な任意の正しい定理が、必ずしもその体系内で証明できるとは限らない、と言っている。だから、どんな数理体系も不完全である、というわけだ。

神はいなくても、ヒトならいるぞ。とは言え、ヒトの意識の謎と、ゲーデルの不完全性定理は概念として遠すぎて、どう結びついてくるのかさっぱり分からない。遠い概念のつながりを見つけ出すのが天才ってもんで、凡人からみれば、そこが超越的たるゆえんである。

さて、ゲーデルの不完全性定理をコンピュータのプログラムの停止判定問題に置き換えたのは、チューリングである。第二次世界大戦中、ドイツの暗号を解読する仕事をしていた、数学の天才である。

コンピュータ・プログラムのバグにもいろいろな種類があるけれど、プログラマにとってけっこう困るのは、それを実行したときに、待てど暮らせど答えが返ってこないやつである。まだ計算の途中なので、もう少し待っていれば答えが返ってくるのか、それとも、プログラムにバグがあって無限ループに陥っていて、永久に戻ってこないやつなのか、分からない。

意図的に無限ループを引き起こすのは簡単だ。プログラムは通常、一行ずつ、上から下へと順々に実行していくが、ある行に、それよりも上の行へ処理を飛ばす“go to”文を書いておけばよい。ループしている中に、そのループから抜け出すための“if ナニナニ go to ドコソコ”文を書いておかなければ、ループしっぱなしだ。

こういうのは、ソースコードを読めばすぐに分かる。しかし、うっかり紛れ込んだバグのせいで無限ループするやつは、えてして見つけるのがたいへんだったりする。

プログラムを実行してみなくても、ソースコードを読むことにより、無限ループするかしないかを判定することができませんか、というのが、「停止問題」である。細かいことを言えば、停止しないやつの中には、円周率 π を小数展開した数字列のように、ループに陥ることなく、永久にさまよい続けるやつもあるのだが。

ゲーデルの不完全性定理が、コンピュータ・プログラムの停止問題と同じことだと見破ったチューリングは、まさに遠い概念の間の結びつきを発見する能力によって特徴づけられる、天才だ。

人工知能の手法にニューラル・ネットワークというのがあるが、あれは脳神経細胞 (ニューロン) のシナプス結合によって形成されるネットワークにヒントを得て作られたモデルだ。

しかし、いまよく使われているニューラル・ネットワークは、水が高いほうから低いほうへと流れるがごとく、フィードフォワード (前方送り) しかない、一方通行のモデルだ。

ところが、ヒトの脳のニューロンのつながりは、フィードバック (後方送り) がそこらじゅうにある。外部から脳に入ってきて、下位層から上位層へとフィードフォワードしてくる情報と、脳の上位部分で常に次に起きることを予測していて、上位層から下位層へとフィードバックしてくる予測結果とをどこかで照合し、ほぼ一致していれば平常進行だが、大きな不一致があるとびっくりする。

びっくりしたら、次回も同じことでびっくりしたら馬鹿みたいなので、その差分情報を上位に送り、予測の機構を修正する。脳はそういう仕組みになっているに違いなく、これを「意識の生成モデル」という。

現行の人工知能でよく使われているニューラル・ネットワークは、フィードフォワード一辺倒なので、これではとうてい脳の機能を模倣することはできない。

じゃあ、フィードバック機構を入れりゃ済む話かと言えば、そう簡単にはいかない。不用意にフィードバックを入れると、すぐ無限ループに陥ってしまうのだ。じゃあ、人間の思考はなぜ無限ループに陥らないのだろうか。

どうですか? このあたりで停止問題、すなわち、ゲーデルの不完全性定理のニオイがしてきましたね。

なんか、自分をメタな立場から常に監視していて、思考が無限ループに陥っていると「おいおい、回ってまっせ」とツッコミを入れてくる、もう一人の小さな自分、みたいなやつがいるって感覚、ないですか? 中村うさぎ氏の言うところの「ツッコミ小人」みたいなやつである。

すごい心配事があるときなど、ツッコミ小人がなぜか黙ってしまい、思考が無限ループに陥ることがある。ツッコミ小人が死ぬと、人は発狂していくのだと思う。小説や映画などで、人が発狂していく過程が、無限ループ思考をもって描写されるのを見ることがある。

しかし、ツッコミ小人に対してツッコミを入れる、もうひとつ上の階層のメタメタ自分みたいなものがいなくてはならないことになると、マトリョーシカみたいなことになって、無限後退してしまう。ヒトの脳は、そこも巧みに回避しているんだろうな。

ゲーデルの不完全性定理によって提示された限界を知った上で、フィードバック機構を備え、なおかつ、自分を監視するメタ自分が働いて無限ループに陥るのを防止し、なおかつ、メタ自分が無限後退に陥らない、そんな新しいニューラル・ネットワークのモデルを構築すること、これが次世代の人工知能の課題なのだと思う。これは、機械に人工意識を実装する話にもつながっていくはずである。自意識が備わり、自己言及が可能になるよね。

それはニュートンやアインシュタイン級の大天才によってのみなしうる大仕事であり、いったいいつ誰がやってくれるのか、楽しみだ。それを見届けるために、がんばってあと 300 年ほど生きていたいものだ。

【余談】

意識を専門に研究されている天才にド素人が質問をぶつける貴重な機会が与えられるのはたいへんありがたいことだけど、まあ、たいていのことを聞いても、そんなのはとっくの昔に考え済みだとばかりに、まるで録音を再生するかのごとく、すらすらっと即答されてしまうものだ。

6月23日(土) に大手町で開催されたシンギュラリティサロンでは、即答されない質問ができたのは、自分としては上出来だった。脳神経細胞のネットワーク構造においてなされる計算と同等の計算をコンピュータで実行することは理屈の上では可能で、もしそこにも意識が宿るのだとしたら、じゃあ、紙の上で手計算したらどうなのだろう、と疑問に思ったのである。

脳が 0.5 秒ぐらいの間になす計算を紙に書き出したら、紙が何万枚必要になるかは知らない。実際問題としては無理だろうけど、思考実験としては、可能な話だ。脳と同等の計算に意識が宿るのだとしたら、紙の上での手計算の場合、どこに意識が宿るのだろう。計算する行為そのものにか、計算結果にか。どこにも宿りようがないような気もするけど、どうなんだろう。

計算する主体としての人の側の脳内にクオリアが生じるのではないか、という考えもありうるけれど、しかし、その人に生じるのは、あくまでも計算しているというクオリアであって、網膜から伝達されてきた情報を手計算で処理したからといって、視覚のクオリアがありありと湧き起こってくるわけではないだろう。

聞いてる私の側も、質問の意味がよく分かっていなかったりするわけだけども、渡辺氏は、これに即答しちゃマズいと直感されたようだ。「さすがはセーラー服おじさんです。参りました!」という謎の回答。

終了後、お茶に誘っていただけた。東大の大学院生である三上氏と、もう一人の聴講者と私が参加した。松田氏は用事があるとのことで、帰っていかれた。

6:00pm ぐらいまで、たっぷり 2 時間ほど、ディスカッションにおつきあいいただけた。偉い学者先生の貴重な時間をこんなに長く割いていただけるなんて、研究室のゼミ生か、研究仲間である学者か、取材記者でもない限り、ふつうはありえない話だ。

すでに百万回も聞かれたことをまた聞かれたりして、先生にとっては多少ご迷惑だったかもしれないけど、私の側としては、疑問をひとつひとつクリアにしていくことができて、理解が深まった。お世辞かもしれないけど、いちおう「鋭い!」と言っていただけた。紙の上での手計算についての質問に対する回答は、そこでも保留とされた。

写真はこちら:
https://photos.app.goo.gl/prXy9cJmx5PXywVe6

7月14日(土) の NHK カルチャー町田教室のは、聴講参加申し込みした後でシンギュラリティサロンのアナウンスがあり、そっちですっかり満足した私はもう行かなくてもいいようなものだった。けど、すでに 4,050 円払ってあるし、専門家のお話が聞ける貴重な機会なので、行くことにする。

せっかくなので、新しい質問ができるようにと、著書を読み返した。そしたら、聞きたいことが山ほど湧いてきて、とてもじゃないがその場でなんか質問しきれない分量になったので、前日の夜、メールで送りつけておいた。返信が来て、では、終了後に喫茶店かどこかでディスカッションしましょうか、と提案していただけた。

参加無料のシンギュラリティサロンでは用意された 100 席が満席になったが、町田の有料講座に集まったのは 15 人ほどだった。しょせん NHK の文化講座なんて、聴講しに来るのは暇を持て余した素人ばかりだろうと高をくくっていたら、実はそうでもなく、半数ほどは、渡辺先生を目当てに来た、医大の院生など、学術畑のガチな面々だった。

枠は 1:30pm ~ 3:00pm だったけど、終了後も会場に残った人たちからの質問攻めが止まらず、スタッフからの再三の退出催促の声がだいぶ強まってくるまで 1 時間ほど粘った。

先生から、じゃ、続きは喫茶店かどこかでやりましょうか、と提案され、7 人ほどがぞろぞろとついて来た。ところが、そこらへんの喫茶店はどこも満杯で、この人数じゃとても入れそうにない。まだ明るいけど、飲みに行っちゃいましょうか、と。

「炉ばた情緒 かっこ (「」) 町田店」に入ったのが 4:30pm ごろで、2 時間限定とのことなので、6:30pm ごろまで居た。私に質問してきた人がいる。「脳をやられているんですか?」。あ、はい、頭をぶつけちゃいまして。って、そういうことじゃなかった。脳を専門に研究されているんですか、と聞いていたのだった。

飲み屋とは言え、真面目なディスカッションの場として来たのであるから、この時点では、割と抑えて飲んでいた。2 時間ではとうていケリがつかず、次は「カラオケ館小田急町田駅前店」になだれ込んだ。飲み放題オプションをつけたもんで、ここではもう止まらなくなった。しかし、歌へ行くことはなく、延々と脳談義が続いた。

渡辺先生がこの日の講座でもらったギャラを、みんなで寄ってたかって酒に変えて、あらかた飲み尽くしてしまった。暴挙だ。小田急線町田駅から急行新宿行に乗ったのは、23:19 だった。

写真:
https://photos.app.goo.gl/caXBXBkbXWjamcNS6

渡辺先生、怒ってるんじゃなかろうかと、7月21日(土) の大阪のシンギュラリティサロンでは、内心少しびくびくしていたのだが、そんな気配はまったくなく、ほっとした。

終了後、同じフロアー内に隣接するカフェスペースでお茶会が催され、松田先生ほか、十数名が参加した。活発な議論の延長戦が 2 時間ほど続いた。

渡辺先生と三上氏は、翌日、名古屋で用事があるとのこと。名古屋に移動してから一杯どうかとお誘いいだたき、翌日、特に予定が入ってなかった私はお供することに。

18:23 大阪発の東海道本線快速長浜行で新大阪へ、18:40 新大阪発ののぞみ 48 号東京行で名古屋へ。新幹線の中で、3 人並んで座っている写真を渡辺先生が自撮りして、シンギュラリティサロンの facebook ページにアップしていた。この写真:
https://photos.app.goo.gl/cQaNXTj1neSeFhAp9

19:31 名古屋着。名古屋市営地下鉄東山線で栄へ。居酒屋「我楽多文庫昭和ビル店」。そうとうな量の酒を飲みつつも、真剣に意識の問題を論じ合った。特に、計算を端折ってルックアップテーブル (look-up table; LUT) 参照に置き換えていったら、どこまで意識はもつのかが、非常に面白い議論だった。このあたり、ゲーデルの不完全性定理のニオイがぷんぷんしてくる。

11:30pm ごろまでそこで飲んでいた。あ、宿、決めてないぞ。店を出ると、すぐ隣りに「R&Bホテル名古屋栄東」があり、入ってみると一部屋だけ空いているというので、そこに決める。チェックインだけすると、部屋には行かず、3 人で「ビッグエコー広小路店」へ。

さすがにここまで来ると、脳と意識はもうたくさんで、歌になった。なんと、3 人ともそれなりに歌えるクチで、というか、三上氏はすごーく上手く、意外に盛り上がった。2:00am 近く、『新世紀エヴァンゲリオン』のオープニングテーマ『残酷な天使のテーゼ』(高橋洋子バージョン) を 3 人で大熱唱して締め、お開きとなった。

その旨、シンギュラリティサロンの facebook ページに書き込んでおいたら、翌朝、松田先生からコメント。「よう、やるわ」。

8月7日(火)、原宿の「VACANT」にて、渡辺 正峰氏と茂木 健一郎氏との対談イベントが開催された。題して『身体と意識 (Body & Conscious) ― 脳の未来を科学する ―』。ボディコンですかぃ。
https://bodyandconcious.peatix.com/

茂木氏が一般の聴衆を相手に講演することはめったにないらしい。頭がよすぎて聴衆がついて行けず、言いたいことがちっとも伝わらないことからくるフラストレーションが耐えがたい、ってことだろうか。今回は、対談相手が渡辺氏だからということで、講演依頼を受けてくれたらしい。

100 席ほどが用意されていたが、満席になった上に、後ろのほうにごちゃっと 20 人ほど立ち見で聴講していた。大盛況。

渡辺氏の論点は、意識の第一人称性という限界の突破の可能性にある。脳の片側の半球を機械に置き換え、脳梁に相当するマイクロワイヤーで生体半球と接続することにより、機械半球側に意識が宿っていることを、生体半球側が味わうことで確認可能であろう、としている。

また、意識はアルゴリズムに宿るという仮説に基づいて、計算機に意識を宿らせることができれば、意識のアップロードも現実味を帯びてくる、と。

ばーん! と、ちゃぶ台返しにかかる茂木氏。マインド・アップローディング? ないないないない、100% ありえない!「テクノロジーの皮をかぶった、来世幻想の現代版だ!」とまで。

意識を研究している科学者の多くは次のように考えている。脳は、機能としては計算しかしていない。それと同等の計算をコンピュータ上で実行すれば、そこにおのずから意識が宿る、と。んなわきゃあるかい!

プログラミングしているのは人間であって、また、計算結果を解釈しているのも人間で、意識が宿っているのは、そのときの人間側である。コンピュータが計算する過程においては、ビット列を演算操作しているにすぎない。そんなところに意識なんか宿りっこない。断言できる。意識を研究している科学者の 99% (※) はそこを根本的に間違えている。

※ 意識を研究する科学者って 100 人もいたっけ? 要するにオレ以外は全員間違っとる! とおっしゃりたいんですな。

テニスや卓球の試合にたとえれば、茂木氏がばんばんばんばんスマッシュを打ち込んでくるのを、渡辺氏はひょいひょいひょいひょい返して、得点では負けてないぞ、みたいな議論になり、たいへん見応えのあるラリーであった。

ところで、当日の 11:20am、渡辺氏はご自身の facebook のタイムラインに次のように書き込んでいた。「茂木さんと相談して、対談後に皆で一緒に飲みに行こうという話になったので、なんとなく、うろうろしていてください!」。おおお!

原宿「居酒屋大炊宴」へ。茂木氏とお話ができる千載一遇のチャンスだっちゅうに、氏の提唱する「オーバーフロー (overflow) 理論」を予習しておかずに臨んだのは、まったくの不覚だった。質問しても、「どうせお前になんか分かりっこないから、理解しようとしなくていいよ」ぐらいの調子で、まともに取り合ってもらえない。

逆に、茂木氏から質問してきたのは、パンツの色とかだった。勝負パンツをご覧に入れる。頭脳じゃ勝負にならんからって、いったいどこで勝負しとんのじゃ、オレ。おそらく印象にはよく残ったことであろう。

写真:
https://photos.app.goo.gl/DpHpDxvNj8bNisMv7

以上。

(報告:小林 秀章)

—————–
*今回は講演資料は非公開です。

シンギュラリティサロン#29 津田一郎「創発インタラクション:ダイナミクスが生み出す知の可能性」

  名称: シンギュラリティサロン 第 29 回公開講演会
  日時: 2018年6月2日(土) 1:30pm 〜 4:00pm
  場所: グランフロント大阪・ナレッジサロン・プレゼンラウンジ
  主催: シンギュラリティサロン
  共催: 株式会社ブロードバンドタワー、
     一般社団法人ナレッジキャピタル
  講師: 津田 一郎氏 (中部大学 創発学術院 教授)
  演題: 『創発インタラクション: ダイナミクスが生み出す知の可能性』
  講演概要:
     IoT 時代のヒトを取り巻く環境は熱浴的なものではなく複雑にネットワーク化されたものです。このような複雑系である環境に対して適応的に働きかけ情報を獲得するようなインタラクションとは何でしょうか。私たちは現在 JST の CREST プロジェクトにおいてこの問題に多角的に取り組んでいます。

     本講演では、プロジェクトの全体構成を概説し、特に私のグループで進行している研究について紹介します。鍵になる概念は典型的には脳の機能分化に見られるような拘束条件付き自己組織化で、これはプロジェクト全体の骨格をなします。
続きを読む シンギュラリティサロン#29 津田一郎「創発インタラクション:ダイナミクスが生み出す知の可能性」

シンギュラリティサロン@東京#25 松田 卓也「教育のシンギュラリティ」

  名称: シンギュラリティサロン@東京 第 25 回公開講演会
  日時: 2018年2月17日(土) 1:30pm ~ 4:00pm
  場所: リコー IT ソリューションズ株式会社本社
     晴海アイランド トリトンスクエア オフィスタワー X 42 階
  主催: シンギュラリティサロン
  共催: 株式会社ブロードバンドタワー、
     リコー IT ソリューションズ株式会社
  講師: 松田 卓也氏 (神戸大学名誉教授)
  演題: 『教育のシンギュラリティ』
  講演概要:
 人工知能とロボットの発達により、今後 10 ~ 20 年で多くの仕事が失われていくだろう。それを技術的失業と呼ぶ。それに伴って新しい仕事も生まれてくる。技術的失業をした人々は、より高度な新しい創造的仕事に移るか、あるいはより低賃金の既存の仕事に移るかしなくてはならない。高度な仕事に移るには、そのための技術を習得しなければならないが、それがどんなものかは今は分からない。言えることは、学校で学んだ技術や知識が急速に陳腐化していくことである。それを防ぐには、我々は常に学ばなければならない。真の意味での生涯学習である。既存の学校システムがそれに適するかは分からないが、やはり独学が重要になってくる。ここでは独学の一手法としてのオンラインコースの利用について紹介する。また教育の人工知能化についても論じる。

  定員: 100名
  入場料: 無料
  https://peatix.com/event/348978
  聴講者: 小林 秀章 (記)

【タイムテーブル】
続きを読む シンギュラリティサロン@東京#25 松田 卓也「教育のシンギュラリティ」

シンギュラリティサロン@東京#23 金井 良太「人工意識の話」

『シンギュラリティサロン@東京 #23』(10/21(土)) 聴講レポート 報告:小林 秀章

  名称: シンギュラリティサロン@東京 第 23 回公開講演会
  日時: 2017年10月21日(土) 1:30pm 〜 4:00pm
  場所: リコー IT ソリューションズ株式会社本社
     晴海アイランド トリトンスクエア オフィスタワー X 42 階
  主催: シンギュラリティサロン
  共催: 株式会社ブロードバンドタワー、
     リコー IT ソリューションズ株式会社
  講師: 金井 良太氏 (株式会社アラヤ 代表取締役)
  演題: 『人工意識の実現』
  講演概要:
     意識という主観的な現象も自然現象の一部であるから、自然法則に従っているはずであり、それが生じる何らかのメカニズムが存在するはずである。また、その機能的条件を満たす物理システムであれば、脳以外の物質的基盤からでも生み出すことが可能であろうと予想される。つまり、原理的には人工意識の構築は可能であろう。しかしながら、その本質的な条件が何であるかは、現時点では分かっていない。

     心理学や神経科学の研究から浮かび上がってきた意識の機能を分析することによって、意識の本質的な機能は「反実仮想的な状況の感覚表現を内的なモデルに基いて生成する能力」であるという仮説を構築した。これを「意識の情報生成理論」と呼ぶ。

     反実仮想の生成過程を現代的なニューラルネットワークによって実装することにより、人工意識のプロトタイプが構築できる可能性があると考えている。(要約: 小林)
  定員: 120名
  入場料: 無料
  http://peatix.com/event/309194
  聴講者: 小林 秀章 (記)

続きを読む シンギュラリティサロン@東京#23 金井 良太「人工意識の話」

シンギュラリティサロン#22 五十嵐 潤「京・ポスト京コンピュータによる脳の大規模シミュレーション:ペタスケールからエクサスケールへ」

さる2017年5月27日(土)、グランフロント大阪・ナレッジサロンにてシンギュラリティ・サロン#22(第22回公開講演会)を開催しました。

今回は、理化学研究所 情報基盤センター 上級センター研究員の五十嵐 潤さんに、「京・ポスト京コンピュータによる脳の大規模シミュレーション:ペタスケールからエクサスケールへ」と題してお話いただきました。

—————–

本日はまず、シンギュラリティと脳のシミュレーションについて整理してお話をします。その後に脳とはどのようなものなのか。それをシミュレーションするスーパーコンピュータとはどの様なものなのかを説明します。次に、ペタスケールのコンピュータによる脳のシミュレーションの話、次世代の脳シミュレーションの話をします。

シンギュラリティと脳のシミュレーション

続きを読む シンギュラリティサロン#22 五十嵐 潤「京・ポスト京コンピュータによる脳の大規模シミュレーション:ペタスケールからエクサスケールへ」

シンギュラリティサロン#23 金井 良太「人工意識の実現」

サマリ1 報告者:松田卓也

2017/7/9にシンギュラリティサロンで人工意識についての金井良太さんの講演が行われました。それは人工知能に意識を持たせる研究です。意識と知能は別物です。例えばアルファGoは意識を持たない高度な知能です。精緻な人工知能を作っても自動的に意識が生まれるわけではありません。現状の深層学習では意識は生まれないと金井さんは見ます。

人工知能に意識を持たせることは、人工知能の判断、決定の説明可能性を保証するために重要と金井さんは見ます。人工知能に意識を持たせるためには、意識とは何かを解明する必要があります。無意識の行動と意識的な行動の差は時間的な記憶にあることを実験的に示します。
続きを読む シンギュラリティサロン#23 金井 良太「人工意識の実現」

第2回シンギュラリティシンポジウム ①「シンギュラリティへの道」松田卓也

今からちょうど2年前に、ナレッジサロンで「シンギュラリティサロン」を始めた。シンポジウムは今回が第二回。第一回は昨年7月に開催し、PEZY computing社の齊藤元章さんに来て頂いた。今回はWBAI(全脳アーキテクチャイニシアチブ)の山川さん、高橋さん、そして駒澤大学の井上講師、経済産業省産業再生課課長の井上さんと、豪華な顔ぶれ。井上講師は昨年末、「100人」(註:『日経ビジネス』(日経BP社/2016年12月19日号)の連載特集「次代を創る100人」)の1人に選出された。「100人」の顔ぶれは他にトランプ大統領、プーチン大統領、メルケル首相、安倍首相だ(会場笑)。

【超知能の定義】
私のシンギュラリティの定義は「超知能のできるとき」だ。そこにおられる(註:神戸大学大学院工学研究科教授でシンギュラリティサロン共同発起人の1人)塚本先生が私の一冊目の人工知能についての著書の中にある、「人工知能が人間の能力を超えるとき」という定義は間違いだとおっしゃる。私はそれに同意している。では超知能とは何か?「人間ひとりよりも圧倒的に高知能な存在」だ。ではこれは機械なのか?知能増強された超人間なのか?私は後者だと考えている。(塚本先生を指さし)ヘッドマウントディスプレイを装着されたあの姿(会場拍手、笑)。あのスマートウォッチ、7本も付けてはるんですよ(会場笑)、まさに超人間です(笑)。人工知能が科学をやるというよりも人間と人工知能が融合して科学をやる、これがAI駆動科学だ。高橋さんがこの先駆者ですでに会社を作っている。これから世界が変わる。科学技術が圧倒的に進歩し生産性も圧倒的に向上する。ユートピアが訪れ人間は働かなくてよくなる。

続きを読む 第2回シンギュラリティシンポジウム ①「シンギュラリティへの道」松田卓也

第2回シンギュラリティシンポジウム ⑥ パネルディスカッション「日本からシンギュラリティを起こすには〜その具体的な方策」 

ファシリテータ:塚本昌彦 (神戸大学大学院工学研究科教授)
パネリスト:松田卓也、山川宏、高橋恒一、井上智洋、井上博雄 (以上、登壇順)

塚本:シンギュラリティサロンの発起人の1人の塚本です。
シンギュラリティサロンの活動が2年、このシンギュラリティシンポジウムは第二回ということで、シンギュラリティについていろいろな議論をしている。今日は「日本からシンギュラリティを起こす」というテーマで議論したい。パネリストのお手元には、〇×札とスケッチブックをお配りしている。いくつか設問を用意しているので、それに一斉に答えていただきディスカッションを進める形式でいきたい。

Q.0 シンギュラリティとは何か?

続きを読む 第2回シンギュラリティシンポジウム ⑥ パネルディスカッション「日本からシンギュラリティを起こすには〜その具体的な方策」