名称: シンギュラリティサロン #31
日時: 2018年9月15日(土) 1:30pm 〜 4:00pm
場所: グランフロント大阪・ナレッジサロン・プレゼンラウンジ
主催: シンギュラリティサロン
共催: 株式会社ブロードバンドタワー
一般社団法人ナレッジキャピタル
講師: 大泉 匡史氏 (株式会社アラヤ マネージャー)
演題: 『意識の統合情報理論から意識の理論の創り方を考える』
講演概要:
意識の統合情報理論 (IIT) とは、意識の量 (意識レベル) と意識の質 (クオリア) を、ネットワークの中の情報と統合という観点から数学的に定量化しようとする試みである。IIT は、深い睡眠時に意識が失われるのはなぜか、視覚と聴覚のクオリアの違いは何によって決まるのか、複数の意識 (例えば二人の人間の脳) の間の境界はどのように決まるのか、脳の中の意識の座はどこかといった問題に関して、統一的な説明と予測を与える。IIT はまだ発展途上の理論であり、実験的な検証が十分に成されているわけではない。しかしながら、IIT を意識の理論の一つの雛形として考えることで、意識の理論とはどのように創るべきかを考えることができる。
本講演では IIT を通して、意識の数理的な理論はどう創るべきか、そしてそれをどのように検証していくべきかを議論する。また、IIT が人間の意識だけでなく、他の生物の意識、そして人工知能の意識を理解する上で、どのように役に立ち得るかを議論したい。
定員: 100名
入場料: 無料
聴講者: 小林 秀章 (記)
https://ss31.peatix.com/
【タイムテーブル】
13:30 〜 15:00 大泉 匡史氏 (株式会社アラヤ マネージャー) 講演
『意識の統合情報理論から意識の理論の創り方を考える』
15:00 〜 15:30 自由討論
【ケバヤシが聴講する狙い】
意識の謎に意識を捉われている私であるからして、今回のを聴講しないという選択肢がありえないのはもちろんのこととして、今回のテーマである「意識の統合情報理論」をちゃんと理解したいという動機が大きい。
2017年10月21日(土) に開催されたシンギュラリティサロンでの金井良太氏 (株式会社アラヤ代表取締役) の講演によると、意識のメカニズムについて数理的に説明づけようとする仮説にはふたつある。
ひとつはカール・フリストン氏の「自由エネルギー原理」、もうひとつはジュリオ・トノーニ氏の「統合情報理論」(※) である。前者は意識を作る方法に関わり、後者は意識を確認する方法に関わる。どちらも、情報の量をエントロピーという尺度で測る、情報理論が下敷きにある。
※ 統合情報理論 (Integrated Information Theory) はジュリオ・トノーニ (Giulio Tononi) 氏が 2004年に提唱した意識に関する仮説。以下、IIT と略記。
大泉氏は、ウィスコンシン大学で 2 年間、トノーニ氏と一緒に研究している。ギリシャ神話に登場するアトラスは、両腕と頭で天空を背負っているが、大泉氏は、あんな感じで、日本において IIT を一手に背負っている。
IIT とは、うんと大雑把に言えば、意識は情報を統合する仕組みに宿るとする仮定の下で、情報処理ネットワークの構造からその統合性の度合いを評価する Φ の算出のしかたを数式的に定義しようとするものである。
これがどういうわけか、意識を研究する学者の面々からすこぶる評判が悪い。IIT が攻撃を受けると、それを支えるアトラスにもついでに矢が当たる。大泉氏は、全身に矢が刺さって、弁慶の立往生みたいなことになっている。アトラスが弁慶になっているの図。
茂木健一郎氏は、twitter の固定ツイートで次のように言っている。「今流行りの IIT を始めとする統計的手法では、意識の本質の解明ができないと論理的に確信しています」。
津田一郎氏 (中部大学教授) は、著書『心はすべて数学である』の中で IIT をけちょんけちょんにけなしている。「ジュリオ・トノーニは意識を数式で書くことができるといって、実際にその式を示している。しかし、内実はただの記号の羅列にも等しく、ほとんど「寿限無寿限無」と言っているのと変わらない印象だ」。
しかし、2018年6月2日(土) に開催されたシンギュラリティサロンにおいて、津田氏は、大泉氏が理化学研究所所属時代に発表した、情報幾何学から IIT を再解釈した数式を取り上げ、「ここまでやってくれればすばらしい！」とほめちぎっていた。多様体上の一点から部分多様体へ下した垂線の足までの距離をもって Φ とする理論である。
渡辺正峰氏 (東京大学准教授) は著書『脳の意識 機械の意識』の中で「意識の自然則の客観側の対象として情報を据えること自体に並々ならぬ疑問を感じている」と述べている。「情報を意識とすることの問題点は、情報がそれだけでは 0 と 1 の単なる羅列にすぎず、意味をもたないことだ。情報は、何かに解釈されてはじめて意味をもつ」。2018年7月21日(土) に開催されたシンギュラリティサロンにおいても、IIT を「非常に問題だと思っている」と述べている。
多数決をとったら IIT に勝ち目はない。しかし、大泉氏は強気だ。「今まで、ちゃんと理解した上で批判してきた人は、私の知る限り、一人もいない」と自信を見せる。渡辺氏に伝えたら、「そんなことはないでしょう」。お互いに引きませんね。
大泉氏は、IIT の中身についてきっちりと解説する本を著すべきだと私は思う。世にはびこる誤解を解き、不毛な議論をスパッと断ち切ってほしいと思う。
トノーニ氏は『意識はいつ生まれるのか』と題する本を出しているが、一般の人々向けに書かれており、「意識のハードプロブレム」の問いそのものについて理解したり、脳の不思議について啓発を受けたりするにはうってつけの良書だが、IIT については能書きばかりで、中身までじゅうぶんに踏み込んでいない。IIT の中身をちゃんと理解したいと思って読んでも、そこまで書いてくれていないのである。
大泉氏は「人工知能学会誌 Vol. 33 No. 4 (2018/7)」に『統合情報理論から考える人工知能の意識』と題する文章を寄稿しており、IIT の中身についてよく解説している。しかし、難解な内容がきゅっとコンパクトにまとめているため、ちょっとやそっとでは解きほぐせない。
そこをもう少し湯戻しして、研究者でなくても理解できるよう、懇切丁寧に解説して一冊の本にまとめ上げてくれれば、大いに意義のあることだと思う。日本人でそれができるのは大泉氏を置いてほかにいない。ご本人に言ったら、話は来ているのだけれども、忙しすぎて書いている暇がないのだとか。
あー、やっぱりそうですか。私が大泉氏にインタビューして口述筆記したいくらいだ。しかし、私は私で、そこまでやっている時間は確保できないかもしれない。
今回の講演で大泉氏が IIT の中身についてどこまで踏み込んで解説してくれるか分からないが、自分の理解が深まればうれしいという期待もあった。
【内容】
□ 松田氏よりイントロ
ここ何回か、シンギュラリティサロンでは、意識の研究をされている方々をお呼びした。前野 隆司氏 (慶応義塾大学)、金井 良太氏 (株式会社アラヤ)、津田 一郎氏 (中部大学)、渡辺 正峰氏 (東京大学)、と来て、今回、大泉 匡史氏 (株式会社アラヤ) にお越しいただいた。
津田氏、渡辺氏のお二方と金井氏、大泉氏のお二方との間でひとつの対立軸があるようにみえ、それが、今回のテーマになっている「意識の統合情報理論」をめぐってである。
別の回にあらためて渡辺氏と大泉氏をお呼びし、「意識をめぐる大冒険」と称して議論していただくことを計画している。
統合情報理論について、名前はよく聞くけれども、奥深い数学についてはまだ十分理解が及んでなく、今日の話を楽しみにしています。
□ まるでトンデモ系のように批判されがちだけど…
大泉氏、登壇。統合情報理論を研究してきているが、この理論はあまり理解されてなく、しかし、理解されないまま批判だけされるという、おもしろい (意訳: おもしろくない) 状況になっている。
あたかも突拍子もないことを言っているかのように、よく怒りを込めて批判されるけど、よくよく解きほぐしてみれば、変なことは言っていないと思っている。
もちろん、不十分な点や改善すべき点は多々あり、そこについて批判を受けるのはいいのだけれど、たいていの場合は印象だけで「それはけしからん」みたいな話になる。気持ちを穏やかにして聞いていただければ、そんなに変なことを言っていないと納得していただけるのではないか。
IIT の理論構築の拠りどころは、自分自身の意識にある。他人の意識は分からない (※)。
※ (筆者注) われわれが生活する日常の場面においては、お茶を飲みながら世間話をしている相手にも意識が宿っていることは自明のことのように仮定されている。しかし、もし仮に、その相手がほんとうは意識を宿してなく、組み込まれたプログラムにしたがって機械的に応答しているだけであって、プログラムの出来がよいために意識を宿しているフリが上手いだけだった場合、それを見破る手段がないという問題がある。つまり、いわゆる「哲学的ゾンビ」は見破れないという問題。
ましてや、人工知能の意識はますます分からない。確かなのは自分自身の意識だけ。なので、IIT は基本的に人間の意識に関する理論である。しかし、一般性があるので、その理論が正しいとする仮定の上でなら、例えば動物はどうなっているか、とか、人工知能の意識はどうか、といった方向へ敷衍して考えることが可能である。
スライド資料の表題として『意識の統合情報理論から意識の理論の創り方を考える 〜 人工知能の意識編 〜』を掲げている。
シンギュラリティサロンを聴講する方々は人工知能に興味をお持ちであろうから、IIT が一般的な作りになっていることを利用して、人工知能の意識を評価することについて考えてみる、というのをサブテーマとして掲げている。
メインテーマとしては、意識の理論とはどういうものであるべきか、というのを考えていきたい。つまり、IIT は、物理学における相対性理論などとは異なり、まだ確立されたものではなく、今後どんどん改善していくべきものである。なので、これを叩き台に、じゃあ、いったいどういうふうにすればいいのか、ということを考えていきたい。
理論としてはまだ赤ん坊なので、赤ん坊を狙撃するようなことは、ぜひやめていただきたい。発展させることのほうが重要です。
□ 自己紹介
ここで意識の話をすると言うと、すごく意識大好きな人なんだという印象を受けられるかもしれないが、もともとはそうでもなかった。
物理学をやっていこうと思って、大学は物理学科にいた。しかし、限界を感じ、大学院では脳科学・神経科学の領域に行った。興味の指向は実験よりも理論に向いていて、数理に基づいて脳を解き明かしたいというのが第一の目標。その道具が統計物理だった。それと、情報理論。
大学院を卒業してポスドクになって初めて意識の研究に触れるようになった。ジュリオ・トノーニ氏 (ウィスコンシン大学) と土谷 尚嗣氏 (モナシュ大学) から影響を受けた。
トノーニ氏は IIT を作った人。土谷氏は、クリストフ・コッホ氏 (カリフォルニア工科大学) のところの大学院生だった。『意識の探求』を和訳した。
クリストフ・コッホ (著)、土谷 尚嗣 (翻訳)、金井 良太 (翻訳)
『意識の探求 — 神経科学からのアプローチ』
岩波書店 (2006/6/28)
IIT の数理的なところがおもしろいな、と思ったのが意識研究に入門したきっかけ。どうしても意識をやりたいわけではなかった。
ウィスコンシン大学に 2 年間留学し、数理だけでなく、意識そのものについて考えざるを得ない状況に置かれた。もともとは数理のおもしろさに惹かれてたけれど、後から、意識もおもしろいと思うようになった。
今は、金井氏の設立した株式会社アラヤで意識の基礎研究をやっている。IIT の理論を実験的に検証するというのが重要なテーマになっている。
□ 人工知能に「意識」はあるか
まず、テーマとして人工知能を取り上げ、話の軸にしたい。
Apple Siri がしゃべったり、IBM Watson がクイズに答えたり、Google Alpha Go が囲碁で人間のチャンピオンを負かしたりするようになって、人工知能の能力は、部分的には人間を凌駕するようになってきた。
今現在の人工知能がすでに意識を宿していると思う人はあまりいないかもしれないが、この調子で今後もどんどん機能を足していけば、その延長線上で、いつか意識が芽生えてくるかもしれないと考えるのは、一見もっともなようにみえる。
じゃあ、何を足していけばいいのか？ 自己認識か？ 感情か？ 身体か？ 機能を足していって、最終的にドラえもんみたいなロボットが出来てきたら、さすがに意識が宿っていると思っていいのではないか。
しかし、IIT の示唆するところによれば、そういうことではない。意識とは、システムが外部に提供する機能が高度化することによって宿るものではない。機能をいくら足していっても、そこに意識が芽生えるかどうかはまったく別問題である。
睡眠中に夢をみている人には意識があるけれども、そのときその人は外部に対して何か高度な機能を果たしているわけではない。意識は機能の積み上げの末に立ち現れてくるものではない。
人工知能は人間が使う道具なので、人間にとって役に立てばよいという観点で評価される。会話ができるとか。クイズが解けるとか。機能が大事で、中身はどうなっていてもよい。
しかし、意識を考えるとき、何ができるかは関係なく、どうやって実現しているかが大事になってくる。仮に 2 つのシステムがあり、外部に提供する機能が同一だったとしても、その機能をどうやって実現しているか、その中身の仕組みが異なっていれば、意識のあり方としても、異なったものになりうる。
外から見える機能ではなく、中身が大事なので、それを解き明かすべし。これが、今日の結論。最初に言っておく。
□ たぶん、発想の転換が必要
ここから、意識の定義、意識のハードプロブレム、IIT の中身、と話が続いていくが、この手の話は難解すぎてまったく理解できなかったという嘆きをよく聞く。
IIT の中身まで立ち入って、数式がわらわら出てくれば、たしかにそれなりに難解ではあるけれど、そこは別として、意識のハードプロブレムとは何かを概念的に理解するのは、筆者の感覚では、ぜんぜん難しくない。ただ、ちょっとした発想の転換が必要なのだと思う。そこについて話を差し挟んでおきたいと思う。
野球の外野手が、バッターが高々と打ち上げたフライを捕球せんと、落下点まで走っていって、グラブを構えているとしよう。外野手は自分に向かって弧を描いて落下してくるボールを見ているわけだが、ここでふと疑問が湧く。
いま、自分の目にはボールが自分に向かって落下してきているように見えているが、そのボールは見えているとおりにほんとうに実在しているだろうか。
野球の試合の真っ最中に、そんな哲学的瞑想に耽っていたら、おそらく落球するであろう。
我々は、見た目と実体とを瞬時に直結して捉えるよう、トレーニングされすぎている。ものがそこにあるのがまさに見えているし、何なら触ってみればたしかに感触がするのだから、そこにあるに決まっているじゃないか、と。
身に染みついたこの思考の癖をいったんほどき、見た目と実体とを切り離して考える発想に至りさえすれば、見通しが急に明るくなるのだと思う。
そこにものあるように見えるているのは、自分の内部で起きている現象であり、そこにほんとうに実体が存在するのは、自分の外部がそうなっているという状態である。前者が主観で、後者が客観である。で、この主観こそが、まさに意識そのものである。
我々が見たり触れたりすることによって感じ取ったとおりに、外部にものが実在していると直結的に信じる態度を哲学では「素朴実在論 (naive realism)」と呼ぶ。素朴実在論はとっくの昔に否定されており、いまだにこれを自明なことのように信じている人は、そうとう馬鹿にされる。
ここを分けて考えることができるようになることが、ほぼ出発点みたいなものなのだ。しかし、主観的認識と客観的実在との分離をいちいち疑い始めると、実生活上の思考や行動が著しくもたつく。
生物学的な生存確率最大化の原則からすると、このもたつきは、あまりいいことではないのかもしれない。お薦めしないほうがいいのか。野球は下手になるかもしれないが、しかし、意識の問題は理解しやすくなると思う。
□ 意識とは何か
これが意識だとする学術的な定義はまだなく、そこが弱点と言えば弱点だ。直感的な表現で言えば、意識とは「主観的体験」のことである。
体感的に理解するには、主観的認識と客観的実在とが一致しない例を持ち出してくるのが手っ取り早い。錯視がその一例である。渡辺正峰氏は「両眼視野闘争」を取り上げていた。
大泉氏が取り上げたのは、2001年の Nature 誌に掲載された Boneeh 氏らによるものだ。黄色く塗りつぶされた小さな円が 3 つ、正三角形状に配置されている。背景には、青色の細かいドットがランダムに配置されている。人は、正三角形の真ん中を注視する。
背景の青いランダムドットをゆっくりした一定速度で回転させると、黄色い粒が時おり消滅する。実際には、常に表示されている。この錯視は片目でも起きる。
どの粒がどのタイミングで消滅するかは、見ている人によって異なる。今現在どういうふうに見えているかは、その人その人の個人的な主観体験なのである。主観体験は脳内の電気信号にすぎない。
ものがこういうふうに見えているというのが視覚のクオリアであり、同様に聴覚のクオリアや触覚のクオリアがある。クオリアがあることをもって、意識があるという。夢をみている状態において、実体は何も存在しないけど、クオリアはあり、意識があると言える。
意識には質的側面と量的側面とがある。赤の赤らしさ、納豆の匂い、ヴァイオリンの音など、クオリアがまさに質である。覚醒時は意識レベルが高く、睡眠時は低いというのが、量である。
□ 意識のハードプロブレム
脳がどのようにして異なる色を異なる色として区別できるのか、そのメカニズムを物理的に説明することは可能である。色の違いは電磁波 (つまりは光) の波長の違いである。網膜の少し奥にある錐体細胞には 3 種類あって、それぞれ異なる波長に反応して電気信号に変換し、うんぬん。
そのように説明づけたとしても、しかし、われわれが、赤い色をこのような赤として脳内でありありと再生している現象については、何ら説明づけられていない。ここに、説明のギャップがある。
つまり、クオリアがいかなるメカニズムによって生じるのか、そこが説明できないのである。これを「意識のハードプロブレム」という。
大泉氏によれば、「ハードプロブレム」は「むずかしい問題」ではなく「解けない問題」、つまり、原理的に解くことが不可能な問題なので、さっさとあきらめるのがいいらしい。
しかし、意識を科学の研究対象とすることを丸ごとあきらめる必要はなく、科学の側からやれることは多々ある。
□ 外から意識を定量化することはできるか
意識は、中からと外からとの二つの捉え方がある。
(1) 第一人称の意識: 当人の主観的な観点から意識があるかどうか
(2) 第三人称の意識: 第三者から見て意識があるかどうか
後者の観点から意識があるか否かを評価しようとすると、人間らしい知性・振る舞い・見た目があるかどうかに頼らざるを得ない。
しかし、この評価方法には限界がある。意識がないようにみえて実はあるケースとその逆とがある。
前者の例として、植物状態の人間のうちの一部は、外部からの呼びかけに応じて脳が健常者と同様な発火パターンを示すため、意識があるらしいことが分かってきた。
後者は、思考実験だが「中国語の部屋」がある。内部では辞書を引いて答えを返しているだけだが、外からみると、質問をちゃんと理解しているようにみえる。
意識は外からの見た目では判定できないという反省に基づいて、脳そのものを見ないと、という動きになり、1990年ごろから、意識と関係する脳活動の同定が始まった。
渡辺氏の講演に出てきた「意識に相関した脳活動 (neural correlates of consciousness)」である。渡辺氏がよくドイツへ会いに行っているニコス・ロゴセシス氏の得意分野である。
しかし、脳のはたらきをどんなにつぶさに調べてみても、そこで起きていることは計算でしかなく、何が意識の生成に本質的なのかがちっともみえてこなかった。新しい発想が必要だ。理論のガイドをもって実験を解釈するほうがいい。
□ 意識の理論の創り方
意識の理論の創ろうとするならば、次のようなステップを踏むことが必要だろう。
Step 0: 解こうとする対象としての問題を明記する = 理論の守備範囲
Step 1: 現象論から意識の性質を明記する = 意識の定義
Step 2: 意識の性質から導かれる仮説を数学で記述する
= 仮説を検証可能なものにする
Step 3: 実験によって仮説を検証する
Step 4: 人間以外の意識の評価にも展開できる可能性がある
Step 0 では、まず、何を解こうとしているのかを明記する。これが非常に大事で、これによって、理論の守備範囲を明確化している。
理論を提示する側とされる側との間の期待の齟齬を事前回避している。もしこのステップを省略すると、IIT はメイドロボットの創り方について、何らかの方法論を提示してくれるのではなかろうかと期待して読んだ人が仮にいたとすれば、最後まで読んだ末に答えがどこにも書いていなかったと知って、がっかりするであろう。そんなミスコミュニケーションによって IIT が批判を受けたのでは、たまらない。
Step 1 は、自分の意識を観察することによって、意識に本質的な性質を同定しようとする作業である。このステップがなぜ大事かというと、理論からみた意識の定義に相当するから。
意識とは何かというと、いろんな人がいろんなことを言うもんだから、何について話しているのかの認識に食い違いが生じ、議論が噛み合わなくなる。それではマズい。
この理論が考える意識とはこれこれです、と定義づけしているのが Step 1 である。
Step 2 では、Step 1 の結果として得られた意識の性質を満たすためには、物理系がどんな条件を満たすべきかを導き出し、それを仮説として列挙する。
仮説は、数学的に記述する。言葉で書いてあるだけだと、意味が多義的になるため、よくない。数学で書いて、一義に定めることが重要。これによって初めて、仮説が、検証可能なものになる。
Step 3 では、仮説を実験的に検証する。
仮説がある程度確からしいとなってきたら、Step 4 では、仮説に基づいて、動物や人工知能など、人間以外の意識を確かめることに展開できる。
□ 統合情報理論 (IIT) の概要
IIT は、トノーニ氏 (ウィスコンシン大学) によって提唱された、意識に関する仮説。2004年に最初の論文が出た。以降、発展していて、今も途上にある。理論の本質はあまり変わっていないが、中身が変わっている。
2014年に発表した論文で、最新バージョンである IIT 3.0 を提唱しており、大泉氏が関わっている。日本語でも解説を書いている。
IIT を一言で言うと、意識を情報という観点から数学的に定量化しようとする試みである。
前段で述べた「意識の理論の創り方」に沿って IIT を見ていくと、次のようになる。
Step 0: 解こうとする対象としての問題を明記
IIT における Step 0:
(1) 意識の量的側面 (意識レベル)
(2) 意識の質的側面
(3) 意識の境界
これを解こうとしている。逆に言えば、これ以外は解こうとしていない。これ以外のことを気にしている人は、この理論は役に立たない。
IIT は、「意識のハードプロブレム」を解こうとする理論ではない。意識のハードプロブレムは、脳の電気信号の物理作用からどうやって主観世界が立ち現れるのかを問い、そのメカニズムの説明を要求している。しかし、それはできないと割り切り、IIT はそれをやろうとしていない。
IIT は逆をやっている。逆とは何かというと、主観世界としての意識がそこにあることをまず認めましょうというほうを出発点にする。なぜかは分からないけど、とにかく、あるのだとする。哲学で言うところの、フッサールの現象学をまじめに取扱いましょうということだ。
意識の存在を先に認めた上で、それをよくよく観察しましょう。そこから、意識の性質を抽出しましょう。その性質が生じるためには、物理的実体として、どういう条件がひつようになってくるかを導き出しましょう。この順番になっている。
つまり、意識のハードプロブレムは、物理的実体から、主観的体験がいかにして生じるのかを問うのに対して、IIT は主観的体験はすでに存在するものと認めた上で、そのためには物理的実体がどうあるべきかを問うので、方向が逆というわけである。
Step 1: 現象論から意識の性質を明記する
IIT における Step 1:
(1) 情報
(2) 統合
(3) 排他
(4) 構造
(1) 情報
一瞬一瞬の意識は非常に多くの情報を含んでいる。ある特定の意識が生じたときに、実は他の可能性もあったかもしれない。我々は、いろんな意識を体験する可能性がある中で、多くの可能性からひとつを選んでいる。
(2) 意識は常に統合されている
視覚クオリアを例にとると、左視野だけを意識してください、と言われても、できない。統合された全体としてしか対象を意識できない。りんごを見たとき、形と色を切り離して見ることはできない
(3) 排他
大きな意識の中に小さな意識が入れ子になって存在することはできない。可能性としては入れ子になっていてもおかしくはないけれど、実際にはそういうことは起きない。
右脳と左脳それぞれに独立して意識が宿り、なおかつ、脳全体でひとつに統合された意識も宿るということが、可能性としてはありうるけれども、実際には起きない。ひとつになっているときは、部分部分が排他されている。
一方、あなたと私は、それぞれ独立した意識をもつけれども、その上で、二人が統合されてひとつの意識が生じているということが可能性としてはありうる。しかし、実際には起きない。バラになっているときは、全体が排他されている。
(4) 構造
意識には構造がある。
Step 2: 意識の性質から導かれる仮説を数学で記述する
IIT における Step 2:
Step 1 で提示した性質を満たす条件としての仮説は、意識を宿す物理的基盤において、
(1) 意識を生み出すためには、情報を生み出すことが必要
(2) 意識を生み出すためには、情報の統合が必要
(3) 統合情報量 (Φ) が局所的に最大になる部分系 (コンプレックス)
のみが意識を生み出しうる
(4) ネットワーク構造が意識の質に対応する
(1) 意識を生み出すためには、情報を生み出すことが必要
明るいか暗いかに応じて、電気信号を出したり出さなかったりするフォトダイオードは確かに情報を生じさせている。しかし、生み出す情報は、きわめて小さい。
(2) 意識を生み出すためには、情報の統合が必要
フォトダイオードを縦横に配列したデジタルカメラは、すごい量の情報を生成するので、いろんなものを弁別できそう。じゃあ、デジカメは自分が見ているものを意識できているか。できてないだろう。なぜかと言うと、デジカメの中ではそれぞれのフォトダイオードが独立に情報を出力しているだけであって、情報を統合する仕組みが実装されていないので。
(3) 統合情報量 (Φ) が局所的に最大になる部分系 (コンプレックス) のみが意識を生み出しうる
実際には、いろんな領域で統合情報量が発生している。脳内でも、局所的には視覚野だけでも統合情報量が正の値をもつ。脳全体でも然り。しかし、実際には、NCC と呼ばれる部分領域に意識は宿る。
二人の脳を包含する領域にも統合情報量が発生している。しかし、実際には、二人を合わせたひとつの意識というのは生じない。
あらゆる局所領域の中でも、Φ の値がいちばん大きいところにのみ、意識が宿っているらしい。
「分離脳」と呼ばれる症例がある。てんかんの治療として、脳梁を切断し、左脳と右脳との間の情報の連絡を遮断すると、とんでもない副作用が起きる。左脳と右脳それぞれに別個の意識が宿り、一人が二人になってしまう。左手が服のボタンをかけていく端から、右手がはずしていくとか。
逆に言えば、左脳と右脳、片方ずつでもそれぞれ意識を宿しうるのに、それらを脳梁で接続したとたんに、意識はひとつに統合され、それぞれの意識は消滅してしまう。このこと自体が非常に不思議である。
二人の脳間を太い電線でつなぐことによって、一人一人の Φ よりも全体の Φ のほうが大きくなれば、二人の意識が統合されて、一人になっちゃう可能性がある。実際になりましたという報告はまだないけど。
(4) ネットワーク構造が意識の質に対応する
視覚クオリアか聴覚クオリアかといった、意識の種類の差異に対応する、情報の構造の差異がなくてはならない。情報の構造をどう定量化するか、ここでは割愛する。
Step 3: 実験によって仮説を検証する
Step 4 に進む前に確立しておかなくてはならない、重要なステップである。仮説自体を実験的に検証しておいて、ある程度確からしいということになっていないと、そこを飛ばして先へ進んでも、批判に耐えきれない。これをいちばん重視している。いろいろやってはいる。
Step 4: 人間以外の意識の評価にも展開できる可能性がある
重要なのは、仮説に情報しか出て来ない点にある。つまり、情報が本質なのであって、情報を媒介するネットワークが何でできているかについては、何も規定していない。言い換えれば、脳に限った話だとは言っていない。その意味で一般性がある。IIT を人工知能についても適用して、同じように議論することができる。
ただし、Step 3 が確立していない現時点において、Step 4 のことを言うのは性急に過ぎると言える。
IIT まとめ。IIT では、自分自身の意識への観察から、まず意識に本質的な性質を同定した (Step 1)。これが、IIT の考える意識の定義に相当する。その性質は、情報、統合、排他、構造。
そこから仮説を導き出す。IIT の言う意識の本質的な性質を満たすために、物理系が満たすべき条件を仮説として提唱。その仮説は、
(1) 意識を生み出すためには、情報を生み出すことが必要
(2) 意識を生み出すためには、情報の統合が必要
(3) 統合情報量 (Φ) が局所的に最大になる部分系 (コンプレックス)
のみが意識を生み出しうる
(4) ネットワーク構造が意識の質に対応する
IIT では意識の本質は情報にあると言っていて、情報を媒介するネットワークの媒質については、何も規定していないので、人工知能の意識を議論することにも適用可能である。ただし、その前に、理論を実験的に検証しておく必要がある。
IIT では、どのステップもまだちゃんとできていない。理論として、まだ赤ん坊だけど、しかし、指針になるとは思っている。
□ AI の意識を論じる上で重要なのは中身
AI において、それがどんな機能を提供するかはもちろん大事だが、たいていの場合、そっちばかりが重視され、中身の話が置き去りにされる。しかし、AI に意識が宿りうるかどうかを議論する上で重要なのは、機能よりも中身である。
機能はまったく一緒だけど、構造が違う 2 種類のネットワークを例にとる。外から見る限りにおいては、中身はブラックボックスで、入力と出力だけが観察しうる対象となる。
左と右とは、入力と出力との関係が、まったく同一である。その意味おいて、外に提供する機能としては、同一であると言える。外から眺める限りにおいて、区別がつかない。
しかし、ブラックボックスのふたを開けてみれば、中のネットワークの構造が異なる。右側の例では、情報の流れが入力から出力へ向かう「フィードフォワード」の一方向しかなく、統合情報量 Φ の値はゼロである。一方、左側の例では、フィードバックがあり、Φ の値は 0.39 である。
これが示唆するのは、外からの見た目の機能は同一でも、中身の構造が異なれば、一方には意識があって、他方にはないということがありうるということである。哲学的ゾンビは見破れない、ということに相当する。
「中国語の部屋」において、辞書引いてるだけの機構には情報の流れにフィードフォワード方向しかなく、情報の統合も構造もない。つまり、IIT によれば、意識が宿っていないことになる。
ブラックボックスのふたを開けて、中身がどうなっているか、情報の構造を見ることが、意識の理解に重要。
IIT は意識を宿す媒質を規定しない、一般性のある理論なので、これを適用して、情報という観点から、人間の意識、寝ている人の意識、赤ん坊の意識、猫の意識、ロボットの意識を同じように評価することができるようになる可能性がある。
【所感】
□ バトる必要はない
3 月に予定されているシンギュラリティサロンでは、渡辺氏と大泉氏が登壇して、ディスカッションを繰り広げることになっている。もともとのタイトルは『意識をめぐる大バトル』だったような気がするが、『意識をめぐる大冒険』に緩和されている。おそらく大泉氏の希望によってそうなったのであろう。
聴講する側にとっては「バトル」のほうがわくわくするけれど、実際に戦いにする必要はない。平和なのはいいことだ。
渡辺氏は、意識が情報に宿るとする IIT の基本コンセプトに異議を唱え、情報それ自体は意味をもたない単なるビット列 (0 と 1 の連なり) にすぎず、それに意味を与えるのは解釈する側にあるのだから、意識はアルゴリズムに宿るはずだとしている。そこにひとつの対立軸が見える。
しかし、IIT でも情報そのものに意識が宿るとは主張しておらず、それを処理する仕組みの構造に宿ると言っているように筆者には思える。大泉氏は、「よくよく話し合ってみれば、お互いにそんなにかけ離れたことを言ってはいないのではないかなぁ」と述べている。
現段階において IIT は意識を数理モデルとして提示してみただけの仮説にすぎず、いちおう、今までに得られている分離脳などの知見とは矛盾しないように考えられてはいるけれど、実験による検証はまだまだこれからの話である。今後、動物を使った実験なども必要になってくるのではあるまいか。
渡辺氏は「僕、手術は得意ですよ」と言っていた。もっとがっちり手を組んで、協力しあって研究を進めていくという線はないのだろうか。大泉氏「それは大いにありうる話だと思います」。バトルよりはそっちがいいと私も思う。
□ 茂木氏より上、ってはずはない
1月11日(金) に配信した前編について、翌日、金井氏が twitter でほめてくださっている。
Ryota Kanai @kanair_jp
セーラー服おじさん、意識研究相当詳しい。研究者でもIITの意味についてここまで理解している人少ないのではないか。
Otaku ワールドへようこそ！［295］統合情報理論—意識は、見た目の機能より、中身の仕組みに宿る（前編）／GrowHair – 日刊デジクリ http://bn.dgcr.com/archives/20190111110100.html … @dgcrより
13:42 – 2019年1月12日
いやぁ、意識研究の第一人者からお墨付きがいただけたようで、たいへん光栄なことです。
このツイートには、1月23日(水) の時点で、「いいね！」が 148 個つき、リツイートが 55 回されている。金井氏のフォロワーには、たぶん人工知能や脳科学方面の研究に携わる錚々たる面々がいらっしゃるに違いなく、そういう方々にも読んでいただけたのだとしたら、さらにうれしい。
しかし、金井氏ってば、その 6 分後とさらに 6 分後に次のようにもツイートしている。
Ryota Kanai @kanair_jp
IITが出てきた頃、そして今もそうだけど、批判があまりに的外れで、本質的なところを理解しないで表面的に結論について議論している人が多かった。それで、わかっている人とわかってない人と分断が起きている。
13:48 – 2019年1月12日
Ryota Kanai @kanair_jp
例えば茂木さんがIITを統計的と評しているが、その時点でこの人はIITについて何も理解していないなと理論を知っている人には明らかで、IITは因果を扱おうとしているのにと反応するのが割と普通だと思う。茂木さんはともかくプロの意識研究者でも的外れな批判が多い。
13:54 – 2019年1月12日
例えば茂木さんがIITを統計的と評しているが、その時点でこの人はIITについて何も理解していないなと理論を知っている人には明らかで、IITは因果を扱おうとしているのにと反応するのが割と普通だと思う。茂木さんはともかくプロの意識研究者でも的外れな批判が多い。 https://t.co/zehdlgqWxU
— Ryota Kanai (@kanair_jp) January 12, 2019
これだとまるで、オレのほうが茂木さんより上、みたいなことになっちゃうけど。いくらなんでもさすがにそれはない。弁明というと逆みたいだけど、とにかく否定しておかなくてはなるまい。
まず、私はこの聴講レポートを書くにあたり、ある種の特権にあずかっている。書いたものは後ほどシンギュラリティサロンの公式サイトに掲載していただける話になっており、大泉氏からスライド資料をもらっており、運営スタッフからは講演を録音した音声ファイルをもらっている。
それを忠実に文字起こしする作業は、内容を理解していなくてもできることである。その過程をブラックボックスにして、出力された結果だけを外から眺めれば、まるでよく理解しているようにみえちゃうという、まさに「中国人の部屋」である。もしかするとオレは哲学的ゾンビかもしれない。
それと、IIT の本質は統計ではない、という点について、私はどれほど理解しているだろうか。
□ IIT は統計か
次のような問題を考えてみよう。
あなたは大腸ガンの検査を受けました。その結果は陽性でした。この検査について、以下の 2 点がわかってます。
1. 大腸ガンの人の 98% は、この検査で陽性になる。
2. 大腸ガンじゃない人の 2% は、この検査で陽性になる。
さて、あなたは大腸ガンでしょうか？
これはまあ確率・統計の問題であることに間違いはないでしょう。
で、こんな精度の高い検査で陽性の結果が出たとしたら、もう間違いなく大腸ガンだ、と思うでしょうか。いやいや、悲観するのはまだ早い。実は、この問題を解くために必要な数値がひとつ、提示されていません。
そもそも大腸ガンに罹る確率って、いくらなんでしょう？ それが効いてきます。私はよく知りませんが、仮に、10,000 分の 1 としておきましょう。これを「事前確率」と呼びます。
すると、あなたが大腸ガンに罹患していて、なおかつ、検査で陽性が出る確率は、両者の確率 (10,000 分の 1 と 100 分の 98) を掛け合わせて、1,000,000 分の 98 と算出できます。一方、あなたが大腸ガンに罹患してなく、なおかつ、検査で陽性が出る確率は、両者の確率 (10,000 分の 9,999 と 100 分の 2) とを掛け合わせて、1,000,000 分の 19,998 と出ます。
つまり、陽性の検査結果を知った後では、あなたが大腸ガンに罹患している確率と罹患していない確率との比率は 98 対 19,998 であり、まだまだ罹患していない確率のほうが圧倒的に高いわけです。約 200 倍です。これを「事後確率」と呼びます。
じゃあ、この検査には意味がなかったのかと言えば、そういうことではありません。もともとは大腸ガンに罹患している確率が 0.01% だったのが、陽性の結果を受けて約 0.5% にまで跳ね上がったので、その分の情報は得られているわけです。
この検査にとって、原因にあたる情報は、被験者が大腸ガンであるかないかであり、結果にあたる情報は、陽性か陰性かです。
問題文に示されている 98% という確率は、原因が大腸ガンであった場合に限定した上での、結果が陽性になる確率です。これを「条件つき確率」と呼びます。
今、知りたいのは、陽性という結果を見た上での、原因が大腸ガンである確率であり、これは逆向きの条件つき確率です。順方向の条件つき確率から逆方向の条件つき確率を求めるための数式を示しているのが「ベイズの定理」です。
この問題は、ベイズ統計の問題だったと言えるでしょう。
さて、IIT は、ベイズ統計そのものってわけではないのですが。ネットワークの上を情報が流れることによって、どれほどの情報が得られたか、あるいは、情報の流通経路を恣意的に遮断することにより、得られる情報がどれほど減ったか、というようなことを量的に扱います。情報量は、確率 p に対して、- p log(p) の形をしており、これをエントロピーと呼びます。
情報をこういうふうに量として取り扱っているという点において、IIT は統計の手法を利用していると言ったとしても、まったく間違っているとは言い切れないような気がします。
しかし、意識があるかないかを確率として求めようという話ではありません。怪しげなおじさんが変な箱を抱えてきて「こいつには意識が宿っているんですぜ」と言ったとしたら、信じてよいでしょうか。IIT は、こいつに意識が宿っている確率がいかほどかを統計的に算出しよう、と言っているわけでは、断じて、ありません。この意味において、IIT は、統計ではありません。
細部の議論抜きに IIT は統計か、と言ったら、そうだとも言えるし、そうでないとも言えるような気がします。
そこよりも、ツッコみたい点は…。「IIT を始めとする統計的手法では、意識の本質の解明ができないと論理的に確信しています」とおっしゃるなら、その論理の道筋を知りたいです。今のところそれを具体的に書いたものは発見できてませんが。
とりあえず動画 11 本は見てきましたが、今後に期待ですかね？
□ 意識の第一人称性の壁をどう突破するか？
すべてのネットワークは、入力と出力との対応関係を同じくし、なおかつ、Φ = 0 になるような別のネットワークに置き換えることが可能か？
入力の組み合わせが有限通りしかなければ、辞書を用意しておけば済む話なので、もちろん可能である。
しかし、有限でなかったらどうか。たとえば、アッカーマン関数の値を計算する仕組みは、Φ = 0 のネットワークで実現しうるか。
あるいは、コラッツの問題を、実際に数値計算するプログラムとか。
コラッツの問題とは、「任意の正の整数 n をとり、(1) n が偶数の場合、n を 2 で割る、(2) n が奇数の場合、n に 3 をかけて 1 を足す、という操作を繰り返すと、どうなるか」というもの。
たとえば、9 から始めると、9 → 28 → 14 → 7 → 22 → 11 → 34 → 17 → 52 → 26 → 13 → 40 → 20 → 10 → 5 → 16 → 8 → 4 → 2 → 1 という道をたどって、1 に至る。その後は、1 → 4 → 2 → 1 とループする。
いろいろ試してみると、いつも結局は 1 に至る。では、どんな自然数から始めても必ず 1 に至るのか、という問題。未解決である。
もし、どんなネットワークも、それと (入出力関係が) 同値な Φ = 0 のネットワークに置き換え可能だとすると、ゲーデルの不完全性定理と矛盾するような気がする。
そうだとすると、どうしても Φ = 0 のネットワークに置き換えることのできない機能が存在することになる。ブラックボックスのふたを開けて中身を見てみるまでもなく、その機能を提供することをもって、Φ が正の値をもつことが保証されている機能が存在するのではないか。
たとえば、それがアッカーマン関数を数値計算する機能だったとすると、そんなものに意識が宿ってたまるか、という気がする。言い換えれば、IIT の逆方向の仮説 (Φ の値が大きなネットワークには、おのずから意識が宿る) が否定されたことになりはしないか。
大泉氏に聞いてみると、それに類することを言っている論文が出ているという。ある機械的な作業によってネットワークをどんどん建て増ししていけば、Φ の値を限りなく大きくしていけるというもの。そんな単調なネットワークに意識なんか宿ってたまるか、というわけである。
それに対するトノーニ氏の答えは「いやいや、宿っているかもしれないよ」だったという。
この議論に決着をつけようとするならば、IIT の外から審判を連れてこないとならない気がする。他人の意識は分からない「意識の第一人称性」という限界は依然としてそこにある。
IIT は、もし実験による検証が済んで、理論的仮説から実証済みの定説へと昇格した後でなら、この壁を突破するツールとして用いることができる。しかし、現段階では、IIT それ自体が、壁を突破する方法を提示するものではない。
IIT の正しさを実験によって検証しようとするならば、意識の第一人称性の壁を突破する方法を、外から持ち込んで来ないことには、手をつけ始められないないのではあるまいか。
渡辺氏は、外科手術を伴う方法により、突破が可能だとしている。そこに協力の可能性がありそうな気がするが、どうなのだろう。
□ 余剰次元説はどうか
1月22日(火) に配信されたメルマガ「日刊デジタルクリエイターズ」において、武盾一郎氏は意識の余剰次元説を唱える種市孝氏の講演動画を紹介していた。
http://bn.dgcr.com/archives/20190122110200.html
種市氏のことは武氏から聞いて初めて知り、その動画を見てきた。スーパーおもしろい。こういうのを待ってた。
意識の謎に対して科学的にアプローチする現行の研究において、ほとんどが次の仮定に依って立っている。原子や分子の一個一個に意識は宿っておらず、それが集まってできた脳神経細胞の一個一個にもおそらくまだ意識は宿っておらず、脳神経細胞の間で情報をやりとりするネットワークの階層構造において、上位の階層に意識が宿るという仮定。
私はこの大きなくくりを「意識の創発仮説」と呼んでいる。当分の間は創発仮説の仮定の下で研究を進めていけるけど、いずれは行き詰るんじゃないかと予感している。
そのあとで出てくるのは、ロジャー・ペンローズ氏の量子脳説みたいなやつである。種市氏の唱える余剰次元説も、創発説の部類には属さない。案外、正鵠を射ているかもなぁ、と思う。
しかし、余剰次元は、量子論と相対論とをがっちゃんこするために考え出された数理上の仮説にすぎず、そっち方向のものを実際に見てきた人はいないわけで、余剰次元仮説は現段階では検証する手段がないかもしれない。
そうだとすると、当分の間は、スピリチュアル方面でよく見かける、言いっぱなしの不毛な妄想と区別がつきづらいかもなぁ。
ただ、幽霊やテレパシーや前世記憶や未来予言のようないわゆる超常現象をひとくくりに「科学的でない」と決めつけて、ばかばかしいことだと切り捨てようとする態度は、実は俗な科学信仰に属するもので、かえって科学的ではないと思っている。科学がそういうもの全般をちゃんと否定できたという話は聞かない。
ただ、雷が電気現象だと解明したことで、神々の怒りとする説が否定された例にみるように、科学は適用範囲を徐々に拡大していき、もろもろの自然現象を、物理原理に基づいて説明づけられるようになっていくという流れはある。青虫が葉っぱを食っていくように、科学は神秘を食っていく。
今現在、不思議な超常現象と言われているようなことも、いずれは科学の進歩の流れと合流して、合理的に説明づけられるようになっていくんだろうなぁ、とは思っていて。そこは、講演者の言っていることに、大いに共感する。
ただ、私自身は、まだ超常現象の方面には触りたくないという気持ちがある。議論がややこしくなるから、というのがひとつ。
それともうひとつ、われわれにふつうに意識があること、それ自体が超常現象にもまさる不思議なことで、もうそれだけで不思議はゲップが出るほどだ、という気持ちがある。分離脳だってそうとうおかしい。
ただ、生前記憶や気で動物を眠らせることなどが、事実としてちゃんと裏付けが取れるのであれば、意識の理論を構築する上で、参考情報として取り込んでいくという線はプラスになりうるかもしれないとは考えている。
意識の謎について、人類はまだ正解を知らない。じゃあ、誰がいちばん正解に近いところにいるのだろうか。種市氏だという可能性を否定しないし、むしろ、期待すらしている。
（報告：小林 秀章）
—————–
＊講演資料：
