技術的特異点の諸説は、知能爆発の提唱から起こった
まず、技術的特異点について私の考えをお話ししたい。私は普段は経済成長理論、貨幣経済理論を扱っている経済学者である。人工知能についても副業として論じていて、昨年「人工知能と経済の未来」という本を出版し、日経の「次代を創る100人」に選ばれた。本業の本は売れていないのに、副業の人工知能の本のほうがよく売れている（笑）。技術的特異点（シンギュラリティ）には諸説あり、ムーアの法則型は未来学者のカーツァイルが紹介して広く知られている。カーツァイル自身はポストヒューマン型を提唱した。私は「知能爆発」のほうがシンギュラリティの元来の意味であった気がしていて、これはI・Jグッド、ヴァーナー・ヴィンジが提唱した。シンギュラリティを最初に公に提示したのも、知能爆発も、ヴァーナー・ヴィンジから始まっていると見たほうがいい。汎用AIが成立すると知能爆発が起こるとする説もあるが、そう簡単に超AIに至るわけではないのではないか？というのが今日の話だ。
AIは高次の意識を獲得できるか
（ドワンゴの）山川さんはAIが自分より賢いAIを作ることを高速で繰り返して、一瞬のうちにAIが爆発的に進化するという。では、「賢さ」とは何か。テストの点数を上げるということであれば容易かもしれない。知性というものはそれだけではないだろう、ということだ。AIが自己を進化させていく仕組みは人間が作ったものだ。人工知能は人間の手のひらから脱することができるのか？「人の作りしAI」が人間のメタに立てるのかどうかということ。ここでメタとは、ＡＩが人間の上位となり俯瞰する立場になるという意味で、人間よりも高次な意識を持ったAIが生まれるか？ということ。そこに至らない限り、人工知能が人間を支配する、反乱を起こして人類を駆逐するという脅威は起こらないのではないかと思う。高次の意識を定義するのは不可能だ。人間が理解できる時点で、人間より高次ではないからだ。そういう意味で、AIが人間より高次の意識をもてるのかどうかを考えたい。
プログラムはプログラミングされた通りにしかふるまえないのか？
プログラムが自分自身のプログラムに反したふるまいがとれるのかを考えてみたい。例えば、YESと出力されるようにプログラミングされていた場合、それに反してNOと出力するようなふるまいをとるのかという話だ。結論としては、プログラムが停止しないか、YES・NOを無限に出力し続けることになるだろう。これは「ある命題の肯定の証明も否定の証明もできないだろう」という、ゲーデルの不完全性定理の話につながる。「嘘つきパラドクス」、「クレタ人のパラドクス」と呼ばれるもので、最近ではサルカダキスの「AIは心をもてるのか」で論じられているが、私はこれとは少し違う観点の話をしている。人間はゲーデル問題を超えられるか？人間は物理法則に反したふるまいはとれない。これは人間が自分の性格に反した行動をとり得るか？ということに例えられる。自分の性格に反したふるまいを取ろうとすると、永遠にYES/NOを繰り返してしまい「優柔不断ですね」と言われてしまう。つまり、人間自身もゲーデル問題を超えられないので、プログラムも人工知能も人間も同じであるといえなくもない。一方で人間は内省できるため、自由意志があるような存在に見える。サルトルの言葉でいう「対自的な存在」だ。過去の仕組まれた自分のあり方を現在の自分は超えて、違う存在になることができる。自分の存在とは異なる未来において新たな存在になれる。人工知能もこれができるという点で、人間と人工知能は同格であるといえる。
外部からの入力による、ふるまいの変化の可能性
プログラムは外部からのデータ入力によって、予期せぬ出力を行い得るのか？人間は外部からの情報によって、ふるまい方自体が変化する。これが人間に自由意志があるように見えるもう１つの理由だ。ふるまい方自体が固定されているのがAI、変化させられるのが人間。これは報酬系の話につながるが、報酬系は強化学習という技術によって実現されている。強化学習とディープラーニングによって、現在、人工知能開発はブレイクスルーを起こしていると思われる。報酬系における価値は、今の人工知能では固定されている。主目的から副目的を派生させるという点からいうと、主目的は固定されている。AlphaGOは囲碁で勝利するという主目的以外、DQNはゲームの得点を上げる主目的以上のことは思考しない。人工知能に知性と呼ばれるものが出てくる一方で、自由意志があるように見えないのは、報酬系が固定されているからではないか。
高次の意識出現の鍵はニューラルネットワーク
人間の場合は報酬系がダイナミックに変化する。人間の脳はニューラルネットワークになっているからだ。AIもこれに倣えば、人間が仕組んだものではない欲望、あるいは、あるふるまいに対して快を覚えるということも発生するのではないか。そのとき初めて、人間に予期しえない存在として人工知能はふるまい、叛乱や支配の可能性も出てくるのではないだろうか。人間と同格になったとしても、AIは人間を超える存在にはならない。高次の意識をもつ人工知能を作る手法としては、バーチャルな生命体をバーチャルな空間に１億、１兆と無数に作る必要がある。その空間で自然淘汰を引き起こした結果、我々人間には判断できない高次の意識をもった生命体を見つけられるかもしれない。バーチャル空間であれば地球上の人類創世に費やした35億年の時間をかけることなく、シミュレーションによって高次な意識をもった生命だけが生き残るかもしれない。ここで、バーチャル空間から実空間に出られるか否かという問題がある。バラットによる「人工知能 人類最悪にして最後の発明」でこれは論じられている。彼自身はジャーナリストなので、いろいろと人工知能研究者から批判はあるらしいが、面白い議論。そういうことはやらなければよい、と私は考えている。汎用人工知能は報酬系が固定されている限り、さほど危険性はない。しかし、主目的から副目的に派生させるときには注意が必要だ。報酬系を固定的したほうが、人間に対してメタ意識を持つAIは生れないのではないか。様々なニューラルネットワークの構造を持ったAIを無数に作らない限り、高次な意識は生まれない。メタ意識を持つ「強い」シンギュラリティはやはり少し怖いので、あまり目指さないほうがいいのではないか。そこが護られている限り、安心して汎用AIの開発が進められるだろう。
汎用ＡＩは経済的特異点をどのようにして起こすか？
汎用目的技術（GPT）とはあらゆる産業に影響を及ぼし、補完的な発明を生じさせる技術だ。第一次産業革命でのGPTは蒸気機関、第二次産業革命では内燃機関、ガソリンエンジン、電気モーターだった。第三次産業革命は情報革命と呼ばれていて、コンピュータとインターネットが鍵になる技術だ。第四次産業革命はビッグデータとIOT、AIとされている中で、特に汎用AIが大きな起爆剤になるのではないかというのが大方の見立てだ。第一次産業革命で蒸気機関を導入したイギリスは、世界の覇権を握った。覇権国家をヘゲモニー国家というが、第二次ではアメリカとドイツ、第三次はアメリカ。今の第四次ではアメリカ、ドイツ、中国のどれかということで、この中に日本がどこまで食い込んでいけるかという話。特化型AIから汎用AIに移行するときに、資本主義が抜本的に変化してしまう。純粋機械化経済と呼ぶべきものが発生する。機械化経済においては、機械と労働という二つのインプットがあれば生産物であるアウトプットが出てくる。この数理的モデルを作って経済成長率を計算すると、２％程度の成長率でとどまってしまう。
純粋機械化経済がもたらす第二の大分岐
かつて高度経済成長期が実現したのは、キャッチアップの過程にあったから。高度経済成長期をもう一度という夢は、私のいう純粋機械化経済に移行すれば叶う。純粋機械化経済では、労働によるインプットは排除される。技術を研究開発するパートはまだ人間が担うかもしれないが、ロボットがオートマチックにこなすかもしれない。機械に任せることで技術成長率が一定だったとしても、経済成長率は高度経済成長期どころではない伸長に突入する。第四次産業革命において、機械化経済国とそうでない国では経済成長率に大きな開きが出てしまう。この開きのことを私は「第二の大分岐」と呼んでいる。第一の大分岐は第一次産業革命の際、蒸気機関を導入した欧米諸国の経済成長率は上昇し、日本以外のアジアとアフリカ諸国のそれは下降したという事実だ。日本は第一の大分岐では上昇路線のほうに乗れたが、今回はどうか。もし日本が汎用AIの開発を進めなければ、かつてのアジア・アフリカ諸国のように経済的に収奪される恐れがある。日本が覇権を握る！くらいの気持ちで、やっとぎりぎりついていけるという感じではないか。ここにいる皆さんはAIに理解ある方々だと思うので、山川さんや高橋さんらのWBAIの活動の応援をしていただきたい。
駒澤大学経済学部 専任講師 井上智洋
（報告：鳥山美由紀）
—————–
＊講演資料：
