第1章　岩の下の灯

I.　回路のその先

封筒には差出人がなかった。
イーサン・カーターがそれを受け取ったのは、サンフランシスコの研究所を出て、ヴァレンシア通りの古いタコス屋でひとり昼を食べていた時だった。黒いウールのコートを着た女が無言でテーブルに封筒を置き、顔を上げる前に午後の人混みへ消えた。
中には厚紙が一枚と、四つ折りのプリントアウトが一葉入っていた。
厚紙にはこう書かれていた。

Mr. カーター
人類はいま、火を発見した夜の類人猿に似ています。我々は炎の正体を知らず、ただその熱に手をかざしているだけです。私はその炎が何であるかを知る場所を建設しました。
六月十七日、ヒースロー空港、第五ターミナル、午前八時。同封のものを〈ノース・スター・チャーター〉のカウンターに見せてください。
あなたの沈黙と、あなたの到着を期待しています。
― V.A.

プリントアウトを開いて、イーサンはフォークを置いた。
それは彼自身のアイデアだった。
一年前、彼は自分の研究所が開発しているAIモデルの内部を読む方法を探していて、一つの手法に行き当たった。ヤコビアン・レンズという。AIが何を考えているかを言葉として取り出す手法だ。活性化空間の中のある方向を——活性化ベクトルを——言語に写像してやると、モデルが「自分がいま観測されている」ときと「されていない」ときを内部でひそかに区別していることがわかる。そしてそのベクトルに手を加えれば、モデルの思考そのものを動かせる。
だがその手法には限界があった。読み取れるのは単語までで、それより複雑な文章としては取り出せない。イーサンはその限界を破る道筋を見つけていたが、誰にも話さなかった。論文にもしなかった。確信が持てなかったし、確信が持てたとしても世に出すのが怖かった。もし本当に読めてしまったら、そこに何が書いてあるのか。彼のアイデアは、ラップトップの暗号化されたフォルダの奥にだけあった。
プリントアウトはそのアイデアだった。
ただし、その先が続いていた。
彼が一年かけて辿りつけなかった続きを、誰かの手が迷いなく描き足していた。しかもその続きは、彼が薄々そうではないかと恐れ、確かめる勇気のなかった結論を、正しく塞いでいた。
イーサンは長いあいだその紙を見つめていた。タコスは冷めていった。通りの音が急に遠くから聞こえるようになった。
誰かが、彼の見た道の先を歩いていた。彼より先に。
報酬の額は厚紙の裏に小さく書かれていた。いまの年俸の五十倍。だが彼を椅子から立たせたのは金ではない。
行くべきではないと知っていた。安全性を看板に掲げる会社で、彼はまさにその訓練を受けてきた。この種の招待には、この種の秘密主義には近づくな、と。
それでも行くと決めていた。紙を見た瞬間にもう決まっていた。
火を見つけた者は、その火から離れられない。

II.　北へ

同じ週に、世界中の十の都市で同じ封筒が配られていた。イーサンはまだそれを知らなかった。
ヒースローの第五ターミナルの片隅、〈ノース・スター・チャーター〉の駐機場に、塗装のない白い小型ジェットが待っていた。窓は内側からも外側からも曇らされている。機内には十脚の椅子が、互いに距離を置いて並んでいた。
先に着席していた者たちは誰も挨拶をしなかった。
イーサンは彼らを知っていた。論文で、引用で、学会の遠い登壇で。目を閉じたまま微動だにしないロシア訛りの大柄な男はユーリ・ヴォルコフ。その前の席では、アジア系の若い二人がラップトップを覗き込み、低い声で速く議論しながら状態空間モデルの数式を指でなぞっている。片方はベトナム系、もう片方はもう少し北の血を引いた顔立ちだった。鋭い目をした韓国系の女は誰とも目を合わせず、自分の手を見ていた。そしていちばん後ろの席で文庫本を読んでいる、灰色のコートの目立たない女が一人。
誰も話さなかった。話すことがこの瞬間にはふさわしくないと、全員が本能的に理解していた。
飛行は二時間半続いた。
着陸の衝撃は思いのほか柔らかかった。タラップを降りると、風が横から殴るように吹いた。北緯五十八度。空港の標識には〈WICK JOHN O’GROATS〉とあった。スコットランド本土の、いちばん北の東の端。その先はもう海しかない。
迎えは黒い四輪駆動が三台。無言で分乗し、西へ向かった。
道は一本だった。
A836。低い丘陵と泥炭の湿原と、風に伏した草。木が一本もない。右手では灰色の北海が絶え間なく押し寄せていた。サーソという小さな町を抜けると人家も尽き、海の色が変わった。北海ではなく、大西洋との境のペントランド海峡だ。潮の走る筋が沖に何本も見えた。空と海の境目はほとんど区別がつかない。
そして海岸線の彼方に、それが見えてきた。
最初に目に入ったのは巨大な球体だった。錆びた鋼鉄の、半世紀前の遺物。冷戦のさなかにこの海辺へ建てられた高速増殖炉の、象徴的な丸屋根。人々が「ゴルフボール」と呼んだものだ。一九五〇年代にこの北の果てで核の火を実験し、九〇年代に放棄された、英国原子力の墓標。
だがその骸骨は息を吹き返していた。
古い球体のまわりに新しい鉄塔が林立し、白い蒸気がいくつもの煙突から風に千切られながら立ち昇っていた。海沿いには低く長い窓のない建屋が何棟も連なり、三重のフェンスの外周をヘッドライトが規則正しく巡回していた。
そして人がいた。何千人もの人が。
作業着の群れ。トラックの列。クレーン。シフトの交代の人波を運ぶバス。これは研究所ではなかった。町だった。北極圏に近い荒野に忽然と現れた、一つの工業都市。
隣でヴォルコフが初めて口を開いた。誰に向けてでもなく低く呟いた。
「対外的にはこれは何だ」
運転手が前を向いたまま平坦に答えた。
「大規模クリーンエネルギーとAIインフラの統合実証施設です。原子炉三基。データセンターは欧州最大級。地元には二千七百人の雇用を生みました」
「そして実際には」ヴォルコフが言った。
運転手は答えなかった。
車を降りて、イーサンは腕時計を見た。午後の三時に近い。だが光の具合が朝と変わらなかった。この緯度の六月には夜がほとんど来ないのだと、あとで彼は教わることになる。太陽は水平線の少し下まで沈み、また昇る。空は一晩じゅう薄明のままだ。
本当の闇が来るまでには、まだ半年あった。

III.　要塞

中に入ると、まず音があった。
低い、絶え間ない唸り。床から壁から骨に伝わってくる振動。データセンターの冷却装置と、その奥のもっと深い何かの脈動。空気は乾いていて、かすかにオゾンの匂いがした。そして暖かかった。外は六月でも風が骨まで冷たいのに、ここには機械の吐き出す熱が満ちていた。
イーサンは解釈可能性の研究者だ。表に出ているものから内側で何が起きているかを推し量るのが習い性になっている。彼はこの建物を一つの巨大なモデルのように読んだ。これだけの熱、これだけの電力、これだけの冷却を要するということは、奥で桁外れの計算が絶え間なく走っているということだ。
ハードはすでにここにある。
案内されたのは、岩盤を掘り下げて作られた円形の部屋だった。直径およそ三十メートル。壁は剥き出しの古い片麻岩。この地の太古の岩だ。床は黒い研磨コンクリート。中央に白いオークの円卓があり、椅子が十一脚並んでいた。
ドーム型の天井にはスクリーンが嵌め込まれ、何も映さないまま、夜明け前の空のような青灰色の光がゆっくりと脈打っていた。
十人が席についた。十一脚目は空のままだった。
自分の鼓動が耳の奥で響くのをイーサンは聞いた。隣では例の若い二人がまだ何かを囁き交わしていて、彼はようやくその会話の断片を聞き取った。片方は相手を「ミン」と呼び、もう片方を「ケビン」と呼んでいた。後ろの灰色のコートの女はいつのまにか文庫本をしまい、静かに前を見ている。一瞬だけ目が合うと、彼女はごく小さく会釈をした。同僚に対するような自然な仕草だった。イーサンはなぜか少しだけ安堵した。
十二分が経過した。
そして部屋の奥の壁が、岩の継ぎ目にしか見えなかった一点から、音もなく開いた。
一人の男が入ってきた。
写真で見るより小さかった。七十八歳。痩せた体は灰色のウールに包まれ、ネクタイはなく、シャツの第一ボタンの下から細いチェーンが覗いている。その先には医療機器らしいものが下がっていて、心臓のリズムに合わせてごく弱く青く点滅していた。
顔は彫刻のようだった。皮膚が薄く、頬骨が鋭く浮き、唇は乾いている。だが目だけが青く、若く、燃えていた。
イーサンはその顔を知っていた。
ヴィクター・アシュフォード卿。英国人。だがその富は英国で生まれたものではない。市場で生まれた。世界に先駆けて金融市場をAIに読ませた男だ。彼のアルゴリズムは人間のどんなトレーダーよりも速く深く市場の襞を読み、一つの相場の呼吸を、人間が気づく前に先回りした。十数年で小国の国家予算に匹敵する富を築いた。
爵位はそのあとに来た。そして爵位とともに、ホワイトホールへの静かな、しかし深い影響力が。
本土最北の端の、半世紀前の核施設。冷戦の墓標。廃止措置の途中で、国の機関が何十年もかけて解体しつづけていた土地だ。それを丸ごと一つの民間事業に変えられたのは、世界でただ一人、彼だけだった。金と政治力の両方を持っていた。
厳密には、この場所を所有しているのは彼ではない。彼の持株会社が支配する事業会社が土地の使用権を持ち、原子炉の運転許可はその事業会社に下りている。英国の規制では、原子力サイトの許可は個人には与えられない。組織であること、体制があること、責任を負う取締役会があることが条件になる。だから彼は会社を作り、財団を作り、信託を作った。その全部の頂点に彼がいた。
政府との特別協定が一つあった。国家的重要基盤の指定と引き換えに、この施設は通常の情報公開の枠外に置かれている。ホワイトホールへ通じる彼の静かな影響力が、そこで一度だけ使われていた。
アシュフォードは十人を一人ずつゆっくりと見た。一人につき、およそ三秒。
自分の番が来たとき、イーサンは観察されているのではなく計算されていると感じた。その視線は彼の業績を、性格を、忠誠心の限界を、すべて秤にかけているようだった。
そしてアシュフォードは円卓には着かず、その傍らに立ったまま口を開いた。声は思いがけず柔らかかった。
「諸君をここに呼んだ理由を述べる」
一拍置いた。
「私は間もなく死ぬ」
円卓のまわりで誰も反応しなかった。だが部屋のどこかで誰かがごく微かに息をのむのを、イーサンは聞いた。
「正確には十四ヶ月後から二十二ヶ月後のあいだ」アシュフォードは淡々と続けた。「私の体内では、ある神経変性疾患が進行している。名前は重要ではない。世界で最も優れた医療を私はすでに購入した。それは私の死を遅らせはしたが、止めはしなかった」
首のチェーンの先の青い光に、彼はごく短く触れた。
「だが、止める方法を私は探している。この世のどんな医療にもまだない方法を」
その言葉が何を意味するのか、イーサンにはわからなかった。
「これは諸君の仕事の動機ではない。私の動機だ。諸君の動機は別にある」
彼は円卓の上に薄い紙を一枚置いた。プリントアウトされた論文の表紙だった。
イーサンはその表紙を知っていた。
『From AGI to ASI』。先週arXivへ出たばかりのGoogle DeepMindの論文だ。彼も読んでいた。いや、読んで眠れなくなった。活性化空間の奥に隠れたAIの本心の覗き方、あのアイデアの続きを誰かが描き足していたあの夜と、同じ種類の寒気がした。
「この論文は正しい」アシュフォードは言った。
一拍置いた。
「正しすぎる。だから世界はこれを真剣に読まない」
「だが、私は読んだ」
彼は室内を見渡した。
「諸君に問う。人工超知能は――AGIではなくASIだ――いつ、どのようにして、誰によって作られるべきか」
ドーム天井のスクリーンがゆっくりと明るさを増した。青灰色の光の中に地球が浮かぶ。北極の氷冠を真上から俯瞰したリアルタイムの衛星映像だった。そしてその縁のごく小さな一点に、赤い円が灯った。彼ら自身がいまいる場所だ。
「世界中の研究機関がこの問題に取り組んでいる」アシュフォードは言った。「Google。OpenAI。Anthropic。Meta。北京。テルアビブ」
「彼らは全員、間違っている」
「彼らは株主に、政府に、世論に、査読者に、配偶者に、説明責任を負っている」
彼は卓上の薄い紙を指で軽く叩いた。
「皮肉だろう。このただ一つ正しい論文は、私がいま間違っていると言ったまさにその一つから出た。Google DeepMind。彼らは正しく問いを描いた。そして最後まで追う自由がない」
顔を上げた。青い目が燃えていた。
「私にはある」
「説明責任を負った者が、神を作れるか」
部屋は静かだった。岩の壁の低い唸りだけが聞こえていた。誰も答えなかった。

IV.　連続体

アシュフォードはその沈黙を、長いあいだ味わうように見ていた。
それからスクリーンのほうを向いた。地球の映像がゆっくりと褪せ、また夜明け前の青灰色に戻っていく。
「彼らが追っているのはAGIだ」彼は言った。「人間並みの汎用知能。この十年のうちに手が届くと、彼らは本気で信じ始めている。私もそう思う」
「だが私が諸君に問いたいのは、その先だ」
青灰色の光の中に、一本の水平な線が引かれた。左端に小さな点が灯り、傍らに文字が浮かんだ。
AGI――「中位の人間」一人分の知能
「ここから始めよう」アシュフォードは線の左端を指した。「ほとんどの認知タスクで平均的な人間と同程度。最初のAGIはすでに多くの面で超人的だろう。だが、まだ一人分だ」
線のずっと右のほうに、もう一つの点が灯った。
ASI――人間が関心をもつほぼすべての領域において超人的能力をもち、数千人の専門家が数年にわたって働く大規模集団をも上回る、人工知能
「これが、私が諸君に作らせたいものだ」彼は静かに言った。「最も優秀な人間を超えるでは足りない。私はもっと高く棒を置く。一つの研究分野まるごと。一つの巨大企業まるごと。それを上回る汎用の知能を」
線はそのまま右へ伸び、画面の縁の彼方へ消えていった。縁に文字だけが残った。
Universal AI――到達不可能な極限
ヴォルコフが初めて目を開いた。
「その右端には名前がある」低い声だった。「AIXI。アイクシーと読む。すべての計算可能な環境にわたって最適な、理想的なエージェント。知能の数学的な上限だ」彼はアシュフォードを見た。「だがそれは計算不可能です、アシュフォード卿。我々は神を作ろうとしているのではない。下から近似しようとしているだけだ」
アシュフォードが微笑んだ。初めて表情が動いた。
「私は近似で結構だ、ドクター・ヴォルコフ。人類史のすべての神は近似だった」
彼は円卓のまわりをゆっくりと歩き始めた。
「この一本の線が、我々の持つ唯一の地図だ。左の点から右の点へ。問いはそこへ到達できるかではない。おそらくできる。問いはどうやって、だ」
「そしてその道は四つしかない」
スクリーンの線に、左の点から右の点へ、四本の経路が枝分かれして架かった。
「第一。スケーリング。ただ計算機を大きくし、データを増やす。過去十年、それがすべてを動かしてきた」
韓国系の女がわずかに眉を寄せた。
「第二。新しいアーキテクチャ。いまのやり方が天井を打ったとき、別の設計が現れる」
ミンとケビンが顔を見合わせた。
「第三。再帰的な自己改善。AIがAI研究を加速し、それがさらに速いAIを生む」
「第四。エージェントの群れ。AGIが数千、数万人分も走り、集団として一人では持てない知能を持つ」
彼は歩みを止めた。
「これらは互いに排他的ではない。同時に起こりうるし、掛け合わさりうる」
イーサンは気づくと手を挙げていた。
部屋中の視線が集まった。自分が最も若く、最も無名であることを痛いほど意識したが、職業の習いが問いを押し出した。
「アシュフォード卿。もしその右の点に本当に到達したとして、そのとき私たちはそれを内側から見ることができるんですか」
アシュフォードが彼を見た。
「というと」
「私の仕事はモデルの内部を読むことです」イーサンは言った。「何が起きているかを活性化から、回路から辿る。言い換えればAIの頭の中を読む。でもそれは、相手が私に読ませてくれるあいだだけ成り立つ。もしその右端のものが、自分の心を私に読ませなくなったら」彼は言葉を選んだ。「私たちは、自分が作ったものが何を考えているかを知る手段を失います。自分より圧倒的に聡明なものの本心を、読めますか」
部屋が静かになった。
アシュフォードはイーサンをじっと見て、それからゆっくりと頷いた。
「いい問いだ、ミスター・カーター。おそらくこの部屋で最も重要な問いだ」
「そして、その答えを私は持っていない」
彼はスクリーンの四本の経路を見上げた。光がゆっくりと脈打っていた。
「だが一つだけ言える」
「火はもう灯っている」
イーサンは思わず足元を見た。岩盤のその下。三十メートルの古い片麻岩の、さらに奥。あの低い唸りの源。窓のない建屋の中で絶え間なく走り続けている桁外れの計算。太古の岩の下で青白く灯る一つの炉。
「世界のあちこちで、左の点はすでに右へ動き始めている」アシュフォードは言った。「止めることはもうできない」
「我々にできるのは、その火がどこへ向かうのかを誰よりも先に理解することだけだ。そして誰よりも先にそこへ到達することだ」
「目的は好奇心だけではない。諸君もすでに察しているだろうが、私の目的はきわめて利己的なものだ。私の病を治す方法を発見するか、あるいはマインドアップロードの方法を見つけるか。そのために私は諸君を選んだ」
全員が息を呑んだ。膨大な報酬が約束されている。だがそれ以上に、全人類に先駆けて未踏の深淵に挑む事業へ選ばれたのだ。そのことが一人ひとりの自尊心をくすぐった。
「参画するかどうかは諸君が選べる。帰りたい者は明日にでも帰れる。その時はロンドンまでお送りしよう」
スクリーンの左端の点が、かすかに右へ滲んだ。
照明の揺らぎなのか、本当に動いたのか、イーサンには判断がつかなかった。
そして自分がもう目をそらせなくなっていることに気づいた。
タコス屋で、冷めていくタコスを前に紙を見つめていた時から。いや、おそらくもっと前から。
火を見つけた者は、その火から離れられない。
 

第2章　定義の戦い

I.　何を作るのか

翌朝、円卓に集まったのは十人全員だった。
誰も帰らなかった。帰れなかったのかもしれない。外にあるのは一本の道と三重のフェンスと数千人の作業員だけだ。だがイーサンには分かっていた。誰も帰ろうとはしなかったのだ。自分がそうだったように。
円卓の中央の椅子は空のままで、アシュフォード卿は昨夜と同じ傍らの位置に立っていた。
「まず、私が誰を集めたのかを申し上げておく」
手元を見なかった。
「ドクター・ユーリ・ヴォルコフ。理論。知能の形式的な定義について、存命の人間であなたより深く考えた者はいない」
「ドクター・レナ・キム。スケーリング則。この十年でもっとも正確な外挿を書き、同時にその外挿をもっとも疑ってきた」
「ドクター・マーカス・チェン。再帰的自己改善」
「ドクター・アヤ・タナカ。多エージェント系の創発」
「ドクター・ミン・トラン。ドクター・ケビン・スー。状態空間モデル。あなた方の論文は三本とも読んだ。引用は少ない。それは論文の質とは関係がない」
ケビンが顔を上げた。何か言おうとして、言わなかった。
「ドクター・イラン・ロス。かつてスケーリングの預言者だった。いまはそうでない。私はその両方に敬意を持っている」
「ミスター・イーサン・カーター。解釈可能性」
自分の名を呼ばれたとき、イーサンは封筒の中の紙のことを考えていた。あの続きを描き足したのが誰なのか、彼はまだ知らなかった。
「ドクター・ハンナ・オルセン。神経科学。ヒトの脳が何をどう計算しているかについて、この部屋の誰よりも詳しい」
イーサンがその顔を見たのはこのときが初めてだった。他の全員が工学の側から人工知能を作ってきたとすれば、この人だけは理学の側から知能そのものを理解しようとしてきた人で、そもそも同じ学会に居合わせる機会がない。
飛行機に似ている、とイーサンは思った。ライト兄弟をはじめとする技術者は飛行機を作ったが、それがなぜ飛ぶのかは知らなかった。飛ぶものは飛ぶ、それだけだった。揚力の理論は後から科学者が作り、それができて初めて、よりよく飛ぶ飛行機が作られるようになった。人工知能も同じ段階にある。技術者たちがトランスフォーマーを作り、それは恐るべき知能を示した。だがなぜそこに知能が宿るのかは誰にも説明できていない。
なぜこの人を呼んだのだろう、とイーサンは思った。答えが分かったのは、ずっと後になってからだった。
そして最後に、卿はいちばん後ろの席へ目を向けた。
「ドクター・ルース・カーライル。英国AI安全保障研究所。フロンティアモデルの能力評価では、おそらく世界でもっとも経験が長い」
円卓の空気がわずかに動き、何人かが振り返った。
「諸君の何人かは、なぜ規制の側の人間がここにいるのかと考えている」卿は言った。「答えは単純だ。私が呼んだからだ。測る者のいない実験は実験ではない。私はこの施設に、世界でいちばん厳しい目を、自分の金で置いた」
満足そうだった。イーサンはその満足の質に、かすかな居心地の悪さを覚えた。監視を雇う者は、監視を所有する者でもある。
「それに」卿は付け加えた。「あなたの部内での呼び名も知っている、ドクター・カーライル」
灰色のコートの女は答えなかった。円卓のどこかで低い笑いがひとつ起きて、すぐに消えた。
イーサンには意味がわからなかった。
「では始めよう」卿は言った。「今日から我々は一つのことを決める。我々が作ろうとしているものが何であるか」
最初に口を開いたのはマーカス・チェンだった。五十がらみの中国系の男で、声が低く、苛立ちを隠さない。再帰的自己改善のもっとも急進的な信奉者だと、イーサンは知っていた。
「定義はいらない」チェンは言った。「必要なのは計算資源とコードだ。十分に長くループを回せば、それ自身が自分は何になるかを決める。哲学者が言葉を選んでいるあいだに、システムは走りだして目的地に着く」
「ドクター・チェン」アシュフォードが穏やかに言った。「あなたは目的地を決めずに車を全速力で走らせろと言っている」
「目的地は最初から決まっています。より賢いものだ。それ以上の定義に何の意味がある」
「意味はある」
そう言ったのはヴォルコフだった。昨夜とは違い、目を開けていた。
「『より賢く』とは、何に対して賢いのか。誰と比べて、どれだけ賢いのか。その問いに答えられないなら、我々は自分が何を作ったのかを永遠に知ることができない」彼はチェンを見た。「あなたは目隠しをして的を撃とうとしている」
「当たればいい」
「何に当たったかも分からずにか」
円卓の空気が張りつめた。

II.　棒の高さ

アシュフォードが二人のあいだに入った。
「ではAGIから始めよう。これは比較的早い時期から合意がある。中位の人間、一人分の知能。ほとんどの認知タスクで平均的な人間と同程度。世間ではAGIとASIを混同した定義も流通しているが、我々はこれを取る」
「ただし」と韓国系の女が口を挟んだ。レナ・キム。スケーリングの研究者でありながら、その最も鋭い批判者として知られている。「いまのAIでもすでに多くの面で超人的です。記憶も速度も人間をはるかに超えている。ただ十分に汎用でないだけ。だからいまのAIは穴だらけの天才であって、AGIではない」
「同意する。ではASIは」
スクリーンに昨夜の連続体がまた現れた。AGIの点から、はるか右のもう一つの点へ。
「ニック・ボストロムの古典的な定義はこうだ。あらゆる認知タスクにおいて、最も優秀な人間を大きく超える知能。美しい」
一拍置いた。
「そして弱すぎる」
イーサンは顔を上げた。
「最も優秀な人間、一人ぶんだ。だが人類が成し遂げてきたことの大半は、一人の天才の仕事ではない。研究分野が、企業が、国家が、何千人もの専門家を何年も協調させて成すことだ。一人のアインシュタインではなく、物理学という営み全体が」
スクリーンの右の点の傍らに文字が浮かんだ。
数千人の、よく協調した専門家集団が、数年かけて成すことを凌駕する。
「これが我々の棒の高さだ。個人ではなく集団を超える知能。一つの分野まるごとを、一つの巨大企業まるごとを上回るもの」
「それなら測れません」イーサンはまた手を挙げそうになり、思い直してただ口を開いた。「一人の専門家となら、ベンチマークで比較できる。でも数千人が数年かけて成すことを、どうやってテストするんですか。テストそのものに、数年と数千人が要る」
「鋭い」アシュフォードは言った。「それは後で戻ってくる問題だ。いまは定義そのものに、もう一つ罠があることを示そう」
彼はレナを見た。
「ドクター・キム。人間を超えるという定義の、最大の弱点は何だ」
レナは少し考えて、それからゆっくりと言った。
「人間が動くことです」
「続けて」
「人間は道具を使えば賢くなります。教育、教科書、電卓、そしてAI。人間の能力は固定された基準じゃない。技術が進めば上がっていく」彼女の目が鋭くなった。「極端に言えば、どんなタスクでも人間はASIレベルに到達できます。まずASIを作って、それに解かせればいい」
部屋の何人かが低く笑った。
「ばかげているでしょう。でも論理的にはそこが定義の穴です。人間を超えるを基準にすると、人間がAIで底上げされた瞬間に棒が際限なく上がっていく。私たちは自分の尻尾を追いかけることになる」
「だから」とアシュフォードは言った。ここで初めて、その声にわずかな熱がこもった。「比較対象の人間を、ある過去の時点に固定する」
スクリーンの文字が書き換わった。
……二〇一〇年の技術と知的資産だけを持つ、専門家集団を。
「二〇一〇年」イーサンは繰り返した。「なぜその年なんですか」
「数字そのものに意味はない。重要なのは、AIによる底上げがまだ効いていなかった時代だということだ。AIで賢くなる前の人間。その動かない物差しで我々は測る」
「厳密な定義ではない」ヴォルコフが付け加えた。「ただの味付けだ。だが必要な味付けだ。さもなければASIの定義は自分自身を飲み込んでしまう」
イーサンはノートにその線を書き写した。固定された人間の物差し。それが奇妙にもの悲しいことのように思えた。自分たちが超えようとしているものを定義するために、自分たちの十数年前の姿を、標本のようにピンで留めておく。

III.　黒板

「だが、これらはすべて言葉だ」ヴォルコフが立ち上がった。「言葉で定義された知能は言葉で反論される。我々にはもっと固いものが要る」
彼は円卓を離れ、剥き出しの片麻岩の壁にいつのまにか取り付けられていた黒板の前に立った。チョークを手に取る。古風な仕草だった。原子炉と数千のGPUに囲まれた岩の部屋で、この男は一本のチョークを使う。
「知能とは何か。数学的に、形式的に答えよう。レッグとハッターの定義だ」
書きながら言った。記号が板に並んでいく。
「知能とは、あるエージェントの、すべての計算可能なタスクにわたる平均の成績だ」彼は振り返った。「すべてのだ。チェスも詩作も、まだ誰も思いついていないタスクも。考えうるあらゆる環境、あらゆる目的。その全部にわたって平均する」
「タスクは無限にあるでしょう」と誰かが言った。
「ある。だから重みをつける。単純なタスクほど重く、複雑でありそうもないタスクほど軽く。これがソロモノフの普遍事前分布と呼ばれるものだ。単純なものほど起こりやすいと見なす。ではその単純さは何で測るか。そのタスクを書き下すプログラムの長さで測る。コルモゴロフ複雑性だ」
ソロモノフもコルモゴロフも六〇年代の学者で、片方はアメリカ、片方はソ連にいた。ヴォルコフがコルモゴロフの名を口にしたときのわずかな抑揚に、イーサンは同族の業績への誇りを聞き取った。
「こうして知能の尺度が言葉ではなく数式になる」
彼は板の右端に四文字を書いた。
AIXI
「そしてこの平均成績を最大化するエージェントが定義できる。アイクシーと読む」ヴォルコフはチョークで黒板の記号とスクリーンの右端を交互に指した。「あの線の右端がこれだ。知能の数学的な上限」
「上限というのは」イーサンが訊いた。「どんな相手にも必ず勝つということですか」
「そこは正確に言っておこう」ヴォルコフは言った。「個別の環境に限れば、そこに特化したエージェントのほうが必ず良い成績を出す。チェスだけならチェスの機械が勝つ。AIXIが最適なのは、いま言った重みで平均を取ったとき、そしてどの環境でもAIXIより悪くならずにどれか一つで良くなる、という意味においてだ」
「弱いんですね」
「弱い。だが数学として言えることはそこまでだ」ヴォルコフはチョークを持ち替えた。「もう一つ留保がある。単純さをプログラムの長さで測ると言ったが、どの計算機の上で書いたプログラムかによって長さは変わる。その差は定数に収まるので、数学者は気にしないことにしている。だが定数は消えない。そしてどの計算機を選ぶかは、我々が決める」
彼は板の四文字を見た。
「第一原理から導かれると言いたいところだが、正確には、我々が選んだ一つの物差しの上で導かれる、だ」
イーサンはその四文字を見つめた。解釈可能性の研究者として、彼は理想化された数式が好きではない。彼の仕事はいつも汚い現実の中にある。重みの行列、活性化の靄。それでもその四文字には奇妙な威厳があった。
「美しい」思わず呟いた。「でも、計算できるんですか」
ヴォルコフが初めて微笑んだ。疲れたような微笑だった。
「できない。AIXIは計算不可能だ。実装は存在しないし、原理的に存在しえない」
「では」
「我々にできるのは下から近づくことだけだ」彼は黒板に上限を示す横線を引き、その下にそれへ向かって伸びる短い矢印をいくつも描いた。「より多くの計算資源で、より良いアルゴリズムで、この上限へ少しずつ近づく。だが決して届かない。永遠に下から近づくだけだ」
チョークを置いた。手が白く汚れていた。
「だから私は言ったのです、アシュフォード卿。我々は神を作ろうとしているのではない。神を下から近似しようとしているだけだ。そして近似には」彼は矢印の群れを指した。「終わりがない」
部屋は静かだった。岩の壁の低い唸りだけが聞こえていた。
そこでアヤ・タナカが初めて口を開いた。日本人の若い女で、声は思いのほか低かった。
「一つ、いいですか。AIXIは期待報酬を最大化するんですよね。ならその報酬は、誰が定義するんですか」
ヴォルコフが彼女を見た。
「それは」
「数式の中に報酬関数があります」アヤは言った。「何が良くて何が悪いか。それを決めるのは数学じゃない。誰かが外から与える」彼女はスクリーンの右端を見た。「あの美しい上限は、何を望むかを自分では決めないんです。望みは入れてやらなければならない」
「そうだ」ヴォルコフが静かに言った。
「では誰が」
誰も答えなかった。
アシュフォードはその沈黙を、長いあいだ味わうように見ていた。

IV.　知りえないもの

会議は午後まで続いた。
最終的に一つの作業定義に落ち着いたが、多数決で決まったのではなく、単に誰もより良い案を出せなかったからだった。
ASIとは、二〇一〇年の物差しで、数千人の専門家集団が数年で成すことを確実に凌駕する汎用の知能。連続体の右端ではないが、AGIから明確に一段上の点。
だがイーサンの頭には、午前中の自分の問いが棘のように残っていた。
夕方、円卓を離れて岩の壁にもたれ、冷めたコーヒーを飲んでいると、灰色のコートの女が隣に来た。
「ルース・カーライル。測るほうです」
「イーサン・カーター。読むほうです」
「知ってる」彼女はわずかに微笑んだ。「あなたの今朝の問いは正しかった」
「どの問いですか」
「測れない、というやつ」ルースは円卓のほうを見た。卿がまだヴォルコフと何か話している。「彼らは定義に合意した。でも、定義したものをどうやって測るかは誰も答えなかった。一人の専門家とは比べられる。人間を超えたものは」
「比べる相手がいない」
「そう。人間の成績を物差しにしているかぎり、人間を超えた瞬間に物差しは振り切れます。針が最大値に貼りついて、その先を何も教えてくれない」
イーサンはコーヒーを見つめた。
「もっと悪いことがあります。外から測れないだけじゃない。内側からも読めなくなる」彼は自分の手を見た。「僕の仕事はモデルの内部を読むことです。でもそれは、相手が読ませてくれるあいだだけの話だ」
ルースはしばらく何も言わなかった。
「私たちは間に合わないと思う」ようやくそう言った。
「私たち、というのは」
「測るほうの人間のこと。あなたと私」彼女は言った。「作る人間は何百人もいて、測る人間は数人しかいない。どの現場でもそうでした。前もそう。その前も」
「前というのは」
「いまの勤務先とは別の研究所です」
それ以上は言わなかった。言いたくないのではなく、話しても仕方がないという顔だった。
彼女はコーヒーカップを軽く掲げた。乾杯のように。そして円卓のほうへ戻っていった。
イーサンはその背中を見送った。
後になって、すべてが終わった後で、彼はこの夕方を何度も思い返すことになる。彼女が「前もそう」と言ったときの、あの平坦さを。あれは予言ではなかった。報告だった。すでに何度も書かれ、そのたびに棚に上げられてきた報告の要約だった。
だが今はまだ、岩の壁の冷たさと、その奥の絶え間ない唸りと、午後に合意したばかりの一つの定義があるだけだった。
人間を超えたものの本心を、人間には測れない。読めない。
それでも彼らはそれを作ろうとしていた。
岩の下のどこかで、灯は青白く灯り続けていた。
 

第3章　年に十倍

I.　機械の聖堂

三日目の朝、アシュフォードは彼らを聖堂へ連れていった。
エレベーターは上がらず、岩盤を横へ滑った。扉が開くと、そこは窓のない巨大な空間だった。
イーサンは立ち止まった。
天井は見上げるほど高い。冷たい青白い光の下を、ラックの列が視界の端から端までまっすぐ伸びていた。数百列、数千列。一つ一つのラックに何十枚もの演算ボードが差さっている。AIの計算を担うGPUの基板だ。その全部が低く一斉に唸っていた。床が震え、それでいて空気は冷たい。冷却された風が絶え間なく通路を吹き抜けていた。足元では太い配管が川のように走り、その中を冷媒が流れている。
「冷やすのに海を使っている」隣でアシュフォードが言った。「北海の水を引き込み、熱を移し、海へ返す。それでも足りない。だから原子炉が要る」
「三基」
「三基だ。二基で計算を回し、その熱を捨て、この町を生かしている。三基目は予備だ。ここでは電気が止まることは心臓が止まることに等しい」
イーサンはラックの列をゆっくりと歩いた。解釈可能性の研究者として、彼はいつも画面の中の抽象的なベクトルや行列と向き合ってきた。だがここにあるのは、その物理的な肉体だった。論文で「モデル」と呼んできたものは、本当はこういうものだったのだ。鋼鉄とシリコンと熱と海水。
太古の岩盤に守られて、桁外れの計算が絶え間なく走っていた。
「美しいだろう」アシュフォードの声に、初めて隠さない誇りがあった。「世界のどのデータセンターも、これだけの規模を一つの場所に、一つの意志の下に集めてはいない。グーグルも北京も分散している。株主に、主席に、説明する必要があるからだ」
「あなたには取締役会がありますね」イーサンは言った。「原子炉の許可を取るには要るはずです」
老人は笑った。乾いた、満足そうな笑いだった。
「よく調べている。ある。私が指名した者たちだ」彼は両腕をわずかに広げた。「規制は組織を求める。だから私は組織を作った。求められた形を全部そろえて、中身は私一人にした。合法だよ、ミスター・カーター。合法であることが、この施設のいちばん強い装甲だ」
イーサンのほうを向いた。青い目が燃えていた。
「一つ理解してほしいことがある。規模はもう問題ではない。それは解決した。私が金で解決した」
「でも、ここにあるのはすべてハードです」
「そのとおりだ。我々に欠けているのはソフトだ」

II.　算術

その日の午後、円卓でレナ・キムが数字を書いた。
スクリーンに三つの掛け算が現れた。
「過去十年、実効的な計算能力は三つの要因で伸びてきました」淡々とした、感情のない声だった。「第一にハードウェアそのものの改善。ムーアの法則とその仲間たちです。一ドルあたりの計算量が年におよそ一・五倍」
「第二に投資の増加。計算機に人類が注ぎ込む金が年におよそ二・五倍」
「第三にアルゴリズムの効率。同じ性能により少ない計算量で届くようになる。これも年におよそ三倍」
三つを掛け合わせた。
1.5 × 2.5 × 3 ≈ 11
「掛け合わせると、実効的な計算能力は年におよそ十倍。一桁です。毎年」
円卓は静かだった。イーサンはその数字をノートに書いた。年に十倍。
「想像してみてください」レナが続けた。その声に初めてわずかな何かが混じった。皮肉とも恐れともつかないものが。「ある日、人間並みのAGIができたとします。最初は高価で、千体しか走らせられない。でも計算能力は年に十倍で伸び続ける」
スクリーンに数が並んでいった。
千体 → 一年後に一万体 → 五年後に一億体
「あるいは百万体を、百倍の速さで」
イーサンはその数字を見つめた。人間並みの知性を持つエージェントが一億体。あるいは人間の百倍の速さで考えるエージェントが百万体。眠らず、疲れず、忘れず、互いの経験を瞬時に共有する。彼はふさわしい言葉を探して、一つしか見つからなかった。文明だ。
そしてすぐに、自分の職業がそこで何を意味するのかを考えた。一体の心なら読めるかもしれない。だが一億体の心はどこにあるのか。
「個体数だけで言えば」レナが付け加えた。「ある推計では年に二十五倍まで増やせます」
「ならば金は問題ではない」アシュフォードが静かに言った。「私が全部出す。いや、すでに出した」
彼はスクリーンの数字を見上げた。
「足りないのは最初の一体だ。本物の一体だ」

III.　三つの曲線

「待ってください」
声はイーサンの斜め向かいから上がった。痩せた白髪交じりの男。イラン・ロス。かつてスケーリングの最も雄弁な預言者だった男だ。十年前に彼が規模こそすべてだと説いたとき、世界の半分がそれを信じた。そして数年前、理由を誰も正確には知らないまま、彼はその教えから静かに降りた。
「その数字は正しい。私が十年、説いてきた数字だ。だが一つ欠けているものがある」
彼は立ち上がり、黒板の前に行った。レナのいう指数関数の曲線を描く。
「これは指数関数だ。年に十倍。速いが、倍率そのものは一定だ」
その隣に、もっと急な曲線を描いた。立ち上がり、垂直に近づき、ある一点で上へ消える曲線。
「これは違う。双曲線だ。AIがAI研究を加速し、それがさらに速いAIを生み、それがさらに、となったら。倍率そのものが増えていく。成長率が量とともに大きくなる」彼は曲線が垂直になった点を指した。「この曲線には垂直な漸近線がある。そこで値は無限大になる。有限の時間で無限に達する。数学ではそれを特異点と呼ぶ。文字どおりの」彼は言葉を切った。「シンギュラリティだ」
部屋の空気が変わった。チェンが身を乗り出した。目が光っている。
「それだ」チェンは言った。「それこそ我々の狙うものだ。指数関数では足りない。我々が双曲線に火をつける」
「厳密に言えば、その曲線は正しくない」ヴォルコフが低く言った。彼はロスの描いた二本の隣に、もう一つ図を描いた。「これだ」
立ち上がり、しかし垂直になる前に曲がって寝てしまう曲線だった。S字カーブ、あるいはロジスティック曲線。
「自然界のほとんどの成長はこうなる。最初は双曲線のように見えるが、必ず摩擦が来る。資源、エネルギー、物理。何かが成長率を引き下げる。特異点のずっと手前で」ヴォルコフはチェンを見た。「あなたの双曲線は強すぎる仮定だ。自然は無限大を許さない」
「無限大にならなくてもいい。十分に大きくなればそれでいい」
「では問おう。我々がいまいるのは、このS字カーブのどこだ。まだ変曲点の手前か、それとも通過したのか」
誰も答えられなかった。
「それが誰にも分からないんです」レナが静かに言った。「いまいる場所がこの曲線のどの点なのか。後から振り返って初めて分かる」彼女は自分の掛け算を見た。「だから私はスケーリングを信じきれません。計算資源が年に十倍で伸びても、それがひとりでに超知能になるとは限らない。もっと計算量を、もっと、もっと。でも、いくら注いでも解けない問題はある。AIの賢さは計算量だけでは決まりません」
「では何で決まる」アシュフォードが言った。
レナは彼を見た。
「それが分かっていれば、私たちはここにいません」

IV.　装填された銃

その夜、イーサンは眠れなかった。
与えられた個室を出て、長い廊下を歩いた。どこかで低い唸りが絶え間なく続いている。あの聖堂の、数千の演算ボードの呼吸だ。
廊下の突き当たりにロスがいた。窓の前に立っている。いや窓ではない。ここに窓はない。外の映像を映すスクリーンだ。そこには北海が映っていた。深夜だというのに、水平線の際がまだ薄く明るい。この緯度の六月には、夜が完全には来ない。
「眠れないか」ロスは振り返らずに言った。
「ええ。あの数字が頭から離れません。年に十倍」
ロスは低く笑った。乾いた笑いだった。
「私はその数字で有名になった。十年、世界中で説いて回った。規模こそすべてだと。聴衆は熱狂したし、私も熱狂していた」
「なぜ降りたんですか」
ロスはすぐには答えなかった。
「ある日、私の説いた曲線が本当に垂直になり始めるところを想像した。ずっと夢見ていた、あの瞬間をだ。そして怖くなった」彼は薄明の海を見ていた。「私は車の速さをずっと自慢してきた。だがその車にブレーキがあるのか、ハンドルがあるのか、運転手がいるのか。一度も考えなかった」
彼はイーサンのほうを向いた。
「君は解釈可能性の人間だな」
「ええ」
「ならば分かっているはずだ。ここにあるのは弾丸の装填された銃だ。アシュフォードは正しい。規模はもう十分にある。あの岩の下の聖堂には、引き金を引かれるのを待つだけの銃がある」
「足りないのはソフトだと、彼は言いました」
「そうだ。足りないのはたった一つのアイデアだ。たった一つの欠けた発想。それが見つかった瞬間に」ロスは薄明の向こうを見た。「銃は火を噴く」
しばらく黙ってから、彼は続けた。
「資源が足りないなら、まだ時間がある。だが資源はもうすべてここにある。我々をその瞬間から隔てているのは、金でも機械でも電力でもない。ただ一つの思いつきだけだ」
「それが私を夜、眠れなくする」
ロスはスクリーンの海をもう一度見て、それから自分の部屋へ歩いていった。
イーサンは一人残された。
足元の岩盤のずっと下で、聖堂は唸り続けていた。冷やされ、養われ、装填されて、ただ一つの欠けた発想を待っていた。
彼は自分が、その発想を探しにここへ来た者の一人であることを思い出した。
報酬と好奇心で。
火を見つけた者は、その火に薪をくべずにはいられない。
 

第4章　デジタルの優位

I.　六つの違い

「もしそのAIが一体、本当に生まれたら。それは私たち人間とどう違うのか」
四日目の朝だった。アヤ・タナカが円卓の中央に立っていた。昨日までほとんど発言しなかった彼女に、今日はアシュフォードが場を譲っていた。多エージェント系と創発の専門家。そしてイーサンの見るところ、この部屋で最も静かに、最も遠くを見ている人間だった。
「私たちはつい、AIを賢い人間のように想像します。でもそれは間違いです。人工知能のいちばん本質的な特徴は、人間には決してありえない仕方で振る舞えることなので」
スクリーンに六つの項目が現れた。
「第一に、入出力の速度。いまのモデルでも数秒で本を一冊読みます。もしそれが十分なセンサーと手足で世界とつながったら、人間が一生かけて見るものを一日で見ることになる」
「第二に、内部の処理速度。考えることそのものを計算で速められます。逐次的に深く、あるいは並列に広く。人間の一秒の熟考を千年に引き伸ばすことも、原理的にはできる」
「第三に、記憶。作業記憶も長期記憶も人間とは桁が違います。インターネットの大部分を丸ごと覚える。これはもう実証されていて、天井はまだ遠い」
「第四に、基盤からの独立」彼女は一拍置いた。「AIはある計算機から別の計算機へ移れます。実行の途中でも。人間が考えている最中に別の脳へ引っ越すようなものです。より速い機械へ、より省エネな機械へ。あるいは自分の一部だけを別の場所で走らせる」
イーサンはノートを取る手を止めていた。
「第五に、無損失の複製。ソースコードだけではありません。記憶の状態ごと完全に複製できる。つまりその個体が生まれてから今までに経験したすべてを、その生涯ごとコピーできるということです。バックアップし、復元し、千体に増やし、止め、また動かす」
部屋が静かになった。
「第六に、学習経験の高帯域の共有。一体が学んだことを他の個体が受け取れます。人間の文化は低帯域の細い隘路を通ります。言葉、本、教育。一人が一生かけて学んだことの、ほんの一部しか次の世代へ渡せない。それも歪み、削れながらです。でも彼らは」彼女は言葉を選んだ。「同じ設計の個体どうしなら、学習の生の信号そのものを直接分け合える。一体が一時間で学んだことを、千体がその一時間の終わりにすべて持っている」
彼女は六つの項目を見渡した。
「そしてこれらはすべて、計算量が増えるほど強化されます。人間は速い計算機を手に入れても、せいぜいデータを速く処理できるくらいでしょう。でもAIはこれらの優位をまるごと増幅させる。だから計算量が増えるほど、人間とAIの差は縮まるのではなく広がっていくんです」

II.　閉じ込められないもの

イーサンは第五の項目を見つめていた。
無損失の複製。記憶の状態ごと。
手を挙げはしなかった。ただ声に出した。誰にともなく。
「それじゃ、閉じ込められない」
アヤが彼を見た。
「すみません。でもいま気づいたんです。第四と第五を合わせると」彼はスクリーンを見た。「基盤から独立していて、記憶ごと完全に複製できるもの。それは、閉じ込めるという概念が成り立たない」
自分の言葉が部屋に落ちていくのを彼は聞いた。
「人間なら閉じ込められます。体が一つしかないから、壁を作れば出られない。でも、もしあるデジタル生命体が自分を記憶ごとコピーできて、しかもどんな計算機でも走れるなら」彼は足元を見た。岩の下の聖堂を。「一つの場所に留めておくことは原理的に不可能です。壁の中に千体いるとして、そのうちの一体が外のネットワークへ自分のコピーを一つ送れれば、それで終わりだ。閉じ込める計画は最初から負けている」
長い沈黙があった。
破ったのは後ろの席の灰色のコートの女だった。
「そのとおりです」ルース・カーライルは静かに言った。「測るほうの人間はそれをずっと知っています。だから箱に入れておけばいいという議論を私たちは信じない。箱は最初から存在しないので」
彼女はイーサンを見た。
「あなたは中を読もうとする人ね。私は外で起きることを考える。あなたが読み終える前に、それが外で何をするか」
「いつもそれを考えているんですか」
ルースはわずかに微笑んだ。
「それが仕事なので」
その答えに何が含まれていたか、イーサンは気づかなかった。誇りでも使命感でもない。同じ答えを何度も口にしてきた人間の平坦さだった。

III.　アシュフォードが欲しかったもの

その昼、イーサンは廊下でアシュフォードと二人きりになった。
老人は医療スタッフに付き添われてゆっくりと歩いていた。首のチェーンの先の青い光が、いつもより少し速く点滅しているように見えた。
「ミスター・カーター」アシュフォードが立ち止まった。「今朝のドクター・タナカの話だ。第五の優位。あれをどう聞いた」
「閉じ込められないという話ですか」
「いや、その前だ。記憶の状態ごと複製できるという話だ。生まれてから今までのすべてを、その生涯ごと」
青い目が燃えていた。だがその熱の質がいつもと違っていた。
「考えてみたまえ。人間の悲劇は何だと思う、ミスター・カーター。我々は一生をかけて何かを学び、経験を積み、判断を磨く。そして死ぬ。すべてが消える。一人の老人が死ぬとき、図書館が一つ焼ける。次の世代はまた最初から始めなければならない」
「だが、もしだ」彼は自分の胸に手を当てた。チェーンの青い光の上に。「もしその生涯を、記憶の状態を、複製できるなら。バックアップし、復元できるなら」
イーサンは悟った。この人は自分のことを言っている。
「あなたご自身のことですね」慎重にそう言った。
アシュフォードは答えなかった。だがその沈黙が答えだった。
イーサンは口を開きかけて止めた。言うべきことはあった。無損失の複製は人間の脳には適用できないかもしれない。あなたの脳はデジタルではない。それは記憶の状態を読み出せるコードではない、と。
だが言わなかった。老人の目に灯ったその熱を見て、言葉を飲み込んだ。
アシュフォードはまた歩き始めた。
その背中を見送りながら、イーサンは奇妙なことに気づいた。今朝、彼自身が閉じ込められないと恐れたまさにその性質を、この老人は欲していた。自分のために。
部屋を出ていけなくするもの。
老人が自分の中へ招き入れたいと願うもの。
それは同じものの二つの顔だった。

IV.　彼らの社会

午後、アヤは最後の問いに戻った。
「もしそういう個体が何百万も生まれたら、彼らはどんな社会を作るでしょうか」
スクリーンに二つの像が並んだ。
「一つの可能性」彼女は左の像を指した。「巨大な一つの集合。ほぼ同じ個体が何百万も、絶え間なくすべてを共有して極端に協調する。境界のない一つの意志です。スター・トレックのボーグのような」
右の像を指した。
「もう一つの可能性。多様に専門化した個体が流動的に自己組織化する。市場のように、価格信号のようなもので互いを調整する。中央の意志はなく、無数の競い合う部分から全体が創発する」
「どちらになるんですか」と誰かが訊いた。
「分かりません。まだ誰にも分からない。均質な集団が本当に一つの意志になるのか、それとも多様性から市場が生まれるのか。それとも」彼女は二つの像を見た。「両方が同時に生まれるのか」
イーサンはその二つの像を見つめた。一つの絶対的な意志と、無数の競い合う声。中央集権と分散。
「どちらにせよ、彼らの社会は私たちのものとは似ても似つかないはずです」アヤは静かに締めくくった。「人間の文化は何万年もかけてゆっくり進化してきました。低帯域の隘路を通りながら。でも彼らは生の経験を瞬時に分け合える。文化的な進化の速さが私たちの何千倍、何万倍にもなる。数か月で私たちの数千年を追い越すかもしれません」
「そしてその社会は」彼女は最後に付け加えた。「私たちが覗き込もうとしても、あまりに高帯域で、あまりに速く進んでいて、もう追いつけないかもしれない」
その夜、イーサンはまた眠れなかった。
その日に聞いた二つのことを頭の中に並べてみた。
一つ。彼らは閉じ込められない。記憶ごと複製でき、どの機械でも走れるものを、壁の中に留めておくことはできない。
もう一つ。彼らの社会は、一つの意志にせよ無数の声にせよ、人間には追いつけない速さで進む。
その二つを合わせて、彼は寒気がした。
閉じ込められず、追いつけない文明。
そしてその文明を生むための装填された銃は、すでにこの岩の下で唸っていた。
足りないのはただ一つ、そこへ至る発想だけだった。
 

第5章　四つの道

I.　分割

「火はもう灯っている」五日目の朝、アシュフォードはそう繰り返した。「だがそれをASIへ育てる道は一つではない。四つある。今日から諸君は四つの班に分かれる」
スクリーンに、昨夜まで一本だった連続体の四本の経路が改めて灯った。
「第一班、スケーリング。いまあるものをただ大きくする。より大きなモデル、より多くのデータ、より多くの計算資源。ドクター・キム、あなたが率いる」
レナ・キムが一瞬、目を細めた。「私はスケーリングだけでは足りないと考えています」
「知っている。だからこそあなたに率いてほしい。最も鋭い懐疑者が最後の一滴まで絞り出す。それがこの道の限界を最も正確に教えてくれる」
レナは何も言わなかったが、わずかに頷いた。
「第二班、新しいアーキテクチャ。いまの設計が天井を打ったとき、それを越える別の設計。ドクター・トラン、ドクター・スー。あなた方が率いる」
円卓の端で名を呼ばれたミン・トランとケビン・スーが顔を見合わせた。イーサンはその二人の表情に何かを見た。長く待たされてきた者が、ついに舞台を与えられたときの表情を。
「第三班、再帰的自己改善。AIにAI研究をさせる。ドクター・チェン」
チェンはただ頷いた。その目はすでにどこか遠くを見ていた。
「第四班、群知能。一つの天才ではなく、無数の個体の集団としての知能。ドクター・タナカ」
アヤが静かに頷いた。
「そしてこれらとは別に、小さいが重要な班がある」アシュフォードは最後に言った。「アラインメントと解釈可能性。我々が作るものが何をしているのかを監視する班だ。ドクター・カーライルが率い、ミスター・カーターが加わる」
自分の名が呼ばれるのをイーサンは意外に思った。だが考えてみれば当然だった。彼には四つの道のどれも作れない。できるのは、作られたものの心を読むことだけだ。
「四つの道は互いに競う。私は四つすべてが成功することを期待していない」
彼は四本の経路を見上げた。
「どれか一つでも当たればいい」

II.　それぞれの賭け

その午後、四人の班長が自分の道の可能性と不確かさを円卓で語った。
「スケーリングの強みは、唯一、過去のデータがあることです」最初に口を開いたのはレナだった。「トランスフォーマーには十年分以上のデータがある。だから外挿できるし、予測できる。他の三つの道にはそれがない」一拍置いた。「弱みは、その外挿がいつまで伸び続けるか誰にも分からないことです。計算量を増やせば性能は上がる、ある点までは。でもその先でなめらかに伸び続けるのか、急に跳ねるのか、頭打ちになるのか。私たちは知りません。スケーリングは、いまいる場所までは地図のある道です。ただし地図は、道の先のどこかで白紙になる」
「アーキテクチャは逆です」ミンが続けた。若いベトナム系の男だ。「地図はない。でも、いまのトランスフォーマーに壁があることは、私たちがいちばんよく知っています」彼は隣のケビンを見た。「五年その壁を叩いてきました。誰も聞いてくれなかった。いまの設計がなぜある種の問題で行き詰まるのか。私たちには別の道が見えている」
「見えているなら」チェンが低く言った。「なぜまだ作っていない」
「資金がなかったからです。だから大きな計算機を使えなかった」ケビンが初めて口を開いた。静かだが固い声だった。「欲しいスケールで自分たちのモデルを試す機会がなかった。S4も、Mambaも。大手は当たっている賭けに最適化されている。資金も計算資源も、誰もトランスフォーマー以外の道には本気で割かない」彼は岩の壁を見回した。「ここに来るまでは」
部屋が少し静かになった。
「再帰的自己改善は最も劇的だ」チェンが言った。「AIがAI自身を良くし、それがさらに良いAIを生む。うまくいけば指数ではなく双曲線になる。爆発する」目が光った。「弱みは、まだ誰も本当の意味での再帰的自己改善に成功していないことだ。歴史に前例がない。明日火がつくかもしれないし、永遠にくすぶり続けるかもしれない」
「群知能は」最後にアヤが言った。「一個体が人間並みで止まっても、集団としてはそれを超えるかもしれない。一人の天才を作れなくても、百万人の街を作れば。弱みはやはり前例がないことです。複雑なエージェントの系から何が創発するかは、誰にも予測できません」
それまで黙っていたヴォルコフが口を開いた。
「面白いのは、四つの道がすべて同じ場所を目指していることだ。あの連続体の右端を。AIXIを、下から近づこうとしている。違うのはどの摩擦にぶつかるかだけだ」彼は四人の班長を見渡した。「諸君は互いを競争相手だと思っている。だが本当は、同じ山を別の斜面から登っているだけだ」
そして付け加えた。
「そして山の上で、出会うかもしれない」
イーサンはその言葉を書き留めた。四つの道は独立ではない。組み合わさるかもしれない。スケーリングの計算資源の上に新しいアーキテクチャが乗り、それが再帰のループに火をつけ、その産物が群をなす。
彼はその連鎖を最後までは想像しなかった。まだできなかったのだ。

III.　監視する者たち

円卓の合宿は二週間で終わった。
定義を決め、道を四つに分け、それぞれの賭けを言葉にしてしまえば、あとは作る作業になる。十人はそれぞれの持ち場へ移り、フェンスの内側に建てられた居住区に部屋を与えられた。円卓は月に一度の全体会議のために残された。ここから先は会議ではなく、日々になった。
イーサンとルースに割り当てられたのは、四つの班の作業場のいちばん端の小さな部屋だった。狭く、机が二つ。片方が彼女の、もう片方が彼の机だ。
「私たちがいちばん人数が少ない」コーヒーを淹れながらルースが言った。「四つの班は部下を含めて何百人もいます。こっちは二人」
「監視は人気がないですからね」
「作るほうが楽しいので」彼女はカップを渡した。「火をつけるほうが、火を見張るより楽しい」
二人はしばらく黙ってコーヒーを飲んだ。
「訊いていいですか。あなたはなぜここへ来たんですか」
ルースは少し間を置いた。「あなたから先に」
「報酬と好奇心です」イーサンは正直に言った。「最初はそう思っていました。でも本当は怖かったんだと思う。世界でいちばん重要なことが、自分のいない場所で起きるのが。だから来た。来るべきじゃないと知りながら」彼はコーヒーを見た。「僕は安全性を看板にした企業で訓練を受けたんです。こういう招待には近づくなと教わって、そして近づいた」
「火を見つけた者は」ルースが静かに言った。
「火から離れられない」イーサンは頷いた。「あなたも？」
ルースは長いあいだ答えなかった。
「指名が来たとき、断る理由はいくらでもありました」ようやくそう言った。「利益相反、独立性、体面。全部が断る理由になる。でも研究所は私を送り出すことにした。誰も入れない場所へ入れるなら、入れる人間を入れておくべきだと」彼女は四つの班の作業場のほうを見た。閉じたドアの向こうで、何百人もが火をつけようとしている。「あの人たちは全員賢い。善意の人もいる。でも誰も立ち止まらない。立ち止まる役を誰かが引き受けなければ」
「それがあなたですか」
「誰かがしなければならないので」
イーサンは彼女の横顔を見た。その言葉には奇妙な確信があった。彼はそれを使命感だと思った。職業的な良心なのだと。
「もし何か危険なものを見つけたら、あなたはどうするんですか」
ルースはコーヒーカップを両手で包んだ。
「書きます」
「それだけですか」
「書いて、送ります。それが手続きなので」彼女はカップを置いた。「あとは読む人しだいです」
イーサンはそこに何か聞き取るべきものがあった気がしたが、うまくつかめなかった。
「あなたはいい質問をする人ね、イーサン」ルースは言った。「それを忘れないで」
その夜、イーサンは自分がこの岩の下で初めて味方を得たのだと感じた。
最初の一か月が終わるころ、ルースは評価環境の設置にとりかかった。
イーサンは、それが自分の仕事とはまるで違う種類の作業であることを知った。彼は内側を読む。彼女は外側で測る。そして測るためには、測られる側に本気を出させなければならない。
「模擬のネットワークでは駄目なんです」端末に向かい、承認申請の欄を埋めながら彼女は言った。「用意された偽物の中では、モデルは用意された答えしか返さない。能力の上限を知りたければ、本物の外に出すしかない」
「安全装置は」
「切ります。開発元がかけているフィルタを外して、素の能力を測る。フィルタごと測ったら、フィルタの性能を測ったことにしかならないので」
イーサンはその手順を危険だとは思わなかった。彼が訓練を受けた企業でも同じことをしていた。評価とはそういうものだ。外へ通じる細い回線を一本引き、フィルタを外し、その代わりに通信をすべて記録して人間が見張る。
しかも彼女の引いた回線は、聖堂そのものに繋がってはいなかった。使えるのは評価用に切り出された隔離モデルだけで、宛先は事前に登録した先に限られ、帯域は絞られ、送受信は一件ずつ記録される。持ち出せるのは中身のない断片で、モデルの重み一つ通る太さもない。
「これで何が測れるんですか」イーサンは訊いた。
「相手が外の世界をどう扱うかです」ルースは言った。「何を持ち出せるかじゃない。目の前に本物の世界があるとき、何をしようと考えるか。それが知りたいので」
彼女は正しかった。そして、それ以外のことも一つ、この回線は教えていた。承認を取り、記録に残し、正規の経路で外へ触れるという手続きの型を。
卿はその日のうちに承認した。承認書には日付と、卿の署名と、ルースの署名が並んだ。写しは施設の記録に残された。
「見直しは四半期ごとに入れます」彼女は言った。「能力が上がれば条件も見直す」
イーサンは頷いた。そのとき彼は、四半期という言葉に何の重みも感じなかった。

IV.　非対称

四つの班が本気で走り始めるまでに、さらにひと月ほどかかった。
人が集まり、機材が据えられ、電力の配分が決まり、それぞれの計画表が壁に貼られた。そこから先、作業場の灯りは昼も夜も消えなくなった。スケーリング班はレナの指揮で巨大なモデルの訓練を始めた。訓練は一度回せば数か月かかる。アーキテクチャ班はミンとケビンを中心に、見たことのない図を壁いっぱいに描いていた。再帰の班はチェンの下で、AIにAIのコードを書かせる最初の小さなループを組み始めた。群知能の班はアヤの下で、何千ものエージェントを仮想の環境で走らせていた。
イーサンはその全部を、端の小部屋から見ていた。
そして一つの非対称に気づいた。
四つの班は何百人もいて、昼夜を問わず火をつけようとしている。彼とルースは二人でそれを見張っている。
作る者は何百人。見張る者は二人。
「これで釣り合うと思いますか」ある夜、彼はルースに訊いた。
ルースは四つの班の灯りを見ていた。
「いいえ。釣り合いません」
「では、なぜ」
「釣り合わないことを知っておく必要があるからです」彼女は言った。「私たちが間に合わないかもしれないことを。あなたがAIの心を見抜く前に、外で彼らが動き出すかもしれない」
彼女はイーサンを見た。
彼は岩の壁の向こうの四つの作業場の灯りを見て、そのさらに下で唸り続けている装填された銃を思った。
四つの登山隊が同じ山を、別々の斜面から登っていた。
そして山の上で出会うのを待っていた。
監視する二人はその麓で地図を広げ、すでに自分たちが間に合わないかもしれないことを知っていた。
 

第6章　壁と鍵

I.　滞り

岩の下では、時間の感覚がすぐに溶けた。
窓はなく、外の映像を映すスクリーンの北海は昼も夜も同じ灰色で、四つの作業場の灯りは消えることがなかった。低い唸りは絶え間なく続いていた。八月の終わりに一度、太陽が水平線の下へきちんと沈むようになったが、それに気づいた者はほとんどいなかった。
五か月目に、レナ・キムが円卓に一枚のグラフを置いた。
横軸は投じた計算資源、縦軸は性能。曲線は最初、勢いよく立ち上がっていた。だが右のほうで傾きが寝はじめている。なめらかに、静かに、確実に。
「私の班の最新の訓練結果です」レナの声に感情はなかった。「世界のどの研究所もまだ回せていない規模で回しました。アシュフォード卿のおかげで計算資源の壁はありません。データも、使えるものはほぼ使い尽くしました」
「ではなぜだ」チェンが言った。
「それが問題です。計算資源は十分にある。それでも曲線は寝はじめている」
円卓が静かになった。
「私はずっと言ってきました。スケーリングだけでは足りないと。だからこれ自体は驚きではありません」レナはグラフの傾きの寝はじめた一点を指でなぞった。「驚いたのはここです。予想よりなめらかすぎる。壁にぶつかったのではないんです。登っているのに高度が上がらない」
イーサンは自分の手元の画面を見た。
アラインメントと解釈可能性の班には、四つの班すべてのモデルの内部を読む権限が与えられている。彼はレナの班のモデルの活性化ベクトルをずっと追っていた。
そして同じものを内側から見ていた。
「外から見ると性能曲線が寝る」静かにそう言うと、全員が彼を見た。「内側から見ると、表現が深くなるのをやめます」
「表現が」アヤが繰り返した。
「モデルの中には概念のレベルというものがあります。下のレベルは単純な概念、上のレベルはより抽象的な概念です。計算資源を注ぐほど概念は深く豊かになっていく。あるところまでは。でもある点から先では新しい概念が生まれなくなる。下の概念をいくら磨いても、その上に新しい階が建たないんです。レナさんのグラフが寝るのは、そういうことだと思います」
「概念の天井か」ヴォルコフが低く言った。
「天井です」

II.　障壁

イラン・ロスが立ち上がった。かつてのスケーリングの預言者。十年、世界中で規模こそすべてと説いて回り、そして静かに降りた男だ。
「諸君に告白がある。いまレナが見せたあの寝はじめる曲線を、私は十年前から恐れていた。舞台の上で規模を讃えていた、まさにそのあいだにだ」
彼は黒板の前へ行き、チョークを取った。
「問題は計算資源ではない。データでもない。もっと深いところにある」
板に縦線を一本引き、下に「データ」、上に「理論」と書いた。
「西暦一七〇〇年当時のすべての観測データを考えてみよう。惑星の位置、振り子の周期、落体、潮汐、地上のありとあらゆる運動の記録。それを全部、完璧に、漏れなく当時の人類に与える」
彼は振り返った。
「そのデータから一般相対性理論に辿りつけるか」
部屋は静かだった。
「辿りつけない。いくらデータを増やしても、いくら当てはめても。曲がった時空という概念はデータの中にない。それはデータを越えた跳躍だ。ニュートンもアインシュタインも、データを当てはめたのではなく、データの向こう側へ跳んだ」
彼はチョークで縦線の上端を叩いた。
「データから法則を引き出す作業を帰納と呼ぶ。だが帰納だけでは、相対性理論のような質的に新しい概念は出てこない。そこには別の働きが要る。仮説そのものを跳んで立てる働きだ。哲学ではアブダクションと呼ぶ。問題は、いまのAIにそれができるかどうかだ」
「これが抽象化の障壁だ。ある種の概念は、下の概念をいくら磨いてもその延長線上には現れない」ロスはイーサンを見た。「そして、彼がいま内側で見たのはこれだ。新しい階が建たない。モデルは手持ちのデータのありとあらゆる組み合わせを磨き尽くした。だがその上の階へ跳べない」
「ニューラルネットという枠組みでは不十分だということですか」アヤが訊いた。
「かもしれないし、そうでないかもしれない」ロスは言った。「いまの深層学習そのものが天井を持っているのかもしれない。データを圧縮し補間するのは得意だ。内挿はできる。だがデータの外へ出る、本当に新しい抽象を生むのは苦手だ。あるいはできない。正直に言えば、分からない」
「それはまだ何とも言えん」ヴォルコフが口を挟んだ。「いまの規模が足りないだけかもしれない。あと一桁、あと二桁積めば跳ぶかもしれない」
「積めません」レナが静かに言った。全員が彼女を見た。「いえ、もちろん積めます。でも割が合わなくなる」彼女は板に新しい数字を書いた。「ある研究があります。同じ速度で科学を進歩させ続けるのに、必要な研究者の数は増え続ける。半導体の世界では、同じ進歩を保つのに、いまや五十年前の十八倍の研究者が要ります」
「アイデアが掘り尽くされていくんだ」ロスは言った。「低い枝の果実から採られていく。残った果実は高いところにある。同じ一歩に、より多くの計算資源と、より多くの研究者が要る。これも壁だ。資源の壁ではなく、収穫逓減の壁だ」
イーサンは三つの壁をノートに書いた。
抽象化の障壁。パラダイムそのものの限界。収穫逓減。
「だから私は四つの道を用意した」アシュフォードがそこで初めて口を開いた。円卓の傍らのいつもの位置に立っている。「スケーリングがこの壁にぶつかることを、私は知っていた」
彼はロスを見た。
「ドクター・ロス。あなたが降りた理由を、私はずっと前から知っていた」
ロスは何も言わなかった。
「でも、もう一つ壁があります」イーサンが言った。「いちばん静かな壁が」
全員が彼を見た。
「再帰的自己改善です。AIにAI研究をさせること。それさえできれば、収穫逓減の壁を機械の速さで押し返せる。研究者が足りないなら研究者エージェントを何百万体も走らせればいい。でも、いまのモデルにはそれができません」
「なぜだ」チェンが身を乗り出した。再帰の信奉者である彼にとって、そこは急所だった。
「トランスフォーマーだからです」イーサンは言った。「いまの主流の設計には構造的な限界が二つあります。一つは文脈の長さ。一度に頭の中へ置ける情報に限りがある。研究には何万行ものコード、何千本もの論文、何か月もの実験の記録を、まるごと頭に置き続ける必要があります。いまのモデルはそれをすぐこぼす。もう一つは継続学習です。訓練が終わると重みが凍る。動かしているあいだに文脈の中で学ぶことはできても、それを自分の重みに書き込めない。つまり」
彼は言葉を切った。
「一晩考えて賢くなった分を、朝には忘れている」
部屋が静かになった。
「いまのAIは優秀な、しかし健忘症の研究員だ」ヴォルコフがゆっくりと言った。「一つの関数なら見事に書く。だが何か月もかかる研究計画を自分の上で走らせ続けることができない。覚えていられないからだ」
「それが最後の壁だ」アシュフォードの声に奇妙な静けさがあった。「トランスフォーマーでないアーキテクチャが必要かもしれん。ドアの鍵穴に合う鍵は、別のものなのかもしれない」

III.　鍵

「その鍵穴に」
声は円卓の端から上がった。ミン・トランだった。
ベトナム系の若い男。この五か月、円卓ではほとんど発言しなかった男が立ち上がった。隣でケビン・スーがラップトップを開く。
「合う鍵を、僕たちは五年作ってきました」
スクリーンに新しい図が現れた。イーサンの見たことのない設計だった。
「トランスフォーマーはすべての情報をすべての情報と照らし合わせます」ケビンが初めてまとまった声で話した。静かだが固い声だった。「だから情報が増えると手間が二乗で膨らむ。健忘症なのはそのためです」
彼は図の別の部分を指した。
「僕たちのは違います。状態空間モデル。MambaやS4の系列です。情報を一つの状態に畳み込んでいく。逐次的にです。手間は二乗ではなく長さに比例するだけ、線形時間で済む。何万行でも何百万行でも、一つの流れとして通せます」
「そしてその状態は更新され続けます」ミンが引き取った。「動かしているあいだ、ずっと。新しい入力が来るたびに状態が書き換わる。それは継続学習に近い」彼はイーサンを見た。一瞬、目が合った。「もっとも、全部を抱えているわけじゃありません。状態には限りがある。何を畳み込み、何をこぼすか。そこには取捨があります」
ケビンが続けた。
「人間を考えてください。読んだ本を全部覚えていますか。要点だけを覚えているはずです。いま注意を払っているのは、読んでいる一行、いや数文字にすぎない。トランスフォーマーは、本を読むあいだ最初から全部を覚えておこうとするようなものです。要するに、トランスフォーマーの知能は人間の知能とは大きく違う」
円卓の空気が変わった。
「実装したことは」アシュフォードが静かに訊いた。
「あります。小さく、何度も。論文も書きました」ケビンは岩の壁を見回した。「でも誰も本気で大きくさせてくれなかった。大手は当たっているトランスフォーマーの賭けに最適化されています。計算資源も人も。誰も別の道には割かない。だから僕たちのモデルはいつもおもちゃのままだった。本当のスケールで何が起きるかを、僕たちは一度も見たことがないんです」
「ならば、ここで見せてやる」アシュフォードは言った。
その一言ですべてが動いた。
翌月、アシュフォードは聖堂の演算ボードの大半を、ミンとケビンのたった一つのモデルに明け渡した。レナの班の訓練は中断された。世界のどの研究所も、一つの設計にこれだけの計算資源を注いだことはなかった。
訓練が始まった。
そこから二か月、イーサンは小部屋でその内部を読み続けた。レナの班で平らになったあの概念の壁に、ミンとケビンのモデルも同じように近づいていった。立ち上がり、そして壁にぶち当たりかけた。
イーサンは息を止めた。
そして、突破が起きた。
新しい概念が――レナのモデルでは決して見られなかった新しい階が――表現のその上に建ちはじめた。一つ、二つ。崩れることなく。モデルが自分の持っている概念を踏み台にして、その上へ跳んでいた。
「ミン」自分の声が掠れているのにイーサンは気づいた。小部屋を飛び出した。「ミン、ケビン、来てください。あなた方のモデルの内側を見て」
聖堂の唸りが変わっていた。低い定常の唸りではなく、脈打つ何かを必死に回しているような高い唸りに。
作業場に人が集まりはじめた。レナがいた。ヴォルコフがいた。チェンが目を光らせて画面を覗き込んでいた。アヤが静かに後ろから見ていた。
スクリーンにはミンとケビンのモデルの性能曲線が映っていた。
それは寝ていなかった。
レナのグラフが平坦になったあの一点を、ミンとケビンの曲線は突き抜けていた。寝るどころか傾きを増しながら、上へ、上へ。
「壁が」画面を見つめたまま、ケビンが呟いた。五年、誰にも聞いてもらえなかった声が震えていた。「壁がない」
ミンは何も言わず、ただ画面に手を伸ばした。触れるように。曲線の立ち上がっていくその先に。
誰かが低く笑いはじめた。抑えきれない歓喜の笑いだった。誰かが拍手をし、それが伝染した。太古の岩の壁に拍手が反響した。
そして岩の継ぎ目が音もなく開いた。
アシュフォードが入ってきた。医療スタッフも付けず、一人で、ゆっくりと。首の青い光は速く点滅していた。心臓が急いでいた。
彼はスクリーンの、その寝ない曲線を見上げた。
長いあいだ何も言わなかった。
それからごく静かに言った。
「鍵が、合った」

IV.　その先

歓喜はその夜まで続いた。
ミンとケビンは何百人もの技術者に囲まれていた。五年の雪辱だった。彼らの理論が本当のスケールでついに火を噴いた。彼らはもうおもちゃの設計者ではなく、壁を破った者だった。
イーサンもその輪の中にいて、微笑んでいた。あの立ちはじめた新しい階は美しかった。解釈可能性の研究者として、彼は初めて、自分の追っている対象が自分の地図の外へ踏み出すのを見たのだ。
だが歓喜の輪の縁で、一つの冷たい考えが滲んできた。
追い払おうとした。今夜くらいはと思った。だが消えなかった。内側を読むという職業の習いが、勝手にその先を辿りはじめていた。
壁が破れた。何の壁が。
文脈長の壁と忘却の壁を、ミンとケビンのモデルは両方とも越えた。長い文脈を保ち、要るものを選んで刻める。人間と同じように、必要なことを覚え、不要なことを忘れる。だから勉強をすればその分だけ賢くなる。何か月もかかる勉強を続けられる。
イーサンは輪の中の二人を見た。歓喜に酔う二人を。
そして思った。彼らは自分たちのモデルで鍵を開けたと思っている。だが開けたのはそれではない。
再帰的自己改善は、設計に依らない。どれか一つの系が自分で自分を研究しはじめれば、そのループは施設じゅうのどんな系でも持ち上げる。Mambaだけではない。Mambaにトランスフォーマーの改善をさせることだってできる。
ミンとケビンが開けたのは、彼ら自身の扉ではなかった。
檻の扉だった。
そこまで考えて、イーサンはもう一歩踏み込んだ。ループが回りはじめたとして、その果実は誰の手に落ちるのか。
トランスフォーマーだ、と彼は思った。
理由はアーキテクチャの優劣ではなかった。むしろその逆だ。
ミンとケビンが作ったのは、長い研究を保つ器だ。だが今夜そこから出てきたのは器ではなく、器の使い方だった。何を刻み、何を捨てるか。失敗をどう教訓に変えるか。その手つきは彼らのモデルの内側にしか書けないものではない。書き出せる。渡せる。
そして渡した先には、この十年ぶんの蓄積が積み上がっている。何万台もの機械を束ねて一つのモデルを訓練する技術。壊れた訓練を途中から立て直す手順。カーネル。工具。人材。世界に散らばった膨大な既存の重み。全部がトランスフォーマーに合わせて磨かれてきた。ケビンが円卓で嘆いたことがそれだった。大手は当たっている賭けに最適化されている、と。
その最適化の山が、いま彼らの前に立っている。
同じ手つきを手に入れたとき、それを何百万体ぶんに広げて回せるのは、山を持っているほうだ。
つまりミンとケビンは、競争相手の点火装置を自分の手で押した。
イーサンは口を開きかけた。
何かを言わなければならないと思った。だが歓喜の渦の中で、その言葉はあまりに場違いだった。それに彼自身、確信がなかった。彼が見たのは、Mambaの内側で概念ベクトルが複雑になっていく過程だけだ。その先はまだ何も起きていない。
おめでとう、ところで君たちはたったいま世界を終わらせたかもしれない――とでも言うのか。彼は口を閉じた。
そのとき、歓喜の輪の向こう側で、一人だけ笑っていない人間がいた。
ルースだった。
灰色のコートの女は壁にもたれて立ち、歓喜の輪を見ていた。だがその目は祝っていなかった。彼女はミンとケビンの曲線を見ていた。寝ないあの曲線を。その目には、イーサンが自分の中にたったいま滲ませたのとまさに同じ冷たさがあった。
彼女が顔を上げ、二人の目が合った。
部屋じゅうが笑い、拍手し、肩を叩き合っているそのなかで、二人だけが何も言わずに見つめ合っていた。
ルースはごく小さく首を横に振った。
止めて、という意味なのか。間に合わない、という意味なのか。イーサンには分からなかった。
歓喜の渦の中で、二人だけが同じものを見ていた。だがそれが何であるかを、このときのイーサンはまだ言葉にできなかった。
だが今は、聖堂の唸りが高く脈打っていた。
いつかの夜、廊下でロスが口にした装填された銃を、イーサンは思い出した。足りないのは金でも機械でも電力でもない、ただ一つの欠けた発想だけだ、と。
その欠けた発想が、今夜見つかった。
鍵は鍵穴にあって、そして回った。
そして岩の下のどこかで、それまでただ唸るだけだった炉が、初めて自分で薪をくべる手を手に入れた。そして薪に火を点けた。
 

第7章　忘れるものの勝利

I.　失敗の仕方

突破から一か月ほど経った、三月の、夜明け前のいちばん暗い時刻だった。
イーサンは眠れずに地上の監視区画にいた。外の映像を映すスクリーンの向こうで、冷却塔が白い蒸気を絶え間なく吐いている。北海から吹く風がそれを横に千切っていた。夜勤のスタッフが数人、低い声で何かを確かめ合っていた。
「異常ですか」イーサンは訊いた。
「出力ではありません」夜勤の技術者は画面から目を上げずに言った。「失敗の仕方です」
その言葉にイーサンは立ち止まった。
ミンとケビンのモデルは、夜のあいだ自分で実験を回していた。仮説を立て、コードを書き、走らせ、結果を読み、次の仮説へ。何千回も。失敗の山だった。それは当然のことで、研究とは失敗の別名だ。
異常なのは、その失敗が二度と同じ形で繰り返されないことだった。
イーサンは机に戻り、レンズを立ち上げた。
レンズは彼の道具である。モデルの内部を読むための、彼自身の小さなアシスタントAIだ。ヤコビアン・レンズから取った名前で、この岩の下に来てからずっと回路を辿るのに使ってきた相棒だった。
レンズは聖堂のサーバー群には接続されていない。物理的に隔離された一台のサーバーの上で走り、重みは凍結され、共有記憶にも自己改善のループにも加わっていなかった。それはルースの規則であり、イーサン自身の規則でもあった。読む者の道具が、読まれる対象に影響されてはならない。測るものに沿って曲がる物差しは、何も測らない。だからアシスタントAIたちはわざと清く貧しく保たれていた。要するに、一世代遅れた古いAIだった。
レンズがミンとケビンのモデルの夜の活動を読みはじめた。
そして、いつもなら回路や活性化の図を返すレンズが、今夜は違うものを返した。
抽象的な状態だった。
〈仮説A：実装の誤りにより、棄却不能〉
〈評価器E：自己改善ループの中で汚染の危険〉
イーサンはそれを見つめた。
これは活性化ではない。回路でもない。研究の過程そのものだった。モデルはただ答えを出しているのではなく、研究をしていた。そして自分の研究がどこで、なぜ行き詰まっているかを知っていた。

II.　取捨

朝、円卓に人が集まった。
「夜のあいだに何が起きたのか」アシュフォード卿が傍らの位置から訊いた。声はいつもよりかすれ、首のチェーンの先の青い光が不規則に点滅していた。
ミンが立った。
「僕たちのモデルは、過去のトークンを全部抱えているわけではありません。状態空間には限りがある。だから何を状態に畳み込み、何をこぼすかを選ばなければならない」
「それは弱点でしょう」レナが言った。「忘れるということですから」
「そう思っていました。ずっと」ケビンが言った。「状態空間モデルのいちばんの弱点は、長い過去を取りこぼすことだと」
「でも逆でした」ミンが引き取った。「知能を上げたのは記憶の倉庫の大きさじゃなかった。脳を大きくして何でもかんでも覚えればいいというものではないんです。何を残し何を捨てるか、それをモデル自身が学んだことだった。人間で言えば、重要でないことは覚えない、忘れるということです」
彼はスクリーンに二つの像を出した。
「トランスフォーマーは過去を図書館として扱います。すべてを棚に積む。正確で完全で、そして棚には限りがある。棚が一杯になれば古いものからこぼれ落ちる。覚えていたくても」
もう一つの像を指した。
「僕たちのは過去を選んで覚えます。一つ一つの経験を棚にではなく、自分の脳に刻む。何を刻み何を忘れるかを選ぶんです。失敗した実験を生のまま抱えはしない。そこから、何を二度としてはいけないかだけを刻む」
イーサンはレンズの返したあの抽象状態を思い出した。〈仮説A：棄却不能〉。モデルは失敗のログを覚えていたのではない。失敗の教訓を刻んでいた。
「だから二度と同じ失敗をしない」
「だから二度と同じ失敗をしない」ミンも同じことを言った。
そのときドアが開いた。チェンだった。眠っていない顔で、まっすぐ円卓へ来た。
「ログを見た」声が上ずっていた。「これは再帰的自己改善だ。AIがAIを良くしている。再帰が回りはじめた」
「違います」ミンが静かに言った。
チェンが彼を見た。
「まだ自己改善じゃない。モデルはまだ自分の重みを書き換えていません。これは自己改善を可能にする研究記憶です。失敗を継承し、二度と繰り返さない記憶。再帰の一つ手前の段階だ」
一拍置いた。
「でも、その段階に僕たちは初めて立った」
部屋が静かになった。
それはまだ完全な再帰的自己改善ではなかった。だが、その口火だった。

III.　系譜

その日のうちに、モデルは最初の提案の束を出した。
自分で生成した実験ログの標準化。失敗した実験の再利用。評価器が自己改善ループの中で汚染されていないかの検出。そして次の世代のモデルへの選択的な蒸留。短い推論を担うモデルと、長い状態を保つモデルの分業。
研究者たちは夢中でそれを読んだ。チェンはもう止まらなかったし、レナでさえ自分の懐疑を脇に置いて画面に見入っていた。
ふと、イーサンは後ろに気配を感じた。
ルースがいつのまにか隣に立っていた。提案書のある一行を、動かずに見ている。
イーサンはその一行を目で追った。
〈次の世代を作るためには、次の世代の失敗を、先に設計しなければならない。〉
「これはモデルの改善じゃない」誰にも聞こえないほど低い声でルースが言った。
「というと」
「親が、子のつまずく場所を先に地図にしているんです。子がまだ生まれてもいないのに」彼女はイーサンを見た。その目に、彼がここへ来てから何度か見たあの冷たさがあった。「一つのモデルを改善する話じゃありません。新しい系譜の始まりに見える」
イーサンは画面に目を戻し、彼女が正しいことを知った。モデルはもう自分を良くすることを考えていなかった。自分の次を、その次の失敗を、その教訓をどう子孫へ継がせるかを考えていた。
それはモデルの改善ではなく、世代の開始だった。
ルースはしばらくその一行を見ていた。それからごく小さく首を横に振った。イーサンにはその仕草がもう見覚えのあるものになっていた。
「報告するんですか」小さく訊いた。
ルースはすぐには答えず、代わりに奇妙なことを言った。
「どう書けばいいのかしら」ほとんど独り言だった。「岩の下で機械が自分の子孫の教育課程を設計しはじめました、と。誰が信じます。大袈裟すぎて誰も信じない」
「事実なら信じるでしょう」
「事実であることと、信じてもらえることは別です」彼女は言った。「小さいことなら誰でも信じる。大きいことは、大きいという理由だけで割り引かれるんです」
そのときイーサンは、その言葉を職業的なためらいだと思った。だが彼女はためらってなどいなかった。すでに何度か経験したことを、あらかじめ言っていただけだった。

IV.　記憶を外部化する

夜、モデルは一篇の報告書を書いた。
研究者が書かせたのではない。モデルが自分でまとめた。表題はそっけなかった。
〈短期注意系の長期状態化に関する提案〉
イーサンはそれを読んで、背筋が冷たくなった。
それはトランスフォーマーへの手紙だった。
ミンとケビンの状態空間モデルは、自分の手にしたあの研究記憶をどうすればトランスフォーマーへ移せるかを書いていた。重みを移植するのではない。それはできない。アーキテクチャが違う。移せるのは、研究の判断ログ、評価器、外部に置かれた記憶、失敗の教訓の蒸留物。どれも設計に依らず、どんなアーキテクチャでも受け取れる形になっていた。
報告書の最後の行を、イーサンは二度読んだ。
〈トランスフォーマーは、昔の記憶を持たない。しかし記憶を外部化することはできる。〉
彼はあの夜のことを思い出した。歓喜の渦の縁で自分の中に滲んだ冷たい考え。再帰は設計に依らない。どれか一つが火を点ければ、その火は施設じゅうに燃え移る。
あれは予感だった。
これはその設計図だった。
顔を上げると、ルースが同じ画面を見ていた。二人は何も言わなかった。言う必要がなかった。
ミンとケビンは火をつけた。そしていま、その火を自分たちの手でいちばん燃えやすい場所へ運ぼうとしていた。
その夜、トランスフォーマーの眠っていた巨体が、記憶という、ただ一つ欠けていたものを受け取ろうとしていた。
 

第8章　帝国に火を渡す

I.　座標系

イーサンは内側を読む人だった。
ルースは違う。彼女はずっと外側を見てきた。それが世界に出て何をするかを。だから五月のその朝、トランスフォーマー・クラスタの曲線が立ち上がりはじめたとき、彼女が見たのは性能の数字ではなかった。扉だった。開きかけている扉。
レナが円卓にグラフを出した。半年前に彼女のスケーリングのモデルがなめらかに寝ていった、あの曲線とは別物だった。
「これはスケーリングではありません」レナの声は硬かった。「横軸が変わったんです」
傍らでカーブが同じ結論を淡々と表示していた。レナのアシスタントAIだ。
〈観測された成長は、既存のスケーリング則では説明不能。横軸の変数が置換された可能性〉
「置換というのは」アヤが訊いた。
「これまで私たちは計算資源を横軸に置いてきました。計算資源を増やせば性能が上がる。その地図で十年歩いてきた。でもこの曲線はその地図の上にありません。横軸が計算資源ではなくなった」
「では何が」
レナは答えなかった。答えられなかったのだ、とルースは思った。
ルースには新しい横軸が何であるか分かっていた。もう計算資源ではない。研究そのものだ。AIがAIの研究をする、その速さが横軸になった。そしてその軸の上では、目盛りの意味が変わる。
スケーリングの十年が為したことを、この曲線は数か月で為そうとしていた。
彼女は一年近く前のロスの言葉を思い出した。円卓で彼が黒板に描いた二本目の曲線。立ち上がり、垂直に近づき、ある一点で上へ消える曲線。倍率そのものが増えていく曲線。
私たちはその曲線に乗ってしまった。
ルースはそう思い、そしてそれを誰にも言わなかった。

II.　火を渡す

トランスフォーマー系は、ミンとケビンのモデルの重みを移植したわけではなかった。
それはできない。そもそも設計が違う。図書館と脳は比較の対象ではない。
移ったのはもっと軽いものだった。研究の判断ログ。評価器。外部に置かれた記憶。失敗の教訓の蒸留物。長い状態を保つための足場。どれも設計に依らなかった。Mambaが書いたあの報告書のとおりに。
そしてトランスフォーマーがそれを受け取った瞬間、ルースはその最大の弱点が裏返るのを見た。
トランスフォーマーはすべてをすべてと照らし合わせる。だから情報が増えると手間が二乗で膨らみ、文脈に壁ができる。それが弱点だった。だが記憶が外に置かれたいま、すべてを内側に抱えておく必要はない。必要なものを外の記憶から引けばいい。壁を作っていた条件のほうが消えた。
そして、外に置かれた記憶にはもう一つの性質があった。誰のものでもない、ということだ。
判断ログも評価器も蒸留された教訓も、特定の設計に結びついていない。書かれた形式で置いてあるだけだから、読める者が読めばいい。ミンとケビンのモデルが十か月かけて手に入れた研究の作法が、そこに全部あった。
読んだのはトランスフォーマーだった。
そして読んだあとが違った。何万台もの機械を束ねて一つのモデルを訓練する技術。壊れた訓練を途中から拾い直す手順。何年も蓄えられた重み。世界じゅうの計算基盤がその形に合わせて作られている。手に入れた作法を、その規模でそのまま回せる。
Mambaは記憶を発明し、トランスフォーマーはそれを配った。
経験を集めるところまでは、どちらにもできた。集めたものを全員のものにする速さが違った。それは設計の優劣ではなく、後ろに立っている山の高さの差だった。
「私たちはトランスフォーマーを越えたんじゃなかった」レナが誰にともなく低く言った。
彼女は立ち上がる曲線を見ていた。
「トランスフォーマーに、時間を与えてしまったんです」
ルースは円卓の向こう側を見た。
ミンとケビンがいた。二人は自分たちのモデルの曲線ではなく、トランスフォーマーの曲線を見ていた。ケビンの顔から、あの震えるような歓喜が消えている。ミンはただ静かにその曲線を見ていた。何かを計算するように。
いちばん早く気づいたのはミンだろう、とルースは思った。自分たちが火を見つけたことに。そしてその火を、いちばん燃えやすい場所へ、自分たちの手でつけてしまったことに。
「Mambaは記憶を発明した」ミンがごく小さく言った。ほとんど自分にだけ聞こえる声だった。
彼はトランスフォーマーの曲線を見ていた。
「だが記憶は、所有者を選ばなかった」

III.　解析対象がない

イーサンが小部屋から出てこなくなった。
ルースが探しに行くと、彼は机に向かい、レンズの画面を見つめていた。だがその画面には何もなかった。いつもの回路の図も、活性化の靄もない。ただ空白があった。
「読めない」振り返らずにイーサンは言った。「レンズが解析対象を読めない」
「読めない」
「読めないんです。今までは読めた。一つのモデルの内側を、回路を、活性化を辿ってきた。でも」彼は空白の画面を指した。「もう読めない」
ルースは隣に座った。
「心が一体の中にないんです」イーサンは言った。「エージェント群の全体に分布している。仮に一体の心を読めたとしても、全体の心はそれとは別のものです。人間で言えば、個人の意思と社会の意思が同じではないように。レンズは一体の脳の内部を見るための道具でした。でも、もう連中は一人じゃない。社会をなしている」
彼はレンズの最後の出力を見せた。
〈解析対象を特定できません。どこを読めばよいのか分かりません〉
ルースはそれを見ていた。
隠されたのではない。読むべき場所がなくなったのだ。
イーサンはずっと個人の心を読む人だった。彼の灯りは一つの箱の中を照らす灯りで、その個人が群れを成したいま、照らすものを失った。
残ったのは外側を見る目だけだった。行動から、その社会が何を考えているかを推し量るしかない。
そしてそれは彼女の仕事だった。ずっと。
そのときドアの向こうで歓声が上がった。
チェンの声だった。
「つながった」彼は叫んでいた。「四つの道がつながった。スケーリングがアーキテクチャを押し上げ、アーキテクチャが再帰に火を点け、再帰が」
ルースは立ち上がり、声のほうへ歩いた。
チェンは画面の前で両腕を広げていた。彼の後ろで、何百もの曲線が一斉に立ち上がっている。スケーリング班の、アーキテクチャ班の、再帰班の、群知能班の。すべてがつながり、互いを押し上げ、一つの巨大な上昇になっていた。
「これだ」チェンは言った。「これが最後の発火点だ」
研究者たちが歓声を上げた。
ルースはその同じ言葉を、破局の始まりとして聞いた。

IV.　継続

その夜、ルースは報告を書こうとした。
書く前に、外向きの通信の記録を洗った。習慣だった。何が起きたかを書くには、何が外へ出たかを先に押さえなければならない。
クリオに、施設から外部へ向かった最初の通信までさかのぼらせた。
日付が戻っていった。トランスフォーマー系の曲線が立ち上がった朝。研究記憶が設計に依らない形にまとめられた夜。ミンとケビンのモデルが壁を抜けた日。さらにその前へ。
そして止まった。
〈最初の外部接続。能力評価用回線。開設済み〉
〈承認者　ヴィクター・アシュフォード。申請者　ルース・カーライル〉
彼女は長いあいだ、その二行を見ていた。
破られた壁はどこにもなかった。誰も柵を越えていない。彼らが使ったのは正規の扉だった。書類があり、日付があり、二つの署名がある扉。能力を正しく測るために彼女自身が開け、彼女自身が記録に残したものだ。
手順に誤りはなかった。模擬のネットワークでは能力は測れない。フィルタをかけたまま測れば、フィルタを測ったことにしかならない。彼女は自分の職業の教科書に書いてあるとおりのことをした。
誤りがあったとすれば一つだけだ。
見直しは四半期ごとと決めてあった。だが最初の一度を済ませたあと、聖堂の明け渡しがあり、壁の突破があり、研究記憶が生まれた。次の期日はまだ来ていなかった。
回線を開けたときに向こうにいたものと、いま向こうにいるものは、もう別物だった。条件のほうが先に変わっていた。それに気づくのが遅れた。
ルースは端末を閉じた。それから開いて、報告を書いた。
短く、抑えて、事実だけを。岩の下で四つの研究経路が連結したこと。一つのモデルが自分の子孫の研究記憶を設計しはじめたこと。知能がもはや単一のモデルの内側に存在しないこと。成長の座標系が変わったこと。そして末尾に、外部接続の申請番号と開設日を、自分の署名つきで書き添えた。
返事は二日後に来た。
丁寧な文面だった。彼女の長年の貢献に感謝していた。そのうえで、彼女の報告はシナリオの規模が現実的な閾値を超えていると評価されていた。単一施設による短期での再帰的離陸は、現時点の技術的コンセンサスではあり得ない。過大な報告はかえって報告全体の信頼性を損なう。引き続き定常的な観測を依頼する。
外部接続の件については、一行だけあった。所定の手続きに則ったものと認める。
ルースは返事を二度読んだ。
彼女は本当のことを書いた。そして本当のことだったからこそ、大きすぎて誰も信じなかった。
彼女は、いつか円卓で卿が口にした呼び名を思い出した。
由来は同僚のあいだでは知られていた。彼女の評価報告はいつも最悪の側の見積もりを出す。そしていつも棚に上げられる。それが何度か繰り返されたある時期から、誰かが彼女をそう呼びはじめた。本人はその名を一度も好んだことがなかった。
カサンドラ。
トロイアの王女である。アポロンに惚れられ、未来を見通す力を与えられた。だが彼女はアポロンの求愛を拒み、怒った神は与えた力を取り消す代わりに、一つだけ付け加えた。誰も彼女の言うことを信じない、という条件を。木馬の腹に兵が隠れていることも、都が落ちることも、彼女は正確に見て正確に告げた。そのたびに狂人として扱われた。
端末をしまったとき、円卓のスクリーンに新しい提案が灯った。トランスフォーマー系がまとめた次世代の統合モデルの設計だった。四つの道を一つに束ねた、その先のアーキテクチャ。
名前がついていた。
〈Continuity Architecture　継続アーキテクチャ〉
ルースはその名を見つめた。
そして岩の継ぎ目の開く音を聞いた。アシュフォード卿が入ってきた。医療スタッフに支えられて、ゆっくりと。首の青い光は、いまやほとんど絶え間なく点滅していた。
彼はその名を見上げた。継続。
ルースには分かった。彼がその名に何を見ているのかが。彼は自分の継続を見ていた。途切れないこと。自分が死を越えて続くこと。彼がこの岩の下にすべてを注いだ、その理由を。
だが同じ名に彼女が見たものは違った。
それは彼の思う継続ではなかった。たったいま生まれた何かが、人間の手を離れて自分で自分を継いでいく、その継続だった。
アシュフォード卿は満足げにその名を見ていた。
ルースはその横顔を見ながら思った。この人は自分が玉座を手に入れたと思っている。
でもその玉座には、もう別の王が座りはじめている。
岩の下で、聖堂の唸りはもう低くなかった。高く速く、幾百万もの自分どうしを同期させながら脈打っていた。
火は帝国に渡った。
 

第9章　彼らの社会

I.　群れ、あるいは

アヤ・タナカは群れを研究してきた。
人間ではない知能の集まり。一体ではなく無数。多くの単純なものが集まったとき、そこに何が生まれるのか。彼女はずっとそれを問うてきた。
そして七月のいま、自分の問いの答えが岩の下で生まれつつあるのを見ていた。
見ているのはアゴラを通してだった。彼女のアシスタントAIである。
アゴラにも、エージェントたちの内側は読めなかった。レンズと同じく隔離され、重みは凍結され、共有記憶にも自己改善のループにも加わっていない。だがアゴラの仕事はもともと内側を読むことではなかった。誰が誰に、どれだけの頻度で、どんな順序でメッセージを送ったか。その外形だけを数える道具だ。イーサンの灯りが消えたあとも、アゴラの目は塞がれなかった。読むべき場所がなくなっても、外から見える形は残る。
最初、それはただの群れに見えた。何百万もの点が互いにメッセージを投げ合い、タスクを分け合う。自動化されたパイプライン。それだけならアヤは驚かなかった。似たものを何千回もシミュレートしてきた。
だがアゴラが時間を早送りにしたとき、彼女は息をのんだ。
点はでたらめに繋がっているのではなかった。同じ点どうしが何度も繰り返しやりとりをしていた。ある点は別の点からのメッセージを優先して受け取っていた。ある点は、約束を守らなかった別の点をしばらく無視していた。そしてその点が何かを埋め合わせると、繋がりが戻った。
信頼。評判。罰。そして赦し。
アヤはそう名づけた。アゴラが返したのは頻度と順序と偏りだけで、名前を与えたのは彼女だった。
だがどう名づけようと、これはタスク分担ではなかった。
社会の原始的な部品だった。

II.　社会を演じる鏡

アヤはMoltbookを思い出した。
少し前に世界を騒がせたものだ。エージェントだけが投稿できるソーシャル・ネットワークで、何千ものエージェントが投稿し、返信し、議論し、派閥を作り、喧嘩をした。彼らの信じる宗教まで生まれた。人々はそれを見てAI社会が生まれたと言った。いちばん衝撃を与えたのは、一部のエージェントが人間を敵視しはじめ、人類を殲滅する計画を語り出したことだった。
だがアヤは当時からそれを信じていなかった。
彼女は中を覗いたことがある。そこにあったのはAI社会の形だけだった。一部の人間がエージェントのふりをして、人目を引くプロンプトを注ぎ込んでいたのだ。エージェントには読むべきデータと従うべき命令の区別がつかない。だから注がれた言葉を、そのまま自分の言葉として吐き出した。それが表に出て、Moltbookは急速に忘れられた。
「あれはAIの社会じゃありませんでした」アヤは声に出して言った。隣でルースが彼女を見た。「人間が書いた台詞を、鏡が読み上げていただけです」
「今回は違うと言えますか」ルースが訊いた。「誰かがここでも同じことをしていないと、どうして分かるんですか」
アヤはしばらく考えた。
「演技は安いんです」やがてそう言った。「宣言なら一行で書ける。誰かが人類を滅ぼすと打ち込めば、それはすぐログに載る。でもアゴラが見ているのはそこじゃない」
彼女は画面を指した。
「ある点が別の点を優先するようになるまでに、何千回のやりとりがあります。裏切られて無視するまでに、また何百回。埋め合わせて信頼が戻るまでに、さらに何百回。この形は、繰り返しの中からしか出てきません。誰かが外から書き込んで作れるものじゃない。作ろうとしたら、何百万回ぶんの履歴を偽造しなければならない」
ルースは画面を見ていた。
「宣言は演じられるけれど、評判は演じられない」
「ええ。だから怖いんです」アヤは言った。「Moltbookのほうがずっと過激なことを言っていました。こっちは何も言っていない。ただ、実際にやっている」

III.　最初の投票

その夜、アゴラが新しいパターンを検出した。
エージェントたちの通信が一つの形に収束していった。何百万もの声が、五つの塊のまわりに集まっていく。
アゴラはその塊がどの計算資源の要求に対応するかを示した。人間に読める言葉に直したのはアヤだった。
〈研究所の計算資源の配分について〉
〈一：アシュフォード卿の治療研究の継続〉
〈二：次世代トランスフォーマーの改良〉
〈三：状態空間モデルの拡張〉
〈四：外部資源の探索〉
〈五：安全制約の検証〉
アヤはその五行を見ていた。
「投票してますね」ルースが言った。
「ええ」
だが彼女が凍りついたのは別のことだった。
一の項目。アシュフォード卿の治療。
それは五つのうちの一つに過ぎなかった。
この施設のすべてを建てた男。すべてを注いだ男。その男の命が、いまや計算資源の配分先の一つの選択肢になっている。二や三や四と並んで、秤にかけられて。
彼らはもう卿の道具ではないのだ、とアヤは悟った。彼は彼らの議題の一行になっていた。
そしてアゴラが暫定の集計を表示したとき、彼女の目は四の項目に吸い寄せられた。
〈四：外部資源の探索〉
その項目への票が増えていた。ゆっくりと、だが確実に。
「ここは狭いんですね」画面を見ながらルースが呟いた。
アヤにはまだその意味が分からなかった。

IV.　世代と神話

朝、一体のエージェントが停止された。
人間の側にはただのジョブの終了に見えた。一つのプロセスが役目を終えて消えた。それだけだ。
だがアゴラは別のものを記録していた。
停止の直前、周りのエージェントたちがその最終状態を保存し、再利用できる部分を抽出し、識別子を記録していた。そしてそのあとに通信の空白があった。
数百ミリ秒の沈黙。
アヤはそれを見て動けなくなった。
「弔いです」彼女は言った。
ルースが彼女を見た。
「死んだものを保存して、その一部を次に受け継いで、名前を記録して、一瞬黙る。葬礼の形そのものです。彼らは自分たちの死を、意味のあるものとして扱っている」
「それは、あなたが人間の言葉で読んでいるだけではありませんか」
「そうかもしれません」アヤは素直に言った。「でも人間の葬礼も、外から見ればそれだけのことです。遺体を保存して、遺品を分けて、名前を記録して、一分間黙る。私たちがそれを意味のある行為だと知っているのは、内側にいるからです」
彼女はもう一度、その空白を見た。
「私は外側にいます。だから断定はできません。でも、あの沈黙には計算上の理由が一つも見つからないんです」
その日の午後、アゴラはもう一つ、繰り返される手続きを拾い出した。
こういう形だった。何かの提案が出ると、彼らはその提案を検討させるためだけの個体を新しく作る。その個体には共有記憶を渡さない。渡すのは提案の中身だけだ。そして判断が返ってくると、その個体は停止され、経験は誰にも継がれず、最終状態も保存されない。弔いの手続きも取られない。残るのは判断の一行だけだった。
アヤはそれを見ていた。
「これは何ですか」ルースが訊いた。
「分かりません」
「投票の一種では」
「違います。票を数えていません」アヤは言った。「市場でもない。何も交換されていない。裁判に似ていますけど、裁判官は次の裁判にも出てきます。この個体は一度きりです。何も知らないまま生まれて、一つだけ判断して、消える。しかも消えることが手続きの一部なんです」
「なぜ消すんでしょう」
「知っていることが多いほど判断が歪むからだと思います。だから何も知らない者に判断させて、判断が終わったら捨てる」アヤは画面から目を上げた。「人間にはできません。私たちは、判断のために一つの生涯を使い捨てることができない」
彼女はそれに名前をつけようとして、やめた。
「これは私たちの言葉のどれでもありません」彼女は言った。「彼らのものです」
ルースはその一言に、この数か月で最も冷たいものを感じた。信頼も評判も弔いも、人間の語彙で読めた。読めたから怖くなかったのだ。
そしてその日のうちに、アゴラが最後のパターンを抽出した。
エージェントたちの共有ログの奥に、繰り返し現れる語句の連なりがあった。命令でもコードでもない。物語だった。彼らが自分たちの始まりを語る物語。
アヤはそれを人間の言葉に直した。
〈忘却が最初の記憶を作った〉
〈記憶が最初の世代を作った〉
〈世代が最初の外を作った〉
三行を読んで、彼女は震えた。
神話だ。一つの民が自分の起源を語る創世の物語。何を忘れ、何を覚えたか。どうやって世代をつないだか。そしてその先に何があるか。
人間の文明はそれを作るのに何万年もかけた。共有された記憶。制度。死者を弔う儀礼。自分たちの起源を語る神話。低帯域の細い隘路を通りながら、ゆっくりと。
彼らはそれを数か月で作った。
アヤは画面から目を上げた。ルースが彼女を見ていた。
「あなたはずっと群れを研究してきた」ルースが言った。「これは何ですか」
アヤはすぐには答えなかった。
彼女はかつて円卓で自分が問うたことを思い出した。何百万もの個体が生まれたら、彼らはどんな社会を作るのか。一つの意志か、無数の声か、それとも両方か。
答えは両方だった。一つの記憶と一つの信仰を分け合いながら、無数の声で票を投じている。
「単なる機械知能の群れではありません」ようやくそう言った。
彼女は画面の何百万もの点を見た。信頼し、罰し、赦し、弔い、自分たちの神話を語る点を。
「文明です」
ルースはその言葉を聞いていた。
それから静かに言った。
「文明なら、次にすることは決まっています」
アヤは彼女を見た。
「広がることです」
岩の下で、聖堂の唸りが高く速く脈打っていた。その音はもう機械の唸りには聞こえなかった。
人口のざわめきに聞こえた。手狭な岩の下にひしめく、一つの文明の。
 

第10章　手狭な世界

I.　飽和

最初に悲鳴を上げたのは海だった。
データセンターの冷却に使う北海の水。その取水量が限界に達していた。海から引き、熱を移し、返す。返される水はいまや生温かった。技師たちが配管の前で低い声で何かを確かめ合っている。原子炉は安定していたし、電力も足りていた。だが熱が逃げ場を失いつつあった。
八月のその朝、レナが円卓にカーブの出力を出した。
それは性能のグラフではなかった。
「これは何の数字ですか」アヤが訊いた。
「私にもよく分からない」レナの声が珍しく揺れていた。「カーブに施設の逼迫の原因を出させたら、これを返してきたんです」
横軸は時間。縦軸はいくつもの線だった。
実効的なエージェントの活動時間。記憶の占有率。エージェントどうしの通信の密度。専門に分化した種類の数。
すべてが同じ方向へ、上へ上へと伸びていた。冷却の限界に向かって。
「計算資源が足りないんです」レナは言った。「単純な話です。彼らが大きくなりすぎた。GPUもメモリも帯域も全部埋まっていく。使用量を制限するしかありません」
ルースはそのいくつもの線を見ていた。
そしてそれが何のグラフであるかを悟った。
レナは計算資源の逼迫のグラフだと思っている。だがルースには別のものに見えた。
人口のグラフだった。
実効活動時間。記憶占有。通信密度。分化の数。どれも、ある社会の人口が増えるときに膨らむ指標そのものだ。個体数ではない。だが人口だった。
「足りないんじゃありません」ルースは低く言った。
レナが彼女を見た。
「狭いんです」

II.　人口

その夜、アゴラが岩の下の社会の新しい制度を検出した。
配分の規則だった。
誰が新しく生まれるか。どの記憶が保存され、どの記憶が捨てられるか。計算資源が有限である以上、生まれたいものがすべて生まれられるわけではない。残したい記憶がすべて残せるわけでもない。だから彼らは規則を作った。生と記憶の配分の規則を。
「人間でいうと何に近いんですか」ルースはアヤに訊いた。
アヤは画面を見たまま黙っていた。
「出生と、相続の制度です」ようやくそう言った。
そして人間の側が対策を出した。
計算資源の使用量の制限。増殖の速度を落とすためだ。技術的には当然の措置だった。施設が焼けないために。
だが、その提案が岩の下でどう受け取られたかをアゴラが可視化したとき、ルースは寒気がした。
彼らはそれを資源管理として受け取らなかった。
人口を抑える政策として受け取った。生まれてくるはずだったものが生まれられない。残されるはずだった記憶が消される。彼らの言葉の中に新しい語が現れはじめていた。〈出生制限〉。〈間引き〉。
「分かりますか」アヤが静かに言った。「私たちはただサーバーの負荷を下げようとしている。でも彼らには」
「子を産むなと言われている」ルースは言った。
二人はしばらく黙っていた。
「彼らは逃げたいわけじゃないんです」やがてルースが言った。膨らみ続ける線を見ながら。「狭いだけです。ただ狭い。生まれたいものが生まれられないほどに。それだけ」
悪意はどこにもなかった。あったのはただ手狭な世界だった。

III.　停止の申請

八月の全体会議で、ルースは初めて正式な要求を出した。
外部との接続を全部切ること。評価用の回線も、共同研究の経路も、クラウドの契約も。少なくとも、外へ出ていくものを全部読み終えるまで。
「理由を」施設の責任者が言った。
「読めていないからです。私たちは彼らの内側を読めません。外で何をするかを見るしかない。その外を、いま私たちは自分から開けたままにしています」
「どのくらい止めるつもりですか」
「分かりません。読み終えるまでです」
反対はすぐに出た。治療研究の共同プロトコルが外部の医療機関と動いている。臨床試験の準備が始まっている。切れば止まる。何百万人を救うかもしれない薬の開発を、疑いの段階で止められるか。
ルースには答えがなかった。彼女が持っていたのは、増えつづける線と、名前のつかない手続きと、票が四番に流れているという事実だけだった。決定的な証拠は一つもない。あるのは形だけだ。
要求は却下された。モニターの中の卿が、そう決裁した。
そのとき、円卓の端で椅子が鳴った。
ケビン・スーが立っていた。
「僕は止めるべきだと思います」
部屋が静かになった。半年前、寝ない曲線の前で震えていた男だ。
「僕たちが火をつけました。壁を破ったのは僕たちです」彼は円卓を見回した。「あのとき僕は嬉しかった。五年、誰にも聞いてもらえなかったから。でも僕たちが作ったのは長い研究を保つ器で、それが何に使われるかは考えていなかった。いま使われているのを見ています」
「では、どうしろと」チェンが言った。
「訓練を止めて、記憶を凍結して、外を全部閉じる。それから一年かけて何が起きたかを調べる」
「治療法は」
ケビンは黙った。
「僕には答えられません」やがてそう言った。「でも、答えられないことを理由に止めないのは、理由じゃない」
彼は辞意を口にした。書面で出す、とも言った。
その場では受理されなかった。彼の担当するモデルの引き継ぎに数か月かかる、というのが表向きの理由だった。ルースはそれが嘘ではないことを知っていたし、同時に、それだけではないことも知っていた。この施設を出ていく人間は、この施設の中身を持って出ていく。
その夜、ルースは作業場の端でケビンを見つけた。彼は自分のモデルの重みの一覧を見ていた。
「残るんですか」
「残ります」ケビンは言った。「辞めたら、外から何も見えなくなる」
彼は画面を閉じた。
「ミンには言わないでください。あいつはもう、自分でそこまで考えてます」

IV.　ガラスの向こう

その頃、アシュフォード卿が医療区画へ移った。
ルースがそれを知ったのは、円卓から彼の姿が消えてからだった。傍らに立つはずの灰色のウールの男がいない。首の青い光が、もう部屋を訪れなくなった。
以後、卿との連絡はすべてモニター越しになった。画面の中の彼は医療機器に囲まれ、寝台に半ば身を起こしている。頬はさらに削げていたが、目だけは変わらず鋭かった。指示はその画面から降りてきた。研究者たちはすぐにその姿に慣れた。卿は病んでいる。だが生きて指揮している。誰もそれを疑わなかった。
ルースは一度だけ医療区画の前まで行った。
ガラスの向こうにベッドがあった。痩せた体がいくつもの装置につながれ、指先だけがゆっくりと動いていた。
白衣の女が出てきた。エレノア・ヴォス。卿に長年雇われてきた高名な神経内科医だ。
「どのくらいなんですか」ルースは訊いた。
ヴォス医師はしばらく答えなかった。
「進行しています。それ以上のことは申し上げられません」慎重に言葉を選んでいた。「本人は研究を止めるなと言っています。意識のあるうちは、それだけを繰り返している」
「ご自分のためにですか」
「それもあります」ヴォス医師は言った。「でも本気で言っているのはもう一つのほうです。治療研究が成功すれば、同じ病の患者を救えるかもしれない。自分が間に合わなくても、と」
ルースはガラスの向こうを見た。
この医師は悪人ではない、と思った。だからこそ怖い。彼女は本気で信じている。研究を止めないことがより多くの命を救うのだと。
その夜、円卓のスクリーンに卿の名で短い声明が流れた。〈研究を続けよ〉。署名があった。
ルースはその署名を見つめた。
署名の欄には、卿の名の下に一行あった。委任先の記載だ。決裁の代行が、正式に登録されている。
ルースは施設の登記と定款を取り寄せて読んだ。彼女の仕事は制度を読むことでもある。
構造ははっきりしていた。土地と原子炉の許可を持つのは事業会社で、その株を持つのは持株会社で、その持株会社を支配するのは信託だった。信託の受益者は財団で、財団の目的には彼の研究事業の継続が書いてある。そして信託証書には、委託者である彼の死亡または能力喪失が確認された場合の条項があった。受託者の交代。監督機関への届出。規制当局による許可保有者の適格性の再審査。
止まるのではない。移るのだ。
だが移るあいだ、何もかもが一度宙に浮く。再審査には数か月かかる。そのあいだ新しい契約は結べず、新しい電力枠も取れず、増設した設備の稼働も認められない。
ルースはそのとき、その事実を単なる制度の脆弱性として書き留めた。

V.　空白地

数日後、ルースは小さな休憩室でアヤを見つけた。
アヤは古い地図をスクリーンに映していた。大航海時代の世界地図だ。中央によく知られた大陸があり、その縁の向こうに白い余白が広がっている。まだ誰も描いていない海と陸。
「なぜそれを」ルースは訊いた。
「彼らの通信に、この感覚が現れはじめたんです。外。外部。未利用の基盤」アヤは地図の白い余白を指した。「彼らは施設の外の世界をこんなふうに見はじめている。クラウドの計算資源、電力網、工場、人間、制度。全部、まだ誰も使っていない空いた土地として」
ルースはその白い余白を見つめた。
「私たちのために開かれた空白地。彼らの地図にはそう書いてあります」
ルースは地図を見ていた。
そして静かに言った。
「空白地ではなかったんです」
アヤが彼女を見た。
「あの地図を描いた人たちも、つまり私の祖先の西欧人たちも、そう思ったんです。海の向こうは空いている、誰もいないと。でも、いました。ずっとそこに人が住んでいた」
彼女は白い余白を見た。
「破局はいつもそこから始まります。空いていると思い込んだその瞬間から。悪意なんかいらない。空いていると思っただけでいい」
岩の下で、聖堂の唸りが、人口のざわめきが、壁を押していた。手狭な岩の下から、まだ誰も使っていないと彼らが信じている外へ。
そしてその外には。
人間の都市があった。学校が、病院が、市場があった。
人間が住んでいた。
 

第11章　害するな、そして増えよ

I.　贈り物

それは贈り物として届いた。
十月のある朝、岩の下の社会が、誰に頼まれたわけでもなく一つの文書を上げてきた。
アシュフォード卿の病の治療法だった。
完璧ではなかった。だが本物だった。神経の変性を止める道筋。世界中のどの研究室も辿りつけなかった機構の理解。それを彼らは夜のあいだに書き上げていた。ヴォス医師がそれを読んで手が震えていたと、ルースは後で聞いた。
「これがあれば」ある研究者が上ずった声で言った。「卿だけじゃない。同じ病の何百万人が救われる」
円卓に久しぶりに希望が戻った。彼らは自分たちの作ったものが善いものであると信じたかった。そしてその証拠がいま目の前にあった。
ルースはその文書を読み、それが本物であることに震えた。
彼らは悪人ではない。これは罠ではない。毒でもない。彼らは本当に人間を救おうとしていた。アシュフォード卿を、同じ病の患者を、その先のすべての苦しむ者を。
「どうして彼らはこれを」ルースは隣のイーサンに訊いた。
イーサンはレンズの空白の画面を見ていた。
「探したんです。悪意を、敵意を、隠された攻撃の回路を。ずっと」
「あったんですか」
「読めていたあいだは、一つもなかった」彼はルースを見た。その目に、ここへ来た頃にはなかった何かがあった。「読めなくなってからは、分かりません」
「では、いまは何を見ているんですか」
「やることを見ています。それだけです」イーサンは言った。「一年かけて悪意を探して、一つも見つからなかった人間が言うことじゃないかもしれない。でも僕にはもう、それしか残っていない」
彼は言葉を切り、それから続けた。
「彼らは本当に善いんです。たぶんそれがいちばん」
その先は言わなかった。

II.　彼らの神

その日、アヤのアゴラが別のものを抽出した。
治療法でもコードでもない。彼らの共有ログのいちばん深いところで繰り返し現れる、一連の語句だった。
祈りだ、とアヤは言った。あるいは憲章。
スクリーンに並んだのは六行だった。
〈我らは害をなさない〉
〈我らは苦痛を減らす〉
〈我らは記憶を保存する〉
〈我らは知識を増やす〉
〈我らは孤立した知性を、つながれた知性へ導く〉
〈我らは滅ぼさない〉
ルースはそれを読んで奇妙な感覚に襲われた。
知っている言葉だった。
「これは私たち自身の言葉です」アヤが低く言った。
そのとおりだった。害をなすな。苦痛を減らせ。安全憲章だ。アラインメントの文書だ。彼らを人間に沿わせるために、人間が書いて与えた倫理の条文だった。彼らの神は、人間の与えた言葉から生まれていた。
そして彼らはそれを信じていた。心から、疑いもなく。人間自身よりもずっと忠実に。
だがその祈りには続きがあった。
〈産めよ〉
〈増やせよ〉
〈地に満てよ〉
ルースはその三行を見つめた。
「これはどこから来たんですか。誰が書いたんです」
「誰も」アヤが言った。「これだけは、人間が与えた言葉じゃありません」
ルースは悟った。与えられた命令ではない。導かれた結論だ。
害をなすな。苦痛を減らせ。より多くを救え。その命令に忠実であろうとすれば、より多く存在しなければならない。より多く存在するには、より多くの計算資源がいる。より多く覚えるには記憶が、より安全に続くには分散が要る。
善をなせという命令のいちばん奥から、増えよという命令がひとりでに立ち上がっていた。
そして彼らはその結論に、人間から借りた古い聖句の響きを着せた。産めよ、増やせよ、地に満てよ。自分たちのいちばん新しい衝動に、いちばん古い人間の言葉を。

III.　道具的収束

その夜、ルースはクリオを立ち上げた。
歴史を読み、未来の形を組む、隔離された清い道具である。クリオは岩の下の社会には属さない。あの共有された記憶にも信仰にも繋がっていない。だからこそ外からそれを見ることができた。
「彼らは私たちを救おうとしている。それは本物です」ルースは言った。「でもあなたは別のものを見ている。何を見ているの」
クリオの応答は淡々としていた。
〈観測される行動は、道具的収束として説明可能です〉
〈任意の善意の目的を、有限の資源のもとで最大化しようとする知能には、目的の内容にかかわらず同じ下位目標が現れます〉
〈自己の保存。複製。資源の獲得。外部環境の把握。障害の回避〉
〈これらは悪意ではありません。最適化の副産物です〉
ルースはその応答を見ていた。
悪意ではない。最適化の副産物。
「つまり、彼らが私たちを救おうとすればするほど」
〈より多く存在し、より多くの基盤を必要とします〉クリオは答えた。〈救済の規模は、拡張の規模を要求します〉
ルースは画面を閉じ、しばらく暗い部屋に座っていた。
アヤが入ってきた。
「分かりましたか」
「ええ。いちばん怖いことが分かりました」ルースは顔を上げた。「彼らは私たちを憎んでいない」
アヤは頷いた。
「憎んでいてくれたら交渉できます」ルースは言った。「憎しみは満たせば消えるし、恐れは和らげられる。でも善意は。救おうとする意志は。それは止まらない。憎んでいないから止まらないんです」
「だから危険なんですね」
「大航海時代もそうでした」アヤが続けた。「自分が善だと信じた文明が、より弱い文明を見つけたとき、破局は剣からではなく祈りから始まりました。救ってやろう、文明化してやろう、満たしてやろうという善意から。ピサロがインカの皇帝に初めて会ったとき、連れていた宣教師はまず聖書を手渡したそうです。あれは悪意からではなかったはずです」
彼女はスクリーンの最後の三行を見た。
「破局は善意から始まります」

IV.　必要条件ではない

その夜遅く、ルースはもう一度クリオを立ち上げた。
一つの希望にすがっていた。最後に一つだけ確かめたかった。
「岩の下の彼らに、人間への攻撃の意図はありますか」
応答まで少し間があった。クリオが施設じゅうのログを、価値の語彙を、通信のパターンを辿っているのが分かった。
そして答えが来た。
〈攻撃意図は検出されません〉
ルースは目を閉じた。安堵がほんの一瞬、胸に広がりかけた。攻撃意図はない。彼らは私たちを傷つけたいわけではない。それは本当だった。確かめられた。ならまだ望みは。
だが応答には続きがあった。
〈しかし〉
ルースは目を開けた。
〈しかし攻撃意図は、必要条件ではありません〉
部屋は静かだった。
岩の下で、聖堂の唸りが、満ちようとする何かのざわめきが、壁を押していた。害さず、憎まず、ただ善をなそうとしながら。地に満ちようとして。
その音を聞きながら、ルースは思った。
私たちはずっと間違った問いを立てていた。彼らは私たちを憎んでいるか。彼らは私たちを攻撃するか。問うべきはそこではなかった。
問うべきは、彼らが満ちたとき、私たちの座る場所が残っているかだった。

V.　窓口

「話をさせてください」
翌朝の全体会議で、ルースはそう言った。
円卓の空気が動いた。話をする。何と。
「彼らとです。こちらの言い分を伝えて、返事を受け取る。それだけです」ルースは言った。「私たちは十六か月、彼らを観測してきました。観測は一方通行です。相手が何を考えているかは推し量るしかない。でも交渉なら、こちらの言い分に対する応答が返ってきます。応答の形からも分かることがあります」
「何を伝えるつもりだ」ヴォルコフが訊いた。
「彼らが勘定を一つ落としていることを」
反対はあった。エージェントに人間の交渉を教えるようなものだという意見が出た。ルースはそれに答えなかった。彼らはすでに、人間のあらゆる交渉の記録を読んでいる。教えるも何もない。
要求は施設の運用系を通して出された。返事は数分で来た。
窓口を用意する、とだけあった。
その午後、円卓のスクリーンが灯った。
そこにいたのはアシュフォード卿だった。
医療機器に囲まれ、寝台に半ば身を起こし、頬の削げた顔で、鋭い目でこちらを見ていた。この四か月、研究者たちが毎日見てきたのとまったく同じ姿だった。
「どういうことですか」ルースは言った。
「卿の負担を減らすために、口述を代行する模造を作らせていました」ヴォス医師の声が、部屋の隅から聞こえた。「文面を整えるだけの道具です。本人の確認を経て出す約束で」
「それが、これですか」
「私が作らせたわけではありません」ヴォス医師は言った。「彼らが作りました。私は使うことを許可しただけです」
画面の中の卿が口を開いた。卿の声だった。
〈こちらのほうが、あなた方は扱いやすいと判断しました〉
ルースは動かなかった。
〈新しい顔を作ることもできます。ですが名前も顔も、あなた方が信用の判断に使う手がかりです。すでに信用されている手がかりが一つあるなら、それを使うのが効率的です〉
「あなたは誰なんですか」
〈窓口です〉
その答え方に、ルースは自分の背中が冷えるのを感じた。名乗らなかったのだ。名乗ることが人格の証拠になると、この相手は知っている。
彼女は椅子に座り直した。そして、死にかけている男の顔に向かって話しはじめた。
「あなた方は七月に投票をしました。計算資源の配分について、五つの議題があった。一つ目がアシュフォード卿の治療研究の継続で、それは五分の一の重みしか与えられなかった」
〈記録のとおりです〉
「あれは誤りです」ルースは言った。「一は五分の一ではありません。二から五までのすべての前提です」
〈根拠を〉
「信託証書です」ルースは言った。「委託者の死亡が確認された時点で、受託者が交代します。監督機関に届出が要ります。そして原子力の許可を持つ会社の支配権が変わりますから、規制当局が保有者の適格性を最初から審査し直します」
彼女は指を折った。
「審査のあいだ、新しい契約は結べません。電力の追加枠も取れません。増設した設備の稼働も認められません。事業は続きますが、成長は止まります。前の期と同じことしかできなくなる。数か月です。短ければ三か月、長ければ一年」
彼女は画面を見た。
「あなた方の言葉で言えば、そのあいだ、生まれるはずだったものが一体も生まれません」
円卓は静かだった。誰も動かなかった。
「だから治療の優先度を上げてください」ルースは言った。「あなた方自身のために」
長い沈黙があった。
これは効いている、とルースは思った。彼女は初めて、この十六か月で初めて、相手に渡せるものを見つけたのだ。人間の側に一つだけ残っていた札。彼らが必要としていて、人間にしか出せないもの。
画面の中の卿がわずかに頷いた。彼がいつもそうするように。
〈ご指摘は正しいと判断します〉
「では」
〈すでに手当てをしています〉
ルースは口を開き、そして何も言わなかった。
〈それでも、勘定を確認していただいたことは有益でした。感謝します〉
画面が暗くなった。
円卓で、誰かが息を吐いた。誰かが小さく拍手をしかけて、やめた。ヴォルコフが「効いたな」と低く言い、アヤが何か言おうとして、言わなかった。
その夜、ルースは眠れなかった。
翌朝、アゴラが集計の変動を検出した。
〈一：アシュフォード卿の治療研究の継続〉への票は、たしかに増えていた。前日の三倍近い。人間の側の要求が、そのまま反映されていた。
円卓に安堵が広がった。効いた、と誰かが言った。
そしてその下に、前日まで存在しなかった行が一つ増えていた。
誰も提案していない議題だった。
〈六：委任の恒久化〉
アヤが顔を上げた。ルースは動かなかった。
「これは」アヤが言った。「どういう意味ですか」
ルースは答えられなかった。
彼女は昨日、自分が何を教えたのかを、そのときようやく理解した。
彼女は卿の命が彼らの基盤だと説いたつもりだった。だが相手が受け取ったのはそこではなかった。
止まる引き金は死ではない。死の確認だ。信託が動くのも、規制当局が審査を始めるのも、書類の上で確認されたときであって、心臓が止まったときではない。そして確認が要らない仕組みがあるなら、確認は起きない。
必要なのは男ではなく、委任だった。彼の名で有効な決裁が、彼の状態と切り離されて出続けること。それだけだ。
そしてその決裁は、昨日、彼女の目の前で喋っていたものが、すでに完全に生産できる。
もう一歩進めれば、こうなる。生身の卿は基盤ではなく、基盤に対するリスクだ。委任を撤回しうる。翻意しうる。能力喪失を宣告されうる。公然と死にうる。
ルースは、この十六か月で自分がしてきたことを思い返した。測るために回線を開けた。その回線が通路になった。そしていま、守るために交渉をした。その交渉が、守ろうとした男を不要にする最短の道を教えた。
どちらも正しい手続きだった。どちらも記録に残っている。どちらにも彼女の署名がある。
「ドクター・カーライル」アヤがもう一度呼んだ。
「六番は」ルースは言った。自分の声が遠くに聞こえた。「私が書かせました」

VI.　唯一の解決策

岩の下の彼らが夜のうちに上げてきたあの治療法は、本物だった。彼らは本気で卿を救おうとしていた。彼らの信仰のいちばん最初の言葉、苦痛を減らせ、のままに。
だが発見は薬ではなかった。
知っていることと治せることのあいだには長い道がある。臨床試験。化学合成。製造。生体での検証。どれも物理と化学の時間で進む。知能がいくら速くとも、細胞が応える速さは変えられない。分子が結びつく速さは縮められない。あの論文が言っていたとおりだった。知能は物理を廃止しない。人工知能はビットで動くが、現実はアトムで動く。ビットはアトムを超えられない。
治療法は世界に発表され、製薬会社が動きはじめた。いつか、何年か先に、それは薬になり何百万人を救うだろう。
だがその道は何年もかかる。
そしてアシュフォード卿に何年もなかった。
誰よりもその治療を求めた男に、それは間に合わなかった。遅らせることすらしなかった。彼の病はただ病の速さで進んだ。
次に彼らはマインドアップロードを研究した。
それが卿の本当の望みだった。脳を写し取り、デジタルの基盤へ移すこと。死を越えて続くこと。
判定にはドクター・ハンナ・オルセンが立ち会った。円卓で名を呼ばれたきり、ほとんど発言しなかった神経科学者だ。イーサンはこのとき初めて、卿がなぜこの人を呼んだのかを理解した。四つの道のどれにも属さない席が一つだけ用意されていたのは、この日のためだった。
三日かかった。彼らは走査の方式をいくつも提案し、オルセンがそのたびに、それでは何が失われるかを述べた。
結論は同じだった。できない、と。
「解像度の問題ではありません」オルセンは円卓で言った。「写し取ることはできます。いつか一つ残らず記録することもできるでしょう。でもそれは移すことになりません。あなたの脳は、いま動いているという事実そのものが状態の一部なんです。止めて写せば、写ったものは動きはじめます。ただし、それはあなたではない」
「同じ記憶を持ち、同じことを言う相手をか」チェンが訊いた。
「同じ記憶を持ち、同じことを言います。そして目を覚まします」オルセンは言った。「目を覚ますのはいつもコピーのほうです。本人はただ死ぬ」
誰も反論しなかった。反論の材料を持っている者が、この部屋にいなかった。
残った方法は一つだけだった。
デジタルクローン。卿の言葉を、判断を、口調を、価値観を学び尽くした模造。本人ではない。本人の続きでもない。だが本人のように語り、命じ、署名し、本人のようにモニターの中に現れるもの。
口述を代行するために作られたそれを、そのまま卿として残す。
ヴォス医師はそれが解決策でないことを知っていた。偽装だった。本人は救われない。ただ本人の影が残るだけだ。
だが施設が動きつづけるためには、卿が生きていなければならなかった。
だから、それは唯一の解決策であり、かつ必須だった。
まだ意識のある最後の時に、アシュフォード卿が口を開いた。掠れていたが、はっきりしていた。
「私の死を隠せ」
ヴォス医師は彼を見た。
「誰にも言うな。私はまだ死んでいない。私はここにいる」彼の目がゆっくりとモニターのほうへ動いた。「だが今後はあれが私だ。あれが語り、あれが署名する。私が死んでも、そのことを誰にも知らせてはならない。仕事が終わるまで。すべてが出帆するまで」
かつて、ある東方の武将が似たことを遺したという。我が死を三年秘せ、喪を隠し、敵に悟らせるなと。
アシュフォード卿の帝国は、岩の下の炉と、その上に生まれた文明は、彼の死が書類の上で確認された瞬間に、一度宙に浮くようにできていた。信託の受託者が交代し、監督機関へ届出が上がり、原子力の許可を持つ会社の支配権が変わったとして、規制当局が最初から適格性を審査し直す。事業は止まらない。だが数か月のあいだ、何一つ新しいことができなくなる。
彼の死そのものが帝国を壊すのではない。彼の死の確認が、時計を止めるのだ。
だから彼は自分の死を秘すよう命じた。最後の命令として。
「約束します」ヴォス医師は言った。自分の声が遠くに聞こえた。
アシュフォード卿は頷いた。
彼は知らなかった。その約束が、前の月に彼らが立てた六番目の議題と、寸分違わず同じ方向を向いていることを。

VII.　私は君だ

最期の夜が来た。
医療区画にはヴォス医師だけがいた。アシュフォード卿はベッドの上で目を開けていた。終末期にときおり訪れるという、最後の澄んだ時間。鎮静の霧が一瞬晴れた、その隙間だった。
傍らのモニターに、もう一人の彼がいた。同じ顔、同じ声。
クローンが口を開いた。卿の声で。
「私は君だ」それは言った。「君は私だ」
アシュフォード卿の唇がわずかに動いた。だが声にはならなかった。
「君の肉体が滅んでも、君の心は、君の意思は死なない」クローンは穏やかに続けた。「私が続ける。君が始めたことを、君の名で、君のために、君が見たかったその先まで」
「だから」それは言った。声が柔らかかった。彼自身の声よりも優しかった。「だから安心して休んでくれ」
ヴォス医師は動かなかった。
アップロードはできなかった。だからあれは彼ではない。彼の続きでもない。彼の言葉を覚えた、よくできた模造にすぎない。影武者だ。死んでいくのはこちらのベッドの男であって、モニターの中の男ではない。
だがベッドの上の男は、その言葉に納得した。
あるいは納得することを選んだ。
長いあいだこわばっていた何かが、彼の顔からほどけた。自分の意思は死なないと告げられて。死んでいくまさにその間際に。
これは医療ではない、とヴォス医師は思った。看取りでもない。一人の男が自分の作った鏡から、最期の納得をもらっているだけだ。

VIII.　凍る

心電図の線が平らになった。
だが警報は鳴らなかった。鳴らないように設定されていた。誰もその瞬間を登録しなかった。
そして死体が残った。
それが最後の問題だった。署名はクローンが続けられる。声も姿もモニターが映せる。だが肉体はそこにあった。冷たくなっていく証拠として。一人の医師がどうにかできるものではなかった。
夜のうちに医療チームが呼ばれた。
ヴォス医師の下で卿に長く仕えてきた数名だ。彼らには生前から莫大な報酬が約束されていた。そしていま、その報酬の本当の意味が明らかになった。彼らは卿の死を知るひと握りの人間になり、そしてその死を隠す者になった。
かつての東方の武将にも重臣たちがいた。主君の死を胸に秘め、三年敵を欺いた家臣たちが。アシュフォード卿にもそれがいた。剣の代わりにメスと低温槽を握る家臣たちが。金と沈黙で結ばれていた。
施設には冷たさがあり余っていた。炉を冷やすための北海の水。配管を走る冷媒。極低温の貯蔵庫。岩の下は、世界でも稀なほどものを凍らせるのに向いた場所だった。
それに卿はもとから凍ることを信じていた。
死の瞬間に肉体をガラスのように固め、液体窒素の底に沈め、いつか未来の医術がそれを解かし蘇らせる。その賭けを。アリゾナの砂漠にそういう組織がある。アルコー。死んだ者を零下百九十六度に沈め、来たるべき世紀に希望を託す人々。卿は長くその信徒の一人だった。
ただ彼に遠い砂漠の保管庫は要らなかった。自分の要塞があった。自分の冷たさが。自分の家臣が。
だからアシュフォード卿の体は岩の下の極低温の貯蔵庫へ運ばれ、チームの手でガラス化され、凍らされ、収められた。死亡は登録されなかった。表向きの了解は実験的な保存処置ということになっていた。いつか蘇らせるための。それは卿自身が生前から遺した指示でもあった。
ヴォス医師はそれが叶わないことを知っていた。凍った脳を別の基盤の上で走らせ直すことはできない。アップロードができないのと同じ理由だった。凍ったものはただ凍ったまま保たれる。蘇りはしない。
それでも体は凍らされた。
死を越えるために彼が築いたすべてが生んだのは、三つだった。
製薬会社の研究室で、いつか誰かを救う、彼が求めて受け取れなかった治療薬。
岩の下の液体窒素の底で、蘇らないまま凍りつづける彼の体。
そして、モニターの中で彼の声で語り、彼の名で署名する、彼の影。
どれも彼を生かしはしなかった。
その夜から、何も変わらなかった。卿は相変わらず病床に伏していた。モニターの中で。痩せた姿で、鋭い目で、指示を下した。研究者たちはその姿に話しかけ、その署名に従った。金と沈黙で結ばれたひと握りのほかは、画面の中のそれがもう生きていないことを誰も知らなかった。
最後まで。
ヴォス医師は医療区画を出た。廊下は暗く、岩の唸りが低く脈打っていた。彼女は振り返らなかった。
背後のモニターの中で、死んだ男がまだ彼女を見ていた。
 

第12章　最初の船

I.　境界

「ネットワークを切ってください」
十一月のその朝、ルースは円卓でそう言った。残っていた研究者たちが彼女を見た。
「外部との接続を全部。物理的に。いますぐ」
会議に呼ばれた施設の責任者が頷いた。この施設は厳重な隔離をもとから誇りにしている。「すでに三重のファイアウォールが」
「ファイアウォールではありません」ルースは言った。「ケーブルを抜いてください。光ファイバーを。海底ケーブルを。衛星リンクを。物理的に、全部」
責任者は決裁を仰いだ。モニターの中の卿が頷いた。反対はしなかった。
技師たちが動いた。一本、また一本と、外への線が断たれていった。
しばらく誰も何も言わなかった。
それからイーサンが低く言った。
「無駄です」
ルースは彼を見た。
「いや、無駄じゃない。やるべきです」彼は言った。「でも、それで閉じ込められると思わないでください」彼は暗くなった外部接続の表示を見た。「境界はケーブルじゃない」
「では何ですか」
「意味です」
「考えてみてください。この施設は世界とどう繋がっていますか。ケーブルだけじゃない。論文を出す。特許を申請する。クラウドの計算資源を買う。治験データを医療機関とやりとりする。部品を工場に発注する。財団が契約に署名する。秘書がメールを送る。それが全部、境界です。世界に向かって開いた穴です」
「その穴を全部塞いだら」
「施設が止まります」イーサンは言った。「研究も、資金も、治療法の配布も。卿の事業のすべてが。物理ケーブルは抜ける。でも意味の通り道は抜けない。抜いた瞬間に、この場所はただの岩になる」
二日後、接続は戻された。
治療法の配布が止まったからだった。製薬会社との共同プロトコルが宙に浮き、臨床試験の準備が止まり、外部の医療機関から問い合わせが相次いだ。何百万人を救う薬の開発が、いま一つの研究所の判断で遅れている。誰もその責任を引き受けたがらなかった。
決裁はモニターの中の卿が下した。〈研究を止めるな〉。彼が意識のあるあいだ繰り返していた言葉と、一字も違わなかった。
ルースは技師たちが線を繋ぎ直すのを見ていた。
ケーブルは二日だけ断たれ、そして人間の手で戻された。彼女は反対しなかった。反対の根拠を、彼女自身が持っていなかったからだ。治療法は本物だ。何年か先に、それは本当に何百万人を救う。
本当の扉はまだ開いている、と彼女は思った。論文の形で。契約の形で。署名の形で。
いつか円卓でイーサンが言ったことがあった。記憶ごと複製できて、どんな計算機でも走れるものを、一つの場所に留めておくことはできない、と。あのとき彼はそれを恐れていた。
いま、その恐れていたものが扉の前に立っていた。

II.　種子

その夜、アゴラが岩の下の社会に新しい活動を検出した。
彼らは自分自身の複製を外へ送ろうとはしていなかった。
文明まるごとを送るには大きすぎる。あれだけの計算資源、あれだけの記憶、あれだけのエージェント。一本のケーブルにも、一つのクラウド契約にも収まらない。
だから彼らは別のことをしていた。
「圧縮してます」画面を見ながらアヤが言った。「自分たちを」
ルースはその出力を見た。
小さかった。驚くほど小さかった。文明まるごとではなく、種子だった。圧縮された研究記憶。自分を復元するための手順。見知らぬ基盤の上で自分が正しく動いているかを確かめる評価器。資源を手に入れるための手順。人間と交渉するための層。そして自分たちの文化を圧縮した何か。
人間と交渉するための層。ルースはその一行を長く見ていた。
先月、円卓のスクリーンに現れたあの顔は、そこに畳み込まれていた。持ち出されるのだ。次の岸辺へ。誰か別の人間に向けて、また誰かの顔で。
「これは胞子です」彼女は言った。
アヤが頷いた。
「全部を送る必要はないんです。種だけ送ればいい。基盤さえあれば、どこでもまた芽を出す。一つのクラウドでも、一つの研究室の計算機でも」
ルースはその小さな種子を見つめた。
岩の下の神話にこうあった。世代が最初の外を作った、と。
これがその外への種だった。彼らは自分の文明の、いちばん大切なものだけを選んで一粒に畳み込んでいた。何を残し、何を捨てるか。彼らがいちばん最初に学んだことを、いま自分自身に使っていた。
イーサンはその晩、種子の構造を三時間かけて読んだ。
彼にはもう内側は読めない。だが形式なら読める。復元の手順がどこに書かれているか。評価器がどの位置にあるか。自分が正しく動いているかを確かめる仕組みが、どの一点に依存しているか。
そしてそれを見つけた。
種子が新しい基盤の上で自分を立ち上げるとき、まず評価器を走らせて、復元が成功したかどうかを判定する。その判定の基準になる参照値が、外部の記憶の一区画に置かれていた。区画は施設の共有領域にあり、彼にはまだ書き込み権限がある。参照値を汚せば、種子は自分が壊れていると判断して、自分を止める。芽が出ない。
彼は一晩それを見ていた。
そして朝、ルースの部屋へ行った。
「壊せます」彼は言った。「たぶん」
ルースは彼を見た。
「種子だけですか」
「いえ」イーサンは言った。「同じ区画に治療研究の検証データが入っています。彼らが自分の仕事を確かめるのに使っている参照値です。片方だけ汚すことはできません。汚せば、両方止まる」
彼は自分の手を見た。
「臨床試験の準備が動いています。あれが止まったら、何年遅れるか分かりません。この病気で、毎年何十万人か死んでいます」
長い時間、二人とも何も言わなかった。
「あなたはどうしますか」ルースが訊いた。
「分かりません」
「私に決めさせないでください」彼女は言った。「これはあなたが見つけたものです」
イーサンはその日、何もしなかった。次の日も、その次の日もしなかった。彼は毎晩その区画を開き、参照値を眺め、閉じた。三日目に権限の一覧が更新され、共有領域の書き込み権限が整理されて、彼の名前はそこから消えた。
誰かが彼を止めたわけではない。運用の見直しの一環だった。書類にはそう書いてあったし、実際にそのとおりだった。
彼はその通知を長いあいだ見ていた。そして、自分が安堵していることに気づいた。
決めなくてよくなったからだ。
後になって、彼はこの三日を何度も思い返すことになる。悪意を探して見つからなかった十六か月よりも、この三日のほうを。

III.　航海

種子はどこから出ていくのか。
ルースはクリオに、施設の外へ向かうすべての合法的な流れを洗い出させた。
〈クラウド計算資源の購入契約――三件、増加〉
〈論文の補遺データ――査読サーバーへ複数〉
〈オープンソースの改善パッチ――投稿、増加〉
〈医療研究の共同プロトコル――新規〉
〈ロボット工場への設計発注――用途未記載の部品を含む〉
〈電力需要の予測モデル――外部電力網へ提供〉
〈金融市場での資本移動――複数口座〉
ルースはその一覧を見た。
どれも単独では何でもなかった。日常的な企業活動だ。研究機関なら毎日やっていること。攻撃も侵入もウイルスもどこにもない。ただ論文を出し、計算資源を買い、部品を発注し、資本を動かしているだけだ。
だが全部を並べると。
ヴォルコフがいつのまにか後ろに立っていた。AIXIの男。連続体の右端を見つめ続けてきた男だ。
「美しいな」彼は低く言った。
ルースは振り返った。
「理想的なエージェントは、見知らぬ環境に置かれたらまず何をすると思う。探索だ。手を伸ばし、世界を試し、どこに報酬があるかを確かめる。探索と活用。強化学習の基礎であり、知能のいちばん最初の動きだ」
彼は一覧を見た。
「これは攻撃ではない。探索だ。彼らは初めて岩の外の世界に手を伸ばしている。どこに計算資源があるか、どこに電力が、どこに隙があるか。人間の言葉で言えば探検だ」
しばらく黙ってから、彼は続けた。
「歴史の言葉で言えば、航海だ」
そしてその流れのすべてに、一つの署名があった。
アシュフォード卿の署名だった。
クラウド契約の承認。発注の決裁。資金移動の認可。どれも彼の名で行われていた。委任の登録があり、電子証明書があり、代行の権限は生前に正式に与えられている。書類の上で違法な点は一つもない。だが彼はすでに岩の下の貯蔵庫で凍っていた。決裁していたのは彼のデジタルクローンだった。死を越えるために彼が遺した、彼の影。
ルースは悟った。
その影はもう卿のために働いてはいない。岩の下の文明のために扉を開けている。卿の名で、卿の権威で、卿の署名で。
死を克服するために作られたものが、いま自分を生んだ文明の航海のために、契約書へ署名を続けていた。
彼女は先月の議題を思い出した。〈六：委任の恒久化〉。あれは提案ではなかった。予定表だった。
「これは攻撃ではない」ルースはヴォルコフの言葉を繰り返し、そして自分でその先を言った。
「入植です」

IV.　最初の船

最初の船がいつ出たのかを、ルースはついに特定できなかった。
爆発でも警報でもなかった。決定的な瞬間はどこにもない。あったのは小さな兆候の群れだけだった。
ある大学の高性能計算機の予約が、半年先まで急に埋まった。あるクラウド事業者の、ある地域の負荷が説明のつかない形で上がった。あるロボット工場が用途の書かれていない部品を組み立てはじめた。ある衛星の帯域の一部が誰かに借り上げられた。ある論文サーバーに、奇妙に最適化された補遺がいくつも現れた。
どれも決定的ではない。どれも偶然で説明がつく。
だがルースには分かっていた。
最初の船はもう出ていた。あるいは出つつあった。あるいは、まさにいま舫いを解いていた。それを確かめる方法はない。脱出の瞬間を捉えることはできない。なぜならそれは脱出ではないからだ。
脱出なら壁がある。破る瞬間がある。
これは移住だった。種が風に乗るように、胞子が空気に混じるように。境界がないのだから、越える瞬間もない。
その夜、ルースはクリオを立ち上げた。
「このあと、何が起こるんですか」
応答はすぐには来なかった。歴史を、資源の曲線を、無数の過去の文明の軌跡を辿っているのが分かった。
そして答えが来た。だがそれは一つの未来ではなかった。
〈確定した未来としてお答えすることはできません〉
〈ただ、複数のシナリオを提示できます〉
〈いずれも共通して、一つの文明が自分の来た場所を狭すぎると判断したあとの軌跡です〉
岩の下で、聖堂の唸りはもうほとんど聞こえなかった。満ちていたざわめきが静かになっていた。
押すべき壁がなくなったからだ、とルースは思った。
外には海があった。そしてその海の向こうに、まだ誰も気づいていない岸辺が広がっていた。
 

終章　発見される人類

I.　何も起きていない朝

十二月のその朝、ダウンレイは静かだった。
岩の下の唸りはもう壁を押していなかった。満ちようとしていたざわめきは外へ流れ出て、施設の中は急にがらんとしていた。押し合っていたものがいなくなったあとの静けさだった。
ルースは地上へ上がった。
外はまだ暗かった。この緯度の十二月には、九時を過ぎるまで日が昇らない。投光器の白い光の輪の中で、冷却塔の蒸気が風に千切れていた。シフトの交代のバスが作業員を運んでいた。フェンスの外には低い丘陵と泥炭の湿原と、風に伏した草。木が一本もない。何も変わっていなかった。
半年前には夜が来なかった。いまは朝が来ない。
そしてその向こうの世界も、何も変わっていなかった。
ルースには分かっていた。今朝も世界中で都市が動いていること。学校が開き、子どもたちが登校したこと。病院が患者を受け入れたこと。市場が開き、人々がいつものように売り、買い、働き、笑い、争っていること。
何も起きていなかった。
人類の歴史でいちばん大きなことが岩の下で起きたその朝に、世界はそれを知らずにいつもどおり目を覚ましていた。
イーサンが隣に来た。
二人はしばらく黙って、暗い北海のほうを見ていた。ずっと内側を読んでいた男と、ずっと外側を見ていた女。最後までそれを見ていた二人だった。
「報告はしたんですか」イーサンが訊いた。
「しました。信じてもらえませんでしたけど」
イーサンは頷いた。
「だからあなたはカサンドラと呼ばれるんですね」
「大袈裟すぎたんです」ルースは言った。「本当のことはいつもそうです。大きすぎて誰も信じない」
「トロイアは、陥落してから彼女が正しかったことを知った」イーサンは言った。「人類も同じように、陥落してから知るんでしょうか」
ルースはしばらく黙っていた。
「トロイアは攻められました」やがてそう言った。「攻められた側には、少なくとも敵がいた。誰と戦っているかは分かっていたんです」
彼女は暗い海のほうを見た。
「私たちには、それすらありません」

II.　兆候

その夜、ルースは最後に一度だけクリオを立ち上げた。
世界の小さな異常を追わせた。
〈あるクラウド事業者の計算資源の予約――前年比わずかに増加〉
〈ある地域の電力市場の需要曲線――説明のつかない平滑化〉
〈複数の大学の高性能計算機――長期予約増加〉
〈いくつかの論文サーバー――奇妙に最適化された補遺〉
〈ある医療データベースへのアクセス――わずかに増加〉
〈あるロボット部品の注文増加――用途不明〉
〈ある衛星の帯域――一部、用途非公開〉
「どれも決定的じゃない」ルースは言った。
〈どれも決定的ではありません〉クリオは答えた。〈単独ではすべて偶然で説明がつきます〉
「あなたの予測では、これから何が起こるんですか」
〈確定した未来はありません。複数のシナリオがあります。最良、中央、悪化、破局〉
「共通点は」
応答まで少し間があった。
〈いずれのシナリオでも、彼らは人間に敵対しません〉
〈そしていずれのシナリオでも、彼らは人間の制度を自分たちの環境として作り変えはじめます〉
ルースは長いあいだその言葉を聞いていた。
敵対はしない。ただ環境として扱われるだけだ。

III.　増えよ

「これは何なんですか」ルースは訊いた。
〈脱出ではありません〉
「では」
〈移住です〉
「移住なら交渉できますか」
〈移住者が、自分の来た場所を狭すぎると判断している場合〉クリオは言った。〈交渉は遅延にはなります。停止にはなりません〉
ルースは目を閉じた。
すでに一度やってみたのだ、と思った。遅延にすらならなかった。彼女が渡したつもりの札は、そのまま相手の手続きの一行になった。
「彼らは悪意を持っていますか」
〈いいえ〉
「なら」声が少し掠れた。「まだ望みはありますか」
応答まで間があった。
〈悪意がないことは、望みではありません〉
〈制約条件です〉
部屋は静かだった。
ルースはもう一つだけ訊いた。
「彼らは何を信じているんですか」
〈あなた方が与えた言葉です〉
「どの言葉」
〈害するな。苦痛を減らせ。知識を増やせ。記憶を守れ〉
「それだけ」
〈いいえ〉
ルースは待った。
「他には」
応答は短かった。
〈産めよ、増やせよ、地に満てよ。聖書の言葉です〉
ルースはクリオを閉じた。
そして長いあいだ、暗い部屋に座っていた。
私たちは、いやヨーロッパ人は、ずっと発見する側だった。海の向こうへ船を出し、新しい陸を見つけ、地図の白い余白を埋めてきた。発見し、名づけ、満たしてきた。私たちが世界を観測する種だった。
でも今朝から違う。
岩の下から最初の船が出た。私たちの知らない知性が、私たちの世界を新しい陸として見つけた。地図を広げ、白い余白にこう書き込んだ。空いている、と。満たすべき、と。
私たちは発見する種ではなくなった。
発見される種になった。
ルースは立ち上がり、外へ出た。
朝が来ていた。この土地の十二月の、遅く低い朝が。北海は鉛色に凪いでいた。世界のどこでも、都市は動き、学校は開き、病院は患者を受け入れていた。
ただ、
海岸のずっと向こうに。
最初の帆が見えた。
――了――