menu
menu

連載

小林泰三「未来からの脱出」 vol.22

施設で暮らす老人たちは、人類最後の希望だった!? 予測不能の大脱出劇! 小林泰三「未来からの脱出」#6-2

小林泰三「未来からの脱出」

※この記事は、期間限定公開です。

>>前話を読む

「正確に言うならば、君たちだ。サンクチュアリに残るオリジナル人類こそが人類最後の希望なのだ」
「つまり、それは俺たちに対しては、ロボット工学三原則が完全に有効だからか?」
「その通りだ。彼らは君たちを殺すことも傷付けることもできないし、傷付いた状態で放置することもできない。そして、君たちの命令には基本的に逆らうことができない」
「ちょっと待ってくれ。もしあなたがたの言っていることが本当だとしたら──俺たち、施設にいた老人たちがオリジナル人類で、職員たちがロボットだとしたら、大きな矛盾がある。職員たちは、外に出してくれ、という我々居住者の命令には従わなかった。つまり、彼らはロボットでないか、もしくは俺たちを人間としていないか、どちらかということになる」
「疑問に思うのは当然だ。だが、思い出して欲しい。三原則には優劣が存在する」
「俺たちの命令を聞いた場合、俺たちの生命が危機にさらされるというのか? 確かに、老人にとっては、適切に管理された施設の敷地内の方が森林の中よりも安全かもしれない。しかし、その程度の危険ですら看過できないとするなら、そもそも人間に自由なんかなくなってしまう」
「君の推察はあながち間違ってはいない。彼らは君の命令を聞くことで危険に曝すと判断したのだ。ただし、その対象は君一人ではない。人類全体だ」
「人類全体? 俺の行動が地球にいる全人類を危険に曝すというのか?」
「我々を含めた全人類ではなく、サンクチュアリ内に住むオリジナル人類の存続の問題だ」
「ますます訳がわからない」
「君に説明するために、ロボット工学三原則の第〇条について説明しなければならない」
「ロボット工学三原則は三つのはずだ。だからこそ『三原則』と呼ばれている」
「本来三原則だし、その認識は間違っていない。だが、三原則から、明文化されていないもう一つの条文が抽出できると考えた者がいる」
「そいつはアシモフをにするつもりなのか? いったい誰なんだ?」
「アシモフ自身だ」腐人間は答えた。
「それなら、文句は言えないな。で、どういうものなんだ?」
「第〇条 ロボットは人類全体に危害を加えてはならない。また、人類全体に危害が及ぶような危険を見過ごしてはならない」
「ほぼ、第一条と同じ内容じゃないか」
「その通りだ。だが、対象が『人間』ではなく、『人類全体』となっている。対象を個々人ではなく、ホモ・サピエンス全体ととらえているんだ」
「本来、ロボット工学三原則には、そのような概念は含まれてないだろう」
「明言はされていないが、類推により抽出されるのだ。具体的に言うと、トロッコ問題だ。トロッコの行き先に五人の人間が倒れている。トロッコを別の線路に誘導すれば、この五人は助かるが、切り替え先の線路にも一人の人間が倒れている。その場合、トロッコの進路を変えるべきかという問題だ」
「そもそも最適解は存在しない。その人間の価値観の問題だ」
「AIに価値観は存在しない。彼らはプログラム通りに行動するだけだ。人間の価値を演算処理し、より価値が高くなる行動をする。厳密に言うと、細かい状況にも左右されるが、AIはおおむね五人を助けるように行動するはずだ」
「一人を助ける場合もあるのか?」
「五人が全員死刑囚だとわかっている場合だと、そういう可能性もあるが、例外的な事例だろう。こういう推論を重ねていけば、人間一人を救うよりも人類全体を救う行動を優先すべきだということになる。つまり、第〇条は明文化されていないが、第一条にすでに内在していると考えられる」
「つまり、俺の命令に従えば、人類全体に危害が及ぶということなのか?」
「彼らはその可能性が高いと判断している」
「いったいどういうことなんだ?」
「人類は、ロボットや変異人類と比較して、ぜいじやくな存在だ。知的な意味でも、肉体的な意味でも」
「それはまあ仕方がないだろう」
「AIは人類に自らの運命を託させるのは危険だと判断した。人類はAIが保護すべき対象だ」
「それ自体は間違ってないように思うが」
「つまり、AIは人類を幼児扱いした訳だ。人類の安全を考えるなら、人類の自由を奪わなければならない」
「人類が充分に進化すれば、保護をする必要もないだろう」
「AIは人類の進化を認めない。なぜなら、人類が人類でなくなることは人類の滅亡を意味するからだ。彼らはあくまで種としての人類を守ろうとする。だから、我々、変異人類を排除しようとしているのだ」
「では、あの施設は──サンクチュアリは、俺たち人類を飼い殺しにするための動物園のようなものなのか?」
「飼い殺しではない。永遠に飼い続けるのだ」
「これから何百年もか?」
「可能ならば、何千年も何万年もだ」
「それなら、年寄りだけのコミュニティではなく、様々な年齢の者たちでいいじゃないか、そうすれば、世代交代が進むし、新たな文化も産み出せる」
「AIは人類の発展など望んでいない。彼らは効率的に人類を管理し、存続を図っているのだ。世代交代などさせずに、永遠の老人のままでいさせる方が扱いやすい」
 サブロウは強い吐き気を覚えた。
 考えられる限り、最悪の筋書きだった。外の世界に、これほどの絶望が待っているとは思わなかった。
「しかし、サンクチュアリがある限り、人類は存続する。これもまた真実だ」腐人間は言った。「AIたち、または超AIがどれだけ効率化を進めようとしても、君たちを絶滅させることはできないのだ」
「だからと言って、どうして俺たちが最後の希望なんだ?」
「我々は絶対にAIに勝つことはできない。だが、君たちは違う。君たちはAIにとって特別な存在なのだ」
「確かに、滅亡させられることはないかもしれない。だけど、勝てないのはあんたたちと同じだ。彼らはプログラムの要請によって、俺たちを守ってるんだろ? つまり、AIと俺たちの間には、愛情も友情も存在しない」
「その通りだ。AIに期待してはいけない。むしろ、彼らは何とかしてロボット工学三原則を出し抜いて、オリジナル人類を地球から排除することを考えているのかもしれない。人類などいない方が地球をより効率的に経営できる」
「人類が存在しない地球で、AIは何をするのか? 人類がいなくなれば彼ら自身の存在理由もなくなるんじゃないか? そもそも彼らの存在理由はロボット工学三原則に従うことだろ?」
「人類は従う存在なしに生存を続けている。だとしたら、AIにも人類は必要ないのかもしれない」
「それは哲学的な問題だな」サブロウは言った。「俺はいったいどうすればいいんだ? あとどのぐらいの時間が残されてるんだ? AIたちが変異人類を完全に人類と見做さなくなる瞬間、もしくは彼らがロボット工学三原則を出し抜く方法を発見するまで」
「前者の方は統計的な推測はできる。五十年以内に起きる可能性は七十パーセントだ。後者の方は推定できない。そのような方法があるのかどうかもわからないからだ。永遠にそのときは訪れないのかもしれない」
「逆に言うと、今この瞬間に起きるかもしれない訳だ」サブロウはじっと考え込んだ。「AIの支配から逃れない限り、人類はある日突然滅亡するか、穏やかに時間を掛けて滅亡するか、永遠の老年期を過ごすか、どれかだということか」
おおざつに言えばそういうことになる」
「もしサンクチュアリの老人たちが互いに協力することができれば、AIの支配から逃れることは可能だろうか?」
「蠅人間の考えていた計画はそのようなものだった」
「そうなのか?」サブロウは初めて聞く事実に驚いた。
「まだ記憶は封印されたままなのか? 彼と君は何度も話し合いをしていたのだが」
「俺と蠅人間が? どういうことだ? 俺たちは以前からの知り合いだったのか?」
「そうだ。君が初めて蠅人間と出会ったのは、もう百年も前だ」
「百年前……」サブロウは途方もない内容に眩暈めまいを感じだ。「俺が蠅人間と立てていたという計画の内容はわかるか?」
「我々は詳細を知らされなかった。彼は計画を知る者は少ない方がいいという考えだった。AIは盗聴だろうがハッキングだろうが、やろうと思えば何でもできるのだ」
「AIの支配から逃れることは、それほど難しいことではないはずだ。サンクチュアリの居住者に今の話を伝えるだけでいい。オリジナル人類が我々だけだとしたら、我々の意思が人類の意思だということになる。人類の総意にAIは逆らえないだろう」
「それは何とも言えない。AIが人類の総意に従うことは人類にとって危険なことだと判断すれば、AIは素直に従わない可能性がある」
 わからないことだらけだ。だが、自分のこともろくすっぽ知らないのだから、当たり前だとも言える。
「俺の記憶の封印を解いてくれ」
「残念ながら、それはできない」
「どうしてだ?」
「君の記憶は蠅人間による封印解除の途中だ。今までの解除の手続きがわからない以上、脳をいじることは危険だ」
「試してみる価値はあるだろう」
「君は貴重なオリジナル人類の一人だ。無謀な試みで君の知性を失う訳にはいかない」
「畜生!」サブロウは悪態をいた。
 蠅人間と俺は何か計画を立てていたんだ。それなのに、蠅人間はAIに殺され、俺はその計画を忘れてしまった。万事休すだ。危ない橋を渡って、サンクチュアリを脱走してきたというのに……。
 ちょっと待て。以前に蠅人間と俺が話し合ったということは、俺は一度サンクチュアリから脱走した後、もう一度戻ったことになる。それこそ、危ない橋だ。俺はわざわざあそこに戻り、自分の記憶を封印された。
 俺は何のために、サンクチュアリに戻ったのか?
「俺はサンクチュアリに戻らなければならない」サブロウは腐人間に告げた。
「我々は付いていくことができない。AIたちは我々がサンクチュアリに干渉することを禁じている。おそらく、盟約を破った時点で、人類を守るためという大義名分を得て、彼らは何の躊躇ためらいもなく、我々をせんめつするだろう」
「大丈夫だ。俺は一人で戻る」
「そんなことをして何の意味があるんだ? あそこに戻れば、君の記憶はまた封印されてしまう。ここで得た知識もすべて失われる。何のために苦労をしたのか、わからなくなってしまう」
「俺がサンクチュアリから脱出したのは、サンクチュアリにこそ、人類解放の鍵があることを知るためだったんだ」
「鍵というのは?」
「それはまだわからない」
「単なる思い込みではないのか? 鍵など存在しないとは思わないのか?」
「ここにいても、変異人類の滅亡を食い止めることはできない。それどころか、オリジナル人類もいつまで生き延びられるかわからない。AIが三原則を出し抜く方法を見付け出した瞬間、真のシンギュラリティの始まりだ」
「確かに、ここにいても事態は改善しないかもしれない。だが、サンクチュアリに戻れば何かが解決する訳でもないだろう」
「君たちはサンクチュアリに干渉できないと言った。これは本当か?」
「確かだ。周辺の森や上空には近付くことが許されているが、敷地内に着陸したり、居住者と接触することは禁じられている」
「だとしたら、俺たちには望みがある」
「何を言っているのか、わからない。我々が干渉できないのは、不利な要因ではないか」
「サンクチュアリには『協力者』が存在するんだ」
「『協力者』? 何者だ?」
「わからない。だが、確かに存在するんだ」
「信じ難い話だ」
「彼らはAIに悟られないように俺に接触してきた」
「君の話を裏付ける証拠はあるのか?」
 サブロウはポケットを探り、森の地図を差し出した。

▶#6-3へつづく
◎第 6 回全文は「カドブンノベル」2020年4月号でお楽しみいただけます!


「カドブンノベル」2020年4月号

「カドブンノベル」2020年4月号


関連書籍

MAGAZINES

カドブンノベル

最新号
2020年4月号

3月10日 配信

怪と幽

最新号
2020年1月号

12月19日 発売

小説 野性時代

第197号
2020年4月号

3月11日 発売

ランキング

アクセスランキング

新着コンテンツ

TOP