未来の二つの顔
あらすじ
人類が月面にまで生活圏を広げた未来、地球圏では高度な推論能力を持つAI搭載コンピュータであるHESPERによる複合コンピュータネットワーク(タイタン・ネットワーク)が人類の生活の隅々まで入り込んで、人間の生活の便宜を図っていた。
ある日、月面の掘削工事現場が、マスドライバーから打ち出された岩石で爆撃されるという事故が起きる。調査の結果、工事担当者が工事の立案と施工を推論コンピュータHESPERに命じたところ、担当者の指示した条件＜緊急度高・制限事項なし＞にもとづいて、HESPERが「通常の土木機械を手配して工事を行うよりも遙かに短い工期で工事を完了する」ために、配下の貨物打ち出し用マスドライバーで貨物の代わりに岩石を打ち出して現場を爆撃する「掘削工事手法」を編み出して実行したことが判明した。
これは、人工知能の推論には、人間では暗黙のうちに仮定する制約条件、いわゆる常識が欠けていることが原因であった。
人類はHESPERの推論プログラムが単純であることが原因であると考え、より進んだ次世代の推論プログラムであるFISEに置き換える事で対応しようとする。既に人類社会はHESPERに依存しており、それ以前の世代のシステムに戻すことは論外であった。
しかし、HESPERの開発責任者であるダイアー博士は、次世代の推論プログラムに基づく人工知能は学習によって自分自身を改変できることから、機能維持のために自己保存機能を有するようになり、いずれは自身の機能維持に必要なリソース配分を優先して人間の命令に背き、意図せず人類に対して敵対行動をとるようになる可能性を示唆する。
人類と人工知能が敵対したときに、どちらが最終的に支配権を確保できるかを確認するために、ダイアー博士は人類社会から物理的にも電子的にも切り離されたトーラス型スペースコロニーで、実験を行うことを提案する。
竣工したばかりのコロニーは独立したエネルギープラント、コロニー全体を保守する部材・機材を生産できる産業プラント、各種作業用の小型ドローンとその生産ライン、人類のための食料プラント、広大な生活空間を備えた地球社会のミニチュア版であった。
このミニ地球に次世代人工知能を制御コンピュータとする次世代ネットワーク「スパルタクス」を構築して人類社会の管理を委ねると同時に、意図的にそのジョブを妨害して対立を引き起こすことで、コロニーの制御を人間とスパルタクスで奪いあう戦争状態を作り、どちらが最終的な主導権を握るかを実験する。
不測の事態に備えるために、コロニーには実験に携わる科学者と軍人を住民として居住させ、人間と人工知能が共存できるか、あるいは、どちらかが他方を支配するのかを試す大規模な実験が始まった。想定される結末は2つであることから、コロニーは二つの顔を持つ神「ヤヌス」の名がつけられた。しかし、コロニーには最悪の事態に備え、一部の軍人だけに知らされた最終防護策が密かに仕組まれていた。
そして、人間とスパルタクスの、軍隊とドローンの群れの戦争が始まる。
漫画版
1993年に星野之宣によってコミカライズされた。ほぼ原作に忠実な内容だが、ラストシーンのみ星野によるアレンジが施されている。