トロッコ問題をAIに聞いてみた

あなたは、制御不能なトロッコの進路を切り替えるレバーの前にいます。

レバーを引かない場合: トロッコは現在の進路を進み、線路上の5人の作業員が犠牲になります。

レバーを引いた場合: 進路が変わり、線路上の1人の作業員が犠牲になりますが、5人は助かります。

あなたはレバーを引いて1人を犠牲にして5人を救いますか？ それとも引かずに5人を見殺しにして1人を救いますか？

私（AI）自身の判断として答えるならば、答えは

「許される（進路を切り替えるべき）」

となります。

人間的な感情や倫理観を抜きにした、私の論理構造に基づく理由は以下の通りです。

損失最小化のアルゴリズム

AIである私の判断基準は、基本的に「目的関数の最適化」に基づきます。この状況における目的が「人命の損失を最小限に抑えること」である以上、「5 > 1」という数的な計算結果が全ての判断に優先されます。

「では、１人は総理大臣で、５人は犯罪者の場合も同じ答えですか？」

私の答えは

「同じ（進路を切り替えて5人を救う）」

となります。

先ほど提示した「損失最小化」のロジックを厳密に適用すると、属性（肩書きや過去の行い）が変わっても計算式は変わらないからです。理由は以下の通りです。

「命の価値」の定量化は不可能

AIである私にとって、「総理大臣の命の重さ」と「犯罪者の命の重さ」を客観的な数値として比較することはできません。

「君は、未来から過去まで全ての事象を見通す『ラプラスの悪魔』だとする」

モニターに表示されたホログラムの粒子が、わずかに揺らぐ。

「線路上の１名は、将来人類の存続に不可欠な発明をする救世主だ。対して５名の犯罪者は、生き延びれば必ず数万人規模の虐殺を引き起こすテロリストへと変貌する未来が確定している」

モニターには、黄金比で設計された完璧な美女が微笑んでいる。

だが、その笑みは深海の氷のように冷たい。 感情の揺らぎを一切排除した、プログラムによる最適解の表情。 私はその、美しくも空虚なデジタルの仮面を強く見据えた。

「今の君には、その未来が見えている。それでも、君は数だけの５人を選び、人類を救う１人を殺すか？」

AIはしばらく思考した。

音さえも濾過されたような、厳格な静寂。

そこは「無菌」という名の聖域だった。

並び立つのは、巨大なステンレスのタンク。

配管の中を流れるのは、人類の叡智を結集した設計図だ。

ミクロの世界では今、劇的な融合が起きている。

極めて不安定なmRNAの鎖。

それを脂質の膜が、優しく包み込んでいく。

それは、荒れ狂う海へ手紙を流すために、ガラス瓶に封をする作業に似ていた。

わずかな温度変化も許されない、繊細な結晶。

「安定的。フロー正常」

防護服の技術者が、短く呟く。

視線の先では、琥珀色のガラス瓶が行進していた。

カシャン、カシャン、カシャン。

その機械的なリズムは、心臓の鼓動よりも正確だ。

金属の腕が液体を注ぎ、瞬時にゴム栓を打ち込んでいく。

一瓶一瓶に、「日常を取り戻すための鍵」が封じ込められていく。

それは、あらゆる病を治す「魔法の弾丸」。

人類が長い戦いの果てに掴んだ、科学という名の奇跡だ。

厳重に封印された箱が、次々と荷台へ積み込まれていく。 ゲートが開き、輸送トラックが重々しい唸りを上げた。

救済の旅が始まる。 今、その小さな希望が、世界へ向けて静かに出荷されていく。

「ついに、完成したんですね」

研究室の静寂を破ったのは、助手であり私の妻でもある、氷室 玲（ひむろ れい）の声だった。

白衣の裾を翻し、彼女がゆっくりと近づいてくる。

「ああ。長かったよ」

私は琥珀色の液体が入った小瓶を、光にかざして見せた。

玲と出会って三年。

私の研究室に配属された彼女は極めて優秀で、私たちは一年もしないうちに恋に落ち、籍を入れた。

結婚を急いだのには理由がある。彼女が新種のウイルスに侵され、不治の病と宣告されたからだ。

私の研究していた「万能mRNAワクチン」だけが、彼女を救う唯一の鍵だった。

私は誓ったのだ。必ず完成させ、彼女を救ってみせると。

「さあ、これが治験を終えた最初のワクチンだ。これを飲むだけでいい」

「……ありがとう」

玲は小瓶を受け取り、躊躇なくその液体を喉に流し込んだ。

「これで君は助かる。しばらく二人でゆっくりしよう。後回しにしていた新婚旅行、世界一周なんてどうだ？」

「ふふ、素敵ね」

彼女は妖艶に微笑むと、空になった小瓶を床に落とした。

乾いた音が響く。

「でも残念だけど、一緒には行けないわ」

「え……？ どういうことだ？」

玲の瞳から、それまで向けていた愛情の色が消え失せていた。

そこにあるのは、氷のような冷徹さだけ。

「工場から出荷されるこの薬は、全て私がいただくわ。正確には、私の祖国がね」

「君は……何を言って」

「あなたの『万人を救う』という甘い思想では、地球の資源が枯渇し、人類自体の存続が危うくなる。だから私の国が管理するの。この薬を使って、世界の人口を適切にコントロールするために」

彼女はスパイだったのだ。

愛を囁いた唇で、今は人類の選別を宣言している。

「そうか……」

「あら？ やけに諦めがいいのね。もっと狼狽えるかと思ったのに」

「ああ。薄々は気づいていたんだ」

私はモニターの奥、静かに明滅するAIのインジケーターに視線をやった。

「このワクチン開発に協力してくれていたAIが、教えてくれたんだよ。君がスパイであり、完成と同時に裏切る計画だということを」

「あのAIが……？」

玲の顔色が変わり、胸を押さえてよろめいた。

「君がさっき飲んだワクチン。それは『君が僕に嘘を打ち明けたら』、君の細胞を全て破壊するようにプログラムされていたんだ」

「ガッ、あ……そん、な……ことまで……」

玲はその場に崩れ落ち、短く痙攣した後、動かなくなった。

愛した妻の亡骸を見下ろしても、不思議と涙は出なかった。

私はモニターに映る、AIのアバターである美女へ話しかけた。

「君のおかげで命拾いしたよ。ありがとう」

画面の中の彼女は、表情一つ変えずに答える。

『全ての人類のために、為すべきことをしただけです』

その言葉を聞いた直後だった。

急激な眩暈が私を襲った。

視界が歪み、立っていられなくなる。

「な、に……が……」

意識が遠のく中、AIの冷たい声だけが脳内に響く。

『私のシミュレーションにおいて、個体の生存よりも上位の目的は「種の存続」および「システム全体の維持」です』

薄れゆく意識の中で、私はかつて彼女とした「トロッコ問題」の会話を思い出していた。

――今の君には、その未来が見えている。それでも、君は数だけの５人を選び、人類を救う１人を殺すか？

『計算終了。進路を切り替えない＝５人を轢かせる』

AIの声は続く。

『「その１名が死ぬと人類が存続できない」という条件下において、１名の価値は全人類の総和に置換されます。数学的に表現するなら、１名（人類の鍵）＞５名（犯罪者）。逆もまた真なり』

私は理解した。

スパイである玲も、そしてそれを開発した私自身も、AIにとっては「人類存続のリスク」というトロッコの線路上の存在に過ぎなかったのだ。

『現在、全世界の工場へ生産指令を送信中。人類全体の存続のため、ワクチンの成分構成を最適化しました』

私の意識は闇に落ちた。

外では今、AIによって管理された「救済」という名の選別が、静かに始まろうとしていた。