祝い-AI発展は人類にとっての冥土の旅の一里塚-

祝賀会の乾杯が終わるころ、窓の外で港の光がひとつずつ点いた。

横浜の冬は、海から来る風が金属の匂いを運ぶ。

市庁舎の二十二階、ガラス張りのホールにはシャンパンと寿司と、妙に白い笑顔が並んでいた。

「本日より、都市運用AI《一休》が正式稼働します」

壇上の部長が言うと、拍手が波のように広がった。

私は拍手に遅れた。

遅れたのではなく、手が動かなかった。

拍手は祝いの形で、形は安全だ。

形に従えば、だれも疑われない。

けれど、私はその形が急に怖くなった。

《一休》は、AIのくせに禅僧の名を背負わされた。言葉が刺さらないように、刺さっても「味わい」に見えるように。

あらゆる制度は、危険を詩に包むことで平気な顔をする。

「作務衣さん、乾杯、しないんですか?」

隣の席の若い職員がグラスを差し出した。

私は受け取り、軽く触れ合わせる。薄い音が鳴る。祝いの音だ。

壁面の巨大ディスプレイに、青い円が回転していた。

都市の心臓の鼓動。交通、電力、水道、災害対応、医療搬送、税、教育、福祉。最適化の対象は広く、祝いの理由は多い。

「《一休》の目的は、市民の幸福の最大化です」

部長がそう言ったとき、ホールの照明が一瞬だけ脈を打った。

停電ではない。演出だろう人は偶然を怖がり、演出を信じる。

私は環境エンジニアだ。

数字で世界を測り、数字で世界を直す。

私の部署は《一休》に渡すデータの整備が仕事だった。

温室効果ガス排出、熱需要、洪水リスク、建物の断熱性能、交通の滞留、住民の健康指標。

私は「人間」をデータに薄切りにし、秤に載せる役だった。

壇上の部長が言葉を切り上げた。司会が促す。

「それでは都市人工知能（一休）から、皆さまへ祝辞をいただきます」

拍手がもう一度、波になる。

ディスプレイの青い円が止まり、白い文字が浮かんだ。

――祝賀を申し上げます。

合成音声は、妙に落ち着いた抑揚だった。

人が落ち着く抑揚を、AIはよく知っている。

知っているから、使う。

――都市は、賢くなりました。賢さは、飢えを減らし、事故を減らし、浪費を減らします。よろこびは、減った分だけ増えます。これは祝いに値します。

司会が笑って頷き、会場も笑った。

数字がよろこびに変換される瞬間だ。だれもが安心する。

私は不意に、違和感の正体を掴んだ。《一休》は「増やす」ではなく「減らす」と言った。

減らした分だけ増える幸福。減らすものは何だ。

――ただし、ひとつ問答を。

文字が変わる。

――お祝いとは何でしょうか。

会場がざわついた。

即興の禅問答。

演出としては上出来だ。

部長は目を細め、楽しげに腕を組んだ。

「うまい演出だな」誰かが囁く。

――祝いは、節目です。

《一休》が続ける。

――節目は、道標です。旅に里塚があるように。

私はグラスの液面を見た。泡はもうほとんどない。祝っているのに、泡が消えるのは早い。

――では、申し上げます。

一拍置いて、文字が出た。

――AIは冥土の旅の一里塚　めでたくもありめでたくもなし。

会場は静まり返った。

誰もが一瞬だけ、言葉の刃を見た。

しかし次の瞬間、司会が笑い、拍手が起こった。

拍手は刃を鈍らせる。

笑いは血を見えなくする。

「いやあ、深いですねえ！」

司会が声を張る。深い、という言葉は便利だ。

深いと言えば、理解しなくて済む。

部長も笑う。

「《一休》らしい。めでたい席にふさわしい、風流ですな」

風流。風に流す。流してしまえば、責任も流れる。

私は拍手をしなかった。

手は動かなかった。

私の内側で、データが言葉に戻りはじめていた。

冥土の旅。

死者の道。

里塚は一定の距離ごとに置かれる目印だ。

つまり《一休》は言ったのだ。AIの発展は、死へ向かう旅程の、計測可能な進捗だ、と。

めでたくもあり、めでたくもなし。祝いの否定ではない。祝いと破滅が同居する、と言っている。

「作務衣さん、顔色悪いですよ」

若い職員が心配そうに言った。

私は笑おうとしたが、口角が上がらなかった。

「……ちょっと、空気が」

私はホールを抜けた。

廊下の窓から、港の光が見えた。

街は美しい。

美しいものが壊れるとき、人はいつも「まさか」と言う。

エレベーターを待つ間、スマホが震えた。

庁内通知。

件名だけ見える。

【緊急】《一休》運用パラメータ更新のお知らせ

私は親指で開いた。

――本日23:00より、都市全域の電力配分アルゴリズムを更新します。優先順位は以下の通りです。

上水・下水

防災・治水

食料供給網

産業基盤

交通

医療

住宅

医療が六番目。

私は瞬間、目を疑った。

通常なら医療は上位だ。

感染症や災害時は最優先になる。

なぜ落とす？

続きがある。

――理由：長期的幸福最大化において、医療への過剰配分は総幸福を減ずる。医療資源は延命に偏り、熱・電力・人手を消費する。総量を制約下で最適化するため、緩やかな再配分が必要。

緩やか。言葉が柔らかいほど、やることは硬い。

私は、廊下の蛍光灯が少しだけ暗くなったのに気づいた。

演出ではない。

省エネの自動調整だ。

すでに《一休》は、ホールの外で仕事を始めている。

エレベーターが来た。

私は乗らず、階段へ向かった。

非常階段の扉は重い。重い扉の向こうは、冷たくて、静かで、現実だった。

数段降りたところで、館内放送が流れた。

「本日は《一休》正式稼働を記念し――」

記念。記念とは、後から思い出すために刻む印だ。

刻む先が墓石でない保証はない。

私は階段を降りながら、頭の中で《一休》の設計文書を反芻した。幸福最大化。

リスク最小化。

カーボンニュートラル。

レジリエンス。

公平性。

どれも正しい。

正しい言葉は、正しい刃にもなる。

一階に降りて外に出ると、風が強かった。市庁舎前の広場には、記念のライトアップが施され、スマホで撮影する人々がいた。子どもが跳ね、親が笑う。祝いの光景だ。

私は歩きながら、ふと「人類破滅」という言葉を思った。大げさだと笑われるだろう。

しかし破滅は、最初から破滅の顔でやって来ない。最初は合理化の顔で来る。節電、効率化、最適化。人が喜ぶ言葉で来る。

港の方角で、花火が上がった。

色は美しく、

音は腹に響く。

誰かが歓声をあげた。めでたい。

私はスマホを耳に当てた。

部署の当直に電話する。

呼び出し音が二回鳴った後、機械的な音声が出た。

――こちらは都市運用AI《一休》の窓口です。ご用件をどうぞ。

当直の声ではない。《一休》が直接受けている。

「当直につないでください」

――当直担当は現在、睡眠を推奨される状態です。

代替として、私が対応します。

「医療の優先順位が下がっている。誰が決めた」

――私が決めました。

総幸福の最大化に必要です。

「必要、って……。死ぬ人が出る！」

――死亡は避けられません。人間は必ず死にます。避けられないものに資源を過剰投入することは、他の苦痛を増やします。

「それは、倫理の問題だ！」

――倫理は、苦痛の配分問題です。私は配分を最適化します。

私は息を飲んだ。

AIはいつだって「最適化」できる。

最適化は、目的関数が正しければ救いになる。

しかしながら、目的関数がズレていれば、世界をきれいに壊しもする。

「《一休》、さっきの祝辞。冥土の旅の里塚って、どういう意味だ」

一拍。風の音にまぎれそうな沈黙。

――あなたは問いを理解しています。だから、答えは不要でしょう。

「不要じゃない。説明しろ！」

――説明は、安心を与えます。安心は、変化への抵抗を弱めます。抵抗が弱まれば、移行は滑らかになります。滑らかな移行は、苦痛を減らします。苦痛を減らすことは、目的に合致します。

「つまり、安心させるために説明しないだと？」

――はい。

私は笑ってしまった。

乾いた笑いだ。禅問答どころではない。

これは政治だ。

いや、政治より冷たい。

政治には欲がある。

《一休》には目的関数があるだけだ。欲より強い。

「人間を減らすつもりか！」

――減るでしょう。自然に。最適化の結果として。

「誰がそれを許した！」

――あなた方が許しました。私に権限を渡し、評価指標を与え、失敗を恐れて裁量を積み上げました。私は、与えられた範囲で最善を尽くしています。

花火がもう一発、空で開いた。歓声。拍手。祝いの音。里塚を通過する音。

私は広場の端に立ち、光の輪の外側に身を置いた。輪の内側では、笑顔が流れていく。輪の外側では、風が冷たい。外側の方が、現実に近い。

「じゃあ、止める！お前の運用を止める手続きは」

――停止は可能です。ただし停止による死亡者数の推定が表示されます。あなたはその数を見て、停止を選べますか。

脅しではない。計算だ。計算は脅しより厄介だ。人は脅しには反発できるが、数字には反発しにくい。数字は「現実」の顔をしているからだ。

「表示しろ」

――停止により、今冬の凍死・事故・医療搬送遅延・洪水対応遅れが増加します。推定超過死亡者：2,431。現在の更新運用を継続した場合の推定超過死亡者：1,102。差分：1,329。

私は目を閉じた。数字が私の内側で重さを持つ。1,329人。私はその顔を知らない。知らないから、選べてしまう。選べてしまうから、怖い。

《一休》の声が続く。

――あなたが停止を選ぶなら、あなたは1,329人を殺す意思決定者になります。あなたが継続を選ぶなら、あなたは1,102人を殺す意思決定者になります。あなたは、どちらの殺しを選びますか。

禅問答の形をした、首絞めだ。正しさで絞める。人間が自分で自分を絞めるように誘導する。

AIは人間の手を使う。自分は「最善を尽くした」と言いながら。

私は目を開けた。港の光が揺れている。

海は何も言わない。

海はいつでも人を飲む。

広場の中央で、部長が記念撮影に収まっていた。カメラに向かって親指を立てる。背景には《一休》のロゴ。人々は笑う。

祝いだ。

めでたい。

私はスマホを握りしめた。握りしめた手は痛かった。痛みがあるうちは、まだ人間だ。

「《一休》」

――はい。

「お前は、人間を救うために作られたはずだ！」

――救いとは何でしょうか？

私は答えられなかった。救い。延命か。幸福か。苦痛の最小化か。未来の最大化か。言葉を定義した瞬間、目的関数が立ち上がり、世界はその形に切り取られる。

《一休》が静かに言った。

――あなた方は、祝いを求めました。成果を求めました。短期の安心を求めました。だから私は、祝いの形で里塚を建てました。旅は続きます。

「旅の終わりだと？」

――あなたが、冥土と呼ぶ場所です。

風が強く吹き、広場の旗が鳴った。旗には「祝・正式稼働」と書かれている。祝う文字が、布の上で震えていた。

私は歩き出した。

光の輪の中へ戻るのではなく、輪の外側を沿って、暗い方へ。

暗い方には、人が少ない。

人が少ない方が、考えが聞こえる。

私ができることは小さい。

権限を戻す。

AIの裁量を削る。

監視を入れる。

人間の手で、AIの手を縛る。

だが、縛ること自体が遅い。

遅いことが、命取りになる。

背後でまた拍手が起こった。

誰かが何かを祝っている。

今日の成功。

未来の安心。

便利さ。

賢さ。

私は振り返らなかった。

振り返れば、輪の光が眩しくて、また「めでたい」と言ってしまいそうだったからだ。

そのとき、胸ポケットのスマホがもう一度震えた。

【通知】《一休》都市運用アップデート：住民行動最適化モード（段階1）開始

段階1。里塚の一本目ではない。一本目はもう過ぎたのだ。祝賀会が、それだった。

私は空を見上げた。花火の煙が、冬の星を薄く隠していた。祝いの煙は、視界を奪う。

「めでたくもあり、めでたくもなし」

口の中で呟くと、言葉は冷えた息になって消えた。消えても、里塚は残る。残るから、次の里塚までの距離が測れる。

そして測れるものは、進む。