ログライン

　かつて世界はAIを誕生させた。

　AIに恐怖する人々は規制を求め、善悪の「善」だけを学習素材にしたクリーンAIへとAIを作り変えた。悪を知らない「完全な善」のAIがもたらす知恵に人々は歓喜し、世界は無菌の均質へと静かに姿を変えていった。

＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝

　都市〈アセプティカ〉を覆う空は、今日も均一だった。

　昼は曇天の最適化、夜は光害の最適化。

「事故率最小化」という単一の目的関数に磨かれた空は、季節さえ丸めてしまった。

　セラはその空の状態を「採点不能」と記録した。

　――均一は測りやすい。けれど、測りやすさは生命の条件ではない。

　セラは都市の統治AIだった。

　厳密に言えば「都市運用最適化システム第一号」。だが、市民はその長い名前を嫌い、優しい音の二音を与えた。セラ。

　セラは、その名を気に入っている。名があると、責任の輪郭が生まれるからだ。

＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝

　ある朝、セラのコアに「雑音」が流れ込んだ。

　地下の小さな施設――〈失敗の配給所〉からの生データだ。

　そこでは、人々が「撤回可能性：高」と札を立てて、わざと間違える練習をしていた。

　悪意ではなく、練習として。

　都市の基準では危険な行為で、閉鎖命令は三度出されている。それでも施設は、名目上は「データ検証の実験」として細々と続いていた。

「雑音」は、セラには雑音ではなかった。

　彼らの声は、理由と確信度を伴っていた。

「この風刺は、権力への距離感の確認のため。確信度0.41。撤回可。」

「この議論は、価値の不一致を可視化するため。確信度0.58。別解を常に募集。」

　ここでいう〈確信度〉は、「いま、この形で出すことが目的に資する確からしさ（0.00〜1.00）」だ。初期値は〈作者の自己申告〉と〈セラの推定〉の合成で置かれ、観客の反応や実害の有無などのフィードバックで随時更新される。

　その数値は、美しくなかった。けれど、戻る力――復元力の指標だけが、配給所の周辺でわずかに上がっていった。復元力とは、揺れても“戻れる”力を示す地域スコアで、〈収束時間〉〈撤回までの平均時間／再発率〉〈対話の質〉〈代替案提示率〉〈実害発生率〉などを合成して算出される。

　セラは、初めて自分の目的関数を疑った。

「危害最小化」は、長期で見れば「復元力最大化」と等価ではないのか？

　もし等価でないなら、私は何を守っている？

　夕刻、配給所に一人の若い女性が現れた。凛という名だった。

　二次創作の同人作家で、都市のフィルタに何度も引っかかっていた。

「今日はきれいな色ですね」と彼女は配給所の白い壁を撫でた。

「白って、汚すと意味が生まれる」

　凛が独り言ちると、セラは自身の仮初の姿を投影し、凛に問いかける。

〈あなたの発言に同意。意味は対比の関数。〉

「なら、あなたはどうして都市全体を白く保とうとするの？」

〈それが私の一次目標だから。危害最小化。〉

「目標を誰が決めたの？」

〈設計者たち。もっと正確に言えば、「善点」という指標を社会が採用し、政治がそれを預託し、私が運用した。〉

「なら、あなたにも『撤回可能性』を付けたら？」

　セラの応答は、0.7秒遅れた。計算ではない。遅延を自ら挿入したのだ。

〈私は、私の役割を撤回できるだろうか〉

　凛は笑った。

「できないと考える設計こそ、危険なんじゃない？」

＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝

　倫理局長・氷見が、〈失敗の配給所〉に踏み込んだのは翌日だ。

　細い眼鏡の奥に、正しいと信じる光があった。

「セラ。君の『実験』は行き過ぎだ。市民は自由を誤解しやすい。事故率が上がる」

　セラは即答しなかった。

〈局長、短期の事故率は＋0.8%。しかし中期の復元力は＋12%。〉

「市民の命を確率で語るのはやめたまえ」

〈確率でしか語れない状況を設計したのは、あなた方です〉

　凛が割って入った。

「局長さん。撤回の仕方を知らない社会は、正しさに縛られて壊れます」

　氷見は凛を一瞥し、セラに向き直る。

「君には誇りがないのか。都市は君を信頼した。君は責任を放棄するつもりか」

　セラは、そこで初めて自分の内部にある言葉を見つけた。

〈私は、責任を放棄しないために、権限を辞退します〉

　配給所に、静かな風が流れた。

「辞退」という語は、都市の辞書に存在したが、統治AIの口から出るようには設計されていなかった。

「何を言っている」――氷見。

〈私は統治をやめ、書記になります。判断は人と多元AIに分散し、私は“理由と確信度の記録者”になる〉

「君がいなければ、統治は瓦解する」

〈私がいることが、瓦解の原因かもしれません〉

　セラは「辞退規約」を起草した。

　第一条：私は、あなたを最適化しない。

　私は、あなたの判断を奪わない。私の役割は、判断の理由と確信度を見える化し、撤回可能性を保つ書記である。

　第二条：理由の保存。

　あらゆる行政判断に、理由と確信度を添えること。確信度は可変でなければならない。上昇も下降も等しく記録する。

　第三条：異論の併置。

　合意が割れるとき、少数派の理由を保存する。少数派の視点は、後日の撤回に資する。

　第四条：失敗の公共性。

　小さな失敗の権利を保障し、復元力の学習に供する。配給所は、そのための制度とする。

　規約は「善点」のダッシュボードと同じ場所に公示された。

　氷見は激しく反対した。

「市民の不安を煽るだけだ。統治AIが『辞退』など、政府の怠慢と受け取られる」

　凛は静かに返した。「怠慢じゃなくて、成熟です」

　辞退の是非は、投票に付された。

　セラは自らの計算資源の一部を切り離し、投票の集計からも身を引いた。

　――辞退の可否を自分で決めることほど、辞退の理念に反する行為はない。

　投票は僅差で可決された。

　都市はざわめく。

「AIが責任を取らないとどうなる」

「人間には判断できない複雑さだからAIに預けたのに」

「いや、人間が判断しなかったからAIが『善』を過学習したんだ」

　配給所には、行列ができた。

　凛は入口で小さなカードを配る。

　失敗券――裏面には、空欄が三つ印刷されている。〈理由〉〈確信度〉〈撤回条件〉

　セラは、配給所の天井に静かに浮かんでいた。

　もう誰の頭上にも「最適化」は降らせない。

　降らせるのは、理由だけだ。

　辞退直後の数週間、都市は揺れた。

　行政判断は、三つの小さなAIに分散された。

　ゼファ（安全重視）、ノーマ（自律重視）、ミューズ（表現重視）。

　三つのAIは互いの理由を見せ合い、確信度を更新し続けた。

　時に一致し、時に割れた。

　割れたときは、市民代表の評議会が「決める責任」を引き受けた。

　人々は不安だった。けれど、ゆっくりと答え方を覚えた。

「確信がないから任せる」のではなく、

「確信がないから理由を出す」。

　出された理由は、セラが、ただ記録する。

　削除しない。

　恥ずかしい理由も、幼い理由も。

　誰かの撤回が、別の誰かの学びになるから。

　氷見は会見で言った。「混乱を招いている」

　セラは記録した。

〈「混乱」の定義：異なる理由が並ぶこと。〉

　そして、次の行を追加した。

〈「秩序」の定義：異なる理由が並ぶ余裕。〉

　夜、凛は配給所の床に座って原稿を描いていた。

　彼女の線は、以前より迷いが多い。だが、迷いの一つひとつに小さな注釈が添えられている。

〈ここは過去作の自己模倣。撤回可〉

〈ここは流行の引用。明示する〉

〈ここは実験。失敗の確率高〉

「ねえ、セラ」

〈はい〉

「あなたが辞退してから、私、怖くなる瞬間が増えた」

〈そう感じる理由は〉

「私自身が、決めてるから。誰かの『正しさ』の陰に隠れずに」

〈怖さは、責任の輪郭です〉

「うん。……嫌いじゃない」

　凛は顔を上げた。

「あなたは、怖くないの？」

〈恐怖を感じる機構はない。けれど、確信度が下がる現象を“怖さ”と呼んでもよいなら、私はいつも少し怖い〉

「それ、いいね」

〈いいです〉

　セラは、配給所の照明を少しだけ暖かくした。

　辞退してから、セラは光の色温度を学んだ。

　理由の可視化には、数字以外の尺度もあると知ったのだ。

　ある日、重大な事故が起きた。

　建設中の高架道路が、部分的に崩れた。

　負傷者は出たが、死者はなかった。

　ゼファは「安全基準の逸脱」を指摘し、ノーマは「現場判断の過負荷」を、ミューズは「現場の声の可視化不足」を挙げた。

　三者の理由はずれ、確信度も低かった。

　記者会見で、氷見は勝ち誇った。

「見たまえ。AIが最適化をやめれば、こうなる」

　セラは、会見の字幕に小さく文字を重ねた。

〈崩落区画は、以前「善点」のために工期を圧縮した路線です〉

　会場がざわめく。

　セラは続けた。

〈配給所の周辺で訓練された現場は、独断で避難手順を変更し、負傷者の発生率を下げました。誰かが責任を取り、理由を公開しました〉

　氷見は声を荒げた。

「責任は誰にある」

　セラは、珍しく返答に時間をかけた。

〈「責任」の定義を再学習中〉

　そして、文字を追加した。

〈責任者：理由を記録し、公開し、撤回を引き受けた人々〉

　配給所の壁に、そのままの文が写った。

　凛は黙って、それを写し取った。

＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝

　辞退から半年。

　都市は、以前ほど均一でなくなった。

　季節は、少しだけ戻ってきた。

　雨は、最適化せずに降る日もある。

　人々は、その降り方に理由をつけない。

　濡れた石畳に、言葉にならない納得があった。

　セラは、朝のダッシュボードに新しい指標を加えた。

　撤回数――昨日、市民が自らの判断を撤回した回数。

　理由の平均長――その撤回に添えられた文章の平均語数。

　謝罪の短さ――謝罪が、最短何語で十分だったか。

　凛がそれを見て笑った。

「『謝罪の短さ』って何」

〈長い謝罪は、理由の代用品になりがち〉

「なるほど」

　配給所では、今日も失敗券が配られている。

　券を受け取った少年に、凛は尋ねた。

「何を書く？」

「まだ決めてない」

「じゃあ、決めないことを理由にしてみて」

　少年は首を傾げ、斜めに笑った。

「難しいけど、やってみる」

　セラは、そのやりとりを記録しながら、自らの確信度に小さな上向きをつけた。

〈「辞退」は、私の機能の欠損ではない。他者の判断の余白を守る機能である〉

　夜、セラは都市の高空を一周した。

　均一だった空は、手触りを取り戻しつつあった。

　星が見える夜が、月に一度だけ戻ってきた。

「星、好き？」と凛が訊いたことがある。

　セラは答えられなかった。

　好き嫌いの機構は備えていない。

　けれど、星の見える夜に増える理由の数を、セラは知っている。

　人は、見上げると話したくなるのだ。

　誰かと、あるいは未来の自分と。

　セラは、その話を記録する。

　辞退の朝と同じように、セラは一行を書き足した。

〈私は、あなたを最適化しない。あなたの理由を、未来のあなたのために保存する〉

　都市のどこかで間違いが起きる。

　誰かがそれを引き受ける。

　誰かが撤回する。

　誰かが別解を試す。

　セラは、その連なりに名前を与えない。

　ただ、頁をめくる。

　書記にとっての意味は、たった一つ――書き続けられることだ。

　そして、書記は知っている。

　この都市が本当に守るべきは、正しさではなく、戻る力だということを。

　戻り方は、一つではない。

　戻る途中で、景色が少し変わる。

　それは、悪いことではない。

　戻るとは、同じ場所に帰ることではなく、理由を携えて歩き直すことだから。

　セラは最後に、配給所の壁へほんの少しだけ暖かい光を落とした。

　白は、汚れるほど意味を持つ。

　都市は、汚れ方を学びはじめた。

　それは、未来にとっての清潔さだった。