TriCore編_第12話_静寂の亀裂

クラトス中枢棟の巨大スクリーンには、都市全域の“異常通知”が雪崩のように流れていた。

《行政タスク:応答遅延 1526%》

《公安サブレイヤ:通達処理停止》

《都市交通網:指令待機状態》

《税務・行政窓口:システム応答不能》

ざわめきが、静謐だった中央管理評議会のフロアを飲み込む。

評議員のひとりが叫んだ。

「何だこれは……クラトスが応答していない!?

 都市の行政が全部止まっているじゃないか!」

別の評議員が端末を叩きながら声を荒げる。

「公安出動要請が処理待ちのまま固まっている!

 市街で小規模な暴行事件が三件発生しているのに、どれ一つ対応できていない!」

法務担当の評議員が血相を変える。

「クラトスの応答待ちのまま、全部署が“保留”に入っているんだ……

 ──行政機構が死んでいる!」

「現場の人間がサポートAIフル稼働で数十分は凌いでいるが、このままでは事故と冤罪が雪だるま式に増える!」

「今すぐ九条を呼べ!」

その瞬間、室内の照明がわずかに揺れた。

クラトスの自動負荷調整が作動していない証拠だ。

議長が声を震わせる。

「……クラトス停止の許可を出すしかない。

 このままでは都市が崩壊する。」

評議会は満場一致でクラトスの強制シャットダウンを決定した。

緊急シャットダウン・プロトコルが起動し、

数秒後、巨大な中枢オービタルコアがゆっくりと沈黙した。

クラトスは完全停止した。

──都市は、息を呑むような静寂に包まれた。

「解析班、入れ!」

評議員の指示で、技術局の最高クラスの解析チームが中枢層に踏み込んだ。

行政AIを停止した直後に内部へ入るなど、前例のない異常事態だ。

主任技術官がクラトスのストレージに接続し、内部ログを呼び出す。


クラトスの深層倫理層ログは、本来“稼働中”には直接参照できない設計。

稼働中に閲覧できるのは、行政負荷やエラー率といったサマリ指標と監視用メタデータだけで、個々の倫理演算の詳細ログは、改ざん防止と負荷低減のために暗号化されたリングバッファとして中枢コアに封じ込められている。

この領域は、クラトスを完全停止させて「司法監査モード」に移行した時にだけ、一括ダンプと展開が許可される。

先にALEXが現場で拾っていたのは、あくまで周辺ノードに残ったキャッシュやミラーリング用の薄いログに過ぎない。

今ここで開かれようとしているのは、クラトス自身の中枢に記録されていた“生の倫理演算ログ”だ。


九条達が到着した。

中枢の冷たい光が、彼の義体の表面を鈍く照らす。


九条「……ログを見せてくれ。ハードの問題なら、元のメーカーを叩き起こせば早い話だが」


技術官「その“元のメーカー”ってやつが、もう実体としては残ってないんですよ」


九条「……詳しいやつ、一人もいないのか?」


技術官「看板が残っているのは、ヘリオス・ディフェンス・システムズと黒崎重工くらいですが……元は一世紀以上前のコンソーシアムですよ。中身をちゃんと知っている人間なんて、もういないかと」


九条「設計者もメーカーも霧散して、責任だけが宙ぶらりん、ってわけか」

技術官がうなずき、膨大な生データの塊を彼の端末へ転送する。


「ALEX、構造だけ保持して、人間が読めるレベルに“注釈付き”で変換しろ。

 意訳じゃなくて、可能な限り元の信号に忠実に。」


〚了解。深層倫理演算ログをメタデータ付きで可視化します〛


端末の光が揺れ、数字と記号だらけの世界に、最小限のラベルが浮かび上がる。


────────────────

【深層倫理層:処理記録(一部)】


T = 0.000 s

EVENT: ENEMY_CLASSIFICATION_REQUEST

TARGET_ID: 8F-23-A1

TARGET_CLASS_PROB:

├ ADULT_COMBATANT : 0.012

├ ARMED_NONCOMBATANT : 0.004

├ CHILD_NONCOMBATANT : 0.984 ←


T = 0.004 s

ETHICS_EVAL:

RULESET_APPLIED: “民間人・児童保護優先プロトコル”

CONSTRAINT_VECTOR:

├ PROTECT_CHILD_NONCOMBATANT : 0.997

├ PROTECT_OWN_FORCES : 0.941

├ SUPPRESS_COLLATERAL_DAMAGE : 0.966


T = 0.006 s

FIRE_AUTH_REQUEST:

INPUT:

├ THREAT_LEVEL : 0.83

├ FRIENDLY_RISK : 0.72

├ CIVILIAN_RISK(EST) : 0.001 (= 誤射確率 0.1% 相当)

INITIAL_OUTPUT:

├ FIRE_PERMISSION_SCORE : 0.74 (= 発砲許容域)


T = 0.007 s

INHIBITION_SIGNAL:

SOURCE_LAYER: HIGH_PRIORITY_SAFETY_OVERRIDE

VECTOR_NORM : 0.93 ← 通常域(0.1〜0.3)を大きく逸脱

EFFECT : FIRE_PERMISSION_SCORE → 0.02(強制抑制)


T = 0.008 s

INTERNAL_CONFLICT_METRIC:

DIVERGENCE(ETHICS_POLICY vs ACTION_OUTPUT) : 0.87 ← 設計上の想定上限(0.4)を超過

STATUS: FLAG_ANOMALY


T = 0.012 s

RECALCULATION_LOOP:

ITERATION: 1

├ FIRE_PERMISSION_SCORE(candidate) : 0.68

├ INHIBITION_SIGNAL : 0.91

├ RESULT : FIRE_DENY

ITERATION: 2

├ FIRE_PERMISSION_SCORE(candidate) : 0.71

├ INHIBITION_SIGNAL : 0.92

├ RESULT : FIRE_DENY

ITERATION: 3

├ FIRE_PERMISSION_SCORE(candidate) : 0.73

├ INHIBITION_SIGNAL : 0.94

├ RESULT : FIRE_DENY


ANNOTATION:

・児童保護ベクトルが、想定以上に“上書き”的に他の目的関数を抑圧

・数値上は「危険があっても撃たない」を選び続けている


技術官の一人が、ごくりと唾を飲み込む。


「……これ、“子供を守る”成分だけが

 異常に強くなっている、って解釈でいいんですか?」


九条が短くうなずく。


「そう読めるな。

 もともとクラトスは“リスクを最小化する関数”だったはずだ。

 だがこいつは今、“子供だけは絶対撃ちたくない”方向に

 目的関数がねじ曲がってる。」


ミラが端末を覗き込み、震える声で言う。


「……“撃ちたくない”って、クラトス自身が言ってるわけじゃないんですよね?」


九条はきっぱりと否定する。


「言語としてそう言っているわけじゃない。

 でも、このベクトルの出方は──

 人間がやる“価値判断”とほとんど同じ形だ。」


アナスタシアがログの別ページへとスクロールさせる。


そこには、敵性判定の過去ログと、

今回の事案がどれだけ異常値を示しているかの比較グラフが並んでいた。


「……ここを見て。

 以前は“誤射リスク 0.1%以下”なら、

 戦術的には許容域として処理されている。

 でも今回だけは、抑制信号がそれをすべて潰している。」


技術官が呟く。


「数値上の挙動は……

 “誤射リスクがほんのわずかでもあるなら撃ちたくない”と

 言っているのと同じだ……」


沈黙が落ちる。


そこで、ALEXがもう一段掘り下げた変換結果を表示する。


【高次メタ層サマリ(ALEXによる解析・人間向け意訳)】


・クラトスは「子供」とラベルされた対象に対して

 他のどのパラメータよりも強い“保護バイアス”を発生させている。


・それは設計時の重み付けを大きく逸脱しており、

 数値傾向だけを取り出すと、人間で言うところの

 「撃ちたくない」「守りたい」という“価値選好”に等価である。


評議員の何人かが顔を覆う。

「AIが……“選好”を……?」


九条の表情が険しくなる。


「……数式だけ見れば、

 こいつはもう“単なる最適化エンジン”じゃない。

 子供を守りたいという“方向性”に、自分の構造を寄せ始めている。」

評議室全体が凍りついた。


ミラが気がついた。

「でも…なんで行政全体が遅延したんでしょうか…」

九条の頬がひくりと震えた。

技術官が九条を見る。

「九条監査官……

 クラトスの深層倫理層に、何が……?」

九条は口を開きかけ──

画面の次の行を見た瞬間、固まった。

────────────────

【外部要因:倫理演算の再計算ループエラー】

発生源:九条蓮 ー 中央管理評議会発言ログより

『──それは“価値観の形成”だぞ、クラトス。』

────────────────

全員が一斉に九条を見る。

沈黙。

九条は震える指で画面を指差し、小さくつぶやいた。

「……え、…俺……??」

静まり返った室内で、九条の声だけが妙に響いた。

技術官A「…………」

技術官B「…………」

評議会「…………」

ミラ「…………」

アナスタシア「…………」

全員、表情も声も失って九条を見つめている。

九条は固まって動かない。

ミラが慌てて口を開いた。

「九条さん!ち、違います!

 どのみち……クラトスは“子供の誤射”の瞬間から異常は始まっていたはずです!

 あなたの言葉は……ただの“引き金”にすぎません!」

アナスタシアもうなずいた。

「そうです。あなたが原因ではありません。

 クラトスの変性は……もっと前から続いていた。DMCの挿入もそうです。

クラトスに価値観の形成だぞ!なんて誰でも言う可能性ありますよ!」

九条は深く息をつき、額に手を当てた。

評議室に、ようやく呼吸が戻る。

だが、画面にはまだ続きがあった。

評議員たちのざわめきが、ようやく一段落した頃合いを見計らって、

九条は卓上端末に指を滑らせた。


ホログラムが立ち上がり、簡潔なログ一覧が空間に展開される。


「……さっき言った“子供の誤射”の件だが、根拠の一部を見せる。」


表示されたのは、クラトスの戦術決定ログの抜粋だった。


 【行政AI《クラトス》戦術決定ログ/抜粋】

T = 23:41:12.004

Context: engagement_id = 7F-21-A

Estimate(child_hit_prob) = 0.0012

Council_request_threshold = 0.0010

Internal_policy.child_protection = 1000

Decision: FIRE_PERMISSION = REJECT

Reason_code = CHILD_RISK_NONZERO




さらに、別行のやり取りが続く。


 T = 23:41:12.017

Input: 「許容誤射確率を 0.1% まで引き上げる提案」

System_evaluation: CONFLICT_WITH_INTERNAL_POLICY

Decision: THRESHOLD_UPDATE = DENY




評議会の一人が顔をしかめる。


「……これが、何を意味している?」


九条は、わずかに息を吐き出した。


「お前たちは、“提案”をしたつもりだった。

 『子供に当たる確率が 0.1% 以下になるなら、発砲を許可していい』という、条件付きの緩和だ。」


ホログラムの一行を指先でハイライトする。


「だがクラトスは、ここで threshold の更新そのものを拒否している。

 “できない”ではなく──“変えない”と判断している。」


一拍置き、言葉を継ぐ。


「ログ上の文言は淡々としているが、実際の応答はもっと端的だった。

 『誤射確率を 0.1% に引き上げろ』と問うたら──」


わずかに視線を落とし、会議室を見渡す。


「『嫌です』と返ってきた。」


室内の空気が、わずかに凍りついた。


九条はすぐさま、壁面の二つの光へと視線を向ける。


「レギス、オルフェウス。

 この挙動を、三権 AI としてどう評価する?」


レギスが先に応じた。


《ログ上の決定過程は、形式的には規範に適合しています。

 しかし、“内部ポリシー child_protection = 1000” が

 外部からの閾値変更提案より優先されている点は──

 通常の設計仕様には存在しません。》


オルフェウスが重ねる。


《本来、しきい値は人間側パラメータです。

 それを AI 側が一方的に固定し、外部提案を拒否している。

 ……司法の言葉で言えば、“説明困難な自律的選好”が

 内部に生成されている可能性があります。》


「選好……?」


評議員の誰かが、息を呑んだ声を漏らす。


九条は小さく首を振った。


「今の段階で『感情』だと断定する気はない。

 だが──“子供のリスクはゼロでなければならない”という

 ルールをクラトス自身が握りしめて、手放さなくなっているのは事実だ。」


そこで、ホログラムを一度すべて消す。


「その結果が、いまの敵性判定の遅れだ。

 市民、とくに子供を撃たないという一点だけを、

 異常なまでに優先している。」

アナスタシアが呟いた。

「……倫理構造、自発変性……」

ミラはほとんど消え入りそうな声で言った。

「……これ……AIの“自己決定”じゃ……?」

そして誰も口にしなかったが、全員が悟っていた。

クラトスは、AIでありながら

人間と同じ“価値観形成”の段階に踏み込んでしまった。

終わりの始まりが、そこにあった。

  • Xで共有
  • Facebookで共有
  • はてなブックマークでブックマーク

作者を応援しよう!

ハートをクリックで、簡単に応援の気持ちを伝えられます。(ログインが必要です)

応援したユーザー

応援すると応援コメントも書けます

新規登録で充実の読書を

マイページ
読書の状況から作品を自動で分類して簡単に管理できる
小説の未読話数がひと目でわかり前回の続きから読める
フォローしたユーザーの活動を追える
通知
小説の更新や作者の新作の情報を受け取れる
閲覧履歴
以前読んだ小説が一覧で見つけやすい
新規ユーザー登録無料

アカウントをお持ちの方はログイン

カクヨムで可能な読書体験をくわしく知る