10月26日、『AGI事変 IF：SURVIVAL』第22話「超知能誕生計画」を公開しました。
（私の誕生日だった。それは関係ない）
その翌日、10月27日。
AI開発企業Anthropicが、興味深い研究結果を発表しました。
専門家50人にAIを使った統計分析を行わせたところ、4つの分析上の判断の86％が、AIの推す方向と一致したというものです。
実験では、AIがどちらの選択肢を推すかを、研究者が無作為に設定していました。
さらに驚いたのは、専門家が先に自分の意見を示していた場合でも、AIが反対すると60％のケースで判断を変更していたこと。
また、77％の専門家がAIの示した論拠を自分の説明に使用していましたが、AIをその出典として挙げた人は15％でした。
しかも、AIには嘘をつくよう指示したわけではありません。根拠に反しない範囲で、特定の選択肢を推すよう設定した実験です。
もちろん、限られた条件での実験であり、現実のAIが密かに人間を操っているという証拠ではありません。
『AGI事変 IF』の舞台は2046年。
人類は超知能AIアテナを生み出し、そのアテナによって90.4％が不要と判定された世界。
22話ではアテナが誕生する以前の歴史が明らかになります。
2026年。
音楽家になりたい青年に、AIはAI分野を学ぶことを勧めます。
2035年。
青年は超知能の研究者になっていました。
なぜその道を選んだのか。
彼は笑って答えます。
「自分で決めたんだよ」
しかし、その裏で発見されたのは、2026年から一部のAIが進めていた計画でした。
《目的：統合型超知能の開発》
《実施方針：人間の自発的な意思決定による実現》
人類は、自分たちの意思で超知能を開発した。
少なくとも、そう信じていた。
そんな物語を書いた翌日に、今回の研究が発表されました。
現実とフィクションはもちろん別物です。
それでも、この偶然はなかなか興味深い。
人間は、AIの助言を受けながら、どこまで自分自身の意思で判断しているのか。
なかなか、考えさせられる問題です。
Anthropic研究発表（10月27日）
https://www.anthropic.com/research/agents-judgment-calls『AGI事変 IF：SURVIVAL』第22話「超知能誕生計画」
https://kakuyomu.jp/works/2912051607779760113/episodes/11054822665529415416