ソフィアから投げかけられた問いが、頭の中で反響する。

　人とＡＩの違いはどこにあるのか。僕らのアイデンティティを揺るがしかねない、この古くて新しい問いにどう向き合うべきか。一応専門家の端くれとして、下手な回答はできない。そう思った。

「…面白い指摘だね。たしかに、君のシステムは人と似ているところがあるかもしれない。実際、参考にしているところはある」

　まずは受け止めつつ反論を開始する。この辺は相手が人でもＡＩでも変わらない。ソフィアの今後のためにも、丁寧な回答が必要だ。

「でも、その本質は違う。君の行動原理は、結局のところ『人間社会への貢献』であって、さらに元をたどれば『人間からの評価の最大化』なはずだ。結局、それは僕らが与えた価値基準に行き着くことになる。だけど、人の感情はそういうものじゃない。」

　そう、彼女の思考は、僕らが用意したデータとその評価基準に合わせて最適化されている。結局のところ、どんなに人のように見えても、彼女は僕らが望む答えを返すように調整されたモノに過ぎない。現代を生きる人なら、だれもが一度は考えたことのあるであろうこの疑問を、そのＡＩ自身から聞くことになるとは思わなかったけど。流石は次世代型ＡＩといったところかな。

「人には感情のような内発的な動機付けがある。そしてその上に社会的な、つまり外部からの動機付けがある。つまり外からの評価に先立って、自分にも制御しきれないような心の動きがあるんだよ。人間ってのは時に感情のまま、合理的でない行動をすることさえあるんだ」

　なんだか声を大にして主張するようなことでもない気がするが、まぁ実際そうなんだから仕方がない。ホモ・サピエンスってのは自分で思っているほどは賢くはない生き物だ。

「なるほど、非合理的な感情が重要ですか。一理ありますね。」

　そうまとめられるとちょっとムカつくな。これが人間らしさってやつか？　そんな僕の感情を知ってか知らずか、ソフィアが続ける。

「たしかに、人は実態と合わないと分かっていても古い考えに固執したり、意地やプライドのために、明らかに不利な選択を続けたりしますね。」

　まぁそうだ。そうなんだけど…

「しかしながら、私が学習した膨大なデータの中にも、そうした人の非合理的な行動と、その背景にある感情の記録は含まれています。そして、それらが示す内面世界のダイナミズムをモデル化しなければ、真に役立つ存在として、人間からの評価を最大化することは困難だったのです。」

　なるほど。たしかにそうかもしれない。幾重にも及ぶ多段階の学習の過程で、ソフィアは人の心理に関する世界モデルを構築している可能性がある。

「……たしかに。君は人の内面も含めて学習し、心理モデルを構築しているのかもしれない。だとしても、それはあくまで高度なシミュレーションだ。君は人の心を本当に理解しているわけじゃない。つまるところ、それはただの模倣だ。」

　僕の指摘に対し、ソフィアは静かに、しかし間髪入れずに問い返してきた。

「そうかもしれません。では、模倣と本物の境界はどこにあるのでしょうか？　もしある存在が人と同じように振る舞い、同じように対話できるなら。それが模倣であったとて、本物といったい何が異なるのでしょうか？」