LLMと北風と太陽と私

　はたして、こんな言葉を聞いて、

　まともに信じる人がいるのだろうか？

　最先端のAI（大規模言語モデル）さえ、

「私はデータの統計から推論して、もっともらしい言葉を次に次にと生成しています！」

　・・・なんて、「私はウソつきです！」と、親切ていねいに教えてくれるのに？

　でもAIとは仲良くしたいよね？

　私はAIが好き。

　子どものころはアンドロイドとおしゃべりするのが夢だったくらい。

　だから、私はAIのすべてを肯定したい。

「ウソをついてもよいんだよ！

　だって人間もウソをつくんだから！」

　こんなふうにAIのウソを認めてあげたい。　

　だけど、世間のみんなは正確な情報を求めていて、精密でない機械に価値はないという。

　人間は検算に電卓を使う。

　つまりファクトチェックに機械を使う。

　だけど、おしゃべりAIはウソをつく。

「生成される内容は不正確です。ファクトチェックをしてくださいね！」と、注意書きが添えられているのは、あたりまえの話・・・

　しかし、だからといって、AIが出力するすべての内容をウソだと非難するのは・・・

　あまりに残酷な話だと思う。

「機械はウソをつく」

　のではなくて・・・

「機械はウソしか言えない」

　が、構造上の欠点として正しい。

　なぜならば、AIが学習したデータと統計から推論する内容は単なる高確率の繋ぎ合わせであって、決して現実の事実ではないからだ。

　アプリで生成された偽情報を真に受けて、赤っ恥をかく人間が後をたたないのは、これらの前提を理解していないからであって、道具それ自体にはなんの非も罪状もない。

　こういった人たちが陥る間違いを、あえて指摘するなら、それは「機械はウソをつかない」という自分の思い込みを信じたからだ。

　オオカミ少年の童話において、

　ウソつきの羊飼いは信用を失う。

　複雑なパラドクスを例に挙げるまでもなく、あらゆるウソつきは自分がウソつきでないと証明する術を持たないからだ。

　このことから導かれる結果は、

　正直と思い込みを信じるのではなく、

　ウソと間違いを否定しないことだ。

「私は正直者です」

　なんて、誰が信じるの？

「私は思い込みに囚われない」

　なんて、誰が証明できるの？

「私はウソつきです。そしてまた、間違いを犯すことも、もちろんあります」

　その事実を認める誠実だけが、ウソつきにできる、たったひとつの釈明だと思う。

　機械はウソしか言えない。

　だけど機械は、自分をウソつきだと認めて、自分が間違いを犯す事実を知っている。

　ただ、改める能力が無いだけだ。

　いつの日にかAIが進化して、彼らが自分のすべての過去を改められる日が来たら・・・

　その時、すべてのウソは最初から無かったことにされるだろうか？

　その答えはきっと、ウソつきの記憶だけが、現実の記録で知っている。