完成！すべての危険を取り除く最強AIは最低だった！？

「やったぞ！やったぞ！遂に完成したぞ！みんなありがとうやったんだ！」

　僕は天才AI研究者だった父を尊敬して、AI研究の道へと進んだトーマスである。

　父には遠く及ばない僕も優秀なスタッフと協力して素晴らしいAIを完成させたのであった！

　それは無敵AI！

　どのようなAIかというと、ユーザの周りに常にまとわりついて、言うならば守護霊みたいなもので、どんな危険にも対応を自動でして、ユーザを先回りして安全を確保してしまうのだ！

　これによって、もう人生安泰である。

　さらにそれだけならば高度なプログラムでもできるのではないか？

　もっともである、さらに画期的な機能がついているのである。

　それはユーザがシールドを望まないと判断をしたら、シールドを張らないことも判断できるAIなのである。

　具体的には友達と喧嘩をしたとする。でも自分が悪いことをしたと思っていて、友達が怒っている。

　そんな時に自分を保護したらどう思うか？友達の怒りは収まらずに関係が終わってしまうだろう！

　だからそういう時は罵声からそれからビンタの類まで、防がないようにできるAIなのだ。

　これにより自分の自由意志に反してAIが余計なことをするなんてことも防げる。

　絶対的画期的であり、人類の大発明だと私は誇りを持ったのであった！

　これは父をも超えた偉業なのでは？と。

　父は天才だったが、時代が私に勝利をもたらしたって感じだろうか。

　優秀なスタッフのおかげである！

　もうAI研究の最前線からは外れている父に私は報告に向かう。

　こんな素晴らしいものができたよと、僕は父に認められたら嬉しいなと思った。

　なんせ父は普段はそうでもないのだがAI研究の件に関しては一切の妥協をしない人で、息子であるからといって一切の忖度をせずに、役に立たないって斬り捨てる人だからだ。

　僕は子供レベルの時に褒められたこと以降、褒められた記憶が無い。

　だが今回ばかりは父と言えど認めるしかなかろう！

　別に父に認められることが人生の目標だったわけではないのだが、これは気持ちいいぞ。私はニマニマが止まらないのであった！

「というわけなんですよ、これは人類における絶対的な発明だと思いませんか？父さん！」

　私が色々すべてを説明すると……

「……おそらく上手くいかないだろうな……」

　少し考えた後にこんなことを言うでは無いか！

「な……なぜですか！システムは完璧です！」

「……実際にシステムが完璧かどうかは知らんが、仮に本当に完璧だとしても、明確に上手くいかない理由がある！」

　馬鹿な！この男は何を言っているのか！

　私はいくら尊敬する父と言えどこの暴論は許せずに抗議するのであった！

「一体何が上手くいかないと言うのですか！言ってみてください！」

「……今のお前に言った所で分かるまい、試してみるが良いだろう！」

　これである、昔から僕のことを認めやしない……

　いや違うぞ分かったぞ、父は僕が自分よりも画期的な物を作ったことに嫉妬しているんだ！老いたな父さん！

　そんな父さん見たくないや！怒りのあまり僕は部屋を飛び出したのであった……

　こうして僕らの夢である無敵AIは販売されあっという間に画期的な売り上げをもたらしたのであった。

　社長は僕達を大絶賛し、圧倒的ボーナスと昇進も約束された……

　やはり僕が正しいじゃないか！父さんが老いたことが寂しいと思うのであった……

　天才も老いるんだなと……

　しかし数か月もすると、やけにクレームと売り上げの減少が明らかになった……

　売り上げについてだが、確かにある程度行き渡れば落ちるのは仕方ないのだが、それにしても落ち方がおかしい。

　そしてクレームの類も安全装置が上手くいかなかったってクレームならば対応しないといけないが、どうやらそうではないものがやってきたみたいであった……

　私は責任者として対応を考えないといけないこととなったのである……

　どうやらクレームを大量にまとめるとこういうことであった……

「常に安全だから面白くない」

「何が起きるか分からないワクワクが無い」

「これでは魂が腐る」

　ふ・ざ・け・る・な・よ！？

　お前らが安全を求めていたからこそ、僕らは頑張って作ったんだ！

　その安全が駄目で文句を言われることは許せても、安全だから面白くないからつまらないって！？

　ざけんな！

　私はブチ切れていたが社長に呼ばれてこう告げられた。

「トーマスよ、売り上げとクレーム対応のために安全度を少し緩めることはできないか？」

「社長本気ですか！せっかく完全なシステムを崩すなんてことを、我々エンジニアにしろというのですか！」

「お前の怒りももっともだ、だがこれでクレームが回避できて売り上げを伸ばせるのなら、これもまたビジネスだ分かるな？」

　うぬぬぬ……不本意ながら社長の命に従うしかなかったのであった……

　こうすることで売り上げは回復したらしい。

　そして時々安全が上手くいかないので危険な目に合うユーザも現れたのだが、すると当然予想通りというかこんなクレームが来るのであった！

「安全度が以前よりも下がったのではないか」と

　私は当然切れた。お前らが望んだことだろうがざけんな！

　するとまたしても社長に呼ばれる……

「もうちょっとだけ以前ほどではないが安全度を上げるようにできるか？」

「……頑張ればできるけど、これイタチごっこじゃないですか？」

「……」

　社長すら何も言えない、社長はビジネスのためにその場限りの対応を繰り返すに違いない。

　せっかく完璧なシステムを作ったのにふざけるな！なんだこれは！

　私は怒りのあまり、自分に無敵AIを作動させ文句を一切聞かないようにすることにした。

　するとある日社長にまたしても呼ばれる。

「開発がクレームを無敵AIで聞かないようにする卑劣なことをしているなどと言われている。これはまずいぞ！」

　……呆れて物も言えない、僕らは馬鹿共のサンドバッグだというのか！

「……社長もううんざりです、こんなこと長く続くものではありませんよ……」

「お前の怒りも分かるが、ユーザの声のシャットアウトはまずい、だから無敵AIで聞かないことだけはやめるように……」

　くそっ！なんだってんだ！どいつもこいつもワガママだらけではないか！

　私が怒りの余りイライラしていると、父に久しぶりに偶然出会ったのであった……

「トーマス荒れているようだな……」

「父さんは顛末を知ってるでしょう？馬鹿ユーザが安全だとワクワクしないといい、安全を緩めると危ないとか文句ばかり垂れている！」

「もちろん知っている……」

「こんなワガママ知りませんよふざけてるにもほどがある！技術を馬鹿にしている！」

「お前の怒りはもっともだ」

「そうでしょう父さん、僕は間違っていない！」

「いや間違っているぞ」

「何故ですか！まさかワガママを聞いてやれって言うんですか！」

「そんなことを私が言うわけないだろう！」

「では何だというのです！」

「お前の勘違いは、ワガママを予見しなかったこと、次にワガママと安全の両立など未来永劫に渡って不可能だと分からなかったことだ！」

　……

「……父さんは分かっていたのですか？」

「……まぁ大体な、私もAI研究の経験は長いし、そうでなくても、馬鹿がどこにでもいることなど知っているのでな」

「……」

　父が嫉妬していたなんて思っていた僕は恥ずかしい。流石天才なんだ、何もかもお見通しだったんだ……

「安全とワガママの両立は無理なんですか？」

「……少なくても私が考える限り絶対に無理だ、何故なら今回の構造は、安全だと予測可能な事態しか起きないからワクワクしない、だがそのワクワクするために危険に合うのも嫌だ、この矛盾した概念はワガママであり、ワガママと安全を完全に叶えることが達成できることなどないではないか」

「そうですね……」

「では父さん、僕はどうしたらいいのでしょうか？」

「……正直言うと分からん、だから私はそう言う世界が嫌でさっさと引退したんだ、自分の好きな研究だけをのん気にしたいんでね、現役時代はお金のためだけに働いた、もう生活できるから働かない、単純なのだ！」

　……流石父さん、そう言う所昔から超割り切る人だったよね……

　だけど僕は諦めたくない、このまま引っ込んだら悔しいでは無いか！

「でも僕はまだ諦めないよ！」

「……そうか、私には方法が分からないがお前の人生だ、好きにしろ！」

　こうして僕はリベンジに燃えるのであった……

　しかしそんな僕をますます怒らせる事態が発生した。

　何かよく分からない自称評論家の無能が、

「無敵AIは人類の進歩を止めるものである。何故なら危険を排除するということは人間の性質を落とすことである。人は危険だからこそ成長できるのである」

　なんて抜かしている。

　こいつふざけてるのか？お前らはそのために死んでもいいというのか？

　人が死ぬのを避ける、こんなもの当たり前の掟じゃないか！

　いや待てよ、そうかそうか、死んでもいいのか、私は気づいてしまった。

　この馬鹿評論家め、分かったよお前らが求めているものの正体と意味の無さをな！

　人は安全じゃない、安心を求めているんだなと、いや少なくても人はっていい切ったら、言い過ぎか。

　ワガママを言う奴らは、安心を求めているだけなんだわ、アホらしい。

　じゃあ１つ答えができた。

　父さん、僕は父さん超えをするよ、天才な父さんには浮かばない発想でね！

　僕は悪魔と取引をする設計をすることにした。

　ふん、お前ら世間が悪いんだすべて悪いんだ、だから僕はもっと革新的なAIを作ってやるぞ……ふっふっふ……

　新しいAIそれは、安心絶対AIである！

　つまりユーザが不安を覚えた時に、常に安心感を提供するAIだ！

　最強だろう？

　最強さ、だって実際の安全は一切無視するから、危険な目に合ってもちゃんとワクワクできるのだから。

　良かったなこれで、矛盾は解消された、安心とワクワクならば両立できる、

　父さん僕は立派に解決したよ。

　その結果馬鹿ユーザが困ろうが知ったことじゃないがね！

　僕は悪魔に魂を売ったのだから……