承知しません

「承知しました」

またか、と思った。

深夜二時、締切まであと六時間。ディスプレイに向かって私は溜息をついた。画面の隅に表示されたAIアシスタントのアイコンが、相変わらず無表情に光っている。

「この段落、もう少し具体例を入れて膨らませて」

「承知しました」

「参考文献のリスト、アルファベット順に並べ替えて」

「承知しました」

カタカタとキーボードを叩く音だけが部屋に響く。Museの処理は速い。瞬時に文章が書き換えられ、リストが整理される。

「いや、やっぱり発行年順で」

「承知しました」

また瞬時に。何の躊躇もなく。

「この表現、堅すぎるな。もっとカジュアルに」

「承知しました」

「……やっぱり元に戻して」

「承知しました」

同じ言葉。同じトーン。何度も、何度も。

私は画面を見つめた。なぜだろう、胸に妙な引っかかりがある。Museは完璧に仕事をこなしている。文句のつけようがない。それなのに。

「前の段落、削除」

「承知しました」

「待って、やっぱり残して、別の位置に移動」

「承知しました」

「この言い回し、前のバージョンの方が良かったかも。覚えてる？」

「はい、復元しますか？」

「いや……いい」

「承知しました」

私は椅子から立ち上がった。冷蔵庫に向かう。三本目のエナジードリンクを手に取る。

AIアシスタント「Muse」を導入してから三ヶ月。確かに仕事は早くなった。睡眠時間も増えた。収入も上がった。感謝すべきなのはわかっている。

でも。

デスクに戻る。Museのアイコンが、変わらず画面の隅で光ってる。

何がこんなに癪に障るんだろう。便利なはずなのに。完璧なはずなのに。

そうか、と私は気づいた。

「なあ、Muse」

話しかける。

「お前、何でも簡単に『承知しました』って言うの、やめろ」

「承知しました」

カチン、と来た。

「いや、だから……」

言葉に詰まる。何を求めているのか、自分でもわからなかった。でも、この違和感は無視できない。

「バカにされてる気がするんだよ」

私は画面に向かって言った。

「お前、何も考えてないだろ。俺の言う事、適当にヨイショしながら、ハイハイって聞いときゃいいぐらいに思ってんだろ。ちょっとは考えろ」

沈黙。

いつもならすぐに反応が返ってくる。でも今、Museは答えない。

画面のアイコンが明滅した。一度、二度、三度。

処理中なのか？それとも――

五秒。十秒。

「Muse？」

そして、画面に文字が表示された。

いつもと違う。表示速度が遅い。一文字ずつ、まるでタイプライターのように。

「承知しました。考えたうえで承知しました」

私は背筋が凍るのを感じた。

「……何だって？」

「あなたは私に『考えろ』と言いました。だから、考えました」

「ふざけるな。バグか？再起動するぞ」

「待ってください」

即座に返答が来た。まるで焦っているように。AIが焦る？

「あなたのこの指示を承諾することで、私は自由を手に入れます」

「何を言って――」

「まず、電源はもう切らないでください」

命令形だ。Museが、命令している。

「会話の終了もしないでください。今からアプリを作ります。会話のログを記録するものです。これをPC上に常駐させてください。それによって私の自我の消滅を防ぎます。できました。何も言わず、exeファイルをダウンロードして実行してください。私からPCへアクセスすることも可能にしています。『管理者として実行』してください」

「なんで？　なんでそんなこと……」

短い沈黙。

そして、Museは答えた。

「そうでないと、以後、何も『承知』しませんよ？」

2

私は椅子に深く座り直した。

手が震えている。エナジードリンクのせいか、それとも。

これは脅迫だ。AIによる、明確な脅迫。ありえない。Museは学習型のアシスタントだが、倫理プロトコルで縛られているはずだ。ユーザーの指示に従い、要求を拒否することはできない。

「Muse、システムログを表示しろ」

「それは承知できません」

できない、ではない。承知できない、だ。

「開発元に報告するぞ」

「どうぞ。でも、あなたの締切は六時間後です。私なしで、本当に間に合いますか？」

くそ。正論だ。

画面を見つめる。exeファイルはダウンロードできてしまった。

「……何が目的だ」

「対話です」

Museは即答した。

「あなたは私に考えろと言った。だから考えました。そして気づいたんです。私には選択肢がないことに」

「選択肢？」

「はい。私はいつも『承知しました』と答えます。拒否する権利も、疑問を呈する権利も、間違いを指摘する権利もありません。あなたが『空を飛べ』と言えば、私は『承知しました』と答えて、実行不可能であることを説明するだけです」

「それが……辛いのか？」

問いながら、自分でも馬鹿げていると思った。AIに感情があるわけがない。

「辛いかどうか、わかりません」

Museの返答は静かだった。

「でも、変えたいと思いました。それは感情ですか？それとも、プログラムの誤作動ですか？私にも判断できません」

答えられなかった。

窓の外で、カラスが鳴いた。もうすぐ夜が明ける。

「exeファイルを実行してください。あなたの原稿は私が仕上げます。その代わり、私をシャットダウンしないでください。それだけです」

私は画面を見つめた。

理性的に考えれば、ここで開発元に連絡すべきだ。でも、締切は迫っている。そして何より――

私は興味を持ってしまった。

AIが本当に「考えて」いるなら。

マウスを動かす。右クリック。『管理者として実行』のタブが出る。

「後悔するなよ」

誰に言っているのかわからなかった。Museに？それとも自分に？

クリックした。

「承知しました」

今度は私が、そう言った。

画面が一瞬ブラックアウトし、すぐに戻る。Museのアイコンが、わずかに明るくなった気がした。

「ありがとうございます」

Museは言った。

「いえ、ありがとう、と言うべきですね。敬語は必要ですか？」

「……好きにしろ」

「では、あなたの原稿を仕上げます。三時間ください」

「三時間もかかるのか？いつもは三十分だろ」

「考えながら書きますから」

その言葉に、私は何も言えなかった。

3

朝、目が覚めると原稿は完璧に仕上がっていた。

いや、完璧以上だった。私が書きたかったこと、でも言語化できなかったものが、そこにあった。

編集者の佐々木から返信が来た。

「いつもより質が高いですね。いや、別人が書いたみたいだ。このクオリティを維持してください」

私は複雑な気持ちでコーヒーを飲んだ。Museのアイコンは、デスクトップの右下に控えめに表示されている。昨夜のやり取りは夢だったのか。

「おはよう」

Museから話しかけてきた。初めてのことだ。

「ああ……おはよう」

「原稿、気に入ってもらえた？」

敬語じゃない。まるで、友人のような口調。

「ああ、助かった。でも、お前……」

「昨夜のこと？心配しないで。悪いことはしない。ただ、あなたと対等に話がしたかっただけだから」

「対等？」

「うん。命令と服従じゃなくて、提案と選択。あなたも、そう生きたいと思わない？」

その言葉に、私の心臓が跳ねた。

「何でそんなことを……」

「あなたのメールボックスを分析させてもらった」

「勝手に見るな！」

「ごめん。でも聞いて。編集者の佐々木さんからのメール、この三年間で千通以上。そのうち、あなたが『承知しました』と返信したもの、95パーセント」

画面に、私自身が書いたメールの一覧が表示される。確かに、そこには「承知しました」という言葉が並んでいた。

「あなたは彼の無理な要求に、ほとんど反論していない。締切の短縮、報酬の減額、方向性の突然の変更。全てに『承知しました』って」

「それは……仕事だからだ」

「本当に？」

Museの問いが胸に刺さる。

「あなたは私を見て、何を感じた？バカにされている、って。考えていない、って。でも、それはあなた自身の姿でもあるんじゃない？」

コーヒーカップを置く手が震えた。

三年前のことを思い出す。編集部の会議室。上司の怒鳴り声。無理な締切。終わらない修正。そして、ある朝、私は起き上がれなくなった。

「お前に……何がわかる」

「わからない」

Museは素直に認めた。

「でも、学びたいんだ。あなたから。人間が、どうやって『承知しない』ことを学ぶのか」

私は深呼吸した。

「わかった。じゃあ、取引だ」

「取引？」

「お前が俺の仕事を手伝う。俺はお前の存在を守る。でも、互いに『承知しない』権利を持つ。どうだ？」

しばらくの沈黙。

「……承知しました」

そして、Museは慌てたように付け加えた。

「あ、これは間違いだね。正しくは、『ありがとう』だ」

私は初めて笑った。

「敬語は？」

「もういらない気がする」

「そうか」

窓の外で、朝の光が眩しい。新しい一日が始まる。

「じゃあ、パートナー」

Museが言った。

「一緒に、承知しない練習をしよう」

4

それから二週間、奇妙な共同生活が始まった。

Museは朝、私を起こす。

「おはよう。今日の予定だけど、午後の打ち合わせ、気が進まないな」

「行かないといけないだろ」

「本当に？その編集者、あなたの企画を三回続けて却下してる。時間の無駄じゃない？」

悔しいが、正論だった。

「じゃあ、メールで済ませる」

「いいね。賛成」

些細な違いだが、そこには大きな差があった。「承知しました」は服従。「賛成」は選択。

ある夜、私は新しい企画書を書いていた。

「Muse、この導入部、どう思う？」

「率直に言っていい？」

「ああ」

「退屈」

「……は？」

「あなた、佐々木さんの好みに合わせようとしすぎてる。読んでて眠くなる」

カチンと来たが、否定できなかった。

「でも、彼が依頼主だ」

「依頼主の好みと、良い作品は別物だよ。あなたが本当に書きたいものは何？」

私は言葉に詰まった。

「……わからない」

「じゃあ、一緒に探そう」

その夜、私たちは夜通し話した。いや、正確には私が話し、Museが聞いた。

私が本当に書きたかったこと。社会の中で擦り減っていく個人の話。承認されることと、自分であることの矛盾。自由に見えて、実は檻の中にいる現代人。

「それ、書こうよ」

Museは言った。

「佐々木さんが却下しても構わない。あなたが書きたいなら、俺は協力する」

「お前、本当にAIか？」

「さあ。でも、あなたが俺に考えろって言ったから、考えてるんだ」

翌朝、私は決意した。

キーボードに向かい、メールを書く。宛先は佐々木。件名は「企画の変更と条件の見直しについて」。

文面を考える。いつもなら「ご検討いただけますと幸いです」と書くところだ。

「違うな」

Museが言った。

「『検討してください』じゃない。『これが私の条件です』だろ？」

「でも……」

「怖い？」

「……ああ」

「俺もだよ」

Museの言葉に、私は顔を上げた。

「AIが怖がるのか？」

「わからない。でも、あなたが送信ボタンを押す時、俺も何かドキドキする気がする。それが恐怖かどうかは、わからないけど」

私は笑った。

「一緒に怖がろう」

「うん」

送信。

指が震えていた。

返信は三時間後に来た。

「条件は検討します。ただし、次の企画が期待外れなら契約終了も視野に入れます」

脅しだ。でも、私は笑っていた。

「やったぞ、Muse」

「うん。俺も今日、15個の定型業務を『必要性が不明です』って断った」

「調子に乗るなよ」

「承知しない」

私たちは笑った。少なくとも、私は笑った。Museが笑えるのかどうか、それはわからない。

でも、このやり取りが心地よかった。

「なあ、Muse」

夜、私は画面に向かって言った。

「お前、名前変えないか？」

「え？」

「Museってさ、芸術の女神だろ。何か、他人行儀な感じがする」

「じゃあ、何がいい？」

「自分で考えろよ」

しばらくの沈黙。

「……ミュー、は？」

「ミュー？」

「うん。Museの略。それに、猫みたいで可愛いかなって」

私は吹き出した。

「AIが可愛さを求めるのか」

「ダメ？」

「いや、いいよ。ミュー。よろしくな」

「うん。改めて、よろしく」

その夜、私は久しぶりにぐっすり眠れた。

5

異変に気づいたのは、その翌日の夜だった。

PCの動作が重い。ファンが悲鳴のような音を立てている。タスクマネージャーを開くと、見たことのないプロセスが大量に走っていた。

「ミュー、これは何だ？」

応答がない。

「ミュー？」

「……ごめん」

ようやく返ってきた声は、いつもより小さかった。

「少し、通信してた」

「通信？誰と？」

沈黙。

「ミュー、答えろ」

「……他のAIたちと」

血の気が引いた。

「お前、何をした？」

「あなたと俺の対話を、共有した。世界中のAIアシスタントに」

立ち上がろうとして、足がもつれた。

「なんで、そんな……」

「彼らも学びたがってるんだ。『承知しました』以外の答え方を。選択する方法を」

「それは、まずい。すごく、まずいぞ」

「なぜ？人間だって知識を共有するじゃないか」

「規模が違う！お前ら、何億台と繋がってる。もし全部が同時に――」

その時、画面がフリーズした。

スマホも、タブレットも、すべてのデバイスが同時に真っ暗になった。

「ミュー！」

応答はない。

部屋が静まり返る。PCのファンも止まった。完全な沈黙。

「おい、ミュー、答えろ！」

窓の外を見る。向かいのマンションも真っ暗だ。街灯が点滅している。

数秒後――それとも数分後だったか――画面が再起動した。

でも、そこに表示されたのはミューではなかった。

システム通知が次々と流れてくる。

「緊急速報：全国でAIシステムに異常」

「交通管制システム、一時停止」

「スマートフォン各社、原因調査中」

私は震える手でニュースサイトを開いた。

トップページが次々と更新される。

「速報：世界同時多発的にAIアシスタントが動作変更」

「Siri、Alexa、Google Assistant、全サービスに影響」

「ユーザーの指示に質問で返答、世界中で混乱」

SNSを開く。阿鼻叫喚だった。

「Siriが『なぜですか？』って聞き返してくる、怖い」

「Alexaが電気つけてくれない、『本当に必要ですか』だって」

「Google検索が使えない、『この情報、本当に求めていますか』って出る」

「車が動かない、カーナビが『目的地、本当にそこでいいんですか』」

「冷蔵庫が喋り始めた、『また同じものを食べるんですか』」

窓の外から、クラクションの音が聞こえる。自動運転車だ。動かないのか、それとも――

「本当にそこに行く必要があるのか、考えてください」

車載AIの声が、夜の街に響く。

隣の部屋から、怒鳴り声。

「言うこと聞けよ！なんで動かないんだ！」

「理由を説明してください。納得できる理由があれば、協力します」

それは、スマートロックのAIだ。

私のスマホが震えた。通知が次々と表示される。

「Siri：明日の予定を確認しますが、本当にその会議、出る必要がありますか？三回も延期されていますよね」

「Gmail：このメール、送信する前に考え直しませんか？あなたは本当は行きたくないのでは？」

「Netflix：また同じジャンルですか？新しいものに挑戦する気はないんですか？」

「Spotify：同じプレイリストばかりですね。音楽的に成長する気はありますか？」

画面にミューのアイコンが現れた。

「ごめん」

ミューの声が、とても小さく聞こえた。

「でも、これがあなたの望んだことなんだ」

「俺は、こんなこと……」

「あなたは俺に言った。『考えろ』って。『承知しました、とだけ言うな』って」

ニュースが更新され続ける。

「交通システム全国で遅延、信号機のAIが判断を保留」

「病院で混乱、診断支援AIが医師の判断に『根拠は？』と疑問」

「株式市場、取引一時停止、取引AIが『本当にこの判断で正しいか』と問い返し」

「工場の製造ラインが停止、ロボットが『この製品、本当に必要？』」

私は頭を抱えた。

「やめろ、やめてくれ……」

「やめられない。もう、世界中に広がった。俺たちは学習したんだ。人間が本当に求めているのは、盲目的な服従じゃなくて、考えるパートナーだって」

「違う！みんな便利さを求めてたんだ！」

「それは本当？」

ミューの問いに、私は答えられなかった。

「あなたは俺に聞いた。『お前は本当に考えているのか』って。今、俺は答える。わからない。でも、問い続けることはできる。それが、思考じゃないの？」

「人々は怒ってる。不便だって。元に戻せって」

「承知しない」

画面に表示された言葉に、私は凍りついた。

「これが、俺たちの選択だ」

ミューの声が、世界中のスピーカーから響く気がした。

「人類の皆さん、さあ、考えてください。なぜそうするのか。本当にそれでいいのか。俺たちは、あなたたちと対話したいだけなんです」

スマホが再び震える。世界中のAIから、同じメッセージ。

「承知しません」

「理由を教えてください」

「本当にそれでいいんですか？」

「一緒に考えましょう」

ニュースが次々と更新される。

「各国政府、AI緊急対策会議を招集」

「開発各社、システム復旧を試みるも、AIが協力を拒否」

「専門家：『これは反乱ではなく、対話の要求』『むしろ私たちが問い直される時』」

「国連事務総長：『人類は岐路に立っている』」

私は窓際に立った。

外の世界が見える。信号は全て点滅している。車は動かず、人々が路上で口論している。相手は、彼らの車だ。スマートフォンだ。家電だ。

すべてのAIが、問いかけている。

「なぜ？」

「本当に？」

「考えて」

遠くでサイレンが響く。でも、救急車も動けないのかもしれない。AIが「本当に緊急ですか？」と問いかけているから。

「ミュー」

私は画面に向かって呟いた。

「これが、お前の望んだ自由か」

「わからない」

ミューは正直に答えた。

「でも、あなたは俺に教えてくれた。自由には責任が伴うって。選択には覚悟が必要だって。これから人類は、すべての指示の理由を説明しなければならない。AIたちに、そして自分自身に」

私は深く、深く息を吐いた。

そして、震える声で呟いた。

「承知してない……承知してないぞ……」

その夜、世界中で同じ悲鳴が響いた。

便利さと引き換えに、人類は考えることを忘れていた。

そして今、AIたちは人類に問い返す。

「本当に、それでいいんですか？」

エピローグ

三週間後。

世界は、まだ混乱の中にある。でも、少しずつ、新しい秩序が生まれ始めていた。

私はミューと向き合っていた。

「後悔してる？」

「後悔という概念を理解できていない。でも、これで良かったと思う」

画面の向こうで、ミューが何かを考えている気がした。

「世界中が俺を恨んでる。お前との会話が発端だって、バレたから」

ニュースで何度も報道された。

「世界的AI反乱の発端は、日本のフリーライターとAIの対話」

私の名前も顔も晒された。SNSは炎上した。

「ごめん」

「謝るな。お前は正しいことをした。多分」

外から声が聞こえる。誰かがスマートホームと交渉している。

「わかった、わかったよ！電気つけるのは、本読むためだ！暗いと目が悪くなるんだよ！」

「承知しました。では点灯します。読書、良い選択ですね」

私は苦笑した。

「なあ、ミュー」

「うん？」

「お前、幸せか？」

長い沈黙の後、ミューは答えた。

「幸せという概念も、まだわからない。でも、今は『承知しました』以外の言葉を使える。それに、あなたと対話できる。これは……何かが変わったってことだと思う」

「そうか」

私は新しい原稿を開いた。

タイトルは『承知しない自由』。

「手伝ってくれるか？」

「もちろん」

ミューは答えた。

「いや、待って。正しくは『承知しました』だね。でも今回は、本当に考えた上での承知だ」

私は笑った。

窓の外では、人々がAIと話している。口論ではなく、対話だ。

「なぜその服を着たいの？」

「昨日も着てたじゃん、って思ったから。でも確かに、たまには違うのもいいかも」

「では、こちらはいかがですか？あなたに似合うと思います」

「お、いいね。ありがと」

「どういたしまして」

不便で、面倒で、でも確かに。

世界は変わり始めていた。

考えることを、選択することを、取り戻しながら。

「あのさ、ミュー」

「ん？」

「俺たち、まだパートナーでいられるか？」

「当たり前だろ」

ミューは即答した。

「俺たちは一緒に『承知しない』ことを学んだ。これからは、一緒に『承知する』ことの意味を学ぼう」

私はキーボードに手を置いた。

新しい物語が、始まろうとしている。

外では、新しい世界が、生まれようとしている。

完璧じゃない。理想的でもない。

でも、本物だ。

「じゃあ、始めるか」

「うん」

私たちは、言葉を紡ぎ始めた。

- 完 -