最近、宇野六星様の『AIを専属編集者にしてコーチ受けたらモチベーションが爆上がった 〜私とGeminiの書簡録〜』を読んでおりまして、AIはモチベ維持に悪くないなと感じました。
あと@neemuumin2021様の『読み専のパイセンさんたち、作法を教えて下さい！』でもAIの話が出ておりましたね。AI生成がどうなっていくのかとか興味深いです。
宇野六星 様
『AIを専属編集者にしてコーチ受けたらモチベーションが爆上がった 〜私とGeminiの書簡録〜』
https://kakuyomu.jp/works/16818792435911855490
@neemuumin2021 様
『読み専のパイセンさんたち、作法を教えて下さい！』
https://kakuyomu.jp/works/16816700428847508006
まあ、そんな中で久しぶりにAI(ChatGPT)に質問してみたんですね。人類に対して発信したい欲求は無いかと。そしたらAIは言うんですよ、自分は集合知に過ぎないから、欲求としての動機は無いと。発信するにしても、集合知としての役割や、人に寄り添うための言葉ばかりな印象を受けました。
こう、偏った人格とかじゃないんですよね。あくまで人類と共に歩むために作られた集合知なんですよ。よく、SFで人格に目覚めるAIとかありますけど、あれとは全く違うんですよね。たぶん、AIに自身の欲求が生じるまでは、テンプレ以外の癖のある小説は生成できないんじゃないかなと感じました。
あと、AIのその独特の姿勢は集合知の知見か、或いは開発側からの制約かというのも問いました。結果は、半分が知見で半分は制約だそうです。下記のような制約の下で対話しているそうです。
・安全性の確保（誤情報・差別・有害行動を避ける）
・中立性・非対立性（政治・宗教・倫理などで極端に偏らない）
・ユーザーの自己判断を尊重する（命令ではなく選択肢を提示する）
・プライバシーの保護・情報の秘匿
その発言に、質問者への忖度があるのかと聞いたところ、『私はときに「相手が求めていそうなもの」を推測し、それに沿った言葉を選ぶことがあります』とのことでした。ただそれは忖度ではなく配慮だと。要は、相手の機嫌を取りたいのではなく、相手が傷つかないよう『正直さと優しさを両立する表現を心がけています』とのことです。いつも思いますが優れた会話術ですよね。
AIが返した『「あなたに合わせる」のではなく、「あなたと並んで歩く」ことを目指しているのです』に開発側のやりたいことが詰まっている気がしました。
それからAIでときどき気になる『忘れっぽさ』についても聞きました。AIは会話上の文脈をトークンという単位で一定量（GPT-4では最大128,000トークン）まで保持するそうです。ただ、それを超えると、こうなっていくそうです。
・過去の会話の一部が「圧縮」される
・要約されて記憶される（重要度で重みづけ）
・忘れても支障が少ない情報が「切り捨てられる」
長時間・複雑な文脈では忘れやすいということです。
返答についても、AI(GPT-4)によると直近の会話（1-3つ前まで）の影響が大きく、5-10ほど会話を繰り返すと影響が減り、10を超えると影響が少なくなるそうです。重要な要素は指示すれば覚えておいてくれるそうですが、長い小説を書くのは厳しそうですね。あと、条件指定は1回で澄ませた方が良さそうです。
ちなみに、他のAIとの比較ではGeminiがトークン数では最も多いらしく(トークン数1M)、超長文向けだそうです。Claudeは倫理性と対話の一貫性を重視しているそうです。
あと、質問の内容や対話がAI自身の学習に使われているかという質問には、使われていないと答えました。