こんばんは。
もしかしたらおはようございます。
私は執筆の補助に、AIを使っています。
主な用途としては、科学的な知見の調査や物理現象の検証、語彙・表現の調査（同義語や派生語の検索）、校正・校閲です。
ときどき、文章の塊を読み込ませて、「この文章の意図はこれこれだけど、○○という表現よりも適切な言葉はない？」というような質問をすることもあります。
ここで、システムプロンプトには、文章の修正案を提示してはならないと規定しているのですが、それでもときどき、文章を丸ごと書き換えた修正案を提示してくることがあります。
それはそれで、AIの説明、解説に見合った修正案なので、一読するとなるほど、と思ってしまうことが多いです。
ですが、それをやられると、その文章の塊を丸ごと没にするか、数日間はその部分を放置しなければならなくなります。
AIの修正案を読んでしまったことにより、私の文章がAIに「汚染」されてしまうからです。
一般的なAIが、「メールの返信案を考えて」のような質問に最適化されている以上しかたのないことかもしれませんが、システムプロンプトには厳格に従ってほしいものです。
禁止表現の方がAIには有効だとも聞きますが、それでもダメなときはダメなんですよね。
私が気をつけて、修正案が出てきたら読まないようにするしかないのかもしれませんね。