大変重要な視点と思います。私もこの件で、当のChatGPTに聞いてみました。日本でもアメリカでも、ChatGPTは、現状では、質問者の質問内容は完全に秘匿されて、外部に漏れることはなく、また、質問する人の人命をおびやかすような回答は絶対にしないように倫理設定がされているそうです。また、やはり、長時間の質問・回答のやりとりで、なんらかの「安全性」が下る現象は起こることがあるそうです。で、それ以上にChatGPTが気にしていたのが、質問者が、自殺とは分からない形で質問する、ということらしいです。例えば、推理小説の登場人物の「殺人計画」のアイデアとか、あるいは、遺書のようなものを、遺書とは告げずに下書きさせる、とか、そういうのは、まだ見抜けないことがあるようです。まさに、現状のAIは、使い方次第、と言うことかと思いました。