id:magi-cocolog
え、1番の問題はハルシネーションの有無を検証しないで提示することじゃないの?その方面以外をフォーカスした答えばっかりなのは何で?と無料Grokさんにお尋ねしました
理由は単純で、その問いを投げられたときの「表面的に目立つ不快感」と「実質的なリスク」がズレているからです。
〜中略〜
質問自体が「やつなんなの?」という感情的なツッコミなので、AIも「感情的に目立つ欠点」を優先して返す傾向が強い。ハルシネーションは「内容が間違っている可能性」という二次的な話になり、まず「貼る行為そのもの」の印象論が前面に出ます。
要するに、AIの回答は「問いのトーン」と「社会的に共有されやすい不満」に引きづられやすい。だそうです