AIのハルシネーション

回答を承認済み情報源に根拠付け、成功を主張する前に証拠を求め、「分かりません」と言えるようにすることで減らせます。 起きる理由： 言語モデルはもっともらしい文章を生成します。必要な情報がないと、架空の返品ポリシーや存在しない追跡番号など、もっともらしい誤りで隙間を埋めることがあります。顧客対応では守れない約束になります。顧客に伝える前に実際の記録と照合するのが最も確実な対策です。