ハルシネーション対策とは？減らす技法と限界

試験で問われる見方

「生成AIの提案資料は必ず正確だから根拠確認不要」は×（TF-0452）。「断定的な口調だから正しい」も×（TF-0256）。対策の本質は技術＋人の検証の組み合わせです。

対策のゴール設定

実務・試験とも、目標は「幻覚ゼロ」ではなく「許容可能なリスク」です。医療・法務・対外公開ほど、要求される確認レベルが上がります。対策はユースケースごとに設計します。

4層の対策スタック

下から上に積み上げるイメージで整理します（すべてを常に実施する必要はありません）。

• 層1：プロンプト・推論設定

  「不明ならわからないと答える」、温度を下げる、出力形式を固定（プロンプト・プロンプトエンジニアリング）。

• 層2：根拠の付与（RAG・検索）

  参照文書を渡して根拠性を高める（RAG）。検索ミスには注意。

• 層3：自動検証

  引用の有無チェック、数値の再計算、別モデルによる批判的レビュー、ルールベース検証。

• 層4：人のファクトチェック

  一次情報・複数ソースで確認（TF-0257）。

RAGは万能ではない

RAGは対策の有力手段ですが、幻覚を完全に消すものではありません（TF-175、TF-0171）。検索結果の誤り、無関係な段落の参照、モデルが資料を無視して捏造する、といった失敗モードがあります。

人による確認（最後の層）

人間中心のAIの考え方どおり、重要な判断は人が担います。チェックの優先度は次のとおりが実務的です。

1. 数値・日付・固有名詞
2. 法規・契約・医療に関わる記述
3. 対外公開・顧客向け資料
4. 社外秘・個人情報の有無

評価・監視

本番運用では、対策の効果を継続的に測ることが重要です（AIガバナンスの監視・改善と接続）。

よくある質問