ハルシネーション（Hallucination／幻覚）は、生成AIが事実と異なる内容を、あたかも正しいかのように出力する現象です。本記事はRAGの設計論ではなく、「何が起きているか」「業務でどう検証するか」に焦点を当てます。試験では、マルチモーダルやChatGPTの説明をハルシネーションとすり替える選択肢に注意が必要です。
試験で問われる見方
正しい定義は「事実と異なる内容をもっともらしく生成する現象」です。G検定では技術用語として、生成AIパスポートでは社内ポリシー・利用上のリスクとして問われます。
ハルシネーションとは
医学の「幻覚」と同じ語源ですが、AIでは存在しない論文名、誤った法条番号、でっち上げの統計などが、自信ある文体で出力されることを指します。モデルは「わからない」と言うより、もっともらしい続きを生成しやすい——これがLLMの次トークン予測の性質と関係します。
なぜ起きるのか
原因は一つに絞れませんが、試験・実務で押さえるポイントは次のとおりです。
-
学習データにない・古い情報
最新事件や社内未公開データはモデル単体では知らない。
-
確率的最な「続き」の生成
正確さより文脈の自然さが優先されることがある。
-
曖昧な質問
前提が足りないと、モデルが勝手に穴埋めする。
-
参照情報の誤り（RAG利用時）
検索結果が誤っていれば、それを根拠に誤回答が強化される。
代表的なパターン
| パターン | 例 | 危ない場面 |
|---|---|---|
| 事実の捏造 | 存在しない論文・判例の引用 | 調査・法務・学術 |
| 数値の誤り | 売上・統計のでたらめな数字 | 経営判断・財務 |
| 手順の誤り | 存在しないAPIやコマンド | 開発・運用 |
| 過剰な一般化 | 「必ず」「すべて」といった断定 | ポリシー・コンプライアンス |
業務での確認チェックリスト
RAGのパイプライン以前に、人が出力をどう扱うかが最後の防波堤です。
減らす方向性（概要）
完全消滅は現時点では期待しにくく、リスク低減の組み合わせが現実的です。
- RAG — 参照文書を渡して根拠を足す（ただし万能ではない）
- プロンプトで根拠・不確実性を求める — 「わからない場合はそう答える」
- 温度（temperature）を下げる — 出力のブレを抑える（製品による）
- 評価・監視 — 本番では回答品質のメトリクスを見る
対策の体系はハルシネーション対策の記事で整理しています。
すり替えに注意
生成AIパスポートでは、次はハルシネーションではない説明として出ます（HQ-0242）。
| 誤った説明 | 正しい理解 |
|---|---|
| ハルシネーション＝ChatGPT | 誤出力現象 vs 製品・サービス名 |
| ハルシネーション＝マルチモーダル | 事実誤り vs 入出力形式の用語 |
| ハルシネーション＝ファインチューニング | 誤出力 vs 追加学習の手法 |
| 自然な文章なら正確 | 自然さ≠正確さ（TF-171） |
| RAGでゼロになる | 減らす手段の一つにとどまる |
よくある質問
ハルシネーションとは？
事実と異なる内容をもっともらしく出力する現象です。TF-172の定義を覚えましょう。
自然な文章なら正しい？
いいえ。TF-171のとおり、自然さと正確さは別です。
RAGを入れればゼロになる？
いいえ。RAGは減らす手段のひとつにとどまります。
生成AIのデメリットとの関係は？
生成AIのメリット・デメリットでも触れています。本記事は現象に特化した解説です。