ハルシネーション（Hallucination）は、生成AI時代の最重要キーワードのひとつです。ChatGPTなどのLLMが、事実と異なる内容を自信を持って出力する現象を指します。G検定・生成AIパスポートの両方で出題され、特に生成AIパスポートの第4章（リスク管理）では頻出です。本記事では定義・原因・試験での出題ポイント・対策を整理します。詳細は用語辞典「ハルシネーション」もあわせてご覧ください。
ハルシネーションとは
ハルシネーションは、医学用語の「幻覚（hallucination）」に由来する比喩です。生成AIが存在しない情報をもっともらしく生成する現象を指します。
- 英語表記 Hallucination（略して「ハルシ」とも呼ばれる）
- 本質 モデルは「次に来る確率が高いトークン」を予測しているだけであり、真偽を保証する仕組みはない
- 試験での注意 マルチモーダルAIやChatGPTそのものの定義と混同しない。ハルシネーションは「誤出力の現象」を指す
具体例
- 存在しない論文の引用 著者名・タイトル・DOIがもっともらしいが、実在しない文献を生成
- 誤った数値・日付 統計データや歴史的事実を自信を持って誤って回答
- 架空の法律・判例 存在しない条文や判例を引用
- コードの幻覚 存在しないライブラリの関数やAPIを生成
なぜ起きるか
- 確率的なテキスト生成 LLMは最もらしい続きを生成するため、知識の空白を「埋める」ように推測する
- 学習データの限界 訓練データにない情報や、古い情報について誤りやすい
- プロンプトの曖昧さ 指示が不明確だと、モデルが推測で補完しやすい
- 過信のリスク 流暢で自信のある文体のため、ユーザーが誤りに気づきにくい
試験での出題ポイント
| 試験 | 出題の傾向 | 演習 |
|---|---|---|
| G検定 | 生成AIのリスク、ディープラーニング応用、AI倫理の文脈で出題 | domain-05 · domain-04 |
| 生成AIパスポート | 第4章で頻出。対策手法の選択、業務利用時の注意が問われる | 第4章 |
よくある四肢択一のパターン：
- 定義の選択 「ハルシネーションとは何か」を正しく説明する選択肢を選ぶ
- 対策の選択 RAG・出力確認・ヒューマン・イン・ザ・ループなど、文脈に合う対策を選ぶ
- 誤解の排除 「RAGで完全に防げる」「Temperatureを上げれば解消」などの誤りを見抜く
対策・軽減手法
- ファクトチェック 重要な事実は原典・公式情報と照合する
- RAG（検索拡張生成） 外部の信頼できるデータを参照して回答の根拠を強化（完全防止ではない）
- ハルシネーション対策 出力の根拠明示、複数ソースとの照合、制約付きプロンプト
- ヒューマン・イン・ザ・ループ 公開・意思決定前に人間が最終確認する
- プロンプト設計 「わからない場合はわからないと答える」などの指示を含める
一問一答で定着させる