説明可能なAI（Explainable AI／XAI）は、AIがなぜその判断をしたのかを人が理解できる形で示す研究・要件の総称です。本記事は個別アルゴリズムの数式ではなく、なぜ必要か・何と混同しないか——試験で問われる目的と位置づけ——に焦点を当てます。
試験で問われる見方
G検定では、XAIが必要とされる理由として判断根拠の理解・信頼性・説明責任の向上が正解です（G-397）。「精度を必ず100%にする」「訓練データを削除する」などは×。
説明可能性と予測性能は常に両立するわけではない（TF-198）。複雑なモデルほど説明が難しくなるトレードオフを押さえます。
演習で確認する
XAIとは
XAIは「ブラックボックス」と呼ばれる複雑なモデル（深層学習など）の入力と出力の関係を、人間が検証・説明できるようにする取り組みです。単なる可視化ではなく、意思決定の根拠を第三者に伝えられることが実務では重要になります。
医療診断、融資審査、採用支援など、誤りの影響が大きい領域では高リスクAIの文脈とセットで説明可能性が論じられます。
なぜ必要か
- 信頼性 — 利用者・関係者が納得して使える
- 説明責任 — 監査・苦情対応・規制対応
- リスク管理 — 誤判定の原因究明、改善サイクル
- 公平性の確認 — 属性別の偏り検知（公平性）
生成AIでも、根拠のない自信ある回答（ハルシネーション）とは別軸で、「なぜそう判断したか」を問う場面があります。
代表的な手法
試験で名前が出やすい説明手法です（詳細は各記事へ）。
| 手法 | 覚え方 |
|---|---|
| LIME | 特定予測の周辺を単純モデルで近似して説明 |
| SHAP | 特徴量の寄与をシャープレイ値で配分 |
| 特徴重要度（決定木等） | もともと解釈しやすいモデルを選ぶ |
G-398では「（あ）局所的に単純なモデル＝LIME」「（い）ゲーム理論的寄与＝SHAP」の組み合わせが正解です。
ガバナンスとの関係
XAIはAIガバナンスやモデルカードの記載項目と接続します。「説明できる」こと自体が目的ではなく、適切な説明と人の最終判断（Human-in-the-Loop）がセットで語られることが多いです。
すり替えに注意
| 誤った説明 | 正しい理解 |
|---|---|
| XAI＝精度100% | 根拠の理解・信頼性向上（G-397） |
| 説明可能性と性能は常に両立 | トレードオフがありうる（TF-198） |
| XAI＝LIMEだけ | 研究・要件の総称。手法は複数 |
| 説明できれば必ず正しい | 整合した誤推論もありうる |
よくある質問
XAIと説明可能性は同じ？
日常ではほぼ同義で使われます。試験では「判断根拠を理解しやすくする」という目的を押さえれば十分です。
LLMにもXAIは関係ある？
引用付き回答や思考過程の表示など、説明・根拠提示の要求は生成AIでも増えています。古典的MLのLIME/SHAPとは手法が異なります。
シンプルなモデルならXAI不要？
決定木などはもともと解釈しやすいですが、高リスク用途では説明の質・記録・監査要件は別途必要なことがあります。