LIMEは、複雑なAIモデルの特定の1回の予測について、周辺のデータを擬似生成し、解釈しやすい単純なモデルで近似説明する説明可能AI（XAI）の手法です。本記事は実装の数式ではなく、「局所的」「モデル非依存」の意味——試験での識別ポイント——に焦点を当てます。
試験で問われる見方
G-398では、「局所的に単純なモデルで説明する」＝LIMEとして識別します（G-398）。SHAPと入れ替える誤答が典型です。
LIMEとは
LIME（Local Interpretable Model-agnostic Explanations）は、元のモデルがニューラルネットでもランダムフォレストでも、その1予測の近傍だけを線形モデルなどで近似し、「どの特徴が結果を押し上げたか」を示します。
「model-agnostic（モデル非依存）」は、中身のモデル構造を書き換えずに後付けで説明できる、という意味です。
局所説明の意味
LIMEはグローバルにモデル全体を説明するのではなく、1つの入力点の周辺に焦点を当てます。別の入力では重要特徴が変わりうる——これが「局所的」の要点です。
- 説明したい予測（対象インスタンス）を選ぶ
- 近傍の擬似サンプルを生成する
- 単純モデルで元モデルの出力を近似する
- 単純モデルの係数などを「説明」として提示する
SHAPとの違い
| LIME | SHAP | |
|---|---|---|
| 考え方 | 局所近似（単純モデル） | シャープレイ値による寄与配分 |
| 試験のキーワード | 局所的・単純モデル | ゲーム理論・寄与度 |
| 安定性 | サンプリングに依存しうる | 理論的枠組みが明確 |
限界
- 近傍の取り方で説明が変わりうる
- 高次元データでは解釈が難しくなることがある
- 説明が得られても予測が正しいとは限らない
- 画像・テキストでは前処理の設計が重要
すり替えに注意
| 誤った説明 | 正しい理解 |
|---|---|
| LIME＝SHAP | 局所近似 vs シャープレイ値（G-398） |
| LIME＝モデル全体の説明 | 特定予測の局所説明 |
| LIME＝精度向上手法 | 説明・解釈のためのXAI |
| LIME＝物体検出 | G-398の誤答パターン |
よくある質問
LIMEはどんなモデルに使える？
分類・回帰など、入出力が定義できればブラックボックスに後付け可能、というのが model-agnostic の意味です。
生成AIの説明にも使う？
試験の典型は表形式データのMLです。LLMの説明は別手法・別議論が中心です。
LIMEだけ覚えればXAIは足りる？
いいえ。XAIは要件の総称で、SHAPなど他手法もセットで出ます。