Attention

問題

Attentionの重みを可視化する際の注意点として、最も適切な選択肢を1つ選べ。

1. A. Attention重みは参考情報になるが、モデル判断の完全な因果的説明とは限らない
2. B. Attention重みを見れば、常に法的責任の所在が完全に分かる
3. C. Attention重みは必ずすべての特徴量重要度と一致する
4. D. Attention重みはモデルの学習に一切使われない乱数である

解説（正解: A）

正解はA。Attention重みは、モデルがどの入力部分に重みを置いたかを見る手がかりになることがある。しかし、それがモデル判断の完全な因果的説明であるとは限らない。解釈性を扱う際には、Attention可視化だけに過度に依存しないことが重要である。