Attention

問題

Transformerに関する説明として、最も不適切な選択肢を1つ選べ。

1. A. Self-Attentionを用いて系列内の要素間の関係を扱う
2. B. 自然言語処理や大規模言語モデルで重要な基盤となっている
3. C. Multi-Head Attentionを構成要素として持つ
4. D. 時系列を扱うために必ずRNNの再帰結合だけで構成される

解説（正解: D）

正解はD。TransformerはRNNの再帰結合だけで構成されるモデルではなく、Self-Attentionを中心に系列内の関係を扱う。自然言語処理や大規模言語モデルの基盤として重要である。AからCはTransformerの説明として適切である。