Attention

問題

Transformerでは、Self-Attentionだけで単語の順序情報が自動的に完全に表現されるため、位置情報を加える必要はない。

正解: ×

解説

Self-Attention自体は系列の順序情報を直接持たないため、Transformerでは位置エンコーディングなどで順序情報を加える。位置情報の扱いはTransformer理解の重要点である。