Attention

G検定一問一答の問題です。解説付きで個別に学習できます。

問題

Multi-Head Attentionは、複数のAttentionを並列に計算し、異なる観点の関係を捉えやすくする。

正解: ○

Multi-Head Attentionは複数のヘッドでAttentionを計算する。各ヘッドが異なる関係性を捉えられるため、Transformerの重要な構成要素になっている。