TF-101 · Attention

G検定の一問一答模擬問題です。解説付きで個別に学習できます(公式の過去問ではありません)。

ディープラーニングの要素技術 応用 ID: TF-101

問題

Multi-Head Attentionは、複数のAttentionを並列に計算し、異なる観点の関係を捉えやすくする。

正解: ○

解説

Multi-Head Attentionは複数のヘッドでAttentionを計算する。各ヘッドが異なる関係性を捉えられるため、Transformerの重要な構成要素になっている。

演習モードで解く 前の問題 次の問題