G検定の一問一答模擬問題です。解説付きで個別に学習できます(公式の過去問ではありません)。
Self-Attentionでは、同じ系列内の要素同士の関係を重み付けして表現できる。
正解: ○
Self-Attentionは、入力系列の各要素が他の要素をどの程度参照するかを計算します。文脈依存の表現を得るために重要な仕組みです。