G検定の一問一答模擬問題です。解説付きで個別に学習できます(公式の過去問ではありません)。
Transformerでは、単語の順序情報を補うために位置エンコーディングが使われる。
正解: ○
Self-Attention自体は順序を直接持たないため、系列内の位置情報を加える工夫が必要です。位置エンコーディングにより語順や位置関係をモデルに伝えます。