TF-423 · 位置エンコーディング

G検定の一問一答模擬問題です。解説付きで個別に学習できます(公式の過去問ではありません)。

ディープラーニングの要素技術 標準 ID: TF-423

問題

Transformerでは、単語の順序情報を補うために位置エンコーディングが使われる。

正解: ○

解説

Self-Attention自体は順序を直接持たないため、系列内の位置情報を加える工夫が必要です。位置エンコーディングにより語順や位置関係をモデルに伝えます。

演習モードで解く 前の問題 次の問題