位置エンコーディング

G検定 一問一答の問題です。解説付きで個別に学習できます。

ディープラーニングの要素技術 標準 ID: TF-423

問題

Transformerでは、単語の順序情報を補うために位置エンコーディングが使われる。

正解: ○

解説

Self-Attention自体は順序を直接持たないため、系列内の位置情報を加える工夫が必要です。位置エンコーディングにより語順や位置関係をモデルに伝えます。

演習モードで解く 前の問題 次の問題