Transformer

問題

プロンプト作成演習の前提確認で、Attentionの復習として押さえるべき要点を1つ選びなさい。

1. A. GANで本物らしいデータを作ろうとする側のネットワークという点を押さえる。
2. B. 入力中のどの部分に注目するかを重み付けして扱う仕組みという点を押さえる。
3. C. 自己注意機構を用いて系列内の関係を捉える深層学習モデルという点を押さえる。
4. D. 系列内で各トークンの位置情報をモデルに与える仕組みという点を押さえる。

解説（正解: B）

正解は2です。Attentionの要点は「入力中のどの部分に注目するかを重み付けして扱う仕組み」です。復習では、単語だけでなく説明文として再現できるかを確認すると、選択肢問題にも対応しやすくなります。誤答は近い領域の用語を混ぜたものなので、関連語との違いを一緒に整理しておくと効果的です。第2章では、生成モデルや代表的なモデル名を、仕組みと役割で整理すると判断しやすくなります。復習時は、正答だけでなく、なぜ他の選択肢が別概念なのかを一言で説明できるようにしておくと効果的です。