問題
レイヤー正規化がTransformerなどでよく使われる理由として、最も適切な選択肢を1つ選べ。
- A. ミニバッチサイズに依存しにくく、系列モデルでも各サンプル内の特徴を正規化しやすいため
- B. 画像の局所領域だけを畳み込むため
- C. 訓練データを復元抽出するため
- D. 報酬を最大化する方策を直接学習するため
G検定 実践演習の問題です。解説付きで個別に学習できます。
レイヤー正規化がTransformerなどでよく使われる理由として、最も適切な選択肢を1つ選べ。
正解はA。レイヤー正規化は、各サンプル内の特徴方向に対して正規化するため、ミニバッチサイズの影響を受けにくい。Transformerなどの系列モデルで広く用いられる。Bは畳み込み層、Cはブートストラップサンプリング、Dは方策勾配法の説明である。