正規化層

G検定 実践演習の問題です。解説付きで個別に学習できます。

ディープラーニングの要素技術 応用 ID: G-226

問題

レイヤー正規化がTransformerなどでよく使われる理由として、最も適切な選択肢を1つ選べ。

  1. A. ミニバッチサイズに依存しにくく、系列モデルでも各サンプル内の特徴を正規化しやすいため
  2. B. 画像の局所領域だけを畳み込むため
  3. C. 訓練データを復元抽出するため
  4. D. 報酬を最大化する方策を直接学習するため

解説(正解: A)

正解はA。レイヤー正規化は、各サンプル内の特徴方向に対して正規化するため、ミニバッチサイズの影響を受けにくい。Transformerなどの系列モデルで広く用いられる。Bは畳み込み層、Cはブートストラップサンプリング、Dは方策勾配法の説明である。

演習モードで解く 前の問題 次の問題