正規化層

G検定 実践演習の問題です。解説付きで個別に学習できます。

ディープラーニングの要素技術 標準 ID: G-224

問題

以下の説明に対応する正規化手法の組み合わせとして、最も適切な選択肢を1つ選べ。(あ)ミニバッチの統計量を用いる(い)各サンプルの層内の特徴に対して正規化する

  1. A. (あ)バッチ正規化 (い)レイヤー正規化
  2. B. (あ)レイヤー正規化 (い)バッチ正規化
  3. C. (あ)L1正則化 (い)L2正則化
  4. D. (あ)SGD (い)Adam

解説(正解: A)

正解はA。バッチ正規化はミニバッチ内の統計量を用いる手法であり、レイヤー正規化は各サンプル内の層の特徴に対して正規化する手法である。Transformerなどではレイヤー正規化がよく使われる。Cは正則化、Dは最適化手法の組み合わせである。

演習モードで解く 前の問題 次の問題