問題
以下の説明に対応する正規化手法の組み合わせとして、最も適切な選択肢を1つ選べ。(あ)ミニバッチの統計量を用いる(い)各サンプルの層内の特徴に対して正規化する
- A. (あ)バッチ正規化 (い)レイヤー正規化
- B. (あ)レイヤー正規化 (い)バッチ正規化
- C. (あ)L1正則化 (い)L2正則化
- D. (あ)SGD (い)Adam
G検定 実践演習の問題です。解説付きで個別に学習できます。
以下の説明に対応する正規化手法の組み合わせとして、最も適切な選択肢を1つ選べ。(あ)ミニバッチの統計量を用いる(い)各サンプルの層内の特徴に対して正規化する
正解はA。バッチ正規化はミニバッチ内の統計量を用いる手法であり、レイヤー正規化は各サンプル内の層の特徴に対して正規化する手法である。Transformerなどではレイヤー正規化がよく使われる。Cは正則化、Dは最適化手法の組み合わせである。