G検定の一問一答模擬問題です。解説付きで個別に学習できます(公式の過去問ではありません)。
勾配消失問題は、深いネットワークで前の層に伝わる勾配が非常に小さくなり学習が進みにくくなる問題である。
正解: ○
シグモイド関数などを深く重ねると、勾配が小さくなり、初期層の重みが十分に更新されない場合があります。ReLUや正規化、残差接続などが対策になります。