問題
以下の文章を読み、空欄に最もよく当てはまる選択肢を1つ選べ。深いニューラルネットワークで、層をさかのぼるほど勾配が非常に小さくなり、学習が進みにくくなる問題は（ ）と呼ばれる。
- A. 勾配消失問題
- B. コールドスタート問題
- C. シンボルグラウンディング問題
- D. 限定提供データ
活性化関数
G検定 実践演習の問題です。解説付きで個別に学習できます。
解説（正解: A）
正解はA。勾配消失問題は、誤差逆伝播で勾配が層をさかのぼるにつれて非常に小さくなり、前の層の重みが十分に更新されなくなる問題である。シグモイド関数やtanh関数を深いネットワークで使う場合などに問題となりやすい。ReLU、正規化、スキップ結合などはこの問題の緩和と関係する。