問題
AdaGradに関する説明として、最も不適切な選択肢を1つ選べ。
- A. 各パラメータごとに学習率を調整する適応的学習率の手法である
- B. 頻繁に更新されるパラメータほど学習率が小さくなりやすい
- C. 勾配の履歴を利用する最適化手法である
- D. 多クラス分類の出力を確率分布に変換する活性化関数である
最適化手法
G検定 実践演習の問題です。解説付きで個別に学習できます。
解説（正解: D）
正解はD。AdaGradは、過去の勾配の履歴を利用して、各パラメータごとに学習率を調整する最適化手法である。頻繁に更新されるパラメータの学習率が小さくなりやすい特徴がある。Dはソフトマックス関数の説明であり、AdaGradの説明ではない。