回帰結合層

問題

RNNで長い系列を扱う際の問題として、最も適切な選択肢を1つ選べ。

1. A. 時刻をさかのぼるにつれて勾配が消失または爆発し、長期依存を学習しにくいことがある
2. B. 画像の局所特徴をまったく扱えなくなるため、すべてのタスクが法律問題になる
3. C. 正解ラベルが必ず不要になる
4. D. モデルのパラメータ数が常に0になる

解説（正解: A）

正解はA。RNNでは、BPTTにより時間方向に誤差を伝播するため、長い系列では勾配消失や勾配爆発が起こりやすい。これにより遠い過去の情報を利用する長期依存関係の学習が難しくなる。LSTMやGRUはこの課題を緩和するために使われる。