ReLU

問題

ReLUは、すべての入力に対して常に同じ確率分布を出力する正規化関数である。

正解: ×

解説

ReLUは活性化関数であり、確率分布を出力する正規化関数ではありません。分類の出力で確率分布を得るにはソフトマックス関数などが使われます。