深層学習(ディープラーニング)応用問題

ニューラルネットワークの訓練中に勾配消失問題が発生した場合、以下の対策のうち最も直接的な解決策はどれか?

A.バッチサイズを大幅に増加させる
✗ バッチサイズの増加は勾配消失そのものの原因ではなく、学習の安定性には別の影響を与えます。
B.活性化関数をReLUなどの勾配を保持しやすいものに変更する← 正解
✓ 正解です。ReLUやその派生関数は飽和領域が少なく、勾配が逆伝播時に消失しにくい特性を持ちます。
C.データセットのサンプル数を削減する
✗ サンプル数の削減は勾配消失問題と無関係であり、かえって学習効果を悪化させます。
D.学習率を10倍に上げる
✗ 学習率の上昇は勾配消失の根本原因を解決せず、むしろ発散を招く可能性があります。

G検定(深層学習・ジェネラリスト検定) の問題一覧