深層学習(ディープラーニング)定義問題

ニューラルネットワークにおける「勾配爆発(Gradient Explosion)」とは何ですか?

A.バックプロパゲーション中に勾配が指数関数的に増大し、重みの更新が不安定になる現象← 正解
✓ 正解です。勾配爆発は、深いネットワークでバックプロパゲーション時に勾配が連鎖的に乗算され、NaN や無限大に達することです。
B.活性化関数がReLUの場合、負の入力に対して勾配がゼロになる現象
✗ これは勾配消失の特徴の一部です。ReLU の負の領域での勾配ゼロ問題は「Dead ReLU」と呼ばれます。
C.訓練中にニューロンが過度に活性化し、計算リソースが枯渇する現象
✗ ニューロンの過度な活性化と計算リソース枯渇は勾配爆発とは異なる問題です。
D.重みの初期値が大きすぎることで、最初の順伝播の出力が発散する現象
✗ これは重みの初期化の問題であり、勾配爆発そのものの定義ではありません。

G検定(深層学習・ジェネラリスト検定) の問題一覧