深層学習(ディープラーニング)計算問題

ニューラルネットワークで勾配消失問題を考える際、5層の隠れ層を通じてバックプロパゲーションする場合、各層での勾配が0.9倍ずつ減少するとき、最初の層までの勾配減衰率はどの程度か?(小数第3位まで)

A.0.531← 正解
✓ 正解です。0.9の5乗=0.9^5=0.59049≈0.590です。最初の層までの勾配減衰率は約59%となります。
B.0.659
✗ これは0.9の3乗=0.729の値に近いですが、5層を通じた場合ではありません。誤りです。
C.0.590
✗ これはほぼ正しい計算結果(0.59049)ですが、丸め方が異なります。0.590が正確な小数第3位までです。
D.0.450
✗ これは0.9の4乗より小さい値です。5層を通じた減衰率として計算が誤っています。

G検定(深層学習・ジェネラリスト検定) の問題一覧