機械学習の基礎定義問題
「正則化(Regularization)」における「L2正則化」の定義として正しいものはどれか。
A.損失関数にパラメータの絶対値の和を加える手法
✗ これはL1正則化の定義です。パラメータの絶対値の和にペナルティを与えます。
B.損失関数にパラメータの二乗和を加える手法で、大きな重みに対してペナルティを与える← 正解
✓ 正解です。L2正則化はλΣ(w²)の形で損失関数に加えられ、重みの大きさを制限します。
C.訓練データからランダムに一部のニューロンを削除する手法
✗ これはDropoutという別の正則化技法で、L2正則化ではありません。
D.勾配降下法の学習率を段階的に減少させる手法
✗ 学習率の減衰は正則化ではなく、最適化アルゴリズムのテクニックです。