深層学習(ディープラーニング)誤り発見

以下の正規化手法とその特性に関する記述について、誤っているものはどれか?

A.バッチ正規化(Batch Normalization)はバッチ単位で活性化を正規化し、訓練中はバッチの統計量を使用し、推論時は学習済み統計量を使用する
✓ この記述は正しい。Batch Normalizationは訓練と推論で異なる統計量を使用する二面的な手法です。
B.レイヤー正規化(Layer Normalization)はミニバッチのサイズに依存せず、各サンプルの特徴次元全体に対して正規化を行う
✓ この記述は正しい。Layer Normalizationはバッチサイズに不依存であり、RNNやTransformerで活躍します。
C.インスタンス正規化(Instance Normalization)は、バッチ内の各サンプルと特徴チャネルごとに独立して正規化し、スタイル転移タスクで有効である
✓ この記述は正しい。Instance Normalizationはスタイル情報を除去し、画像スタイル転移で特に有効です。
D.グループ正規化(Group Normalization)は入力をグループに分割して正規化し、小さなバッチサイズでもバッチ正規化と同等の性能を必ず達成できる← 正解
✓ 正解です。この記述が誤りで、正しくは「グループ正規化は小さなバッチサイズで有効だが、性能は状況や超パラメータ設定に依存し、必ずしもバッチ正規化と同等とは限らない」です。万能ではありません。

G検定(深層学習・ジェネラリスト検定) の問題一覧