深層学習比較

バッチ正規化(Batch Normalization)とレイヤー正規化(Layer Normalization)の主な違いは何か?

A.バッチ正規化はバッチ内のサンプル間で正規化し、レイヤー正規化はフィーチャー間で正規化する← 正解
✓ 正解です。バッチ正規化はバッチ内の複数サンプルで正規化し、レイヤー正規化は単一サンプルの全フィーチャーで正規化するため、バッチサイズに依存しません。
B.バッチ正規化はCNNのみに使用され、レイヤー正規化はRNNのみに使用される
✗ 使用可能なアーキテクチャに制限はありません。どちらもCNN、RNN、Transformerなど様々に応用されます。
C.バッチ正規化は訓練時のみに機能し、レイヤー正規化は推論時のみに機能する
✗ 両者とも訓練と推論の両段階で機能します。異なる正規化方法ですが、用途は同じです。
D.バッチ正規化とレイヤー正規化は全く同じ効果をもたらす
✗ 正規化の対象範囲が異なるため、バッチサイズの依存性や計算効率が異なります。

この問題のポイント

バッチ正規化はバッチ内の複数サンプルで正規化し、レイヤー正規化は単一サンプルの全フィーチャーで正規化するため、バッチサイズに依存しません。

AI-900:Microsoft Azure AI Fundamentals の問題一覧