深層学習比較

ドロップアウト(Dropout)と早期停止(Early Stopping)の過学習対策としての違いは何か?

A.ドロップアウトはランダムなニューロンを訓練中に無効化してモデル複雑性を低減し、早期停止は検証誤差が改善しなくなったら訓練を終了する← 正解
✓ 正解です。ドロップアウトはアーキテクチャレベルで正則化を行い、早期停止は訓練プロセスレベルで過学習を制御する、相補的な2つの手法です。
B.ドロップアウトは訓練データの一部を削除し、早期停止は全訓練データを使用する
✗ ドロップアウトはニューロンの無効化であり、訓練データの削除ではありません。データそのものは変わりません。
C.ドロップアウトはテスト時に有効で、早期停止は訓練時のみ有効である
✗ ドロップアウトは訓練時に適用され、推論時は一般的に無効化されます。用途の方向が逆です。
D.ドロップアウトと早期停止は同じ目的で、用語が異なるだけである
✗ 両者は異なるメカニズムで過学習を防ぎます。ドロップアウトと早期停止を併用することが効果的です。

この問題のポイント

ドロップアウトはアーキテクチャレベルで正則化を行い、早期停止は訓練プロセスレベルで過学習を制御する、相補的な2つの手法です。

AI-900:Microsoft Azure AI Fundamentals の問題一覧