深層学習比較
ドロップアウト(Dropout)と早期停止(Early Stopping)の過学習対策としての違いは何か?
A.ドロップアウトはランダムなニューロンを訓練中に無効化してモデル複雑性を低減し、早期停止は検証誤差が改善しなくなったら訓練を終了する← 正解
✓ 正解です。ドロップアウトはアーキテクチャレベルで正則化を行い、早期停止は訓練プロセスレベルで過学習を制御する、相補的な2つの手法です。
B.ドロップアウトは訓練データの一部を削除し、早期停止は全訓練データを使用する
✗ ドロップアウトはニューロンの無効化であり、訓練データの削除ではありません。データそのものは変わりません。
C.ドロップアウトはテスト時に有効で、早期停止は訓練時のみ有効である
✗ ドロップアウトは訓練時に適用され、推論時は一般的に無効化されます。用途の方向が逆です。
D.ドロップアウトと早期停止は同じ目的で、用語が異なるだけである
✗ 両者は異なるメカニズムで過学習を防ぎます。ドロップアウトと早期停止を併用することが効果的です。
この問題のポイント
ドロップアウトはアーキテクチャレベルで正則化を行い、早期停止は訓練プロセスレベルで過学習を制御する、相補的な2つの手法です。
「深層学習」の他の問題
CNN(畳み込みニューラルネットワーク)が画像認識に適している主な理由はどれか?長文テキストや会話履歴など「長距離の依存関係」を効率的に学習するGPTなどの基盤になっているアーキテクチャはどれか?ニューラルネットワークの訓練中、勾配消失問題(Vanishing Gradient Problem)が発生した場合、以下…転移学習を用いて、新しい医療画像分類タスク向けに事前学習済みモデルを微調整する際、訓練データが非常に限定的(200枚程度…リカレントニューラルネットワーク(RNN)を用いた時系列予測モデルで、シーケンスの長さが急激に増加した場合、以下のうち最…Attention機構を備えたTransformerモデルにおいて、入力シーケンスの長さが倍になった場合、計算複雑度はど…
IT・クラウド の関連資格
AWS Certified Cloud Practitioner(CLF-C02)
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate(SAA-C03)
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900:Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。