深層学習(ディープラーニング)定義問題
ドロップアウト(Dropout)正則化技術における停止確率 p=0.5 の意味として正しいものはどれですか?
A.訓練時に全ニューロンの50%をランダムに無効化し、過学習を抑止する← 正解
✓ 正解です。ドロップアウトは訓練時に指定された確率(この場合50%)でニューロンをランダムに非活性化し、ニューロン間の共適応を防ぎ過学習を軽減します。
B.訓練時に全ニューロンの50%を強制的に最大値に設定する
✗ ドロップアウトはニューロンを最大値に設定するのではなく、出力を0に設定(無効化)します。その目的も異なります。
C.推論時にネットワークの50%の層を使用しない
✗ ドロップアウトは訓練時に適用される技術であり、推論時は通常すべてのニューロンを使用します。重みをスケーリングして調整します。
D.損失関数に対する勾配の50%を無視する
✗ ドロップアウトはニューロンの非活性化による技術です。勾配の選別ではなく、ネットワーク構造を動的に変更する手法です。
「深層学習(ディープラーニング)」の他の問題
ニューラルネットワークの訓練中に勾配消失問題が発生した場合、以下の対策のうち最も直接的な解決策はどれか?CNN(畳み込みニューラルネットワーク)で過学習が顕著に発生した場合、以下の対策のうち最も効果的なのはどれか?RNN(再帰型ニューラルネットワーク)で長期の依存関係をモデル化する必要がある場合、標準的なRNNではなくLSTMやGR…画像分類タスクで訓練データセットが著しく不均衡(あるクラスが極端に少ない)な場合、モデルの性能を改善するために講じるべき…転移学習(Transfer Learning)で大規模な事前訓練済みモデルを利用する際、目的タスクのデータが非常に少ない…自然言語処理でAttention機構を導入した結果、以前のRNNモデルと比べて並列処理性能が向上した理由は何か?