深層学習(ディープラーニング)応用問題
CNN(畳み込みニューラルネットワーク)で過学習が顕著に発生した場合、以下の対策のうち最も効果的なのはどれか?
A.畳み込みカーネルのサイズを大きくする
✗ カーネルサイズの増加は受容野を拡大させますが、過学習の直接的な原因ではなく対策にもなりません。
B.Dropout層を追加し、訓練中にランダムにユニットを非活性化する← 正解
✓ 正解です。Dropoutは訓練時にランダムにユニットを無効化し、ネットワークの共適応を防ぎ、正則化効果により過学習を軽減します。
C.隠れ層の数を大幅に増やす
✗ 隠れ層を増やすことで表現力は上がりますが、むしろ過学習のリスクが高まります。
D.活性化関数をシグモイドからtanhに変更する
✗ 活性化関数の変更単独では過学習を解決せず、根本的な対策にはなりません。
「深層学習(ディープラーニング)」の他の問題
ニューラルネットワークの訓練中に勾配消失問題が発生した場合、以下の対策のうち最も直接的な解決策はどれか?RNN(再帰型ニューラルネットワーク)で長期の依存関係をモデル化する必要がある場合、標準的なRNNではなくLSTMやGR…画像分類タスクで訓練データセットが著しく不均衡(あるクラスが極端に少ない)な場合、モデルの性能を改善するために講じるべき…転移学習(Transfer Learning)で大規模な事前訓練済みモデルを利用する際、目的タスクのデータが非常に少ない…自然言語処理でAttention機構を導入した結果、以前のRNNモデルと比べて並列処理性能が向上した理由は何か?CNNとRNNの最も重要な違いはどれか。