深層学習(ディープラーニング)定義問題
バッチノーマライゼーション(Batch Normalization)の目的として最も適切なものはどれですか?
A.各層への入力分布を正規化し、学習の安定化と高速化を実現する← 正解
✓ 正解です。バッチノーマライゼーションは各バッチの活性化値を正規化することで、内部共変量シフト(Internal Covariate Shift)を軽減し、学習を安定化・高速化させます。
B.ニューラルネットワークの重みをランダムに初期化して多様性を確保する
✗ これは重み初期化の説明です。バッチノーマライゼーションは活性化値の正規化であり、重み初期化とは異なるプロセスです。
C.訓練データと検証データの分布を同じにするデータ前処理手法
✗ バッチノーマライゼーションは訓練時と推論時で異なる動作をします。データセット分布の統一ではなく、各層の入力分布を正規化する手法です。
D.ネットワークの出力層で確率分布を生成するための正規化層
✗ これはソフトマックス関数などの出力層正規化の説明です。バッチノーマライゼーションは隠れ層で使用される中間層の正規化手法です。
「深層学習(ディープラーニング)」の他の問題
ニューラルネットワークの訓練中に勾配消失問題が発生した場合、以下の対策のうち最も直接的な解決策はどれか?CNN(畳み込みニューラルネットワーク)で過学習が顕著に発生した場合、以下の対策のうち最も効果的なのはどれか?RNN(再帰型ニューラルネットワーク)で長期の依存関係をモデル化する必要がある場合、標準的なRNNではなくLSTMやGR…画像分類タスクで訓練データセットが著しく不均衡(あるクラスが極端に少ない)な場合、モデルの性能を改善するために講じるべき…転移学習(Transfer Learning)で大規模な事前訓練済みモデルを利用する際、目的タスクのデータが非常に少ない…自然言語処理でAttention機構を導入した結果、以前のRNNモデルと比べて並列処理性能が向上した理由は何か?