深層学習(ディープラーニング)比較問題
フィードフォワードニューラルネットワーク(順伝播型NN)と再帰型ニューラルネットワーク(RNN)の最も本質的な違いはどれですか?
A.フィードフォワードNNは活性化関数としてReLUを使用し、RNNはSigmoidを使用する点
✗ 活性化関数の選択は両者の本質的な違いではなく、どちらのアーキテクチャでも活性化関数を自由に選択できます。
B.フィードフォワードNNでは情報が入力層から出力層へ一方向に流れるのに対し、RNNには時間方向の再帰的接続と隠れ状態の保持がある← 正解
✓ 正解です。フィードフォワードNNは層から層への単方向の情報伝播ですが、RNNは隠れ状態を時間ステップ間で保持・再利用することが本質的な違いで、これがシーケンスデータ処理を可能にします。
C.フィードフォワードNNは画像処理に特化し、RNNは音声処理に特化している点
✗ 処理対象データの種類によるもので、本質的な違いではありません。RNNは画像処理にも、フィードフォワードNNはシーケンス処理にも応用可能です。
D.フィードフォワードNNはGPUを使用し、RNNはCPUのみで実行される点
✗ ハードウェア使用は実装の選択肢であり、両アーキテクチャともGPU/CPUで実行できます。構造上の本質的な違いではありません。
「深層学習(ディープラーニング)」の他の問題
ニューラルネットワークの訓練中に勾配消失問題が発生した場合、以下の対策のうち最も直接的な解決策はどれか?CNN(畳み込みニューラルネットワーク)で過学習が顕著に発生した場合、以下の対策のうち最も効果的なのはどれか?RNN(再帰型ニューラルネットワーク)で長期の依存関係をモデル化する必要がある場合、標準的なRNNではなくLSTMやGR…画像分類タスクで訓練データセットが著しく不均衡(あるクラスが極端に少ない)な場合、モデルの性能を改善するために講じるべき…転移学習(Transfer Learning)で大規模な事前訓練済みモデルを利用する際、目的タスクのデータが非常に少ない…自然言語処理でAttention機構を導入した結果、以前のRNNモデルと比べて並列処理性能が向上した理由は何か?