深層学習(ディープラーニング)計算問題
リカレントニューラルネットワーク(RNN)のシーケンス長が30タイムステップ、隠れ状態の次元数が64である場合、各タイムステップでの重み行列W_hh(隠れ状態から隠れ状態への重み)のサイズ(行×列)は何か?
A.30×64
✗ これはシーケンス長を行数に含めたものですが、W_hhは隠れ状態間の変換であるため誤りです。
B.64×64← 正解
✓ 正解です。W_hhは隠れ状態の次元64から64への変換なので、64×64となります。
C.64×30
✗ これは行と列が逆になっています。W_hhは隠れ状態次元(64)のままであるため誤りです。
D.30×30
✗ これはシーケンス長をサイズとして使用していますが、W_hhは隠れ状態次元で定義されるため誤りです。
「深層学習(ディープラーニング)」の他の問題
ニューラルネットワークの訓練中に勾配消失問題が発生した場合、以下の対策のうち最も直接的な解決策はどれか?CNN(畳み込みニューラルネットワーク)で過学習が顕著に発生した場合、以下の対策のうち最も効果的なのはどれか?RNN(再帰型ニューラルネットワーク)で長期の依存関係をモデル化する必要がある場合、標準的なRNNではなくLSTMやGR…画像分類タスクで訓練データセットが著しく不均衡(あるクラスが極端に少ない)な場合、モデルの性能を改善するために講じるべき…転移学習(Transfer Learning)で大規模な事前訓練済みモデルを利用する際、目的タスクのデータが非常に少ない…自然言語処理でAttention機構を導入した結果、以前のRNNモデルと比べて並列処理性能が向上した理由は何か?