深層学習比較
RNN(リカレントニューラルネットワーク)とLSTM(長短期記憶)の主な違いは何か?
A.RNNは全層が同じ重みを共有するのに対し、LSTMは層ごとに異なる重みを持つ
✗ 両者とも層ごとに重みを持ちます。RNNは時間ステップ間で重みを共有する特性があります。
B.RNNは勾配消失問題が発生しやすいのに対し、LSTMはゲート機構により長期の依存関係を保持しやすい← 正解
✓ 正解です。LSTMはゲート機構(入力ゲート・出力ゲート・忘却ゲート)を備えており、勾配消失問題を緩和し、長期の時系列依存関係を学習できます。
C.RNNは画像処理用で、LSTMはテキスト処理用である
✗ 用途による区別ではなく、アーキテクチャ上の構造の違いです。両者ともテキストと時系列データに使用されます。
D.RNNは教師あり学習のみに対応し、LSTMは教師なし学習にも対応している
✗ 学習方式の対応は、アーキテクチャの根本的な違いではありません。どちらも複数の学習形式に適応できます。
この問題のポイント
LSTMはゲート機構(入力ゲート・出力ゲート・忘却ゲート)を備えており、勾配消失問題を緩和し、長期の時系列依存関係を学習できます。
「深層学習」の他の問題
CNN(畳み込みニューラルネットワーク)が画像認識に適している主な理由はどれか?長文テキストや会話履歴など「長距離の依存関係」を効率的に学習するGPTなどの基盤になっているアーキテクチャはどれか?ニューラルネットワークの訓練中、勾配消失問題(Vanishing Gradient Problem)が発生した場合、以下…転移学習を用いて、新しい医療画像分類タスク向けに事前学習済みモデルを微調整する際、訓練データが非常に限定的(200枚程度…リカレントニューラルネットワーク(RNN)を用いた時系列予測モデルで、シーケンスの長さが急激に増加した場合、以下のうち最…Attention機構を備えたTransformerモデルにおいて、入力シーケンスの長さが倍になった場合、計算複雑度はど…
IT・クラウド の関連資格
AWS Certified Cloud Practitioner(CLF-C02)
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate(SAA-C03)
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900:Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。