深層学習比較
再帰型ニューラルネットワーク（RNN）と注意機構（Attention）の主な違いは何か？
A.RNNは時系列データを順番に処理するのに対し、注意機構は全タイムステップを同時に処理して関連性の高い部分に重点を置く← 正解
✓ 正解です。RNNは時間的な順序を保ちながら逐次処理し、注意機構は入力全体を見渡して重要な部分に焦点を当てることで、長距離依存関係を効率的に捉えます。
B.RNNは自然言語処理のみに使用され、注意機構は画像処理のみに使用される
✗ 両者ともNLP、画像、音声など複数のタスクに適用可能です。用途による区別ではありません。
C.RNNは教師ありタスク用で、注意機構は教師なしタスク用である
✗ 学習形式による区別ではなく、データ処理の方法とアーキテクチャ的特性による違いです。
D.RNNと注意機構は同じアーキテクチャの異なる呼び方である
✗ RNNと注意機構は異なるメカニズムを持ちます。ただしTransformerなど現代的アーキテクチャは両者を組み合わせています。
この問題のポイント
RNNは時間的な順序を保ちながら逐次処理し、注意機構は入力全体を見渡して重要な部分に焦点を当てることで、長距離依存関係を効率的に捉えます。
「深層学習」の他の問題
CNN（畳み込みニューラルネットワーク）が画像認識に適している主な理由はどれか？長文テキストや会話履歴など「長距離の依存関係」を効率的に学習するGPTなどの基盤になっているアーキテクチャはどれか？ニューラルネットワークの訓練中、勾配消失問題（Vanishing Gradient Problem）が発生した場合、以下…転移学習を用いて、新しい医療画像分類タスク向けに事前学習済みモデルを微調整する際、訓練データが非常に限定的（200枚程度…リカレントニューラルネットワーク（RNN）を用いた時系列予測モデルで、シーケンスの長さが急激に増加した場合、以下のうち最…Attention機構を備えたTransformerモデルにおいて、入力シーケンスの長さが倍になった場合、計算複雑度はど…
IT・クラウド の関連資格
AWS Certified Cloud Practitioner（CLF-C02）
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate（SAA-C03）
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900：Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。