深層学習定義
長文テキストや会話履歴など「長距離の依存関係」を効率的に学習するGPTなどの基盤になっているアーキテクチャはどれか？
A.CNN（畳み込みニューラルネットワーク）
✗ 画像の局所特徴抽出に強いが、長距離の文脈依存関係の学習には不向き。
B.RNN（再帰型ニューラルネットワーク）
✗ 長距離依存の学習は可能だがシーケンスの長さに応じて勾配消失問題が起きやすい。
C.Transformer← 正解
✓ 正解。Self-Attentionで全トークン間の関係を同時に計算し、長距離依存を効率的に学習できる。
D.GAN（敵対的生成ネットワーク）
✗ 画像生成に特化した生成モデル。テキスト処理の基盤ではない。
この問題のポイント
Self-Attentionで全トークン間の関係を同時に計算し、長距離依存を効率的に学習できる。
「深層学習」の他の問題
CNN（畳み込みニューラルネットワーク）が画像認識に適している主な理由はどれか？ニューラルネットワークの訓練中、勾配消失問題（Vanishing Gradient Problem）が発生した場合、以下…転移学習を用いて、新しい医療画像分類タスク向けに事前学習済みモデルを微調整する際、訓練データが非常に限定的（200枚程度…リカレントニューラルネットワーク（RNN）を用いた時系列予測モデルで、シーケンスの長さが急激に増加した場合、以下のうち最…Attention機構を備えたTransformerモデルにおいて、入力シーケンスの長さが倍になった場合、計算複雑度はど…バッチ正規化（Batch Normalization）を訓練中に適用したが、訓練セットでの精度は高いのにテストセットでの…
IT・クラウド の関連資格
AWS Certified Cloud Practitioner（CLF-C02）
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate（SAA-C03）
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900：Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。