機械学習の基礎応用
回帰モデルの訓練中、訓練損失は継続的に低下しているが、検証損失がある時点から増加に転じました。この時点以降、モデルに何が起きていると考えられますか？
A.モデルの学習率が低すぎるため、最適値に到達していない
✗ 学習率が低い場合、損失全体が緩やかに低下するが、検証損失が反転することはまれです。この現象は学習率よりも過学習を示唆しています。
B.訓練データに対する過学習（オーバーフィッティング）が進行している← 正解
✓ 正解です。訓練損失が減少するのに検証損失が増加するのは、モデルが訓練データの細かいノイズまで学習し、未知データへの汎化性能を失っていることを示しています。
C.検証データセットが訓練データと統計的性質が異なるため、モデルの品質が実際に低下している
✗ 検証データセットが異なれば訓練開始時から影響が出ます。この現象は初期段階では起きない「徐々に悪化」するパターンで、過学習を示唆しています。
D.ニューラルネットワークのバッチサイズが最適でなく、勾配計算が不安定になっている
✗ バッチサイズの問題は訓練全体に影響し、検証損失が単調に悪化する傾向がありません。訓練損失の継続低下は学習が進んでいることを示しています。
この問題のポイント
訓練損失が減少するのに検証損失が増加するのは、モデルが訓練データの細かいノイズまで学習し、未知データへの汎化性能を失っていることを示しています。
「機械学習の基礎」の他の問題
IT・クラウド の関連資格
AWS Certified Cloud Practitioner（CLF-C02）
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate（SAA-C03）
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900：Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。