MLの概念応用

分類モデルの学習率(Learning Rate)を0.1から0.001に低下させた場合、訓練プロセスにはどのような影響が生じるか?

A.モデルがより急速に最適解に収束し、訓練時間が短縮される
✗ 学習率を低下させるとパラメータ更新が小さくなり、むしろ訓練が遅くなります。
B.訓練が非常にゆっくり進行し、訓練時間が増加するが、より安定した学習が期待できる← 正解
✓ 正解です。学習率を低下させるとパラメータ更新が小さくなり、訓練は遅くなりますが、より安定した段階的な最適化が実現できます。
C.損失関数の値が振動して、訓練が不安定になる可能性が高まる
✗ 学習率が低いほど振動は減少し、むしろ安定性が向上します。
D.モデルの最終精度が低下し、より低い性能で収束する
✗ 学習率の低下は最終精度に直接的な悪影響を与えません。十分な時間をかければ同等の精度に到達します。

この問題のポイント

学習率を低下させるとパラメータ更新が小さくなり、訓練は遅くなりますが、より安定した段階的な最適化が実現できます。

AI-900:Microsoft Azure AI Fundamentals の問題一覧