AIの基礎概念と歴史応用問題

画像分類モデルが特定のクラスに対して極めて高い確信度(90%以上の予測確率)を返しても、実際には予測が外れている場合が頻繁に起きています。このモデルはどのような問題を抱えていると考えられますか?

A.訓練データが著しく不足しており、新しいデータに対応できていない
✗ 訓練データ不足であれば、確信度の高低に関わらず精度が全体的に低下するはずです。選別的な外れが特徴ではありません。
B.モデルが過度に自信過剰(過信)になっており、キャリブレーション(予測確率の調整)が必要である← 正解
✓ 正解です。モデルの予測確率が実際の正確性を反映していない状態(キャリブレーション不良)です。温度スケーリングなどで改善できます。
C.活性化関数にReLUを使っているためで、シグモイドに変更すべきである
✗ 活性化関数の選択は出力の確信度ではなく、表現能力に影響します。この問題の原因ではありません。
D.逆伝播の学習率が高すぎるため、最適値を下回っている
✗ 学習率の問題であれば、全体的な精度低下として現れ、選別的な過信ではありません。

G検定(深層学習・ジェネラリスト検定) の問題一覧