責任あるAIと倫理計算問題
あるデータセットに対してモデルAとモデルBを評価した。責任あるAIの観点から「較正誤差(Calibration Error)」を検討する。 【モデルA】 - 予測確率が70%のサンプルのうち、実際に正例だった割合: 70% 【モデルB】 - 予測確率が70%のサンプルのうち、実際に正例だった割合: 55% モデルBの較正誤差(予測確率 − 実際の正例率)はいくらか?また、較正が取れているのはどちらか?
A.モデルBの較正誤差は+15%であり、較正が取れているのはモデルAである← 正解
✓ 正解です。モデルBの較正誤差は70%−55%=+15%です。モデルAは予測と実績が一致しており較正が取れています。
B.モデルBの較正誤差は−15%であり、較正が取れているのはモデルBである
✗ 較正誤差の符号が誤りです。予測確率70%から実際の55%を引くと+15%(過信)であり、−15%ではありません。
C.モデルBの較正誤差は+25%であり、較正が取れているのはモデルAである
✗ 25%は誤りです。70%−55%=15%であり、25%という値は計算ミスです。
D.モデルBの較正誤差は+10%であり、較正が取れているのはどちらでもない
✗ 10%は誤りです。正しい較正誤差は70%−55%=15%です。また、モデルAは較正が取れています。