AIの社会実装と倫理・法律応用問題
医療診断AIが学習データの偏りにより特定の人種層に対して診断精度が大幅に低下していることが判明した場合、企業として最初に優先すべき対応は何か？
A.すぐに同じ診断AIを新しいモデルに置き換えて運用を続ける
✗ 既存データの問題を十分に調査・改善せずに置き換えるだけでは、同じ偏りが新モデルに引き継がれる可能性があります。
B.既存ユーザーへの通知、影響を受けた患者層への対応検討、および偏りの原因分析を並行して実施する← 正解
✓ 正解です。透明性と説明責任を果たしながら、影響を受けたステークホルダーへの対応と根本原因の分析が重要です。
C.法的責任を避けるため、このデータ分析結果を社内秘として扱う
✗ 既知の医療リスク情報の隠蔽は法的・倫理的に極めて問題があり、後に発覚した場合の信頼喪失はより深刻です。
D.診断精度が低い患者層に対してのみAI診断を拒否する機能を追加する
✗ 特定層の排除は差別にあたり、むしろ精度向上のために多様なデータ収集を行うべきです。
「AIの社会実装と倫理・法律」の他の問題
ある医療AI診断システムの検証データセットで、1,200人の患者のうち960人を正しく診断し、240人を誤診断しました。…あるAI採用システムの評価で、実際に優秀な候補者200人のうち160人が合格判定され、実際には不適切な候補者150人のう…ある画像認識AIの性能検証で、特定の肌色グループAに対して95%の認識精度、肌色グループBに対して72%の認識精度でした…ある信用スコア判定AIの検証で、年間処理件数が5,000件、そのうち不適切な判定が125件ありました。このシステムの誤判…ある大規模言語モデルの訓練に際し、全データセット1,000万件のうち、特定の民族グループAに関するテキストが80万件、グ…ある顔認識システムの年間利用数が300万回で、そのうち誤認識による権利侵害事案が45件発生しました。また同システムの訴訟…