AIの社会実装と倫理・法律応用問題
採用選考にAIが「女性候補者の評価を男性より系統的に低く付けている」という分析結果が報告された。この問題が発生した根本的な理由として最も考えられるのはどれか？
A.AIアルゴリズムが本来女性を低く評価するように設計されている
✗ AIは明示的にジェンダー差別をするよう設計されません。問題は学習データと学習対象に組み込まれた既存バイアスにあります。
B.学習データセットが過去の採用実績に基づいており、その時点での採用バイアスがAIに反映されている← 正解
✓ 正解です。歴史的な採用偏見がデータに反映され、AIがそのパターンを学習・再現してしまう『データバイアス』です。
C.AIモデルのパラメータ数が不足しており、複雑な評価ができていない
✗ パラメータ数と性別バイアスの発生は直接的な因果関係がありません。より複雑なモデルでもバイアスは発生します。
D.女性候補者の試験対策が不十分であるため、AIが正しく評価している
✗ システマティックな評価低下という客観的な問題をジェンダーの責任に帰すのは誤りです。
「AIの社会実装と倫理・法律」の他の問題
ある医療AI診断システムの検証データセットで、1,200人の患者のうち960人を正しく診断し、240人を誤診断しました。…あるAI採用システムの評価で、実際に優秀な候補者200人のうち160人が合格判定され、実際には不適切な候補者150人のう…ある画像認識AIの性能検証で、特定の肌色グループAに対して95%の認識精度、肌色グループBに対して72%の認識精度でした…ある信用スコア判定AIの検証で、年間処理件数が5,000件、そのうち不適切な判定が125件ありました。このシステムの誤判…ある大規模言語モデルの訓練に際し、全データセット1,000万件のうち、特定の民族グループAに関するテキストが80万件、グ…ある顔認識システムの年間利用数が300万回で、そのうち誤認識による権利侵害事案が45件発生しました。また同システムの訴訟…