AIの社会実装と倫理・法律応用問題
ローン審査AIが経済的に困難な特定の地域の申請者を自動的に不適格としていることが発覚した。このAIの判定結果をそのまま信頼して運用を続けると、企業が直面しうる最大のリスクは何か？
A.技術的には問題ないため、透明性開示の必要はない
✗ 差別的な結果をもたらすAIの存在自体が重大な問題です。透明性開示と是正は法的・倫理的義務です。
B.差別禁止法違反、信用失墜、集団訴訟、規制当局による業務停止命令が生じうる← 正解
✓ 正解です。不当な差別に該当し、人権法違反、大規模訴訟、規制当局の介入など深刻な社会的・法的リスクを招きます。
C.AIは判定が自動的なため、企業としての法的責任は生じない
✗ AIの判定であっても、その使用と結果に対する企業責任は存在します。『自動化による免責』は法的に認められません。
D.少数の地域への影響なので、経営上の影響は軽微である
✗ 差別的な融資慣行は金融機関全体の信用に関わり、経営リスクは軽微ではなく極めて大きいです。
「AIの社会実装と倫理・法律」の他の問題
ある医療AI診断システムの検証データセットで、1,200人の患者のうち960人を正しく診断し、240人を誤診断しました。…あるAI採用システムの評価で、実際に優秀な候補者200人のうち160人が合格判定され、実際には不適切な候補者150人のう…ある画像認識AIの性能検証で、特定の肌色グループAに対して95%の認識精度、肌色グループBに対して72%の認識精度でした…ある信用スコア判定AIの検証で、年間処理件数が5,000件、そのうち不適切な判定が125件ありました。このシステムの誤判…ある大規模言語モデルの訓練に際し、全データセット1,000万件のうち、特定の民族グループAに関するテキストが80万件、グ…ある顔認識システムの年間利用数が300万回で、そのうち誤認識による権利侵害事案が45件発生しました。また同システムの訴訟…