責任あるAI(実践)応用

機械学習モデルが特定の年齢層に対してのみ採用試験で不合格率が高くなっている現象が検出されました。このバイアスが組織のコンプライアンス報告書に記載される前に、データ分析チームが最初に行うべきアクションはどれか?

A.バイアスの存在を公開して、外部監査人に調査を委託する
✗ 根本原因を特定せずに公開することで、組織への信頼喪失と法的リスクがさらに拡大する可能性がある。
B.訓練データの構成と特性を詳細に検証し、バイアスの根本原因を特定する← 正解
✓ 正解です。責任あるAIでは、バイアスの原因(訓練データの不均衡、特定グループの過剰表現など)を特定し、透明性を持って対処する必要があります。
C.直ちにモデルを本番環境から削除し、代替システムに切り替える
✗ 原因調査なしでの削除は、問題の本質的解決にならず、同じバイアスを持つシステムが再び構築される可能性があります。
D.全ての採用決定記録を削除して、過去の影響を最小化する
✗ 記録削除はコンプライアンス違反であり、監査証跡の喪失により法的責任が増大します。責任あるAIではデータ保持が必須です。

この問題のポイント

責任あるAIでは、バイアスの原因(訓練データの不均衡、特定グループの過剰表現など)を特定し、透明性を持って対処する必要があります。

AI-900:Microsoft Azure AI Fundamentals の問題一覧