責任あるAI(実践)応用
機械学習モデルが特定の年齢層に対してのみ採用試験で不合格率が高くなっている現象が検出されました。このバイアスが組織のコンプライアンス報告書に記載される前に、データ分析チームが最初に行うべきアクションはどれか?
A.バイアスの存在を公開して、外部監査人に調査を委託する
✗ 根本原因を特定せずに公開することで、組織への信頼喪失と法的リスクがさらに拡大する可能性がある。
B.訓練データの構成と特性を詳細に検証し、バイアスの根本原因を特定する← 正解
✓ 正解です。責任あるAIでは、バイアスの原因(訓練データの不均衡、特定グループの過剰表現など)を特定し、透明性を持って対処する必要があります。
C.直ちにモデルを本番環境から削除し、代替システムに切り替える
✗ 原因調査なしでの削除は、問題の本質的解決にならず、同じバイアスを持つシステムが再び構築される可能性があります。
D.全ての採用決定記録を削除して、過去の影響を最小化する
✗ 記録削除はコンプライアンス違反であり、監査証跡の喪失により法的責任が増大します。責任あるAIではデータ保持が必須です。
この問題のポイント
責任あるAIでは、バイアスの原因(訓練データの不均衡、特定グループの過剰表現など)を特定し、透明性を持って対処する必要があります。
「責任あるAI(実践)」の他の問題
AIモデルが特定の地域の住民ばかりに高金利ローンを提案するケースで最初に確認すべきことはどれか?AIシステムの「監査ログ(Audit Log)」を保持する主な目的はどれか?責任あるAIの実践において、「バイアス検出(Bias Detection)」と「バイアス軽減(Bias Mitigati…AIシステムの評価において、「説明責任(Accountability)」と「透明性(Transparency)」の違いは…AIモデルの公平性評価で用いられる「群体的公平性(Group Fairness)」と「個別公平性(Individual …機械学習モデルにおいて、「データプライバシー保護(Data Privacy)」と「データセキュリティ(Data Secu…
IT・クラウド の関連資格
AWS Certified Cloud Practitioner(CLF-C02)
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate(SAA-C03)
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900:Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。