責任あるAI誤り発見
AI開発プロセスにおけるバイアス軽減と公平性の確保に関する記述で、誤っているものはどれか。
A.訓練データに特定グループへのバイアスが含まれている場合、それはモデルの予測にも反映される可能性がある。
✓ この記述は正しい。訓練データのバイアスはモデルに継承され、特定のグループに対する不公正な予測につながることが知られている。
B.特定のグループで予測精度が大幅に低下していても、全体の精度が高ければ公平性への対応は不要である。← 正解
✓ 正解です。この記述が誤りで、平均精度が高くても特定グループでのパフォーマンス不均衡は公平性の問題です。すべてのグループで一貫した精度を実現することが公平性確保の要件です。
C.モデルの予測根拠をジェンダーや人種などのセンシティブ属性で分析することで、隠れたバイアスを検出できる。
✓ この記述は正しい。予測根拠を人口統計的属性で分析することで、従来の指標では見つからない隠れたバイアスを顕在化できる。
D.開発段階で複数の利害関係者の声を聞き、潜在的なバイアスリスクを事前に評価することは重要である。
✓ この記述は正しい。多様なステークホルダーの参加は、設計段階でバイアスリスクを認識し、より公正なシステムを構築するために不可欠である。
この問題のポイント
この記述が誤りで、平均精度が高くても特定グループでのパフォーマンス不均衡は公平性の問題です。すべてのグループで一貫した精度を実現することが公平性確保の要件です。
「責任あるAI」の他の問題
IT・クラウド の関連資格
AWS Certified Cloud Practitioner（CLF-C02）
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate（SAA-C03）
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900：Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。