責任あるAI(実践)誤り発見
以下のAIシステムのバイアス対策に関する記述で、誤っているものはどれか?
A.訓練データの偏りは、モデルの予測精度に影響を与え、特定の属性を持つグループへの差別につながる可能性がある。
✓ この記述は正しい。訓練データの偏りはモデルの学習を歪め、不公正な予測をもたらす。
B.バイアスの検出には、性別・年齢・人種などの保護属性に基づく性能差分析(disparity analysis)が有効である。
✓ この記述は正しい。保護属性別の性能分析はバイアス検出の標準的な手法である。
C.訓練データから個人識別情報を完全に削除すれば、バイアスは自動的に消滅する。← 正解
✓ 正解です。この記述が誤りで、個人識別情報の削除だけではバイアスは消滅しない。バイアスは構造的・統計的な偏りであり、能動的な対策が必要である。
D.継続的なモデル監視により、運用環境におけるバイアスの発生を事後的に検知できる。
✓ この記述は正しい。継続的な監視によりドリフト(性能劣化)やバイアスの発生を検知できる。
この問題のポイント
この記述が誤りで、個人識別情報の削除だけではバイアスは消滅しない。バイアスは構造的・統計的な偏りであり、能動的な対策が必要である。
「責任あるAI(実践)」の他の問題
AIモデルが特定の地域の住民ばかりに高金利ローンを提案するケースで最初に確認すべきことはどれか?AIシステムの「監査ログ(Audit Log)」を保持する主な目的はどれか?責任あるAIの実践において、「バイアス検出(Bias Detection)」と「バイアス軽減(Bias Mitigati…AIシステムの評価において、「説明責任(Accountability)」と「透明性(Transparency)」の違いは…AIモデルの公平性評価で用いられる「群体的公平性(Group Fairness)」と「個別公平性(Individual …機械学習モデルにおいて、「データプライバシー保護(Data Privacy)」と「データセキュリティ(Data Secu…
IT・クラウド の関連資格
AWS Certified Cloud Practitioner(CLF-C02)
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate(SAA-C03)
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900:Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。