責任あるAI（実践）応用
医療診断AIが患者の医学的背景情報（人種、経済状況など）を入力値に含めることで、診断精度は95%から97%に向上しました。ただし、特定の人口統計グループでは誤診率が大幅に増加しています。この状況を解決するための責任あるAIアプローチとして最も適切なのはどれか？
A.全体精度が向上しているため、現在のモデルを継続使用し、定期的にモニタリングを実施する
✗ 特定グループでの誤診率の増加は、医療での重大な害をもたらす可能性があり、単なるモニタリングでは責任を果たしていません。
B.精度向上を優先し、医学的に正当な特性のみに限定した入力値の再検討と、人口統計グループごとのパフォーマンス監視を行う← 正解
✓ 正解です。責任あるAIでは、全体精度と公平性のバランスを取り、医学的に正当な特性のみを用い、グループ別のパフォーマンス不公平を検出・是正する必要があります。
C.人口統計情報を完全に除外し、医学的データのみでモデルを再構築する
✗ 医学的に有効な特性を完全に除外することは、診断精度を低下させ、患者への医療提供の質を損なう可能性があります。
D.医学的背景情報を追加して、さらに精度を向上させることを検討する
✗ 精度向上を理由に、特定グループでの誤診率が増加するモデルをさらに複雑化させることは、害を増大させるだけです。
この問題のポイント
責任あるAIでは、全体精度と公平性のバランスを取り、医学的に正当な特性のみを用い、グループ別のパフォーマンス不公平を検出・是正する必要があります。
「責任あるAI（実践）」の他の問題
AIモデルが特定の地域の住民ばかりに高金利ローンを提案するケースで最初に確認すべきことはどれか？AIシステムの「監査ログ（Audit Log）」を保持する主な目的はどれか？責任あるAIの実践において、「バイアス検出（Bias Detection）」と「バイアス軽減（Bias Mitigati…AIシステムの評価において、「説明責任（Accountability）」と「透明性（Transparency）」の違いは…AIモデルの公平性評価で用いられる「群体的公平性（Group Fairness）」と「個別公平性（Individual …機械学習モデルにおいて、「データプライバシー保護（Data Privacy）」と「データセキュリティ（Data Secu…
IT・クラウド の関連資格
AWS Certified Cloud Practitioner（CLF-C02）
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate（SAA-C03）
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900：Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。