責任あるAI応用
医療機関が患者の再入院リスク予測AIを導入予定です。このAIが高リスク判定した患者に対して医師が追加の集中的ケアを提供するシステムです。導入前に最も重点的に実施すべき検証はどれか。
A.AIの予測精度が95%以上であることを確認する
✗ 全体精度が高いだけでは、特定の患者グループで精度が低い場合の危害を防げません。医療では公平性の検証が重要です。
B.異なる人口統計属性（年齢・性別・人種など）における予測精度のばらつきと、その不均等が患者に及ぼす実害を分析する← 正解
✓ 正解です。医療システムでは『公平性』『説明責任』『安全性』が最優先です。属性別精度の分析により、特定グループへの過度な治療や過少治療のリスクを特定できます。
C.AIシステムのサーバー処理速度と応答時間を確認する
✗ 処理速度はシステム要件の一部ですが、医療の安全性と公平性よりも優先度は低いです。
D.AIの学習に用いたデータセットのサイズが十分であることを確認する
✗ データセットサイズは重要ですが、そのデータが属性間で公平に分布しているかの検証がさらに重要です。
この問題のポイント
医療システムでは『公平性』『説明責任』『安全性』が最優先です。属性別精度の分析により、特定グループへの過度な治療や過少治療のリスクを特定できます。
「責任あるAI」の他の問題
IT・クラウド の関連資格
AWS Certified Cloud Practitioner（CLF-C02）
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate（SAA-C03）
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900：Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。