責任あるAI応用
銀行が貸付審査AIを導入しました。このAIが低所得地域の申請者に対して系統的に貸付を否認する傾向を示しています。AIの開発チームが「これは学習データに反映された歴史的な返済実績に基づいている」と説明しました。この説明に対する責任あるAIの観点からの最適な対応はどれか。
A.歴史的データは信頼できるため、AIの判断を信用して運用を継続する
✗ 歴史的データはしばしば過去の不公平を反映しており、それをそのまま継続することは責任あるAI原則に違反します。
B.歴史的バイアスが学習データに組み込まれている可能性を認め、その判定根拠を詳細に分析し、公平性の改善策を検討する← 正解
✓ 正解です。『公平性』『透明性』『説明責任』原則に基づき、歴史的バイアスの存在を認識し、その影響を分析した上で改善することが責任あるAI実装です。
C.低所得地域の申請者に対して別の審査基準を設定する
✗ 基準を分ける形での対応は、さらに差別化を固定化させ、問題を悪化させます。根本的な公平性改善が必要です。
D.AIが差別的との指摘を避けるため、このAIの判定結果を非開示にする
✗ 判定結果の非開示は『透明性』原則に反し、むしろ問題を隠蔽する行為として責任を回避するものです。
この問題のポイント
『公平性』『透明性』『説明責任』原則に基づき、歴史的バイアスの存在を認識し、その影響を分析した上で改善することが責任あるAI実装です。
「責任あるAI」の他の問題
IT・クラウド の関連資格
AWS Certified Cloud Practitioner（CLF-C02）
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate（SAA-C03）
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900：Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。