AIワークロード応用
犯罪予測AIが過去10年間の逮捕記録データを学習した結果、特定の低所得地域での犯罪予測確度が高くなっています。AIを信頼して重点的に警察リソースをその地域に配置すると、どのような悪循環が生じる可能性がありますか？
A.予測に基づく重点配置により実際に逮捕数が増加し、それが新たな訓練データとなり、さらに同じ地域を重点対象にするバイアス増幅サイクルが起こる← 正解
✓ 正解です。過去の逮捕記録に基づいたモデルは、警察活動が既に偏っていることを反映しています。重点配置により実際の逮捕が増加し、それが新たなバイアス付きデータとなり、悪循環が生じる問題を「フィードバックループ」といいます。責任あるAI運用では慎重な検討が必須です。
B.AIが正確である限り、警察リソースの配置に問題は生じない
✗ AIが高精度でも、訓練データに社会的偏見が埋め込まれていれば、その偏見を増幅させる結果になる可能性があります。精度と公平性は別の問題です。
C.低所得地域が実際に犯罪多発地域であれば、重点配置は適切な対応である
✗ 過去の逮捕多数が必ずしも犯罪多発を意味するとは限りません。警察の選択的配置が逮捕数の差を生み出している可能性が高いです。
D.AIが自動的にバイアスを修正するため、追加の調査や対策は不要である
✗ AIは訓練データの偏りを自動的には修正しません。手動による慎重な分析と社会的バイアスの検出が必要です。
この問題のポイント
過去の逮捕記録に基づいたモデルは、警察活動が既に偏っていることを反映しています。重点配置により実際の逮捕が増加し、それが新たなバイアス付きデータとなり、悪循環が生じる問題を「フィードバックループ」といいます。責任あるAI運用では慎重な検討が必須です。
「AIワークロード」の他の問題
AIシステムが視覚障がいのあるユーザーにもスクリーンリーダーを通じて等しく情報を提供できるよう設計されている。これはどの…自動運転AIが歩行者を検知できない予期せぬ状況でも安全に停止するよう設計されている。これはどの原則か？機械学習においてラベルなしデータを使い、データ間の類似性に基づいてグループ化を行う手法はどれか？銀行がAIでローン審査をする際、否認された理由を説明できる必要がある。これはどの原則か？AIシステムの誤作動で損害が生じた際「誰が責任を負うか」を規定する責任あるAIの原則はどれか？クレジットカード取引データから通常と異なる不正利用の疑いがある操作を特定したい。最適なAIタスクはどれか？
IT・クラウド の関連資格
AWS Certified Cloud Practitioner（CLF-C02）
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate（SAA-C03）
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900：Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。