責任あるAI応用
セキュリティシステムが「不正ログイン検知AI」として従業員のログイン行動を監視しています。このAIが特定の部門の従業員に対してアラート頻度が高いことが判明しました。これが『セキュリティ対策』という正当な目的で運用されている場合、企業が講じるべき措置はどれか。
A.セキュリティ上の必要性があるため、全従業員に対して最高感度で運用を継続する
✗ セキュリティ上の正当な目的でも、過度な監視や差別的な運用は従業員の信頼を損ない、『人間中心』『透明性』原則に違反します。
B.高頻度のアラートが発生している部門の従業員に詳細なセキュリティ教育を提供する
✗ 教育は補助的対策ですが、AIの判定バイアスが原因の場合、根本的な解決にはなりません。
C.AIのアラート理由を説明可能にし、不当に高い頻度が出ている原因を特定して、必要に応じてアルゴリズムを調整する← 正解
✓ 正解です。『透明性』『説明責任』『公平性』の原則に基づき、アラート理由を説明可能にし、不当な差別がないか検証し改善することが責任ある運用です。
D.プライバシー懸念を避けるため、AIの監視対象をシステム管理者に限定する
✗ 対象を制限することは問題回避であり、不当なアラート頻度の根本原因解決ではありません。
この問題のポイント
『透明性』『説明責任』『公平性』の原則に基づき、アラート理由を説明可能にし、不当な差別がないか検証し改善することが責任ある運用です。
「責任あるAI」の他の問題
IT・クラウド の関連資格
AWS Certified Cloud Practitioner（CLF-C02）
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate（SAA-C03）
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900：Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。