責任あるAI誤り発見
AIシステムの「説明責任」と「透明性」に関する以下の記述で、誤っているものはどれか。
A.透明性は、AIがどのようなロジックで判断を下したかをステークホルダーに明確に説明できることを意味する。
✓ この記述は正しい。透明性は、ステークホルダーがAIの意思決定プロセスを理解できることの重要性を強調している。
B.説明責任とは、AIシステムの作成者がAIの全ての判断結果について、人間が検証・監査できる状態にすることである。
✓ この記述は正しい。説明責任は、AIの判断に対して人間が検証・監査を行い、最終的な責任を持つことを要求する原則である。
C.ブラックボックスなディープラーニングモデルは、透明性や説明責任を果たせないため、医療診断には決して使用すべきでない。← 正解
✓ 正解です。この記述が誤りで、ブラックボックスモデルであっても、LIME や SHAP などの解釈手法で説明性を向上させたり、医師による最終確認プロセスを導入することで、責任あるAI実装は可能です。
D.監査ログとバージョン管理により、AIの判断履歴を記録・追跡することで説明責任を強化できる。
✓ この記述は正しい。監査ログとバージョン管理により、AIの決定トレースが可能となり、説明責任と透明性が強化される。
この問題のポイント
この記述が誤りで、ブラックボックスモデルであっても、LIME や SHAP などの解釈手法で説明性を向上させたり、医師による最終確認プロセスを導入することで、責任あるAI実装は可能です。
「責任あるAI」の他の問題
IT・クラウド の関連資格
AWS Certified Cloud Practitioner（CLF-C02）
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate（SAA-C03）
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900：Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。