生成AI（責任ある利用）応用
医療診断支援AIシステムで、生成AIが特定の患者層に対してバイアスを示す傾向が検出されました。このバイアスが本番環境で運用中に発見された場合、最初に実施すべき行動はどれですか？
A.バイアスの原因を調査し、訓練データと学習プロセスを検証する← 正解
✓ 正解です。医療分野でのバイアスは重大なリスクです。責任ある利用の観点から、原因を徹底調査し、訓練データと学習プロセスの検証が最優先です。
B.バイアスが軽微なため、追加の人間による監督で継続運用する
✗ 医療診断支援での患者層への差別的バイアスは「軽微」では済まされません。人間監督だけでは不十分です。
C.医学的根拠があるため、バイアスを特徴として記録し運用継続する
✗ バイアスを医学的根拠と混同することは誤りです。学習データ由来のバイアスは除去する必要があります。
D.バイアスを修正するまで新機能追加を優先し、既存機能は継続する
✗ バイアスが存在する状態での新機能追加は、問題をさらに拡大させる恐れがあります。
この問題のポイント
医療分野でのバイアスは重大なリスクです。責任ある利用の観点から、原因を徹底調査し、訓練データと学習プロセスの検証が最優先です。
「生成AI（責任ある利用）」の他の問題
Azure OpenAI Serviceのコンテンツフィルターが対処する有害コンテンツカテゴリに含まれないものはどれか？生成AIアプリのデプロイ前に悪意ある使用シナリオを意図的に試してリスクを評価する手法はどれか？AI生成のコンテンツ（文章・画像）について、責任ある利用の観点から推奨される取り組みはどれか？「責任ある生成AI」のためのAzureの機能に関する説明として誤っているものはどれか。Azure OpenAI ServiceにおけるコンテンツフィルターとRAG（Retrieval-Augmented G…責任ある生成AIの実現において、『透明性の確保』と『バイアス軽減』はどのような点で異なるアプローチであるか。
IT・クラウド の関連資格
AWS Certified Cloud Practitioner（CLF-C02）
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate（SAA-C03）
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900：Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。