生成AI(責任ある利用)誤り発見
Azure OpenAI Serviceのコンテンツフィルターと責任ある利用に関する以下の記述のうち、誤っているものはどれか。
A.コンテンツフィルターの強度レベルを調整することで、組織のニーズと安全性のバランスを取ることが可能である。
✓ この記述は正しい。Azure OpenAI Serviceのコンテンツフィルターは複数の強度レベル(低・中・高)をサポートしており、カスタマイズが可能です。
B.コンテンツフィルターが有害コンテンツをすべて検出できるため、追加的なセキュリティ監視は不要である。← 正解
✓ 正解です。この記述が誤りです。コンテンツフィルターはすべての有害コンテンツを100%検出できるわけではなく、追加的なログ監視と人的レビューは責任ある運用の必須要素です。
C.ユーザーからの報告メカニズムを実装することで、フィルターが見落とした有害コンテンツを事後的に検知できる。
✓ この記述は正しい。ユーザーフィードバック機構により、フィルター回避やミスを事後的に検知し、システム改善に役立てることができます。
D.コンテンツフィルターは入力と出力の両段階で適用されるため、有害な質問と有害な回答の両方を防止することができる。
✓ この記述は正しい。Azure OpenAI Serviceのコンテンツフィルターは、プロンプト(入力)と補完テキスト(出力)の両方をフィルタリングします。
この問題のポイント
この記述が誤りです。コンテンツフィルターはすべての有害コンテンツを100%検出できるわけではなく、追加的なログ監視と人的レビューは責任ある運用の必須要素です。
「生成AI(責任ある利用)」の他の問題
Azure OpenAI Serviceのコンテンツフィルターが対処する有害コンテンツカテゴリに含まれないものはどれか?生成AIアプリのデプロイ前に悪意ある使用シナリオを意図的に試してリスクを評価する手法はどれか?AI生成のコンテンツ(文章・画像)について、責任ある利用の観点から推奨される取り組みはどれか?「責任ある生成AI」のためのAzureの機能に関する説明として誤っているものはどれか。Azure OpenAI ServiceにおけるコンテンツフィルターとRAG(Retrieval-Augmented G…責任ある生成AIの実現において、『透明性の確保』と『バイアス軽減』はどのような点で異なるアプローチであるか。
IT・クラウド の関連資格
AWS Certified Cloud Practitioner(CLF-C02)
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate(SAA-C03)
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900:Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。