生成AI(責任ある利用)誤り発見

Azure OpenAI Serviceのコンテンツフィルターと責任ある利用に関する以下の記述のうち、誤っているものはどれか。

A.コンテンツフィルターの強度レベルを調整することで、組織のニーズと安全性のバランスを取ることが可能である。
✓ この記述は正しい。Azure OpenAI Serviceのコンテンツフィルターは複数の強度レベル(低・中・高)をサポートしており、カスタマイズが可能です。
B.コンテンツフィルターが有害コンテンツをすべて検出できるため、追加的なセキュリティ監視は不要である。← 正解
✓ 正解です。この記述が誤りです。コンテンツフィルターはすべての有害コンテンツを100%検出できるわけではなく、追加的なログ監視と人的レビューは責任ある運用の必須要素です。
C.ユーザーからの報告メカニズムを実装することで、フィルターが見落とした有害コンテンツを事後的に検知できる。
✓ この記述は正しい。ユーザーフィードバック機構により、フィルター回避やミスを事後的に検知し、システム改善に役立てることができます。
D.コンテンツフィルターは入力と出力の両段階で適用されるため、有害な質問と有害な回答の両方を防止することができる。
✓ この記述は正しい。Azure OpenAI Serviceのコンテンツフィルターは、プロンプト(入力)と補完テキスト(出力)の両方をフィルタリングします。

この問題のポイント

この記述が誤りです。コンテンツフィルターはすべての有害コンテンツを100%検出できるわけではなく、追加的なログ監視と人的レビューは責任ある運用の必須要素です。

AI-900:Microsoft Azure AI Fundamentals の問題一覧