Azure AIサービス総合応用

Azure AI Content Safety APIで、テキスト入力に対して「hate」カテゴリの重大度スコアが6(重大度スケール0, 2, 4, 6)と返された場合、下流のシステムでこのスコアをどのように解釈すべきか?

A.スコア6は最高重大度を示し、機密性が高いアプリケーションでは重大度4以上をブロック閾値として設定するのが適切である← 正解
✓ 正解です。Content Safety APIの重大度スコアは0/2/4/6の4段階で返され、6が最高重大度を示します。アプリケーション要件に応じて閾値(例:4以上をブロック)を設定する運用が推奨されます。
B.スコアは信頼度(confidence)を示すため、スコア6であれば100%の確率で有害コンテンツが存在することが保証される
✗ スコアは確率値ではなく有害度の重大度レベルを示す指標です。確率的保証は提供されません。
C.スコア値は絶対的なカテゴリ判定ではなく、他のカテゴリスコアとの相対比較判断のみが有効であり、単独スコアでの判定は不可能である
✗ 各カテゴリのスコアは独立した重大度を示すため、絶対値での単独判定が可能です。相対比較のみに限定されるわけではありません。
D.スコア6以上は自動的に違反判定されるため、ユーザー側での追加判定は不要である
✗ Content Safety APIは重大度スコアを返すだけであり、自動ブロックは実行しません。アプリケーションが閾値判定を実装する設計です。

この問題のポイント

Content Safety APIの重大度スコアは0/2/4/6の4段階で返され、6が最高重大度を示します。アプリケーション要件に応じて閾値(例:4以上をブロック)を設定する運用が推奨されます。

AI-900:Microsoft Azure AI Fundamentals の問題一覧