難問チャレンジ定義問題

Azure AI Content Safetyの「Prompt Shields」機能が防御するのはどれか?

A.有害なテキストコンテンツの生成
✗ 有害コンテンツの検出はコンテンツフィルターやContent Safety APIの主要機能だが、Prompt Shieldsは別機能。
B.プロンプトインジェクション攻撃(直接・間接)← 正解
✓ 正解。Prompt ShieldsはユーザーやドキュメントからのプロンプトインジェクションやJailbreakを検出・防御する。
C.APIの不正アクセス
✗ APIアクセス制御はAzure ADやAPIキー管理が担う。
D.モデルの過学習
✗ 過学習はML訓練の問題でContent Safetyの対象ではない。

AI-900:Microsoft Azure AI Fundamentals の問題一覧