生成AI(責任ある利用)定義問題

「責任ある生成AI」のためのAzureの機能に関する説明として誤っているものはどれか。

A.コンテンツフィルタは暴力や自傷行為などの有害な出力を遮断できる
✗ 正しい記述。コンテンツフィルタはデフォルトで4段階の深刻度判定で有害出力を遮断する。
B.Prompt Shieldsはプロンプトインジェクション攻撃を検出し防ぐ
✗ 正しい記述。ユーザーやドキュメントからの悪意ある入力でAIを乗っ取る攻撃から保護する。
C.グラウンディングはモデルの重みを調整して特定の知識を永久に学習させる← 正解
✓ 正解(誤った記述)。グラウンディングは「外部データを参照させる」こと。重み更新(学習)とは全く異なる。
D.ハルシネーション検出は回答が事実ソースに基づいているか評価する
✗ 正しい記述。生成された回答が提供ソースに基づいているかを評価するGroundedness Detection機能。

AI-900:Microsoft Azure AI Fundamentals の問題一覧