生成AI(責任ある利用)定義

「責任ある生成AI」のためのAzureの機能に関する説明として誤っているものはどれか。

A.コンテンツフィルタは暴力や自傷行為などの有害な出力を遮断できる
✓ この記述は正しい。コンテンツフィルタはデフォルトで4段階の深刻度判定で有害出力を遮断する。
B.Prompt Shieldsはプロンプトインジェクション攻撃を検出し防ぐ
✓ この記述は正しい。ユーザーやドキュメントからの悪意ある入力でAIを乗っ取る攻撃から保護する。
C.グラウンディングはモデルの重みを調整して特定の知識を永久に学習させる← 正解
✓ 正解です。この記述が誤りです。グラウンディングは「外部データを参照させる」こと。重み更新(学習)とは全く異なります。
D.ハルシネーション検出は回答が事実ソースに基づいているか評価する
✓ この記述は正しい。生成された回答が提供ソースに基づいているかを評価するGroundedness Detection機能。

この問題のポイント

この記述が誤りです。グラウンディングは「外部データを参照させる」こと。重み更新(学習)とは全く異なります。

AI-900:Microsoft Azure AI Fundamentals の問題一覧