生成AI定義問題

LLMが事実と異なる情報を高い確信度で生成してしまう現象を何というか?

A.プロンプトインジェクション
✗ 悪意ある入力でAIの動作を乗っ取ろうとする攻撃。出力の正確性の問題ではない。
B.トークン超過
✗ コンテキストウィンドウの上限を超えた際のエラー。内容の誤りとは別の問題。
C.ハルシネーション(幻覚)← 正解
✓ 正解。LLMが根拠なく事実と異なる内容を自信を持って生成する問題。RAGや検証で緩和できる。
D.コンテキスト汚染
✗ プロンプトに信頼できない情報が混入することで応答が歪む問題。ハルシネーションとは発生機序が異なる。

AI-900:Microsoft Azure AI Fundamentals の問題一覧