生成AI(責任ある利用)比較

Azure OpenAI ServiceにおけるコンテンツフィルターとRAG(Retrieval-Augmented Generation)の役割の違いとして、最も適切な説明はどれか。

A.コンテンツフィルターは有害な出力を検出・ブロックし、RAGは学習済みモデルを使用して回答を生成する仕組みである。← 正解
✓ 正解です。コンテンツフィルターは有害コンテンツを検出・ブロックする防御機構であり、RAGは信頼できるデータソースを活用して正確で安全な応答を生成する技術です。
B.コンテンツフィルターはモデルの入力プロンプトのみを検査し、RAGはモデルの出力テキストのみを検査する。
✗ コンテンツフィルターは入力と出力の両方を検査します。RAGは出力のみに限定されません。
C.コンテンツフィルターは外部データソースから情報を取得し、RAGは事前定義されたルールセットで有害性を判定する。
✗ 説明が逆です。RAGは外部データソースから情報を取得し、コンテンツフィルターは定義されたカテゴリ(暴力、性的内容など)で有害性を判定します。
D.コンテンツフィルターは生成AIモデルの学習に使用され、RAGはユーザーの入力チェックに使用される。
✗ コンテンツフィルターはモデル学習に使用されず、運用時の入出力を検査するセーフガード機能です。

この問題のポイント

コンテンツフィルターは有害コンテンツを検出・ブロックする防御機構であり、RAGは信頼できるデータソースを活用して正確で安全な応答を生成する技術です。

AI-900:Microsoft Azure AI Fundamentals の問題一覧