生成AI(責任ある利用)比較
Azure OpenAI ServiceにおけるコンテンツフィルターとRAG(Retrieval-Augmented Generation)の役割の違いとして、最も適切な説明はどれか。
A.コンテンツフィルターは有害な出力を検出・ブロックし、RAGは学習済みモデルを使用して回答を生成する仕組みである。← 正解
✓ 正解です。コンテンツフィルターは有害コンテンツを検出・ブロックする防御機構であり、RAGは信頼できるデータソースを活用して正確で安全な応答を生成する技術です。
B.コンテンツフィルターはモデルの入力プロンプトのみを検査し、RAGはモデルの出力テキストのみを検査する。
✗ コンテンツフィルターは入力と出力の両方を検査します。RAGは出力のみに限定されません。
C.コンテンツフィルターは外部データソースから情報を取得し、RAGは事前定義されたルールセットで有害性を判定する。
✗ 説明が逆です。RAGは外部データソースから情報を取得し、コンテンツフィルターは定義されたカテゴリ(暴力、性的内容など)で有害性を判定します。
D.コンテンツフィルターは生成AIモデルの学習に使用され、RAGはユーザーの入力チェックに使用される。
✗ コンテンツフィルターはモデル学習に使用されず、運用時の入出力を検査するセーフガード機能です。
この問題のポイント
コンテンツフィルターは有害コンテンツを検出・ブロックする防御機構であり、RAGは信頼できるデータソースを活用して正確で安全な応答を生成する技術です。
「生成AI(責任ある利用)」の他の問題
Azure OpenAI Serviceのコンテンツフィルターが対処する有害コンテンツカテゴリに含まれないものはどれか?生成AIアプリのデプロイ前に悪意ある使用シナリオを意図的に試してリスクを評価する手法はどれか?AI生成のコンテンツ(文章・画像)について、責任ある利用の観点から推奨される取り組みはどれか?「責任ある生成AI」のためのAzureの機能に関する説明として誤っているものはどれか。責任ある生成AIの実現において、『透明性の確保』と『バイアス軽減』はどのような点で異なるアプローチであるか。Azure OpenAI Serviceのセーフガード機能における『プロンプトインジェクション対策』と『コンテンツモデレ…
IT・クラウド の関連資格
AWS Certified Cloud Practitioner(CLF-C02)
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate(SAA-C03)
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900:Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。