生成AI(責任ある利用)定義
「責任ある生成AI」のためのAzureの機能に関する説明として誤っているものはどれか。
A.コンテンツフィルタは暴力や自傷行為などの有害な出力を遮断できる
✓ この記述は正しい。コンテンツフィルタはデフォルトで4段階の深刻度判定で有害出力を遮断する。
B.Prompt Shieldsはプロンプトインジェクション攻撃を検出し防ぐ
✓ この記述は正しい。ユーザーやドキュメントからの悪意ある入力でAIを乗っ取る攻撃から保護する。
C.グラウンディングはモデルの重みを調整して特定の知識を永久に学習させる← 正解
✓ 正解です。この記述が誤りです。グラウンディングは「外部データを参照させる」こと。重み更新(学習)とは全く異なります。
D.ハルシネーション検出は回答が事実ソースに基づいているか評価する
✓ この記述は正しい。生成された回答が提供ソースに基づいているかを評価するGroundedness Detection機能。
この問題のポイント
この記述が誤りです。グラウンディングは「外部データを参照させる」こと。重み更新(学習)とは全く異なります。
「生成AI(責任ある利用)」の他の問題
Azure OpenAI Serviceのコンテンツフィルターが対処する有害コンテンツカテゴリに含まれないものはどれか?生成AIアプリのデプロイ前に悪意ある使用シナリオを意図的に試してリスクを評価する手法はどれか?AI生成のコンテンツ(文章・画像)について、責任ある利用の観点から推奨される取り組みはどれか?Azure OpenAI ServiceにおけるコンテンツフィルターとRAG(Retrieval-Augmented G…責任ある生成AIの実現において、『透明性の確保』と『バイアス軽減』はどのような点で異なるアプローチであるか。Azure OpenAI Serviceのセーフガード機能における『プロンプトインジェクション対策』と『コンテンツモデレ…
IT・クラウド の関連資格
AWS Certified Cloud Practitioner(CLF-C02)
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate(SAA-C03)
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900:Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。