生成AI応用定義
プロンプトインジェクション攻撃の防御策として最も効果的でないものはどれか?
A.ユーザー入力を解析して悪意あるパターンを検出するフィルタリング
✗ 入力サニタイジングはプロンプトインジェクションの主要防御策の一つ。
B.出力をコンテンツフィルターで検証する
✗ 出力の検証・フィルタリングも有効な多層防御策。
C.AIに与える権限(DBアクセス等)を最小限にする
✗ 最小権限の原則によりAIが悪用されても被害範囲を限定できる有効な防御策。
D.より高価なモデルを使用する← 正解
✓ モデルの価格と安全性・セキュリティ耐性は直接関係しない。
この問題のポイント
✓ モデルの価格と安全性・セキュリティ耐性は直接関係しない。
「生成AI応用」の他の問題
「社内の人事規程(非公開文書)に基づいてGPT-4が正確に回答するシステム」を構築する際にファインチューニングよりRAG…LLMの「コンテキストウィンドウ(Context Window)」の制限を緩和するための手法として適切でないものはどれか…Semantic Kernelが提供する主な機能はどれか?Azure OpenAI ServiceでGPTに外部の天気APIや計算ツールを呼び出させる機能はどれか?Azure OpenAI Serviceにおける「トークン(Token)」の定義として最も正確なものはどれか?Azure OpenAI Serviceで構築した生成AIシステムが月間で処理するトークン数は以下の通りです。現在のプロ…
IT・クラウド の関連資格
AWS Certified Cloud Practitioner(CLF-C02)
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate(SAA-C03)
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900:Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。