生成AI(責任ある利用)定義
生成AIアプリのデプロイ前に悪意ある使用シナリオを意図的に試してリスクを評価する手法はどれか?
A.A/Bテスト
✗ 新旧バージョンのパフォーマンスを比較するテスト手法。セキュリティ評価ではない。
B.ブルーグリーンデプロイ
✗ ダウンタイムなしで新バージョンに切り替えるデプロイ戦略。悪用リスク評価とは異なる。
C.レッドチーミング(Red Teaming)← 正解
✓ 正解。セキュリティ専門家が攻撃者役となりシステムの脆弱性・有害出力リスクを発見する手法。
D.カナリアリリース
✗ 少量のトラフィックで新バージョンを段階的に展開するリリース戦略。
この問題のポイント
セキュリティ専門家が攻撃者役となりシステムの脆弱性・有害出力リスクを発見する手法。
「生成AI(責任ある利用)」の他の問題
Azure OpenAI Serviceのコンテンツフィルターが対処する有害コンテンツカテゴリに含まれないものはどれか?AI生成のコンテンツ(文章・画像)について、責任ある利用の観点から推奨される取り組みはどれか?「責任ある生成AI」のためのAzureの機能に関する説明として誤っているものはどれか。Azure OpenAI ServiceにおけるコンテンツフィルターとRAG(Retrieval-Augmented G…責任ある生成AIの実現において、『透明性の確保』と『バイアス軽減』はどのような点で異なるアプローチであるか。Azure OpenAI Serviceのセーフガード機能における『プロンプトインジェクション対策』と『コンテンツモデレ…
IT・クラウド の関連資格
AWS Certified Cloud Practitioner(CLF-C02)
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate(SAA-C03)
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900:Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。