生成AI応用誤り発見
生成AIモデルの責任ある使用とセキュリティに関する以下の記述で、誤っているものはどれか。
A.プロンプトインジェクション攻撃では、ユーザー入力に悪意あるインストラクションを含める方法で、モデルの本来の動作を改ざんされる可能性がある。
✓ この記述は正しい。プロンプトインジェクションは入力値の改ざんによってモデルの動作を変更させ、意図しない出力を引き出す攻撃手法です。
B.Azureの内容フィルターは生成AIが有害なコンテンツを出力しないようにするため、完全に無効化することは推奨されない。
✓ この記述は正しい。Azureの内容フィルターは安全性を確保する重要な機構であり、セキュリティ上の理由から無効化は推奨されません。
C.データプライバシーを保護するため、APIへのリクエストは必ず平文で送信し、ユーザーが入力データを検査できるようにする必要がある。← 正解
✓ 正解です。この記述が誤りで、データプライバシーを保護するにはHTTPSなど暗号化を使用してリクエストを送信し、センシティブ情報は入力前にマスキングまたは削除する必要があります。
D.ファインチューニングに使用する訓練データには、個人情報やセンシティブ情報を含めるべきではない。
✓ この記述は正しい。訓練データに個人情報が含まれるとプライバシーリスクが増加するため、事前にクレンジングやマスキングを実施すべきです。
この問題のポイント
この記述が誤りで、データプライバシーを保護するにはHTTPSなど暗号化を使用してリクエストを送信し、センシティブ情報は入力前にマスキングまたは削除する必要があります。
「生成AI応用」の他の問題
IT・クラウド の関連資格
AWS Certified Cloud Practitioner（CLF-C02）
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate（SAA-C03）
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900：Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。