責任あるAIと倫理定義問題
「プロンプトインジェクション(Prompt Injection)」とはどのような攻撃手法か?
A.AIモデルの重みファイルに悪意あるコードを埋め込み、推論時に実行させる攻撃
✗ モデル重みへのコード埋め込みはサプライチェーン攻撃の一種であり、プロンプトインジェクションとは異なります。
B.悪意ある入力プロンプトによってAIシステムの動作を意図せず変更させる攻撃← 正解
✓ 正解です。プロンプトインジェクションは悪意ある入力によってLLMに意図しない動作をさせるセキュリティ攻撃です。
C.大量のリクエストを送信してAIサービスのAPIを応答不能にするDoS攻撃
✗ APIへの大量リクエストはDDoS攻撃であり、プロンプトインジェクションとは別の脅威です。
D.モデルの学習データに意図的に誤ったデータを混入させてモデルを汚染する攻撃
✗ 学習データへの不正データ混入は「データポイズニング(Data Poisoning)」と呼ばれる別の攻撃手法です。
「責任あるAIと倫理」の他の問題
「説明可能なAI(Explainable AI / XAI)」とは何を指すか?AIにおける「公平性(Fairness)」の文脈で「個人差別的バイアス(Individual Fairness)」とはど…AIシステムにおける「ハルシネーション(Hallucination)」とは何を指すか?責任あるAIの原則における「人間による監視(Human Oversight)」とはどのような概念か?AWSの責任あるAIフレームワークにおける「プライバシーとセキュリティ」の原則として最も適切に説明しているものはどれか?AIにおける「バイアス(Bias)」と「分散(Variance)」の違いとして最も適切に説明しているものはどれか?