責任あるAI（実践）応用
大規模言語モデルを使用したカスタマーサービスチャットボットが、特定のテーマについて事実に基づかない回答（ハルシネーション）を生成することが、運用開始後に検出されました。その後どのような対応が責任あるAIの原則に最も合致しているか？
A.ハルシネーション発生時に、モデルの出力に信頼度スコアを表示し、ユーザーに自動的に人間スタッフへ案内するフォールバック機能を実装する← 正解
✓ 正解です。責任あるAIでは、ハルシネーション発生時の透明性（信頼度表示）と、ユーザーへの安全な対応（人間への段階的案内）を実装することが重要です。
B.ハルシネーションは自然言語モデルの特性なので、ユーザーが情報の検証責任を持つべきと考え、システムは変更しない
✗ ユーザーに検証責任を転嫁することは、システム開発者の責任放棄であり、誤情報による害を認識しながら放置する行為です。
C.問題が小さいと判断し、既知のハルシネーション内容のみをフィルタリングして運用を継続する
✗ 既知のハルシネーション内容のフィルタリングは、未知の誤情報を見過ごし、完全な対策ではありません。根本的な透明性と安全対策が欠けています。
D.このモデルの使用をすべて中止し、従来のルールベースシステムに完全に置き換える
✗ 有用性と安全性のバランスを無視した完全廃止は過度であり、透明性と段階的改善を通じた責任あるAIアプローチを採用すべきです。
この問題のポイント
責任あるAIでは、ハルシネーション発生時の透明性（信頼度表示）と、ユーザーへの安全な対応（人間への段階的案内）を実装することが重要です。
「責任あるAI（実践）」の他の問題
AIモデルが特定の地域の住民ばかりに高金利ローンを提案するケースで最初に確認すべきことはどれか？AIシステムの「監査ログ（Audit Log）」を保持する主な目的はどれか？責任あるAIの実践において、「バイアス検出（Bias Detection）」と「バイアス軽減（Bias Mitigati…AIシステムの評価において、「説明責任（Accountability）」と「透明性（Transparency）」の違いは…AIモデルの公平性評価で用いられる「群体的公平性（Group Fairness）」と「個別公平性（Individual …機械学習モデルにおいて、「データプライバシー保護（Data Privacy）」と「データセキュリティ（Data Secu…
IT・クラウド の関連資格
AWS Certified Cloud Practitioner（CLF-C02）
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate（SAA-C03）
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900：Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。