生成AI応用
医療関連の企業がAzure OpenAI Serviceで医学情報を提供するAIアシスタントを開発しました。リスク評価の結果、ハルシネーションによる誤った医学情報の提供が最大の懸念事項として特定されました。責任ある生成AI実装の観点から、最初に実施すべき対策はどれですか？
A.信頼できる医学データベースとAzure AI Searchを統合し、RAGアーキテクチャでグラウンディングを確保する← 正解
✓ 正解です。責任ある生成AI実装では、信頼できる情報源とのグラウンディング（RAG）を確保することが、ハルシネーション防止の最も効果的かつ実証済みの対策です。
B.より大きなモデルを使用して、ハルシネーション率を下げる
✗ モデルサイズの増加だけではハルシネーションを根本的に解決できません。
C.Temperatureを0に設定し、すべてのランダム性を排除する
✗ Temperatureを0にしても、モデルの学習知識に基づくハルシネーションは完全には防げません。
D.ユーザーに『このAIは完全ではない』という免責事項を提示するだけ
✗ 免責事項の提示だけでは、実際の誤情報提供を防止できません。技術的対策が必須です。
この問題のポイント
責任ある生成AI実装では、信頼できる情報源とのグラウンディング（RAG）を確保することが、ハルシネーション防止の最も効果的かつ実証済みの対策です。
「生成AI」の他の問題
IT・クラウド の関連資格
AWS Certified Cloud Practitioner（CLF-C02）
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate（SAA-C03）
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900：Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。