責任あるAIと倫理応用問題
生成AIが医療診断の補助ツールとして導入された後、モデルが存在しない検査結果や薬品名を「もっともらしい文章」として出力していることが判明した。この状況において、責任あるAIの観点から最優先で取るべき対応はどれか？
A.モデルを即時停止し、出力内容の医師による再確認と検証プロセスを導入する← 正解
✓ 正解です。ハルシネーションが医療現場で発生した場合、患者安全を最優先にモデルを停止し、人間による監視と検証プロセスを設けることが責任あるAIの原則に沿った対応です。
B.ユーザーへの通知を行わず、次バージョンのモデルリリースをもって問題を解消する
✗ 問題を隠蔽したまま運用継続することは透明性・説明責任の原則に著しく反する。
C.生成AIの出力は参考情報であるため、現状のまま運用を継続する
✗ 医療という高リスク領域でハルシネーションを許容し続けることは、患者への重大な危害につながる。
D.トークン生成コストを削減し、出力文字数を制限することで問題を抑制する
✗ 出力文字数の制限はハルシネーションの根本的な解決策にならず、問題の本質を回避している。