生成AI応用応用

大規模小売企業が『商品説明の動的生成』システムをAzure OpenAI Serviceで構築しています。在庫データベース(容量10GB、更新頻度:秒単位)と商品マスタ(静的、3000品目)があります。これら2つのデータソースを最適に統合するアーキテクチャはどれか?

A.在庫DB全体をファインチューニングデータとしてLLMに組み込む
✗ 秒単位で更新される在庫DBをファインチューニングに組み込むと、モデルが常に古い情報を保持してしまいます。
B.商品マスタをファインチューニング、在庫情報はRAG経由で検索する← 正解
✓ 正解です。静的な商品マスタ(3000品目)はファインチューニングで効率化し、動的な在庫情報はRAGで常に最新を保証できます。
C.すべてのデータをRAGで管理し、秒単位更新に対応するキャッシング戦略を実装する
✗ RAGのみでは秒単位更新対応に遅延が生じ、キャッシング実装は複雑で保守コストが高くなります。
D.LLMに対して『最新情報を確認してください』というプロンプト指示を追加する
✗ プロンプト指示のみでは、LLMが確実に外部データを参照する保証がなく、古い情報を返す可能性があります。

この問題のポイント

静的な商品マスタ(3000品目)はファインチューニングで効率化し、動的な在庫情報はRAGで常に最新を保証できます。

AI-900:Microsoft Azure AI Fundamentals の問題一覧