生成AI詳細応用
Azure OpenAI ServiceでGPT-3.5-turboを使用して、医療診断支援システムを構築しています。max_tokensを150に設定しましたが、ユーザーからの長い患者情報に対して、システムが途中で応答を打ち切ってしまいます。この問題の根本原因として最も適切なのはどれか？
A.入力プロンプトのトークン数がmax_tokensの上限を超えているため
✗ 入力トークンはmax_tokensに含まれません。max_tokensは出力トークンのみを制限します。
B.出力応答が150トークンの制限に達する前に完了する可能性が低く、完全な回答を生成できていないため← 正解
✓ 正解です。max_tokens=150では、複雑な医療情報に対する詳細な回答が150トークンで打ち切られます。max_tokensを増加させることで完全な応答が可能になります。
C.Azure OpenAI Serviceのスロットリング機能により、トークン数が制限されているため
✗ スロットリングはレート制限（RPS/TPM）に関するもので、max_tokensとは異なるメカニズムです。
D.モデルの学習データに医療情報が不足しているため
✗ 学習データの不足であれば、トークン数制限とは無関係に不正確な応答が返されます。
この問題のポイント
max_tokens=150では、複雑な医療情報に対する詳細な回答が150トークンで打ち切られます。max_tokensを増加させることで完全な応答が可能になります。
「生成AI詳細」の他の問題
IT・クラウド の関連資格
AWS Certified Cloud Practitioner（CLF-C02）
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate（SAA-C03）
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900：Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。