生成AI応用
Azure OpenAI Serviceで構築したチャットボットが、ユーザーの質問に対して一貫性を持った回答を提供する必要があります。同じ質問を複数回送信しても、毎回異なる内容の回答が返ってくる場合、どのパラメータを調整すべきですか?
A.Max tokensパラメータを低い値に設定する
✗ Max tokensは出力の長さを制限するパラメータであり、回答の一貫性には直接影響しません。
B.Temperatureパラメータを低い値(0に近い値)に設定する← 正解
✓ 正解です。Temperatureを低い値(0に近い)に設定することで、モデルの出力がより決定的になり、同じ質問に対して一貫した回答が得られます。
C.Top pパラメータを高い値に設定する
✗ Top pパラメータを高くすると、多様な単語候補から選択されやすくなり、むしろ回答の多様性が増します。
D.Frequencyペナルティを0に設定する
✗ Frequencyペナルティは同じトークンの繰り返しを抑制するものであり、回答の一貫性とは異なる目的です。
この問題のポイント
Temperatureを低い値(0に近い)に設定することで、モデルの出力がより決定的になり、同じ質問に対して一貫した回答が得られます。
「生成AI」の他の問題
IT・クラウド の関連資格
AWS Certified Cloud Practitioner(CLF-C02)
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate(SAA-C03)
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900:Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。