生成AI応用

Azure OpenAI Serviceで構築したチャットボットが、ユーザーの質問に対して一貫性を持った回答を提供する必要があります。同じ質問を複数回送信しても、毎回異なる内容の回答が返ってくる場合、どのパラメータを調整すべきですか?

A.Max tokensパラメータを低い値に設定する
✗ Max tokensは出力の長さを制限するパラメータであり、回答の一貫性には直接影響しません。
B.Temperatureパラメータを低い値(0に近い値)に設定する← 正解
✓ 正解です。Temperatureを低い値(0に近い)に設定することで、モデルの出力がより決定的になり、同じ質問に対して一貫した回答が得られます。
C.Top pパラメータを高い値に設定する
✗ Top pパラメータを高くすると、多様な単語候補から選択されやすくなり、むしろ回答の多様性が増します。
D.Frequencyペナルティを0に設定する
✗ Frequencyペナルティは同じトークンの繰り返しを抑制するものであり、回答の一貫性とは異なる目的です。

この問題のポイント

Temperatureを低い値(0に近い)に設定することで、モデルの出力がより決定的になり、同じ質問に対して一貫した回答が得られます。

AI-900:Microsoft Azure AI Fundamentals の問題一覧