生成AI詳細応用

Azure OpenAI ServiceでGPT-4を使用して、顧客サポートチャットボットを構築しています。ユーザーからの質問に対して回答が不正確になっているため、Temperature パラメータを 0.9 から 0.2 に低下させました。この変更により、モデルの出力にはどのような影響が期待されますか?

A.回答の多様性が増し、より創造的で変動性の高い応答が得られる
✗ 逆です。Temperatureを低下させると決定論的になり、多様性は減少します。高いTemperatureが創造性を増します。
B.回答がより決定論的で一貫性が高くなり、ファクトベースのタスクに適切になる← 正解
✓ 正解です。Temperatureを0.2に下げると、モデルは最も確率の高いトークンを選択する傾向が強まり、より一貫性のある正確な応答が得られます。
C.トークン消費量が減少し、API呼び出しコストが大幅に低下する
✗ Temperatureパラメータはトークン消費量に直接的な影響を与えません。これは確率分布に関するパラメータです。
D.回答の生成速度が向上し、レイテンシが改善される
✗ Temperatureの変更は生成速度やレイテンシに影響しません。計算複雑性は変わりません。

この問題のポイント

Temperatureを0.2に下げると、モデルは最も確率の高いトークンを選択する傾向が強まり、より一貫性のある正確な応答が得られます。

AI-900:Microsoft Azure AI Fundamentals の問題一覧