生成AIの基礎応用問題
LLMの推論時に温度(Temperature)パラメータを0に設定した場合、生成テキストの特性はどのように変化しますか?
A.モデルはランダム性が最大化され、毎回まったく異なるテキストを生成するようになる
✗ ランダム性が最大化されるのはTemperatureを高く設定した場合です。0では逆に多様性がなくなります。
B.モデルの出力が空になり、テキストが一切生成されなくなる
✗ Temperature=0は出力を抑制しません。モデルは通常通りテキストを生成し続けます。
C.モデルは常に確率が最も高いトークンを選択するため、同じ入力に対して決定論的な出力が得られる← 正解
✓ 正解です。Temperature=0ではソフトマックス分布が最高確率のトークンに集中し、グリーディデコードと同等の決定論的な出力になります。
D.モデルは短いテキストしか生成できなくなり、出力トークン数が制限される
✗ Temperatureは出力長に直接影響しません。出力長はmax_tokensなど別のパラメータで制御されます。