生成AIと大規模言語モデル応用問題
大規模言語モデル(LLM)の推論時に、温度パラメータ(temperature)を0.1に設定した場合と1.5に設定した場合の出力の特性として正しいものはどれか?
A.0.1では確率分布が均等化されるため、出力の多様性が高まる
✗ 温度が低い(0.1)ほど確率分布がシャープになり、多様性が低下する。均等化は高い温度で起こる。
B.1.5では高確率トークンが強調されるため、出力が予測可能になる
✗ 温度が高い(1.5)ときは確率分布が平坦化され、低確率トークンの選択確率が上がり、出力は予測不可能になる。
C.0.1では低確率トークンが抑制されるため、出力がより決定的になる← 正解
✓ 正解です。温度0.1では高確率トークンが強調され、低確率トークンが抑制されるため、確定的で一貫した出力になります。
D.1.5では出力の品質が向上し、事実性が高まる
✗ 温度1.5では多様性が高まるが、これは品質向上や事実性向上を意味しない。むしろ創造的な出力や誤り増加につながりやすい。