生成AI定義問題

LLMの出力のランダム性(創造性と安定性のバランス)を調整するパラメータはどれか?

A.max_tokens
✗ 生成するトークンの最大数を制限するパラメータ。ランダム性とは無関係。
B.top_k
✗ 上位k件のトークン候補からサンプリングするパラメータ。temperatureとの違いを問う問題。
C.temperature← 正解
✓ 正解。0に近いほど決定的(同じ入力なら同じ出力)、高いほど多様でランダムな出力になる。
D.presence_penalty
✗ 既出トークンへのペナルティで繰り返しを抑制するパラメータ。ランダム性制御とは別目的。

AI-900:Microsoft Azure AI Fundamentals の問題一覧