生成AI詳細計算

Azure OpenAI Serviceで、top_pパラメータを0.5に設定した場合、生成されるテキストの特性はどうなるか?

A.最も確率の高い50%のトークンのみが候補になり、より集中した応答になる← 正解
✓ 正解です。top_pが0.5の場合、累積確率が50%に達するまでのトークンのみが候補となり、より焦点を絞った応答が生成されます。
B.応答の多様性が50%増加する
✗ top_pが低い値では逆に多様性が減少します。高い値(0.9以上)でより多様な応答になります。
C.出力トークン数が50%削減される
✗ top_pパラメータはトークン消費量には影響しません。応答の確定性のみに関係します。
D.プロンプトの解釈精度が50%向上する
✗ top_pはサンプリング手法であり、プロンプトの解釈精度とは直接関係がありません。

この問題のポイント

top_pが0.5の場合、累積確率が50%に達するまでのトークンのみが候補となり、より焦点を絞った応答が生成されます。

AI-900:Microsoft Azure AI Fundamentals の問題一覧