生成AI詳細計算

GPT-4モデルで、max_tokensを500に設定した場合、出力が400トークンの応答を生成したとき、実際に消費されるトークンはいくらになるか?(プロンプトのトークン数は800)

A.800トークン
✗ この数値はプロンプトのトークン数のみで、出力トークンが含まれていません。
B.500トークン
✗ max_tokensは出力の上限を設定するパラメータですが、実際の消費量を制限しません。
C.400トークン
✗ これは出力トークン数のみです。プロンプトのトークンも含める必要があります。
D.1,200トークン← 正解
✓ 正解です。プロンプト800トークン + 出力400トークン = 合計1,200トークンが消費されます。max_tokensはあくまで上限値です。

この問題のポイント

プロンプト800トークン + 出力400トークン = 合計1,200トークンが消費されます。max_tokensはあくまで上限値です。

AI-900:Microsoft Azure AI Fundamentals の問題一覧