生成AI計算

Azure OpenAI Serviceでテキスト生成を実行する際、プロンプトに含まれるテキストが1,250トークン、生成される応答が580トークンの場合、この1回のAPI呼び出しで消費される総トークン数はいくつか?

A.1,250トークン
✗ プロンプトのトークン数のみです。生成される応答のトークンも加算する必要があります。
B.1,830トークン← 正解
✓ 正解です。総トークン数 = 入力トークン(1,250)+ 出力トークン(580)= 1,830トークンです。
C.580トークン
✗ 応答のトークン数のみです。プロンプトのトークン数も含めて計算する必要があります。
D.2,430トークン
✗ この値は計算方法が誤っています。入力と出力の単純合計が正しい計算方法です。

この問題のポイント

総トークン数 = 入力トークン(1,250)+ 出力トークン(580)= 1,830トークンです。

AI-900:Microsoft Azure AI Fundamentals の問題一覧