生成AI応用計算

Azure OpenAI Serviceで構築した生成AIシステムが月間で処理するトークン数は以下の通りです。現在のプロンプト(平均3,500トークン)とレスポンス(平均2,100トークン)の比率を維持しながら、プロンプトサイズを平均2,800トークンに削減した場合、レスポンスサイズは平均何トークンになると予想されますか?

A.1,680トークン← 正解
✓ 正解です。プロンプト:レスポンス = 3,500:2,100 = 5:3の比率を維持し、新プロンプト2,800の場合、2,800 × (3/5) = 1,680トークンになります。
B.1,920トークン
✗ 2,800と2,100の平均値を計算していますが、これは正しい比率計算ではありません。
C.2,240トークン
✗ 新プロンプト2,800に元のプロンプト比率3,500/2,100を乗じていますが、この計算方法は誤りです。
D.2,450トークン
✗ 削減分(700トークン)を元のレスポンス2,100から単純に差し引いていますが、この方法は比率を反映していません。

この問題のポイント

プロンプト:レスポンス = 3,500:2,100 = 5:3の比率を維持し、新プロンプト2,800の場合、2,800 × (3/5) = 1,680トークンになります。

AI-900:Microsoft Azure AI Fundamentals の問題一覧