生成AI応用計算
Azure OpenAI Serviceで構築した生成AIシステムが月間で処理するトークン数は以下の通りです。現在のプロンプト(平均3,500トークン)とレスポンス(平均2,100トークン)の比率を維持しながら、プロンプトサイズを平均2,800トークンに削減した場合、レスポンスサイズは平均何トークンになると予想されますか?
A.1,680トークン← 正解
✓ 正解です。プロンプト:レスポンス = 3,500:2,100 = 5:3の比率を維持し、新プロンプト2,800の場合、2,800 × (3/5) = 1,680トークンになります。
B.1,920トークン
✗ 2,800と2,100の平均値を計算していますが、これは正しい比率計算ではありません。
C.2,240トークン
✗ 新プロンプト2,800に元のプロンプト比率3,500/2,100を乗じていますが、この計算方法は誤りです。
D.2,450トークン
✗ 削減分(700トークン)を元のレスポンス2,100から単純に差し引いていますが、この方法は比率を反映していません。
この問題のポイント
プロンプト:レスポンス = 3,500:2,100 = 5:3の比率を維持し、新プロンプト2,800の場合、2,800 × (3/5) = 1,680トークンになります。
「生成AI応用」の他の問題
IT・クラウド の関連資格
AWS Certified Cloud Practitioner(CLF-C02)
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate(SAA-C03)
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900:Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。