生成AI詳細計算
GPT-4モデルで、max_tokensを500に設定した場合、出力が400トークンの応答を生成したとき、実際に消費されるトークンはいくらになるか?(プロンプトのトークン数は800)
A.800トークン
✗ この数値はプロンプトのトークン数のみで、出力トークンが含まれていません。
B.500トークン
✗ max_tokensは出力の上限を設定するパラメータですが、実際の消費量を制限しません。
C.400トークン
✗ これは出力トークン数のみです。プロンプトのトークンも含める必要があります。
D.1,200トークン← 正解
✓ 正解です。プロンプト800トークン + 出力400トークン = 合計1,200トークンが消費されます。max_tokensはあくまで上限値です。
この問題のポイント
プロンプト800トークン + 出力400トークン = 合計1,200トークンが消費されます。max_tokensはあくまで上限値です。
「生成AI詳細」の他の問題
IT・クラウド の関連資格
AWS Certified Cloud Practitioner(CLF-C02)
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate(SAA-C03)
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900:Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。