生成AI計算
企業がRAGシステムを構築し、社内文書ライブラリから検索された3つの関連ドキュメント(各ドキュメント平均420トークン)と、ユーザーの質問(95トークン)を合わせてLLMに送信します。その後、LLMが715トークンの回答を生成した場合、この処理全体で消費されるトークン数は?
A.2,070トークン← 正解
✓ 正解です。入力トークン = 検索文書(420×3=1,260)+ 質問(95)= 1,355、総計 = 1,355 + 715 = 2,070トークンです。
B.1,355トークン
✗ 入力トークン(1,355)のみで、LLMが生成した応答(715トークン)を加算していません。
C.810トークン
✗ 質問(95)と応答(715)のみで、検索ドキュメント3件分(1,260トークン)が含まれていません。
D.1,975トークン
✗ 検索文書を1件分(420)のみ計算しています。3件分(420×3=1,260)を使用する必要があります。
この問題のポイント
入力トークン = 検索文書(420×3=1,260)+ 質問(95)= 1,355、総計 = 1,355 + 715 = 2,070トークンです。
「生成AI」の他の問題
IT・クラウド の関連資格
AWS Certified Cloud Practitioner(CLF-C02)
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate(SAA-C03)
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900:Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。