難問チャレンジ計算
Azure OpenAI Serviceのデプロイメントで、モデルの「TPM(Tokens Per Minute)」が5,000に設定されています。1つのリクエストで平均250トークンを消費する場合、1分間に処理できる最大リクエスト数は何個ですか?
A.最大20リクエスト/分← 正解
✓ 正解です。5,000 TPM ÷ 250トークン/リクエスト = 20リクエスト/分が理論値です。
B.最大15リクエスト/分
✗ 15リクエストは計算値よりも低く、TPMスロットル時の実効値ですが、この問題の設定では不正確です。
C.最大25リクエスト/分
✗ 25リクエストは6,250トークンを必要とし、5,000 TPMの制限を超過してしまいます。
D.最大30リクエスト/分
✗ 30リクエストは7,500トークンを必要とし、制限値を大きく超えるため不可能です。
この問題のポイント
5,000 TPM ÷ 250トークン/リクエスト = 20リクエスト/分が理論値です。
「難問チャレンジ」の他の問題
Azure MLのAutoMLで「分類タスク」を実行する際、不均衡データへの対処として自動的に行われることはどれか?「Transformer」の「Self-Attention」メカニズムが解決した従来のRNNの問題はどれか?RAGシステムで「ユーザーの質問に最も関連する文書を検索する」際に使うベクターの種類はどれか?Azure OpenAI Serviceのデプロイメント設定で「TPM(Tokens Per Minute)」と「RPM…「Differential Privacy(差分プライバシー)」をMLに適用する主な目的はどれか?Azure MLの「Prompt flow」を使うのに最も適したユースケースはどれか?
IT・クラウド の関連資格
AWS Certified Cloud Practitioner(CLF-C02)
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate(SAA-C03)
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900:Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。