難問チャレンジ定義問題

Azure OpenAI Serviceのデプロイメント設定で「TPM(Tokens Per Minute)」と「RPM(Requests Per Minute)」の説明として正しいのはどれか?

A.TPMはトレーニングのパラメータ数、RPMはリアルタイム処理速度
✗ TPMはトークンスループット、RPMはリクエスト数の制限。トレーニングやリアルタイム速度の指標ではない。
B.TPMは1分間に処理できるトークン数、RPMは1分間のAPI呼び出し回数の上限← 正解
✓ 正解。TPM/RPMはAzure OpenAIのクォータ(利用上限)設定で重要。超過するとThrottlingエラー(429)が発生する。
C.TPMとRPMは同一の概念
✗ TPMとRPMは異なる指標で、どちらもクォータ管理に使われる。
D.TPMはセキュリティスキャン率、RPMはリスク評価指標
✗ セキュリティやリスク評価の指標ではなく、APIスループット制限の設定値。

AI-900:Microsoft Azure AI Fundamentals の問題一覧