生成AI詳細定義問題

Azure OpenAI Serviceで「max_tokens」パラメータを設定する目的はどれか?

A.入力プロンプトの最大文字数を制限する
✗ 入力のトークン制限はモデルのコンテキストウィンドウで決まる。max_tokensは出力制限。
B.モデルが生成する応答の最大トークン数を制限してコストとレイテンシを制御する← 正解
✓ 正解。max_tokensで応答の長さの上限を設定し、予期せず長い出力によるコスト超過を防げる。
C.API呼び出しの最大回数を設定する
✗ API呼び出し回数の制限はAzureのレート制限(TPM/RPM)で設定する。
D.コンテキストウィンドウのサイズを変更する
✗ コンテキストウィンドウのサイズはモデルのアーキテクチャで固定。APIパラメータで変更不可。

AI-900:Microsoft Azure AI Fundamentals の問題一覧