難問チャレンジ応用
Azure OpenAI ServiceでChatCompletion APIを使用する場合、「max_tokens」パラメータを小さく設定した際に生じる影響として正しいのはどれか？
A.トークン消費が削減され、入出力コストが低下する一方で、応答の完全性が失われる可能性があり、不完全な回答が返される← 正解
✓ 正解です。max_tokensの削減は出力を制限し、コスト削減と応答不完全のトレードオフです。
B.max_tokensは出力長のみに影響し、入力トークンコストには何の影響も与えない
✗ max_tokensは出力長を制限し、結果的にトークン使用量全体に影響します。
C.max_tokensを小さく設定すると、推論精度が向上し、より正確な応答が得られる
✗ max_tokensの削減は精度向上ではなく、応答の切り詰めを引き起こします。
D.max_tokensは応答品質に影響を与えず、APIレートリミットにのみ関係する
✗ max_tokensは応答品質と長さに直接影響し、レートリミットとは別です。
この問題のポイント
max_tokensの削減は出力を制限し、コスト削減と応答不完全のトレードオフです。
「難問チャレンジ」の他の問題
Azure MLのAutoMLで「分類タスク」を実行する際、不均衡データへの対処として自動的に行われることはどれか？「Transformer」の「Self-Attention」メカニズムが解決した従来のRNNの問題はどれか？RAGシステムで「ユーザーの質問に最も関連する文書を検索する」際に使うベクターの種類はどれか？Azure OpenAI Serviceのデプロイメント設定で「TPM（Tokens Per Minute）」と「RPM…「Differential Privacy（差分プライバシー）」をMLに適用する主な目的はどれか？Azure MLの「Prompt flow」を使うのに最も適したユースケースはどれか？
IT・クラウド の関連資格
AWS Certified Cloud Practitioner（CLF-C02）
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate（SAA-C03）
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900：Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。