生成AI詳細応用
Azure OpenAI ServiceでGPT-4を使用して、顧客サポートチャットボットを構築しています。ユーザーからの質問に対して回答が不正確になっているため、Temperature パラメータを 0.9 から 0.2 に低下させました。この変更により、モデルの出力にはどのような影響が期待されますか?
A.回答の多様性が増し、より創造的で変動性の高い応答が得られる
✗ 逆です。Temperatureを低下させると決定論的になり、多様性は減少します。高いTemperatureが創造性を増します。
B.回答がより決定論的で一貫性が高くなり、ファクトベースのタスクに適切になる← 正解
✓ 正解です。Temperatureを0.2に下げると、モデルは最も確率の高いトークンを選択する傾向が強まり、より一貫性のある正確な応答が得られます。
C.トークン消費量が減少し、API呼び出しコストが大幅に低下する
✗ Temperatureパラメータはトークン消費量に直接的な影響を与えません。これは確率分布に関するパラメータです。
D.回答の生成速度が向上し、レイテンシが改善される
✗ Temperatureの変更は生成速度やレイテンシに影響しません。計算複雑性は変わりません。
この問題のポイント
Temperatureを0.2に下げると、モデルは最も確率の高いトークンを選択する傾向が強まり、より一貫性のある正確な応答が得られます。
「生成AI詳細」の他の問題
IT・クラウド の関連資格
AWS Certified Cloud Practitioner(CLF-C02)
AWSクラウドの入門資格。クラウドの概念・AWSのコアサービス・セキュリティ・料金モデルを問う。
AWS Certified Solutions Architect - Associate(SAA-C03)
AWSでのシステム設計能力を問うアソシエイト資格。高可用性・セキュリティ・コスト最適化の設計が中心。
DP-900:Microsoft Azure Data Fundamentals
Azureのデータサービスの基礎を問うMicrosoft認定資格。リレーショナル/非リレーショナルデータ、分析ワークロード、コアのデータ概念を扱う。