生成AI応用計算

Azure OpenAI Serviceを使用したチャットボットシステムで、現在の応答時間は平均4.8秒です。キャッシング機能を導入することで頻出クエリ(全体の35%)の処理時間を1.2秒に短縮できると予想される場合、全体の平均応答時間は何秒に改善されますか?

A.2.96秒
✗ 全応答時間4.8秒の35%を削減値として計算していますが、改善されるのは全クエリのうち35%の部分だけです。
B.3.12秒
✗ キャッシュ非適用部分(65% × 4.8秒 = 3.12秒)のみを答えとしており、キャッシュ適用部分(35% × 1.2秒)を加算していません。
C.3.54秒← 正解
✓ 正解です。改善後の平均応答時間 = (0.35 × 1.2秒) + (0.65 × 4.8秒) = 0.42 + 3.12 = 3.54秒です。
D.4.12秒
✗ 単純に4.8秒から一定値を引く計算方法です。正しくは加重平均で計算する必要があります。

この問題のポイント

改善後の平均応答時間 = (0.35 × 1.2秒) + (0.65 × 4.8秒) = 0.42 + 3.12 = 3.54秒です。

AI-900:Microsoft Azure AI Fundamentals の問題一覧