生成AI定義

LLMが一度に処理・記憶できる情報の上限を表す概念で、トークン数で表される指標を何というか?

A.ハルシネーション(Hallucination)
✗ ハルシネーションはモデルが誤情報を生成する現象。情報処理の上限とは無関係。
B.温度(Temperature)
✗ 温度は出力のランダム性を制御するパラメータ。処理できる情報量の概念ではない。
C.コンテキストウィンドウ(Context Window)← 正解
✓ 正解。コンテキストウィンドウはモデルが一度に参照できるトークン数の上限。この範囲を超えた情報は考慮されなくなる。
D.埋め込み(Embedding)
✗ 埋め込みはテキストを数値ベクトルに変換する処理。情報処理の上限を示す概念ではない。

この問題のポイント

コンテキストウィンドウはモデルが一度に参照できるトークン数の上限。この範囲を超えた情報は考慮されなくなる。

AI-900:Microsoft Azure AI Fundamentals の問題一覧