生成AI応用定義問題

LLMの「コンテキストウィンドウ(Context Window)」の制限を緩和するための手法として適切でないものはどれか?

A.会話履歴を要約して短縮する
✗ 過去の会話を要約してトークン数を削減するのは有効な手法。
B.RAGで関連部分のみをコンテキストに追加する
✗ 関連文書のみを検索して付加することで全文を入れずに済むのは有効な手法。
C.コンテキストウィンドウが大きいモデルに切り替える
✗ GPT-4のようにより大きなコンテキストウィンドウを持つモデルへの移行は直接的な解決策。
D.プロンプトのLanguageをバイナリに変換する← 正解
✓ バイナリ変換は人間が読めない形式でLLMのトークン処理には無意味。不適切な手法。

AI-900:Microsoft Azure AI Fundamentals の問題一覧