AI用語計算

自然言語処理(NLP)モデルの学習において、語彙サイズが15,000語、埋め込み次元数が768次元の場合、埋め込み層の重みパラメータ数は何個ですか?

A.11,520,000個← 正解
✓ 正解です。埋め込み層の重みパラメータ数=語彙サイズ×埋め込み次元数=15,000×768=11,520,000個になります。
B.15,000,768個
✗ この値は15,000と768を単純に連結した値のようなもので、埋め込み層のパラメータ数計算として誤っています。
C.15,768個
✗ この値は15,000と768を加算した値であり、乗算によるパラメータ数の計算方法が正しくありません。
D.768個
✗ この値は埋め込み次元数だけを表しており、語彙サイズとの乗算を反映していません。

この問題のポイント

埋め込み層の重みパラメータ数=語彙サイズ×埋め込み次元数=15,000×768=11,520,000個になります。

AI-900:Microsoft Azure AI Fundamentals の問題一覧