生成AIと大規模言語モデル計算問題
GPTモデルのファインチューニングにおいて、学習率0.0005、バッチサイズ16、8エポック、トレーニング例数320の場合、合計更新ステップ数はいくつか？
A.160← 正解
✓ 正解です。更新ステップ数＝（トレーニング例数／バッチサイズ）×エポック数＝（320÷16）×8＝20×8＝160ステップ。
B.128
✗ この値はバッチ数のみで、エポック数を掛け忘れている。正しくは160ステップ。
C.256
✗ エポック数を誤算している。正しい計算は（320÷16）×8＝160ステップである。
D.2560
✗ トレーニング例数にエポック数を掛けた値であり、バッチサイズによる除算を忘れている。