深層学習(ディープラーニング)定義問題
ReLU(Rectified Linear Unit)活性化関数の数式として正しいものはどれですか?
A.f(x) = 1 / (1 + e^(-x))
✗ これはシグモイド関数の数式です。ReLUはシグモイドと異なり、0以下の入力に対しては出力が0になります。
B.f(x) = max(0, x)← 正解
✓ 正解です。ReLU関数は max(0, x) で定義され、負の入力を0に、正の入力はそのまま出力する活性化関数です。
C.f(x) = (e^x - e^(-x)) / (e^x + e^(-x))
✗ これはタンハイプ(双曲線正接)関数の数式です。ReLUはタンハイプより単純で計算効率が高い活性化関数です。
D.f(x) = x / (1 + |x|)
✗ この関数の形式は標準的な活性化関数ではありません。ReLUは単純な max(0, x) の形式です。
「深層学習(ディープラーニング)」の他の問題
ニューラルネットワークの訓練中に勾配消失問題が発生した場合、以下の対策のうち最も直接的な解決策はどれか?CNN(畳み込みニューラルネットワーク)で過学習が顕著に発生した場合、以下の対策のうち最も効果的なのはどれか?RNN(再帰型ニューラルネットワーク)で長期の依存関係をモデル化する必要がある場合、標準的なRNNではなくLSTMやGR…画像分類タスクで訓練データセットが著しく不均衡(あるクラスが極端に少ない)な場合、モデルの性能を改善するために講じるべき…転移学習(Transfer Learning)で大規模な事前訓練済みモデルを利用する際、目的タスクのデータが非常に少ない…自然言語処理でAttention機構を導入した結果、以前のRNNモデルと比べて並列処理性能が向上した理由は何か?