深層学習(ディープラーニング)定義問題

ReLU(Rectified Linear Unit)活性化関数の数式として正しいものはどれですか?

A.f(x) = 1 / (1 + e^(-x))
✗ これはシグモイド関数の数式です。ReLUはシグモイドと異なり、0以下の入力に対しては出力が0になります。
B.f(x) = max(0, x)← 正解
✓ 正解です。ReLU関数は max(0, x) で定義され、負の入力を0に、正の入力はそのまま出力する活性化関数です。
C.f(x) = (e^x - e^(-x)) / (e^x + e^(-x))
✗ これはタンハイプ(双曲線正接)関数の数式です。ReLUはタンハイプより単純で計算効率が高い活性化関数です。
D.f(x) = x / (1 + |x|)
✗ この関数の形式は標準的な活性化関数ではありません。ReLUは単純な max(0, x) の形式です。

G検定(深層学習・ジェネラリスト検定) の問題一覧