ReLU 激活函數的導數定義為： 那麼在函數中存在不連續性的特殊情況呢？?
ReLU 激活函數的導數定義為：
那麼在函數中存在不連續性的特殊情況呢？?
導數是： 並且未定義. 它未定義的原因是它的左導數和右導數不相等。
導數是：
並且未定義.
它未定義的原因是它的左導數和右導數不相等。
引用自：https://stats.stackexchange.com/questions/333394