¿Qué ventajas tiene utilizar la función de activación ReLU frente a la función sigmoide clásica en las redes neuronales?
1. Problema de desaparición del gradiente: el valor máximo de la derivada de la función sigmoidea es 0,25, lo que puede hacer que los gradientes totales sean muy pequeños durante la retropropagación. En cambio, ReLU tiene un gradiente constante 1 para entradas positivas.
2. Eficacia del cálculo: ReLU puede calcularse utilizando max(0, x), más eficiente que las operaciones exponenciales de la función sigmoidea.
3. Velocidad de convergencia: también se ha informado de que el uso de ReLU como función de activación en redes neuronales converge más rápido que el uso de la función sigmoidea.