ResNet: por qué 152 capas pueden vencer a 20
Antes de 2015, agregar capas más allá de un punto perjudicaba la precisión, incluso en el conjunto de entrenamiento. Sin sobreajuste: la red simplemente dejó de aprender. A esto se le llamó el problema de la degradación. Él y otros. Lo arregló con una idea: si las capas adicionales no agregan nada útil, déjeles aprender a predecir el cero. Entonces la salida del bloque es igual a la entrada (identidad). Una conexión de salto hace que eso sea trivial, y la pendiente siempre tiene una autopista directa.