Una red neuronal es un grupo de unidades de entrada/salida conectadas, donde cada conexión tiene un peso asociado con sus programas informáticos. Te ayuda a construir modelos predictivos a partir de grandes bases de datos. Este modelo se basa en el sistema nervioso humano. Te ayuda a realizar comprensión de imágenes, aprendizaje humano, habla informática, etc.

La retropropagación en la red neuronal es una forma abreviada de «propagación hacia atrás de errores». Es un método estándar para entrenar redes neuronales artificiales. Este método ayuda a calcular el gradiente de una función de pérdida con respecto a todos los pesos de la red.

En este tutorial, aprenderás:

Las ventajas más destacadas de la retropropagación son:

• La retropropagación es rápida, simple y fácil de programar.
• No tiene parámetros que ajustar aparte de la cantidad de entradas.
• Es un método flexible ya que no requiere conocimientos previos sobre la red.
• Es un método estándar que generalmente funciona bien.
• No necesita ninguna mención especial de las características de la función a aprender.

Una red neuronal de avance es una red neuronal artificial donde los nodos nunca forman un ciclo. Este tipo de red neuronal tiene una capa de entrada, capas ocultas y una capa de salida. Es el primer y más simple tipo de red neuronal artificial.

Dos tipos de redes de retropropagación son:

• Retropropagación estática
• Retropropagación recurrente

Retropropagación estática:

Es un tipo de red de retropropagación que produce un mapeo de una entrada estática a una salida estática. Es útil para resolver problemas de clasificación estática como el reconocimiento óptico de caracteres.

Retropropagación recurrente:

La retropropagación recurrente en la minería de datos avanza hasta que se logra un valor fijo. Después de eso, se calcula el error y se propaga hacia atrás.

La diferencia principal entre ambos métodos es que el mapeo es rápido en la retropropagación estática, mientras que es no estable en la retropropagación recurrente.

• En 1961, los conceptos básicos de la retropropagación continua se derivaron en el contexto de la teoría del control por J. Kelly, Henry Arthur y E. Bryson.
• En 1969, Bryson y Ho dieron un método de optimización de sistemas dinámicos de múltiples etapas.
• En 1974, Werbos mencionó la posibilidad de aplicar este principio en una red neuronal artificial.
• En 1982, Hopfield trajo su idea de una red neuronal.
• En 1986, gracias a los esfuerzos de David E. Rumelhart, Geoffrey E. Hinton, Ronald J. Williams, la retropropagación ganó reconocimiento.
• En 1993, Wan fue la primera persona en ganar un concurso internacional de reconocimiento de patrones con la ayuda del método de retropropagación.

• Simplifica la estructura de la red eliminando conexiones ponderadas que tienen el menor efecto en la red entrenada.
• Necesitas estudiar un grupo de valores de entrada y activación para desarrollar la relación entre la entrada y las capas de unidad oculta.
• Ayuda a evaluar el impacto que una variable de entrada determinada tiene en la salida de una red. El conocimiento adquirido a partir de este análisis debe representarse en reglas.
• La retropropagación es especialmente útil para redes neuronales profundas que trabajan en proyectos propensos a errores, como el reconocimiento de imágenes o voz.
• La retropropagación aprovecha las reglas de la cadena y la potencia para funcionar con cualquier cantidad de salidas.

La retropropagación en la red neuronal se puede explicar con la ayuda de la analogía del «cordón de zapato»

Demasiada tensión =

• No hay suficiente restricción y muy suelta

Demasiada tensión =

• Demasiada restricción (sobreentrenamiento)
• Toma demasiado tiempo (proceso relativamente lento)
• Mayor probabilidad de romperse

Jalar un cordón más que el otro =

• El rendimiento real de la retropropagación en un problema específico depende de los datos de entrada.
• El algoritmo de retropropagación en la minería de datos puede ser bastante sensible a los datos ruidosos.
• Necesitas usar un enfoque basado en matrices para la retropropagación en lugar de mini-lotes.

Resumen

• Una red neuronal es un grupo de unidades de entrada/salida conectadas, donde cada conexión tiene un peso asociado con sus programas informáticos.
• La retropropagación es una forma abreviada de «propagación hacia atrás de errores». Es un método estándar para entrenar redes neuronales artificiales.
• El algoritmo de retropropagación en el aprendizaje automático es rápido, simple y fácil de programar.
• Una red BPN de avance es una red neuronal artificial.
• Dos tipos de redes de retropropagación son 1) Retropropagación estática 2) Retropropagación recurrente
• En 1961, los conceptos básicos de la retropropagación continua se derivaron en el contexto de la teoría del control por J. Kelly, Henry Arthur y E. Bryson.
• La retropropagación en la minería de datos simplifica la estructura de la red eliminando conexiones ponderadas que tienen un efecto mínimo en la red entrenada.
• Es especialmente útil para redes neuronales profundas que trabajan en proyectos propensos a errores, como el reconocimiento de imágenes o voz.
• La mayor desventaja de la retropropagación es que puede ser sensible a los datos ruidosos.