Búsqueda · 32 momentos en 21 episodios
Francis VillatoroBorja TosarJuan Carlos GilGastón GiribetIgnacio Crespoerror en redes neuronalescurva ideal entrenamiento librososcilaciones error amplitud decrecienteFrancis VillatoroAntropicSoftMask
Curva ideal entrenamiento libros
Ep577: Planeta Enano; Errores en IAs; Romper Agujeros Negros; Habitabilidad Química; Virus y Monos
29 de octubre de 20263 momentos
Con
0:000:301:001:302:002:303:03
Francis Villatoro describe un comportamiento inusual en el error durante el entrenamiento de redes neuronales, contrastándolo con la curva ideal descrita en los libros.
…que voy pasando por todos los datos de entrenamiento. Una de las cosas que se había observado en ciertas redes, sobre todo en redes relativamente pequeñas, pero ahora hay evidencia también en una red grande: es que el error de la red durante el entrenamiento. No era monótono. Muchas veces en los libros vemos que el error es alto; el error baja rápidamente. Después se relaja y baja pero mucho más despacio. Es la curva ideal para el entrenamiento. Pero se habían observado muchos casos en los que el error baja y llega un momento en que el error crece, y después vuelve a bajar y crece, y vuelve a bajar y crece, y bueno, sí, la red acaba convergiendo a algo; pues esas oscilaciones son cada vez de menor amplitud y acabo más o menos convergiendo a algo que me permite decir que esta. Red más o menos está entrenada, pero hay redes incluso que este comportamiento oscilatorio no se detiene y se mantiene ad eternum. Entonces se pensaba que era algo debido a la dinámica no lineal de las redes y que la causa tenía que ser una causa como muy…
Significado #1 · Palabras #1
Francis Villatoro explica que una observación aparentemente sencilla y evidente ya era conocida en el entrenamiento de redes neuronales, refiriéndose a la curva de pérdidas durante el proceso de aprendizaje.
Habla: Francis VillatoroSignificado #2 · Palabras #2curva de pérdidas en redes neuronalesentrenamiento de redes neuronales…que utilizan muchas de ellas en el aprendizaje al menos cuando son redes neuronales pequeñitas no estamos hablando de las grandes. que se usan en las empresas como Antropic o las que nos dan servicio Sí, además es una cosa extremadamente curiosa porque es una Cosa como muy obvia, muy sencilla de entender y sorprende que a nadie se le ocurriera que esto podía ser relevante porque ya se sabía en el entrenamiento de redes neuronales. Muchas veces cuando vemos en libros, etc., la curva de las pérdidas, de la calidad del entrenamiento, del error que comete la red: La red es un Sistema en el que yo meto una entrada, obtengo una salida y en el proceso de entrenamiento la red tiene una serie de parámetros, muchos parámetros, una serie de matrices y vectores que caracterizan la dinámica, el comportamiento de la red neuronal multicapa.…
Francis Villatoro describe un comportamiento inusual en el error durante el entrenamiento de redes neuronales, contrastándolo con la curva ideal descrita en los libros.
Habla: Francis VillatoroSignificado #1 · Palabras #1error en redes neuronalescurva ideal entrenamiento librososcilaciones error amplitud decreciente…que voy pasando por todos los datos de entrenamiento. Una de las cosas que se había observado en ciertas redes, sobre todo en redes relativamente pequeñas, pero ahora hay evidencia también en una red grande: es que el error de la red durante el entrenamiento. No era monótono. Muchas veces en los libros vemos que el error es alto; el error baja rápidamente. Después se relaja y baja pero mucho más despacio. Es la curva ideal para el entrenamiento. Pero se habían observado muchos casos en los que el error baja y llega un momento en que el error crece, y después vuelve a bajar y crece, y vuelve a bajar y crece, y bueno, sí, la red acaba convergiendo a algo; pues esas oscilaciones son cada vez de menor amplitud y acabo más o menos convergiendo a algo que me permite decir que esta. Red más o menos está entrenada, pero hay redes incluso que este comportamiento oscilatorio no se detiene y se mantiene ad eternum. Entonces se pensaba que era algo debido a la dinámica no lineal de las redes y que la causa tenía que ser una causa como muy…
Francis Villatoro explica cómo la entropía cruzada se utiliza para estimar el progreso del entrenamiento de redes neuronales, comparando los resultados obtenidos con una distribución de probabilidad conocida.
Habla: Francis VillatoroSignificado #10entropía cruzada entrenamiento redes neuronalessoftmask estimación probabilidades redprogresión entrenamiento distribución probabilidadépocas de entrenamiento información…verdadero a partir de las probabilidades de ese mensaje verdadero. Entonces, lo que me da la entropía cruzada es la cantidad de información que yo he adquirido en este momento del descifrado. Eso en redes neuronales se interpreta como una estimación de la Calidad del entrenamiento. Cuando yo estoy entrenando la red, yo estoy generando resultados y comparo los resultados con los resultados verdaderos, de los cuales sí tengo una distribución de probabilidad. Entonces uso las probabilidades de los resultados verdaderos y las estimaciones, por ejemplo mediante SoftMask, de las probabilidades de los resultados de la red y eso me da, esa correlación, esa entropía cruzada me da una estimación de lo que estoy progresando en mi entrenamiento: si estoy ganando información en cómo estoy procesando, cómo estoy pasando, cómo está evolucionando cada una de las etapas y cada una de las épocas de entrenamiento o si no estoy ganando información. Lo que se observaba en esos procesos en los que El entrenamiento oscilaba, era que la entropía cruzada oscilaba. Yo iba aprendiendo y de repente dejaba de aprender y desaprendía. Y entonces subía la entropía cruzada y después volvía a bajar porque volvía y tenía un comportamiento oscilatorio. Entonces se…