Búsqueda · 18 momentos en 4 episodios
Francis VillatoroBorja TosarJuan Carlos GilGastón GiribetIgnacio Crespored neuronal multicapa villatorodatos de entrenamiento francis villatorosalida correcta comparada con iVooxerror para corregir parámetros reddescenso del gradiente modifica pesosred neuronal divide conjunto entrenamientoalgoritmo descenso gradiente calcula erroresépocas de entrenamiento de red neuronaldatos de entrenamiento múltiples épocasredes neuronales pequeñas y grandeserror en redes neuronalescurva ideal entrenamiento librososcilaciones error amplitud decrecienteredes neuronales oscilaciones errordinámica no lineal de redesartículos publicados 2025 2026Francis VillatoroPythonPyTorchTensorFlowJAXAntropicIgnacio Crespodécada de los 1940Tomás VilaADNGPT
Amplificación de errores en Redes Neuronales
Ep577: Planeta Enano; Errores en IAs; Romper Agujeros Negros; Habitabilidad Química; Virus y Monos
29 de octubre de 202610 momentos
Con
0:000:301:001:302:002:303:03
Francis Villatoro describe un comportamiento inusual en el error durante el entrenamiento de redes neuronales, contrastándolo con la curva ideal descrita en los libros.
…la dinámica, el comportamiento de la red neuronal multicapa. Cada capa tiene sus matrices y sus vectores. Yo meto una entrada y claro, yo tengo que ajustar, entrenar la red, los parámetros. Yo no sé cuáles son los parámetros correctos, entonces voy. metiendo entradas y las salidas las comparo con los datos de entrenamiento. Yo sé cuál es la salida correcta, pues comparo la salida de la red neuronal con la salida correcta y eso me permite determinar el error que yo uso para corregir el estado actual de los parámetros de la red. Yo opero en un conjunto de pasos de entrenamiento. Básicamente suelo dividir el conjunto de entrenamiento, que suele ser un conjunto grande, en una serie de bloques; y para cada bloque veo cuáles son las salidas de la red neuronal, calculo los errores y uso lo que se llama el gradiente, el algoritmo del descenso del gradiente. Ahora explicaré un poquito de qué va; y uso esos errores para modificar los pesos. Entonces, cada paso yo modifico los pesos y voy repitiendo. Estos pasos hasta que acabo con todo el conjunto de entrenamiento; en ese momento hablo de una época de entrenamiento y normalmente una red neuronal requiere múltiples épocas en las que voy pasando por todos los datos de entrenamiento. Una de las cosas que se había observado en ciertas redes, sobre todo en redes relativamente pequeñas, pero ahora hay evidencia también en una red grande: es que el error de la red durante el entrenamiento. No era monótono. Muchas veces en los libros vemos que el error es alto; el error baja rápidamente. Después se relaja y baja pero mucho más despacio. Es la curva ideal para el entrenamiento. Pero se habían observado muchos casos en los que el error baja y llega un momento en que el error crece, y después vuelve a bajar y crece, y vuelve a bajar y crece, y bueno, sí, la red acaba convergiendo a algo; pues esas oscilaciones son cada vez de menor amplitud y acabo más o menos convergiendo a algo que me permite decir que esta. Red más o menos está entrenada, pero hay redes incluso que este comportamiento oscilatorio no se detiene y se mantiene ad eternum. Entonces se pensaba que era algo debido a la dinámica no lineal de las redes y que la causa tenía que ser una causa como muy exótica. Pero ya en los últimos dos años, en 2025 y en 2026, se han publicado varios artículos que muestran que Este tipo de comportamiento podría tener una explicación muy, muy sencilla y lo sorprendente ha sido un artículo; ya había varias explicaciones publicadas. Lo que pasa es que, como en redes de inteligencia artificial se están publicando a la semana miles de…
Significado #1 · Palabras #14
Francis Villatoro explica que una observación aparentemente sencilla y evidente ya era conocida en el entrenamiento de redes neuronales, refiriéndose a la curva de pérdidas durante el proceso de aprendizaje.
Habla: Francis VillatoroSignificado #14 · Palabras #7curva de pérdidas en redes neuronalesentrenamiento de redes neuronales…que utilizan muchas de ellas en el aprendizaje al menos cuando son redes neuronales pequeñitas no estamos hablando de las grandes. que se usan en las empresas como Antropic o las que nos dan servicio Sí, además es una cosa extremadamente curiosa porque es una Cosa como muy obvia, muy sencilla de entender y sorprende que a nadie se le ocurriera que esto podía ser relevante porque ya se sabía en el entrenamiento de redes neuronales. Muchas veces cuando vemos en libros, etc., la curva de las pérdidas, de la calidad del entrenamiento, del error que comete la red: La red es un Sistema en el que yo meto una entrada, obtengo una salida y en el proceso de entrenamiento la red tiene una serie de parámetros, muchos parámetros, una serie de matrices y vectores que caracterizan la dinámica, el comportamiento de la red neuronal multicapa.…
Francis Villatoro describe un comportamiento inusual en el error durante el entrenamiento de redes neuronales, contrastándolo con la curva ideal descrita en los libros.
Habla: Francis VillatoroSignificado #1 · Palabras #14red neuronal multicapa villatorodatos de entrenamiento francis villatorosalida correcta comparada con iVooxerror para corregir parámetros reddescenso del gradiente modifica pesosred neuronal divide conjunto entrenamientoalgoritmo descenso gradiente calcula erroresépocas de entrenamiento de red neuronaldatos de entrenamiento múltiples épocasredes neuronales pequeñas y grandeserror en redes neuronalescurva ideal entrenamiento librososcilaciones error amplitud decrecienteredes neuronales oscilaciones errordinámica no lineal de redesartículos publicados 2025 2026…la dinámica, el comportamiento de la red neuronal multicapa. Cada capa tiene sus matrices y sus vectores. Yo meto una entrada y claro, yo tengo que ajustar, entrenar la red, los parámetros. Yo no sé cuáles son los parámetros correctos, entonces voy. metiendo entradas y las salidas las comparo con los datos de entrenamiento. Yo sé cuál es la salida correcta, pues comparo la salida de la red neuronal con la salida correcta y eso me permite determinar el error que yo uso para corregir el estado actual de los parámetros de la red. Yo opero en un conjunto de pasos de entrenamiento. Básicamente suelo dividir el conjunto de entrenamiento, que suele ser un conjunto grande, en una serie de bloques; y para cada bloque veo cuáles son las salidas de la red neuronal, calculo los errores y uso lo que se llama el gradiente, el algoritmo del descenso del gradiente. Ahora explicaré un poquito de qué va; y uso esos errores para modificar los pesos. Entonces, cada paso yo modifico los pesos y voy repitiendo. Estos pasos hasta que acabo con todo el conjunto de entrenamiento; en ese momento hablo de una época de entrenamiento y normalmente una red neuronal requiere múltiples épocas en las que voy pasando por todos los datos de entrenamiento. Una de las cosas que se había observado en ciertas redes, sobre todo en redes relativamente pequeñas, pero ahora hay evidencia también en una red grande: es que el error de la red durante el entrenamiento. No era monótono. Muchas veces en los libros vemos que el error es alto; el error baja rápidamente. Después se relaja y baja pero mucho más despacio. Es la curva ideal para el entrenamiento. Pero se habían observado muchos casos en los que el error baja y llega un momento en que el error crece, y después vuelve a bajar y crece, y vuelve a bajar y crece, y bueno, sí, la red acaba convergiendo a algo; pues esas oscilaciones son cada vez de menor amplitud y acabo más o menos convergiendo a algo que me permite decir que esta. Red más o menos está entrenada, pero hay redes incluso que este comportamiento oscilatorio no se detiene y se mantiene ad eternum. Entonces se pensaba que era algo debido a la dinámica no lineal de las redes y que la causa tenía que ser una causa como muy exótica. Pero ya en los últimos dos años, en 2025 y en 2026, se han publicado varios artículos que muestran que Este tipo de comportamiento podría tener una explicación muy, muy sencilla y lo sorprendente ha sido un artículo; ya había varias explicaciones publicadas. Lo que pasa es que, como en redes de inteligencia artificial se están publicando a la semana miles de…
Francis Villatoro explica que las librerías estándar en Python utilizadas para implementar redes neuronales como PyTorch, TensorFlow y JAX no corrigen un problema numérico común.
Habla: Francis VillatoroSignificado #10 · Palabras #5redes neuronales problemita comúnmétodo numérico clases francis villatoroproblema redes neuronales profesionalespytorch tensorflow jax redes neuronalespérdida error red neuronalgradiente sensibilidad salida parámetrosaparición de profundo estimar probabilidades…más caras, menos caras, pero es verdad. O sea, solo lo aplicas en principio cuando se ve que es necesario. Esto es conocido desde que hay bits, vamos. Desde que hay ordenadores, desde que las primeras mujeres empezaron a programar en la década de los 1940. Y entonces esto es un problemita que aparece en muchas circunstancias y aparece, por ejemplo, en redes neuronales. Y es una cosa que uno, yo, que he dado clase de método numérico durante 30 años, pues siempre he pensado que en redes neuronales la gente sabía esto y lo arreglaba. Y resulta que no, que las librerías estándares en Python que se usan más para la implementación de redes neuronales como PyTorch, como TensorFlow, como JAX, no lo tienen implementado; no hacen esta corrección. Y claro, uno puede decir: bueno, pero esa corrección es poco relevante, bueno, poco relevante entre comillas, porque ahora se ha puesto de moda en todas las redes neuronales modernas. Todo lo que llaman apariencia de profundo, se utiliza una manera de estimar probabilidades para los resultados de la salida, que a partir de esas probabilidades yo calculo lo que llaman la pérdida, el error de la red neuronal y con ese error, hago un cálculo de una cosa que se llama el gradiente, la sensibilidad, de la salida a los parámetros de la red; modifico la red. Y cuando yo hago la operación más usada, se llama SoftMax. La idea es utilizar exponenciales. La idea es: la red, a partir de una entrada, me devuelve una salida, y las salidas son una serie de etiquetas que yo he convenido, una serie de números, pues yo qué…
Francis Villatoro explica cómo el uso de exponenciales en redes neuronales puede llevar a que algunos números pequeños desaparezcan y se conviertan en cero debido a grandes diferencias de magnitud.
Habla: Francis VillatoroSignificado #16exponenciales y órdenes de magnitudnúmeros pequeños desaparecen en redes neuronalesgradientes para respuesta correcta red neuronallogik asociado a la probabilidad…un número pequeñito, pero bueno, está bien comparado con 1, pero la exponencial del otro menos 9 ahora es la exponencial de menos 18 y la exponencial de menos 18 en mucha aritmética podría ser 0. Y si usáis aritmética doble, pues pongamos entonces números del orden de 64, que yo tengo 400 categorías y las he ordenado entre el 1 y el 400. Ya tengo una diferencia enorme, 400 órdenes de magnitud cuando aplique las exponenciales. Eso hace que cuando yo aplique las exponenciales, algunos números pequeños desaparecen, se convierten en cero. Esto no es problema, si tengo muchos números, que algunos de ellos se pongan en cero, no hay problema. Pero en el entrenamiento yo trato de calcular esos gradientes para que la respuesta correcta de la red neuronal, claro, la respuesta correcta tiene asociado el mayor logik, es decir, la mayor probabilidad, es decir, con esta normalización la probabilidad Igual a 1 y los demás tienen probabilidades muy pequeñas. Hay circunstancias en las que todas las probabilidades de los demás son muy pequeñas, con lo que cuentan como si fueran cero. Porque yo tengo un número que es 1 dividido entre ese número 1 más todos…
Francis Villatoro explica las consecuencias de obtener valores constantes al calcular probabilidades en redes neuronales, lo que impide la corrección adecuada de los pesos durante el entrenamiento.
Habla: Francis VillatoroSignificado #12gradientes cero en redes neuronalescorrección de pesos entrenamiento iVooxefecto slingshot en redes pequeñasoscilaciones efecto onda…tan pequeños que suman 0. Son 0 relativo al 1 en el tamaño de la aritmética que yo estoy usando. El resultado final es que obtengo 1 dividido entre 1. Pero claro, 1 dividido entre 1 es un valor constante. Cuando calculo los gradientes, los gradientes son 0 y. entonces cuando yo tendría que corregir en el entrenamiento los pesos para que se ajustara mejor la red, resulta que no puedo corregir el gradiente asociado al valor correcto; no lo puedo corregir porque todos los gradientes son cero y puedo corregir, sin embargo, todos los demás. Además, cuando hago los gradientes respecto a todos los demás valores, valores incorrectos, sí corrijo esos valores. Lo que pasa es que ahora los gradientes no suman igual a cero porque me falta uno de ellos. La diferencia es pequeña, ¿vale? Sí, es pequeña, pero ya no es cero. Y esto que parece una cosa como de menor importancia, son cositas pequeñas, no importa; lo que provoca se ha observado en los experimentos que han mostrado con redes relativamente pequeñas, es que aparezcan esas oscilaciones: esas oscilaciones que se le llamaban el efecto onda, el efecto slingshot. Eso en español se le llama también, ¿cómo se le llama? Tirachinas, ¿no? Tirachina, exactamente; el efecto tirachina, es decir, una cosa que no se sabía muy bien qué causa tenía, resulta que la causa es la aritmética, las cancelaciones catastróficas, la…
Francis Villatoro describe un problema observado durante el entrenamiento de redes neuronales, donde estas pueden volverse inestables y generar errores significativos.
Habla: Francis VillatoroSignificado #7 · Palabras #9errores del 200 en gradientesredes neuronales inestables villatoroentrenamiento de redes relativamente grandes…de memoria por relativamente pequeña, 50.000 millones de tokens, ¿eh? Han observado que aparece este tipo de fenómeno en el proceso de entrenamiento: cuando el entrenamiento tiene muchas épocas, llega un momento en que de repente se va de olla y se va. Y se desvía una barbaridad con errores enormes, errores en los gradientes que pueden llegar a ser del 200%, del 200%, 219% en algunos parámetros. Es una barbaridad, con lo que incluso en el entrenamiento de este tipo de redes relativamente grandes también se observa este fenómeno y la solución es tan sencilla como cambiar unas restas en un cierto lugar y corregirlas. Por cierto, este artículo del 28 de septiembre se publicó antes que el de DeepMind y utiliza la misma técnica de resolver estas diferencias cancelativas, o sea que se ha publicado esto varias veces. Qué curioso, Francis; deja que te pregunte por esto porque…
Francis Villatoro explica que es posible que cierta información no se haya aprendido correctamente durante el entrenamiento de redes neuronales debido a fenómenos indetectables sin un análisis específico.
Habla: Francis VillatoroSignificado #17redes neuronales entrenamiento indetectableanálisis específico redes neuronales…se preocupe, que nosotros esto no lo hemos visto en nuestras redes. Esto lo hemos visto en los ejemplos de juguetes de los demás, ¿no? Pero lo nuestro no lo hemos visto, ¿eh? Es un ataque defensivo. Lo que sí está claro es que nunca lo puedes saber, ¿vale? O sea, si no haces un análisis específico para detectar esto, nunca puedes saber si te ha ocurrido. Entonces es posible que en algunas ocasiones cierta información no se haya, en el entrenamiento no se haya aprendido bien por culpa de este tipo de fenómenos y eso es algo que tú no lo sabes porque está ahí metido, está dentro de la red, solamente de manera controlada en experimentos muy específicos tú puedes llegar a detectar ese tipo de fenómenos. Habrá que seguir investigando eso y Francis, sé que te tienes que ir, pero si quieres añadir algo, quédate un ratito más y a la vuelta de la pausa nos añades el final y te hacemos un par de preguntas, porque hemos llegado a esa hora, a esa hora en la que…
Francis Villatoro explica un problema que surge tras entrenar una red neuronal más grande con más datos, donde esta muestra un rendimiento inferior a modelos anteriores durante la fase de prueba.
Habla: Francis VillatoroSignificado #18red neuronal más grande con datosrendimiento inferior en fase de pruebadesaprender cosas red neuronal…entrenando, todavía no hemos empezado, vamos a empezar ahora, ahora vamos a empezar, en 13 meses lo tendremos, y en 3 meses, todavía no lo tenemos. Y entonces es posible que algunas de esas cuestiones estuvieran relacionadas con este tipo de problemas. Tras entrenar a la red en circunstancias parecidas, una red más grande, con más datos, que supuestamente tiene que ser más poderosa y haber aprendido más cosas, de repente cuando vas a hacer la fase de prueba descubres que ha desaprendido muchísimas cosas y que es peor que la que ya tenías. Esto no lo puedo sacar al mercado ¿Y por qué? ¿Ha ocurrido? Pues lo mismo ha ocurrido por una razón de este tipo. Esto me interesa, y es lo que te quería preguntar antes porque dices que puede que en parte estos retrasos se deban a este error que se ha detectado, y que ya en otros contextos se conocía.…
Francis Villatoro plantea la posibilidad de que existan otros errores no detectados en otras disciplinas que puedan estar afectando el rendimiento de las redes neuronales, a pesar de que los algoritmos son relativamente sencillos.
Habla: Francis VillatoroSignificado #8 · Palabras #18errores no detectados en disciplinasalgoritmos relativamente sencillosredes neuronales y francis villatoro…Esto me interesa, y es lo que te quería preguntar antes porque dices que puede que en parte estos retrasos se deban a este error que se ha detectado, y que ya en otros contextos se conocía. La cosa es que estuvieran al tanto los ingenieros que se dedican. A programar estas redes y a entrenarlas. La pregunta es: si del mismo modo que este error pasaba desapercibido pero se conocía, puede haber otros que se conozcan en otras disciplinas y que estén afectando también aquí y que todavía no se hayan detectado. Es posible. De todas formas, los algoritmos son relativamente sencillos. Los algoritmos de entrenamiento y de funcionamiento de estas redes, o sea, una de las grandes cosas que ha ocurrido en los últimos 15 años es que de todas las cosas de las que había cientos de variantes de los algoritmos, por mera evolución darwiniana, han quedado uno de cada cosa. Y entonces ahora mismo, pues el soft mass, la entropía cruzada, varios algoritmos de gradientes tocasticos, varios algoritmos que se están usando y que eran uno de los muchos que se…
Francis Villatoro continúa explicando cómo la amplificación de errores relacionada con el caos determinista y la sensibilidad a las condiciones iniciales es otro fenómeno relevante en redes neuronales.
Habla: Francis VillatoroSignificado #3 · Palabras #1cancelación catastrófica colapso mutacionalvariabilidad resultados red neuronalsimulaciones proceso naturaleza discretizadaamplificación errores mecanismo desconocidoamplificación de errores en redes neuronalescaos determinista y condiciones inicialesalgoritmo de gradiente converge…a pasar, pero es un coste que tienes ahí, una resta; estás comparando si dos cosas son iguales, estás haciendo unas restas que consumen máquinas. Entonces, mucha gente no lo hace con la confianza de que estas cosas estocásticamente se diluyen y no afectan. Como te veo con ganas de apurar hasta ahí cuarto exacto, si quieres Francis, te doy una pregunta del público que la tenemos por aquí de Tomás Vila. Nos la ha dejado y dice esto: que comentas sobre la cancelación catastrófica puede ser parecido a el colapso mutacional que se aprecia en el ADN cuando con el paso de las generaciones fitness es menor que carga mutacional, o sea, puede introducir entiendo variabilidad en los resultados que sean interesantes, que sean adaptativos para la red neuronal. Hombre, simulaciones de ese proceso sí, pero en lo que es la naturaleza, en principio, la naturaleza que sepamos no está discretizada a la hora de operar; la naturaleza actúa más o menos de manera analógica. Se refiere a que ese mecanismo que yo desconozco bien y no puedo argumentar, también produce una amplificación de los errores, entonces en ese sentido yo creo que La amplificación de los errores asociadas a caos deterministas y al hecho de que tenemos una sensibilidad con las condiciones iniciales, etc., es otro fenómeno y es relevante. En redes normales, por ejemplo, las redes normales se diseñan para que el algoritmo de gradiente converja, eso sí, asumiendo un número infinito de pasos, etc. Pero hay garantías de que ese tipo de no linealidad no aparece. Hay redes normales en las que se aprovecha ese tipo de normalidad, que tienen comportamiento caótico y tú aprovechas esa sensibilidad a las condiciones iniciales para permitir que la red almacene…