Búsqueda · 23 momentos en 9 episodios
Francis VillatoroBorja TosarJuan Carlos GilGastón GiribetIgnacio Crespoentrenamiento neuronal google deepmindsecreto industrial entrenamiento neuronalgoogle deepmind guarda detallesGoogle DeepMindFrancis VillatoroAntropicChatGPTCLOTLLaMAviernes 22OpenAI
Secreto industrial entrenamiento neuronal
Ep577: Planeta Enano; Errores en IAs; Romper Agujeros Negros; Habitabilidad Química; Virus y Monos
29 de octubre de 20268 momentos
Con
0:000:301:001:302:002:303:03
Francis Villatoro explica que las grandes compañías como Google DeepMind guardan en secreto los detalles de sus procesos de entrenamiento neuronal.
…que explotan nuestros experimentos son poco comunes en el entrenamiento estándar a gran escala, o sea, consideran que están un poco al margen, que no les afectaría. ¿Hay una división de opiniones respecto a ese paper que nos decías en septiembre? ¿Este? ¿O está claro que afectan? Claro, aquí el gran problema es que las grandes compañías no te lo van a confesar porque esto es... Claro, es eso. Los detalles de lo que hacen en el entrenamiento es alto secreto y no es secreto industrial, ¿no? Y estamos hablando de gente que es de Google DeepMind, que tiene que decir lo que nosotros estamos haciendo está bien, ¿vale? O sea, que nadie se preocupe, que nosotros esto no lo hemos visto en nuestras redes. Esto lo hemos visto en los ejemplos de juguetes de los demás, ¿no? Pero lo nuestro no lo hemos visto, ¿eh? Es un ataque defensivo. Lo que sí está claro es que nunca lo puedes…
Significado #1 · Palabras #1
Francis Villatoro explica cómo funciona el proceso de entrenamiento de una red neuronal, detallando que requiere múltiples épocas para pasar por todos los datos de entrenamiento.
Habla: Francis VillatoroSignificado #17 · Palabras #2curva de pérdidas en redes neuronalesentrenamiento de redes neuronalesparámetros de matrices vectoresentrenamiento de la red neuronalajuste de parámetros durante entrenamientored neuronal multicapa villatorodatos de entrenamiento francis villatorosalida correcta comparada con iVooxerror para corregir parámetros reddescenso del gradiente modifica pesosred neuronal divide conjunto entrenamientoalgoritmo descenso gradiente calcula erroresépocas de entrenamiento de red neuronaldatos de entrenamiento múltiples épocasredes neuronales pequeñas y grandes…que utilizan muchas de ellas en el aprendizaje al menos cuando son redes neuronales pequeñitas no estamos hablando de las grandes. que se usan en las empresas como Antropic o las que nos dan servicio Sí, además es una cosa extremadamente curiosa porque es una Cosa como muy obvia, muy sencilla de entender y sorprende que a nadie se le ocurriera que esto podía ser relevante porque ya se sabía en el entrenamiento de redes neuronales. Muchas veces cuando vemos en libros, etc., la curva de las pérdidas, de la calidad del entrenamiento, del error que comete la red: La red es un Sistema en el que yo meto una entrada, obtengo una salida y en el proceso de entrenamiento la red tiene una serie de parámetros, muchos parámetros, una serie de matrices y vectores que caracterizan la dinámica, el comportamiento de la red neuronal multicapa. Cada capa tiene sus matrices y sus vectores. Yo meto una entrada y claro, yo tengo que ajustar, entrenar la red, los parámetros. Yo no sé cuáles son los parámetros correctos, entonces voy. metiendo entradas y las salidas las comparo con los datos de entrenamiento. Yo sé cuál es la salida correcta, pues comparo la salida de la red neuronal con la salida correcta y eso me permite determinar el error que yo uso para corregir el estado actual de los parámetros de la red. Yo opero en un conjunto de pasos de entrenamiento. Básicamente suelo dividir el conjunto de entrenamiento, que suele ser un conjunto grande, en una serie de bloques; y para cada bloque veo cuáles son las salidas de la red neuronal, calculo los errores y uso lo que se llama el gradiente, el algoritmo del descenso del gradiente. Ahora explicaré un poquito de qué va; y uso esos errores para modificar los pesos. Entonces, cada paso yo modifico los pesos y voy repitiendo. Estos pasos hasta que acabo con todo el conjunto de entrenamiento; en ese momento hablo de una época de entrenamiento y normalmente una red neuronal requiere múltiples épocas en las que voy pasando por todos los datos de entrenamiento. Una de las cosas que se había observado en ciertas redes, sobre todo en redes relativamente pequeñas, pero ahora hay evidencia también en una red grande: es que el error de la red durante el entrenamiento. No era monótono. Muchas veces en los libros vemos que el error es alto; el error baja rápidamente. Después se relaja y baja pero mucho más despacio. Es la curva ideal para el entrenamiento. Pero se habían observado muchos casos en los que el error baja y…
Francis Villatoro explica que tres investigadores de Google DeepMind publicaron una posible explicación para un fenómeno oscilatorio durante el entrenamiento de redes neuronales.
Habla: Francis VillatoroSignificado #13investigadores google deepmind redes neuronalesfenómeno oscilatorio entrenamiento redes neuronalesexplicación fenómeno oscilatorio google deepmind…Lo que pasa es que, como en redes de inteligencia artificial se están publicando a la semana miles de artículos, encontrar artículos que te llamen la atención y que te muestren un comportamiento y que te den una explicación, a veces es muy difícil. ¿Y qué pasa? Pues que el viernes pasado, el viernes 22, tres investigadores de Google DeepMind, y claro, cuando Google DeepMind publica algo se entera todo el mundo, desvelan una posible explicación de este fenómeno oscilatorio en el entrenamiento que es súper convincente porque en los ejemplos que han puesto corrige perfectamente, y además es una cosa como súper lógica. Y es lo que en métodos numéricos llamamos una diferencia cancelativa. La diferencia cancelativa es algo que parece algo tan obvio que hay que tener en cuenta y que todo el mundo se supone que lo tiene en cuenta, que a uno se sorprende de que prácticamente…
Francis Villatoro explica cómo se utiliza la técnica de destilado en el entrenamiento de redes neuronales, aprovechando las respuestas de modelos grandes como ChatGPT o LLaMA.
Habla: Francis VillatoroSignificado #6 · Palabras #5destilado con chatgpt y llamaredes neuronales entrenadas clotentrenamiento acelerado con modelos grandestecnología barata para redes neuronales…¿no? O sea, pero tienen que usar una tecnología un poquito por detrás, una tontería de los Estados Unidos; de hecho ya hay empresas fabricando sus propias GPUs para entrenamiento en China con tecnología que no es de envidia. Pero bueno, en cualquier caso, En ese proceso se utiliza una técnica que se llama destilado; y en el destilado lo que yo hago es que una red neuronal ya entrenada, un gran modelo de lenguaje ya entrenado ChatGPT, CLOT, las grandes empresas, Lama, ya entrenado, me dé la respuesta buena a las preguntas. Entonces yo en la fase de entrenamiento no tengo que, puedo acelerar, digámoslo así, el entrenamiento buscando que las respuestas de mi red, que me cuesta más trabajo entrenar porque tengo una tecnología un poquito más barata para hacerlo, coincida con la que da el modelo grande. Entonces, lo que hacen los chinos, que se supone que lo han hecho y es una cosa que no pueden confesar de verdad, pero bueno, que lo dicen así en plan rumulología, es que supuestamente miles de usuarios chinos están usando la tecnología de Estados Unidos,…
Francis Villatoro explica un proceso de entrenamiento llamado 'entrenamiento por destilado', donde una red neuronal actúa como 'estudiante' y otra más grande como 'profesor'. Describe que el objetivo es comparar las probabilidades de respuesta entre ambas redes.
Habla: Francis VillatoroSignificado #11 · Palabras #16entrenamiento por destilado red neuronalred estudiante compara probabilidades profesorprobabilidades de respuesta en entrenamiento destilado…por el gusto personal de tener ellos en su cuenta Entonces le están preguntando cosas a estas inteligencias artificiales con objeto de comparar esas respuestas con las respuestas que dan sus propias redes neuronales durante la fase de entrenamiento Entonces Se llama un entrenamiento por destilado, un entrenamiento profesor-alumno. Entonces aquí tenemos el mismo problema que antes, lo que pasa es que ahora estamos comparando la probabilidad a las respuestas que ofrece el profesor con la probabilidad que durante el entrenamiento por destilado ofrece el estudiante. Entonces, cuando ambas probabilidades se acercan a uno, me encuentro. Con la diferencia cancelativa. Entonces, lo llaman soft mass cancellation. Es la cancelación de la estimación de probabilidades basada en soft mass en el caso de destilado. Y aquí la solución es prácticamente la misma que se obtiene en el otro caso. Entonces,…
Francis Villatoro aborda la preocupación suscitada en redes sociales sobre los problemas que enfrentan los estudiantes al entrenar redes neuronales pequeñas, contrastándolo con las implicaciones si este problema afectara a empresas como OpenAI.
Habla: Francis VillatoroPalabras #13redes neuronales pequeñas estudiantesentrenamiento openai decenas de miles millonesproblema estudiantes afecta a nadieépocas entrenamiento redes neuronalesgrandes compañías y pocas épocasredes neuronales con parámetros afectan poco…destilado. Y aquí la solución es prácticamente la misma que se obtiene en el otro caso. Entonces, estos son los dos ejemplos en los que ellos han puesto diferentes redes relativamente pequeñas y claro, aquí la gran pregunta es lo que comentaba Ignacio, ¿no? Lo que se ha comentado mucho en redes sociales: ¿Esto realmente nos preocupa? Porque, la verdad, lo que le pase a los estudiantes de mi clase cuando yo les obligue a entrenar redes neuronales relativamente pequeñas, pues le importa un comino a todos nuestros oyentes problema de los estudiantes. Si se encuentra con este tipo de problema, pues es asunto suyo, a nadie más afecta. Pero si esto pasa, por ejemplo, en el entrenamiento de OpenAI, eso significa que el entrenamiento va a costar unos cuantos decenas de miles de millones de dólares más que si esto no pasara, con que el entrenamiento sea más lento. Entonces, claro, uno dice: esto es preocupante. Bueno, claro, lo que te dicen las grandes compañías: no, no nos preocupa. Esto no nos preocupa porque, en realidad, este tipo de entrenamiento de las grandes redes neuronales que utilizan estas grandes compañías utilizan muy pocas épocas de entrenamiento, utilizan poquitas; de hecho, menos de 10 en muchos casos, incluso en algunos casos hasta 3, o sea, porque son redes tan grandes con tal número de parámetros que esto les afecta poco. Entonces, bueno, pues, en principio, estas pequeñas diferencias cancelativas son, entre comillas, irrelevantes para este tipo de problemas. Pero se Ha publicado un artículo, y se publicó en septiembre el 28 de septiembre, o sea, hace un par de semanas. De unos investigadores chinos que utilizan una red que no es pequeña, ¿vale? Una red que no es pequeña para la escala normal: es una red que tiene 450…
Francis Villatoro describe un fenómeno observado durante el entrenamiento de una red neuronal con una cantidad relativamente pequeña de memoria (50.000 millones de tokens). Explica que, al realizar muchas épocas de entrenamiento, la red puede volverse inestable y 'irse de olla'.
Habla: Francis VillatoroSignificado #16 · Palabras #20red neuronal con 50000 millones tokensentrenamiento inestable de red neuronal…de entrenamiento, ¿vale? O sea que es pequeña comparada con las de OpenAI y que tienen billones con B, millones de millones de parámetros, ¿no? Aquí estamos hablando de solo 450 millones, pero 450 millones de parámetros son ya unos cuantos, ¿eh? Requieren... Y lo que han observado en una red en la que estaban entrenando con una cantidad de memoria por relativamente pequeña, 50.000 millones de tokens, ¿eh? Han observado que aparece este tipo de fenómeno en el proceso de entrenamiento: cuando el entrenamiento tiene muchas épocas, llega un momento en que de repente se va de olla y se va. Y se desvía una barbaridad con errores enormes, errores en los gradientes que pueden llegar a ser del 200%, del 200%, 219% en algunos parámetros. Es una barbaridad, con lo que incluso en el entrenamiento de este tipo de redes relativamente grandes también se…
Francis Villatoro explica que las grandes compañías como Google DeepMind guardan en secreto los detalles de sus procesos de entrenamiento neuronal.
Habla: Francis VillatoroSignificado #1 · Palabras #1entrenamiento neuronal google deepmindsecreto industrial entrenamiento neuronalgoogle deepmind guarda detalles…que explotan nuestros experimentos son poco comunes en el entrenamiento estándar a gran escala, o sea, consideran que están un poco al margen, que no les afectaría. ¿Hay una división de opiniones respecto a ese paper que nos decías en septiembre? ¿Este? ¿O está claro que afectan? Claro, aquí el gran problema es que las grandes compañías no te lo van a confesar porque esto es... Claro, es eso. Los detalles de lo que hacen en el entrenamiento es alto secreto y no es secreto industrial, ¿no? Y estamos hablando de gente que es de Google DeepMind, que tiene que decir lo que nosotros estamos haciendo está bien, ¿vale? O sea, que nadie se preocupe, que nosotros esto no lo hemos visto en nuestras redes. Esto lo hemos visto en los ejemplos de juguetes de los demás, ¿no? Pero lo nuestro no lo hemos visto, ¿eh? Es un ataque defensivo. Lo que sí está claro es que nunca lo puedes…
Francis Villatoro explica que es posible que cierta información no se haya aprendido correctamente durante el entrenamiento de redes neuronales debido a fenómenos indetectables sin un análisis específico.
Habla: Francis VillatoroSignificado #5redes neuronales entrenamiento indetectableanálisis específico redes neuronales…se preocupe, que nosotros esto no lo hemos visto en nuestras redes. Esto lo hemos visto en los ejemplos de juguetes de los demás, ¿no? Pero lo nuestro no lo hemos visto, ¿eh? Es un ataque defensivo. Lo que sí está claro es que nunca lo puedes saber, ¿vale? O sea, si no haces un análisis específico para detectar esto, nunca puedes saber si te ha ocurrido. Entonces es posible que en algunas ocasiones cierta información no se haya, en el entrenamiento no se haya aprendido bien por culpa de este tipo de fenómenos y eso es algo que tú no lo sabes porque está ahí metido, está dentro de la red, solamente de manera controlada en experimentos muy específicos tú puedes llegar a detectar ese tipo de fenómenos. Habrá que seguir investigando eso y Francis, sé que te tienes que ir, pero si quieres añadir algo, quédate un ratito más y a la vuelta de la pausa nos añades el final y te hacemos un par de preguntas, porque hemos llegado a esa hora, a esa hora en la que…