Búsqueda · 32 momentos en 22 episodios
Cecilia GarraffoJuan Carlos GilGastón GiribetFrancis VillatoroBorja Tosarmixture of experts optimización costessubmodelos respuesta preguntas sesgodistribuidor modelos adecuados comportamientomodelo único versus mezcla expertosmodelos lenguaje mixture expertsagentes especializados preguntasexpertos en todo ventajas desventajasMixture of ExpertsFrancis Villatoromodelos de IACecilia GarraffoChatGPTGastón GiribetMaxwellJuan Carlos Gil
Modelo único versus mezcla expertos
Con
0:000:301:001:302:002:303:003:16
Francis Villatoro explica un problema inherente a los nuevos modelos de lenguaje basados en la técnica 'Mixture of Experts', donde el modelo se divide en submodelos para optimizar costes computacionales.
…en realidad el único experimento justo acá sería el mismo tamaño del modelo de lenguaje. Si lo haces fine-tune con un tema, seguro funciona mejor; es lo mismo que darle contexto de alguna manera. Es un contexto más fino, más cerca del entrenamiento. Hombre. ahí hay un problema con los nuevos grandes modelos de lenguaje que utilizan el míster o el expert la mezcla de muchos expertos que tienes como para ahorrar costes de computación dividen el gran modelo en un grupo de submodelos y hay un distribuidor o varios distribuidores que deciden qué modelos son los más adecuados para responder a tu pregunta y eso puede sesgar mucho de este tipo de comportamiento que se observan cuando el modelo grande es puro y único, si es esta mezcla de expertos no tiene por qué cumplirse ese comportamiento, supongo, no sé Sí, la mezcla de expertos resulta como un modelo en general más robusto que los que tienen solamente un modelo, pero se usa más con modelos más chicos, ¿no? Porque tienes que correrlo muchas veces, es más caro, pero es más robusto porque tenés como una respuesta aún más probabilística de alguna manera; tenés distintas respuestas y siempre elegís el que mejor funciona, pero claro, entonces uno diría, de hecho, uno diría: bueno, se parece un poco a los agentes tengamos expertos en distintas cosas y bueno, vamos a poder contestar todas las preguntas, pero me parece que estamos viendo esto, que no, que es mejor tener un experto en todos en todo que muchos expertos en distintas cosas. Sí, sí, sí, curioso. Es curioso, sí; es como que no sé. Bueno, Cecilia, no te quiero robar mucho más tiempo, tenías una tarea que cumplir, ¿no? Sí, sí, sí, sí, sí, me voy a tener que ir, pero me encantaría, sí, me encantaría volver y seguir charlando. Claro, seguimos hablando;…
Significado #1 · Palabras #1
Cecilia Garraffo reflexiona sobre un fenómeno emergente en inteligencia artificial donde un modelo especializado supera a uno generalista, sugiriendo una complejidad aún no comprendida.
Habla: Cecilia GarraffoSignificado #2modelos bimodales texto imágenesmodelos grandes tareas específicasentrenamiento modelos lenguaje máximofine tuning modelos inteligencia artificialespecialización tareas modelo garraffomodelo grande sin conocimiento tareamodelo especializado supera modelo generalistafenómeno emergente inteligencia artificialpatrones de otro tipo en modelostamaño del modelo y complejidad…manera, es muy difícil interpretarlos Entonces empezamos a desarrollar modelos mucho más específicos, fuimos de esto tan grande a modelos específicamente para astronomía, para ciencias de la atmósfera Bueno, pero ahora con los modelos más nuevos del lenguaje que además, como decía antes, son multimodales, al menos son bimodales, aceptan también imágenes, texto de imágenes, estamos viendo algo que nos sorprende un montón, que es que los modelos más grandes funcionan mejor para tareas específicas que los modelos que fueron construidos específicamente para esa tarea. A ver, uno podría decir, ok, porque los estás armando mal los modelos, ¿no? El que construyó quién puede ser el problema de la gente que los construye Claro, uno podría decir, bueno, es que vos sos el que entrena esto como el culo, digamos, ¿no? Claro, no me lo pongas como esta es la capacidad máxima de la que podemos llegar Bueno, pero uno podría decir, bueno, pero como estoy entrenando de la misma manera Algo para otra cosa, el problema no es en la forma de entrenar, digamos, uno podría usar algo así. Más aún, podés tomar un modelo, hacerlo como se llama un fine tuning para algo, especializarlo en una tarea y después tomar un modelo más grande que no sabe nada del tema y va a funcionar mejor en la tarea esa. Que el modelo que funciona bien, pero lo especializaste. Es difícil explicar porque es como que gana más información de patrones de otro tipo. No lo entendemos bien. Es un fenómeno emergente quizá del tamaño. Sí, exacto, es como casi que asusta pensando en inteligencia general o el pensamiento o como a uno lo ayudas a ver música para poder pensar. No sé, es como que estos modelos estamos viendo recién ahora este fenómeno. Bueno, este paper que les quería contar. Cuanto más lo leo, menos me parece sorprendente en este mismo contexto, pero la idea acá es: dicen, ok, probamos. O sea, el problema es que los datos de teledetección satelital son complicados y si hacemos modelos, y hay modelos hechos específicamente para…
Juan Carlos Gil, tras mencionar un artículo sobre la generación de imágenes falsas a color mediante modelos multimodales, imagina una figura metafórica de Maxwell escuchando cómo se mezclan infrarrojos con la reflexión del agua para crear una imagen que representa una piscina.
Habla: Juan Carlos GilPalabras #14maxwell infrarrojos reflexión aguageneración imágenes falsas modelos multimodalespiscina representación imagen multimodal…bandas y se le suplementa la pseudoimagen con una descripción textual en el contexto de: te voy a dar una imagen que no es una imagen real, es una combinación de la banda no sé qué que es sensible al agua, se le describe con el contexto, eso mola un montón. Me imagino ahí a un diablillo de Maxwell, ¿no? Oyendo, así que me has hecho esto mezclando el infrarrojo con la reflexión del agua Pues esto de aquí no es un bosque, sino que es una piscina Que, bueno, es fascinante Sí, sí, es fascinante que lo logren hacer y que no sepamos cómo lo está haciendo Lo más fascinante ahora mismo es que no tenemos ni idea por qué funcionan, pero funcionan de escándalo Pero no sé nada de todo esto; pero una cosa que me parece fascinante de esto es que encontramos funciones en estas máquinas que nos parecen, no entendemos bien por qué funcionan, pero que no son tan lejanas cuando hacemos una cierta introspección acerca del…
Francis Villatoro explica un problema inherente a los nuevos modelos de lenguaje basados en la técnica 'Mixture of Experts', donde el modelo se divide en submodelos para optimizar costes computacionales.
Habla: Francis VillatoroSignificado #1 · Palabras #1mixture of experts optimización costessubmodelos respuesta preguntas sesgodistribuidor modelos adecuados comportamientomodelo único versus mezcla expertosmodelos lenguaje mixture expertsagentes especializados preguntasexpertos en todo ventajas desventajas…en realidad el único experimento justo acá sería el mismo tamaño del modelo de lenguaje. Si lo haces fine-tune con un tema, seguro funciona mejor; es lo mismo que darle contexto de alguna manera. Es un contexto más fino, más cerca del entrenamiento. Hombre. ahí hay un problema con los nuevos grandes modelos de lenguaje que utilizan el míster o el expert la mezcla de muchos expertos que tienes como para ahorrar costes de computación dividen el gran modelo en un grupo de submodelos y hay un distribuidor o varios distribuidores que deciden qué modelos son los más adecuados para responder a tu pregunta y eso puede sesgar mucho de este tipo de comportamiento que se observan cuando el modelo grande es puro y único, si es esta mezcla de expertos no tiene por qué cumplirse ese comportamiento, supongo, no sé Sí, la mezcla de expertos resulta como un modelo en general más robusto que los que tienen solamente un modelo, pero se usa más con modelos más chicos, ¿no? Porque tienes que correrlo muchas veces, es más caro, pero es más robusto porque tenés como una respuesta aún más probabilística de alguna manera; tenés distintas respuestas y siempre elegís el que mejor funciona, pero claro, entonces uno diría, de hecho, uno diría: bueno, se parece un poco a los agentes tengamos expertos en distintas cosas y bueno, vamos a poder contestar todas las preguntas, pero me parece que estamos viendo esto, que no, que es mejor tener un experto en todos en todo que muchos expertos en distintas cosas. Sí, sí, sí, curioso. Es curioso, sí; es como que no sé. Bueno, Cecilia, no te quiero robar mucho más tiempo, tenías una tarea que cumplir, ¿no? Sí, sí, sí, sí, sí, me voy a tener que ir, pero me encantaría, sí, me encantaría volver y seguir charlando. Claro, seguimos hablando;…