Búsqueda · 34 momentos en 25 episodios
Cecilia GarraffoJuan Carlos GilGastón GiribetFrancis VillatoroBorja Tosarmodelo espacio representación humanosresumir información modelosregla reproducir operaciones estudiadasguardar información tablas modelomodelos lenguaje información contextoaprendizaje astrofísica modelos gigante lenguajeimágenes nuevas contexto conexión lecturaprocesos complicados mecanismos implícitosgemini 2 5 procesa información nuevamodelos grandes lenguaje billonada parámetrosfrancis villatoro modelos de lenguajeCecilia Garraffomodelos de IAFrancis VillatoroGemini 2.5Gastón GiribetChatGPTWolfram
Resumir información modelos
Con
0:000:301:001:302:002:303:003:16
Cecilia Garraffo argumenta que al reducir el espacio de representación para un modelo, se le obliga a 'pensar' o resumir información, imitando la forma en que los humanos procesan datos.
…Pero llega un punto en el que escribís las ecuaciones; pues es muy difícil hacer todo el lenguaje a eso voy, claro, claro, sí, puede ser porque hay un espacio de representación más compacto que quizás, de hecho, creo que esto es solo lo que yo creo, no sé si. Es correcto, pero creo que cuanto uno más pequeño hace un espacio de representación para un modelo dado, más lo obliga a pensar de alguna manera; porque creo que lo que hacemos cuando pensamos es exactamente eso: es tenemos que resumir la información porque no podemos guardar tanta información, entonces tenemos que encontrar una regla que nos permita reproducir lo que estudiamos o lo que vimos en vez de aprender todas las operaciones, por ejemplo todas las tablas, una manera de poder reproducirlo sin tener que guardar tanta información. Bueno, nos fuimos por las ramas; no sé. Sí, nos fuimos por la rama. Sí, este es un artículo muy interesante y un tema. Claro, porque estos son modelos de lenguaje a los que no se les enseña a pensar ni a razonar, solamente se le da información; solo se mete información y se almacena en un formato súper exótico y ahora le pides, le ofreces unas imágenes que quizás nunca ha visto, pero es posible que sí haya tenido en su aprendizaje ese modelo gigante del lenguaje haya tenido información parecida. Es decir, puede que haya leído libros en el aprendizaje de astrofísica en lo que estudien ese tipo de procesos; entonces tú le das unas nuevas imágenes, le das un cierto contexto y el gracias al contexto conecta con lo que leyó y a partir de lo que leyó se pone a funcionar y a procesar esas imágenes y puede hacer procesos mucho más complicados porque al ser más grande tiene implícitos una serie de mecanismos que no tiene un modelo más pequeño. Que no tiene ese tipo de... Yo no lo veo como algo tan extraño que los modelos, los grandes modelos de lenguaje, estos como el Gemini 2.5, no sé cuántos parámetros tiene, pero tiene que ser una barbaridad, una billonada, puedan con información que a priori nunca han visto sobre Todo porque es información científica novedosa que se acaba de publicar y con seguridad no está en el conjunto de entrenamiento. Pero a pesar de ello, este modelo de lenguaje probablemente ha recibido cantidad de libros de astrofísica y conoce una serie de…
Significado #1 · Palabras #1
Cecilia Garraffo explica que se están desarrollando modelos de inteligencia artificial especializados para ciencia debido a las limitaciones de los modelos comunes en cuanto a datos y su capacidad para ofrecer interpretaciones físicas o científicas.
Habla: Cecilia GarraffoSignificado #18modelos inteligencia artificial cienciainterpretación física datos científicosvideo realista escena playamodelos específicos astronomía ciencias atmósfera…que estamos observando, las observaciones son pocas Y también son de otro tipo, no son solo imágenes y no son nunca texto, sino que son espectros o distintos tipos de datos que no son los que estos modelos aceptan Bueno, entonces un montón de gente como yo se empezó a dedicar a diseñar estos modelos de inteligencia artificial específicamente para ciencia Bueno, otra de las razones por las que no nos sirven los modelos comunes, no solo que no aceptan los datos que les damos, porque son distintos datos, de los que tienen la capacidad de aceptar y procesar, sino que también lo que necesitamos que nos devuelvan es una interpretación física o científica de los datos y no una reproducción Estos modelos se especializan a reproducir, por ejemplo, podemos hacer un video muy realista de una escena en la playa Lo podemos reproducir, pero no en entender por qué las olas se mueven de esa manera, es muy difícil interpretarlos Entonces empezamos a desarrollar modelos mucho más específicos, fuimos de esto tan grande a modelos específicamente para astronomía, para ciencias de la atmósfera Bueno, pero ahora con los modelos más nuevos del lenguaje que además, como decía antes, son multimodales, al menos son bimodales, aceptan también imágenes, texto de imágenes, estamos viendo algo que nos sorprende un montón, que es que los modelos más grandes funcionan mejor para tareas específicas que los modelos…
Cecilia Garraffo reflexiona sobre un fenómeno emergente en inteligencia artificial donde un modelo especializado supera a uno generalista, sugiriendo una complejidad aún no comprendida.
Habla: Cecilia GarraffoSignificado #2modelo especializado supera modelo generalistafenómeno emergente inteligencia artificialpatrones de otro tipo en modelostamaño del modelo y complejidad…de entrenar, digamos, uno podría usar algo así. Más aún, podés tomar un modelo, hacerlo como se llama un fine tuning para algo, especializarlo en una tarea y después tomar un modelo más grande que no sabe nada del tema y va a funcionar mejor en la tarea esa. Que el modelo que funciona bien, pero lo especializaste. Es difícil explicar porque es como que gana más información de patrones de otro tipo. No lo entendemos bien. Es un fenómeno emergente quizá del tamaño. Sí, exacto, es como casi que asusta pensando en inteligencia general o el pensamiento o como a uno lo ayudas a ver música para poder pensar. No sé, es como que estos modelos estamos viendo recién ahora este fenómeno. Bueno, este paper que les quería contar. Cuanto más lo leo, menos me parece sorprendente en este mismo contexto, pero la idea acá es: dicen, ok, probamos. O sea, el problema es que los datos de teledetección satelital son complicados y si hacemos modelos, y hay modelos hechos específicamente para…
Cecilia Garraffo describe cómo proporcionar contexto adicional a un modelo de lenguaje, incluyendo imágenes de diferentes partes del espectro coloreadas, mejora su rendimiento en el análisis de imágenes satelitales.
Habla: Cecilia GarraffoSignificado #7imágenes espectro coloreadas análisis satelitalmodelo lenguaje contexto imágenes satelitalesimagen rojo verde azul modelo desventajamás información mejor funcionamiento modelos lenguaje…o sea, uno necesita igual como necesita un científico: démosle las imágenes más relevantes para la pregunta que vamos a hacer y digámosle qué imágenes le estamos dando, qué frecuencia, cómo se obtuvieron, para qué sirven, démosle cuanto más contexto mejor. Pero démosle estas imágenes de otras partes del espectro pintadas con colores, no importa; démosle todas estas imágenes y el contexto y resulta que funciona bastante bien. Una cosa que es rara es que lo comparan con cómo funcionaría ese mismo modelo si solo le diéramos la imagen en rojo, verde y azul, bueno eso es un poco, me parece, está en desventaja, claro. Por eso es obvio que, claro, cuanta más información le des, mejor va a funcionar. Me parece un poco críptico en ese sentido: que no explica, habla de los otros modelos, pero no los muestra, no compara tan explícitamente. El artículo es ultra compacto. Sí, porque esos son los artículos; esto es un artículo, en inteligencia artificial y machine learning. Los artículos que más impacto tienen son los artículos que son proceedings de conferencias de machine learning importantes; es al revés que en física.…
Cecilia Garraffo argumenta que al reducir el espacio de representación para un modelo, se le obliga a 'pensar' o resumir información, imitando la forma en que los humanos procesan datos.
Habla: Cecilia GarraffoSignificado #1 · Palabras #1modelo espacio representación humanosresumir información modelosregla reproducir operaciones estudiadasguardar información tablas modelomodelos lenguaje información contextoaprendizaje astrofísica modelos gigante lenguajeimágenes nuevas contexto conexión lecturaprocesos complicados mecanismos implícitosgemini 2 5 procesa información nuevamodelos grandes lenguaje billonada parámetrosfrancis villatoro modelos de lenguaje…Pero llega un punto en el que escribís las ecuaciones; pues es muy difícil hacer todo el lenguaje a eso voy, claro, claro, sí, puede ser porque hay un espacio de representación más compacto que quizás, de hecho, creo que esto es solo lo que yo creo, no sé si. Es correcto, pero creo que cuanto uno más pequeño hace un espacio de representación para un modelo dado, más lo obliga a pensar de alguna manera; porque creo que lo que hacemos cuando pensamos es exactamente eso: es tenemos que resumir la información porque no podemos guardar tanta información, entonces tenemos que encontrar una regla que nos permita reproducir lo que estudiamos o lo que vimos en vez de aprender todas las operaciones, por ejemplo todas las tablas, una manera de poder reproducirlo sin tener que guardar tanta información. Bueno, nos fuimos por las ramas; no sé. Sí, nos fuimos por la rama. Sí, este es un artículo muy interesante y un tema. Claro, porque estos son modelos de lenguaje a los que no se les enseña a pensar ni a razonar, solamente se le da información; solo se mete información y se almacena en un formato súper exótico y ahora le pides, le ofreces unas imágenes que quizás nunca ha visto, pero es posible que sí haya tenido en su aprendizaje ese modelo gigante del lenguaje haya tenido información parecida. Es decir, puede que haya leído libros en el aprendizaje de astrofísica en lo que estudien ese tipo de procesos; entonces tú le das unas nuevas imágenes, le das un cierto contexto y el gracias al contexto conecta con lo que leyó y a partir de lo que leyó se pone a funcionar y a procesar esas imágenes y puede hacer procesos mucho más complicados porque al ser más grande tiene implícitos una serie de mecanismos que no tiene un modelo más pequeño. Que no tiene ese tipo de... Yo no lo veo como algo tan extraño que los modelos, los grandes modelos de lenguaje, estos como el Gemini 2.5, no sé cuántos parámetros tiene, pero tiene que ser una barbaridad, una billonada, puedan con información que a priori nunca han visto sobre Todo porque es información científica novedosa que se acaba de publicar y con seguridad no está en el conjunto de entrenamiento. Pero a pesar de ello, este modelo de lenguaje probablemente ha recibido cantidad de libros de astrofísica y conoce una serie de…
Gastón Giribet reflexiona sobre la necesidad de mapear un espacio de tópicos para comprender las diferentes formas de pensar y operaciones lógicas que realizan los modelos de inteligencia artificial.
Habla: Gastón GiribetSignificado #17espacio de tópicos inteligencia artificialformas de pensar modelos iaoperaciones lógicas gastón giribet…una máquina que esté entrenada para resolver temas B, pero no temas C, ¿no? Por ejemplo, quiere decir que haya cierta resonancia de problemas. De hecho, en este artículo justamente muestra eso, que para algunos casos no funciona también. Ok, capaz que es eso. Hay como que mapear un espacio de tópicos ahora en los cuales, no sé, diferentes formas de pensar, diferentes operaciones lógicas que haga, no sé, es interesante. Sí, pero ingenuamente si uno sabe cómo esto funciona, uno piensa: ok, no hay ningún misterio, esto uno le da un prompt, va A un espacio de representaciones donde viven cosas y la distancia entre estas cosas en el espacio de representaciones tiene un significado semántico, ¿no? Si estás cerca de algo es porque te pareces en algo más que donde estás puesto. Entonces uno dice, ok,…