Búsqueda · 13 momentos en 1 episodio
Cecilia GarraffoJuan Carlos GilGastón GiribetFrancis VillatoroBorja Tosarchatgpt cálculos humanosmodelos lenguaje superan humanossumas multiplicaciones modelos lenguajewolfram y modelos lenguaje matemáticasoperaciones nuevas modelos lenguajececilia garraffo duda wolframinteligencia artificial gastón giribetagujeros negros teorías einsteinmachine learning gravedad alternativachatgpt soluciones problemas complejosmodelo explicacion respuestas gastón giribetinsatisfacción cecilia garraffo chatgptWolframCecilia GarraffoChatGPTGastón GiribetEstados Unidosastronomía de rayos XIA (Inteligencia Artificial)EinsteinMachine LearningÁviloéJuan Carlos GilContrastive Learningmodelos de IA
Cecilia Garraffo duda Wolfram
Con
0:000:301:001:302:002:303:003:16
Cecilia Garraffo expresa su sorpresa y duda sobre la capacidad de los modelos de lenguaje, cuestionando si estos superan a Wolfram en tareas matemáticas básicas.
…enseñado que 2 más 2 es igual a 4; ha visto, he escrito muchos libros que 2 más 2 es igual a 4, pero ha visto muy pocos libros que 1523 más 5 es 1528 y por tanto esa operación puede que acierte o puede que no. Sin embargo, esto que decís es contrario a lo que Estamos encontrando de alguna manera, porque eso es lo que uno pensaría y por lo que yo quiero generar y desarrollar modelos físicos que voy a alinear con los de lenguaje. Sin embargo, estamos viendo que no, que los de lenguaje hacen mejor esa tarea de suma, multiplicación que no aprendieron explícitamente, aunque sí la aprendieron porque también tienen los. libros de texto que enseñan eso, ¿no? Pero digo, no es que repitan las operaciones que ya vieron pueden hacer operaciones nuevas porque aprendieron de alguna manera aprendieron a reproducir eso no es que se lo acuerdan de memoria no es así y estamos viendo esto que es lo sorprendente es lo contraintuitivo yo hasta hace poquito he estado completamente de acuerdo con lo que estás diciendo sin embargo ahora lo dudo porque estamos viendo que aunque Wolfram está diseñado para eso quizás el modelo de lenguaje sea mejor. A ver, por ejemplo, con Gastón estamos trabajando en un proyecto que me parece muy interesante: que es desarrollar un modelo de inteligencia artificial, de Machine Learning, para encontrar soluciones, agujeros negros en teorías de gravedad diferentes a las de Einstein, y funciona súper bien. Y ahora me pregunto: si estamos haciendo todo este trabajo. Y vamos y le preguntamos a Yachipiti. Y nos da la solución. Es muy poco satisfactorio. Yo siempre digo que no me importa; que me lo digan y ya está. Pero en realidad, Gastón, ahora estoy repensando eso porque es muy poco satisfactorio que no me diga cómo supo hacerlo; como que te Lo puede decir también. Yo creo que lo que pasa es que se abre un nuevo interés: qué es qué está pasando, por qué pasa. Hay una razón por la que esto pasa, ¿no? La respuesta ingenua será, bueno, qué sé yo; a veces hay una forma más amplia de pensar, como uno…
Significado #1 · Palabras #1
Cecilia Garraffo expresa su acuerdo con Gastón Giribet sobre Áviloé, destacando su inteligencia y la calidad de sus publicaciones científicas.
Habla: Cecilia GarraffoSignificado #8áviloé inteligencia científicapublicaciones científicas de áviloépreguntas agudas de áviloéáviloé exoplanetas agujeros negroscálculos tipo back of the envelopeconservadurismo ciencia colegas ávilo…Avilove; lo he conocido en persona, he tratado con él mínimamente, pero he tratado con él. Es una persona que tiene sus perfiles muy raros, a veces lo que hace, hace daño, y eso es lo que nosotros criticamos, y yo es solo eso lo que critico de él, nada más. Yo estoy de acuerdo con Gastón; de hecho lo conozco a Abilo, me cae muy bien y me parece un tipo súper inteligente. Y no creo que ninguno de los papers que le publican estén mal; yo creo que él no dice nada que esté mal. De hecho, en todas las charlas donde lo veo siempre tiene una pregunta aguda e informada sobre cualquier tema; es impresionante como científico. Yo no creo que haya cosas que están mal; yo creo que especula un poco con el límite de lo que no podemos descartar, pero también es un tipo que tiene otras cosas buenas como compromisos con algunas cuestiones importantes. Para la ciencia, como acceso a la ciencia para todos los niveles, los estratos socioeconómicos y otras virtudes, pero yo también lo respeto muchísimo y lo que hace Loewe cuando cambia de tema, irse de agujeros negros a exoplanetas, que es un tema que conozco bastante bien. Mucha gente se ofende porque hace como estos *back of the envelope*, de servilleta, pero están bien; o sea, es mucho más de lo que la mayoría de los científicos en exoplanetas podría decir de agujeros negros, ¿no? Entonces, en ese sentido y también hay mucha gente que se rasga las vestiduras por las cosas que dice o no dice Ávilo, al menos de mis colegas, y que entiendo que hay cosas que hacen daño, pero hay otras que también tienen un punto cuando dice que la gente es muy conservadora en ciencia. Sí, cierto. Juan Carlos, ¿tú quieres opinar algo o pasamos directamente a tu tema? Bastante lo he ya. Bueno, pues vamos a pasar al artículo que nos va a contar Juan Carlos, que se titula Shapes of Ideal Stalagmites, algo así, formas: la forma o las formas de la estalagmita ideal. El artículo discute tanto estalagmitas como estalactitas; la forma aplica en…
Cecilia Garraffo continúa hablando sobre los avances recientes en inteligencia artificial, específicamente en modelos que procesan imágenes y utilizan técnicas de difusión.
Habla: Cecilia GarraffoSignificado #5modelos generativos técnicas difusióninteligencia artificial modelos procesan imágenesimágenes realistas modelos de difusióncecilia garraffo avances inteligencia artificial…uno cuando todos sabemos que la inteligencia artificial avanzó un montón en los últimos años, revolucionó todo lo que conocemos y que los modelos son cada vez mejores. Es impresionante interactuar con los modelos de lenguaje, como el ChatGPT, por ejemplo. Y también hubo una revolución no solo en modelos de lenguaje, sino en modelos que procesan imágenes. Ahora, con los modelos generativos, creo que el gran salto fue con los modelos de difusión, que no son de difusión como en física, pero viene de ahí la palabra; que uno puede generar imágenes muy realistas, son muy difíciles distinguir de las imágenes reales. Entonces, en estas dos áreas la inteligencia artificial avanzó un montón. Y después hubo otro avance importante, otro como paso grande, que fue conectar estas dos tecnologías, ¿no? Hacer modelos que se llaman de tipo clip, que quiere decir, podemos dado alguna modalidad entender la otra o predecir la otra entre lenguaje e imágenes…
Cecilia Garraffo explica las limitaciones actuales de la inteligencia artificial en aplicaciones científicas específicas, particularmente en astronomía y teledetección satelital.
Habla: Cecilia GarraffoSignificado #2inteligencia artificial aplicaciones científicasmodelos generales datos científicos astronomíateledetección satelital paper garraffodatos escasos astronomíaobservaciones pocas espacioespectros datos no aceptados chatgptcecilia garraffo inteligencia artificial…qué imagen queremos Y ahora los modelos de lenguaje como ChatGPT, o ChatGPT en español se dice, aceptan imágenes también Entonces ahora están comunicados los dos modelos y a eso se refiere uno cuando dice multimodal, por ejemplo, modelo multimodal Ahora, la inteligencia artificial avanzó un montón, pero por otro lado, para aplicaciones científicas no fue en general muy útil Estos modelos que usamos todos los días no son lo más útil para ciencia por muchas razones que es lo que hizo que yo me dedicara a esto que me dedico ahora, que es que están entrenados en temas muy generales pero no aplican bien a los datos científicos, en particular en astronomía que es lo que yo me dedico pero aplica también para teledetección satelital que es sobre el paper que les voy a contar un poco. Los datos son escasos de alguna manera, escasos en el sentido en que no podemos tomar muestras muy cercanas la una a la otra, tenemos lo que tenemos, aunque sean muchos son escasos comparados, por ejemplo en astronomía, con el espacio que estamos observando, las observaciones son pocas Y también son de otro tipo, no son solo imágenes y no son nunca texto, sino que son espectros o distintos tipos de datos que no son los que estos modelos aceptan Bueno, entonces un montón de gente como yo se empezó a dedicar a diseñar estos modelos de inteligencia artificial específicamente para ciencia Bueno, otra de las razones por las que no nos sirven los modelos comunes, no solo que no aceptan los datos que les damos, porque son distintos datos, de los…
Cecilia Garraffo reflexiona sobre un fenómeno emergente en inteligencia artificial donde un modelo especializado supera a uno generalista, sugiriendo una complejidad aún no comprendida.
Habla: Cecilia GarraffoSignificado #18modelo especializado supera modelo generalistafenómeno emergente inteligencia artificialpatrones de otro tipo en modelostamaño del modelo y complejidad…de entrenar, digamos, uno podría usar algo así. Más aún, podés tomar un modelo, hacerlo como se llama un fine tuning para algo, especializarlo en una tarea y después tomar un modelo más grande que no sabe nada del tema y va a funcionar mejor en la tarea esa. Que el modelo que funciona bien, pero lo especializaste. Es difícil explicar porque es como que gana más información de patrones de otro tipo. No lo entendemos bien. Es un fenómeno emergente quizá del tamaño. Sí, exacto, es como casi que asusta pensando en inteligencia general o el pensamiento o como a uno lo ayudas a ver música para poder pensar. No sé, es como que estos modelos estamos viendo recién ahora este fenómeno. Bueno, este paper que les quería contar. Cuanto más lo leo, menos me parece sorprendente en este mismo contexto, pero la idea acá es: dicen, ok, probamos. O sea, el problema es que los datos de teledetección satelital son complicados y si hacemos modelos, y hay modelos hechos específicamente para…
Cecilia Garraffo explica cómo la adición de contexto a modelos de lenguaje permite superar a aquellos entrenados con grandes volúmenes de datos satelitales.
Habla: Cecilia GarraffoSignificado #13imágenes satelitales tres canalescolores rojo verde azulmodelos lenguaje contexto garraffo…vos tomas un modelo de lenguaje entrenado con ninguna imagen satelital más que las que uno encuentra en internet que son despreciables comparadas con el volumen de datos en los que se entrenan estos modelos y le das contexto, lo importante acá es el contexto. Si le das contexto, si le decís: tengo estas imágenes satelitales que en realidad son, tienen, en vez de tener como todos los modelos de estos entrenados que uno usa de imágenes, tienen tres canales, se llaman rojo, verde y azul. Que con esos tres colores, por más que nunca entendí por qué no son los colores primarios, pero bueno, uno puede hacer todos los colores entonces es todo lo que necesitas para una imagen en espectro visible de alguna manera. entonces la gente empezó a agregar canales para estos cubos espectrales, lo que quiere decir tener un cubo espectral y este tipo de observaciones es tener una imagen pero en un montón de colores, no solo esos tres, sino colores fuera del rango visible de lo…
Cecilia Garraffo explica la naturaleza de los artículos científicos con impacto en inteligencia artificial y machine learning, contrastándolos con el proceso de publicación en física.
Habla: Cecilia GarraffoSignificado #16artículos proceedings machine learningrate aceptación papers conferencias machine learningabstract charlas física conferencias…claro. Por eso es obvio que, claro, cuanta más información le des, mejor va a funcionar. Me parece un poco críptico en ese sentido: que no explica, habla de los otros modelos, pero no los muestra, no compara tan explícitamente. El artículo es ultra compacto. Sí, porque esos son los artículos; esto es un artículo, en inteligencia artificial y machine learning. Los artículos que más impacto tienen son los artículos que son proceedings de conferencias de machine learning importantes; es al revés que en física. Entonces el rate de aceptación de esos papers es menos del 24% creo en general; es muy difícil que te acepten un paper ahí, en vez de mandar un abstract para dar una charla como uno hace en física en una conferencia. Si aceptan el paper, uno va y da una charla o presenta un póster y te publican ese paper en esa conferencia. Que las conferencias buenas como esta, que es NeurIPS o ICML, hay dos que son las mejores; esta está en una de ellas. Son como lo máximo y tienen un…
Cecilia Garraffo describe un hallazgo propio relacionado con el análisis de datos de astronomía de rayos X, los cuales son complejos y requieren una formación especializada para su interpretación.
Habla: Cecilia GarraffoSignificado #4astronomía rayos x eventos fotonesanálisis datos astronomía rayos xfotón llegó al detector energíacecilia garraffo hallazgo propiomodelo lenguaje contrastive learningtemperatura evento astrofísico observacióncálculos modelos lenguaje datos…los modelos fine-tuneados, o sea, ajustados usando Transfer Learning a tareas específicas. Y esto ya lo sabíamos hace poco: que los modelos más generales y más grandes funcionan mejor en tareas específicas que los modelos específicos o ajustados a una tarea. y es lo que encontramos nosotros también en un paper que todavía no publicamos pero con datos de astronomía rayos X que son datos complicados porque no son imágenes ni texto ni espectros, lo que tiene uno de los rayos X son una lista de eventos de fotones se llaman, es la lista de el tiempo en el que el fotón llegó al detector, el lugar en el detector y la energía del fotón y para interpretar esos datos es bastante, un astrónomo de rayos X, tenés que estar muy entrenado en rayos X y te lleva mucho tiempo y bueno, probamos un modelo que te ayuda a hacer eso, modelos que te ayudan a analizar datos, hay varios, hicimos varios porque estamos muy dedicados a eso, pero lo nuevo es que probamos de unirlo a un Modelo de lenguaje. Y lo más usual en general es hacer algo que se llama Contrastive Learning. Uno tiene un modelo para los datos que te da resultados en tareas de datos, por ejemplo, cuál es la temperatura de esta observación, de este evento astrofísico de esta observación. Bueno, esos son cálculos que uno hace; puede entrenar un Modelo y por otro lado tiene un modelo de lenguaje. Los dos modelos tienen algo que se llama el espacio latente, el espacio de representación. Simplemente es un espacio en donde los datos y el texto están representados de una manera diferente y más compacta.…
Cecilia Garraffo explica la diferencia entre entrenar modelos y proporcionarles contexto, destacando su preferencia por no alimentar modelos de lenguaje con datos estructurados.
Habla: Cecilia GarraffoSignificado #9modelo genera contexto para otro modeloartículo aprovecha modelos entrenados con imágenespesos del modelo ya vienen dadoscecilía garraffo no alimenta datos estructuradospensamiento humano texto matemáticamodelo matemático física datosalineación modelo lenguaje datoschatgpt pensamiento matemático…en general es que le estás dando en el mismo prompt cuando le preguntas algo o cuando le das los datos; le estás diciendo que estos datos son bla bla bla bla y le hablas del contexto en general. Sin embargo, el entrenamiento modifica los pesos, el disparo de las neuronas Claro, en este caso no estamos entrenando, estamos solamente dándole contexto, de hecho encontramos que cuando puedes también armar un modelo que hace, que genera el contexto para darle a este otro modelo Y el artículo, claro, se aprovecha de que utiliza grandes modelos que ya han sido entrenados con mi multitud de imágenes, eso es lo que te ahorras, los pesos, el modelo ya viene dado y tú ahora con contexto, sí, todavía con esto porque a mí me parece, no sé, un gusto personal es, no me gusta para nada dar datos en forma a un modelo de lenguaje porque no es pensando, capaz que esto nos lleva quizás a algo un poco Más filosófico, por suerte hay un filósofo en la sala, que es: pensamos, ¿cómo pensamos nosotros? En texto, en matemática. Yo siempre pensé: ok, hagamos un modelo matemático que use física y matemática para analizar los datos y después conectémoslo con un modelo de lenguaje. De alguna manera alineémoslo, pero no le demos los datos a un modelo de lenguaje directamente, porque ¿cómo va a pensar tan bien en matemática un modelo de lenguaje? Y esto es como que está probando lo opuesto, no sé si lo está probando igual, porque las comparaciones ya les digo son un poco injustas, encontré, pero es una buena pregunta, porque hablando en serio, más allá de lo filosófico, nosotros Somos educados con lenguaje ordinario. Somos educados con él o viene de fábrica, volvámonos chomskyanos por un momento; no importa qué, ese es el lenguaje el que tenemos, lenguaje natural. No sé con el tiempo aprendemos la matemática montado sobre ese,…
Cecilia Garraffo argumenta que al reducir el espacio de representación para un modelo, se le obliga a 'pensar' o resumir información, imitando la forma en que los humanos procesan datos.
Habla: Cecilia GarraffoSignificado #17modelo espacio representación humanosresumir información modelosregla reproducir operaciones estudiadasguardar información tablas modelo…Pero llega un punto en el que escribís las ecuaciones; pues es muy difícil hacer todo el lenguaje a eso voy, claro, claro, sí, puede ser porque hay un espacio de representación más compacto que quizás, de hecho, creo que esto es solo lo que yo creo, no sé si. Es correcto, pero creo que cuanto uno más pequeño hace un espacio de representación para un modelo dado, más lo obliga a pensar de alguna manera; porque creo que lo que hacemos cuando pensamos es exactamente eso: es tenemos que resumir la información porque no podemos guardar tanta información, entonces tenemos que encontrar una regla que nos permita reproducir lo que estudiamos o lo que vimos en vez de aprender todas las operaciones, por ejemplo todas las tablas, una manera de poder reproducirlo sin tener que guardar tanta información. Bueno, nos fuimos por las ramas; no sé. Sí, nos fuimos por la rama. Sí, este es un artículo muy interesante y un tema. Claro, porque estos son modelos de lenguaje a los que no se les enseña a pensar ni a razonar, solamente se le da información; solo se mete información y se almacena en un formato súper exótico y ahora le pides, le ofreces unas imágenes que quizás nunca ha…
Cecilia Garraffo comenta la evolución de los modelos de lenguaje, contrastando su capacidad para responder preguntas complejas con la persistencia de errores básicos.
Habla: Cecilia GarraffoSignificado #3modelos lenguaje errores naifrazonamiento modelos lenguaje cecilia garraffocomprensión modelos lenguaje…¿Cuándo hicieron esto, Gastón? Diciembre. Es interesante porque hace un año más o menos hicieron el experimento de ver si el chachi pití de ese momento, el más avanzado de ese momento, pasaba el examen habilitante para ser médico en Estados Unidos, y lo pasó. Pero sin embargo lo que sorprendía era casi lo opuesto, que cometía errores muy naif. Ya podía contestar cosas muy complicadas, pero cometía errores muy naif. Pero cambiaron mucho los modelos de ese momento, y yo me doy cuenta por interactuar con ellos también; o sea, el nivel de, no sé, de comprensión de alguna manera, cambió muchísimo, de razonamiento, ¿no? No veo que sea incompatible con lo que nosotros veíamos primero, porque nosotros lo vimos estando los tres un poco borrachos y jugando con él, ¿no? Eso es verdad, pero no me refiero a eso. Si no me refiero a que los errores en matemática, fíjate que los…
Cecilia Garraffo comenta sobre un experimento relacionado con modelos de lenguaje y su comparación con errores cometidos por médicos, sugiriendo que estos últimos no cometerían los mismos fallos.
Habla: Cecilia GarraffoSignificado #19experimento modelos lenguaje médicoserrores cometidos por médicosconocimiento hueso de la tercera mano…en generalizaciones de teoría de relatividad, cosas así, y encontramos que hacía la parte muy difícil bien, pero cometía errores, por ejemplo, cuando contaba mal la multiplicidad de permutar cosas, que son errores que yo cometo cuando hago eso a mano. Sin embargo, creo, no vi los resultados de este experimento que te cuento, pero creo que lo que decían era: un humano podría decir que esto, un médico no lo hubiera dicho nunca. Ah, ok, eso distinto. Ingenuos, pero no humanos. Pero capaz porque es otro tipo de conocimiento. Conocimiento, se te rompió el hueso de la tercera mano. Claro, bueno, que de hecho, ¿no? Los modelos de imagen son las cosas más difíciles, pero por ejemplo, sí, perdón, ¿qué ibas a decir, Francis? No iba a decir, Gastón, que lo que te ocurre es que estos modelos nadie les ha enseñado a sumar, ni a restar, ni a…
Cecilia Garraffo expresa su sorpresa y duda sobre la capacidad de los modelos de lenguaje, cuestionando si estos superan a Wolfram en tareas matemáticas básicas.
Habla: Cecilia GarraffoSignificado #1 · Palabras #1chatgpt cálculos humanosmodelos lenguaje superan humanossumas multiplicaciones modelos lenguajewolfram y modelos lenguaje matemáticasoperaciones nuevas modelos lenguajececilia garraffo duda wolframinteligencia artificial gastón giribetagujeros negros teorías einsteinmachine learning gravedad alternativachatgpt soluciones problemas complejosmodelo explicacion respuestas gastón giribetinsatisfacción cecilia garraffo chatgpt…enseñado que 2 más 2 es igual a 4; ha visto, he escrito muchos libros que 2 más 2 es igual a 4, pero ha visto muy pocos libros que 1523 más 5 es 1528 y por tanto esa operación puede que acierte o puede que no. Sin embargo, esto que decís es contrario a lo que Estamos encontrando de alguna manera, porque eso es lo que uno pensaría y por lo que yo quiero generar y desarrollar modelos físicos que voy a alinear con los de lenguaje. Sin embargo, estamos viendo que no, que los de lenguaje hacen mejor esa tarea de suma, multiplicación que no aprendieron explícitamente, aunque sí la aprendieron porque también tienen los. libros de texto que enseñan eso, ¿no? Pero digo, no es que repitan las operaciones que ya vieron pueden hacer operaciones nuevas porque aprendieron de alguna manera aprendieron a reproducir eso no es que se lo acuerdan de memoria no es así y estamos viendo esto que es lo sorprendente es lo contraintuitivo yo hasta hace poquito he estado completamente de acuerdo con lo que estás diciendo sin embargo ahora lo dudo porque estamos viendo que aunque Wolfram está diseñado para eso quizás el modelo de lenguaje sea mejor. A ver, por ejemplo, con Gastón estamos trabajando en un proyecto que me parece muy interesante: que es desarrollar un modelo de inteligencia artificial, de Machine Learning, para encontrar soluciones, agujeros negros en teorías de gravedad diferentes a las de Einstein, y funciona súper bien. Y ahora me pregunto: si estamos haciendo todo este trabajo. Y vamos y le preguntamos a Yachipiti. Y nos da la solución. Es muy poco satisfactorio. Yo siempre digo que no me importa; que me lo digan y ya está. Pero en realidad, Gastón, ahora estoy repensando eso porque es muy poco satisfactorio que no me diga cómo supo hacerlo; como que te Lo puede decir también. Yo creo que lo que pasa es que se abre un nuevo interés: qué es qué está pasando, por qué pasa. Hay una razón por la que esto pasa, ¿no? La respuesta ingenua será, bueno, qué sé yo; a veces hay una forma más amplia de pensar, como uno…
Cecilia Garraffo explica cómo los modelos de lenguaje funcionan como espacios de representación donde la cercanía entre elementos indica similitud semántica.
Habla: Cecilia GarraffoSignificado #14espacio de representaciones similitud semánticaprompt ubicación significado semánticomodelo lenguaje cercanía elementosentrenamiento denso tema específico…de tópicos ahora en los cuales, no sé, diferentes formas de pensar, diferentes operaciones lógicas que haga, no sé, es interesante. Sí, pero ingenuamente si uno sabe cómo esto funciona, uno piensa: ok, no hay ningún misterio, esto uno le da un prompt, va A un espacio de representaciones donde viven cosas y la distancia entre estas cosas en el espacio de representaciones tiene un significado semántico, ¿no? Si estás cerca de algo es porque te pareces en algo más que donde estás puesto. Entonces uno dice, ok, no, no hay nada mágico, le haces un prompt, va al lugar, sabe todo lo que tiene cerca, entiende de qué estás hablando. Entonces, si no sabe mucho de un tema, lo que tenemos que hacer es entrenarlo más densamente en esa área. Pero sin embargo, Puede que no, claro. No, no, es interesante y da miedo. Aunque no sé, porque en realidad el único experimento justo acá sería el mismo tamaño del modelo de lenguaje. Si lo haces fine-tune con un tema, seguro funciona mejor; es lo mismo que darle contexto de…
