Búsqueda · 31 momentos en 15 episodios
Cecilia GarraffoJuan Carlos GilGastón GiribetFrancis VillatoroBorja Tosarmodelos imagen sin cálculo integralfrancis villatoro modelos de imagenoperaciones matemáticas básicas modeloschatgpt cálculos humanosmodelos lenguaje modificaciones problemas matemáticosfrancis villatoro entrenamiento operaciones matemáticasQuijoteFrancis VillatoroCecilia GarraffoWolframGastón GiribetMixture of ExpertsJuan Carlos GilChatGPTFrankeEcuaciones 2, 3 y 4
Modelos lenguaje modificaciones problemas Matemáticos
Ep530: Estalagmitas; Deepmind; Entrelazamiento y Gravedad; Gravitones; Halloween
30 de octubre de 20257 momentos
Con
0:000:301:001:302:002:303:003:16
Francis Villatoro explica cómo los modelos de lenguaje, al enfrentarse a modificaciones mínimas en problemas matemáticos avanzados, fallan debido a la falta de entrenamiento básico en operaciones matemáticas.
…pero creo que lo que decían era: un humano podría decir que esto, un médico no lo hubiera dicho nunca. Ah, ok, eso distinto. Ingenuos, pero no humanos. Pero capaz porque es otro tipo de conocimiento. Conocimiento, se te rompió el hueso de la tercera mano. Claro, bueno, que de hecho, ¿no? Los modelos de imagen son las cosas más difíciles, pero por ejemplo, sí, perdón, ¿qué ibas a decir, Francis? No iba a decir, Gastón, que lo que te ocurre es que estos modelos nadie les ha enseñado a sumar, ni a restar, ni a dividir, ni a calcular una integral. Solo le han enseñado libros llenos de integrales y de operaciones. Entonces, cuando tú le pides que haga algo con ese tipo de matemática muy avanzada, mientras va copiando lo difícil del libro, lo va haciendo muy bien, porque va copiando lo que aprendió. Pero en el momento en el que tiene que hacer una pequeña modificación en lo que viene en el libro y es cambiar el 2 que viene en el libro porque hay que poner un 3 porque tú has modificado ligeramente el enunciado y ya no es exactamente el del libro, ya no te puede recitar el Quijote los primeros párrafos del Quijote y dártelo literal ahora tiene que operar; en ese momento ya no sabe qué hacer y entonces probabilísticamente elige un número porque nadie le ha enseñado a calcular. Si tú quieres que este tipo de modelos de Lenguaje calculen, conéctalo a Wolfram, a una herramienta de matemática o conéctalo a una herramienta numérica; hay varios. Estos chats GPT se pueden conectar a ese tipo de herramientas y entonces tú le dices: cuando vayas a calcular algo, cálculalo bien con…
Significado #1 · Palabras #1
Juan Carlos Gil explica cómo los autores del artículo introducen modificaciones al modelo de Franke para resolver analíticamente un problema relacionado con el crecimiento de estalactitas.
Habla: Juan Carlos GilPalabras #18modelo de franke estalactitasecuaciones crecimiento invariante frankeconcepto inicializado por franke…respuesta a sus autores, ¿es posible encontrar una solución analítica para un modelo físicamente realista del crecimiento de las estalactitas, como el de Dranke o Modificado, capaz de reproducir y unificar las tres formas que hemos observado en las cuevas? Bueno, así que lo que hacen es partir efectivamente del modelo de Franke, descrito por las ecuaciones 2, 3 y 4 del artículo, y meten tres ideas que, spoiler, darán como resultado que sí consigan resolver analíticamente el problema. La primera es que fuerzan explícitamente el concepto ya inicializado por Franke pero que no estaba explícitamente formulado en sus ecuaciones del crecimiento invariante: que la solución tenga una forma y que se desplace hacia arriba sin cambiar el perfil. Esto lo introducen como una relación de cierre, una de las claves del artículo y que, sin embargo, no está numerada en el artículo. Una relación de cierre que hace que el perfil de la estalagmita ZDR a un tiempo dado menos la posición del ápice sea…
Cecilia Garraffo explica la diferencia entre proporcionar contexto a un modelo de lenguaje y entrenarlo, aclarando que dar contexto implica incluir información dentro del mismo prompt o solicitud.
Habla: Cecilia GarraffoPalabras #12contexto en prompts modelos lenguajeentrenamiento modifica pesos modelosdatos como contexto prompt…a un modelo de lenguaje con contexto, funciona mejor. ¿Qué diferencia hay entre contexto y educar? Si yo quiero una definición, ¿qué es dar contexto? Darle un, lo que se llama prompts es cuando uno le pide algo al chat chipiti, le da como información. Si vos le das contexto, a lo que uno se refiere en general es que le estás dando en el mismo prompt cuando le preguntas algo o cuando le das los datos; le estás diciendo que estos datos son bla bla bla bla y le hablas del contexto en general. Sin embargo, el entrenamiento modifica los pesos, el disparo de las neuronas Claro, en este caso no estamos entrenando, estamos solamente dándole contexto, de hecho encontramos que cuando puedes también armar un modelo que hace, que genera el contexto para darle a este otro modelo Y el artículo, claro, se aprovecha de que…
Cecilia Garraffo plantea una reflexión sobre cómo los humanos piensan, utilizando el texto y las matemáticas como base. Propone la idea de combinar modelos matemáticos con modelos de lenguaje para analizar datos, evitando alimentar directamente a estos últimos con información.
Habla: Cecilia GarraffoSignificado #7 · Palabras #2pensamiento humano texto matemáticamodelo matemático física datosalineación modelo lenguaje datoschatgpt pensamiento matemáticolenguaje natural desarrollo cognitivomatemática montado sobre lenguajeoperaciones números lenguaje ordinariochomskyanos lenguaje natural…el modelo ya viene dado y tú ahora con contexto, sí, todavía con esto porque a mí me parece, no sé, un gusto personal es, no me gusta para nada dar datos en forma a un modelo de lenguaje porque no es pensando, capaz que esto nos lleva quizás a algo un poco Más filosófico, por suerte hay un filósofo en la sala, que es: pensamos, ¿cómo pensamos nosotros? En texto, en matemática. Yo siempre pensé: ok, hagamos un modelo matemático que use física y matemática para analizar los datos y después conectémoslo con un modelo de lenguaje. De alguna manera alineémoslo, pero no le demos los datos a un modelo de lenguaje directamente, porque ¿cómo va a pensar tan bien en matemática un modelo de lenguaje? Y esto es como que está probando lo opuesto, no sé si lo está probando igual, porque las comparaciones ya les digo son un poco injustas, encontré, pero es una buena pregunta, porque hablando en serio, más allá de lo filosófico, nosotros Somos educados con lenguaje ordinario. Somos educados con él o viene de fábrica, volvámonos chomskyanos por un momento; no importa qué, ese es el lenguaje el que tenemos, lenguaje natural. No sé con el tiempo aprendemos la matemática montado sobre ese, empezamos a ponerle nombre a las operaciones y a los números; le ponemos nombre primero luego damos las órdenes de cómo operar con ello, pasa dividiendo en ese lenguaje y luego se nos volverá a ocupar otra parte de nuestra cabeza, pero se nos volverá natural en algún sentido. No sé. Pero en un momento, cuando a uno le hace click la cabeza en algún sentido, uno a veces hasta piensa en ecuaciones sin necesidad de pasarlas a través del lenguaje. Incluso a veces hasta ni siquiera sabría cómo hacerlo, ¿no? ¿O no? Uno se encuentra en su…
Francis Villatoro explica que los modelos de lenguaje no están diseñados para pensar o razonar, sino para almacenar información y procesarla a partir del contexto proporcionado.
Habla: Francis VillatoroSignificado #13modelos lenguaje información contextoaprendizaje astrofísica modelos gigante lenguajeimágenes nuevas contexto conexión lecturaprocesos complicados mecanismos implícitos…de aprender todas las operaciones, por ejemplo todas las tablas, una manera de poder reproducirlo sin tener que guardar tanta información. Bueno, nos fuimos por las ramas; no sé. Sí, nos fuimos por la rama. Sí, este es un artículo muy interesante y un tema. Claro, porque estos son modelos de lenguaje a los que no se les enseña a pensar ni a razonar, solamente se le da información; solo se mete información y se almacena en un formato súper exótico y ahora le pides, le ofreces unas imágenes que quizás nunca ha visto, pero es posible que sí haya tenido en su aprendizaje ese modelo gigante del lenguaje haya tenido información parecida. Es decir, puede que haya leído libros en el aprendizaje de astrofísica en lo que estudien ese tipo de procesos; entonces tú le das unas nuevas imágenes, le das un cierto contexto y el gracias al contexto conecta con lo que leyó y a partir de lo que leyó se pone a funcionar y a procesar esas imágenes y puede hacer procesos mucho más complicados porque al ser más grande tiene implícitos una serie de mecanismos que no tiene un modelo más pequeño. Que no tiene ese tipo de... Yo no lo veo como algo tan extraño que los modelos, los grandes modelos de lenguaje, estos como el Gemini 2.5, no sé cuántos parámetros tiene, pero tiene que ser una barbaridad, una billonada, puedan con información que a priori…
Francis Villatoro explica cómo los modelos de lenguaje, al enfrentarse a modificaciones mínimas en problemas matemáticos avanzados, fallan debido a la falta de entrenamiento básico en operaciones matemáticas.
Habla: Francis VillatoroSignificado #1 · Palabras #1modelos imagen sin cálculo integralfrancis villatoro modelos de imagenoperaciones matemáticas básicas modeloschatgpt cálculos humanosmodelos lenguaje modificaciones problemas matemáticosfrancis villatoro entrenamiento operaciones matemáticas…pero creo que lo que decían era: un humano podría decir que esto, un médico no lo hubiera dicho nunca. Ah, ok, eso distinto. Ingenuos, pero no humanos. Pero capaz porque es otro tipo de conocimiento. Conocimiento, se te rompió el hueso de la tercera mano. Claro, bueno, que de hecho, ¿no? Los modelos de imagen son las cosas más difíciles, pero por ejemplo, sí, perdón, ¿qué ibas a decir, Francis? No iba a decir, Gastón, que lo que te ocurre es que estos modelos nadie les ha enseñado a sumar, ni a restar, ni a dividir, ni a calcular una integral. Solo le han enseñado libros llenos de integrales y de operaciones. Entonces, cuando tú le pides que haga algo con ese tipo de matemática muy avanzada, mientras va copiando lo difícil del libro, lo va haciendo muy bien, porque va copiando lo que aprendió. Pero en el momento en el que tiene que hacer una pequeña modificación en lo que viene en el libro y es cambiar el 2 que viene en el libro porque hay que poner un 3 porque tú has modificado ligeramente el enunciado y ya no es exactamente el del libro, ya no te puede recitar el Quijote los primeros párrafos del Quijote y dártelo literal ahora tiene que operar; en ese momento ya no sabe qué hacer y entonces probabilísticamente elige un número porque nadie le ha enseñado a calcular. Si tú quieres que este tipo de modelos de Lenguaje calculen, conéctalo a Wolfram, a una herramienta de matemática o conéctalo a una herramienta numérica; hay varios. Estos chats GPT se pueden conectar a ese tipo de herramientas y entonces tú le dices: cuando vayas a calcular algo, cálculalo bien con…
Cecilia Garraffo expresa su sorpresa y duda sobre la capacidad de los modelos de lenguaje, cuestionando si estos superan a Wolfram en tareas matemáticas básicas.
Habla: Cecilia GarraffoSignificado #2 · Palabras #13chatgpt cálculos humanosmodelos lenguaje superan humanossumas multiplicaciones modelos lenguajewolfram y modelos lenguaje matemáticasoperaciones nuevas modelos lenguajececilia garraffo duda wolfram…enseñado que 2 más 2 es igual a 4; ha visto, he escrito muchos libros que 2 más 2 es igual a 4, pero ha visto muy pocos libros que 1523 más 5 es 1528 y por tanto esa operación puede que acierte o puede que no. Sin embargo, esto que decís es contrario a lo que Estamos encontrando de alguna manera, porque eso es lo que uno pensaría y por lo que yo quiero generar y desarrollar modelos físicos que voy a alinear con los de lenguaje. Sin embargo, estamos viendo que no, que los de lenguaje hacen mejor esa tarea de suma, multiplicación que no aprendieron explícitamente, aunque sí la aprendieron porque también tienen los. libros de texto que enseñan eso, ¿no? Pero digo, no es que repitan las operaciones que ya vieron pueden hacer operaciones nuevas porque aprendieron de alguna manera aprendieron a reproducir eso no es que se lo acuerdan de memoria no es así y estamos viendo esto que es lo sorprendente es lo contraintuitivo yo hasta hace poquito he estado completamente de acuerdo con lo que estás diciendo sin embargo ahora lo dudo porque estamos viendo que aunque Wolfram está diseñado para eso quizás el modelo de lenguaje sea mejor. A ver, por ejemplo, con Gastón estamos trabajando en un proyecto que me parece muy interesante: que es desarrollar un modelo de inteligencia artificial, de Machine Learning, para encontrar soluciones, agujeros negros en teorías de gravedad diferentes a las de…
Francis Villatoro explica un problema inherente a los nuevos modelos de lenguaje basados en la técnica 'Mixture of Experts', donde el modelo se divide en submodelos para optimizar costes computacionales.
Habla: Francis VillatoroPalabras #8mixture of experts optimización costessubmodelos respuesta preguntas sesgodistribuidor modelos adecuados comportamientomodelo único versus mezcla expertos…en realidad el único experimento justo acá sería el mismo tamaño del modelo de lenguaje. Si lo haces fine-tune con un tema, seguro funciona mejor; es lo mismo que darle contexto de alguna manera. Es un contexto más fino, más cerca del entrenamiento. Hombre. ahí hay un problema con los nuevos grandes modelos de lenguaje que utilizan el míster o el expert la mezcla de muchos expertos que tienes como para ahorrar costes de computación dividen el gran modelo en un grupo de submodelos y hay un distribuidor o varios distribuidores que deciden qué modelos son los más adecuados para responder a tu pregunta y eso puede sesgar mucho de este tipo de comportamiento que se observan cuando el modelo grande es puro y único, si es esta mezcla de expertos no tiene por qué cumplirse ese comportamiento, supongo, no sé Sí, la mezcla de expertos resulta como un modelo en general más robusto que los que tienen solamente un modelo, pero se usa más con modelos más chicos, ¿no? Porque tienes que correrlo muchas veces, es más caro, pero es más robusto porque tenés como una respuesta aún más probabilística de alguna manera; tenés distintas respuestas y siempre elegís el que mejor funciona, pero claro, entonces uno diría, de hecho, uno…