Búsqueda · 25 momentos en 12 episodios
Cecilia GarraffoJuan Carlos GilGastón GiribetFrancis VillatoroBorja Tosarmodelos imagen sin cálculo integralfrancis villatoro modelos de imagenoperaciones matemáticas básicas modeloschatgpt cálculos humanosmodelos lenguaje modificaciones problemas matemáticosfrancis villatoro entrenamiento operaciones matemáticaschatgpt conectado a wolframerrores conceptuales chatgptcálculos básicos chatgptmodelos lenguaje superan humanossumas multiplicaciones modelos lenguajewolfram y modelos lenguaje matemáticasoperaciones nuevas modelos lenguajececilia garraffo duda wolframWolframCecilia GarraffoFrancis VillatoroChatGPTQuijoteContrastive LearningGastón GiribetJulio OlivaMariano Chernikov
Wolfram y modelos lenguaje Matemáticas
Con
0:000:301:001:302:002:303:003:16
Cecilia Garraffo expresa su sorpresa y duda sobre la capacidad de los modelos de lenguaje, cuestionando si estos superan a Wolfram en tareas matemáticas básicas.
…pero creo que lo que decían era: un humano podría decir que esto, un médico no lo hubiera dicho nunca. Ah, ok, eso distinto. Ingenuos, pero no humanos. Pero capaz porque es otro tipo de conocimiento. Conocimiento, se te rompió el hueso de la tercera mano. Claro, bueno, que de hecho, ¿no? Los modelos de imagen son las cosas más difíciles, pero por ejemplo, sí, perdón, ¿qué ibas a decir, Francis? No iba a decir, Gastón, que lo que te ocurre es que estos modelos nadie les ha enseñado a sumar, ni a restar, ni a dividir, ni a calcular una integral. Solo le han enseñado libros llenos de integrales y de operaciones. Entonces, cuando tú le pides que haga algo con ese tipo de matemática muy avanzada, mientras va copiando lo difícil del libro, lo va haciendo muy bien, porque va copiando lo que aprendió. Pero en el momento en el que tiene que hacer una pequeña modificación en lo que viene en el libro y es cambiar el 2 que viene en el libro porque hay que poner un 3 porque tú has modificado ligeramente el enunciado y ya no es exactamente el del libro, ya no te puede recitar el Quijote los primeros párrafos del Quijote y dártelo literal ahora tiene que operar; en ese momento ya no sabe qué hacer y entonces probabilísticamente elige un número porque nadie le ha enseñado a calcular. Si tú quieres que este tipo de modelos de Lenguaje calculen, conéctalo a Wolfram, a una herramienta de matemática o conéctalo a una herramienta numérica; hay varios. Estos chats GPT se pueden conectar a ese tipo de herramientas y entonces tú le dices: cuando vayas a calcular algo, cálculalo bien con esta herramienta y entonces llamará a la herramienta, recibe el resultado de la herramienta y te lo va presentando; y entonces ya no comete errores, ya no comete ese tipo de errores tan tontos, ya comete errores más conceptuales, más de razonamiento; son los errores ya de alto nivel, pero los errores triviales los comete porque nadie le ha enseñado que 2 más 2 es igual a 4; ha visto, he escrito muchos libros que 2 más 2 es igual a 4, pero ha visto muy pocos libros que 1523 más 5 es 1528 y por tanto esa operación puede que acierte o puede que no. Sin embargo, esto que decís es contrario a lo que Estamos encontrando de alguna manera, porque eso es lo que uno pensaría y por lo que yo quiero generar y desarrollar modelos físicos que voy a alinear con los de lenguaje. Sin embargo, estamos viendo que no, que los de lenguaje hacen mejor esa tarea de suma, multiplicación que no aprendieron explícitamente, aunque sí la aprendieron porque también tienen los. libros de texto que enseñan eso, ¿no? Pero digo, no es que repitan las operaciones que ya vieron pueden hacer operaciones nuevas porque aprendieron de alguna manera aprendieron a reproducir eso no es que se lo acuerdan de memoria no es así y estamos viendo esto que es lo sorprendente es lo contraintuitivo yo hasta hace poquito he estado completamente de acuerdo con lo que estás diciendo sin embargo ahora lo dudo porque estamos viendo que aunque Wolfram está diseñado para eso quizás el modelo de lenguaje sea mejor. A ver, por ejemplo, con Gastón estamos trabajando en un proyecto que me parece muy interesante: que es desarrollar un modelo de inteligencia artificial, de Machine Learning, para encontrar soluciones, agujeros negros en teorías de gravedad diferentes a las de…
Significado #1 · Palabras #1
Cecilia Garraffo explica cómo se utilizan modelos de lenguaje para analizar datos y realizar cálculos como determinar la temperatura de eventos astrofísicos.
Habla: Cecilia GarraffoSignificado #5modelo lenguaje contrastive learningtemperatura evento astrofísico observacióncálculos modelos lenguaje datos…estar muy entrenado en rayos X y te lleva mucho tiempo y bueno, probamos un modelo que te ayuda a hacer eso, modelos que te ayudan a analizar datos, hay varios, hicimos varios porque estamos muy dedicados a eso, pero lo nuevo es que probamos de unirlo a un Modelo de lenguaje. Y lo más usual en general es hacer algo que se llama Contrastive Learning. Uno tiene un modelo para los datos que te da resultados en tareas de datos, por ejemplo, cuál es la temperatura de esta observación, de este evento astrofísico de esta observación. Bueno, esos son cálculos que uno hace; puede entrenar un Modelo y por otro lado tiene un modelo de lenguaje. Los dos modelos tienen algo que se llama el espacio latente, el espacio de representación. Simplemente es un espacio en donde los datos y el texto están representados de una manera diferente y más compacta.…
Cecilia Garraffo explica cómo el uso de modelos de lenguaje grandes con contexto puede superar a los modelos especializados en datos para ciertas tareas.
Habla: Cecilia GarraffoPalabras #16chatgpt cálculos humanosmodelo lenguaje grande contextoprompts chat chipiti información…una manera diferente y más compacta. Cuando uno quiere hacer un modelo multimodal lo más común es usar lo que se llama Contrastive Learning, que es alinear de alguna manera estos dos para tener un modelo que pueda aceptar datos y texto. Nosotros hicimos eso. Pero después encontramos que si probamos con un modelo de lenguaje grande y le damos contexto, en vez de darle los datos a un modelo de datos, dárselos directamente a un modelo de lenguaje con contexto, funciona mejor. ¿Qué diferencia hay entre contexto y educar? Si yo quiero una definición, ¿qué es dar contexto? Darle un, lo que se llama prompts es cuando uno le pide algo al chat chipiti, le da como información. Si vos le das contexto, a lo que uno se refiere en general es que le estás dando en el mismo prompt cuando le preguntas algo o cuando le das los datos; le estás diciendo que estos datos son bla bla bla bla y le hablas del contexto en general. Sin embargo, el…
Cecilia Garraffo plantea una reflexión sobre cómo los humanos piensan, utilizando el texto y las matemáticas como base. Propone la idea de combinar modelos matemáticos con modelos de lenguaje para analizar datos, evitando alimentar directamente a estos últimos con información.
Habla: Cecilia GarraffoSignificado #8 · Palabras #3pensamiento humano texto matemáticamodelo matemático física datosalineación modelo lenguaje datoschatgpt pensamiento matemáticolenguaje natural desarrollo cognitivomatemática montado sobre lenguajeoperaciones números lenguaje ordinariochomskyanos lenguaje natural…el modelo ya viene dado y tú ahora con contexto, sí, todavía con esto porque a mí me parece, no sé, un gusto personal es, no me gusta para nada dar datos en forma a un modelo de lenguaje porque no es pensando, capaz que esto nos lleva quizás a algo un poco Más filosófico, por suerte hay un filósofo en la sala, que es: pensamos, ¿cómo pensamos nosotros? En texto, en matemática. Yo siempre pensé: ok, hagamos un modelo matemático que use física y matemática para analizar los datos y después conectémoslo con un modelo de lenguaje. De alguna manera alineémoslo, pero no le demos los datos a un modelo de lenguaje directamente, porque ¿cómo va a pensar tan bien en matemática un modelo de lenguaje? Y esto es como que está probando lo opuesto, no sé si lo está probando igual, porque las comparaciones ya les digo son un poco injustas, encontré, pero es una buena pregunta, porque hablando en serio, más allá de lo filosófico, nosotros Somos educados con lenguaje ordinario. Somos educados con él o viene de fábrica, volvámonos chomskyanos por un momento; no importa qué, ese es el lenguaje el que tenemos, lenguaje natural. No sé con el tiempo aprendemos la matemática montado sobre ese, empezamos a ponerle nombre a las operaciones y a los números; le ponemos nombre primero luego damos las órdenes de cómo operar con ello, pasa dividiendo en ese lenguaje y luego se nos volverá a ocupar otra parte de nuestra cabeza, pero se nos volverá natural en algún sentido. No sé. Pero en un momento, cuando a uno le hace click la cabeza en algún sentido, uno a veces hasta piensa en ecuaciones sin necesidad de pasarlas a través del lenguaje. Incluso a veces hasta ni siquiera sabría cómo hacerlo, ¿no? ¿O no? Uno se encuentra en su…
Gastón Giribet aclara que los errores cometidos por modelos de lenguaje no son incompatibles con experiencias previas y compara estos errores con aquellos comunes en cálculos matemáticos humanos.
Habla: Gastón GiribetPalabras #10errores matemáticos humanos ingenuoscálculos humanos factores olvidadosgastón giribet modelos lenguaje erroresmatemática avanzada cálculos ingenuos…cosas muy complicadas, pero cometía errores muy naif. Pero cambiaron mucho los modelos de ese momento, y yo me doy cuenta por interactuar con ellos también; o sea, el nivel de, no sé, de comprensión de alguna manera, cambió muchísimo, de razonamiento, ¿no? No veo que sea incompatible con lo que nosotros veíamos primero, porque nosotros lo vimos estando los tres un poco borrachos y jugando con él, ¿no? Eso es verdad, pero no me refiero a eso. Si no me refiero a que los errores en matemática, fíjate que los errores humanos son bastante ingenuos. Los más frecuentes son olvidarme un factor, un medio, no darme cuenta de aquel factor que no lo tuve en cuenta No dejan de ser aquellos que son errores humanos de cálculo, no dejan de ser cosas ingenuas Fijate, cuando uno calcula, hace matemática muy avanzada, cada vez más Avanzada, en topología diferencial, en geometría algebraica. Los errores que cometés cuando calculás a mano, en calcular símbolo de Christoffel, son errores que identificaría un niño y unos son esos los que cometen. Digo, lo que quiero decir con esto no es…
Cecilia Garraffo expresa su sorpresa y duda sobre la capacidad de los modelos de lenguaje, cuestionando si estos superan a Wolfram en tareas matemáticas básicas.
Habla: Cecilia GarraffoSignificado #1 · Palabras #1modelos imagen sin cálculo integralfrancis villatoro modelos de imagenoperaciones matemáticas básicas modeloschatgpt cálculos humanosmodelos lenguaje modificaciones problemas matemáticosfrancis villatoro entrenamiento operaciones matemáticaschatgpt conectado a wolframerrores conceptuales chatgptcálculos básicos chatgptmodelos lenguaje superan humanossumas multiplicaciones modelos lenguajewolfram y modelos lenguaje matemáticasoperaciones nuevas modelos lenguajececilia garraffo duda wolfram…pero creo que lo que decían era: un humano podría decir que esto, un médico no lo hubiera dicho nunca. Ah, ok, eso distinto. Ingenuos, pero no humanos. Pero capaz porque es otro tipo de conocimiento. Conocimiento, se te rompió el hueso de la tercera mano. Claro, bueno, que de hecho, ¿no? Los modelos de imagen son las cosas más difíciles, pero por ejemplo, sí, perdón, ¿qué ibas a decir, Francis? No iba a decir, Gastón, que lo que te ocurre es que estos modelos nadie les ha enseñado a sumar, ni a restar, ni a dividir, ni a calcular una integral. Solo le han enseñado libros llenos de integrales y de operaciones. Entonces, cuando tú le pides que haga algo con ese tipo de matemática muy avanzada, mientras va copiando lo difícil del libro, lo va haciendo muy bien, porque va copiando lo que aprendió. Pero en el momento en el que tiene que hacer una pequeña modificación en lo que viene en el libro y es cambiar el 2 que viene en el libro porque hay que poner un 3 porque tú has modificado ligeramente el enunciado y ya no es exactamente el del libro, ya no te puede recitar el Quijote los primeros párrafos del Quijote y dártelo literal ahora tiene que operar; en ese momento ya no sabe qué hacer y entonces probabilísticamente elige un número porque nadie le ha enseñado a calcular. Si tú quieres que este tipo de modelos de Lenguaje calculen, conéctalo a Wolfram, a una herramienta de matemática o conéctalo a una herramienta numérica; hay varios. Estos chats GPT se pueden conectar a ese tipo de herramientas y entonces tú le dices: cuando vayas a calcular algo, cálculalo bien con esta herramienta y entonces llamará a la herramienta, recibe el resultado de la herramienta y te lo va presentando; y entonces ya no comete errores, ya no comete ese tipo de errores tan tontos, ya comete errores más conceptuales, más de razonamiento; son los errores ya de alto nivel, pero los errores triviales los comete porque nadie le ha enseñado que 2 más 2 es igual a 4; ha visto, he escrito muchos libros que 2 más 2 es igual a 4, pero ha visto muy pocos libros que 1523 más 5 es 1528 y por tanto esa operación puede que acierte o puede que no. Sin embargo, esto que decís es contrario a lo que Estamos encontrando de alguna manera, porque eso es lo que uno pensaría y por lo que yo quiero generar y desarrollar modelos físicos que voy a alinear con los de lenguaje. Sin embargo, estamos viendo que no, que los de lenguaje hacen mejor esa tarea de suma, multiplicación que no aprendieron explícitamente, aunque sí la aprendieron porque también tienen los. libros de texto que enseñan eso, ¿no? Pero digo, no es que repitan las operaciones que ya vieron pueden hacer operaciones nuevas porque aprendieron de alguna manera aprendieron a reproducir eso no es que se lo acuerdan de memoria no es así y estamos viendo esto que es lo sorprendente es lo contraintuitivo yo hasta hace poquito he estado completamente de acuerdo con lo que estás diciendo sin embargo ahora lo dudo porque estamos viendo que aunque Wolfram está diseñado para eso quizás el modelo de lenguaje sea mejor. A ver, por ejemplo, con Gastón estamos trabajando en un proyecto que me parece muy interesante: que es desarrollar un modelo de inteligencia artificial, de Machine Learning, para encontrar soluciones, agujeros negros en teorías de gravedad diferentes a las de…