Búsqueda · 28 momentos en 17 episodios
Cecilia GarraffoJuan Carlos GilGastón GiribetFrancis VillatoroBorja Tosarmodelos inteligencia artificial procesos cognitivosfunciones máquinas similitud humana introspeccióngastón giribet funcionamiento inteligencia artificialchatgpt versión paga y gratuitaerrores humanos en chatgptjulio oliva evalúa chatgptmariano chernikov cálculos avanzadoserrores chatgpt sesgos contra-promptsolvido factor cálculo chatgptJulio OlivaMariano ChernikovChatGPTGastón GiribetCecilia Garraffosímbolo de Christoffel
ChatGPT cálculos Humanos Gastón Giribet
Ep530: Estalagmitas; Deepmind; Entrelazamiento y Gravedad; Gravitones; Halloween
30 de octubre de 20253 momentos
Con
0:000:301:001:302:002:303:003:16
Gastón Giribet relata una experiencia reciente con Julio Oliva y Mariano Chernikov, donde evaluaron la capacidad de cálculo de ChatGPT en su versión paga y gratuita.
…de aquí no es un bosque, sino que es una piscina Que, bueno, es fascinante Sí, sí, es fascinante que lo logren hacer y que no sepamos cómo lo está haciendo Lo más fascinante ahora mismo es que no tenemos ni idea por qué funcionan, pero funcionan de escándalo Pero no sé nada de todo esto; pero una cosa que me parece fascinante de esto es que encontramos funciones en estas máquinas que nos parecen, no entendemos bien por qué funcionan, pero que no son tan lejanas cuando hacemos una cierta introspección acerca del fin y al cabo nosotros no hacemos lo mismo, ese tipo de cosas, ¿no? A mí me pasó hace poco con un colega chileno, Julio Oliva, que me estaba visitando acá, y otro amigo, Mariano Chernikov Que decidimos jugar un poco de cuál era el poder de cálculo de ChatGPT, de cálculos bastante avanzados, no de cálculos aritméticos simples En la versión paga, en la versión no paga, y jugar un poco en encontrar sus errores Primero que hay una cierta divergencia, una vez que yerra empieza a errar más, hay cierta frecuencia que uno puede ver pero lo que más me sorprendió a mí es lo humano que son los errores que cometen cálculos, son muy humanos los errores, cuando comete un error es Un error que alguien podría cometer, me olvido un factor, un medio, los sesgos de cuando la forma en hacer el contra prompt, digamos decirle: ¿qué raro?, yo esperaba un 32, cómo lo busca, o ¿qué raro?, yo esperaba otro número. Ese tipo de cosas a mí lo que me sorprendía es. Sobre todo cuando pasa del lenguaje al cálculo. Cuando yerra, cuán humano es el horror que comete cuando lo buscas; digamos, es muy humano el horror que comete, eso es quizá más interesante que el que no lo cometa. ¿Cuándo hicieron esto, Gastón? Diciembre. Es…
Significado #1 · Palabras #1
Gastón Giribet reflexiona sobre cómo, en ocasiones, el pensamiento humano se expresa a través de ecuaciones sin necesidad de lenguaje verbal, planteando la posibilidad de que este proceso natural esté intrínsecamente ligado al lenguaje mismo.
Habla: Gastón GiribetSignificado #12ecuaciones sin necesidad lenguaje verbalpensamiento humano ecuaciones gastón giribetproceso natural función del lenguajemáquinas tienen función lenguaje…a las operaciones y a los números; le ponemos nombre primero luego damos las órdenes de cómo operar con ello, pasa dividiendo en ese lenguaje y luego se nos volverá a ocupar otra parte de nuestra cabeza, pero se nos volverá natural en algún sentido. No sé. Pero en un momento, cuando a uno le hace click la cabeza en algún sentido, uno a veces hasta piensa en ecuaciones sin necesidad de pasarlas a través del lenguaje. Incluso a veces hasta ni siquiera sabría cómo hacerlo, ¿no? ¿O no? Uno se encuentra en su mismo... Entonces la pregunta es si ese pasaje natural que nosotros hacemos no es en sí una función del lenguaje mismo y que estas máquinas también lo tienen, ¿no? Pero llega un punto en el que escribís las ecuaciones; pues es muy difícil hacer todo el lenguaje a eso voy, claro, claro, sí, puede ser porque hay un espacio de representación más compacto que quizás, de hecho, creo que esto es solo lo que yo creo, no sé si. Es correcto, pero creo que cuanto uno más pequeño hace un espacio de representación para un modelo dado, más lo obliga a pensar de alguna manera; porque creo que lo que hacemos cuando pensamos es exactamente eso: es tenemos que resumir la información porque…
Gastón Giribet relata una experiencia reciente con Julio Oliva y Mariano Chernikov, donde evaluaron la capacidad de cálculo de ChatGPT en su versión paga y gratuita.
Habla: Gastón GiribetSignificado #1 · Palabras #1modelos inteligencia artificial procesos cognitivosfunciones máquinas similitud humana introspeccióngastón giribet funcionamiento inteligencia artificialchatgpt versión paga y gratuitaerrores humanos en chatgptjulio oliva evalúa chatgptmariano chernikov cálculos avanzadoserrores chatgpt sesgos contra-promptsolvido factor cálculo chatgpt…de aquí no es un bosque, sino que es una piscina Que, bueno, es fascinante Sí, sí, es fascinante que lo logren hacer y que no sepamos cómo lo está haciendo Lo más fascinante ahora mismo es que no tenemos ni idea por qué funcionan, pero funcionan de escándalo Pero no sé nada de todo esto; pero una cosa que me parece fascinante de esto es que encontramos funciones en estas máquinas que nos parecen, no entendemos bien por qué funcionan, pero que no son tan lejanas cuando hacemos una cierta introspección acerca del fin y al cabo nosotros no hacemos lo mismo, ese tipo de cosas, ¿no? A mí me pasó hace poco con un colega chileno, Julio Oliva, que me estaba visitando acá, y otro amigo, Mariano Chernikov Que decidimos jugar un poco de cuál era el poder de cálculo de ChatGPT, de cálculos bastante avanzados, no de cálculos aritméticos simples En la versión paga, en la versión no paga, y jugar un poco en encontrar sus errores Primero que hay una cierta divergencia, una vez que yerra empieza a errar más, hay cierta frecuencia que uno puede ver pero lo que más me sorprendió a mí es lo humano que son los errores que cometen cálculos, son muy humanos los errores, cuando comete un error es Un error que alguien podría cometer, me olvido un factor, un medio, los sesgos de cuando la forma en hacer el contra prompt, digamos decirle: ¿qué raro?, yo esperaba un 32, cómo lo busca, o ¿qué raro?, yo esperaba otro número. Ese tipo de cosas a mí lo que me sorprendía es. Sobre todo cuando pasa del lenguaje al cálculo. Cuando yerra, cuán humano es el horror que comete cuando lo buscas; digamos, es muy humano el horror que comete, eso es quizá más interesante que el que no lo cometa. ¿Cuándo hicieron esto, Gastón? Diciembre. Es…
Gastón Giribet aclara que los errores cometidos por modelos de lenguaje no son incompatibles con experiencias previas y compara estos errores con aquellos comunes en cálculos matemáticos humanos.
Habla: Gastón GiribetSignificado #7 · Palabras #3errores matemáticos humanos ingenuoscálculos humanos factores olvidadosgastón giribet modelos lenguaje erroresmatemática avanzada cálculos ingenuoscálculos christoffel errores humanosgeometrías no lineales teoría relatividadcargas conservadas generalizaciones relatividadmultiplicidad de permutar gastón giribet…cosas muy complicadas, pero cometía errores muy naif. Pero cambiaron mucho los modelos de ese momento, y yo me doy cuenta por interactuar con ellos también; o sea, el nivel de, no sé, de comprensión de alguna manera, cambió muchísimo, de razonamiento, ¿no? No veo que sea incompatible con lo que nosotros veíamos primero, porque nosotros lo vimos estando los tres un poco borrachos y jugando con él, ¿no? Eso es verdad, pero no me refiero a eso. Si no me refiero a que los errores en matemática, fíjate que los errores humanos son bastante ingenuos. Los más frecuentes son olvidarme un factor, un medio, no darme cuenta de aquel factor que no lo tuve en cuenta No dejan de ser aquellos que son errores humanos de cálculo, no dejan de ser cosas ingenuas Fijate, cuando uno calcula, hace matemática muy avanzada, cada vez más Avanzada, en topología diferencial, en geometría algebraica. Los errores que cometés cuando calculás a mano, en calcular símbolo de Christoffel, son errores que identificaría un niño y unos son esos los que cometen. Digo, lo que quiero decir con esto no es incompatible una cosa con la otra, en matemática, en particular. Pero no sé, jugando un poco con eso, incluso le dábamos a calcular cargas conservadas, cosas así, en geometrías, en teorías no lineales, en generalizaciones de teoría de relatividad, cosas así, y encontramos que hacía la parte muy difícil bien, pero cometía errores, por ejemplo, cuando contaba mal la multiplicidad de permutar cosas, que son errores que yo cometo cuando hago eso a mano. Sin embargo, creo, no vi los resultados de este experimento que te cuento, pero creo que lo que decían era: un humano podría decir que esto, un médico no lo hubiera dicho nunca. Ah, ok, eso distinto. Ingenuos, pero no humanos. Pero capaz porque es otro tipo…