Búsqueda · 28 momentos en 17 episodios
Cecilia GarraffoJuan Carlos GilGastón GiribetFrancis VillatoroBorja Tosarchatgpt versión paga y gratuitaerrores humanos en chatgptjulio oliva evalúa chatgptmariano chernikov cálculos avanzadoserrores chatgpt sesgos contra-promptsolvido factor cálculo chatgptchatgpt cálculos humanos gastón giribetexperimento examen médico chatchpití diciembreerrores de lenguaje cálculo chatgptGastón GiribetChatGPTWolframFrancis VillatoroJulio OlivaMariano ChernikovEstados Unidos
Errores conceptuales ChatGPT
Con
0:000:301:001:302:002:303:003:16
Gastón Giribet continúa reflexionando sobre los errores cometidos por modelos de lenguaje como ChatGPT, comparándolos con errores humanos al olvidar factores o sesgos en el proceso de cálculo y la formulación de contra-prompts.
…de esto es que encontramos funciones en estas máquinas que nos parecen, no entendemos bien por qué funcionan, pero que no son tan lejanas cuando hacemos una cierta introspección acerca del fin y al cabo nosotros no hacemos lo mismo, ese tipo de cosas, ¿no? A mí me pasó hace poco con un colega chileno, Julio Oliva, que me estaba visitando acá, y otro amigo, Mariano Chernikov Que decidimos jugar un poco de cuál era el poder de cálculo de ChatGPT, de cálculos bastante avanzados, no de cálculos aritméticos simples En la versión paga, en la versión no paga, y jugar un poco en encontrar sus errores Primero que hay una cierta divergencia, una vez que yerra empieza a errar más, hay cierta frecuencia que uno puede ver pero lo que más me sorprendió a mí es lo humano que son los errores que cometen cálculos, son muy humanos los errores, cuando comete un error es Un error que alguien podría cometer, me olvido un factor, un medio, los sesgos de cuando la forma en hacer el contra prompt, digamos decirle: ¿qué raro?, yo esperaba un 32, cómo lo busca, o ¿qué raro?, yo esperaba otro número. Ese tipo de cosas a mí lo que me sorprendía es. Sobre todo cuando pasa del lenguaje al cálculo. Cuando yerra, cuán humano es el horror que comete cuando lo buscas; digamos, es muy humano el horror que comete, eso es quizá más interesante que el que no lo cometa. ¿Cuándo hicieron esto, Gastón? Diciembre. Es interesante porque hace un año más o menos hicieron el experimento de ver si el chachi pití de ese momento, el más avanzado de ese momento, pasaba el examen habilitante para ser médico en Estados Unidos, y lo pasó. Pero sin embargo lo que sorprendía era casi lo opuesto, que cometía errores muy naif. Ya podía contestar cosas muy complicadas, pero cometía errores muy naif. Pero cambiaron mucho los modelos de ese momento, y yo me doy cuenta por interactuar con ellos…
Significado #1 · Palabras #5
Gastón Giribet continúa reflexionando sobre los errores cometidos por modelos de lenguaje como ChatGPT, comparándolos con errores humanos al olvidar factores o sesgos en el proceso de cálculo y la formulación de contra-prompts.
Habla: Gastón GiribetSignificado #1 · Palabras #5chatgpt versión paga y gratuitaerrores humanos en chatgptjulio oliva evalúa chatgptmariano chernikov cálculos avanzadoserrores chatgpt sesgos contra-promptsolvido factor cálculo chatgptchatgpt cálculos humanos gastón giribetexperimento examen médico chatchpití diciembreerrores de lenguaje cálculo chatgpt…de esto es que encontramos funciones en estas máquinas que nos parecen, no entendemos bien por qué funcionan, pero que no son tan lejanas cuando hacemos una cierta introspección acerca del fin y al cabo nosotros no hacemos lo mismo, ese tipo de cosas, ¿no? A mí me pasó hace poco con un colega chileno, Julio Oliva, que me estaba visitando acá, y otro amigo, Mariano Chernikov Que decidimos jugar un poco de cuál era el poder de cálculo de ChatGPT, de cálculos bastante avanzados, no de cálculos aritméticos simples En la versión paga, en la versión no paga, y jugar un poco en encontrar sus errores Primero que hay una cierta divergencia, una vez que yerra empieza a errar más, hay cierta frecuencia que uno puede ver pero lo que más me sorprendió a mí es lo humano que son los errores que cometen cálculos, son muy humanos los errores, cuando comete un error es Un error que alguien podría cometer, me olvido un factor, un medio, los sesgos de cuando la forma en hacer el contra prompt, digamos decirle: ¿qué raro?, yo esperaba un 32, cómo lo busca, o ¿qué raro?, yo esperaba otro número. Ese tipo de cosas a mí lo que me sorprendía es. Sobre todo cuando pasa del lenguaje al cálculo. Cuando yerra, cuán humano es el horror que comete cuando lo buscas; digamos, es muy humano el horror que comete, eso es quizá más interesante que el que no lo cometa. ¿Cuándo hicieron esto, Gastón? Diciembre. Es interesante porque hace un año más o menos hicieron el experimento de ver si el chachi pití de ese momento, el más avanzado de ese momento, pasaba el examen habilitante para ser médico en Estados Unidos, y lo pasó. Pero sin embargo lo que sorprendía era casi lo opuesto, que cometía errores muy naif. Ya podía contestar cosas muy complicadas, pero cometía errores muy naif. Pero cambiaron mucho los modelos de ese momento, y yo me doy cuenta por interactuar con ellos…
Francis Villatoro explica cómo conectar los modelos de lenguaje como ChatGPT a herramientas matemáticas como Wolfram para evitar errores básicos en cálculos.
Habla: Francis VillatoroSignificado #2 · Palabras #2chatgpt conectado a wolframerrores conceptuales chatgptcálculos básicos chatgpt…recitar el Quijote los primeros párrafos del Quijote y dártelo literal ahora tiene que operar; en ese momento ya no sabe qué hacer y entonces probabilísticamente elige un número porque nadie le ha enseñado a calcular. Si tú quieres que este tipo de modelos de Lenguaje calculen, conéctalo a Wolfram, a una herramienta de matemática o conéctalo a una herramienta numérica; hay varios. Estos chats GPT se pueden conectar a ese tipo de herramientas y entonces tú le dices: cuando vayas a calcular algo, cálculalo bien con esta herramienta y entonces llamará a la herramienta, recibe el resultado de la herramienta y te lo va presentando; y entonces ya no comete errores, ya no comete ese tipo de errores tan tontos, ya comete errores más conceptuales, más de razonamiento; son los errores ya de alto nivel, pero los errores triviales los comete porque nadie le ha enseñado que 2 más 2 es igual a 4; ha visto, he escrito muchos libros que 2 más 2 es igual a 4, pero ha visto muy pocos libros que 1523 más 5 es 1528 y por tanto esa operación puede que acierte o puede que no. Sin embargo, esto que decís es contrario a lo que Estamos encontrando de alguna manera, porque eso es lo que uno pensaría y por lo que yo quiero generar y desarrollar modelos físicos que voy a alinear con los de lenguaje. Sin embargo, estamos viendo que no, que los de lenguaje hacen mejor esa tarea de suma,…