Búsqueda · 24 momentos en 9 episodios
Jorge SánchezNacho TrujilloLuisa AchaerandioIsabel CorderoJosé EdelsteinJuan Carlos GilIgnacio CrespoFrancis VillatoroHéctor SocasGastón Giribetproblema clásico de la barcaanecdota nacho trujillo modelos lenguajerío con oveja lechuga lobomodelo lenguaje lava cocheexperimento mental nacho trujillodistancia 50 metros modelomodelo de lenguaje lava cochefalta de contexto modelo truilloexperimento mental con modelosmodelos lenguaje fallaron lavar cochesimulación comprensión contextual modelos lenguajesofisticación modelo lenguaje apariencia entendimientoNacho TrujilloJuan CarlosElon MuskHabitación ChinaModelos del LenguajeConcienciaYann LeCunLingüística computacionalInteligencia artificialIgnacio CrespoLeCun
Modelo lenguaje lava coche
Con
0:000:301:001:302:002:303:003:303:56
Nacho Trujillo relata un experimento mental reciente donde se le plantea a un modelo de lenguaje la tarea de ir a lavar el coche y este sugiere ir andando, demostrando una falta de comprensión del contexto.
…no son conscientes porque se les hacen test a veces, ¿no? Cada vez más sofisticados o más complicados. Pero bueno, la gente siempre encuentra alguna forma de plantearle a los modelos del lenguaje algunas situaciones; creo que recordarán hace poco, no. Sé si lo comentaron aquí aquella en la que decía que tenía que ir a lavar el coche; se iba en pie o andando. Creo que lo comentaron aquí, ¿no? No, yo creo que Juan Carlos hizo referencia al problema clásico de la barca: que tienes que cruzar un río con una oveja, la lechuga y el lobo o algo así, ¿no? Este es un problema; no, este ha sido famoso en. los últimos meses que es algo así, que se le planteaba al modelo del lenguaje Tengo que ir a lavar mi coche, el sitio de lavado está a 50 metros, ¿cómo voy? ¿Voy en coche o voy andando? Y el modelo del lenguaje te decía, no, vete andando porque estás muy cerca, no sé, claro, sin darse cuenta que lo que querías era lavar tu coche, que era una forma evidente de decir, está respondiendo de forma, no Está respondiendo como un ser humano porque obviamente tienes que llevar tu coche para lavar. Creo que era poner gasolina igual; bueno, la variante del mismo tema, la cuestión era que se identificaba claramente que no estaba entendiendo, o sea, ningún ser humano caería en eso, si tienes que llevar el coche, tienes que llevar el coche. Entonces, claro, eso ahora fallaron durante dos o tres días hasta que incorporaron eso dentro del modelo del lenguaje y ya no fallaban, pero es decir que de alguna manera esto es siempre como que se va sofisticando cada vez más el modelo del lenguaje para incorporar todas aquellas cosas que demuestran que no entienden y dar apariencia de entendimiento. Pero bueno, sin querer entrar más, que me parece que Lo que estabas describiendo era una forma pretérita de describir esta habitación china; probablemente sería una buena... bueno, cuando lo cuentas me parece una descripción de lo que hace un modelo del lenguaje. Es de 1980, por esa época el ejemplo de la…
Significado #1 · Palabras #1
Nacho Trujillo relata un experimento mental reciente donde se le plantea a un modelo de lenguaje la tarea de ir a lavar el coche y este sugiere ir andando, demostrando una falta de comprensión del contexto.
Habla: Nacho TrujilloSignificado #1 · Palabras #1problema clásico de la barcaanecdota nacho trujillo modelos lenguajerío con oveja lechuga lobomodelo lenguaje lava cocheexperimento mental nacho trujillodistancia 50 metros modelomodelo de lenguaje lava cochefalta de contexto modelo truilloexperimento mental con modelosmodelos lenguaje fallaron lavar cochesimulación comprensión contextual modelos lenguajesofisticación modelo lenguaje apariencia entendimiento…no son conscientes porque se les hacen test a veces, ¿no? Cada vez más sofisticados o más complicados. Pero bueno, la gente siempre encuentra alguna forma de plantearle a los modelos del lenguaje algunas situaciones; creo que recordarán hace poco, no. Sé si lo comentaron aquí aquella en la que decía que tenía que ir a lavar el coche; se iba en pie o andando. Creo que lo comentaron aquí, ¿no? No, yo creo que Juan Carlos hizo referencia al problema clásico de la barca: que tienes que cruzar un río con una oveja, la lechuga y el lobo o algo así, ¿no? Este es un problema; no, este ha sido famoso en. los últimos meses que es algo así, que se le planteaba al modelo del lenguaje Tengo que ir a lavar mi coche, el sitio de lavado está a 50 metros, ¿cómo voy? ¿Voy en coche o voy andando? Y el modelo del lenguaje te decía, no, vete andando porque estás muy cerca, no sé, claro, sin darse cuenta que lo que querías era lavar tu coche, que era una forma evidente de decir, está respondiendo de forma, no Está respondiendo como un ser humano porque obviamente tienes que llevar tu coche para lavar. Creo que era poner gasolina igual; bueno, la variante del mismo tema, la cuestión era que se identificaba claramente que no estaba entendiendo, o sea, ningún ser humano caería en eso, si tienes que llevar el coche, tienes que llevar el coche. Entonces, claro, eso ahora fallaron durante dos o tres días hasta que incorporaron eso dentro del modelo del lenguaje y ya no fallaban, pero es decir que de alguna manera esto es siempre como que se va sofisticando cada vez más el modelo del lenguaje para incorporar todas aquellas cosas que demuestran que no entienden y dar apariencia de entendimiento. Pero bueno, sin querer entrar más, que me parece que Lo que estabas describiendo era una forma pretérita de describir esta habitación china; probablemente sería una buena... bueno, cuando lo cuentas me parece una descripción de lo que hace un modelo del lenguaje. Es de 1980, por esa época el ejemplo de la…
Nacho Trujillo introduce una nota adicional sobre la relación entre el experimento mental de la habitación china y los modelos de lenguaje, señalando que estos últimos se centran únicamente en el lenguaje.
Habla: Nacho TrujilloSignificado #9 · Palabras #13habitación china y modelos lenguajemodelos lenguaje se centran lenguajeexperimento mental habitación china…es que solamente vas a tener relaciones entre textos. No vas a poder extraer, desde luego, la percepción de qué es un color, pero eso es otro tema. La cuestión es que no puedes dotar de significado, solamente a través de las relaciones; pero hay algo más, hay Un extra. Y aquí, por añadir otra pequeña nota que creo que es muy interesante: todo el rato que estamos queriendo, por lo menos en este caso de la habitación china y en los modelos del lenguaje, estamos hablando solo del lenguaje. Mientras que pareciera que la conciencia a lo mejor necesita De la corporeidad, de vivir en un mundo físico, más allá de unas reglas gramaticales. Es decir, que a lo mejor sí llegaríamos a esa inteligencia más parecida a la humana cuando estas inteligencias artificiales se les incorporen en un cuerpo. Uno de los…
Ignacio Crespo aporta su perspectiva sobre la relación entre sintaxis y semántica en el lenguaje natural, recordando sus estudios hace 35 años.
Habla: Ignacio CrespoPalabras #12sintaxis y semántica lenguaje naturallingüística computacional modelos metalingüísticoslecun inteligencia artificial modelo del mundoontología representa modelo del mundomodelos del mundo y percepciones externassemántica en modelos de lenguajeontologías informáticas para semánticasmecanismo de atención sin ontología…y que nos habla de los hechos brutos, que a mí me encajan, creo que, bueno, tenemos que trabajar con ellos; no nos queda otra; creo que la consciencia no sería uno de ellos, pero, bueno, evidentemente esto es algo abierto. Bueno, pues lo vamos cerrando. Si puedo aportar alguna pequeña cosita, bueno, esa relación entre la sintaxis y la semántica es lo que han demostrado para el lenguaje natural que no es necesaria los grandes modelos de lenguaje. Cuando yo estudiaba hace 35 años los fundamentos de la comprensión utilizando lingüística computacional y modelos metalingüísticos y metalinguajes, cómo funciona el lenguaje natural, lo que se decía es que la sintaxis no es suficiente, que era necesario una semántica; y por semántica se entendía lo que hoy en día ha popularizado LeCun, la inteligencia artificial, que es un modelo del mundo. Tú tenías que tener una ontología que representara un modelo del mundo. Es lo que Ignacio, perdón, Nacho, ha estado comentando con el tema de que necesitamos los sentidos. Necesitamos percepciones del exterior para obtener ese modelo del mundo. pero ese modelo del mundo era la semántica y lo que han demostrado los modelos de lenguaje en los que yo no introdujo de manera explícita una semántica sabemos los informáticos introducir semánticas mediante un concepto que los informáticos llamamos ontologías no hay una ontología en estos modelos de lenguaje basados en el mecanismo de atención Lo que decía Ignacio Del ejemplo este de ir al lavacoches en la estación de servicio. Bueno, esa pregunta depende de cómo la escribieras, literalmente, cambiar a veces una única preposición, un único verbo de lugar. Hacía que la inteligencia artificial, la mayoría de ellas, la…
Ignacio Crespo explica cómo la nueva tecnología busca dotar a los modelos de lenguaje de un modelo del mundo para adquirir una componente semántica.
Habla: Ignacio CrespoSignificado #15 · Palabras #17modelos lenguaje límite modelo mundoaprendizaje pre-entrenamiento modelos mundotecnología basada construir modelos mundomodelos de lenguaje y correlaciones lingüísticascomponente semántica en sistemas ignacio crespo…porque no se ha puesto de manera explícita y eso también implica una línea que hay ahora en la inteligencia artificial, que hay varios artículos del año 2025 y ahora también en el 2026 que se han vuelto muy populares en los que se está planteando que eso. Va a tener un límite, que esto va a saturar, que va a llegar un momento en que los modelos de lenguaje no van a poder ir más allá porque carecen de modelo del mundo, carecen de semántica y por eso se ha estado desarrollando una nueva tecnología que está basada en construir modelos del mundo y tener un aprendizaje en el pre-entrenamiento, en el aprendizaje aprendo modelos del. Mundo y ahora uso el descubrimiento de correlaciones puramente lingüísticas y puramente relacionales entre vídeos, audio, etc. Todo lo que hacen los modelos de lenguaje, pero sobre un modelo del mundo. De esa manera ya adquiero también esa componente semántica en esos sistemas y es lo que está ahora de moda. Pero yo os digo, ahora mismo los grandes modelos de Lenguaje, como comentaba Nacho, están demostrando claramente que la sintaxis permite resolver el problema de la habitación china. Es decir, la persona y el manual de instrucciones en conjunto pueden aparentar perfectamente un entendimiento del chino; porque…