Búsqueda · 24 momentos en 9 episodios
Jorge SánchezNacho TrujilloLuisa AchaerandioIsabel CorderoJosé EdelsteinJuan Carlos GilIgnacio CrespoFrancis VillatoroHéctor SocasGastón Giribethabitación china y modelos lenguajemodelos lenguaje se centran lenguajeexperimento mental habitación chinaHabitación ChinaModelos del LenguajeConcienciaNacho TrujilloIgnacio CrespoYann LeCunLingüística computacionalInteligencia artificialLeCunJuan CarlosElon Musk
Modelos lenguaje se centran lenguaje
Con
0:000:301:001:302:002:303:003:303:56
Nacho Trujillo introduce una nota adicional sobre la relación entre el experimento mental de la habitación china y los modelos de lenguaje, señalando que estos últimos se centran únicamente en el lenguaje.
…es que solamente vas a tener relaciones entre textos. No vas a poder extraer, desde luego, la percepción de qué es un color, pero eso es otro tema. La cuestión es que no puedes dotar de significado, solamente a través de las relaciones; pero hay algo más, hay Un extra. Y aquí, por añadir otra pequeña nota que creo que es muy interesante: todo el rato que estamos queriendo, por lo menos en este caso de la habitación china y en los modelos del lenguaje, estamos hablando solo del lenguaje. Mientras que pareciera que la conciencia a lo mejor necesita De la corporeidad, de vivir en un mundo físico, más allá de unas reglas gramaticales. Es decir, que a lo mejor sí llegaríamos a esa inteligencia más parecida a la humana cuando estas inteligencias artificiales se les incorporen en un cuerpo. Uno de los…
Significado #1 · Palabras #1
Nacho Trujillo relata un experimento mental reciente donde se le plantea a un modelo de lenguaje la tarea de ir a lavar el coche y este sugiere ir andando, demostrando una falta de comprensión del contexto.
Habla: Nacho TrujilloPalabras #18modelo lenguaje lava cocheexperimento mental nacho trujillodistancia 50 metros modelo…en pie o andando. Creo que lo comentaron aquí, ¿no? No, yo creo que Juan Carlos hizo referencia al problema clásico de la barca: que tienes que cruzar un río con una oveja, la lechuga y el lobo o algo así, ¿no? Este es un problema; no, este ha sido famoso en. los últimos meses que es algo así, que se le planteaba al modelo del lenguaje Tengo que ir a lavar mi coche, el sitio de lavado está a 50 metros, ¿cómo voy? ¿Voy en coche o voy andando? Y el modelo del lenguaje te decía, no, vete andando porque estás muy cerca, no sé, claro, sin darse cuenta que lo que querías era lavar tu coche, que era una forma evidente de decir, está respondiendo de forma, no Está respondiendo como un ser humano porque obviamente tienes que llevar tu coche para lavar. Creo que era poner gasolina igual; bueno, la variante del mismo tema, la cuestión era que se identificaba claramente que no estaba entendiendo, o sea, ningún ser…
Nacho Trujillo describe cómo los modelos de lenguaje inicialmente fallaban en tareas sencillas como ir a lavar el coche, pero luego fueron corregidos para simular una comprensión contextual.
Habla: Nacho TrujilloSignificado #5 · Palabras #14modelos lenguaje fallaron lavar cochesimulación comprensión contextual modelos lenguajesofisticación modelo lenguaje apariencia entendimiento…para lavar. Creo que era poner gasolina igual; bueno, la variante del mismo tema, la cuestión era que se identificaba claramente que no estaba entendiendo, o sea, ningún ser humano caería en eso, si tienes que llevar el coche, tienes que llevar el coche. Entonces, claro, eso ahora fallaron durante dos o tres días hasta que incorporaron eso dentro del modelo del lenguaje y ya no fallaban, pero es decir que de alguna manera esto es siempre como que se va sofisticando cada vez más el modelo del lenguaje para incorporar todas aquellas cosas que demuestran que no entienden y dar apariencia de entendimiento. Pero bueno, sin querer entrar más, que me parece que Lo que estabas describiendo era una forma pretérita de describir esta habitación china; probablemente sería una buena... bueno, cuando lo cuentas me parece una descripción de lo que hace un modelo del lenguaje. Es de 1980, por esa época el ejemplo de la…
Nacho Trujillo introduce una nota adicional sobre la relación entre el experimento mental de la habitación china y los modelos de lenguaje, señalando que estos últimos se centran únicamente en el lenguaje.
Habla: Nacho TrujilloSignificado #1 · Palabras #1habitación china y modelos lenguajemodelos lenguaje se centran lenguajeexperimento mental habitación china…es que solamente vas a tener relaciones entre textos. No vas a poder extraer, desde luego, la percepción de qué es un color, pero eso es otro tema. La cuestión es que no puedes dotar de significado, solamente a través de las relaciones; pero hay algo más, hay Un extra. Y aquí, por añadir otra pequeña nota que creo que es muy interesante: todo el rato que estamos queriendo, por lo menos en este caso de la habitación china y en los modelos del lenguaje, estamos hablando solo del lenguaje. Mientras que pareciera que la conciencia a lo mejor necesita De la corporeidad, de vivir en un mundo físico, más allá de unas reglas gramaticales. Es decir, que a lo mejor sí llegaríamos a esa inteligencia más parecida a la humana cuando estas inteligencias artificiales se les incorporen en un cuerpo. Uno de los…
Ignacio Crespo aporta su perspectiva sobre la relación entre sintaxis y semántica en el lenguaje natural, recordando sus estudios hace 35 años.
Habla: Ignacio CrespoPalabras #6sintaxis y semántica lenguaje naturallingüística computacional modelos metalingüísticoslecun inteligencia artificial modelo del mundoontología representa modelo del mundomodelos del mundo y percepciones externassemántica en modelos de lenguajeontologías informáticas para semánticasmecanismo de atención sin ontología…y que nos habla de los hechos brutos, que a mí me encajan, creo que, bueno, tenemos que trabajar con ellos; no nos queda otra; creo que la consciencia no sería uno de ellos, pero, bueno, evidentemente esto es algo abierto. Bueno, pues lo vamos cerrando. Si puedo aportar alguna pequeña cosita, bueno, esa relación entre la sintaxis y la semántica es lo que han demostrado para el lenguaje natural que no es necesaria los grandes modelos de lenguaje. Cuando yo estudiaba hace 35 años los fundamentos de la comprensión utilizando lingüística computacional y modelos metalingüísticos y metalinguajes, cómo funciona el lenguaje natural, lo que se decía es que la sintaxis no es suficiente, que era necesario una semántica; y por semántica se entendía lo que hoy en día ha popularizado LeCun, la inteligencia artificial, que es un modelo del mundo. Tú tenías que tener una ontología que representara un modelo del mundo. Es lo que Ignacio, perdón, Nacho, ha estado comentando con el tema de que necesitamos los sentidos. Necesitamos percepciones del exterior para obtener ese modelo del mundo. pero ese modelo del mundo era la semántica y lo que han demostrado los modelos de lenguaje en los que yo no introdujo de manera explícita una semántica sabemos los informáticos introducir semánticas mediante un concepto que los informáticos llamamos ontologías no hay una ontología en estos modelos de lenguaje basados en el mecanismo de atención Lo que decía Ignacio Del ejemplo este de ir al lavacoches en la estación de servicio. Bueno, esa pregunta depende de cómo la escribieras, literalmente, cambiar a veces una única preposición, un único verbo de lugar. Hacía que la inteligencia artificial, la mayoría de ellas, la…
Ignacio Crespo explica que los modelos de lenguaje actuales tienen un límite debido a la falta de modelo del mundo y semántica, lo que ha impulsado el desarrollo de nuevas tecnologías basadas en la construcción de modelos del mundo.
Habla: Ignacio CrespoSignificado #3 · Palabras #9modelos lenguaje límite modelo mundoaprendizaje pre-entrenamiento modelos mundotecnología basada construir modelos mundomodelos de lenguaje y correlaciones lingüísticascomponente semántica en sistemas ignacio crespo…porque no se ha puesto de manera explícita y eso también implica una línea que hay ahora en la inteligencia artificial, que hay varios artículos del año 2025 y ahora también en el 2026 que se han vuelto muy populares en los que se está planteando que eso. Va a tener un límite, que esto va a saturar, que va a llegar un momento en que los modelos de lenguaje no van a poder ir más allá porque carecen de modelo del mundo, carecen de semántica y por eso se ha estado desarrollando una nueva tecnología que está basada en construir modelos del mundo y tener un aprendizaje en el pre-entrenamiento, en el aprendizaje aprendo modelos del. Mundo y ahora uso el descubrimiento de correlaciones puramente lingüísticas y puramente relacionales entre vídeos, audio, etc. Todo lo que hacen los modelos de lenguaje, pero sobre un modelo del mundo. De esa manera ya adquiero también esa componente semántica en esos sistemas y es lo que está ahora de moda. Pero yo os digo, ahora mismo los grandes modelos de Lenguaje, como comentaba Nacho, están demostrando claramente que la sintaxis permite resolver el problema de la habitación china. Es decir, la persona y el manual de instrucciones en conjunto pueden aparentar perfectamente un entendimiento del chino; porque…