Búsqueda · 27 momentos en 8 episodios
Jorge SánchezNacho TrujilloLuisa AchaerandioIsabel CorderoJosé EdelsteinJuan Carlos GilIgnacio CrespoFrancis VillatoroHéctor SocasGastón Giribetsintaxis y semántica lenguaje naturallingüística computacional modelos metalingüísticoslecun inteligencia artificial modelo del mundoontología representa modelo del mundomodelos del mundo y percepciones externassemántica en modelos de lenguajeontologías informáticas para semánticasmecanismo de atención sin ontologíaYann LeCunLingüística computacionalInteligencia artificialIgnacio CrespoNacho TrujilloLeCunpiedra RosettaSellarsSerlHabitación chinaHéctor SocasSearleModelos del LenguajeConciencia
Semántica en modelos de lenguaje
Con
0:000:301:001:302:002:303:003:303:56
Ignacio Crespo aporta su perspectiva sobre la relación entre sintaxis y semántica en el lenguaje natural, recordando sus estudios hace 35 años.
…y que nos habla de los hechos brutos, que a mí me encajan, creo que, bueno, tenemos que trabajar con ellos; no nos queda otra; creo que la consciencia no sería uno de ellos, pero, bueno, evidentemente esto es algo abierto. Bueno, pues lo vamos cerrando. Si puedo aportar alguna pequeña cosita, bueno, esa relación entre la sintaxis y la semántica es lo que han demostrado para el lenguaje natural que no es necesaria los grandes modelos de lenguaje. Cuando yo estudiaba hace 35 años los fundamentos de la comprensión utilizando lingüística computacional y modelos metalingüísticos y metalinguajes, cómo funciona el lenguaje natural, lo que se decía es que la sintaxis no es suficiente, que era necesario una semántica; y por semántica se entendía lo que hoy en día ha popularizado LeCun, la inteligencia artificial, que es un modelo del mundo. Tú tenías que tener una ontología que representara un modelo del mundo. Es lo que Ignacio, perdón, Nacho, ha estado comentando con el tema de que necesitamos los sentidos. Necesitamos percepciones del exterior para obtener ese modelo del mundo. pero ese modelo del mundo era la semántica y lo que han demostrado los modelos de lenguaje en los que yo no introdujo de manera explícita una semántica sabemos los informáticos introducir semánticas mediante un concepto que los informáticos llamamos ontologías no hay una ontología en estos modelos de lenguaje basados en el mecanismo de atención Lo que decía Ignacio Del ejemplo este de ir al lavacoches en la estación de servicio. Bueno, esa pregunta depende de cómo la escribieras, literalmente, cambiar a veces una única preposición, un único verbo de lugar. Hacía que la inteligencia artificial, la mayoría de ellas, la…
Significado #5 · Palabras #1
Héctor Socas interrumpe para aclarar un punto sobre la relación entre sintaxis y semántica, preocupado por si los oyentes comprenden la diferencia, especialmente porque no se está discutiendo filología.
Habla: Héctor SocasSignificado #8relación entre sintaxis y semánticadiferencia sintaxis semántica oyentesno es filología hector socassintaxis como instruccionessemántica el significado de lo dichoexperimento mental habitación chinahécttor socas explica sintaxis semántica…situación más o menos análoga, que nos resulta contraintuitiva y plantear cuáles son las posibles soluciones. Una es decir que sí conoce, que sí emerge de ahí un conocimiento, una experiencia fenoménica y la otra es decir que no. ¿Y qué implicaría cada una? Dime Héctor. No, es por aclarar, porque han mencionado varias veces también la semana pasada esa relación entre sintaxis y semántica, y no sé si los oyentes están al tanto de lo que es una cosa y la otra, porque no estamos hablando de filología. En este caso, sintaxis, igual lo puedes explicar mejor, pero Sintaxis es, digamos, las instrucciones, la forma de construir unas reglas que implican cómo se construye un sentido, mientras que la semántica es el significado de eso que se dice. Sí, es un resumen muy bueno; justo iba a entrar ahora en eso como ejemplo, porque la habitación china está bien, es muy vistosa y por eso también ha funcionado, pero a mí me parece más intuitivo incluso imaginar lo siguiente. A ti te encierran en una habitación y lo que te van a dar durante muchísimos años es textos en chino, enteramente en chino. No vas a tener comparación con ningún otro idioma. Tú lo que tienes es una capacidad de análisis estadístico increíble y tú llegas a…
Ignacio Crespo explica la importancia de la piedra Rosetta para el desarrollo de la semántica, estableciendo un paralelismo con los grandes modelos de lenguaje.
Habla: Ignacio CrespoSignificado #3 · Palabras #5piedra rosetta y semánticatextos en distintos idiomasanálogía modelos lenguaje ignacio crespo…si solo tienes textos en chino, no vas a saber decir nunca qué es lo que están codificando, qué es lo que están transmitiendo. Da igual cuánto tiempo estés leyéndolos y procesando estadísticamente esos textos; es un poco la clave de la piedra roseta, ¿no? ¿Por qué fue tan importante? Porque por fin teníamos dos, bueno, tres, ¿no? Pero textos en distintos idiomas que decían lo mismo y nos permitían comparar. Pero si no lo tenemos, la semántica no puede nacer de la nada. Dime. Y esto no está muy relacionado también con los grandes modelos del lenguaje; no es básicamente una analogía de lo que pudiera estar pasando debajo. Justo, es que además la otra vez hablaba de algoritmos, solamente por eso me gusta este ejemplo en el que tú puedes hacer todos los análisis estadísticos que quieras, encontrar esas correlaciones entre: mira, esta palabra aparece en la posición 38 y…
Nacho Trujillo y Ignacio Crespo continúan discutiendo el salto entre sintaxis y semántica, haciendo referencia al trabajo previo de Sellars y planteando la cuestión de si los modelos del lenguaje son conscientes.
Habla: Nacho TrujilloSignificado #6 · Palabras #6salto sintaxis semántica sellarsmodelos lenguaje conciencia test…y normalmente se relaciona con que aparezca esta en la posición tanto. Cuestiones mucho más complejas, pero que da igual, creo que es intuitivo para todos nosotros, que parece muy raro que solamente con eso podamos llegar a saber qué significan las palabras. Eso es el salto entre la sintaxis y la semántica, que ya hablaba Sellars en su momento, antes de Serl, y que las cosas como son no tiene una respuesta clara; sigue siendo un salto, no se sabe cómo podemos pasar de una cosa a la otra. Y llega, dime: No, pero digo que a día de hoy, a día de hoy creo que la mayoría estaría de acuerdo que los modelos del lenguaje no son conscientes porque se les hacen test a veces, ¿no? Cada vez más sofisticados o más complicados. Pero bueno, la gente siempre encuentra alguna forma de plantearle a los modelos del lenguaje algunas situaciones; creo que recordarán hace poco, no. Sé si lo comentaron aquí aquella en la que decía que tenía que ir a lavar el coche; se iba en pie o andando. Creo que lo comentaron aquí, ¿no? No, yo creo que Juan Carlos hizo referencia al problema clásico de la barca: que tienes que cruzar un río con una…
Nacho Trujillo describe cómo los modelos de lenguaje inicialmente fallaban en tareas sencillas como ir a lavar el coche, pero luego fueron corregidos para simular una comprensión contextual.
Habla: Nacho TrujilloSignificado #11 · Palabras #20modelos lenguaje fallaron lavar cochesimulación comprensión contextual modelos lenguajesofisticación modelo lenguaje apariencia entendimiento…para lavar. Creo que era poner gasolina igual; bueno, la variante del mismo tema, la cuestión era que se identificaba claramente que no estaba entendiendo, o sea, ningún ser humano caería en eso, si tienes que llevar el coche, tienes que llevar el coche. Entonces, claro, eso ahora fallaron durante dos o tres días hasta que incorporaron eso dentro del modelo del lenguaje y ya no fallaban, pero es decir que de alguna manera esto es siempre como que se va sofisticando cada vez más el modelo del lenguaje para incorporar todas aquellas cosas que demuestran que no entienden y dar apariencia de entendimiento. Pero bueno, sin querer entrar más, que me parece que Lo que estabas describiendo era una forma pretérita de describir esta habitación china; probablemente sería una buena... bueno, cuando lo cuentas me parece una descripción de lo que hace un modelo del lenguaje. Es de 1980, por esa época el ejemplo de la…
Nacho Trujillo introduce una nota adicional sobre la relación entre el experimento mental de la habitación china y los modelos de lenguaje, señalando que estos últimos se centran únicamente en el lenguaje.
Habla: Nacho TrujilloPalabras #14habitación china y modelos lenguajemodelos lenguaje se centran lenguajeexperimento mental habitación china…es que solamente vas a tener relaciones entre textos. No vas a poder extraer, desde luego, la percepción de qué es un color, pero eso es otro tema. La cuestión es que no puedes dotar de significado, solamente a través de las relaciones; pero hay algo más, hay Un extra. Y aquí, por añadir otra pequeña nota que creo que es muy interesante: todo el rato que estamos queriendo, por lo menos en este caso de la habitación china y en los modelos del lenguaje, estamos hablando solo del lenguaje. Mientras que pareciera que la conciencia a lo mejor necesita De la corporeidad, de vivir en un mundo físico, más allá de unas reglas gramaticales. Es decir, que a lo mejor sí llegaríamos a esa inteligencia más parecida a la humana cuando estas inteligencias artificiales se les incorporen en un cuerpo. Uno de los…
Ignacio Crespo expresa su opinión sobre el funcionalismo, argumentando que no necesariamente requiere sustratos específicos para resolver la relación entre sintaxis y semántica.
Habla: Ignacio CrespoSignificado #13funcionalismo sin sustratos específicossalto sintaxis semántica funcionalismomaterialismo y funcionalismo crespotejido nervioso sustancias químicascircuitos eléctricos propiedades físicasmembranas neuronales geometríarelaciones sintácticas y semánticas…bueno, no llega porque también tiene que haber acción, y dice, vale, pues pones unos brazos robóticos para que pueda interactuar con el espacio, para que pueda generar relaciones de causa -efecto con el mundo y que esté así corporizada; y a él no le llegaba. A mí no me queda tan claro que no funcione; es lo que dije el otro día. No es que diga no tiene sentido el funcionalismo, puede que sí, puede que de alguna forma ese salto entre sintaxis y semántica se resuelva de alguna forma por la que no se requieran sustratos específicos, sino que puede implementarse en cualquiera. Pero, y esto es lo que a mí me parece interesante, recordemos que también está esa idea totalmente materialista de. La mente es el cerebro o un subsistema del cerebro, y la cuestión es que tal vez la clave esté no solamente en esas relaciones sintácticas y por lo tanto formales, sino en qué propiedades tiene un circuito eléctrico por ser un circuito eléctrico. ¿Qué propiedades tiene un tejido nervioso por ser un tejido nervioso? El tejido nervioso tiene determinadas sustancias químicas, determinada geometría en las membranas de sus neuronas, que son cuestiones puramente materiales y que realmente son medibles, pero que podrían tener un papel para explicar ese salto de la sintaxis a la semántica. porque la idea, y esto es creo que muy interesante, de la experiencia del rojo es la activación de una serie de neuronas en el cerebro. Ojo, esto no sería funcionalismo, sería esa teoría de la identidad. Sería que, no, no, no es que evoque, que refleje, que…
Héctor Socas continúa una discusión sobre el salto entre sintaxis y semántica, argumentando que este problema persiste independientemente de las opiniones sobre el experimento mental de la habitación china.
Habla: Héctor SocasSignificado #7salto entre sintaxis y semánticaproblema habitación chinasemántica emerge de sintaxis…antes; lo que me interesa viene, como te decía, no de Searle sino de Sellars, que estamos hablando de mediados de siglo pasado, y lo que él plantea es ese salto entre sintaxis y semántica, que luego Searle utiliza, representado con lo de la habitación china. Para que sea más mediático, para que se entienda mejor, lo que sea, pero él lo está, simplemente particularizando; pero es un problema más fundamental que, independientemente de lo que nos guste de la habitación china, sigue sin respuesta. Estoy de acuerdo. O sea, el cómo emerge la semántica de la sintaxis es un problema abierto y es un problema interesante y fascinante. Estoy de acuerdo con eso. En concreto, la habitación china, bueno, me parece un poco tal. Y si quiero recalcar eso que tú decías, o sea, Sirle no era dualista; quiero decir, él era materialista en ese sentido, tú lo has explicado bien, pero quiero insistir en eso, pero para mí eso ya…
Ignacio Crespo aporta su perspectiva sobre la relación entre sintaxis y semántica en el lenguaje natural, recordando sus estudios hace 35 años.
Habla: Ignacio CrespoSignificado #5 · Palabras #1sintaxis y semántica lenguaje naturallingüística computacional modelos metalingüísticoslecun inteligencia artificial modelo del mundoontología representa modelo del mundomodelos del mundo y percepciones externassemántica en modelos de lenguajeontologías informáticas para semánticasmecanismo de atención sin ontología…y que nos habla de los hechos brutos, que a mí me encajan, creo que, bueno, tenemos que trabajar con ellos; no nos queda otra; creo que la consciencia no sería uno de ellos, pero, bueno, evidentemente esto es algo abierto. Bueno, pues lo vamos cerrando. Si puedo aportar alguna pequeña cosita, bueno, esa relación entre la sintaxis y la semántica es lo que han demostrado para el lenguaje natural que no es necesaria los grandes modelos de lenguaje. Cuando yo estudiaba hace 35 años los fundamentos de la comprensión utilizando lingüística computacional y modelos metalingüísticos y metalinguajes, cómo funciona el lenguaje natural, lo que se decía es que la sintaxis no es suficiente, que era necesario una semántica; y por semántica se entendía lo que hoy en día ha popularizado LeCun, la inteligencia artificial, que es un modelo del mundo. Tú tenías que tener una ontología que representara un modelo del mundo. Es lo que Ignacio, perdón, Nacho, ha estado comentando con el tema de que necesitamos los sentidos. Necesitamos percepciones del exterior para obtener ese modelo del mundo. pero ese modelo del mundo era la semántica y lo que han demostrado los modelos de lenguaje en los que yo no introdujo de manera explícita una semántica sabemos los informáticos introducir semánticas mediante un concepto que los informáticos llamamos ontologías no hay una ontología en estos modelos de lenguaje basados en el mecanismo de atención Lo que decía Ignacio Del ejemplo este de ir al lavacoches en la estación de servicio. Bueno, esa pregunta depende de cómo la escribieras, literalmente, cambiar a veces una única preposición, un único verbo de lugar. Hacía que la inteligencia artificial, la mayoría de ellas, la…
Ignacio Crespo explica cómo la nueva tecnología busca dotar a los modelos de lenguaje de un modelo del mundo para adquirir una componente semántica.
Habla: Ignacio CrespoSignificado #2 · Palabras #3modelos lenguaje relaciones desconocidascerebro humano relaciones sintácticashabitación china sin entenderinteligencia artificial artículos 2025 2026modelos lenguaje límite modelo mundoaprendizaje pre-entrenamiento modelos mundotecnología basada construir modelos mundomodelos de lenguaje y correlaciones lingüísticascomponente semántica en sistemas ignacio crespo…había que cambiar el contexto. Esas reglas de inicio en el chateo, se puede imponer una pequeña regla y con esas reglas automáticamente resuelves el problema porque era un problema de escritura, ahí la dificultad es que como solamente hay sintaxis, es Decir, los modelos de lenguaje han aprendido relaciones que no conocemos cuáles son, pero que aparentemente nuestro cerebro, nuestro encéfalo de alguna manera las tiene también. Esas relaciones puramente sintácticas nos permiten, entre comillas, contestar preguntas como en la habitación china sin entender. No necesitas un modelo del mundo porque no se ha puesto de manera explícita y eso también implica una línea que hay ahora en la inteligencia artificial, que hay varios artículos del año 2025 y ahora también en el 2026 que se han vuelto muy populares en los que se está planteando que eso. Va a tener un límite, que esto va a saturar, que va a llegar un momento en que los modelos de lenguaje no van a poder ir más allá porque carecen de modelo del mundo, carecen de semántica y por eso se ha estado desarrollando una nueva tecnología que está basada en construir modelos del mundo y tener un aprendizaje en el pre-entrenamiento, en el aprendizaje aprendo modelos del. Mundo y ahora uso el descubrimiento de correlaciones puramente lingüísticas y puramente relacionales entre vídeos, audio, etc. Todo lo que hacen los modelos de lenguaje, pero sobre un modelo del mundo. De esa manera ya adquiero también esa componente semántica en esos sistemas y es lo que está ahora de moda. Pero yo os digo, ahora mismo los grandes modelos de Lenguaje, como comentaba Nacho, están demostrando claramente que la sintaxis permite resolver el problema de la habitación china. Es decir, la persona y el manual de instrucciones en conjunto pueden aparentar perfectamente un entendimiento del chino; porque…
Se discute la compatibilidad entre las ideas de Sellars sobre los procesos mentales y los resultados actuales en modelos de lenguaje, donde algunos procesos se resuelven solo con sintaxis y otros requieren semántica y experiencia fenoménica.
Significado #9 · Palabras #8sellars y procesos mentalessintaxis resuelve algunos procesossemántica requiere experiencia fenoménicasellars y modelos de lenguaje…china. Es decir, la persona y el manual de instrucciones en conjunto pueden aparentar perfectamente un entendimiento del chino; porque nadie de fuera ve ningún tipo de diferencia. Pero eso es importante: aparentar un entendimiento. Aparentar, claro. Realmente, como decía, si nos retrotraemos a Sellars, Sellars ya planteaba esto; o sea, decía: tenemos que dividir la serie de procesos mentales que normalmente metemos en un solo paquete en aquellos que sí que se resuelven solo con sintaxis y él incluía estos; o sea, a él no le habría sorprendido, le habría maravillado seguro, pero no le habría sorprendido ese resultado y por otro lado, aquellos que dotan de semántica, que por definición no podrán nacer solamente de la sintaxis. Y a él, él incluía ahí, aunque con otros términos, esa experiencia fenoménica; o sea, que totalmente de acuerdo, simplemente que creo que es compatible. Bueno, venga pues vamos a hacer una cosa por las horas que son ya. Si les parece voy a dejar los otros dos temas que había, que era el de SETI y el de transporte antimateria para la semana que viene. Y vamos a pasar a preguntas de los oyentes, a ver si hay…