Búsqueda · 22 momentos en 5 episodios
Jorge SánchezNacho TrujilloLuisa AchaerandioIsabel CorderoJosé EdelsteinJuan Carlos GilIgnacio CrespoFrancis VillatoroHéctor SocasGastón Giribethabitación china y modelos lenguajemodelos lenguaje se centran lenguajeexperimento mental habitación chinaHabitación ChinaModelos del LenguajeConcienciaNacho TrujilloHéctor SocasIgnacio Crespoaños 80John SearleSellarsSearlePutnam
Habitación China y modelos lenguaje
Con
0:000:301:001:302:002:303:003:303:56
Nacho Trujillo introduce una nota adicional sobre la relación entre el experimento mental de la habitación china y los modelos de lenguaje, señalando que estos últimos se centran únicamente en el lenguaje.
…es que solamente vas a tener relaciones entre textos. No vas a poder extraer, desde luego, la percepción de qué es un color, pero eso es otro tema. La cuestión es que no puedes dotar de significado, solamente a través de las relaciones; pero hay algo más, hay Un extra. Y aquí, por añadir otra pequeña nota que creo que es muy interesante: todo el rato que estamos queriendo, por lo menos en este caso de la habitación china y en los modelos del lenguaje, estamos hablando solo del lenguaje. Mientras que pareciera que la conciencia a lo mejor necesita De la corporeidad, de vivir en un mundo físico, más allá de unas reglas gramaticales. Es decir, que a lo mejor sí llegaríamos a esa inteligencia más parecida a la humana cuando estas inteligencias artificiales se les incorporen en un cuerpo. Uno de los…
Significado #1 · Palabras #1
Héctor Socas y Nacho Trujillo comentan una pregunta de un oyente sobre la interacción necesaria para que la materia oscura caiga en un agujero negro, mientras se discute la posible duración de la participación de Nacho Trujillo en el programa.
Habla: Héctor SocasPalabras #17nacho trujillo en coffee breakhabitación china de nacho trujilloparticipación de nacho trujillo…no nos caemos al sol, nos quedamos en órbita. De hecho, interacción es just another name for friction; es eso, es un nombre para fricción; es eso. Tiene que friccionar, ir gastando energía cinética, transformándola en quedarse quieto y esa interacción así. Bueno, no sé si está suficientemente relacionado, pero teníamos también otra pregunta de oyente, aprovechando que está Nacho todavía, porque no sé si se va a quedar todo el programa. Hasta que lleguen a la habitación esa, que es la habitación china. De ahí no me sacan. Cuando veo el chino me voy. No, no, al contrario, me quedo con el chino. Tengo muchas ganas de escuchar eso y participar si puedo. Entonces lo comento ahora: nos preguntaba también una oyente, Paloma Mantilla, por una cosa que se llaman galaxias tipo Green Bean, como judía verde que son objetos observados por el James Webb. Si quieres lo comento rápidamente y Nacho, no sé si querrás…
Ignacio Crespo plantea una pregunta clave sobre el experimento mental de la habitación china de John Searle: si la persona dentro de la habitación sabe chino.
Habla: Ignacio CrespoSignificado #6 · Palabras #12experimento mental de la habitación chinarelación sintaxis semántica sellarsproblema experiencia del rojohabitación china de john searleinstrucciones para tarjetas en chinorelación sintáctica extraña entre tarjetaspercibir respuestas en chino sin saberlopersona sabe chinofuncionalismo y reglas sintácticasordenador algorítmico cerrado…hipótesis muy bonita sino que podemos llegar a probarlo empíricamente podemos llegar a conseguir obtener máquinas que como tienen una relación funcional entre lo que nosotros le introducimos y lo que nos devuelven puedan emular todos los procesos mentales. Y esto es donde entra Searle y dice: se me ocurre un contraejemplo. Ojo, un contraejemplo que no nace del todo con él. Ya hemos hablado de Sellars; Sellars encontraba que el gran problema por el que tal vez la experiencia del rojo quedaba fuera de lo que podía emerger de estos sistemas formales es la relación entre la sintaxis y la semántica. Y esto es lo que va a coger Searle para su experimento mental de la habitación china. Entonces, si queréis, ahora la expongo y comento cuál es la relación con eso; que yo creo que más o menos como bagaje nos hace situarnos un poquito. La idea es la siguiente: imaginemos que nos meten en una habitación sin tener nosotros ni idea de chino, pero en una de las paredes tenemos una serie de datos tremendamente minuciosos sobre cómo convertir unas tarjetas con símbolos en chino que nos dan, ranura en otras tarjetas que tenemos tal vez colgadas en otra de las paredes. Es una relación de unas tarjetas por otras tarjetas. No sabemos nada más, no nos han dado ninguna información, pero ojo, es que esas instrucciones son fantásticas. Tal vez desde fuera, y esta es la clave, lo que se perciba es que nosotros estamos respondiendo en chino a las preguntas que nos han formulado también en chino, porque esa relación entre unas y otras tarjetas puede ser una relación sintáctica extraña, que no vamos a entrar en esa relación, pero que nos permita convertir una cosa en otra. Sin saber chino, convertir una pregunta en la respuesta adecuada. La cuestión es: ¿La persona que está dentro de la habitación sabe chino? Y de aquí se pueden interpretar muchas cosas. Esto no es por sí solo un contraejemplo del funcionalismo, un contraejemplo de que con suficientes reglas, que son lo que podríamos darle a un ordenador, reglas sintácticas, no quiere decir algorítmicas cerradas, por decirlo de esa forma, puede llegar a conocer algo. No solamente eso, lo que hace es: vamos a intentar crear una situación más o menos análoga, que nos resulta contraintuitiva y plantear cuáles son las posibles soluciones. Una es decir que sí conoce, que sí emerge de ahí un conocimiento, una experiencia…
Héctor Socas explica la diferencia entre sintaxis y semántica para asegurar que los oyentes comprendan el concepto, introduciendo un ejemplo para complementar la explicación del experimento mental de la habitación china.
Habla: Héctor SocasSignificado #8sintaxis como instruccionessemántica el significado de lo dichoexperimento mental habitación chinahécttor socas explica sintaxis semánticaanálisis estadístico textos chinoscapacidad análisis estadístico ignacio crespoagrupación palabras posición frase…varias veces también la semana pasada esa relación entre sintaxis y semántica, y no sé si los oyentes están al tanto de lo que es una cosa y la otra, porque no estamos hablando de filología. En este caso, sintaxis, igual lo puedes explicar mejor, pero Sintaxis es, digamos, las instrucciones, la forma de construir unas reglas que implican cómo se construye un sentido, mientras que la semántica es el significado de eso que se dice. Sí, es un resumen muy bueno; justo iba a entrar ahora en eso como ejemplo, porque la habitación china está bien, es muy vistosa y por eso también ha funcionado, pero a mí me parece más intuitivo incluso imaginar lo siguiente. A ti te encierran en una habitación y lo que te van a dar durante muchísimos años es textos en chino, enteramente en chino. No vas a tener comparación con ningún otro idioma. Tú lo que tienes es una capacidad de análisis estadístico increíble y tú llegas a ser capaz, analizando esos textos, de decir: Mira, es que toda esta serie de palabras se suelen encontrar antes que todas estas otras palabras cuando aparecen. Y en función de sus posiciones en las frases, eres capaz de agruparlas. Y les pones un nombre. Este, pues tal vez se llama Patatín, que podrían ser sustantivos. Y este Patatán, adjetivos. Encuentras correlaciones entre ellas; más o menos unas reglas para ordenar, pero y este es el problema, da igual el tiempo que te den, si solo…
Héctor Socas interrumpe la explicación de Nacho Trujillo sobre un experimento mental similar a la habitación china para señalar que la descripción ofrecida recuerda al funcionamiento de los modelos del lenguaje actuales.
Habla: Héctor SocasSignificado #2 · Palabras #2habitación china y modelos lenguajeinteligencia artificial en 1980nacho trujillo y experimento mental…que de alguna manera esto es siempre como que se va sofisticando cada vez más el modelo del lenguaje para incorporar todas aquellas cosas que demuestran que no entienden y dar apariencia de entendimiento. Pero bueno, sin querer entrar más, que me parece que Lo que estabas describiendo era una forma pretérita de describir esta habitación china; probablemente sería una buena... bueno, cuando lo cuentas me parece una descripción de lo que hace un modelo del lenguaje. Es de 1980, por esa época el ejemplo de la habitación china. Por eso lo mencionaba la semana pasada, porque hay que ponerlo en su contexto, o sea, en el contexto de lo que se entendía por inteligencia artificial en aquella época, que es muy diferente a lo que podemos entender ahora. Por eso a mí me gusta acompañarlo, también por el respeto histórico y porque es interesante; pero acompañarlo de esa idea de tú puedes hacer todos los análisis estadísticos que quieras, no es que te hayan dado instrucciones, es que solamente vas a tener…
Nacho Trujillo introduce una nota adicional sobre la relación entre el experimento mental de la habitación china y los modelos de lenguaje, señalando que estos últimos se centran únicamente en el lenguaje.
Habla: Nacho TrujilloSignificado #1 · Palabras #1habitación china y modelos lenguajemodelos lenguaje se centran lenguajeexperimento mental habitación china…es que solamente vas a tener relaciones entre textos. No vas a poder extraer, desde luego, la percepción de qué es un color, pero eso es otro tema. La cuestión es que no puedes dotar de significado, solamente a través de las relaciones; pero hay algo más, hay Un extra. Y aquí, por añadir otra pequeña nota que creo que es muy interesante: todo el rato que estamos queriendo, por lo menos en este caso de la habitación china y en los modelos del lenguaje, estamos hablando solo del lenguaje. Mientras que pareciera que la conciencia a lo mejor necesita De la corporeidad, de vivir en un mundo físico, más allá de unas reglas gramaticales. Es decir, que a lo mejor sí llegaríamos a esa inteligencia más parecida a la humana cuando estas inteligencias artificiales se les incorporen en un cuerpo. Uno de los…
Héctor Socas explica el argumento de la habitación china y cómo se relaciona con la discusión sobre pensamiento e inteligencia, recordando que en los años 80 la programación informática consistía en un conjunto de instrucciones.
Habla: Héctor SocasSignificado #4 · Palabras #10conciencia y experimento habitación chinapensamiento e inteligencia según hector socasdebate funcionalismo experiencia fenoménicaargumento habitación chinaprogramación informática años 80sintaxis y pensamiento simuladoseñor que no sabe chino…también sea necesaria determinada sustancia, determinado sustrato concreto. Entonces se encuentra ahí un punto común que a mí me parece interesante: dice, hay buenos argumentos de un lado y de otro, ¿por qué no pensar que, claro que tiene que haber Una actividad formalizable, concreta, pero también que no valgan todos los sustratos? ¿Qué ibas a decir, Héctor? Perdona. No, por ir un poco, porque no nos alarguemos mucho con el debate, porque podríamos entrar en muchas cosas, pero sí que me parece que estamos mezclando cosas, ¿no? Como el tema fascinante es la conciencia, llevamos tanto tiempo hablando de la conciencia en estos programas, creo que lo estamos mezclando con el tema de la habitación china, que insisto, para mí, aunque surge en ese contexto, es un experimento mental sobre el pensamiento y la inteligencia más que sobre la conciencia, propiamente dicho. O sea, estrictamente hablando, lo que dice el argumento de la habitación china es que el señor que hay en la habitación no sabe chino. Sí, del aprendizaje también, ¿verdad, Héctor? Puede aparentar que sabe chino al exterior, pero no sabe chino. Entonces, la pregunta era si con una serie de reglas, con una sintaxis, se puede aparentar un pensamiento. Recordemos: estamos pensando en los 80; los ordenadores programar era un conjunto de instrucciones. Si te viene este símbolo con este otro símbolo, si te viene este símbolo contestado, un conjunto de instrucciones de las cuales, entonces, ese es el contexto y se trata de si el pensamiento puede emerger de ahí. Entonces, bueno, a mí me parece yo, bueno, querría decir que este es un tema que se ha discutido muchísimo; lo de este argumento de la habitación china se ha discutido muchísimo. ya lo he dicho aquí, soy materialista y funcionalista radical, entonces, pero sin, a ver, desde un punto de vista de alguien que, no sé, como opinólogo y cuñado de la vida, tampoco, voy a decir que está muy fundamentado, ¿no? pero claro, retrotarnos a estos…
Héctor Socas continúa una discusión sobre el salto entre sintaxis y semántica, argumentando que este problema persiste independientemente de las opiniones sobre el experimento mental de la habitación china.
Habla: Héctor SocasSignificado #9 · Palabras #20salto entre sintaxis y semánticaproblema habitación chinasemántica emerge de sintaxis…antes; lo que me interesa viene, como te decía, no de Searle sino de Sellars, que estamos hablando de mediados de siglo pasado, y lo que él plantea es ese salto entre sintaxis y semántica, que luego Searle utiliza, representado con lo de la habitación china. Para que sea más mediático, para que se entienda mejor, lo que sea, pero él lo está, simplemente particularizando; pero es un problema más fundamental que, independientemente de lo que nos guste de la habitación china, sigue sin respuesta. Estoy de acuerdo. O sea, el cómo emerge la semántica de la sintaxis es un problema abierto y es un problema interesante y fascinante. Estoy de acuerdo con eso. En concreto, la habitación china, bueno, me parece un poco tal. Y si quiero recalcar eso que tú decías, o sea, Sirle no era dualista; quiero decir, él era materialista en ese sentido, tú lo has explicado bien, pero quiero insistir en eso, pero para mí eso ya…
Ignacio Crespo explica cómo los modelos de lenguaje aprenden relaciones desconocidas, similares a las que posee el cerebro humano, permitiendo responder preguntas sin necesidad de un modelo del mundo explícito.
Habla: Ignacio CrespoSignificado #5 · Palabras #4modelos lenguaje relaciones desconocidascerebro humano relaciones sintácticashabitación china sin entenderinteligencia artificial artículos 2025 2026modelos lenguaje límite modelo mundoaprendizaje pre-entrenamiento modelos mundotecnología basada construir modelos mundo…había que cambiar el contexto. Esas reglas de inicio en el chateo, se puede imponer una pequeña regla y con esas reglas automáticamente resuelves el problema porque era un problema de escritura, ahí la dificultad es que como solamente hay sintaxis, es Decir, los modelos de lenguaje han aprendido relaciones que no conocemos cuáles son, pero que aparentemente nuestro cerebro, nuestro encéfalo de alguna manera las tiene también. Esas relaciones puramente sintácticas nos permiten, entre comillas, contestar preguntas como en la habitación china sin entender. No necesitas un modelo del mundo porque no se ha puesto de manera explícita y eso también implica una línea que hay ahora en la inteligencia artificial, que hay varios artículos del año 2025 y ahora también en el 2026 que se han vuelto muy populares en los que se está planteando que eso. Va a tener un límite, que esto va a saturar, que va a llegar un momento en que los modelos de lenguaje no van a poder ir más allá porque carecen de modelo del mundo, carecen de semántica y por eso se ha estado desarrollando una nueva tecnología que está basada en construir modelos del mundo y tener un aprendizaje en el pre-entrenamiento, en el aprendizaje aprendo modelos del. Mundo y ahora uso el descubrimiento de correlaciones puramente lingüísticas y puramente relacionales entre vídeos, audio, etc. Todo lo que hacen los modelos de lenguaje, pero sobre un modelo del mundo. De esa manera ya adquiero también esa componente…
Ignacio Crespo explica cómo los modelos de lenguaje actuales, a pesar de su capacidad sintáctica, solo aparentan entender el significado (como en el experimento mental de la habitación china). Señala que esta apariencia es suficiente para engañar a observadores externos.
Habla: Ignacio CrespoSignificado #3 · Palabras #3habitación china ignacio cresposintaxis resuelve habitación chinaaparentar entendimiento chinomanual instrucciones y persona…vídeos, audio, etc. Todo lo que hacen los modelos de lenguaje, pero sobre un modelo del mundo. De esa manera ya adquiero también esa componente semántica en esos sistemas y es lo que está ahora de moda. Pero yo os digo, ahora mismo los grandes modelos de Lenguaje, como comentaba Nacho, están demostrando claramente que la sintaxis permite resolver el problema de la habitación china. Es decir, la persona y el manual de instrucciones en conjunto pueden aparentar perfectamente un entendimiento del chino; porque nadie de fuera ve ningún tipo de diferencia. Pero eso es importante: aparentar un entendimiento. Aparentar, claro. Realmente, como decía, si nos retrotraemos a Sellars, Sellars ya planteaba esto; o sea, decía: tenemos que dividir la serie de procesos mentales que normalmente metemos en un solo paquete en aquellos que sí que se resuelven solo con sintaxis y él incluía…