Búsqueda · 17 momentos en 3 episodios
Jorge SánchezNacho TrujilloLuisa AchaerandioIsabel CorderoJosé EdelsteinJuan Carlos GilIgnacio CrespoFrancis VillatoroHéctor SocasGastón Giribetconciencia y experimento habitación chinapensamiento e inteligencia según hector socasdebate funcionalismo experiencia fenoménicaargumento habitación chinaprogramación informática años 80sintaxis y pensamiento simuladoseñor que no sabe chinoargumento habitación china funcionalismodebate sobre legislación china ignacioHéctor Socasaños 80IgnacioSETINacho TrujilloHabitación ChinaModelos del LenguajeConcienciaIgnacio CrespoSellarsSearleJohn SearleChinaPutnamSirleCyrilDoomJohn Serl
Habitación China
Con
0:000:301:001:302:002:303:003:303:56
Héctor Socas explica el argumento de la habitación china y cómo se relaciona con la discusión sobre pensamiento e inteligencia, recordando que en los años 80 la programación informática consistía en un conjunto de instrucciones.
…también sea necesaria determinada sustancia, determinado sustrato concreto. Entonces se encuentra ahí un punto común que a mí me parece interesante: dice, hay buenos argumentos de un lado y de otro, ¿por qué no pensar que, claro que tiene que haber Una actividad formalizable, concreta, pero también que no valgan todos los sustratos? ¿Qué ibas a decir, Héctor? Perdona. No, por ir un poco, porque no nos alarguemos mucho con el debate, porque podríamos entrar en muchas cosas, pero sí que me parece que estamos mezclando cosas, ¿no? Como el tema fascinante es la conciencia, llevamos tanto tiempo hablando de la conciencia en estos programas, creo que lo estamos mezclando con el tema de la habitación china, que insisto, para mí, aunque surge en ese contexto, es un experimento mental sobre el pensamiento y la inteligencia más que sobre la conciencia, propiamente dicho. O sea, estrictamente hablando, lo que dice el argumento de la habitación china es que el señor que hay en la habitación no sabe chino. Sí, del aprendizaje también, ¿verdad, Héctor? Puede aparentar que sabe chino al exterior, pero no sabe chino. Entonces, la pregunta era si con una serie de reglas, con una sintaxis, se puede aparentar un pensamiento. Recordemos: estamos pensando en los 80; los ordenadores programar era un conjunto de instrucciones. Si te viene este símbolo con este otro símbolo, si te viene este símbolo contestado, un conjunto de instrucciones de las cuales, entonces, ese es el contexto y se trata de si el pensamiento puede emerger de ahí. Entonces, bueno, a mí me parece yo, bueno, querría decir que este es un tema que se ha discutido muchísimo; lo de este argumento de la habitación china se ha discutido muchísimo. ya lo he dicho aquí, soy materialista y funcionalista radical, entonces, pero sin, a ver, desde un punto de vista de alguien que, no sé, como opinólogo y cuñado de la vida, tampoco, voy a decir que está muy fundamentado, ¿no? pero claro, retrotarnos a estos argumentos de los años 80 como si demostraran algo, creo que en su momento generan mucho debate y solo me gustaría añadir que es un tema controvertido, o sea que no hay que pensar que, porque creo que a ti Ignacio si te gusta mucho la legislación china, pero creo que no debemos decir que esto demuestra que el funcionalismo está refutado, entiendo que esa era la idea pero creo que hay contra de que he insistido mucho en lo que hace es una duda razonable, porque sí que te diré una cosa, de acuerdo, es de los años 80, pero no lo necesito. Mi argumento viene de antes; lo que me interesa viene, como te decía, no de Searle sino de Sellars, que estamos hablando de mediados de siglo pasado, y lo que él plantea es ese salto entre sintaxis y semántica, que luego Searle utiliza, representado con lo de…
Significado #1 · Palabras #1
Héctor Socas y Nacho Trujillo comentan una pregunta de un oyente sobre la interacción necesaria para que la materia oscura caiga en un agujero negro, mientras se discute la posible duración de la participación de Nacho Trujillo en el programa.
Habla: Héctor SocasSignificado #7 · Palabras #4nacho trujillo en coffee breakhabitación china de nacho trujilloparticipación de nacho trujillo…no nos caemos al sol, nos quedamos en órbita. De hecho, interacción es just another name for friction; es eso, es un nombre para fricción; es eso. Tiene que friccionar, ir gastando energía cinética, transformándola en quedarse quieto y esa interacción así. Bueno, no sé si está suficientemente relacionado, pero teníamos también otra pregunta de oyente, aprovechando que está Nacho todavía, porque no sé si se va a quedar todo el programa. Hasta que lleguen a la habitación esa, que es la habitación china. De ahí no me sacan. Cuando veo el chino me voy. No, no, al contrario, me quedo con el chino. Tengo muchas ganas de escuchar eso y participar si puedo. Entonces lo comento ahora: nos preguntaba también una oyente, Paloma Mantilla, por una cosa que se llaman galaxias tipo Green Bean, como judía verde que son objetos observados por el James Webb. Si quieres lo comento rápidamente y Nacho, no sé si querrás…
Héctor Socas propone retomar la conversación con el tema de la habitación china y sugiere considerar otros temas previamente propuestos, incluyendo una discusión sobre SETI.
Habla: Héctor SocasSignificado #2 · Palabras #11habitación china ignaciotema seti medios comunicacióndiscusión seti héctor socas…va a notar nada, por supuesto Lo digo por la coña de siempre No, no, te liberamos José, no te preocupes Sin despedida, sí, me voy y por... No hace falta, no pasa nada, venga Muy bien Se queda gastón, la gente no se va a dar cuenta Exactamente Chao, chao Chao Bueno, ahora seguimos entonces con la habitación china. Ignacio y después ya, no sé, según el humor que estemos, podemos seguir con los temas que yo había propuesto y si no, también los podemos dejar y no pasa nada, pero bueno. Con el descansito y tal, yo creo que igual nos animamos para sacar por lo menos uno: el de SETI, por lo menos que ha salido en muchos medios de comunicación, igual estaría bien. Héctor, ¿cuántas horas llevamos de programa? Grabado, dos horas y veinte minutos. Vale, comentabas antes que preferían no entrar en discusiones filosóficas, ¿no? Sí, bueno, ahora un poco de tu hastío con este tema, creo, ¿no? ¿Vas a mencionar algo de eso,…
Héctor Socas concluye una discusión dividida en cuatro partes sobre la conciencia desde perspectivas neurocientíficas y filosóficas, que se prolongó debido a la introducción del tema de la 'habitación china' de John Searle.
Habla: Héctor SocasSignificado #18 · Palabras #13conciencia desde neurociencia y filosofíahabitación china de john searlediscusión en cuatro fascículos…hace falta a los penaltis también. Bien, yo veo a Ignacio con cara de estar fresco, de estar motivado; de hecho he hablado poquito todavía, en parte reservándome porque estaba todo muy interesante eso por supuesto, pero sobre todo diciendo la que me espera. Bueno, pues hoy concluimos esta discusión que hemos tenido a entregas en cuatro fascículos superinteresantes sobre este tema tan apasionante de la conciencia desde el punto de vista de la neurociencia, de la filosofía y de muchas cosas. Creo que hemos estado hablando del tema en cuatro capítulos sucesivos y hubiéramos terminado la semana pasada si no hubiera surgido el tema de la habitación china de John Searle. Que no es que la Reina lo haya nombrado ser, sino que su apellido se pronuncia un poco así. Y que a mí me sale más fácil Searle. Pues ya está, Searle está bien. Entonces, bueno Ignacio, creo que nos iba a contar el experimento con un poco de detalle y ya con…
Ignacio Crespo plantea una pregunta clave sobre el experimento mental de la habitación china de John Searle: si la persona dentro de la habitación sabe chino.
Habla: Ignacio CrespoSignificado #9experimento mental de la habitación chinarelación sintaxis semántica sellarsproblema experiencia del rojohabitación china de john searleinstrucciones para tarjetas en chinorelación sintáctica extraña entre tarjetaspercibir respuestas en chino sin saberlopersona sabe chinofuncionalismo y reglas sintácticasordenador algorítmico cerrado…hipótesis muy bonita sino que podemos llegar a probarlo empíricamente podemos llegar a conseguir obtener máquinas que como tienen una relación funcional entre lo que nosotros le introducimos y lo que nos devuelven puedan emular todos los procesos mentales. Y esto es donde entra Searle y dice: se me ocurre un contraejemplo. Ojo, un contraejemplo que no nace del todo con él. Ya hemos hablado de Sellars; Sellars encontraba que el gran problema por el que tal vez la experiencia del rojo quedaba fuera de lo que podía emerger de estos sistemas formales es la relación entre la sintaxis y la semántica. Y esto es lo que va a coger Searle para su experimento mental de la habitación china. Entonces, si queréis, ahora la expongo y comento cuál es la relación con eso; que yo creo que más o menos como bagaje nos hace situarnos un poquito. La idea es la siguiente: imaginemos que nos meten en una habitación sin tener nosotros ni idea de chino, pero en una de las paredes tenemos una serie de datos tremendamente minuciosos sobre cómo convertir unas tarjetas con símbolos en chino que nos dan, ranura en otras tarjetas que tenemos tal vez colgadas en otra de las paredes. Es una relación de unas tarjetas por otras tarjetas. No sabemos nada más, no nos han dado ninguna información, pero ojo, es que esas instrucciones son fantásticas. Tal vez desde fuera, y esta es la clave, lo que se perciba es que nosotros estamos respondiendo en chino a las preguntas que nos han formulado también en chino, porque esa relación entre unas y otras tarjetas puede ser una relación sintáctica extraña, que no vamos a entrar en esa relación, pero que nos permita convertir una cosa en otra. Sin saber chino, convertir una pregunta en la respuesta adecuada. La cuestión es: ¿La persona que está dentro de la habitación sabe chino? Y de aquí se pueden interpretar muchas cosas. Esto no es por sí solo un contraejemplo del funcionalismo, un contraejemplo de que con suficientes reglas, que son lo que podríamos darle a un ordenador, reglas sintácticas, no quiere decir algorítmicas cerradas, por decirlo de esa forma, puede llegar a conocer algo. No solamente eso, lo que hace es: vamos a intentar crear una situación más o menos análoga, que nos resulta contraintuitiva y plantear cuáles son las posibles soluciones. Una es decir que sí conoce, que sí emerge de ahí un conocimiento, una experiencia…
Héctor Socas explica la diferencia entre sintaxis y semántica para asegurar que los oyentes comprendan el concepto, introduciendo un ejemplo para complementar la explicación del experimento mental de la habitación china.
Habla: Héctor SocasSignificado #13 · Palabras #9sintaxis como instruccionessemántica el significado de lo dichoexperimento mental habitación chinahécttor socas explica sintaxis semántica…varias veces también la semana pasada esa relación entre sintaxis y semántica, y no sé si los oyentes están al tanto de lo que es una cosa y la otra, porque no estamos hablando de filología. En este caso, sintaxis, igual lo puedes explicar mejor, pero Sintaxis es, digamos, las instrucciones, la forma de construir unas reglas que implican cómo se construye un sentido, mientras que la semántica es el significado de eso que se dice. Sí, es un resumen muy bueno; justo iba a entrar ahora en eso como ejemplo, porque la habitación china está bien, es muy vistosa y por eso también ha funcionado, pero a mí me parece más intuitivo incluso imaginar lo siguiente. A ti te encierran en una habitación y lo que te van a dar durante muchísimos años es textos en chino, enteramente en chino. No vas a tener comparación con ningún otro idioma. Tú lo que tienes es una capacidad de análisis estadístico increíble y tú llegas a…
Héctor Socas interrumpe la explicación de Nacho Trujillo sobre un experimento mental similar a la habitación china para señalar que la descripción ofrecida recuerda al funcionamiento de los modelos del lenguaje actuales.
Habla: Héctor SocasSignificado #3 · Palabras #2habitación china y modelos lenguajeinteligencia artificial en 1980nacho trujillo y experimento mental…que de alguna manera esto es siempre como que se va sofisticando cada vez más el modelo del lenguaje para incorporar todas aquellas cosas que demuestran que no entienden y dar apariencia de entendimiento. Pero bueno, sin querer entrar más, que me parece que Lo que estabas describiendo era una forma pretérita de describir esta habitación china; probablemente sería una buena... bueno, cuando lo cuentas me parece una descripción de lo que hace un modelo del lenguaje. Es de 1980, por esa época el ejemplo de la habitación china. Por eso lo mencionaba la semana pasada, porque hay que ponerlo en su contexto, o sea, en el contexto de lo que se entendía por inteligencia artificial en aquella época, que es muy diferente a lo que podemos entender ahora. Por eso a mí me gusta acompañarlo, también por el respeto histórico y porque es interesante; pero acompañarlo de esa idea de tú puedes hacer todos los análisis estadísticos que quieras, no es que te hayan dado instrucciones, es que solamente vas a tener…
Nacho Trujillo introduce una nota adicional sobre la relación entre el experimento mental de la habitación china y los modelos de lenguaje, señalando que estos últimos se centran únicamente en el lenguaje.
Habla: Nacho TrujilloSignificado #6 · Palabras #5habitación china y modelos lenguajemodelos lenguaje se centran lenguajeexperimento mental habitación china…es que solamente vas a tener relaciones entre textos. No vas a poder extraer, desde luego, la percepción de qué es un color, pero eso es otro tema. La cuestión es que no puedes dotar de significado, solamente a través de las relaciones; pero hay algo más, hay Un extra. Y aquí, por añadir otra pequeña nota que creo que es muy interesante: todo el rato que estamos queriendo, por lo menos en este caso de la habitación china y en los modelos del lenguaje, estamos hablando solo del lenguaje. Mientras que pareciera que la conciencia a lo mejor necesita De la corporeidad, de vivir en un mundo físico, más allá de unas reglas gramaticales. Es decir, que a lo mejor sí llegaríamos a esa inteligencia más parecida a la humana cuando estas inteligencias artificiales se les incorporen en un cuerpo. Uno de los…
Ignacio Crespo expresa su opinión sobre el experimento mental de la habitación china, argumentando que, a pesar de sus problemas, ofreció una reflexión necesaria en un momento de optimismo desmedido sobre la inteligencia artificial.
Habla: Ignacio CrespoSignificado #16 · Palabras #19habitación china y optimismo inteligencia artificialsustrato dependiente sin cuestiones espiritualesdualistas y experimento habitación china…parecido entre personas distintas o incluso entre sistemas nerviosos diferentes que compartan al menos alguna de estas propiedades que no son estrictamente formales, sino que dependen de dónde se implemente. Entonces, a mí por eso me parece interesante y por eso me parece que, oye, la habitación china con todos sus problemas y con todo lo que, por otro lado, ser podía decir que no tenía demasiado sentido, tal vez, porque no voy a comprarle todo, no me gusta todo lo que dice ni de lejos. en eso creo que sí que dijo algo que era necesario en un momento donde el optimismo era desbocado y nos recordó oye no sabemos qué es esto, no sabemos si basta con propiedades formales o si necesitamos alguna que sea dependiente del sustrato sin entrar en cuestiones espirituales porque no tiene nada que ver con eso, de hecho él se enfrentaba mucho a los dualistas es cierto que los dualistas han dicho vale, este experimento me vale también para mí, para decir hace falta algo más pero Serl no decía que lo que faltara, lo que hiciera falta fuera algo inmaterial, algo inexplicable por la ciencia. Él hablaba, además hablaba en concreto, y esto es lo que a mí no me gusta de él, de propiedades bioquímicas y además muy estrictamente relacionadas con nuestro cerebro. Él tendía a extrapolarlo poco a otros posibles sistemas nerviosos o directamente a…
Ignacio Crespo continúa una discusión sobre la individualidad y su conexión con el mundo material, planteando dificultades para imaginar la transferencia de la consciencia entre diferentes soportes físicos.
Habla: Ignacio CrespoPalabras #20conciencia y sustrato materialhabitación china ignacio crespoordenadores y consciencia…por ahí. Y justo por eso, desde una perspectiva estructuralista dicen, esa individualidad que tenemos, que está necesariamente conectada con el mundo material, ¿no? Con que yo soy yo, tú eres tú, yo estoy compuesto por lo que estoy compuesto. Y yo no soy tú. Hace que sea muy difícil imaginar que podamos descargar la conciencia o transmitirla de un sustrato material a otro, un añadido. Y es que, lo comenté un poco por encima la vez anterior, cuando hablamos de la habitación china, lo que plantea ser como conclusión es que los ordenadores, las computadoras. digitales, es como solía referirse, no pueden hacer ese salto de la síntaxis a la semántica y por lo tanto no pueden tener una experiencia fenoménica del mundo. Pueden hacer todas las maravillas que quieras, pero fenoménica, tal vez no. Lo que añade después…
Héctor Socas explica el argumento de la habitación china y cómo se relaciona con la discusión sobre pensamiento e inteligencia, recordando que en los años 80 la programación informática consistía en un conjunto de instrucciones.
Habla: Héctor SocasSignificado #1 · Palabras #1conciencia y experimento habitación chinapensamiento e inteligencia según hector socasdebate funcionalismo experiencia fenoménicaargumento habitación chinaprogramación informática años 80sintaxis y pensamiento simuladoseñor que no sabe chinoargumento habitación china funcionalismodebate sobre legislación china ignacio…también sea necesaria determinada sustancia, determinado sustrato concreto. Entonces se encuentra ahí un punto común que a mí me parece interesante: dice, hay buenos argumentos de un lado y de otro, ¿por qué no pensar que, claro que tiene que haber Una actividad formalizable, concreta, pero también que no valgan todos los sustratos? ¿Qué ibas a decir, Héctor? Perdona. No, por ir un poco, porque no nos alarguemos mucho con el debate, porque podríamos entrar en muchas cosas, pero sí que me parece que estamos mezclando cosas, ¿no? Como el tema fascinante es la conciencia, llevamos tanto tiempo hablando de la conciencia en estos programas, creo que lo estamos mezclando con el tema de la habitación china, que insisto, para mí, aunque surge en ese contexto, es un experimento mental sobre el pensamiento y la inteligencia más que sobre la conciencia, propiamente dicho. O sea, estrictamente hablando, lo que dice el argumento de la habitación china es que el señor que hay en la habitación no sabe chino. Sí, del aprendizaje también, ¿verdad, Héctor? Puede aparentar que sabe chino al exterior, pero no sabe chino. Entonces, la pregunta era si con una serie de reglas, con una sintaxis, se puede aparentar un pensamiento. Recordemos: estamos pensando en los 80; los ordenadores programar era un conjunto de instrucciones. Si te viene este símbolo con este otro símbolo, si te viene este símbolo contestado, un conjunto de instrucciones de las cuales, entonces, ese es el contexto y se trata de si el pensamiento puede emerger de ahí. Entonces, bueno, a mí me parece yo, bueno, querría decir que este es un tema que se ha discutido muchísimo; lo de este argumento de la habitación china se ha discutido muchísimo. ya lo he dicho aquí, soy materialista y funcionalista radical, entonces, pero sin, a ver, desde un punto de vista de alguien que, no sé, como opinólogo y cuñado de la vida, tampoco, voy a decir que está muy fundamentado, ¿no? pero claro, retrotarnos a estos argumentos de los años 80 como si demostraran algo, creo que en su momento generan mucho debate y solo me gustaría añadir que es un tema controvertido, o sea que no hay que pensar que, porque creo que a ti Ignacio si te gusta mucho la legislación china, pero creo que no debemos decir que esto demuestra que el funcionalismo está refutado, entiendo que esa era la idea pero creo que hay contra de que he insistido mucho en lo que hace es una duda razonable, porque sí que te diré una cosa, de acuerdo, es de los años 80, pero no lo necesito. Mi argumento viene de antes; lo que me interesa viene, como te decía, no de Searle sino de Sellars, que estamos hablando de mediados de siglo pasado, y lo que él plantea es ese salto entre sintaxis y semántica, que luego Searle utiliza, representado con lo de…
Héctor Socas continúa una discusión sobre el salto entre sintaxis y semántica, argumentando que este problema persiste independientemente de las opiniones sobre el experimento mental de la habitación china.
Habla: Héctor SocasSignificado #8 · Palabras #7salto entre sintaxis y semánticaproblema habitación chinasemántica emerge de sintaxishabitación china desacuerdo héctor socassirle materialista postura radicalmáquinas pensantes neuronas biológicasdoom juego neuronas…antes; lo que me interesa viene, como te decía, no de Searle sino de Sellars, que estamos hablando de mediados de siglo pasado, y lo que él plantea es ese salto entre sintaxis y semántica, que luego Searle utiliza, representado con lo de la habitación china. Para que sea más mediático, para que se entienda mejor, lo que sea, pero él lo está, simplemente particularizando; pero es un problema más fundamental que, independientemente de lo que nos guste de la habitación china, sigue sin respuesta. Estoy de acuerdo. O sea, el cómo emerge la semántica de la sintaxis es un problema abierto y es un problema interesante y fascinante. Estoy de acuerdo con eso. En concreto, la habitación china, bueno, me parece un poco tal. Y si quiero recalcar eso que tú decías, o sea, Sirle no era dualista; quiero decir, él era materialista en ese sentido, tú lo has explicado bien, pero quiero insistir en eso, pero para mí eso ya es suficientemente radical, o sea, es una idea; no sé si la gente, hay gente que apela a Cyril para decir, bueno, la mente humana es algo, no, no, la gente no sé si es consciente; él está diciendo que sí se pueden construir máquinas pensantes y conscientes, pero hay que construirlas con neuronas, con neuronas biológicas, como las que estuvimos hablando que jugaban al Doom hace dos semanas. ¿Podemos construir una máquina ¿Con neuronas biológicas? Usamos las de silicio porque hemos avanzado más y no es más fácil trabajar con ellas, pero todos los problemas existenciales de si eso tendría derechos, de si sería un ser pensante, de si sería ético crear algo así, todo eso, da…
Ignacio Crespo explica cómo los modelos de lenguaje actuales, a pesar de su capacidad sintáctica, solo aparentan entender el significado (como en el experimento mental de la habitación china). Señala que esta apariencia es suficiente para engañar a observadores externos.
Habla: Ignacio CrespoSignificado #5 · Palabras #6habitación china ignacio cresposintaxis resuelve habitación chinaaparentar entendimiento chinomanual instrucciones y persona…vídeos, audio, etc. Todo lo que hacen los modelos de lenguaje, pero sobre un modelo del mundo. De esa manera ya adquiero también esa componente semántica en esos sistemas y es lo que está ahora de moda. Pero yo os digo, ahora mismo los grandes modelos de Lenguaje, como comentaba Nacho, están demostrando claramente que la sintaxis permite resolver el problema de la habitación china. Es decir, la persona y el manual de instrucciones en conjunto pueden aparentar perfectamente un entendimiento del chino; porque nadie de fuera ve ningún tipo de diferencia. Pero eso es importante: aparentar un entendimiento. Aparentar, claro. Realmente, como decía, si nos retrotraemos a Sellars, Sellars ya planteaba esto; o sea, decía: tenemos que dividir la serie de procesos mentales que normalmente metemos en un solo paquete en aquellos que sí que se resuelven solo con sintaxis y él incluía…