Búsqueda · 14 momentos en 2 episodios
Jorge SánchezNacho TrujilloLuisa AchaerandioIsabel CorderoJosé EdelsteinJuan Carlos GilIgnacio CrespoFrancis VillatoroHéctor SocasGastón Giribetprocesos mentales generales no concienciahabitación china y procesos mentalesprimer capítulo sobre materialismoHabitación chinaNacho TrujilloJohn SearleIgnacio CrespoHéctor SocasPutnamModelos del LenguajeConcienciaaños 80SellarsPatatínPatatánJohn SerlSearleSirleCyrilDoom
Habitación China y procesos mentales
Con
0:000:301:001:302:002:303:003:303:56
Nacho Trujillo introduce una explicación sobre la relevancia del tema actual, indicando que se relaciona con los procesos mentales generales y no directamente con la conciencia.
…es muy divertida y tiene ese tono. Bueno, hablamos de la conciencia entonces: venga, no estoy seguro si esto que vas a contar es la conciencia o es el entendimiento, la inteligencia y el pensamiento, porque igual no es correcto. Pues es complicado; yo creo. que podemos hacer una cosa Llegamos a la habitación china, pero antes os hago un breve resumen de por qué todo esto es relevante Porque esto empieza no con la conciencia, como decías, sino con los procesos mentales en general Estamos con el problema que ya adelantamos en el primer capítulo de todo esto y que nos saltamos un poco porque a nosotros nos interesan las explicaciones materialistas, pero lo Primero que realmente hay que preguntarse es: ¿qué son los procesos mentales? ¿Qué son? ¿Con qué podemos asimilarlos? Y ahí hay una serie de discusiones, por supuesto está ese dualismo de Descartes que arrastramos durante muchísimo tiempo, pero dentro del…
Significado #1 · Palabras #1
Héctor Socas y Nacho Trujillo comentan una pregunta de un oyente sobre la interacción necesaria para que la materia oscura caiga en un agujero negro, mientras se discute la posible duración de la participación de Nacho Trujillo en el programa.
Habla: Héctor SocasPalabras #20nacho trujillo en coffee breakhabitación china de nacho trujilloparticipación de nacho trujillo…no nos caemos al sol, nos quedamos en órbita. De hecho, interacción es just another name for friction; es eso, es un nombre para fricción; es eso. Tiene que friccionar, ir gastando energía cinética, transformándola en quedarse quieto y esa interacción así. Bueno, no sé si está suficientemente relacionado, pero teníamos también otra pregunta de oyente, aprovechando que está Nacho todavía, porque no sé si se va a quedar todo el programa. Hasta que lleguen a la habitación esa, que es la habitación china. De ahí no me sacan. Cuando veo el chino me voy. No, no, al contrario, me quedo con el chino. Tengo muchas ganas de escuchar eso y participar si puedo. Entonces lo comento ahora: nos preguntaba también una oyente, Paloma Mantilla, por una cosa que se llaman galaxias tipo Green Bean, como judía verde que son objetos observados por el James Webb. Si quieres lo comento rápidamente y Nacho, no sé si querrás…
Héctor Socas concluye una discusión dividida en cuatro partes sobre la conciencia desde perspectivas neurocientíficas y filosóficas, que se prolongó debido a la introducción del tema de la 'habitación china' de John Searle.
Habla: Héctor SocasSignificado #14conciencia desde neurociencia y filosofíahabitación china de john searlediscusión en cuatro fascículos…hace falta a los penaltis también. Bien, yo veo a Ignacio con cara de estar fresco, de estar motivado; de hecho he hablado poquito todavía, en parte reservándome porque estaba todo muy interesante eso por supuesto, pero sobre todo diciendo la que me espera. Bueno, pues hoy concluimos esta discusión que hemos tenido a entregas en cuatro fascículos superinteresantes sobre este tema tan apasionante de la conciencia desde el punto de vista de la neurociencia, de la filosofía y de muchas cosas. Creo que hemos estado hablando del tema en cuatro capítulos sucesivos y hubiéramos terminado la semana pasada si no hubiera surgido el tema de la habitación china de John Searle. Que no es que la Reina lo haya nombrado ser, sino que su apellido se pronuncia un poco así. Y que a mí me sale más fácil Searle. Pues ya está, Searle está bien. Entonces, bueno Ignacio, creo que nos iba a contar el experimento con un poco de detalle y ya con…
Nacho Trujillo introduce una explicación sobre la relevancia del tema actual, indicando que se relaciona con los procesos mentales generales y no directamente con la conciencia.
Habla: Nacho TrujilloSignificado #1 · Palabras #1procesos mentales generales no concienciahabitación china y procesos mentalesprimer capítulo sobre materialismo…es muy divertida y tiene ese tono. Bueno, hablamos de la conciencia entonces: venga, no estoy seguro si esto que vas a contar es la conciencia o es el entendimiento, la inteligencia y el pensamiento, porque igual no es correcto. Pues es complicado; yo creo. que podemos hacer una cosa Llegamos a la habitación china, pero antes os hago un breve resumen de por qué todo esto es relevante Porque esto empieza no con la conciencia, como decías, sino con los procesos mentales en general Estamos con el problema que ya adelantamos en el primer capítulo de todo esto y que nos saltamos un poco porque a nosotros nos interesan las explicaciones materialistas, pero lo Primero que realmente hay que preguntarse es: ¿qué son los procesos mentales? ¿Qué son? ¿Con qué podemos asimilarlos? Y ahí hay una serie de discusiones, por supuesto está ese dualismo de Descartes que arrastramos durante muchísimo tiempo, pero dentro del…
Ignacio Crespo plantea una pregunta clave sobre el experimento mental de la habitación china de John Searle: si la persona dentro de la habitación sabe chino.
Habla: Ignacio CrespoSignificado #18 · Palabras #2experimento mental de la habitación chinarelación sintaxis semántica sellarsproblema experiencia del rojohabitación china de john searleinstrucciones para tarjetas en chinorelación sintáctica extraña entre tarjetaspercibir respuestas en chino sin saberlopersona sabe chinofuncionalismo y reglas sintácticasordenador algorítmico cerradoexperimento mental habitación chinaconocimiento emerge de la habitaciónsituación análoga ignacio crespoexperiencia fenoménica en la habitación…hipótesis muy bonita sino que podemos llegar a probarlo empíricamente podemos llegar a conseguir obtener máquinas que como tienen una relación funcional entre lo que nosotros le introducimos y lo que nos devuelven puedan emular todos los procesos mentales. Y esto es donde entra Searle y dice: se me ocurre un contraejemplo. Ojo, un contraejemplo que no nace del todo con él. Ya hemos hablado de Sellars; Sellars encontraba que el gran problema por el que tal vez la experiencia del rojo quedaba fuera de lo que podía emerger de estos sistemas formales es la relación entre la sintaxis y la semántica. Y esto es lo que va a coger Searle para su experimento mental de la habitación china. Entonces, si queréis, ahora la expongo y comento cuál es la relación con eso; que yo creo que más o menos como bagaje nos hace situarnos un poquito. La idea es la siguiente: imaginemos que nos meten en una habitación sin tener nosotros ni idea de chino, pero en una de las paredes tenemos una serie de datos tremendamente minuciosos sobre cómo convertir unas tarjetas con símbolos en chino que nos dan, ranura en otras tarjetas que tenemos tal vez colgadas en otra de las paredes. Es una relación de unas tarjetas por otras tarjetas. No sabemos nada más, no nos han dado ninguna información, pero ojo, es que esas instrucciones son fantásticas. Tal vez desde fuera, y esta es la clave, lo que se perciba es que nosotros estamos respondiendo en chino a las preguntas que nos han formulado también en chino, porque esa relación entre unas y otras tarjetas puede ser una relación sintáctica extraña, que no vamos a entrar en esa relación, pero que nos permita convertir una cosa en otra. Sin saber chino, convertir una pregunta en la respuesta adecuada. La cuestión es: ¿La persona que está dentro de la habitación sabe chino? Y de aquí se pueden interpretar muchas cosas. Esto no es por sí solo un contraejemplo del funcionalismo, un contraejemplo de que con suficientes reglas, que son lo que podríamos darle a un ordenador, reglas sintácticas, no quiere decir algorítmicas cerradas, por decirlo de esa forma, puede llegar a conocer algo. No solamente eso, lo que hace es: vamos a intentar crear una situación más o menos análoga, que nos resulta contraintuitiva y plantear cuáles son las posibles soluciones. Una es decir que sí conoce, que sí emerge de ahí un conocimiento, una experiencia fenoménica y la otra es decir que no. ¿Y qué implicaría cada una? Dime Héctor. No, es por aclarar, porque han mencionado varias veces también la semana pasada esa relación entre sintaxis y semántica, y no sé si los oyentes están al tanto de lo que es una cosa y la otra, porque no estamos hablando de filología. En este caso,…
Ignacio Crespo continúa explicando el experimento mental alternativo al de la habitación china, proponiendo una analogía con la clasificación de palabras en chino para ilustrar la imposibilidad de comprender el significado sin un contexto externo.
Habla: Ignacio CrespoPalabras #7sintaxis como instruccionessemántica el significado de lo dichoexperimento mental habitación chinahécttor socas explica sintaxis semánticaanálisis estadístico textos chinoscapacidad análisis estadístico ignacio crespoagrupación palabras posición fraseclasificación de palabras en chinopatatín sustantivos patatán adjetivosestadísticas de textos chinosclave de la piedra roseta…varias veces también la semana pasada esa relación entre sintaxis y semántica, y no sé si los oyentes están al tanto de lo que es una cosa y la otra, porque no estamos hablando de filología. En este caso, sintaxis, igual lo puedes explicar mejor, pero Sintaxis es, digamos, las instrucciones, la forma de construir unas reglas que implican cómo se construye un sentido, mientras que la semántica es el significado de eso que se dice. Sí, es un resumen muy bueno; justo iba a entrar ahora en eso como ejemplo, porque la habitación china está bien, es muy vistosa y por eso también ha funcionado, pero a mí me parece más intuitivo incluso imaginar lo siguiente. A ti te encierran en una habitación y lo que te van a dar durante muchísimos años es textos en chino, enteramente en chino. No vas a tener comparación con ningún otro idioma. Tú lo que tienes es una capacidad de análisis estadístico increíble y tú llegas a ser capaz, analizando esos textos, de decir: Mira, es que toda esta serie de palabras se suelen encontrar antes que todas estas otras palabras cuando aparecen. Y en función de sus posiciones en las frases, eres capaz de agruparlas. Y les pones un nombre. Este, pues tal vez se llama Patatín, que podrían ser sustantivos. Y este Patatán, adjetivos. Encuentras correlaciones entre ellas; más o menos unas reglas para ordenar, pero y este es el problema, da igual el tiempo que te den, si solo tienes textos en chino, no vas a saber decir nunca qué es lo que están codificando, qué es lo que están transmitiendo. Da igual cuánto tiempo estés leyéndolos y procesando estadísticamente esos textos; es un poco la clave de la piedra roseta, ¿no? ¿Por qué fue tan importante? Porque por fin teníamos dos, bueno, tres, ¿no? Pero textos en distintos idiomas que decían lo mismo y nos permitían comparar. Pero si no lo tenemos, la semántica no puede nacer de la nada. Dime. Y esto no está muy relacionado…
Nacho Trujillo introduce una nota adicional sobre la relación entre el experimento mental de la habitación china y los modelos de lenguaje, señalando que estos últimos se centran únicamente en el lenguaje.
Habla: Nacho TrujilloSignificado #3 · Palabras #5habitación china y modelos lenguajeinteligencia artificial en 1980nacho trujillo y experimento mentalexperimento mental habitación chinaanálisis estadísticos revelan textospercepción del color como tema aparterelaciones entre textos dotan significadomodelos lenguaje se centran lenguaje…que de alguna manera esto es siempre como que se va sofisticando cada vez más el modelo del lenguaje para incorporar todas aquellas cosas que demuestran que no entienden y dar apariencia de entendimiento. Pero bueno, sin querer entrar más, que me parece que Lo que estabas describiendo era una forma pretérita de describir esta habitación china; probablemente sería una buena... bueno, cuando lo cuentas me parece una descripción de lo que hace un modelo del lenguaje. Es de 1980, por esa época el ejemplo de la habitación china. Por eso lo mencionaba la semana pasada, porque hay que ponerlo en su contexto, o sea, en el contexto de lo que se entendía por inteligencia artificial en aquella época, que es muy diferente a lo que podemos entender ahora. Por eso a mí me gusta acompañarlo, también por el respeto histórico y porque es interesante; pero acompañarlo de esa idea de tú puedes hacer todos los análisis estadísticos que quieras, no es que te hayan dado instrucciones, es que solamente vas a tener relaciones entre textos. No vas a poder extraer, desde luego, la percepción de qué es un color, pero eso es otro tema. La cuestión es que no puedes dotar de significado, solamente a través de las relaciones; pero hay algo más, hay Un extra. Y aquí, por añadir otra pequeña nota que creo que es muy interesante: todo el rato que estamos queriendo, por lo menos en este caso de la habitación china y en los modelos del lenguaje, estamos hablando solo del lenguaje. Mientras que pareciera que la conciencia a lo mejor necesita De la corporeidad, de vivir en un mundo físico, más allá de unas reglas gramaticales. Es decir, que a lo mejor sí llegaríamos a esa inteligencia más parecida a la humana cuando estas inteligencias artificiales se les incorporen en un cuerpo. Uno de los…
Ignacio Crespo expresa su opinión sobre el experimento mental de la habitación china, argumentando que, a pesar de sus problemas, ofreció una reflexión necesaria en un momento de optimismo desmedido sobre la inteligencia artificial.
Habla: Ignacio CrespoSignificado #8 · Palabras #18habitación china y optimismo inteligencia artificialsustrato dependiente sin cuestiones espiritualesdualistas y experimento habitación china…parecido entre personas distintas o incluso entre sistemas nerviosos diferentes que compartan al menos alguna de estas propiedades que no son estrictamente formales, sino que dependen de dónde se implemente. Entonces, a mí por eso me parece interesante y por eso me parece que, oye, la habitación china con todos sus problemas y con todo lo que, por otro lado, ser podía decir que no tenía demasiado sentido, tal vez, porque no voy a comprarle todo, no me gusta todo lo que dice ni de lejos. en eso creo que sí que dijo algo que era necesario en un momento donde el optimismo era desbocado y nos recordó oye no sabemos qué es esto, no sabemos si basta con propiedades formales o si necesitamos alguna que sea dependiente del sustrato sin entrar en cuestiones espirituales porque no tiene nada que ver con eso, de hecho él se enfrentaba mucho a los dualistas es cierto que los dualistas han dicho vale, este experimento me vale también para mí, para decir hace falta algo más pero Serl no decía que lo que faltara, lo que hiciera falta fuera algo inmaterial, algo inexplicable por la ciencia. Él hablaba, además hablaba en concreto, y esto es lo que a mí no me gusta de él, de propiedades bioquímicas y además muy estrictamente relacionadas con nuestro cerebro. Él tendía a extrapolarlo poco a otros posibles sistemas nerviosos o directamente a…
Héctor Socas interrumpe una discusión sobre el funcionalismo y la necesidad de un sustrato concreto para la experiencia fenoménica, señalando que se están mezclando conceptos relacionados con la conciencia y el experimento mental de la habitación china.
Habla: Héctor SocasSignificado #2 · Palabras #13conciencia y experimento habitación chinapensamiento e inteligencia según hector socasdebate funcionalismo experiencia fenoménicaargumento habitación chinaprogramación informática años 80sintaxis y pensamiento simuladoseñor que no sabe chino…también sea necesaria determinada sustancia, determinado sustrato concreto. Entonces se encuentra ahí un punto común que a mí me parece interesante: dice, hay buenos argumentos de un lado y de otro, ¿por qué no pensar que, claro que tiene que haber Una actividad formalizable, concreta, pero también que no valgan todos los sustratos? ¿Qué ibas a decir, Héctor? Perdona. No, por ir un poco, porque no nos alarguemos mucho con el debate, porque podríamos entrar en muchas cosas, pero sí que me parece que estamos mezclando cosas, ¿no? Como el tema fascinante es la conciencia, llevamos tanto tiempo hablando de la conciencia en estos programas, creo que lo estamos mezclando con el tema de la habitación china, que insisto, para mí, aunque surge en ese contexto, es un experimento mental sobre el pensamiento y la inteligencia más que sobre la conciencia, propiamente dicho. O sea, estrictamente hablando, lo que dice el argumento de la habitación china es que el señor que hay en la habitación no sabe chino. Sí, del aprendizaje también, ¿verdad, Héctor? Puede aparentar que sabe chino al exterior, pero no sabe chino. Entonces, la pregunta era si con una serie de reglas, con una sintaxis, se puede aparentar un pensamiento. Recordemos: estamos pensando en los 80; los ordenadores programar era un conjunto de instrucciones. Si te viene este símbolo con este otro símbolo, si te viene este símbolo contestado, un conjunto de instrucciones de las cuales, entonces, ese es el contexto y se trata de si el pensamiento puede emerger de ahí. Entonces, bueno, a mí me parece yo, bueno, querría decir que este es un tema que se ha discutido muchísimo; lo de este argumento de la habitación china se ha discutido muchísimo. ya lo he dicho aquí, soy materialista y funcionalista radical, entonces, pero sin, a ver, desde un punto de vista de alguien que, no sé, como opinólogo y cuñado de la vida, tampoco, voy a decir que está muy fundamentado, ¿no? pero claro, retrotarnos a estos…
Héctor Socas continúa una discusión sobre el salto entre sintaxis y semántica, argumentando que este problema persiste independientemente de las opiniones sobre el experimento mental de la habitación china.
Habla: Héctor SocasSignificado #11 · Palabras #9salto entre sintaxis y semánticaproblema habitación chinasemántica emerge de sintaxishabitación china desacuerdo héctor socassirle materialista postura radicalmáquinas pensantes neuronas biológicasdoom juego neuronas…antes; lo que me interesa viene, como te decía, no de Searle sino de Sellars, que estamos hablando de mediados de siglo pasado, y lo que él plantea es ese salto entre sintaxis y semántica, que luego Searle utiliza, representado con lo de la habitación china. Para que sea más mediático, para que se entienda mejor, lo que sea, pero él lo está, simplemente particularizando; pero es un problema más fundamental que, independientemente de lo que nos guste de la habitación china, sigue sin respuesta. Estoy de acuerdo. O sea, el cómo emerge la semántica de la sintaxis es un problema abierto y es un problema interesante y fascinante. Estoy de acuerdo con eso. En concreto, la habitación china, bueno, me parece un poco tal. Y si quiero recalcar eso que tú decías, o sea, Sirle no era dualista; quiero decir, él era materialista en ese sentido, tú lo has explicado bien, pero quiero insistir en eso, pero para mí eso ya es suficientemente radical, o sea, es una idea; no sé si la gente, hay gente que apela a Cyril para decir, bueno, la mente humana es algo, no, no, la gente no sé si es consciente; él está diciendo que sí se pueden construir máquinas pensantes y conscientes, pero hay que construirlas con neuronas, con neuronas biológicas, como las que estuvimos hablando que jugaban al Doom hace dos semanas. ¿Podemos construir una máquina ¿Con neuronas biológicas? Usamos las de silicio porque hemos avanzado más y no es más fácil trabajar con ellas, pero todos los problemas existenciales de si eso tendría derechos, de si sería un ser pensante, de si sería ético crear algo así, todo eso, da…
Ignacio Crespo explica cómo los modelos de lenguaje actuales, a pesar de su capacidad sintáctica, solo aparentan entender el significado (como en el experimento mental de la habitación china). Señala que esta apariencia es suficiente para engañar a observadores externos.
Habla: Ignacio CrespoSignificado #15 · Palabras #12habitación china ignacio cresposintaxis resuelve habitación chinaaparentar entendimiento chinomanual instrucciones y persona…vídeos, audio, etc. Todo lo que hacen los modelos de lenguaje, pero sobre un modelo del mundo. De esa manera ya adquiero también esa componente semántica en esos sistemas y es lo que está ahora de moda. Pero yo os digo, ahora mismo los grandes modelos de Lenguaje, como comentaba Nacho, están demostrando claramente que la sintaxis permite resolver el problema de la habitación china. Es decir, la persona y el manual de instrucciones en conjunto pueden aparentar perfectamente un entendimiento del chino; porque nadie de fuera ve ningún tipo de diferencia. Pero eso es importante: aparentar un entendimiento. Aparentar, claro. Realmente, como decía, si nos retrotraemos a Sellars, Sellars ya planteaba esto; o sea, decía: tenemos que dividir la serie de procesos mentales que normalmente metemos en un solo paquete en aquellos que sí que se resuelven solo con sintaxis y él incluía…