Búsqueda · 20 momentos en 5 episodios
Jorge SánchezNacho TrujilloLuisa AchaerandioIsabel CorderoJosé EdelsteinJuan Carlos GilIgnacio CrespoFrancis VillatoroHéctor SocasGastón Giribetconciencia y experimento habitación chinapensamiento e inteligencia según hector socasdebate funcionalismo experiencia fenoménicaargumento habitación chinaprogramación informática años 80sintaxis y pensamiento simuladoseñor que no sabe chinoHéctor SocasHabitación chinaPutnamSirleCyrilDoomJohn SearleModelos del LenguajeConcienciaNacho Trujilloaños 80Ignacio CrespoSellarsSearle
Máquinas Conciencia Habitación China
Con
0:000:301:001:302:002:303:003:303:56
Héctor Socas interrumpe una discusión sobre el funcionalismo y la necesidad de un sustrato concreto para la experiencia fenoménica, señalando que se están mezclando conceptos relacionados con la conciencia y el experimento mental de la habitación china.
…también sea necesaria determinada sustancia, determinado sustrato concreto. Entonces se encuentra ahí un punto común que a mí me parece interesante: dice, hay buenos argumentos de un lado y de otro, ¿por qué no pensar que, claro que tiene que haber Una actividad formalizable, concreta, pero también que no valgan todos los sustratos? ¿Qué ibas a decir, Héctor? Perdona. No, por ir un poco, porque no nos alarguemos mucho con el debate, porque podríamos entrar en muchas cosas, pero sí que me parece que estamos mezclando cosas, ¿no? Como el tema fascinante es la conciencia, llevamos tanto tiempo hablando de la conciencia en estos programas, creo que lo estamos mezclando con el tema de la habitación china, que insisto, para mí, aunque surge en ese contexto, es un experimento mental sobre el pensamiento y la inteligencia más que sobre la conciencia, propiamente dicho. O sea, estrictamente hablando, lo que dice el argumento de la habitación china es que el señor que hay en la habitación no sabe chino. Sí, del aprendizaje también, ¿verdad, Héctor? Puede aparentar que sabe chino al exterior, pero no sabe chino. Entonces, la pregunta era si con una serie de reglas, con una sintaxis, se puede aparentar un pensamiento. Recordemos: estamos pensando en los 80; los ordenadores programar era un conjunto de instrucciones. Si te viene este símbolo con este otro símbolo, si te viene este símbolo contestado, un conjunto de instrucciones de las cuales, entonces, ese es el contexto y se trata de si el pensamiento puede emerger de ahí. Entonces, bueno, a mí me parece yo, bueno, querría decir que este es un tema que se ha discutido muchísimo; lo de este argumento de la habitación china se ha discutido muchísimo. ya lo he dicho aquí, soy materialista y funcionalista radical, entonces, pero sin, a ver, desde un punto de vista de alguien que, no sé, como opinólogo y cuñado de la vida, tampoco, voy a decir que está muy fundamentado, ¿no? pero claro, retrotarnos a estos…
Significado #1 · Palabras #2
Héctor Socas y Nacho Trujillo comentan una pregunta de un oyente sobre la interacción necesaria para que la materia oscura caiga en un agujero negro, mientras se discute la posible duración de la participación de Nacho Trujillo en el programa.
Habla: Héctor SocasPalabras #18nacho trujillo en coffee breakhabitación china de nacho trujilloparticipación de nacho trujillo…no nos caemos al sol, nos quedamos en órbita. De hecho, interacción es just another name for friction; es eso, es un nombre para fricción; es eso. Tiene que friccionar, ir gastando energía cinética, transformándola en quedarse quieto y esa interacción así. Bueno, no sé si está suficientemente relacionado, pero teníamos también otra pregunta de oyente, aprovechando que está Nacho todavía, porque no sé si se va a quedar todo el programa. Hasta que lleguen a la habitación esa, que es la habitación china. De ahí no me sacan. Cuando veo el chino me voy. No, no, al contrario, me quedo con el chino. Tengo muchas ganas de escuchar eso y participar si puedo. Entonces lo comento ahora: nos preguntaba también una oyente, Paloma Mantilla, por una cosa que se llaman galaxias tipo Green Bean, como judía verde que son objetos observados por el James Webb. Si quieres lo comento rápidamente y Nacho, no sé si querrás…
Héctor Socas concluye una discusión dividida en cuatro partes sobre la conciencia desde perspectivas neurocientíficas y filosóficas, que se prolongó debido a la introducción del tema de la 'habitación china' de John Searle.
Habla: Héctor SocasSignificado #17 · Palabras #4conciencia desde neurociencia y filosofíahabitación china de john searlediscusión en cuatro fascículos…hace falta a los penaltis también. Bien, yo veo a Ignacio con cara de estar fresco, de estar motivado; de hecho he hablado poquito todavía, en parte reservándome porque estaba todo muy interesante eso por supuesto, pero sobre todo diciendo la que me espera. Bueno, pues hoy concluimos esta discusión que hemos tenido a entregas en cuatro fascículos superinteresantes sobre este tema tan apasionante de la conciencia desde el punto de vista de la neurociencia, de la filosofía y de muchas cosas. Creo que hemos estado hablando del tema en cuatro capítulos sucesivos y hubiéramos terminado la semana pasada si no hubiera surgido el tema de la habitación china de John Searle. Que no es que la Reina lo haya nombrado ser, sino que su apellido se pronuncia un poco así. Y que a mí me sale más fácil Searle. Pues ya está, Searle está bien. Entonces, bueno Ignacio, creo que nos iba a contar el experimento con un poco de detalle y ya con…
Nacho Trujillo introduce una explicación sobre la relevancia del tema actual, indicando que se relaciona con los procesos mentales generales y no directamente con la conciencia.
Habla: Nacho TrujilloSignificado #5 · Palabras #8procesos mentales generales no concienciahabitación china y procesos mentalesprimer capítulo sobre materialismo…es muy divertida y tiene ese tono. Bueno, hablamos de la conciencia entonces: venga, no estoy seguro si esto que vas a contar es la conciencia o es el entendimiento, la inteligencia y el pensamiento, porque igual no es correcto. Pues es complicado; yo creo. que podemos hacer una cosa Llegamos a la habitación china, pero antes os hago un breve resumen de por qué todo esto es relevante Porque esto empieza no con la conciencia, como decías, sino con los procesos mentales en general Estamos con el problema que ya adelantamos en el primer capítulo de todo esto y que nos saltamos un poco porque a nosotros nos interesan las explicaciones materialistas, pero lo Primero que realmente hay que preguntarse es: ¿qué son los procesos mentales? ¿Qué son? ¿Con qué podemos asimilarlos? Y ahí hay una serie de discusiones, por supuesto está ese dualismo de Descartes que arrastramos durante muchísimo tiempo, pero dentro del…
Ignacio Crespo introduce a John Searle y su experimento mental de la habitación china como una respuesta al funcionalismo, mencionando previamente el trabajo de Sellars sobre la relación entre sintaxis y semántica.
Habla: Ignacio CrespoSignificado #13experimento mental de la habitación chinarelación sintaxis semántica sellarsproblema experiencia del rojo…hipótesis muy bonita sino que podemos llegar a probarlo empíricamente podemos llegar a conseguir obtener máquinas que como tienen una relación funcional entre lo que nosotros le introducimos y lo que nos devuelven puedan emular todos los procesos mentales. Y esto es donde entra Searle y dice: se me ocurre un contraejemplo. Ojo, un contraejemplo que no nace del todo con él. Ya hemos hablado de Sellars; Sellars encontraba que el gran problema por el que tal vez la experiencia del rojo quedaba fuera de lo que podía emerger de estos sistemas formales es la relación entre la sintaxis y la semántica. Y esto es lo que va a coger Searle para su experimento mental de la habitación china. Entonces, si queréis, ahora la expongo y comento cuál es la relación con eso; que yo creo que más o menos como bagaje nos hace situarnos un poquito. La idea es la siguiente: imaginemos que nos meten en una habitación sin tener nosotros ni idea de chino, pero en una de las paredes tenemos una serie de datos tremendamente minuciosos sobre cómo convertir unas tarjetas con símbolos en chino que nos dan,…
Ignacio Crespo plantea una pregunta clave sobre el experimento mental de la habitación china de John Searle: si la persona dentro de la habitación sabe chino.
Habla: Ignacio CrespoSignificado #15 · Palabras #13habitación china de john searlepersona sabe chinofuncionalismo y reglas sintácticasordenador algorítmico cerrado…esa relación entre unas y otras tarjetas puede ser una relación sintáctica extraña, que no vamos a entrar en esa relación, pero que nos permita convertir una cosa en otra. Sin saber chino, convertir una pregunta en la respuesta adecuada. La cuestión es: ¿La persona que está dentro de la habitación sabe chino? Y de aquí se pueden interpretar muchas cosas. Esto no es por sí solo un contraejemplo del funcionalismo, un contraejemplo de que con suficientes reglas, que son lo que podríamos darle a un ordenador, reglas sintácticas, no quiere decir algorítmicas cerradas, por decirlo de esa forma, puede llegar a conocer algo. No solamente eso, lo que hace es: vamos a intentar crear una situación más o menos análoga, que nos resulta contraintuitiva y plantear cuáles son las posibles soluciones. Una es decir que sí conoce, que sí emerge de ahí un conocimiento, una experiencia…
Héctor Socas explica la diferencia entre sintaxis y semántica para asegurar que los oyentes comprendan el concepto, introduciendo un ejemplo para complementar la explicación del experimento mental de la habitación china.
Habla: Héctor SocasSignificado #19sintaxis como instruccionessemántica el significado de lo dichoexperimento mental habitación chinahécttor socas explica sintaxis semánticaanálisis estadístico textos chinoscapacidad análisis estadístico ignacio crespoagrupación palabras posición frase…varias veces también la semana pasada esa relación entre sintaxis y semántica, y no sé si los oyentes están al tanto de lo que es una cosa y la otra, porque no estamos hablando de filología. En este caso, sintaxis, igual lo puedes explicar mejor, pero Sintaxis es, digamos, las instrucciones, la forma de construir unas reglas que implican cómo se construye un sentido, mientras que la semántica es el significado de eso que se dice. Sí, es un resumen muy bueno; justo iba a entrar ahora en eso como ejemplo, porque la habitación china está bien, es muy vistosa y por eso también ha funcionado, pero a mí me parece más intuitivo incluso imaginar lo siguiente. A ti te encierran en una habitación y lo que te van a dar durante muchísimos años es textos en chino, enteramente en chino. No vas a tener comparación con ningún otro idioma. Tú lo que tienes es una capacidad de análisis estadístico increíble y tú llegas a ser capaz, analizando esos textos, de decir: Mira, es que toda esta serie de palabras se suelen encontrar antes que todas estas otras palabras cuando aparecen. Y en función de sus posiciones en las frases, eres capaz de agruparlas. Y les pones un nombre. Este, pues tal vez se llama Patatín, que podrían ser sustantivos. Y este Patatán, adjetivos. Encuentras correlaciones entre ellas; más o menos unas reglas para ordenar, pero y este es el problema, da igual el tiempo que te den, si solo…
Héctor Socas interrumpe la explicación de Nacho Trujillo sobre un experimento mental similar a la habitación china para señalar que la descripción ofrecida recuerda al funcionamiento de los modelos del lenguaje actuales.
Habla: Héctor SocasSignificado #6 · Palabras #14habitación china y modelos lenguajeinteligencia artificial en 1980nacho trujillo y experimento mental…que de alguna manera esto es siempre como que se va sofisticando cada vez más el modelo del lenguaje para incorporar todas aquellas cosas que demuestran que no entienden y dar apariencia de entendimiento. Pero bueno, sin querer entrar más, que me parece que Lo que estabas describiendo era una forma pretérita de describir esta habitación china; probablemente sería una buena... bueno, cuando lo cuentas me parece una descripción de lo que hace un modelo del lenguaje. Es de 1980, por esa época el ejemplo de la habitación china. Por eso lo mencionaba la semana pasada, porque hay que ponerlo en su contexto, o sea, en el contexto de lo que se entendía por inteligencia artificial en aquella época, que es muy diferente a lo que podemos entender ahora. Por eso a mí me gusta acompañarlo, también por el respeto histórico y porque es interesante; pero acompañarlo de esa idea de tú puedes hacer todos los análisis estadísticos que quieras, no es que te hayan dado instrucciones, es que solamente vas a tener…
Nacho Trujillo introduce una nota adicional sobre la relación entre el experimento mental de la habitación china y los modelos de lenguaje, señalando que estos últimos se centran únicamente en el lenguaje.
Habla: Nacho TrujilloSignificado #4 · Palabras #5habitación china y modelos lenguajemodelos lenguaje se centran lenguajeexperimento mental habitación china…es que solamente vas a tener relaciones entre textos. No vas a poder extraer, desde luego, la percepción de qué es un color, pero eso es otro tema. La cuestión es que no puedes dotar de significado, solamente a través de las relaciones; pero hay algo más, hay Un extra. Y aquí, por añadir otra pequeña nota que creo que es muy interesante: todo el rato que estamos queriendo, por lo menos en este caso de la habitación china y en los modelos del lenguaje, estamos hablando solo del lenguaje. Mientras que pareciera que la conciencia a lo mejor necesita De la corporeidad, de vivir en un mundo físico, más allá de unas reglas gramaticales. Es decir, que a lo mejor sí llegaríamos a esa inteligencia más parecida a la humana cuando estas inteligencias artificiales se les incorporen en un cuerpo. Uno de los…
Ignacio Crespo continúa una discusión sobre la individualidad y su conexión con el mundo material, planteando dificultades para imaginar la transferencia de la consciencia entre diferentes soportes físicos.
Habla: Ignacio CrespoPalabras #9conciencia y sustrato materialhabitación china ignacio crespoordenadores y conscienciacomputadoras digitales y experiencia fenoménicamáquinas con conciencia según ignacio crespomaterialismo y visión reduccionista de crespo…por ahí. Y justo por eso, desde una perspectiva estructuralista dicen, esa individualidad que tenemos, que está necesariamente conectada con el mundo material, ¿no? Con que yo soy yo, tú eres tú, yo estoy compuesto por lo que estoy compuesto. Y yo no soy tú. Hace que sea muy difícil imaginar que podamos descargar la conciencia o transmitirla de un sustrato material a otro, un añadido. Y es que, lo comenté un poco por encima la vez anterior, cuando hablamos de la habitación china, lo que plantea ser como conclusión es que los ordenadores, las computadoras. digitales, es como solía referirse, no pueden hacer ese salto de la síntaxis a la semántica y por lo tanto no pueden tener una experiencia fenoménica del mundo. Pueden hacer todas las maravillas que quieras, pero fenoménica, tal vez no. Lo que añade después es que no ve ningún problema en que las máquinas tengan conciencia, pero entendiendo el concepto de máquina como algo más ampliado, él decía explícitamente que, claro que pueden tener conciencia las máquinas, nosotros somos máquinas. Claro, él era materialista también, así que nos veía de una forma reduccionista en ese aspecto. Y por lo tanto, lo que decía es: con el sustrato adecuado, que no parece que sea este, puede que emerja la conciencia. Yo vuelvo de nuevo al ejemplo de la anestesia total. Algo ocurre en nuestro sistema biológico, lo que haga la anestesia; yo no soy…
Héctor Socas interrumpe una discusión sobre el funcionalismo y la necesidad de un sustrato concreto para la experiencia fenoménica, señalando que se están mezclando conceptos relacionados con la conciencia y el experimento mental de la habitación china.
Habla: Héctor SocasSignificado #1 · Palabras #2conciencia y experimento habitación chinapensamiento e inteligencia según hector socasdebate funcionalismo experiencia fenoménicaargumento habitación chinaprogramación informática años 80sintaxis y pensamiento simuladoseñor que no sabe chino…también sea necesaria determinada sustancia, determinado sustrato concreto. Entonces se encuentra ahí un punto común que a mí me parece interesante: dice, hay buenos argumentos de un lado y de otro, ¿por qué no pensar que, claro que tiene que haber Una actividad formalizable, concreta, pero también que no valgan todos los sustratos? ¿Qué ibas a decir, Héctor? Perdona. No, por ir un poco, porque no nos alarguemos mucho con el debate, porque podríamos entrar en muchas cosas, pero sí que me parece que estamos mezclando cosas, ¿no? Como el tema fascinante es la conciencia, llevamos tanto tiempo hablando de la conciencia en estos programas, creo que lo estamos mezclando con el tema de la habitación china, que insisto, para mí, aunque surge en ese contexto, es un experimento mental sobre el pensamiento y la inteligencia más que sobre la conciencia, propiamente dicho. O sea, estrictamente hablando, lo que dice el argumento de la habitación china es que el señor que hay en la habitación no sabe chino. Sí, del aprendizaje también, ¿verdad, Héctor? Puede aparentar que sabe chino al exterior, pero no sabe chino. Entonces, la pregunta era si con una serie de reglas, con una sintaxis, se puede aparentar un pensamiento. Recordemos: estamos pensando en los 80; los ordenadores programar era un conjunto de instrucciones. Si te viene este símbolo con este otro símbolo, si te viene este símbolo contestado, un conjunto de instrucciones de las cuales, entonces, ese es el contexto y se trata de si el pensamiento puede emerger de ahí. Entonces, bueno, a mí me parece yo, bueno, querría decir que este es un tema que se ha discutido muchísimo; lo de este argumento de la habitación china se ha discutido muchísimo. ya lo he dicho aquí, soy materialista y funcionalista radical, entonces, pero sin, a ver, desde un punto de vista de alguien que, no sé, como opinólogo y cuñado de la vida, tampoco, voy a decir que está muy fundamentado, ¿no? pero claro, retrotarnos a estos…
Héctor Socas expresa su desacuerdo con el argumento de la habitación china y enfatiza que Sirle, aunque materialista, tiene una postura radical sobre la posibilidad de crear máquinas pensantes.
Habla: Héctor SocasSignificado #9 · Palabras #3salto entre sintaxis y semánticaproblema habitación chinasemántica emerge de sintaxishabitación china desacuerdo héctor socassirle materialista postura radicalmáquinas pensantes neuronas biológicasdoom juego neuronas…antes; lo que me interesa viene, como te decía, no de Searle sino de Sellars, que estamos hablando de mediados de siglo pasado, y lo que él plantea es ese salto entre sintaxis y semántica, que luego Searle utiliza, representado con lo de la habitación china. Para que sea más mediático, para que se entienda mejor, lo que sea, pero él lo está, simplemente particularizando; pero es un problema más fundamental que, independientemente de lo que nos guste de la habitación china, sigue sin respuesta. Estoy de acuerdo. O sea, el cómo emerge la semántica de la sintaxis es un problema abierto y es un problema interesante y fascinante. Estoy de acuerdo con eso. En concreto, la habitación china, bueno, me parece un poco tal. Y si quiero recalcar eso que tú decías, o sea, Sirle no era dualista; quiero decir, él era materialista en ese sentido, tú lo has explicado bien, pero quiero insistir en eso, pero para mí eso ya es suficientemente radical, o sea, es una idea; no sé si la gente, hay gente que apela a Cyril para decir, bueno, la mente humana es algo, no, no, la gente no sé si es consciente; él está diciendo que sí se pueden construir máquinas pensantes y conscientes, pero hay que construirlas con neuronas, con neuronas biológicas, como las que estuvimos hablando que jugaban al Doom hace dos semanas. ¿Podemos construir una máquina ¿Con neuronas biológicas? Usamos las de silicio porque hemos avanzado más y no es más fácil trabajar con ellas, pero todos los problemas existenciales de si eso tendría derechos, de si sería un ser pensante, de si sería ético crear algo así, todo eso, da…
Ignacio Crespo explica cómo los modelos de lenguaje actuales, a pesar de su capacidad sintáctica, solo aparentan entender el significado (como en el experimento mental de la habitación china). Señala que esta apariencia es suficiente para engañar a observadores externos.
Habla: Ignacio CrespoSignificado #11 · Palabras #20habitación china ignacio cresposintaxis resuelve habitación chinaaparentar entendimiento chinomanual instrucciones y persona…vídeos, audio, etc. Todo lo que hacen los modelos de lenguaje, pero sobre un modelo del mundo. De esa manera ya adquiero también esa componente semántica en esos sistemas y es lo que está ahora de moda. Pero yo os digo, ahora mismo los grandes modelos de Lenguaje, como comentaba Nacho, están demostrando claramente que la sintaxis permite resolver el problema de la habitación china. Es decir, la persona y el manual de instrucciones en conjunto pueden aparentar perfectamente un entendimiento del chino; porque nadie de fuera ve ningún tipo de diferencia. Pero eso es importante: aparentar un entendimiento. Aparentar, claro. Realmente, como decía, si nos retrotraemos a Sellars, Sellars ya planteaba esto; o sea, decía: tenemos que dividir la serie de procesos mentales que normalmente metemos en un solo paquete en aquellos que sí que se resuelven solo con sintaxis y él incluía…