Búsqueda · 22 momentos en 9 episodios
Juan Carlos GilIgnacio CrespoFrancis VillatoroHéctor SocasLuisa AchaerandioGastón Giribetconciencia y máquinas inteligentesimportancia práctica conciencia humanaderechos animales y concienciapacientes estado vegetativo o comaética tratamiento pacientes comaHéctor SocasNASAPlatónIgnacio CrespoGNWTGlobal Network Workspace Theory
Máquinas pensantes y Conciencia
Con
0:000:301:001:302:002:303:003:20
Héctor Socas introduce un tema sobre teorías de la conciencia y explica su creciente importancia práctica debido al desarrollo de máquinas inteligentes.
…se nos fue el tiempo y yo creo que es un tema que da para mucho hasta el punto de que Ignacio llegó a comprometerse a hacer aquí una sección hasta que pasáramos una y una por las cinco teorías de la conciencia, teorías o hipótesis o como queramos llamarlo. Que pretenden explicar qué es eso de la conciencia y habíamos dicho que bueno, que aunque esto parezca un tema a lo mejor un poco, no sé si decir frívolo o como hablar del sexo de los ángeles, pero que realmente hoy en día, debido a que estamos desarrollando máquinas inteligentes, empieza a volverse y a tener una importancia práctica acuciante porque necesitamos saber si en algún momento, o sea, en algún momento alguien preguntará: alguna duda surgirá de decir, bueno, ¿esta máquina exhibe algo parecido a la conciencia humana o a la conciencia en general? Y esa pregunta habrá que responderla, ¿no? Así que en muchos de esos se establecerán una serie de derechos y de cuestiones, pero no solo con las máquinas, solo por hacer breve apunte, también por derechos animales y también para poder saber si un paciente en un estado vegetativo o de coma ¿Tiene conciencia o no? Y por lo tanto, ¿cómo tratarlo? Hay cuestiones éticas muy chulas. Y una cosa, antes de entrar en la conciencia, porque. Claro, me fascina este concepto de levita a medida que he ido buscando, y en la RAE hay... No, no puede parar; no puede parar. No puedo, me va a encantar. Hay una palabra relacionada que es levitón, que claro, siendo esto un programa de ciencia, ¿por qué no…
Significado #1 · Palabras #4
Héctor Socas introduce un tema sobre teorías de la conciencia y explica su creciente importancia práctica debido al desarrollo de máquinas inteligentes.
Habla: Héctor SocasSignificado #1 · Palabras #4conciencia y máquinas inteligentesimportancia práctica conciencia humanaderechos animales y concienciapacientes estado vegetativo o comaética tratamiento pacientes coma…se nos fue el tiempo y yo creo que es un tema que da para mucho hasta el punto de que Ignacio llegó a comprometerse a hacer aquí una sección hasta que pasáramos una y una por las cinco teorías de la conciencia, teorías o hipótesis o como queramos llamarlo. Que pretenden explicar qué es eso de la conciencia y habíamos dicho que bueno, que aunque esto parezca un tema a lo mejor un poco, no sé si decir frívolo o como hablar del sexo de los ángeles, pero que realmente hoy en día, debido a que estamos desarrollando máquinas inteligentes, empieza a volverse y a tener una importancia práctica acuciante porque necesitamos saber si en algún momento, o sea, en algún momento alguien preguntará: alguna duda surgirá de decir, bueno, ¿esta máquina exhibe algo parecido a la conciencia humana o a la conciencia en general? Y esa pregunta habrá que responderla, ¿no? Así que en muchos de esos se establecerán una serie de derechos y de cuestiones, pero no solo con las máquinas, solo por hacer breve apunte, también por derechos animales y también para poder saber si un paciente en un estado vegetativo o de coma ¿Tiene conciencia o no? Y por lo tanto, ¿cómo tratarlo? Hay cuestiones éticas muy chulas. Y una cosa, antes de entrar en la conciencia, porque. Claro, me fascina este concepto de levita a medida que he ido buscando, y en la RAE hay... No, no puede parar; no puede parar. No puedo, me va a encantar. Hay una palabra relacionada que es levitón, que claro, siendo esto un programa de ciencia, ¿por qué no…
Ignacio Crespo explica las implicaciones de la 'Global Network Workspace Theory' (GNWT) y plantea un escenario hipotético sobre la creación de una máquina consciente.
Habla: Héctor SocasPalabras #18objeción espacio trabajo ignacio crespodistribución información subsistemas máquinagnwt evita máquina conscienteprocesos conscientes versus no conscientescontraejemplos de procesos ignacio crespo…podría ser consciente a la vez, un contenido integrado, no podrías ser consciente de dos elementos totalmente distintos y desconectados simultáneamente. Y esto no está del todo probado, pero claro, si se demostrara que puedes, esta hipótesis no se sostendría. El espacio de trabajo no tendría ningún sentido. Así que habiendo explicado esos conceptos clave, el cuello de botella que supone el espacio de trabajo... Yo mostraba mi objeción también la semana pasada. O sea, si yo construyo una máquina que haga eso, que coja una información, la distribuya a subsistemas, la haga disponible a varios subsistemas dentro de esa máquina, he creado una máquina consciente. Eso es lo que defienden. Precisamente por eso empezamos con la definición. Ellos no quieren decir directamente esto es cierto y por lo tanto si hacemos esto construimos una máquina consciente. Lo que quieren decir es ¿realmente es esto lo que diferencia nuestros procesos conscientes de los que no? y una vez sepamos si eso es así podremos plantearnos siempre pasa pero están buscando contra ejemplos en nuestro caso porque si encuentran un contra ejemplo en nuestro caso que es más sencillo ya tumban o refuerzan la teoría y vamos hacia adelante con esos planteamientos yo estoy de acuerdo pero estoy de acuerdo para cualquiera de estos casos y eso también tendría que ver…
Héctor Socas expresa su preocupación sobre las limitaciones impuestas por el estudio del cerebro humano al intentar responder preguntas fundamentales sobre la conciencia, especialmente en relación con teorías como la 'Global Network Workspace Theory'.
Habla: Héctor SocasSignificado #14 · Palabras #10redes recurrentes modelos lenguaje antiguosmáquinas con conexiones recurrentes concienciaconciencia y cerebro humanoprocesos recurrentes concienciaemergencia conciencia en máquinas…y es uno de los grandes problemas, es cómo de grande tiene que ser la recurrencia ¿no? ¿Cuántas veces tiene que volver sobre sí mismo? ¿De cuántas neuronas hablamos? No se ha llegado ahí; y eso es una limitación importante para entenderlo. Y añaden todo esto. A ver, tenemos yo insisto en lo mismo, tenemos máquinas que tienen redes neuronales que son recurrentes, o sea, cualquier modelo de lenguaje, pero no de los de ahora, de hace un montón de tiempo; hay máquinas con conexiones recurrentes, usamos redes neuronales y nadie está diciendo que se sean conscientes. Me da la impresión de que están utilizando argumentos del contexto de estudiar o de pensar en el cerebro humano y que eso nos limita mucho el tipo de preguntas que podemos responder, y en particular la pregunta global de qué es la conciencia no la podemos responder con esta teoría. ¿Por qué estamos seguros de que de esos procesos recurrentes no emerge alguna forma de conciencia? En el caso de las máquinas, quiero decir, ¿por qué podemos estar...? Ahí está suponiendo que la conciencia ya es emergente, o sea, quiero decir, es muy difícil separar un concepto de otro, creo yo. A ver, no sé, simplemente lo voy a dejar caer, ¿vale? Porque llevo un rato como pensando en eso, pero no sé si comentarlo. No sé si alguno de vosotros, seguramente algún oyente, le ha preguntado a HGPT: ¿tú eres consciente? No sé si alguno se lo ha preguntado y ha visto la respuesta. ¿Queréis que la comente? Sí,…
Héctor Socas reflexiona sobre la falta de percepción e intencionalidad propia en los modelos de lenguaje, contrastándola con las motivaciones derivadas de millones de años de evolución biológica humana.
Habla: Héctor SocasPalabras #20falta percepción intencionalidad modelos lenguajeevolución biológica humana motivaciones propiasmáquina responde a prompt sin motivacionesconciencia requiere motivaciones pregunta no trivial…probable en función de datos y entrenamiento previo. Ahí también yo creo que Gastón o yo o cualquiera de nosotros podríamos pensar que somos un poco más ChagPT que ChagPT consciente. O sea, como que nos hace preguntarnos a nosotros si somos un robot. No tengo percepción, intencionalidad propia, cosa que también me resulta curioso; como que claro, no sale de este programa, digamos, el hecho de tener una, ¿cómo se dice? Albedrío, ¿no? El concepto de libre albedrío. No tienen motivaciones, es una cosa que yo he defendido mucho, ¿no? El tema de que hay una diferencia fundamental: nosotros tenemos 500 millones de años de evolución biológica que nos dotan motivaciones para levantarnos por la mañana y hacer cosas. Esta máquina su motivación es responder a un prompt; no tiene motivaciones propias. Solo que conste que todo esto abre preguntas de toda conciencia requiere motivaciones, y la respuesta no es trivial a ninguna de estas preguntas. Pero esas preguntas me parecen más interesantes que si es recurrente o que si se distribuye. No. Y simplemente quiero decir, simplemente por todo lo que engloba esta respuesta, porque no deja de ser una respuesta probable de todo lo que hay sobre el hecho de preguntarle si es consciente o no. Entonces dice: "No tengo percepción, intencionalidad propia,…
Ignacio Crespo relaciona la descripción previa sobre la conciencia con el mundo de las ideas de Platón y sugiere un enfoque metódico para investigar la consciencia en máquinas.
Habla: Ignacio CrespoSignificado #3 · Palabras #13mundo de las ideas platónconsciencia en máquinas reportarlarecursividad procesos inconscientesexperimentos quitar recursividad…propia que pudiéramos relatar. Probablemente hay algo aquí de vivir en un entorno, en un mundo, para poder intentar establecer una conciencia, por lo menos la forma en la que la entendemos nosotros. Si no, sería muy difícil siquiera definirla, ¿no? Estabas casi describiendo el mundo de las ideas de Platón. Yo por eso digo que es bueno empezar con estas definiciones, con decir, en el caso que conocemos: que es el de los cerebros, en el caso en el que además existe la capacidad de reportarlo, porque podemos discutir si existe la capacidad de reportarlo en esas máquinas que comentabas que llevamos décadas haciendo; vamos a comprobarlo ahí, vamos a ver si por experimentos, simplemente quitando la recursividad, los procesos son siempre inconscientes y a partir de ahí ya sacamos conclusiones, ¿no? Es un poco lo que plantearían. No porque sea una forma perfecta de gestionarlo, sino porque no se ha encontrado una mejor de enfrentarnos a la pregunta, intentando ir pasito a pasito. Entonces, en este caso, la diferencia entre la primera y la segunda queda súper clara si hacemos un recorrido neurofisiológico. Si estamos intentando ver si los procesos de procesamiento visual son conscientes o no conscientes, imaginemos: la luz llega a la…