Búsqueda · 26 momentos en 9 episodios
Juan Carlos GilIgnacio CrespoFrancis VillatoroHéctor SocasLuisa AchaerandioGastón Giribetredes recurrentes modelos lenguaje antiguosmáquinas con conexiones recurrentes concienciaconciencia y cerebro humanoprocesos recurrentes concienciaemergencia conciencia en máquinasHéctor SocasNASAIgnacio CrespoPlatónFrancis Villatoro
Máquinas con conexiones recurrentes Conciencia
Con
0:000:301:001:302:002:303:003:20
Héctor Socas insiste en la dificultad para determinar el tamaño necesario de las recurrencias neuronales para comprender la consciencia, mencionando ejemplos de modelos de lenguaje antiguos con redes recurrentes.
…y es uno de los grandes problemas, es cómo de grande tiene que ser la recurrencia ¿no? ¿Cuántas veces tiene que volver sobre sí mismo? ¿De cuántas neuronas hablamos? No se ha llegado ahí; y eso es una limitación importante para entenderlo. Y añaden todo esto. A ver, tenemos yo insisto en lo mismo, tenemos máquinas que tienen redes neuronales que son recurrentes, o sea, cualquier modelo de lenguaje, pero no de los de ahora, de hace un montón de tiempo; hay máquinas con conexiones recurrentes, usamos redes neuronales y nadie está diciendo que se sean conscientes. Me da la impresión de que están utilizando argumentos del contexto de estudiar o de pensar en el cerebro humano y que eso nos limita mucho el tipo de preguntas que podemos responder, y en particular la pregunta global de qué es la conciencia no la podemos responder con esta teoría. ¿Por qué estamos seguros de que de esos procesos recurrentes no emerge alguna forma de conciencia? En el caso de las máquinas, quiero decir, ¿por qué podemos estar...? Ahí está suponiendo que la conciencia ya es emergente, o sea, quiero decir, es muy difícil separar un concepto de otro, creo yo. A ver, no sé, simplemente lo voy a dejar caer, ¿vale? Porque llevo un rato como pensando en eso, pero no sé si comentarlo. No sé si alguno de vosotros, seguramente algún oyente, le ha preguntado a HGPT: ¿tú eres consciente? No sé si alguno se lo ha preguntado y ha visto la respuesta. ¿Queréis que la comente? Sí,…
Significado #1 · Palabras #1
Héctor Socas introduce un tema sobre teorías de la conciencia y explica su creciente importancia práctica debido al desarrollo de máquinas inteligentes.
Habla: Héctor SocasSignificado #2 · Palabras #5conciencia y máquinas inteligentesimportancia práctica conciencia humanaderechos animales y concienciapacientes estado vegetativo o comaética tratamiento pacientes coma…se nos fue el tiempo y yo creo que es un tema que da para mucho hasta el punto de que Ignacio llegó a comprometerse a hacer aquí una sección hasta que pasáramos una y una por las cinco teorías de la conciencia, teorías o hipótesis o como queramos llamarlo. Que pretenden explicar qué es eso de la conciencia y habíamos dicho que bueno, que aunque esto parezca un tema a lo mejor un poco, no sé si decir frívolo o como hablar del sexo de los ángeles, pero que realmente hoy en día, debido a que estamos desarrollando máquinas inteligentes, empieza a volverse y a tener una importancia práctica acuciante porque necesitamos saber si en algún momento, o sea, en algún momento alguien preguntará: alguna duda surgirá de decir, bueno, ¿esta máquina exhibe algo parecido a la conciencia humana o a la conciencia en general? Y esa pregunta habrá que responderla, ¿no? Así que en muchos de esos se establecerán una serie de derechos y de cuestiones, pero no solo con las máquinas, solo por hacer breve apunte, también por derechos animales y también para poder saber si un paciente en un estado vegetativo o de coma ¿Tiene conciencia o no? Y por lo tanto, ¿cómo tratarlo? Hay cuestiones éticas muy chulas. Y una cosa, antes de entrar en la conciencia, porque. Claro, me fascina este concepto de levita a medida que he ido buscando, y en la RAE hay... No, no puede parar; no puede parar. No puedo, me va a encantar. Hay una palabra relacionada que es levitón, que claro, siendo esto un programa de ciencia, ¿por qué no…
Ignacio Crespo explica que las teorías sobre la consciencia se centran en describir las actividades necesarias para su emergencia, sin pretender explicar por qué ciertos mecanismos generan esa experiencia.
Habla: Ignacio CrespoSignificado #18teoría consciencia describe actividadescerebro como máquina predictivaemergencia propiedades llamadas conscienciaacciones necesarias para consciencia…cual me parece interesante; y de hecho es la única de ellas que me han comentado en el máster, cuando hice el máster de neurociencia cognitiva, que insisto para que no haya confusión, no terminé; me quedó el trabajo de fin de máster porque me puse a trabajar. Ahí la idea del cerebro como una máquina predictiva estaba presente en todas las explicaciones; era bastante sorprendente. Entonces decía: vamos a explicar primero qué es eso de teoría de la consciencia. Ninguna de estas teorías pretende explicar por qué estos mecanismos precisamente son aquellos de los que emergen las propiedades que llamamos consciencia. No pretenden eso, están en un punto previo, que es describir aquellas acciones o actividades; bueno, actividades está bien, que son necesarias para que emerja las propiedades que llamamos conscientes. O sea, ¿qué diferencia una serie de activaciones en el cerebro de las que emerge una percepción consciente de aquellas ¿De las que no emerge esa percepción? Que ocurre de forma inconsciente el procesamiento. Una vez definamos eso, ahí ya podremos empezar a plantearnos por qué precisamente esas, pero hay un paso previo. Así que la primera es: la avanzamos en el programa…
Ignacio Crespo explica las implicaciones de la 'Global Network Workspace Theory' (GNWT) y plantea un escenario hipotético sobre la creación de una máquina consciente.
Habla: Héctor SocasSignificado #12objeción espacio trabajo ignacio crespodistribución información subsistemas máquina…podría ser consciente a la vez, un contenido integrado, no podrías ser consciente de dos elementos totalmente distintos y desconectados simultáneamente. Y esto no está del todo probado, pero claro, si se demostrara que puedes, esta hipótesis no se sostendría. El espacio de trabajo no tendría ningún sentido. Así que habiendo explicado esos conceptos clave, el cuello de botella que supone el espacio de trabajo... Yo mostraba mi objeción también la semana pasada. O sea, si yo construyo una máquina que haga eso, que coja una información, la distribuya a subsistemas, la haga disponible a varios subsistemas dentro de esa máquina, he creado una máquina consciente. Eso es lo que defienden. Precisamente por eso empezamos con la definición. Ellos no quieren decir directamente esto es cierto y por lo tanto si hacemos esto construimos una máquina consciente. Lo que quieren decir es ¿realmente es esto lo que diferencia…
Ignacio Crespo explica cómo el procesamiento feedforward, que implica la actividad neuronal que avanza linealmente sin bucles, se considera inconsciente.
Habla: Ignacio CrespoSignificado #9consciencia fenoménica interacciones localesprocesamiento consciente corteza sensorial visualinteracciones recurrentes locales occipital frontoparietalactividad neuronal feedforward inconscienteprocesamiento neuronal sin bucles crespoconexiones neuronales areas inconscientes…recurrente a mí, la verdad que me gustan todas y a la vez no me gusta ninguna. Creo que lo voy a decir en cada una de ellas, pero esta me gusta por algunas cosas. El resumen que tengo aquí, que es lo que os voy a leer, y lo vamos desgranando también. En este caso, la consciencia fenoménica, aquella de qué es ser algo o qué es sentir algo, surge de interacciones recurrentes locales. Aquí no sería tanto la inyección que hace que se active una región que pone en común distintos centros de procesamiento, sino que las interacciones recurrentes son locales. o sea podría haber un procesamiento consciente a pesar de que no esté integrado con otros centros de procesamiento si se queda solo en lo visual no tendría que pasar por ejemplo del occipital que es las estructuras normalmente relacionadas con la visión a las frontoparietales que estábamos comentando antes y luego veremos bastante bien este punto porque es chulo y además tiene implicaciones fundamentales así que son interacciones recurrentes locales dentro de la corteza sensorial, especialmente la visual, porque ya dijimos que es de las más fáciles de estudiar en estas situaciones, con experimentos y problemas concretos, y el Procesamiento feedforward, que sería la idea de la actividad neuronal no entra en bucles, sino que simplemente conduce en este sentido como cables hacia adelante, incluso cuando es profundo; esto es, incluso cuando hay muchas conexiones y va de áreas a áreas, pero sin volver sobre sí misma, sería siempre inconsciente. O sea, para este planteamiento todos los procesamientos conscientes tendrían que tener un componente de retroalimentación, de bucle que lo justifique; y a su vez, y este es el problema, en principio todas las actividades de activación neuronal recurrentes…
Héctor Socas insiste en la dificultad para determinar el tamaño necesario de las recurrencias neuronales para comprender la consciencia, mencionando ejemplos de modelos de lenguaje antiguos con redes recurrentes.
Habla: Héctor SocasSignificado #1 · Palabras #1redes recurrentes modelos lenguaje antiguosmáquinas con conexiones recurrentes concienciaconciencia y cerebro humanoprocesos recurrentes concienciaemergencia conciencia en máquinas…y es uno de los grandes problemas, es cómo de grande tiene que ser la recurrencia ¿no? ¿Cuántas veces tiene que volver sobre sí mismo? ¿De cuántas neuronas hablamos? No se ha llegado ahí; y eso es una limitación importante para entenderlo. Y añaden todo esto. A ver, tenemos yo insisto en lo mismo, tenemos máquinas que tienen redes neuronales que son recurrentes, o sea, cualquier modelo de lenguaje, pero no de los de ahora, de hace un montón de tiempo; hay máquinas con conexiones recurrentes, usamos redes neuronales y nadie está diciendo que se sean conscientes. Me da la impresión de que están utilizando argumentos del contexto de estudiar o de pensar en el cerebro humano y que eso nos limita mucho el tipo de preguntas que podemos responder, y en particular la pregunta global de qué es la conciencia no la podemos responder con esta teoría. ¿Por qué estamos seguros de que de esos procesos recurrentes no emerge alguna forma de conciencia? En el caso de las máquinas, quiero decir, ¿por qué podemos estar...? Ahí está suponiendo que la conciencia ya es emergente, o sea, quiero decir, es muy difícil separar un concepto de otro, creo yo. A ver, no sé, simplemente lo voy a dejar caer, ¿vale? Porque llevo un rato como pensando en eso, pero no sé si comentarlo. No sé si alguno de vosotros, seguramente algún oyente, le ha preguntado a HGPT: ¿tú eres consciente? No sé si alguno se lo ha preguntado y ha visto la respuesta. ¿Queréis que la comente? Sí,…
Héctor Socas reflexiona sobre la falta de percepción e intencionalidad propia en los modelos de lenguaje, contrastándola con las motivaciones derivadas de millones de años de evolución biológica humana.
Habla: Héctor SocasPalabras #10falta percepción intencionalidad modelos lenguajeevolución biológica humana motivaciones propiasmáquina responde a prompt sin motivacionesconciencia requiere motivaciones pregunta no trivial…probable en función de datos y entrenamiento previo. Ahí también yo creo que Gastón o yo o cualquiera de nosotros podríamos pensar que somos un poco más ChagPT que ChagPT consciente. O sea, como que nos hace preguntarnos a nosotros si somos un robot. No tengo percepción, intencionalidad propia, cosa que también me resulta curioso; como que claro, no sale de este programa, digamos, el hecho de tener una, ¿cómo se dice? Albedrío, ¿no? El concepto de libre albedrío. No tienen motivaciones, es una cosa que yo he defendido mucho, ¿no? El tema de que hay una diferencia fundamental: nosotros tenemos 500 millones de años de evolución biológica que nos dotan motivaciones para levantarnos por la mañana y hacer cosas. Esta máquina su motivación es responder a un prompt; no tiene motivaciones propias. Solo que conste que todo esto abre preguntas de toda conciencia requiere motivaciones, y la respuesta no es trivial a ninguna de estas preguntas. Pero esas preguntas me parecen más interesantes que si es recurrente o que si se distribuye. No. Y simplemente quiero decir, simplemente por todo lo que engloba esta respuesta, porque no deja de ser una respuesta probable de todo lo que hay sobre el hecho de preguntarle si es consciente o no. Entonces dice: "No tengo percepción, intencionalidad propia,…
Ignacio Crespo relaciona la descripción previa sobre la conciencia con el mundo de las ideas de Platón y sugiere un enfoque metódico para investigar la consciencia en máquinas.
Habla: Ignacio CrespoSignificado #5mundo de las ideas platónconsciencia en máquinas reportarlarecursividad procesos inconscientesexperimentos quitar recursividad…propia que pudiéramos relatar. Probablemente hay algo aquí de vivir en un entorno, en un mundo, para poder intentar establecer una conciencia, por lo menos la forma en la que la entendemos nosotros. Si no, sería muy difícil siquiera definirla, ¿no? Estabas casi describiendo el mundo de las ideas de Platón. Yo por eso digo que es bueno empezar con estas definiciones, con decir, en el caso que conocemos: que es el de los cerebros, en el caso en el que además existe la capacidad de reportarlo, porque podemos discutir si existe la capacidad de reportarlo en esas máquinas que comentabas que llevamos décadas haciendo; vamos a comprobarlo ahí, vamos a ver si por experimentos, simplemente quitando la recursividad, los procesos son siempre inconscientes y a partir de ahí ya sacamos conclusiones, ¿no? Es un poco lo que plantearían. No porque sea una forma perfecta de gestionarlo, sino porque no se ha encontrado una mejor de enfrentarnos a la pregunta, intentando ir pasito a pasito. Entonces, en este caso, la diferencia entre la primera y la segunda queda súper clara si hacemos un recorrido neurofisiológico. Si estamos intentando ver si los procesos de procesamiento visual son conscientes o no conscientes, imaginemos: la luz llega a la…
Ignacio Crespo introduce un ejemplo relacionado con la recurrencia en el sistema nervioso, comparándola con reflejos de la médula espinal para explicar por qué algo puede ser contraintuitivo y aún así existir.
Habla: Ignacio CrespoPalabras #2recurrencia sistema nerviosoreflejos médula espinal ignacio crespoconexiones reflejos sistema nervioso…cajón cuando estás despierto, de alguna manera. Y bueno, aquí podríamos detar un rato sobre qué es lo que implica, qué es lo que no implica esta recurrencia Una de las críticas que podemos encontrar tiene que ver con lo que ha dicho Héctor, que ni siquiera Hay que irse a máquinas. Es que hay recurrencia en el sistema nervioso en zonas que no consideramos que sean conscientes, como la médula espinal. O sea, los reflejos en cierto modo son una recurrencia y hay conexiones similares. Pero que sea antiintuitivo no quiere decir que no pueda existir. Ahí, una conciencia fenoménica sin acceso, porque esto es lo que plantea esta teoría frente a la primera. La primera lo que dice es: toda consciencia fenoménica es consciencia de acceso. No existe una consciencia fenoménica a la que no puedas acceder, y por…
Ignacio Crespo continúa explicando una teoría sobre la conciencia fenoménica, contrastándola con la idea de que toda experiencia consciente está ligada al acceso a la información y la atención.
Habla: Ignacio CrespoPalabras #12conciencia fenoménica y retinaexperiencia consciente áreas visualesrecurrencia estructuras frontales acceso informaciónexperiencias de francis villatororecurrencia en áreas visuales concienciainyección y recurrencia problemasredes visuales identifican caras crespohipótesis experimentos redes visión caras…sin acceso, porque esto es lo que plantea esta teoría frente a la primera. La primera lo que dice es: toda consciencia fenoménica es consciencia de acceso. No existe una consciencia fenoménica a la que no puedas acceder, y por eso lo equipara con la atención. En este caso volvamos a seguir ese recorrido que parte de la retina y llega propagándose hasta la parte frontal del cerebro. Según esto podría haber una experiencia consciente, fenoménica, con esa recurrencia en las áreas visuales; la que es local, la que se queda ahí atrás, pero sólo sería de acceso cuando implica recurrencia a gran escala en las estructuras frontales. Entonces esto permite un mecanismo explicativo que podría encajar con experiencias como la de Francis; que habría otras formas de explicarlo, pero bueno, proporciona esto y es interesante. Lleva otros problemas, pero me parece que merece la pena decirlo para que se entienda que por mucho que lo hemos reducido en una frase y hemos dicho: no, es que es el primero, la inyección; el segundo es la recurrencia, en realidad implica mucho más y da para estudiar un montón y para contrastar, para decir: no, es que justo tenemos aquí un experimento que hace que no funcione, que por ejemplo, se activa. Determinadas redes con la visión de caras, pero no son recurrentes y te permiten clasificarlo, pero igual no eres consciente de la cara que has visto. ¿Qué pasa? ¿Eso se sostiene? ¿No se sostiene? Tiramos la hipótesis, seguimos adelante con ella y bueno pues ahí da lugar a muchos experimentos. Justo la idea de este estudio que estamos utilizando para hilar todo es que se pongan de acuerdo con qué. buscan describir, o sea, qué significa consciencia y por lo tanto qué buscan describir para así poder debatir en conjunto y establecer experimentos comunes que los enfrenten dos a dos. Eso a mí es lo que me parece fundamental. Y no sé, Héctor, si quieres que…