Búsqueda · 32 momentos en 10 episodios
Juan Carlos GilIgnacio CrespoFrancis VillatoroJosé EdelsteinHéctor SocasLuisa AchaerandioGastón Giribetagi como pedro y el loboexpectativa recurrente agiconciencia en inteligencia general artificialmediática sobre la agiconciencia y posible agirevisión de factículos concienciaagi no implica conscienciaAGIHéctor SocasInteligencia General ArtificialLuisa AchaerandioPedro y el LoboFrancis VillatoroInteligencia General Artificial (AGI)José EdelsteinGPTepisodio 430NeuroscienceBiobehavioral ReviewsThomas NagelIgnacio Crespo
Conciencia y posible AGI
Con
0:000:301:001:302:002:303:003:19
Héctor Socas introduce la necesidad de revisar hechos sobre el tema de la conciencia, contextualizándola en la discusión actual sobre la posible llegada de la Inteligencia General Artificial (AGI).
…que tenemos que recordar que llevamos tres años en los que los grandes gurús de la inteligencia artificial, gente que gana muchísimos miles de millones de euros al año, están todos, todos los años diciendo este año viene la inteligencia general artificial. Se lo están diciendo todos los años y todos están dejando caer: la AGI será consciente. Todos lo están dejando caer por ahí, y lo están diciendo todos los años. Esto es como lo de Pedro y el Pastor y el Lobo; entonces cualquier año va a caer algo a lo que mucha gente a nivel mediático va a decir: esto ya es la AGI y entonces está muy bien que tengamos un cierto conocimiento básico de las diferentes teorías para tratar de eso conectarlo con algo más formal y decir: ¿a ver, de verdad o no? ¿Aquí qué experimentos se han hecho? Y por eso va a venir muy bien esta revisión en factículos de lo que es el tema de la conciencia. Es un tema muy de actualidad, sí, y yo quiero aclarar que, aunque es verdad que se habla mucho que va a venir la AGI y tal, y a lo mejor vendrá, pero o sea, por mucho que esto sea muy agitador, lo de la llegada de la AGI, pero no implica necesariamente una AGI no implica necesariamente que sea consciente. Claro, claro, no, no porque no, pero creo que en el imaginario están las dos cosas muy conectadas, igual que la singularidad también, la gente habla de la singularidad y piensa que es la IA consciente, son cosas diferentes, son conceptos diferentes Pero bueno, quería terminar lo que decía, que estaría…
Significado #1 · Palabras #1
Héctor Socas introduce un artículo sobre las complejidades de la conciencia publicado en Neuroscience, Biobehavioral Reviews, relacionándolo con una discusión previa sobre la conciencia artificial realizada en el episodio 430.
Habla: Héctor SocasSignificado #7conciencia artificial episodio 430modelos de lenguaje concienciacomplejidades de la conciencia neurosciencerelevancia actual de la conciencia…y Juan Carlos me dijo que estaba de acuerdo y si a Ignacio no le resulta muy incómodo seguir hablando, me gustaría que nos hablara de un artículo que ha salido en Neuroscience, en Biobehavioral Reviews, una revista que yo por supuesto no conocía en el Sevier. Que nos habla de las complejidades de la conciencia, que es como un meta estudio más bien, más que un estudio propiamente dicho, pero que está muy bien porque pretende poner un poco de orden en este mundo que ahora mismo, bueno, que siempre ha sido un poco disperso y caótico de qué es la conciencia, pero que ahora estamos en una época en la que adquiere quizás más relevancia, ¿no? Yo le quiero recordar a nuestros oyentes que en el episodio 430 comentamos un artículo en el que se planteaban el problema de la conciencia artificial, es decir, de que, en fin, de esto se habla mucho, quizás incluso a nivel muy popular, de hasta qué punto se puede considerar que nuestras máquinas actuales puedan considerarse conscientes con estos modelos de lenguaje y tal. Yo creo que nadie seriamente considera que lo sean, pero este artículo se preguntaba, ¿pero existe la posibilidad que en algún momento lo sean y cómo lo reconoceríamos? Es decir, ¿cómo podríamos reconocer una máquina que realmente desarrollara propiedades de…
Héctor Socas comenta sobre el uso de la palabra 'conciencia' en un artículo científico, señalando que a veces se utiliza de manera imprecisa para referirse a conceptos distintos.
Habla: Héctor SocasSignificado #5conciencia como sentido moraluso impreciso de concienciachat gpt y terminología…de contorno en las que nos movemos por eso creo que este artículo que ha pescado Ignacio es relevante en este contexto y nos habla un poco de eso de todo ese caos que hay un poco aquí. Antes de dejarte que empieces, me gustaría comentar, igual esto Es un poco pedante a lo mejor también, como le decía antes a José con lo de chat GPT y GPT, pero desde el punto de vista de la terminología, a veces se utiliza la palabra conciencia, sin ese intercalada por ahí en medio, pero hay como dos conceptos que son muy diferentes. Uno es la conciencia como sentido moral, es decir, lo que está bien y lo que está mal, eso lo Llamamos conciencia, eso no es de lo que vamos a hablar; vamos a hablar de, yo por eso me gusta usar más la palabra más antigua, la de conciencia, que es un poco más pesada de pronunciar y a veces la abreviamos y decimos simplemente conciencia, que también…
Ignacio Crespo explica cómo Thomas Nagel define la consciencia como la experiencia subjetiva de ser algo, ejemplificando con la pregunta: ¿qué es ser un murciélago?
Habla: Ignacio CrespoSignificado #12consciencia según thomas nagelexperiencia subjetiva murciélagodefinición consciencia no axiomática…mucha gente hace para decir: este tema no tiene interés, hablamos del sexo de los ángeles. Hay muchas definiciones y contaremos por qué que no haya una buena definición no significa que se acaba el juego, significa que estamos empezando en él, pero es una de Las mejores viene de Thomas Nagel, que tampoco es un filósofo materialista precisamente, pero dice que la consciencia es aquello que se siente al ser algo, aquello que es ser algo: esa experiencia subjetiva de cómo se presenta el mundo ante un individuo. Por ejemplo, ¿qué es ser un murciélago? Esa es la consciencia de ser un murciélago. No es una definición axiomática, bien formalizada, fantástica, pero todos acordamos bastante bien que por ahí va la cosa, que de alguna forma es una experiencia subjetiva del mundo y que tiene una serie de propiedades que son interesantes. ¿Por qué es tan complicado dar una respuesta? Porque es una experiencia muy rara, porque no estamos obteniendo una información abstracta como puede ser un número respecto a la longitud de onda de la luz que captan nuestros ojos. Estamos teniendo una…
Ignacio Crespo introduce la primera de cinco hipótesis sobre la conciencia: la teoría del espacio de trabajo global neuronal, describiendo sus orígenes y conceptos clave.
Habla: Ignacio CrespoPalabras #20corteza prefrontal e ignición no linealúnico contenido consciente a la vezcuello de botella en conciencia…parte... No voy a entrar en mucho detalle, pero sí que creo que tendríamos que definir cada una. Es más, me he preparado, me he escrito un poquito definiciones para que podamos partir de esa lectura, para asegurarme de que va en esa línea y la desarrollemos. La primera, la teoría del espacio de trabajo global neuronal, vamos a llamarle así. Esa es posiblemente la más antigua, de las que tenemos aquí delante, y como concepto abstracto lo que plantean es que la conciencia surge cuando una información es seleccionada, amplificada y transmitida globalmente por una red distribuida de neuronas. Concretan en este artículo, que tal vez en la corteza prefrontal y en la parietal, y mediante lo que llaman una ignición no lineal. Hay un único contenido consciente a la vez; esto es importante, y ese contenido tiene que pasar por un cuello de botella. Ignacio, tengo una pregunta para entender un poco el método. Uno diría: yo cuando, por ejemplo, pongo un individuo y le digo: pensá en vos mismo. Vamos a hacer un experimento así muy ingenuo. Pensando en vos mismo, hace aquella actividad que típicamente…
Ignacio Crespo explica que las teorías sobre la conciencia humana no pueden ser aplicadas a otras criaturas ni a la inteligencia artificial.
Habla: Ignacio CrespoSignificado #14conciencia humana en otras criaturasinteligencia artificial y concienciacuestionamiento de la conciencia individual…un cerebro humano, el cual entendemos más o menos bien cómo funciona, en cuanto a, por lo menos en términos globales, su estructura neuronal. Pero todo esto de lo que estamos hablando se refiere a intentar entender cómo emerge la conciencia en un ser humano. No podemos, por supuesto, aplicarla a ninguna otra criatura, ni a la conciencia artificial, ni a nada. eso es lo que buscan parten de los casos que de forma bastante razonable podemos asumir que son conscientes y que además podemos cuestionar de la forma adecuada a través de esa referencia de que el individuo que estés estudiando te diga es que soy consciente es que he tomado consciencia de esto y de esto o de aquello no y hay todo un problema gordísimo en filosofía de la neurociencia y de la consciencia en concreto sobre cuánta validez deberíamos dar al autorreporte de estas cosas Eso es otro tema. Pero partiendo de eso, del caso que en principio debería ser más modélico y…
Ignacio Crespo señala que la discusión sobre la conciencia es compleja y podría resolverse con una teoría sólida sobre su funcionamiento. Menciona la cuestión de si la inteligencia artificial puede ser consciente, indicando que actualmente no hay razones para creerlo.
Habla: Ignacio CrespoSignificado #13discusión sobre la concienciateoría del funcionamiento de conscienciainteligencia artificial conscienteignacio crespo y la inteligencia artificial…de otras especies que tengan una actividad cerebral parecida a esa inyección no lineal serán conscientes. o que aquellas redes neuronales que tengan una estructura similar en ese impulso también serán conscientes. Y ese es el motivo por el cual no estamos Haciendo una discusión bizantina aquí. Y no es algo que esté totalmente separado de la realidad. Hay tres grandes cuestiones que nos preocupan, mayor o menormente, y que pueden resolverse con más facilidad si realmente tenemos una hipótesis seria, una teoría de cómo funciona la consciencia. Una de ellas es si la inteligencia artificial es consciente o no: que ahora mismo, pues en principio no hay motivo para pensar tal cosa, pero cuando ocurra lo sabremos. Lo que comentabais, pues esta sería la forma de salir de dudas, en principio. Otra cuestión que también nos preocupa. No, no lo veo, porque esto nos habla de cómo se propaga, o sea, que tiene que ser global la propagación de un determinado estímulo. O sea, yo puedo hacer una red neuronal con 40 neuronas que tú le propagas un estímulo y…
Ignacio Crespo retoma la discusión sobre el pansiquismo, una idea que él mismo ha mencionado previamente, y plantea una posible explicación alternativa a la conciencia basada en características irreductibles de la materia.
Habla: Ignacio CrespoPalabras #14pansiquismo y materialistasconciencia irreductible de la materiaprotoconciencia como característica físicaignacio crespo y el pansiquismo…por una suerte de agregación de estructuras termina siendo lo que uno llama conciencia. No, tampoco vamos a caer en que el electrón tiene una conciencia. En alguna escala emerge eso, en una escala de complejidad; ¿y cuál es esa? Es muy difícil de definir. Totalmente, y justo ahora estabas nombrando otra vez el pansiquismo que comentaba yo antes; que yo no lo voy a defender, hay muchos materialistas que han llegado a esa conclusión diciendo si no podemos reducir la conciencia a lo que conocemos ahora a través de la física, igual es que hay otra característica irreductible de la materia, igual que está la carga eléctrica o la masa, que es la protoconciencia. y que existe tal cosa como qué es ser un electrón, qué se siente al ser un electrón, aunque sea algo muy diluido. Para mí esto, primero, lo que decías Gastón, postula una nueva entidad que es innecesaria, que no está bien justificada, que no nos ayuda a…
Luisa Achaerandio plantea una pregunta sobre la relación entre la conciencia y ciertas alteraciones neurológicas, como la agenesia o la lisencefalia, sugiriendo una posible conexión con la comunicación en los lóbulos cerebrales.
Habla: Luisa AchaerandioSignificado #2 · Palabras #11conciencia y alteraciones neurológicasagenesia y comunicación cerebrallisencefalia y circunvoluciones cerebralesluisa achaerandio conciencia…para defender su postura y luego lo resumieron. Claro, en una tabla, sí, sí, he visto en una tabla y algunos abordajes sobre todo que me han llamado a mí la atención realmente lo que sostiene la conciencia, o sea, el soporte realmente a nivel cerebral de. La conciencia, si afectaría por ejemplo algunas alteraciones como agenesia, si realmente reside en que haya una comunicación en los lóbulos cerebrales en sí o no, o algunas condiciones que se me ocurren, por ejemplo, no sé si habéis escuchado este síndrome que no tiene circunvoluciones cerebrales, no sé si la lisencefalia. Eso, como que te pregunto si realmente si hay este. Tipo de afecciones, ¿qué nivel? Como decía un poco Héctor, si existe ese nivel de conciencia o si mañana aterriza una nave extraterrestre en la Puerta del Sol y nos preguntamos si esos seres son conscientes, nada de esto nos va a servir, si los lóbulos…
Héctor Socas introduce la necesidad de revisar hechos sobre el tema de la conciencia, contextualizándola en la discusión actual sobre la posible llegada de la Inteligencia General Artificial (AGI).
Habla: Héctor SocasSignificado #1 · Palabras #1agi como pedro y el loboexpectativa recurrente agiconciencia en inteligencia general artificialmediática sobre la agiconciencia y posible agirevisión de factículos concienciaagi no implica consciencia…que tenemos que recordar que llevamos tres años en los que los grandes gurús de la inteligencia artificial, gente que gana muchísimos miles de millones de euros al año, están todos, todos los años diciendo este año viene la inteligencia general artificial. Se lo están diciendo todos los años y todos están dejando caer: la AGI será consciente. Todos lo están dejando caer por ahí, y lo están diciendo todos los años. Esto es como lo de Pedro y el Pastor y el Lobo; entonces cualquier año va a caer algo a lo que mucha gente a nivel mediático va a decir: esto ya es la AGI y entonces está muy bien que tengamos un cierto conocimiento básico de las diferentes teorías para tratar de eso conectarlo con algo más formal y decir: ¿a ver, de verdad o no? ¿Aquí qué experimentos se han hecho? Y por eso va a venir muy bien esta revisión en factículos de lo que es el tema de la conciencia. Es un tema muy de actualidad, sí, y yo quiero aclarar que, aunque es verdad que se habla mucho que va a venir la AGI y tal, y a lo mejor vendrá, pero o sea, por mucho que esto sea muy agitador, lo de la llegada de la AGI, pero no implica necesariamente una AGI no implica necesariamente que sea consciente. Claro, claro, no, no porque no, pero creo que en el imaginario están las dos cosas muy conectadas, igual que la singularidad también, la gente habla de la singularidad y piensa que es la IA consciente, son cosas diferentes, son conceptos diferentes Pero bueno, quería terminar lo que decía, que estaría…