Búsqueda · 30 momentos en 12 episodios
Silvana TapiaLuisa AchaerandioIgnacio CrespoFrancis VillatoroHéctor SocasGastón Giribetinteligencia artificial y valores moralescontrol de la inteligencia artificialcristianismo católico e inteligencia artificialignacio crespo desacuerdo moralIgnacio CrespoPapaIglesiaDiosInteligencia ArtificialPapa FranciscoPapa León XIVVaticanoSilicon ValleyMinervaCoffee BreakHéctor SocasPapa LeónTenerifeLa Magnífica HumanidadIglesia Católica
Moral religiosa e ia
Con
0:000:301:001:302:002:303:003:29
Ignacio Crespo expresa su desacuerdo con una idea planteada anteriormente sobre la inteligencia artificial, argumentando que incluso si se intenta imbuirle de valores morales, estos estarán determinados por quienes la controlan.
…¿quién está entonces esculpiendo el futuro y quién está poniendo su cara y por lo tanto sus sesgos en la tecnología que va a acabar representándonos? Entonces eso es interesante y además hace algo que aquí es donde, ya digo, creo que sí que estaremos un Poco en desacuerdo. Una de las cosas que nombra es que incluso si se impregna de una moral a la inteligencia artificial, mientras esté en manos de unos pocos, será esa moral. Y claro, si no es la moral religiosa, en concreto del cristianismo, en concreto del catolicismo, no es. La que le interesa y diréis: oye, eso puede parecer un poco incluso conspiranoico por tu parte, creer que puede decir algo así. Bueno, recordemos que en los discursos que ha dado durante su paso por España hay dos palabras que han estado especialmente…
Significado #1 · Palabras #2
Héctor Socas comenta una posible conexión entre su viaje a Tenerife y una encíclica del Papa sobre inteligencia artificial, expresando su interés en conocer la opinión del Vaticano al respecto.
Habla: Héctor SocasSignificado #10encíclica del papa inteligencia artificialopinión vaticano inteligencia artificialhéctór socas interés encíclica…que se viene él también para Tenerife. ¿Casualidad? Sí, podría ser, pero es que yo no creo en las coincidencias. Ahí veo un patrón y ya se sabe, donde hay patrón no manda marinero. Entonces, para mí está clarísimo, su santidad está promocionando esa famosa encíclica sobre inteligencia artificial y quiere que hablemos de ella en nuestro programa. Que, oye, ¿por qué no? Pues que no me busque más Santo Padre, me parece un tema muy interesante y tengo mucho interés en conocer la opinión del Vaticano. Digamos que me quiero empapar del tema, así que sí, será uno de los asuntos que trataremos hoy aquí, en Coffee Break. Ya saben, la tertulia de cada semana sobre la actualidad de la ciencia. Pero hablaremos también de temas más terrenales, de la relación entre inteligencia artificial y medicina. Del microbioma de Iceman, el hombre de hielo. Y no, no me estoy refiriendo al amigo de Maverick. Hablaremos también del fin de las colisiones en el LHC,…
Héctor Socas menciona una encíclica del Papa León XIV publicada en mayo que aborda temas de inteligencia artificial y comenta haber solicitado a una IA que le hiciera un resumen debido a su extensión.
Habla: Héctor SocasSignificado #14encíclica del papa león xivinteligencia artificial y encíclicasresumen de ia para encíclica…supongo que no venderán ejemplares, pero si llevan el ejemplar te los firmará Héctor. Claro, estaré encantado de firmarlo, por supuesto, y hasta dibujará un eclipse. Gracias por recordarlo, Francis Bueno, venga, entonces vamos con los temas. Gracias, ¿no? Como decía yo en la presentación, pues resulta que como bien saben, hay una, lo comentábamos la semana pasada, que nos apetecía hablar sobre esta encíclica, que de hecho se publicó en mayo; por lo que veo aquí, no me había enterado hasta hace poco del Papa León XIV, que en principio hace referencia a temas de inteligencia artificial. Son más de 50 páginas; yo no me lo he leído todo porque me interesa, pero tampoco para tanto, así que le he pedido a una IA que me haga un resumen y la verdad es que todo lo que había en el resumen me gustó, me pareció interesante y más que interesante, sensato, lo cual pues hombre, está bien, está bien que la iglesia tenga unos posicionamientos sensatos sobre este tema. Pero bueno, quiero que Ignacio nos cuente esto porque él creo que sí se lo ha leído en detalle; no sé si Francis o algún otro se lo habrán leído pero Ignacio. Estuvimos hablando antes y hay a lo mejor más cosas para comentar de lo que mi lectura inicial de…
Ignacio Crespo argumenta que hablar de una encíclica del Papa sobre inteligencia artificial puede parecer inusual, pero justifica su relevancia por la necesidad de posicionamiento del Vaticano en temas tecnológicos.
Habla: Ignacio CrespoSignificado #12encíclicas del papa sobre inteligencia artificialposicionamiento vaticano temas tecnológicosvaticano y cuestiones tecnológicas…pueden escamar más. Pero yo lo que creo que es importante es justificar por qué vamos a hablar de la encíclica, porque no nos ponemos a hablar de lo que diga cualquier persona sobre la inteligencia artificial solamente porque hable de inteligencia artificial. Y desde luego mezclarlo con un tema religioso parece un poco raro. Lo que ocurre es que el Vaticano ha tenido que posicionarse sobre cuestiones tecnológicas y no de forma reciente, sino que esto es algo que ya lleva tiempo. Y pasa algo muy curioso: es que no me tiembla demasiado ahora mismo el pulso a la hora de decir Que posiblemente frente a los tecnoligarcas, que los tenemos como el gran ejemplo del tecnooptimismo, vamos a tener como representantes del otro lado representantes moderadamente luditas en ese sentido, una visión religiosa, una visión que puede que incluso…
Ignacio Crespo, autodefinido como ateo, expresa su opinión sobre una encíclica del Papa León XIV, enfocándose en las preocupaciones de esta respecto a la influencia de la inteligencia artificial en los conflictos bélicos.
Habla: Ignacio CrespoSignificado #6diálogos de minerva vaticano silicon valleyinterés iglesia inteligencia artificial 2016papa francisco anuncios león xivestado del arte silicon valleyencíclica papa león xivinteligencia artificial y conflictos bélicosvisiones antivelicistas de los papaspreocupaciones militares encíclica…cayendo en los clichés de siempre, sabe que es difícil definir inteligencia artificial, se queda con una definición más funcional de aquello que imita y a lo que se parece, o sea, sí que se ve ese pozo y me parece relevante ¿Por qué de repente se preocupa? Pues como decíamos, no es algo reciente. Me parece que es importante que si hablamos de tecnología, sacamos aquí la idea de vez en cuando, sepamos que este movimiento, este interés por parte de la Iglesia se remonta como mínimo a 2016 con lo que se llaman los diálogos de Minerva, que eran digamos que reuniones entre grandes personalidades de la Iglesia y grandes personalidades de Silicon Valley en los que informaban al Vaticano de toda la actualidad, de cuál era el estado del arte, de qué se estaba haciendo y qué se pretendía hacer. No es que de repente les haya llegado por gracia divina el interés, sino que llevan tiempo preocupándose por esto. Y que ya el Papa Francisco había hecho algunos anuncios muy parecidos a los que podemos ver en los discursos de León XIV, donde la inteligencia artificial tiene un peso, y ahora ya entramos en otros motivos. Fundamentalmente diría, y esto lo digo como ateo pero pensando en el mejor de los sentidos, por cuestiones militares: una de las cosas que vemos efectivamente en la encíclica es que le preocupa mucho cómo la introducción de la inteligencia artificial puede afectar a las guerras. Lógicamente ya hace unas cuantas décadas que los papas tienen visiones antivelicistas. Esto evidentemente no podemos decir que haya sido universal a lo largo de la historia, pero desde luego que es una tendencia tremendamente aceptada, no esperaríamos otra cosa. y curiosamente vemos que también por parte de los tecnoligarcas hay algunas asunciones de que la inteligencia artificial puede ayudar a que las guerras sean más humanas. Esto yo lo he escuchado además recientemente por primera vez no en un texto sino de una…
Ignacio Crespo continúa desarrollando una analogía para ilustrar la responsabilidad en decisiones bélicas relacionadas con la inteligencia artificial, y explica cómo la distancia entre las acciones y sus consecuencias reduce el peso moral.
Habla: Ignacio CrespoPalabras #19distancia moral decisiones bélicasdeshumanizar al enemigo reduce peso moralacciones consecuencias distancia ignacio crespozapatos de cien dólares estropear…vas a frenar el tren, solo atropella una. Curiosamente, matemáticamente es el mismo escenario, pero como tu acción es mucho más directa, las personas suelen responder que no lo harían jamás, incluso personas que sí le habrían dado a la palanca en el anterior. O sea, sabemos que deshumanizar al enemigo o introducir pasos indirectos entre nuestras acciones y sus consecuencias hacen que el peso moral se reduzca. Tiene una distancia moral. Eso es, y que estemos más dispuestos a cometer determinadas acciones que manipular. Esto me recuerda a un... bueno, no te quiero interrumpir, termina el argumento. Ah, vale, pero iba a decir que esto lo conocemos: la distancia respecto a aquello sobre lo que afectan nuestras acciones es muy relevante; es el motivo por el cual no tendríamos ninguna duda en estropear nuestros zapatos de 100 dólares por. entrar en un lago a salvar a un niño, pero gastar ese mismo dinero en una campaña social en Etiopía, pues nos genera más rechazo y esos 100 euros es que eran los de las vacaciones. tenemos muy estudiado y ya no a través de filosofía sino de sociología cómo…
Ignacio Crespo continúa su reflexión sobre la responsabilidad moral en decisiones bélicas relacionadas con la inteligencia artificial y cita una frase de un estudio que afirma que ningún algoritmo puede hacer que la guerra sea moralmente aceptable, relacionándolo con el dogma religioso de que no existe una guerra justa.
Habla: Ignacio CrespoSignificado #8 · Palabras #4algoritmo y moralidad bélicaguerra justa y dogmas religiososignacio crespo y responsabilidad moralpontificados y la guerra aceptable…decir un papa es que no debe haber guerras. Y luego ya, no sé, entrar a cómo deben ser más humanas; no sé, me parece que es como entrar a cuál debería ser la forma más humana de un asesino de matar a unas personas o de un violador de agredir a su víctima. O sea, me parece que deberíamos partir de una base más. Pero bueno, en cualquier caso, que la evolución... Bueno, en cierto modo lo dice; perdona, pero es que me he apuntado algunas frases por poder ser lo más literal posible. Dice: no existe algoritmo que pueda hacer que la guerra sea moralmente aceptable, porque en este caso sí se posiciona, indicando que y además esto es algo muy típico, algo que podemos rastrear durante muchos pontificados; no existe una guerra justa. Esto sería uno de los dogmas que al menos están bastante aceptados por la Iglesia ahora mismo. No te digo yo que durante las cruzadas, ¿no? Pero ahora mismo esto es dogma. Bueno, que en cualquier caso que lo que se ha visto con los estudios psicológicos a lo largo de la evolución de las guerras es que es mucho más difícil como era, digamos, la Primera Guerra Mundial, que tú básicamente ibas con una bayoneta y tenías que…
Ignacio Crespo introduce una frase sobre la inteligencia artificial y su impacto en los conflictos bélicos, destacando cómo no libera al conflicto de su inhumanidad sino que lo acelera e impersonaliza.
Habla: Ignacio CrespoSignificado #17inteligencia artificial e inhumanidad bélicatecnología y umbral moral del conflictohéctór socas sobre violencia impersonalizadaimpacto social de la inteligencia artificial…bueno, vale, si vas a matar, que lo haga, pero que la carga moral tiene que recaer sobre alguien y este es uno de los pilares, porque yo quiero que vayamos poco a poco para entender realmente cuál es la situación sobre una tecnología que nos interesa, porque. Nos interesa la ciencia, en su implementación social y las reacciones tan interesantes que produce en cuestiones económicas y en cuestiones incluso espirituales. Por sacar otra de las frases, que creo que resume además lo que decías ahora mismo, Héctor: dice "La inteligencia artificial no libera al conflicto de su intrínseca inhumanidad, solo puede hacerlo más rápido e impersonal, bajando el umbral del recurso a la violencia". Y de verdad he empezado por esto porque creo que es la parte con la que todos estaremos bastante de acuerdo. Luego podemos entrar en otras discusiones sobre el resto de afirmaciones, pero esto es así y a mí hay una que me gusta mucho: dice "toda tecnología que facilite atacar sin ver el rostro del otro, baja el umbral moral del conflicto", que es de nuevo lo que estabas diciendo; para mí es el gran problema, para mí eso es el gran problema. Ya desde el momento que tienes una pistola, un arma de fuego, ya cambia completamente todo el juego, ¿no? Y creo que ese reparo se tiene que aplicar a toda tecnología de matar a distancia y no solamente es por esta distancia, que eso es lo que él deja claro,…
Ignacio Crespo expresa su desacuerdo con una idea planteada anteriormente sobre la inteligencia artificial, argumentando que incluso si se intenta imbuirle de valores morales, estos estarán determinados por quienes la controlan.
Habla: Ignacio CrespoSignificado #1 · Palabras #2inteligencia artificial y valores moralescontrol de la inteligencia artificialcristianismo católico e inteligencia artificialignacio crespo desacuerdo moral…¿quién está entonces esculpiendo el futuro y quién está poniendo su cara y por lo tanto sus sesgos en la tecnología que va a acabar representándonos? Entonces eso es interesante y además hace algo que aquí es donde, ya digo, creo que sí que estaremos un Poco en desacuerdo. Una de las cosas que nombra es que incluso si se impregna de una moral a la inteligencia artificial, mientras esté en manos de unos pocos, será esa moral. Y claro, si no es la moral religiosa, en concreto del cristianismo, en concreto del catolicismo, no es. La que le interesa y diréis: oye, eso puede parecer un poco incluso conspiranoico por tu parte, creer que puede decir algo así. Bueno, recordemos que en los discursos que ha dado durante su paso por España hay dos palabras que han estado especialmente…
Ignacio Crespo reflexiona sobre el desarrollo ético en relación con la inteligencia artificial, señalando que no necesariamente implica alternativas a la moral religiosa.
Habla: Ignacio CrespoSignificado #2 · Palabras #3inteligencia artificial problemas éticosdatos entrenamiento inteligencia artificialrestricciones creadores inteligencia artificialinstituciones desarrollo inteligencia artificialética e inteligencia artificialdesarrollo ético honestomoral religiosa e iadiscursos del papa tecnología…cosas que la Iglesia no va a considerar tolerables jamás. De nuevo, no debería sorprenderle a nadie; lo decía en la encíclica, si alguien se había hecho los deberes no le debió sorprender cuando lo dijo en el Congreso, pero recordemos que va ahí de la mano. Lo que le preocupa respecto a las cuestiones éticas y morales de la inteligencia artificial es que no sean las suyas. Y ahí es donde sí que podemos disentir en cierto modo, y podemos decir: “estoy de acuerdo con que hay un gran problema en que la inteligencia artificial pueda marcar un nuevo estándar de cómo se interpretan determinados problemas éticos, porque al final va a ser heredero de aquellos datos con los que se ha entrenado o aquellas restricciones impuestas por las instituciones que la hayan desarrollado”. Pero para mí el problema es ese y que no se deje espacio. A realmente un desarrollo ético honesto detrás. No necesariamente que haya alternativas a la moral religiosa. Entonces creo que de nuevo es algo interesante porque una de las cosas que ha ocurrido es que todos hemos querido ver en los discursos del Papa y sus referencias a la tecnología, pues la parte más evidente, humana, indiscutible, positiva, que es por la que hemos empezado y estamos de acuerdo, claro, pero entre ella y si nos lo leemos. De verdad y entendemos de dónde viene y las restricciones propias de una institución como es esta, que es una institución conservadora, porque no puede ser de otra forma que su mayor representante del progresismo fue Francisco en los últimos años, que no es…
Ignacio Crespo argumenta que, desde una perspectiva dualista religiosa, la conciencia no puede surgir de la materia creada por humanos, sino que es un regalo divino.
Habla: Ignacio CrespoSignificado #4inteligencia artificial y concienciaencíclica la magnífica humanidadvisión funcionalista de ignacio crespotecnologías incompatibles con humanidadconciencia regalo divinovisión dualista religióninteligencia artificial mediación divinaalma creación directa dios…no deseada y cómo nos aislamos con máquinas y cómo se están estableciendo relaciones pseudo-sexuales entre personas y sus inteligencias artificiales. Quiero decir, esto es algo que ya está ahí, que es parte de los titulares, pero lo lleva un paso más allá. Él lo que plantea es que en sí la inteligencia artificial no es compatible con una conciencia. Y es que además es el título que lleva la encíclica, La Magnífica Humanidad. El hecho de que la característica de ser humanos es magnífica y además es imposible que esté presente en otra serie de tecnologías. Adopta una visión funcionalista, como yo he podido defender en otros programas, pero yo lo hago desde el desconocimiento. O sea, no sé si efectivamente esa es la respuesta, pero creo que sí que hay motivos para dudar que de una inteligencia artificial pueda surgir la conciencia, dejando la puerta abierta a que sí pueda ocurrir. Aquí lo que vemos es que lógicamente resulta incompatible con La teología que algo creado por los humanos de ello pueda emerger una conciencia, en tanto que la conciencia desde la visión dualista que tiene la religión no es reductible a la materia, sino que es puesta ahí a través de la acción de Dios. El alma se crea directamente a través de la acción de Dios y no de los padres que conciben a esa criatura y por lo tanto la inteligencia artificial si no fuera mediado por Dios también no tendría conciencia ¿y por qué iba a hacer? Dios tal cosa. Entonces, eso está también profundamente presente en el análisis que hace de la situación y creo que es interesante al menos tener en cuenta que partimos de eso: que no estamos ante una encíclica que sea aséptica porque no lo puede ser y porque…