Búsqueda · 29 momentos en 10 episodios
Silvana TapiaLuisa AchaerandioIgnacio CrespoFrancis VillatoroHéctor SocasGastón Giribetinteligencia artificial y valores moralescontrol de la inteligencia artificialcristianismo católico e inteligencia artificialignacio crespo desacuerdo moralIgnacio CrespoIglesiaPapaLeón XIVHéctor SocasEtiopía
Ignacio Crespo desacuerdo moral
Con
0:000:301:001:302:002:303:003:29
Ignacio Crespo expresa su desacuerdo con una idea planteada anteriormente sobre la inteligencia artificial, argumentando que incluso si se intenta imbuirle de valores morales, estos estarán determinados por quienes la controlan.
…¿quién está entonces esculpiendo el futuro y quién está poniendo su cara y por lo tanto sus sesgos en la tecnología que va a acabar representándonos? Entonces eso es interesante y además hace algo que aquí es donde, ya digo, creo que sí que estaremos un Poco en desacuerdo. Una de las cosas que nombra es que incluso si se impregna de una moral a la inteligencia artificial, mientras esté en manos de unos pocos, será esa moral. Y claro, si no es la moral religiosa, en concreto del cristianismo, en concreto del catolicismo, no es. La que le interesa y diréis: oye, eso puede parecer un poco incluso conspiranoico por tu parte, creer que puede decir algo así. Bueno, recordemos que en los discursos que ha dado durante su paso por España hay dos palabras que han estado especialmente…
Significado #1 · Palabras #1
Ignacio Crespo reflexiona sobre la carga moral de las acciones bélicas realizadas por algoritmos e inteligencia artificial, planteando interrogantes sobre cómo distribuir la responsabilidad cuando la decisión de disparar no depende directamente de una persona.
Habla: Ignacio CrespoSignificado #17 · Palabras #7carga moral de acciones bélicasalgoritmos e inteligencia artificialresponsabilidad de empresa constructoradespliegue de activos en terreno…que si hay inteligencias artificiales dirigiendo los drones al menos estamos evitando que se maten tantas personas porque son las que pilotan. Y dices, ostras, entiendo el argumento, pero aquí es verdad que León hace un comentario que no sale de él, que no es Nuevo, pero que me parece que está muy bien cogido y es sobre la carga moral de estas acciones. El hecho de que la acción de disparar no dependa en última instancia de una persona, sino de un algoritmo, de una forma en la que está programado, de una inteligencia artificial: ¿Cómo se distribuye la carga de esa responsabilidad? Es grave, pero es que incluso si dices: no, vale, pero bueno, puede ser que sea responsable la empresa, que haya construido esto, el gobierno, que haya desplegado estos activos en el terreno. Sí, pero hay otro problema, y es Un problema que desde la filosofía, desde la ética, se conoce desde hace mucho tiempo. Todos conocemos el problema del tranvía, ¿verdad? El problema de que tenemos una cantidad de personas en unas vías de un tren, que están atadas, no se pueden mover, el tren…
Ignacio Crespo continúa desarrollando una analogía para ilustrar la responsabilidad en decisiones bélicas relacionadas con la inteligencia artificial, y explica cómo la distancia entre las acciones y sus consecuencias reduce el peso moral.
Habla: Ignacio CrespoSignificado #8 · Palabras #5distancia moral decisiones bélicasdeshumanizar al enemigo reduce peso moralacciones consecuencias distancia ignacio crespozapatos de cien dólares estropearinteligencia artificial decisiones bélicascampañas sociales etiopía rechazoresponsabilidad moral ignacio crespoimpacto de la guerra inteligencia artificial…vas a frenar el tren, solo atropella una. Curiosamente, matemáticamente es el mismo escenario, pero como tu acción es mucho más directa, las personas suelen responder que no lo harían jamás, incluso personas que sí le habrían dado a la palanca en el anterior. O sea, sabemos que deshumanizar al enemigo o introducir pasos indirectos entre nuestras acciones y sus consecuencias hacen que el peso moral se reduzca. Tiene una distancia moral. Eso es, y que estemos más dispuestos a cometer determinadas acciones que manipular. Esto me recuerda a un... bueno, no te quiero interrumpir, termina el argumento. Ah, vale, pero iba a decir que esto lo conocemos: la distancia respecto a aquello sobre lo que afectan nuestras acciones es muy relevante; es el motivo por el cual no tendríamos ninguna duda en estropear nuestros zapatos de 100 dólares por. entrar en un lago a salvar a un niño, pero gastar ese mismo dinero en una campaña social en Etiopía, pues nos genera más rechazo y esos 100 euros es que eran los de las vacaciones. tenemos muy estudiado y ya no a través de filosofía sino de sociología cómo tomamos este tipo de decisiones y lógicamente la introducción de la inteligencia artificial como un mediador como una posibilidad de que se controlen estos operativos desde casa con la distancia que da sentir que es un videojuego a través de una pantalla eso no digo yo que vaya a tener unas consecuencias concretas que yo no puedo anticipar pero desde luego que no es algo que vaya a ser gratuito en el impacto de la guerra Es algo que tenemos que tener en cuenta Sí, yo quería añadir que a esos experimentos mentales del tren y esto se añaden los estudios psicológicos de la evolución de la guerra. Si pensamos en cómo ha evolucionado la guerra en los últimos ciento y pico años, para empezar, o sea, yo creo que lo…
Ignacio Crespo continúa su reflexión sobre la responsabilidad moral en decisiones bélicas relacionadas con la inteligencia artificial y cita una frase de un estudio que afirma que ningún algoritmo puede hacer que la guerra sea moralmente aceptable, relacionándolo con el dogma religioso de que no existe una guerra justa.
Habla: Ignacio CrespoSignificado #4 · Palabras #9algoritmo y moralidad bélicaguerra justa y dogmas religiososignacio crespo y responsabilidad moralpontificados y la guerra aceptable…decir un papa es que no debe haber guerras. Y luego ya, no sé, entrar a cómo deben ser más humanas; no sé, me parece que es como entrar a cuál debería ser la forma más humana de un asesino de matar a unas personas o de un violador de agredir a su víctima. O sea, me parece que deberíamos partir de una base más. Pero bueno, en cualquier caso, que la evolución... Bueno, en cierto modo lo dice; perdona, pero es que me he apuntado algunas frases por poder ser lo más literal posible. Dice: no existe algoritmo que pueda hacer que la guerra sea moralmente aceptable, porque en este caso sí se posiciona, indicando que y además esto es algo muy típico, algo que podemos rastrear durante muchos pontificados; no existe una guerra justa. Esto sería uno de los dogmas que al menos están bastante aceptados por la Iglesia ahora mismo. No te digo yo que durante las cruzadas, ¿no? Pero ahora mismo esto es dogma. Bueno, que en cualquier caso que lo que se ha visto con los estudios psicológicos a lo largo de la evolución de las guerras es que es mucho más difícil como era, digamos, la Primera Guerra Mundial, que tú básicamente ibas con una bayoneta y tenías que…
Ignacio Crespo introduce una frase sobre la inteligencia artificial y su impacto en los conflictos bélicos, destacando cómo no libera al conflicto de su inhumanidad sino que lo acelera e impersonaliza.
Habla: Ignacio CrespoPalabras #17inteligencia artificial e inhumanidad bélicatecnología y umbral moral del conflictohéctór socas sobre violencia impersonalizadaimpacto social de la inteligencia artificial…bueno, vale, si vas a matar, que lo haga, pero que la carga moral tiene que recaer sobre alguien y este es uno de los pilares, porque yo quiero que vayamos poco a poco para entender realmente cuál es la situación sobre una tecnología que nos interesa, porque. Nos interesa la ciencia, en su implementación social y las reacciones tan interesantes que produce en cuestiones económicas y en cuestiones incluso espirituales. Por sacar otra de las frases, que creo que resume además lo que decías ahora mismo, Héctor: dice "La inteligencia artificial no libera al conflicto de su intrínseca inhumanidad, solo puede hacerlo más rápido e impersonal, bajando el umbral del recurso a la violencia". Y de verdad he empezado por esto porque creo que es la parte con la que todos estaremos bastante de acuerdo. Luego podemos entrar en otras discusiones sobre el resto de afirmaciones, pero esto es así y a mí hay una que me gusta mucho: dice "toda tecnología que facilite atacar sin ver el rostro del otro, baja el umbral moral del conflicto", que es de nuevo lo que estabas diciendo; para mí es el gran problema, para mí eso es el gran problema. Ya desde el momento que tienes una pistola, un arma de fuego, ya cambia completamente todo el juego, ¿no? Y creo que ese reparo se tiene que aplicar a toda tecnología de matar a distancia y no solamente es por esta distancia, que eso es lo que él deja claro,…
Ignacio Crespo expresa su desacuerdo con una idea planteada anteriormente sobre la inteligencia artificial, argumentando que incluso si se intenta imbuirle de valores morales, estos estarán determinados por quienes la controlan.
Habla: Ignacio CrespoSignificado #1 · Palabras #1inteligencia artificial y valores moralescontrol de la inteligencia artificialcristianismo católico e inteligencia artificialignacio crespo desacuerdo moral…¿quién está entonces esculpiendo el futuro y quién está poniendo su cara y por lo tanto sus sesgos en la tecnología que va a acabar representándonos? Entonces eso es interesante y además hace algo que aquí es donde, ya digo, creo que sí que estaremos un Poco en desacuerdo. Una de las cosas que nombra es que incluso si se impregna de una moral a la inteligencia artificial, mientras esté en manos de unos pocos, será esa moral. Y claro, si no es la moral religiosa, en concreto del cristianismo, en concreto del catolicismo, no es. La que le interesa y diréis: oye, eso puede parecer un poco incluso conspiranoico por tu parte, creer que puede decir algo así. Bueno, recordemos que en los discursos que ha dado durante su paso por España hay dos palabras que han estado especialmente…
Ignacio Crespo reflexiona sobre el desarrollo ético en relación con la inteligencia artificial, señalando que no necesariamente implica alternativas a la moral religiosa.
Habla: Ignacio CrespoSignificado #5 · Palabras #4inteligencia artificial problemas éticosdatos entrenamiento inteligencia artificialrestricciones creadores inteligencia artificialinstituciones desarrollo inteligencia artificialética e inteligencia artificialdesarrollo ético honestomoral religiosa e iadiscursos del papa tecnología…cosas que la Iglesia no va a considerar tolerables jamás. De nuevo, no debería sorprenderle a nadie; lo decía en la encíclica, si alguien se había hecho los deberes no le debió sorprender cuando lo dijo en el Congreso, pero recordemos que va ahí de la mano. Lo que le preocupa respecto a las cuestiones éticas y morales de la inteligencia artificial es que no sean las suyas. Y ahí es donde sí que podemos disentir en cierto modo, y podemos decir: “estoy de acuerdo con que hay un gran problema en que la inteligencia artificial pueda marcar un nuevo estándar de cómo se interpretan determinados problemas éticos, porque al final va a ser heredero de aquellos datos con los que se ha entrenado o aquellas restricciones impuestas por las instituciones que la hayan desarrollado”. Pero para mí el problema es ese y que no se deje espacio. A realmente un desarrollo ético honesto detrás. No necesariamente que haya alternativas a la moral religiosa. Entonces creo que de nuevo es algo interesante porque una de las cosas que ha ocurrido es que todos hemos querido ver en los discursos del Papa y sus referencias a la tecnología, pues la parte más evidente, humana, indiscutible, positiva, que es por la que hemos empezado y estamos de acuerdo, claro, pero entre ella y si nos lo leemos. De verdad y entendemos de dónde viene y las restricciones propias de una institución como es esta, que es una institución conservadora, porque no puede ser de otra forma que su mayor representante del progresismo fue Francisco en los últimos años, que no es…
Ignacio Crespo aclara su postura sobre la disposición a tender puentes con figuras relevantes que representan a un amplio número de personas.
Habla: Ignacio CrespoSignificado #14postura de ignacio crespotender puentes con figuras relevantesargumentos de personas inteligentes…lo que creo. Me temo que está de moda hoy en día: que todo el mundo que está en una trinchera lo que quiere es aniquilar a la otra trinchera en lugar de... Perdona, ya termino; sé que no estás de acuerdo con eso. No, no, estoy bastante de acuerdo en general. Si es que el problema es cómo lo definimos, porque además no quiero que entremos demasiado en esto, pero sí que intento que no se me malinterprete. Yo no estoy diciendo que no esté dispuesto a tender puentes, pero además, ¿quién soy yo frente a alguien que es realmente relevante y que efectivamente, como dices tú, representa a muchas personas en el mundo que son personas inteligentes en gran medida y que tienen argumentos? Lo que digo es que esa aproximación, que hay que hacerla de buena fe, tampoco hay que hacerla desde la ingenuidad más absoluta Y ya termino, es que veamos la tendencia, y yo creo que hemos venido de papas muy de línea dura Yo me acuerdo de Juan Pablo II, hace poco tuvimos a Ratzinger, de ahí pasar a papas…
Ignacio Crespo expone su visión sobre la inteligencia artificial, argumentando que actualmente solo imita y carece de experiencia, moralidad o emociones.
Habla: Ignacio CrespoPalabras #8inteligencia según héctor socaspilar de la inteligencia ignacio crespodesacuerdo potencial ignacio héctorinteligencia artificial imitaciónsoledad no deseada y máquinasrelaciones pseudo-sexuales inteligencia artificialestudios psicológicos sobre imitación…es gracias precisamente a África y América Latina, y esto lo saben; lo tienen muy claro y es el esfuerzo que ha habido. Bueno, pues lógicamente se vuelcan en ello, lo puedo entender, no lo estoy diciendo como una crítica, sino como un análisis por mi parte. Pero hay un punto en el que sé o sospecho, al menos Héctor, que sí que no estarás de acuerdo. Una de las cosas que plantea, y ya a mí me parece que es el tercer pilar y con eso podemos ir cerrando, sobre su forma de entender la inteligencia. artificial es que para él la inteligencia artificial actualmente imita y únicamente imita, no tiene experiencia, no puede tener una moralidad, no puede tener emociones y hasta aquí podemos estar de acuerdo y podemos considerar que ese es parte del peligro de confundir la imitación con una persona y que además hay estudios psicológicos sobre ello y sobre cómo se acrecenta el problema, la epidemia que tenemos de soledad no deseada y cómo nos aislamos con máquinas y cómo se están estableciendo relaciones pseudo-sexuales entre personas y sus inteligencias artificiales. Quiero decir, esto es algo que ya está ahí, que es parte de los titulares, pero lo lleva un paso más allá. Él lo que plantea es que en sí la inteligencia artificial no es compatible con una conciencia. Y es que además es el título que lleva la encíclica, La Magnífica Humanidad. El hecho de que la característica de ser humanos es magnífica y además es imposible que…