Búsqueda · 25 momentos en 12 episodios
Silvana TapiaLuisa AchaerandioIgnacio CrespoFrancis VillatoroHéctor SocasGastón Giribetcarga moral de acciones bélicasalgoritmos e inteligencia artificialresponsabilidad de empresa constructoradespliegue de activos en terrenoIgnacio CrespoLeón XIVNeferchitiFrancis VillatoroJuegos de GuerraHéctor SocasPapaLa Magnífica HumanidadIglesiaEtiopía
Inteligencia Artificial sin carga moral
Con
0:000:301:001:302:002:303:003:29
Ignacio Crespo reflexiona sobre la carga moral de las acciones bélicas realizadas por algoritmos e inteligencia artificial, planteando interrogantes sobre cómo distribuir la responsabilidad cuando la decisión de disparar no depende directamente de una persona.
…que si hay inteligencias artificiales dirigiendo los drones al menos estamos evitando que se maten tantas personas porque son las que pilotan. Y dices, ostras, entiendo el argumento, pero aquí es verdad que León hace un comentario que no sale de él, que no es Nuevo, pero que me parece que está muy bien cogido y es sobre la carga moral de estas acciones. El hecho de que la acción de disparar no dependa en última instancia de una persona, sino de un algoritmo, de una forma en la que está programado, de una inteligencia artificial: ¿Cómo se distribuye la carga de esa responsabilidad? Es grave, pero es que incluso si dices: no, vale, pero bueno, puede ser que sea responsable la empresa, que haya construido esto, el gobierno, que haya desplegado estos activos en el terreno. Sí, pero hay otro problema, y es Un problema que desde la filosofía, desde la ética, se conoce desde hace mucho tiempo. Todos conocemos el problema del tranvía, ¿verdad? El problema de que tenemos una cantidad de personas en unas vías de un tren, que están atadas, no se pueden mover, el tren…
Significado #6 · Palabras #1
Ignacio Crespo reflexiona sobre la carga moral de las acciones bélicas realizadas por algoritmos e inteligencia artificial, planteando interrogantes sobre cómo distribuir la responsabilidad cuando la decisión de disparar no depende directamente de una persona.
Habla: Ignacio CrespoSignificado #6 · Palabras #1carga moral de acciones bélicasalgoritmos e inteligencia artificialresponsabilidad de empresa constructoradespliegue de activos en terreno…que si hay inteligencias artificiales dirigiendo los drones al menos estamos evitando que se maten tantas personas porque son las que pilotan. Y dices, ostras, entiendo el argumento, pero aquí es verdad que León hace un comentario que no sale de él, que no es Nuevo, pero que me parece que está muy bien cogido y es sobre la carga moral de estas acciones. El hecho de que la acción de disparar no dependa en última instancia de una persona, sino de un algoritmo, de una forma en la que está programado, de una inteligencia artificial: ¿Cómo se distribuye la carga de esa responsabilidad? Es grave, pero es que incluso si dices: no, vale, pero bueno, puede ser que sea responsable la empresa, que haya construido esto, el gobierno, que haya desplegado estos activos en el terreno. Sí, pero hay otro problema, y es Un problema que desde la filosofía, desde la ética, se conoce desde hace mucho tiempo. Todos conocemos el problema del tranvía, ¿verdad? El problema de que tenemos una cantidad de personas en unas vías de un tren, que están atadas, no se pueden mover, el tren…
Ignacio Crespo continúa desarrollando una analogía para ilustrar la responsabilidad en decisiones bélicas relacionadas con la inteligencia artificial, y explica cómo la distancia entre las acciones y sus consecuencias reduce el peso moral.
Habla: Ignacio CrespoPalabras #8distancia moral decisiones bélicasdeshumanizar al enemigo reduce peso moralacciones consecuencias distancia ignacio crespozapatos de cien dólares estropearinteligencia artificial decisiones bélicascampañas sociales etiopía rechazoresponsabilidad moral ignacio crespoimpacto de la guerra inteligencia artificial…vas a frenar el tren, solo atropella una. Curiosamente, matemáticamente es el mismo escenario, pero como tu acción es mucho más directa, las personas suelen responder que no lo harían jamás, incluso personas que sí le habrían dado a la palanca en el anterior. O sea, sabemos que deshumanizar al enemigo o introducir pasos indirectos entre nuestras acciones y sus consecuencias hacen que el peso moral se reduzca. Tiene una distancia moral. Eso es, y que estemos más dispuestos a cometer determinadas acciones que manipular. Esto me recuerda a un... bueno, no te quiero interrumpir, termina el argumento. Ah, vale, pero iba a decir que esto lo conocemos: la distancia respecto a aquello sobre lo que afectan nuestras acciones es muy relevante; es el motivo por el cual no tendríamos ninguna duda en estropear nuestros zapatos de 100 dólares por. entrar en un lago a salvar a un niño, pero gastar ese mismo dinero en una campaña social en Etiopía, pues nos genera más rechazo y esos 100 euros es que eran los de las vacaciones. tenemos muy estudiado y ya no a través de filosofía sino de sociología cómo tomamos este tipo de decisiones y lógicamente la introducción de la inteligencia artificial como un mediador como una posibilidad de que se controlen estos operativos desde casa con la distancia que da sentir que es un videojuego a través de una pantalla eso no digo yo que vaya a tener unas consecuencias concretas que yo no puedo anticipar pero desde luego que no es algo que vaya a ser gratuito en el impacto de la guerra Es algo que tenemos que tener en cuenta Sí, yo quería añadir que a esos experimentos mentales del tren y esto se añaden los estudios psicológicos de la evolución de la guerra. Si pensamos en cómo ha evolucionado la guerra en los últimos ciento y pico años, para empezar, o sea, yo creo que lo…
Ignacio Crespo continúa su reflexión sobre la responsabilidad moral en decisiones bélicas relacionadas con la inteligencia artificial y cita una frase de un estudio que afirma que ningún algoritmo puede hacer que la guerra sea moralmente aceptable, relacionándolo con el dogma religioso de que no existe una guerra justa.
Habla: Ignacio CrespoPalabras #13algoritmo y moralidad bélicaguerra justa y dogmas religiososignacio crespo y responsabilidad moralpontificados y la guerra aceptable…decir un papa es que no debe haber guerras. Y luego ya, no sé, entrar a cómo deben ser más humanas; no sé, me parece que es como entrar a cuál debería ser la forma más humana de un asesino de matar a unas personas o de un violador de agredir a su víctima. O sea, me parece que deberíamos partir de una base más. Pero bueno, en cualquier caso, que la evolución... Bueno, en cierto modo lo dice; perdona, pero es que me he apuntado algunas frases por poder ser lo más literal posible. Dice: no existe algoritmo que pueda hacer que la guerra sea moralmente aceptable, porque en este caso sí se posiciona, indicando que y además esto es algo muy típico, algo que podemos rastrear durante muchos pontificados; no existe una guerra justa. Esto sería uno de los dogmas que al menos están bastante aceptados por la Iglesia ahora mismo. No te digo yo que durante las cruzadas, ¿no? Pero ahora mismo esto es dogma. Bueno, que en cualquier caso que lo que se ha visto con los estudios psicológicos a lo largo de la evolución de las guerras es que es mucho más difícil como era, digamos, la Primera Guerra Mundial, que tú básicamente ibas con una bayoneta y tenías que…
Héctor Socas menciona la película 'Juegos de Guerra' y cómo temas planteados en ella siguen siendo relevantes hoy en día, conectando con una conversación previa sobre la sustitución del ser humano por inteligencia artificial en la guerra.
Habla: Héctor SocasSignificado #2 · Palabras #7juegos de guerra y actualidadsustitución humana por inteligencia artificialinteligencia artificial sin carga moralpelícula juegos de guerra simulacrosataque nuclear y factor humanomáquina para evitar carga moraldecisiones bélicas con tecnologíahector socas analiza encíclicainteligencia artificial e inhumanidad bélicatecnología y umbral moral del conflictohéctór socas sobre violencia impersonalizadaimpacto social de la inteligencia artificial…mientras las está haciendo desde la distancia de un avión en la que no percibe lo que está pasando hasta ya el punto de las situaciones de los ataques con armas estratégicas, balísticas como las armas nucleares en las cuales tú básicamente le das un botón. y hemos hablado aquí algunas veces, no sé, últimamente, porque Neferchiti y yo volvimos a ver hace poco la película de Juegos de Guerra y que encontramos muchos aspectos ahí que están tan conectados con la actualidad que parece sorprendente que hace tanto tiempo, esto recuerdo que lo comentamos, Francis decía que bueno, que no era tan sorprendente y tal, pero que bueno, que es una película que la ves a día de hoy con ojos de hoy en día y te llaman la atención algunas cosas como las cabinas telefónicas, pero los temas que planteas son como muy de actualidad y justamente estabas diciendo eso, sustituir en el mecanismo de la guerra el ser humano por una inteligencia artificial que tome esas acciones sin tener una carga moral, porque eso es justamente la premisa de la película, que en simulacros y estudios que hacen se dan cuenta de que un cierto porcentaje de los seres humanos cuando se les Ordena darle al botón de lanzar un ataque nuclear. No lo hacen, entonces deciden sustituir eso por una máquina para saltarse ese factor humano y de esto es de lo que va esta encíclica, ¿no? Es decir, bueno, vale, si vas a matar, que lo haga, pero que la carga moral tiene que recaer sobre alguien y este es uno de los pilares, porque yo quiero que vayamos poco a poco para entender realmente cuál es la situación sobre una tecnología que nos interesa, porque. Nos interesa la ciencia, en su implementación social y las reacciones tan interesantes que produce en cuestiones económicas y en cuestiones incluso espirituales. Por sacar otra de las frases, que creo que resume además lo que decías ahora mismo, Héctor: dice "La inteligencia artificial no libera al conflicto de su intrínseca inhumanidad, solo puede hacerlo más rápido e impersonal, bajando el umbral del recurso a la violencia". Y de verdad he empezado por esto porque creo que es la parte con la que todos estaremos bastante de acuerdo. Luego podemos entrar en otras discusiones sobre el resto de afirmaciones, pero esto es así y a mí hay una que me gusta mucho: dice "toda tecnología que facilite atacar sin ver el rostro del otro, baja el umbral moral del conflicto", que es de nuevo lo que estabas diciendo; para mí es el gran problema, para mí eso es el gran problema. Ya desde el momento que tienes una pistola, un arma de fuego, ya cambia completamente todo el juego, ¿no? Y creo que ese reparo se tiene que aplicar a toda tecnología de matar a distancia y no solamente es por esta distancia, que eso es lo que él deja claro,…
Ignacio Crespo expresa su desacuerdo con una idea planteada anteriormente sobre la inteligencia artificial, argumentando que incluso si se intenta imbuirle de valores morales, estos estarán determinados por quienes la controlan.
Habla: Ignacio CrespoSignificado #1 · Palabras #2inteligencia artificial y valores moralescontrol de la inteligencia artificialcristianismo católico e inteligencia artificialignacio crespo desacuerdo moral…¿quién está entonces esculpiendo el futuro y quién está poniendo su cara y por lo tanto sus sesgos en la tecnología que va a acabar representándonos? Entonces eso es interesante y además hace algo que aquí es donde, ya digo, creo que sí que estaremos un Poco en desacuerdo. Una de las cosas que nombra es que incluso si se impregna de una moral a la inteligencia artificial, mientras esté en manos de unos pocos, será esa moral. Y claro, si no es la moral religiosa, en concreto del cristianismo, en concreto del catolicismo, no es. La que le interesa y diréis: oye, eso puede parecer un poco incluso conspiranoico por tu parte, creer que puede decir algo así. Bueno, recordemos que en los discursos que ha dado durante su paso por España hay dos palabras que han estado especialmente…
Ignacio Crespo expresa su preocupación sobre cómo la inteligencia artificial podría establecer nuevos estándares en la interpretación de problemas éticos, heredando los datos con los que fue entrenada y las restricciones impuestas por sus creadores.
Habla: Ignacio CrespoSignificado #3 · Palabras #5inteligencia artificial problemas éticosdatos entrenamiento inteligencia artificialrestricciones creadores inteligencia artificialinstituciones desarrollo inteligencia artificialética e inteligencia artificialdesarrollo ético honestomoral religiosa e iadiscursos del papa tecnología…cosas que la Iglesia no va a considerar tolerables jamás. De nuevo, no debería sorprenderle a nadie; lo decía en la encíclica, si alguien se había hecho los deberes no le debió sorprender cuando lo dijo en el Congreso, pero recordemos que va ahí de la mano. Lo que le preocupa respecto a las cuestiones éticas y morales de la inteligencia artificial es que no sean las suyas. Y ahí es donde sí que podemos disentir en cierto modo, y podemos decir: “estoy de acuerdo con que hay un gran problema en que la inteligencia artificial pueda marcar un nuevo estándar de cómo se interpretan determinados problemas éticos, porque al final va a ser heredero de aquellos datos con los que se ha entrenado o aquellas restricciones impuestas por las instituciones que la hayan desarrollado”. Pero para mí el problema es ese y que no se deje espacio. A realmente un desarrollo ético honesto detrás. No necesariamente que haya alternativas a la moral religiosa. Entonces creo que de nuevo es algo interesante porque una de las cosas que ha ocurrido es que todos hemos querido ver en los discursos del Papa y sus referencias a la tecnología, pues la parte más evidente, humana, indiscutible, positiva, que es por la que hemos empezado y estamos de acuerdo, claro, pero entre ella y si nos lo leemos. De verdad y entendemos de dónde viene y las restricciones propias de una institución como es esta, que es una institución conservadora, porque no puede ser de otra forma que su mayor representante del progresismo fue Francisco en los últimos años, que no es…
Ignacio Crespo expone su visión sobre la inteligencia artificial, argumentando que actualmente solo imita y carece de experiencia, moralidad o emociones.
Habla: Ignacio CrespoSignificado #4 · Palabras #3inteligencia artificial imitaciónsoledad no deseada y máquinasrelaciones pseudo-sexuales inteligencia artificialestudios psicológicos sobre imitacióninteligencia artificial y concienciaencíclica la magnífica humanidadvisión funcionalista de ignacio crespotecnologías incompatibles con humanidad…Pero hay un punto en el que sé o sospecho, al menos Héctor, que sí que no estarás de acuerdo. Una de las cosas que plantea, y ya a mí me parece que es el tercer pilar y con eso podemos ir cerrando, sobre su forma de entender la inteligencia. artificial es que para él la inteligencia artificial actualmente imita y únicamente imita, no tiene experiencia, no puede tener una moralidad, no puede tener emociones y hasta aquí podemos estar de acuerdo y podemos considerar que ese es parte del peligro de confundir la imitación con una persona y que además hay estudios psicológicos sobre ello y sobre cómo se acrecenta el problema, la epidemia que tenemos de soledad no deseada y cómo nos aislamos con máquinas y cómo se están estableciendo relaciones pseudo-sexuales entre personas y sus inteligencias artificiales. Quiero decir, esto es algo que ya está ahí, que es parte de los titulares, pero lo lleva un paso más allá. Él lo que plantea es que en sí la inteligencia artificial no es compatible con una conciencia. Y es que además es el título que lleva la encíclica, La Magnífica Humanidad. El hecho de que la característica de ser humanos es magnífica y además es imposible que esté presente en otra serie de tecnologías. Adopta una visión funcionalista, como yo he podido defender en otros programas, pero yo lo hago desde el desconocimiento. O sea, no sé si efectivamente esa es la respuesta, pero creo que sí que hay motivos para dudar que de una inteligencia artificial pueda surgir la conciencia, dejando la puerta abierta a que sí pueda ocurrir. Aquí lo que vemos es que lógicamente resulta incompatible con La teología que algo creado por los humanos de ello pueda emerger una conciencia, en tanto que la conciencia desde la visión dualista que tiene la religión no es reductible a la materia, sino que es puesta ahí a través de la acción de Dios. El alma se crea…