Búsqueda · 24 momentos en 13 episodios
Silvana TapiaLuisa AchaerandioIgnacio CrespoFrancis VillatoroHéctor SocasGastón Giribetataque nuclear y factor humanomáquina para evitar carga moraldecisiones bélicas con tecnologíahector socas analiza encíclicainteligencia artificial e inhumanidad bélicatecnología y umbral moral del conflictohéctór socas sobre violencia impersonalizadaimpacto social de la inteligencia artificialpistola altera dinámica del conflictotecnología de matar a distanciahistoria de armas de fuegoHéctor SocasIgnacio CrespoPapaJuegos de GuerraHypergostLeón XIVIglesia
Tecnología y umbral moral del conflicto
Con
0:000:301:001:302:002:303:003:29
Ignacio Crespo introduce una frase sobre la inteligencia artificial y su impacto en los conflictos bélicos, destacando cómo no libera al conflicto de su inhumanidad sino que lo acelera e impersonaliza.
…humano por una inteligencia artificial que tome esas acciones sin tener una carga moral, porque eso es justamente la premisa de la película, que en simulacros y estudios que hacen se dan cuenta de que un cierto porcentaje de los seres humanos cuando se les Ordena darle al botón de lanzar un ataque nuclear. No lo hacen, entonces deciden sustituir eso por una máquina para saltarse ese factor humano y de esto es de lo que va esta encíclica, ¿no? Es decir, bueno, vale, si vas a matar, que lo haga, pero que la carga moral tiene que recaer sobre alguien y este es uno de los pilares, porque yo quiero que vayamos poco a poco para entender realmente cuál es la situación sobre una tecnología que nos interesa, porque. Nos interesa la ciencia, en su implementación social y las reacciones tan interesantes que produce en cuestiones económicas y en cuestiones incluso espirituales. Por sacar otra de las frases, que creo que resume además lo que decías ahora mismo, Héctor: dice "La inteligencia artificial no libera al conflicto de su intrínseca inhumanidad, solo puede hacerlo más rápido e impersonal, bajando el umbral del recurso a la violencia". Y de verdad he empezado por esto porque creo que es la parte con la que todos estaremos bastante de acuerdo. Luego podemos entrar en otras discusiones sobre el resto de afirmaciones, pero esto es así y a mí hay una que me gusta mucho: dice "toda tecnología que facilite atacar sin ver el rostro del otro, baja el umbral moral del conflicto", que es de nuevo lo que estabas diciendo; para mí es el gran problema, para mí eso es el gran problema. Ya desde el momento que tienes una pistola, un arma de fuego, ya cambia completamente todo el juego, ¿no? Y creo que ese reparo se tiene que aplicar a toda tecnología de matar a distancia y no solamente es por esta distancia, que eso es lo que él deja claro, sino que si repasamos un poco la historia de. Prebost antes de ser papa vemos que es muy compleja; es muy interesante; es una persona que siempre ha destacado intelectualmente, ya sea por el aprendizaje de idiomas, por incluso su vertiente más humana, más de toda la labor que hizo en Perú. Por supuesto…
Significado #1 · Palabras #1
Ignacio Crespo reflexiona sobre la carga moral de las acciones bélicas realizadas por algoritmos e inteligencia artificial, planteando interrogantes sobre cómo distribuir la responsabilidad cuando la decisión de disparar no depende directamente de una persona.
Habla: Ignacio CrespoSignificado #7inteligencia artificial y guerras humanastecnoligarcas visión de la guerradrones pilotados por inteligencia artificialsector tecnológico comenta sobre guerrascarga moral de acciones bélicasalgoritmos e inteligencia artificialresponsabilidad de empresa constructoradespliegue de activos en terreno…ya hace unas cuantas décadas que los papas tienen visiones antivelicistas. Esto evidentemente no podemos decir que haya sido universal a lo largo de la historia, pero desde luego que es una tendencia tremendamente aceptada, no esperaríamos otra cosa. y curiosamente vemos que también por parte de los tecnoligarcas hay algunas asunciones de que la inteligencia artificial puede ayudar a que las guerras sean más humanas. Esto yo lo he escuchado además recientemente por primera vez no en un texto sino de una persona delante de mí metida en el sector y es no es que si hay inteligencias artificiales dirigiendo los drones al menos estamos evitando que se maten tantas personas porque son las que pilotan. Y dices, ostras, entiendo el argumento, pero aquí es verdad que León hace un comentario que no sale de él, que no es Nuevo, pero que me parece que está muy bien cogido y es sobre la carga moral de estas acciones. El hecho de que la acción de disparar no dependa en última instancia de una persona, sino de un algoritmo, de una forma en la que está programado, de una inteligencia artificial: ¿Cómo se distribuye la carga de esa responsabilidad? Es grave, pero es que incluso si dices: no, vale, pero bueno, puede ser que sea responsable la empresa, que haya construido esto, el gobierno, que haya desplegado estos activos en el terreno. Sí, pero hay otro problema, y es Un problema que desde la filosofía, desde la ética, se conoce desde hace mucho tiempo. Todos conocemos el problema del tranvía, ¿verdad? El problema de que tenemos una cantidad de personas en unas vías de un tren, que están atadas, no se pueden mover, el tren…
Ignacio Crespo continúa desarrollando una analogía para ilustrar la responsabilidad en decisiones bélicas relacionadas con la inteligencia artificial, y explica cómo la distancia entre las acciones y sus consecuencias reduce el peso moral.
Habla: Ignacio CrespoSignificado #12distancia moral decisiones bélicasdeshumanizar al enemigo reduce peso moralacciones consecuencias distancia ignacio crespozapatos de cien dólares estropear…vas a frenar el tren, solo atropella una. Curiosamente, matemáticamente es el mismo escenario, pero como tu acción es mucho más directa, las personas suelen responder que no lo harían jamás, incluso personas que sí le habrían dado a la palanca en el anterior. O sea, sabemos que deshumanizar al enemigo o introducir pasos indirectos entre nuestras acciones y sus consecuencias hacen que el peso moral se reduzca. Tiene una distancia moral. Eso es, y que estemos más dispuestos a cometer determinadas acciones que manipular. Esto me recuerda a un... bueno, no te quiero interrumpir, termina el argumento. Ah, vale, pero iba a decir que esto lo conocemos: la distancia respecto a aquello sobre lo que afectan nuestras acciones es muy relevante; es el motivo por el cual no tendríamos ninguna duda en estropear nuestros zapatos de 100 dólares por. entrar en un lago a salvar a un niño, pero gastar ese mismo dinero en una campaña social en Etiopía, pues nos genera más rechazo y esos 100 euros es que eran los de las vacaciones. tenemos muy estudiado y ya no a través de filosofía sino de sociología cómo…
Ignacio Crespo continúa su reflexión sobre la responsabilidad moral en decisiones bélicas relacionadas con la inteligencia artificial y cita una frase de un estudio que afirma que ningún algoritmo puede hacer que la guerra sea moralmente aceptable, relacionándolo con el dogma religioso de que no existe una guerra justa.
Habla: Ignacio CrespoSignificado #8algoritmo y moralidad bélicaguerra justa y dogmas religiososignacio crespo y responsabilidad moralpontificados y la guerra aceptable…decir un papa es que no debe haber guerras. Y luego ya, no sé, entrar a cómo deben ser más humanas; no sé, me parece que es como entrar a cuál debería ser la forma más humana de un asesino de matar a unas personas o de un violador de agredir a su víctima. O sea, me parece que deberíamos partir de una base más. Pero bueno, en cualquier caso, que la evolución... Bueno, en cierto modo lo dice; perdona, pero es que me he apuntado algunas frases por poder ser lo más literal posible. Dice: no existe algoritmo que pueda hacer que la guerra sea moralmente aceptable, porque en este caso sí se posiciona, indicando que y además esto es algo muy típico, algo que podemos rastrear durante muchos pontificados; no existe una guerra justa. Esto sería uno de los dogmas que al menos están bastante aceptados por la Iglesia ahora mismo. No te digo yo que durante las cruzadas, ¿no? Pero ahora mismo esto es dogma. Bueno, que en cualquier caso que lo que se ha visto con los estudios psicológicos a lo largo de la evolución de las guerras es que es mucho más difícil como era, digamos, la Primera Guerra Mundial, que tú básicamente ibas con una bayoneta y tenías que…
Ignacio Crespo introduce una frase sobre la inteligencia artificial y su impacto en los conflictos bélicos, destacando cómo no libera al conflicto de su inhumanidad sino que lo acelera e impersonaliza.
Habla: Ignacio CrespoSignificado #1 · Palabras #1ataque nuclear y factor humanomáquina para evitar carga moraldecisiones bélicas con tecnologíahector socas analiza encíclicainteligencia artificial e inhumanidad bélicatecnología y umbral moral del conflictohéctór socas sobre violencia impersonalizadaimpacto social de la inteligencia artificialpistola altera dinámica del conflictotecnología de matar a distanciahistoria de armas de fuego…humano por una inteligencia artificial que tome esas acciones sin tener una carga moral, porque eso es justamente la premisa de la película, que en simulacros y estudios que hacen se dan cuenta de que un cierto porcentaje de los seres humanos cuando se les Ordena darle al botón de lanzar un ataque nuclear. No lo hacen, entonces deciden sustituir eso por una máquina para saltarse ese factor humano y de esto es de lo que va esta encíclica, ¿no? Es decir, bueno, vale, si vas a matar, que lo haga, pero que la carga moral tiene que recaer sobre alguien y este es uno de los pilares, porque yo quiero que vayamos poco a poco para entender realmente cuál es la situación sobre una tecnología que nos interesa, porque. Nos interesa la ciencia, en su implementación social y las reacciones tan interesantes que produce en cuestiones económicas y en cuestiones incluso espirituales. Por sacar otra de las frases, que creo que resume además lo que decías ahora mismo, Héctor: dice "La inteligencia artificial no libera al conflicto de su intrínseca inhumanidad, solo puede hacerlo más rápido e impersonal, bajando el umbral del recurso a la violencia". Y de verdad he empezado por esto porque creo que es la parte con la que todos estaremos bastante de acuerdo. Luego podemos entrar en otras discusiones sobre el resto de afirmaciones, pero esto es así y a mí hay una que me gusta mucho: dice "toda tecnología que facilite atacar sin ver el rostro del otro, baja el umbral moral del conflicto", que es de nuevo lo que estabas diciendo; para mí es el gran problema, para mí eso es el gran problema. Ya desde el momento que tienes una pistola, un arma de fuego, ya cambia completamente todo el juego, ¿no? Y creo que ese reparo se tiene que aplicar a toda tecnología de matar a distancia y no solamente es por esta distancia, que eso es lo que él deja claro, sino que si repasamos un poco la historia de. Prebost antes de ser papa vemos que es muy compleja; es muy interesante; es una persona que siempre ha destacado intelectualmente, ya sea por el aprendizaje de idiomas, por incluso su vertiente más humana, más de toda la labor que hizo en Perú. Por supuesto…
Ignacio Crespo explica cómo la preocupación por la ubicación geográfica y la velocidad de respuesta ante posibles conflictos motivó a Hypergost, una unión entre tecnología y guerra o búsqueda de paz.
Habla: Ignacio CrespoPalabras #6hypergost tecnología y guerraubicación geográfica conflicto hypergostbúsqueda de paz hypergost…a estas armas, el lugar geográfico donde querían colocarlo y la velocidad de respuesta que podían proporcionar, el conflicto en caso de despertar la violencia, la guerra, despertaría en Europa y no en Estados Unidos o en Rusia, bueno, en la Unión Soviética. Y esto fue una de las cosas que movilizó a gran parte de la población y entre ellos estaba Hypergost, como esa unión entre la tecnología y la guerra o la búsqueda de la paz en este caso. Es algo que tiene muy en el núcleo; es algo que está muy presente en él y que nos ayuda a entender esta decisión. Creo que luego, si vamos pasando a otros motivos por los cuales argumenta que la inteligencia artificial tiene sus problemas, ojo, no dice que sea una cosa horrible que debamos evitar, esto es algo muy interesante, no te dice ni sí ni no, te dice es una…
Ignacio Crespo expresa su desacuerdo con una idea planteada anteriormente sobre la inteligencia artificial, argumentando que incluso si se intenta imbuirle de valores morales, estos estarán determinados por quienes la controlan.
Habla: Ignacio CrespoSignificado #2 · Palabras #13inteligencia artificial y valores moralescontrol de la inteligencia artificialcristianismo católico e inteligencia artificialignacio crespo desacuerdo moral…¿quién está entonces esculpiendo el futuro y quién está poniendo su cara y por lo tanto sus sesgos en la tecnología que va a acabar representándonos? Entonces eso es interesante y además hace algo que aquí es donde, ya digo, creo que sí que estaremos un Poco en desacuerdo. Una de las cosas que nombra es que incluso si se impregna de una moral a la inteligencia artificial, mientras esté en manos de unos pocos, será esa moral. Y claro, si no es la moral religiosa, en concreto del cristianismo, en concreto del catolicismo, no es. La que le interesa y diréis: oye, eso puede parecer un poco incluso conspiranoico por tu parte, creer que puede decir algo así. Bueno, recordemos que en los discursos que ha dado durante su paso por España hay dos palabras que han estado especialmente…
Ignacio Crespo reflexiona sobre el desarrollo ético en relación con la inteligencia artificial, señalando que no necesariamente implica alternativas a la moral religiosa.
Habla: Ignacio CrespoSignificado #6 · Palabras #4ética e inteligencia artificialdesarrollo ético honestomoral religiosa e iadiscursos del papa tecnología…determinados problemas éticos, porque al final va a ser heredero de aquellos datos con los que se ha entrenado o aquellas restricciones impuestas por las instituciones que la hayan desarrollado”. Pero para mí el problema es ese y que no se deje espacio. A realmente un desarrollo ético honesto detrás. No necesariamente que haya alternativas a la moral religiosa. Entonces creo que de nuevo es algo interesante porque una de las cosas que ha ocurrido es que todos hemos querido ver en los discursos del Papa y sus referencias a la tecnología, pues la parte más evidente, humana, indiscutible, positiva, que es por la que hemos empezado y estamos de acuerdo, claro, pero entre ella y si nos lo leemos. De verdad y entendemos de dónde viene y las restricciones propias de una institución como es esta, que es una institución conservadora, porque no puede ser de otra forma que su mayor representante del progresismo fue Francisco en los últimos años, que no es…