Búsqueda · 37 momentos en 17 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosarpreocupación fin del mundo iareleer libro hector socaspensamiento fin del mundoHéctor SocasBorja TosarAntropicIgnacio CrespoElon MuskSpaceXStarlinkStarshipTycho BraheJosé EdelsteinSuperconvicciónFrancis VillatoroUniversidad Menéndez PelayoBarcelona
Preocupación fin del mundo ia
Con
0:000:301:001:302:002:303:003:25
Borja Tosar, influenciado por un comentario recibido en el chat, sugiere que quizás sea necesario releer el libro de Héctor Socas debido a la preocupación sobre el fin del mundo relacionada con la inteligencia artificial.
…en la atmósfera? Más o menos todos nos hacemos una idea: que generas un aerosol que en un sistema no lineal y complejo, vete tú a saber qué efectos puede tener que descompongas 10.000 satélites de aluminio de forma homogénea por una masa de aire. Entonces, ya volvemos otra vez al pensamiento del fin del mundo; igual tenemos que empezar a releer el libro de Héctor Socas, que es mucho más luminoso y ya empezamos a ver el fin del mundo con la inteligencia artificial. De hecho, sobre el optimismo, creo que el comentario que nos han hecho además por el chat, que nos lo Ha hecho Puppet Master 2501 tiene toda la razón. ¿Que sí?, estamos haciendo énfasis en esa importancia que tiene para dar cobertura a zonas remotas que no tienen internet ahora y que tal vez estén poco pobladas, pero no solo tienen fines militares, sino por…
Significado #1 · Palabras #1
José Edelstein comenta la posibilidad de entrenar una inteligencia artificial con información científica anterior a 1905 para ver si puede reproducir los pasos dados en el desarrollo científico.
Habla: José EdelsteinPalabras #6ia información científica anterior 1905pasos desarrollo científico iadatos tico brahe inteligencia artificial…innovar la relatividad general y la IA no ha sido capaz. No han sido capaces, eso está terminado; yo había escuchado eso. Está en curso, como no lo han logrado, siguen trabajando a ver si lo logran. No, es muy interesante porque efectivamente uno puede hacer. ese tipo de juegos Uno puede hacer ese tipo de juegos, uno puede entrenarle una IA que no sepa nada posterior a 1905 y a ver si, en fin, a ver si es capaz de dar los pasos O, no sé, a mí me intriga mucho darle una IA a todos los datos de Tico Brahe y que derive la ley de Kepler, que es un salto de abstracción, de imaginación también, porque es decir, pero no estaré parado yo en un cuerpo en movimiento y por lo tanto todo lo que veo. De hecho hay un problema mucho más simple que ese, que me intriga hacer, ¿que?…
Francis Villatoro argumenta que cuando una inteligencia artificial alcance su máximo potencial, creará nuevo lenguaje y conceptos, lo cual dificultará el entendimiento.
Habla: Francis VillatoroPalabras #14ia crea nuevo lenguajeinteligencia artificial conceptos nuevosdificultad entendimiento ia villatoro…de lenguaje, sino el chat, está súper podado para que no hable de no sé qué temas, para que use un lenguaje políticamente correcto no sé cuánto, para que no sé qué, no sé cuánto. Está tan podado que al final a la IA le cuesta mucho trabajo comunicar cosas. Entonces, en el momento en el que una IA de verdad haga lo que todos estamos soñando con que haga algún día, en redes sociales cada vez que hace algo todo el mundo dice que ya lo ha hecho. Y digo no señores todavía no lo ha hecho; cuando lo haga lo veremos y los encontraremos con que la IA tendrá que crear lenguaje, tendrá que crear nuevos términos, nuevos conceptos, y eso hará que nos cueste mucho trabajo. Será como esa demostración de Mochizuki que tiene sus dos mil páginas, de las cuales mil páginas son de escribir cosas con nuevos nombres y cuando tú ya has leído mil páginas de nuevos nombres y lo siguiente empieza a usar los nombres que están ahí.…
Héctor Socas expresa cautela sobre las predicciones del futuro de la inteligencia artificial, refiriéndose a comentarios anteriores sobre cómo evolucionarán estas tecnologías.
Habla: Héctor SocasSignificado #7cautela predicciones futuro inteligencia artificialextrapolaciones lineales avance tecnología jose edelsteinpercepción avance rápido últimos años…tal manera que el resultado clave, la demostración va a ser validada por Lean pero en la demostración todas las palabras van a ser completamente nuevas y va a ser absolutamente imposible de entender y me llega un humano a decir, esto no hay quien lo entienda Tengo un par de comentarios sobre estas cosas que hemos estado comentando, que me parecen muy fascinantes. Lo primero, yo pondría una cautela a eso que decía José: de que si en cinco años o en un año, yo pondría una cautela porque estamos todos pensando en cómo va a evolucionar esto a futuro y es como muy impredecible. No creo que tengamos que hacer extrapolaciones lineales de un avance ni en un sentido ni en otro; no asumamos que porque ha estado avanzando muy rápidamente o que tenemos una percepción de avance muy rápido en los últimos años, que realmente de aquí a dos años va a haber un cambio tan radical como el que ha habido de hace dos años para acá. Eso es una Primera cuestión, lo otro respecto a que si se expresan peor o son peores escribiendo o hablando, las guías que comentaba Francis, yo no creo que sea por el tema de que le escapan, porque eso, vamos a ver, el alineamiento lo han tenido siempre y eso no creo…
Ignacio Crespo comenta un anuncio reciente de Antropic sobre el potencial de las inteligencias artificiales para acabar con la humanidad. Aclara que su preocupación radica más en el presente sociopolítico y la falta de legislación al respecto que en el escenario planteado.
Habla: Ignacio CrespoSignificado #3inteligencias artificiales antropic humanidadpreocupación presente sociopolítico legislaciónautomatización futuro inteligencias artificiales…ese gap, que incluso la labor física la realicen máquinas. Están entrenando esto; no es nada del mundo, ya hay algunos procesos concretos que se pueden hacer así, que están implementados así en laboratorios y por supuesto esto llegará a farmacéuticas. Que por cierto, como detalle, hace unas semanas precisamente de Antropic venía este anuncio de en unos años podrían acabar con nosotros las inteligencias artificiales. Y la gente decía: bueno, pero que no tiene manitas, ¿no? ¿Qué va a hacer para sintetizar ahí el virus? Que a mí ya he dicho que no me preocupa ese futuro, me preocupa el presente sociopolítico que hay al respecto y la falta de legislación, pero que no es tan raro; que precisamente estamos yendo en la dirección de automatizar los laboratorios y ponerlos en sus manos. Habría que ver cómo funciona. De todos modos, este laboratorio de Antropic tiene un nivel de bioseguridad 2, que significa que no hay nada, ningún microorganismo con el que puedan trabajar que sea realmente peligroso,…
Ignacio Crespo, continuando una conversación sobre investigaciones y posibles plagios relacionados con la inteligencia artificial, plantea la posibilidad de conflictos futuros entre grupos humanos debido a la apropiación de ideas por parte de la IA.
Habla: Ignacio CrespoSignificado #8apropiación ideas ia grupos humanosconflicto humano inteligencia artificialprioridad robo ideas ia…Han llegado no solo uno, sino otros dos equipos, los dos de la misma forma entre sí, distinto a ellos. Cuando no había ninguna pista de que justo ahora, por ningún motivo debía haber más gente intentando resolver esto que llevaba mucho tiempo planteado. Y ha pasado constantemente. Entonces no me extrañaría que fuera un poco en esta línea. Tenemos que contemplarlo también. Vamos a llegar un momento en que los grupos humanos van a pelearse por la prioridad de quién fue al que la IA le robó la idea. Este es el tema. Sí que diré también una cosa: que se ha indicado que había cosas muy parecidas descubiertas, sí publicadas en paper, porque no es el caso de Mario Rodríguez Mestre; no tenían esta investigación pública de ninguna manera, ni en preprint ni nada, pero sí…
Héctor Socas expresa su preocupación actual por Elon Musk y SpaceX, priorizando esto sobre el tema de los extraterrestres e IA.
Habla: Héctor SocasPalabras #3preocupación hector socas elon muskspacex borja pausa glotalstarlinks cada vez más grandesvuelo orbital starship prueba…Yo lo he visto y está muy bien; me gustó mucho. Además, le dio un toque como político social interesante para pensar. Es que es sobre el tema, exacto, sobre el tema de la política del primer contacto, ¿no? Es un tema que se discute en ámbitos sociológicos más Que científicos. Pero bueno, a mí, más que los extraterrestres, me preocupa Elon Musk en este momento, y más que la IA. Y bueno, ahí está haciendo de la suya con SpaceX, Borja; SpaceX, vamos a decirlo propiamente. SpaceX, la pausa glotal es importante en inglés: SpaceX, y pues si no podemos estar diciendo otra cosa diferente, que está ahí poniendo Starlinks y cada vez más grandes y cada vez más, pero bueno, lo importante es que la prueba esta del vuelo orbital del Starship ha salido bien, ¿no? Y es en medio de todo lo que comentábamos de inteligencias artificiales que se revelan con virus que acaban con la humanidad y señales extraterrestres y cosas así, pues puede ser bastante amable. Pero sí que es verdad que yo, la verdad, es que lo seguí con…
Borja Tosar, influenciado por un comentario recibido en el chat, sugiere que quizás sea necesario releer el libro de Héctor Socas debido a la preocupación sobre el fin del mundo relacionada con la inteligencia artificial.
Habla: Borja TosarSignificado #1 · Palabras #1preocupación fin del mundo iareleer libro hector socaspensamiento fin del mundo…en la atmósfera? Más o menos todos nos hacemos una idea: que generas un aerosol que en un sistema no lineal y complejo, vete tú a saber qué efectos puede tener que descompongas 10.000 satélites de aluminio de forma homogénea por una masa de aire. Entonces, ya volvemos otra vez al pensamiento del fin del mundo; igual tenemos que empezar a releer el libro de Héctor Socas, que es mucho más luminoso y ya empezamos a ver el fin del mundo con la inteligencia artificial. De hecho, sobre el optimismo, creo que el comentario que nos han hecho además por el chat, que nos lo Ha hecho Puppet Master 2501 tiene toda la razón. ¿Que sí?, estamos haciendo énfasis en esa importancia que tiene para dar cobertura a zonas remotas que no tienen internet ahora y que tal vez estén poco pobladas, pero no solo tienen fines militares, sino por…
José Edelstein relata una experiencia moderando una discusión sobre inteligencia artificial en la Universidad Menéndez Pelayo hace tres años, donde planteó preguntas provocadoras al público.
Habla: José EdelsteinPalabras #15candidato presidencial inteligencia artificialdiputado una ia universidad menéndez pelayoopiniones sobre ia diputados registro…especialista y ahí me enteré, por ejemplo, que en Barcelona ya tenían un montón de dependencias públicas que funcionaban mucho con IA, yo ni lo sabía Y en un momento, como de manera provocadora, se me ocurre preguntar al final, para darle lugar al público, Si se admitirían que hubiera un candidato presidencial que fuera una IA y entonces todos, ¿100% que no? No, perdón, me sugirieron esa pregunta. Entonces la hice y todo el mundo respondió que no, pero de repente dije: ¿me permiten hacer una variante de la pregunta? Un escaño, un diputado, que fue una IA. Y ahí ya fue más repartidas. Volvió a ganar el no, pero ya ganó el no, 70-30, 60-40. Me gustaría hacer la pregunta de vuelta hoy, tres años. Después. Un partido minoritario de IA y quizás la IA sea mejor persuadiendo en algún momento en redes sociales y utilizando habilidades igual, de la misma manera que ha demostrado ser mejor que los humanos jugando partidas de ajedrez. Ahora está resolviendo…
Ignacio Crespo interrumpe la conversación para disculparse por haberse olvidado de intervenir previamente y menciona un término llamado 'Superconvicción', aludiendo a una idea relacionada con la inteligencia artificial.
Habla: Ignacio CrespoPalabras #12superconvicción idea inteligencia artificialignacio crea términos nuevos iaia ignacio superconvicción…balancear el sistema de forma que no haya concentraciones de poder. Lo que decía Borja llegará el momento en el que sea muy convincente; esto se habla, si la gente quiere buscar al respecto, es la super convicción. Superconvicción, ya me he olvidado cómo era. Bueno, pues fantástico. ¿Cómo iba a intervenir antes? Me he olvidado en esta rata. Bueno, Superconvicción, lo llamamos y ya está. No, pero luego si me acuerdo lo vuelvo a decir. Es que Ignacio no quiere inventar términos nuevos, es una IA. Es un poco IA, ¿eh? Pero está planteado, está planteado... Yo nunca lo vi en el mundo real, yo no estoy seguro de este... Está planteado esto porque precisamente ya tiene un sesgo de decirnos lo que queremos escuchar. Y si entendemos que hay relaciones entre inputs y outputs, si estudiamos la psicología, sobre todo de una manera conductista, ahí hay teclas que se pueden pulsar…
Héctor Socas se despide de los oyentes al final del programa, anticipando su regreso la semana siguiente y descartando escenarios apocalípticos.
Habla: Héctor SocasPalabras #11despedida héctor socas programaregreso programa semana siguientepronóstico héctor socas fin mundo…venga alguien a robarlas para hacer ingeniería inversa o una cosa de estas, pero yo tengo mis dudas. Bueno, unidades con base de carbono, hay que comer, que es lo que tiene esta biología nuestra; venga. Pues nada chicos, que buen programa ha sido un placer. Como siempre, nos vemos la semana que viene, si quieren. Así es, hasta la semana que viene y si es el fin del mundo, buena suerte. Bueno, no va a ser el fin del mundo, volveremos. Yo pronostico que no va a ser el fin del mundo, lo opuesto. Venga, un abrazo, hasta luego. Venga, chao, chao. Genial. Vale, pues nada, gente, me voy, que me tengo que ir rápido. Hasta luego. Venga, un abrazo. Venga, chao.