Búsqueda · 27 momentos en 13 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosarkasparov programa informáticohito científico kasparovia idea comprensibledivulgación ia comprensibleia ramanujan explicación procesosinteligencia artificial caja negraintuición matemática inteligencia artificialjustificación razonamientos inteligencia artificialia soluciones verificables jose edelsteinconstatación inteligencia artificial coffee breakritmo ia menos de un añoKasparovFrancisJosé EdelsteinIgnacio CrespoSuperconvicciónBorja TosarRamanujanFrancis VillatoroAnthropicpropiedad FilipónCoffee BreakHéctor Socas
Ia idea comprensible
Con
0:000:301:001:302:002:303:003:25
José Edelstein compara un hito científico con la derrota del jugador de ajedrez Kasparov contra un programa informático, señalando que a veces los avances son tan inesperados que incluso su resultado puede ser difícil de comprender.
…lo tengo que mirar puede ser tremendamente complejo. Yo creo que sí es un hito, pero no es un hitito, no sé, hay que poner un nombre, o sea, es un hito igual que la primera vez que un... Hitita es otra cosa Sí, es cierto, estamos convocando a Nefero y muchos Digo, es un hito como cuando un jugador profesional de ajedrez perdió con un programa informático; cuando perdió Kasparov con un programa informático. O sea, son claramente momentos que uno podría, antes de que ocurran, pensar que nunca van a ocurrir y bueno, ante el momento en el cual ocurrieron, evidentemente es un hito; no es un hito de las dimensiones que Francis plantea, o sea, no es que una IA tuvo una idea que de hecho, el día que ocurra eso, incluso nos va a costar entender qué hizo exactamente; o sea, nosotros podemos verificar el resultado y quizás no entendemos lo que hizo, y ojalá que la IA sea, se le pueda explicarlo de manera comprensible, que sea buena en divulgación también la IA. Una cosa, perdonad, pero ahora que ha salido el tema, ¿no? Y creo que no lo sacamos cuando hablamos de la aplicación de la inteligencia artificial a las matemáticas. Me parecería muy interesante descubrir que a medida que vaya avanzando y sea capaz de resolver cosas, no aumente su capacidad para explicarnos lo que está haciendo. Imagínate que el tipo de genio en el que se convierte la inteligencia artificial es un Ramanujan, que no te demuestra las cosas, que es a través de una especie de intuición, porque es una caja negra, porque nosotros justificamos a posteriori nuestros razonamientos a veces sin tener nada que ver con los verdaderos motivos y vaya por ese camino. Me parece que sería muy interesante y muy frustrante. Yo creo que va a pasar eso, con algunos problemas va a pasar eso. La IA va a llegar a una solución que podremos saber que es correcta, podremos constatarla por medio de constatación; no es lo mismo eso que llegar a algo que ver los pasos intermedios. Entonces yo creo que eso va a pasar con, no sé, me sorprendería mucho dentro de 5 años en Coffee Break, que los oyentes acuerden apunten la hora para preguntarnos si no ha pasado. Y yo creo que va a pasar en mucho menos tiempo, porque el ritmo al que va esto será menos de un año. Sí, fijaros una cosa que tenemos los investigadores de las últimas décadas, como incluso antes, muy asumido y es que si descubrimos algo que creemos que es interesante, tenemos que acuñar un nuevo término. Y si os fijáis en la mayor parte del trabajo que se…
Significado #1 · Palabras #1
Francis Villatoro describe cómo, a finales de agosto o principios de septiembre, alguien en Antropic tuvo una idea para resolver problemas científicos.
Habla: Francis VillatoroSignificado #17idea científica antropet agosto septiembreinteligencia artificial antropet no privadauso general inteligencia artificial…cuatro supersimetrías y después también propuso como cosa alternativa para la teoría con ocho supersimetrías calcular a, que son seis lazos, porque estaba solo calculado hasta cinco Entonces propuso esos dos problemas y los dejó caer, porque no quiere la cosa Y de repente, a finales de agosto, a principios de septiembre, a alguien en Anthropet, pues se le ocurre la idea desde la compañía Pero no usando una inteligencia artificial privada de la compañía, no una inteligencia artificial que está en desarrollo Sino usando lo que cualquiera de nosotros podría haber usado Lo único que pasa es que con una cuenta bancaria ilimitada en dinero. La idea de Von Hippel, de Matt, era que se gastara el menos dinero posible; el problema que él proponía es que se van a gastar millones de euros. Con esas reglas se decidió utilizar las…
José Edelstein retoma una idea expresada por Francis Villatoro sobre cómo analizar las soluciones propuestas por una inteligencia artificial.
Habla: José EdelsteinSignificado #9 · Palabras #9análisis soluciones inteligencia artificialtécnicas de ia en la literaturafrancis villatoro sobre análisis ia…un montón de cosas que hacen que la teoría sea tremendamente compleja. Lo que pasa es trivial comparada con el modelo estándar, digamos, pero la teoría es muy compleja, muy bonita, por sus simetrías también. Se me fue de la cabeza lo que quería comentar. Ah, no, sí, una cosa que te escuché, Francis, que está muy bien, que quiero remarcar, es que una vez que la IA lo resolvió, uno puede ver cómo lo resolvió y claro, ahí estaba un poco el momento muy relevante porque si todo lo que hizo la IA lo entiendo, que es lo que al final ocurrió, que es lo que dice Francis, que lo que usó fue técnicas que estaban en la literatura y mostró que no había que introducir ningún concepto nuevo, bueno, en parte bien, en parte hubiera sido mucho más bonito. Que la IA en algún momento ya tenga que dar un salto que nadie ha dado todavía. Y todavía ese salto podría ser un salto técnico y de no demasiada creatividad o completamente creativo. Entonces, sí, por supuesto cabe la duda de en qué medida una IA puede dar…
José Edelstein compara un hito científico con la derrota del jugador de ajedrez Kasparov contra un programa informático, señalando que a veces los avances son tan inesperados que incluso su resultado puede ser difícil de comprender.
Habla: José EdelsteinSignificado #1 · Palabras #1kasparov programa informáticohito científico kasparovia idea comprensibledivulgación ia comprensibleia ramanujan explicación procesosinteligencia artificial caja negraintuición matemática inteligencia artificialjustificación razonamientos inteligencia artificialia soluciones verificables jose edelsteinconstatación inteligencia artificial coffee breakritmo ia menos de un año…lo tengo que mirar puede ser tremendamente complejo. Yo creo que sí es un hito, pero no es un hitito, no sé, hay que poner un nombre, o sea, es un hito igual que la primera vez que un... Hitita es otra cosa Sí, es cierto, estamos convocando a Nefero y muchos Digo, es un hito como cuando un jugador profesional de ajedrez perdió con un programa informático; cuando perdió Kasparov con un programa informático. O sea, son claramente momentos que uno podría, antes de que ocurran, pensar que nunca van a ocurrir y bueno, ante el momento en el cual ocurrieron, evidentemente es un hito; no es un hito de las dimensiones que Francis plantea, o sea, no es que una IA tuvo una idea que de hecho, el día que ocurra eso, incluso nos va a costar entender qué hizo exactamente; o sea, nosotros podemos verificar el resultado y quizás no entendemos lo que hizo, y ojalá que la IA sea, se le pueda explicarlo de manera comprensible, que sea buena en divulgación también la IA. Una cosa, perdonad, pero ahora que ha salido el tema, ¿no? Y creo que no lo sacamos cuando hablamos de la aplicación de la inteligencia artificial a las matemáticas. Me parecería muy interesante descubrir que a medida que vaya avanzando y sea capaz de resolver cosas, no aumente su capacidad para explicarnos lo que está haciendo. Imagínate que el tipo de genio en el que se convierte la inteligencia artificial es un Ramanujan, que no te demuestra las cosas, que es a través de una especie de intuición, porque es una caja negra, porque nosotros justificamos a posteriori nuestros razonamientos a veces sin tener nada que ver con los verdaderos motivos y vaya por ese camino. Me parece que sería muy interesante y muy frustrante. Yo creo que va a pasar eso, con algunos problemas va a pasar eso. La IA va a llegar a una solución que podremos saber que es correcta, podremos constatarla por medio de constatación; no es lo mismo eso que llegar a algo que ver los pasos intermedios. Entonces yo creo que eso va a pasar con, no sé, me sorprendería mucho dentro de 5 años en Coffee Break, que los oyentes acuerden apunten la hora para preguntarnos si no ha pasado. Y yo creo que va a pasar en mucho menos tiempo, porque el ritmo al que va esto será menos de un año. Sí, fijaros una cosa que tenemos los investigadores de las últimas décadas, como incluso antes, muy asumido y es que si descubrimos algo que creemos que es interesante, tenemos que acuñar un nuevo término. Y si os fijáis en la mayor parte del trabajo que se…
Francis Villatoro explica que las inteligencias artificiales muestran una gran reticencia a crear nuevos conceptos o asignarles nombres.
Habla: Francis VillatoroSignificado #13ia reticencia crear conceptos nuevospropiedad filipón inteligencia artificialsalto concepto propiedad filipón…demasiado pequeña; no merece un mes. O sea, la IA está constantemente queriendo no crear, ni siquiera nombres nuevos. Cuando tengamos un resultado en el que la IA use cosas que no tienen nombre, porque ahora mismo la IA siempre está usando cosas con nombre. Tiene un extremado miedo a construir cosas nuevas o a dar nombres nuevos. Cuando empiece a crear cosas con nuevos nombres y nos diga la IA: "Estoy usando la propiedad Filipón", y tú digas: "Pero, ¿y qué es la propiedad Filipón?", todo el mundo sabe cuál es; es esta. Y tú vas a decir: "Bueno, ese salto". Una de las cuestiones que ahora se está trabajando mucho, porque hay muchas críticas a la manera en la que escribe la IA. Hay gente incluso que ha llegado a decir que la IA está yendo para atrás, que ahora escribe mucho peor de lo que escribía hace dos años.…
Francis Villatoro argumenta que cuando una inteligencia artificial alcance su máximo potencial, creará nuevo lenguaje y conceptos, lo cual dificultará el entendimiento.
Habla: Francis VillatoroSignificado #7ia crea nuevo lenguajeinteligencia artificial conceptos nuevosdificultad entendimiento ia villatoro…de lenguaje, sino el chat, está súper podado para que no hable de no sé qué temas, para que use un lenguaje políticamente correcto no sé cuánto, para que no sé qué, no sé cuánto. Está tan podado que al final a la IA le cuesta mucho trabajo comunicar cosas. Entonces, en el momento en el que una IA de verdad haga lo que todos estamos soñando con que haga algún día, en redes sociales cada vez que hace algo todo el mundo dice que ya lo ha hecho. Y digo no señores todavía no lo ha hecho; cuando lo haga lo veremos y los encontraremos con que la IA tendrá que crear lenguaje, tendrá que crear nuevos términos, nuevos conceptos, y eso hará que nos cueste mucho trabajo. Será como esa demostración de Mochizuki que tiene sus dos mil páginas, de las cuales mil páginas son de escribir cosas con nuevos nombres y cuando tú ya has leído mil páginas de nuevos nombres y lo siguiente empieza a usar los nombres que están ahí.…
Ignacio Crespo, continuando una conversación sobre investigaciones y posibles plagios relacionados con la inteligencia artificial, plantea la posibilidad de conflictos futuros entre grupos humanos debido a la apropiación de ideas por parte de la IA.
Habla: Ignacio CrespoSignificado #8 · Palabras #5apropiación ideas ia grupos humanosconflicto humano inteligencia artificialprioridad robo ideas ia…Han llegado no solo uno, sino otros dos equipos, los dos de la misma forma entre sí, distinto a ellos. Cuando no había ninguna pista de que justo ahora, por ningún motivo debía haber más gente intentando resolver esto que llevaba mucho tiempo planteado. Y ha pasado constantemente. Entonces no me extrañaría que fuera un poco en esta línea. Tenemos que contemplarlo también. Vamos a llegar un momento en que los grupos humanos van a pelearse por la prioridad de quién fue al que la IA le robó la idea. Este es el tema. Sí que diré también una cosa: que se ha indicado que había cosas muy parecidas descubiertas, sí publicadas en paper, porque no es el caso de Mario Rodríguez Mestre; no tenían esta investigación pública de ninguna manera, ni en preprint ni nada, pero sí…
Francis Villatoro relata una experiencia personal sobre cómo una inteligencia artificial le alertó sobre la publicación de un artículo similar a uno en el que estaba trabajando, después de haber utilizado IA para generar ideas.
Habla: Francis VillatoroSignificado #11 · Palabras #6ia alerta sobre plagio artículoideas con ia en junio juliopublicación similar agosto villatoropaper de francisco villatoro…a todos los oyentes es que toda persona que use el chat de Anthropic firma, de manera explícita, lo firma, pinchando en el botón de usar Anthropic y lo mismo que no tenía ahí, que cualquier cosa que escriba puede ser usada en el entrenamiento de futuras IAS. Entonces, si tú lo firmas y tú das el visto bueno y dices: yo uso esta tecnología a sabiendas de eso, lo que no tiene sentido es que en el momento que descubras que alguien te ha plagiado un paper, porque a mí me ha llegado a ocurrir. O sea, ideas que yo he trabajado en junio, julio con IA, de repente, llegado septiembre, quería ponerme ya a escribir el paper de lo que estoy haciendo, me dice la IA: es que se ha publicado a finales de agosto un artículo que hace más o menos lo mismo que tú y lo que tú ya has hecho ya. No se puede publicar porque ya está publicado, digo: vale, pues puede ser por casualidad o puede que no sea por casualidad, pero yo no puedo decir nada, ¿vale? Porque yo he firmado que eso puede pasar. Y esto no es solamente que te haya ayudado con el proceso…
Héctor Socas propone cerrar el programa 'Coffee Break' con una reflexión sobre la dirección de un país por parte de una inteligencia artificial.
Habla: Héctor SocasPalabras #17ia dirigiendo un paísreflexión coffee break héctor socasconfianza en humanos…para eso preferiría que hubiera un diputado por cada partido, se reúne con sus asesores y luego pues que haya cinco personas discutiendo, o ocho de las que que sean de los partidos. En ese sentido prefiero que un escaño tenga, o más de uno, tenga una IA. Yo voy a decir una cosa: voy a decir como cerrar un Coffee Break, queridos unidos con base de calfón. A mí no me gusta la idea de una IA dirigiendo un país, el problema es que me gusta menos cualquier humano haciendo eso mismo. Bueno, hay humanos y humanos; yo tengo algo de confianza. Sí, sí, y luego queremos comparar uno a uno, podemos. Hablar de repartir el poder, de que esté, además, tripartito, podemos hablar de muchas cosas ahí. La clave es eso: los controles, los contrapesos y la forma de balancear el sistema de forma que no haya concentraciones de poder. Lo que decía Borja llegará el…
Ignacio Crespo interrumpe la conversación para disculparse por haberse olvidado de intervenir previamente y menciona un término llamado 'Superconvicción', aludiendo a una idea relacionada con la inteligencia artificial.
Habla: Ignacio CrespoSignificado #5 · Palabras #8superconvicción idea inteligencia artificialignacio crea términos nuevos iaia ignacio superconvicción…balancear el sistema de forma que no haya concentraciones de poder. Lo que decía Borja llegará el momento en el que sea muy convincente; esto se habla, si la gente quiere buscar al respecto, es la super convicción. Superconvicción, ya me he olvidado cómo era. Bueno, pues fantástico. ¿Cómo iba a intervenir antes? Me he olvidado en esta rata. Bueno, Superconvicción, lo llamamos y ya está. No, pero luego si me acuerdo lo vuelvo a decir. Es que Ignacio no quiere inventar términos nuevos, es una IA. Es un poco IA, ¿eh? Pero está planteado, está planteado... Yo nunca lo vi en el mundo real, yo no estoy seguro de este... Está planteado esto porque precisamente ya tiene un sesgo de decirnos lo que queremos escuchar. Y si entendemos que hay relaciones entre inputs y outputs, si estudiamos la psicología, sobre todo de una manera conductista, ahí hay teclas que se pueden pulsar…