Búsqueda · 24 momentos en 8 episodios
Ignacio CrespoBorja TosarJosé EdelsteinIsabel CorderoFrancis VillatoroHéctor Socasia astra resultados preprintconjetura de córnes gruposresultados preliminares revisión por paresrevisión humana de demostraciones astrainteligencia artificial astra openaicorrección de demostraciones en leandemostración conjetura cornes leanmatemático nielsen revisa astra openailean programa ordenador rigor matemático30000 líneas de código leanerrores en antecedentes astra openaidemostraciones matemáticas nielsenconocimiento matemático previo de máquinaserrores en demostración conjetura cornesalucinaciones en código leanpropiedad t grupo icc14000 líneas de código astra openaiLeanconjetura de Cornespropiedad TICCFrancis VillatoroNielsenAstraOpenAIJosé EdelsteinCollardConjetura de CollageHipótesis de Riemann
Errores en demostración conjetura cornes
Ep565: Introgresión; Eclipse; Inestabilidad Kelvin-Helmholtz; Piezoquiralidad
6 de agosto de 20265 momentos
Con
0:000:301:001:302:002:303:003:34
Francis Villatoro continúa explicando los problemas encontrados en las demostraciones generadas por la inteligencia artificial Astra de OpenAI, específicamente en la demostración de la conjetura de Cornes.
…no son un pequeño contraejemplo que va en una página y media o en media página te lo escriben, no son demostraciones bastante más largas. Son demostraciones, no son demostraciones que un humano llamaría especialmente creativas, porque todas están basadas en Resultados recientes, pero recientes, súper recientes; algunas de esas demostraciones utilizan resultados que están en preprint, en archive, que todavía no han pasado por revisión por pares y que todavía nadie sabe si son correctos. La IA ha usado, se ha basado en un resultado que puede que sea correcto o puede que no. Pero aún así son demostraciones espectaculares; incluyen teoremas como la famosa conjetura de córnes sobre grupos o una conjetura también muy famosa sobre un tipo especial de grupos. Entonces, ¿qué pasa con estas demostraciones? Lo que pasa con estas demostraciones es que piden a gritos que humanos formen un grupito de humanos para estudiar en detalle cada una de esas demostraciones en Lean y ver si son correctas o no. ¿Y por qué digo esto? Y digo esto porque es importante porque ayer se publicó. Ya llevaba varios días hablándose del tema. Ya se publicó el documento: un matemático, Nielsen, ha cogido una de esas demostraciones, la demostración de la conjetura de Cornes, y se ha leído las, son, no recuerdo, una barbaridad, 30.000 líneas en Lean, o algo así, una barbaridad de líneas en Lean. Lean es, imagínate un programa de ordenador de 30.000 líneas y te lo tienes que leer con extremo cuidado porque cualquier pequeña desviación de lo que es el rigor matemático invalida automáticamente la prueba. No, pero es que Lean lo ha verificado, no, perdona, Lean lo ha verificado si en un código en Lean. Es muy importante, digamos, darle los antecedentes de la demostración. En una demostración matemática entre humanos, yo asumo que el que lee la demostración ya conoce los antecedentes. Yo me ahorro todo eso, porque ya los conoce. Pero en una demostración hecha por la máquina desde cero, se incluyen esos antecedentes y en esos antecedentes, ese conocimiento matemático conocido, puede haber errores. Y este matemático, Nielsen, ha descubierto. en una de las demostraciones, la de la conjuntura de Cornes que hay dos errores. Corners requiere dos condiciones, la propiedad T, que el grupo sea ICC, y resulta que en el código Lean, donde se definen esas propiedades, se cometen errores. Llámale alucinaciones, llámale como quieras. Hay errores. Entonces, la demostración es automáticamente incorrecta. Pero para leer eso, te has tenido que leer como 14.000 líneas de código para llegar al punto en el que aparece eso. Esto es una labor absolutamente terrible y pesada. ¿Qué matemáticos van a querer hacer eso? Menos mal que lo ha hecho uno con esta demostración y se da vuelta; está volviendo famoso. Y entonces probablemente eso incentive a gente joven que lo haga también. Pero se requiere un enorme conocimiento porque son…
Significado #1 · Palabras #1
Francis Villatoro describe cómo OpenAI ha contratado a matemáticos para buscar y demostrar conjeturas famosas utilizando una inteligencia artificial llamada Astra.
Habla: Francis VillatoroPalabras #9openai contrata matemáticos astrademostración formalizada lenguaje leandocumento sin intervención humana…con José. Bueno, la gran noticia en matemáticas de las últimas semanas es el último hito de OpenAI, de la compañía responsable de CharGPT, con una inteligencia artificial de laboratorio que se llama Astra y que todo el mundo cree que va a ser CharGPT 6.0. OpenAI ha hecho algo realmente sorprendente: ha contratado muchos matemáticos y ha puesto un grupo de matemáticos a buscar conjeturas famosas y a demostrarlas con esta inteligencia artificial. Esta tecnología artificial no ha ofrecido una demostración legible para un matemático, sino que ha ofrecido una demostración formalizada en un lenguaje de demostración automática que se llama LEAN. LEAN esas demostraciones en LEAN han sido validadas y verificadas en LEAN, con lo que son demostraciones en principio correctas, entre comillas; y OpenAI anunció que lo había logrado y unos días más tarde presentó un documento escrito por este chat GPT 6.0, por Astra, de 249 páginas con una descripción para humanos de las 10 demostraciones. Son dos resultados bastante importantes. El problema es que ese documento no ha sido tocado por manos humanas. Es un documento difícil de leer. Yo lo he intentado. Yo he intentado leer esas 241 páginas y algunas demostraciones son muy técnicas. Son las mejores demostraciones que han hecho una inteligencia artificial hasta el momento. Estamos hablando de demostraciones…
Francis Villatoro continúa explicando los problemas encontrados en las demostraciones generadas por la inteligencia artificial Astra de OpenAI, específicamente en la demostración de la conjetura de Cornes.
Habla: Francis VillatoroSignificado #1 · Palabras #1ia astra resultados preprintconjetura de córnes gruposresultados preliminares revisión por paresrevisión humana de demostraciones astrainteligencia artificial astra openaicorrección de demostraciones en leandemostración conjetura cornes leanmatemático nielsen revisa astra openailean programa ordenador rigor matemático30000 líneas de código leanerrores en antecedentes astra openaidemostraciones matemáticas nielsenconocimiento matemático previo de máquinaserrores en demostración conjetura cornesalucinaciones en código leanpropiedad t grupo icc14000 líneas de código astra openai…no son un pequeño contraejemplo que va en una página y media o en media página te lo escriben, no son demostraciones bastante más largas. Son demostraciones, no son demostraciones que un humano llamaría especialmente creativas, porque todas están basadas en Resultados recientes, pero recientes, súper recientes; algunas de esas demostraciones utilizan resultados que están en preprint, en archive, que todavía no han pasado por revisión por pares y que todavía nadie sabe si son correctos. La IA ha usado, se ha basado en un resultado que puede que sea correcto o puede que no. Pero aún así son demostraciones espectaculares; incluyen teoremas como la famosa conjetura de córnes sobre grupos o una conjetura también muy famosa sobre un tipo especial de grupos. Entonces, ¿qué pasa con estas demostraciones? Lo que pasa con estas demostraciones es que piden a gritos que humanos formen un grupito de humanos para estudiar en detalle cada una de esas demostraciones en Lean y ver si son correctas o no. ¿Y por qué digo esto? Y digo esto porque es importante porque ayer se publicó. Ya llevaba varios días hablándose del tema. Ya se publicó el documento: un matemático, Nielsen, ha cogido una de esas demostraciones, la demostración de la conjetura de Cornes, y se ha leído las, son, no recuerdo, una barbaridad, 30.000 líneas en Lean, o algo así, una barbaridad de líneas en Lean. Lean es, imagínate un programa de ordenador de 30.000 líneas y te lo tienes que leer con extremo cuidado porque cualquier pequeña desviación de lo que es el rigor matemático invalida automáticamente la prueba. No, pero es que Lean lo ha verificado, no, perdona, Lean lo ha verificado si en un código en Lean. Es muy importante, digamos, darle los antecedentes de la demostración. En una demostración matemática entre humanos, yo asumo que el que lee la demostración ya conoce los antecedentes. Yo me ahorro todo eso, porque ya los conoce. Pero en una demostración hecha por la máquina desde cero, se incluyen esos antecedentes y en esos antecedentes, ese conocimiento matemático conocido, puede haber errores. Y este matemático, Nielsen, ha descubierto. en una de las demostraciones, la de la conjuntura de Cornes que hay dos errores. Corners requiere dos condiciones, la propiedad T, que el grupo sea ICC, y resulta que en el código Lean, donde se definen esas propiedades, se cometen errores. Llámale alucinaciones, llámale como quieras. Hay errores. Entonces, la demostración es automáticamente incorrecta. Pero para leer eso, te has tenido que leer como 14.000 líneas de código para llegar al punto en el que aparece eso. Esto es una labor absolutamente terrible y pesada. ¿Qué matemáticos van a querer hacer eso? Menos mal que lo ha hecho uno con esta demostración y se da vuelta; está volviendo famoso. Y entonces probablemente eso incentive a gente joven que lo haga también. Pero se requiere un enorme conocimiento porque son…
Francis Villatoro explica cómo los matemáticos expertos dedican años a detallar el funcionamiento de las demostraciones complejas, destacando que es un proceso sinuoso pero con una lógica clara.
Habla: Francis VillatoroSignificado #16demostraciones complejas expertos matemáticoslógica clara en demostraciones sinuosasatajos imposibles en demostracionesguías matemáticas carecen de conciencia…pueda incorporar esa demostración. Esa parte de asimilación y de incorporación de la demostración al común conocimiento matemático de esa área es mucho más importante que la propia demostración. Y eso es lo que los matemáticos han estado haciendo. De las grandes demostraciones, los grandes matemáticos se tiran años contando cómo funciona la demostración, los detalles, porque la demostración es un camino muchas veces sin trabas. es un camino perfectamente, muy sinuoso, dando mucha vuelta, pero perfectamente llega al final y todo el mundo se puede decir, ¿y por qué aquí no tomaste un atajo? Ah, no, porque no funciona, porque pasa tal y cual y cual, eso se lo puede contar el que lo ha hecho pero las guías no pueden, porque las guías no saben lo que han hecho, no son conscientes de lo que han hecho han producido un código link, dice, no, bueno, no puedo hacerlo porque no se puede hacer, punto pelota ¿Por qué no? Pues yo creo que cuando jugaba al Go, AlphaGo o AlphaCero, que aprendió sola. Bueno, es que yo he evaluado la partida y el lugar donde hay que poner una pieza es aquí. Aquí tengo que poner una piedra. ¿Y por qué? No, no, porque lo he evaluado y hay que…
Tras describir un error intencionado en una demostración matemática, Francis Villatoro sugiere la posibilidad de utilizar inteligencias artificiales para identificar fallos en sistemas como Lean.
Habla: Héctor SocasSignificado #5 · Palabras #18ia explota fallo en núcleo leanhipótesis de riemann demostrada por iademostración falsa con 3000 líneas linnexperto descubre error en leandemostración por existencia collardfallo lógico inteligencia artificial villatoronúmeros crecen demostración collageia detectando fallos en leandemostración falsa con iafrancis villatoro y sistemas lean…el disfrute de aprender cosas. Cuando estás leyendo una demostración se destruye cuando lo que estás estudiando es un código informático, sea verificable o no; y permíteme, estoy hablando de una barbaridad, pero permíteme un punto final y ya acabo. Se encontró hay bugs, hay errores en el núcleo de Lean, como en cualquier programa informático. El núcleo de Lean no es muy grande, no son muchas líneas de código, son unas miles de líneas de código. Se ha encontrado un error y resulta que una IA aprovechó ese error para demostrar que falso es verdadero. La IA es capaz de demostrar cualquier cosa; tú le dices: la hipótesis de Riemann, te la he demostrado, aquí está demostrado, 3000 líneas de Linn, ahí está la demostración pasa las líneas. La primera línea pone la definición de la hipótesis de Riemann, y la última línea, correcto, pero estás aprovechando un error que te permite eso lo descubrió el experto; se descubrió el experto y el experto pidió a una IA que construyera una demostración de la Conjetura de Collage, una lectura muy famosa, muy conocida; vas haciendo unas operaciones: dividir por dos, multiplicar por tres y hace que los números crezcan y después de crezcan y llegan, acaban en uno. Entonces, por existencia, una demostración por existencia, pues es una demostración que en un cierto momento decía falso, verdadero, y a partir de aquí cualquier cosa es verdadera, por ejemplo, la fuente de Collard. Claro, eso fue intencionado. Eso se arregló en dos o tres días, dos días y medio, y ya ese error no está, pero puede haber errores en los demostradores automáticos. Eso me hace pensar que quizás se puede aprovechar; le puedes pedir a una IA que te demuestre algo que sabes que es falso y si te lo demuestra, te puede servir para encontrar errores en Lean, por ejemplo, en el código que sea que estás usando. Sí, de hecho las guías están usando para detectar bugs en código y se está aplicando también ese tipo de cosas, ¿no? El núcleo de Lean se suponía que estaba certificado matemáticamente de que era correcto y ha tenido un error absolutamente terrible; de hecho…
José Edelstein se ofrece a comentar sobre un tema previo relacionado con demostraciones matemáticas y su verificación, sugiriendo una estrategia para identificar errores en las demostraciones generadas.
Habla: José EdelsteinSignificado #3demostraciones matemáticas generadaserror en demostraciones josé edelsteinverificación de demostraciones matemáticas…y vas diciendo que maravilla, que bien fluye esto, que bien razonado está esto, aunque no te enteres. Hay un disfrute de esa poesía matemática y en este documento de 241 páginas esas 10 demostraciones no las hay, entonces es muy aburrido, cuesta muchísimo. Vamos a ir con más preguntas, entonces, y quedaba José que tenías que hablar de la cena y escuchar la legislativa. ¿Que no sé si quieres contestarla o prefieres pasar? José, puedo decir algo brevemente respecto a lo anterior; lo ideal sería cuando te tira la demostración le dices, pero si está mal, porque uno ya sabe que te va a responder. Es cierto, está mal. Busca el error. Claro, a ver, quiero hacer una reflexión primero sobre el papel del crítico. Yo no soy muy amigo del que uno está acostumbrado normalmente al crítico de cine; quizás la figura más usual. Creo que nunca he encontrado a alguien que me simpatice con ese oficio,…