Búsqueda · 20 momentos en 11 episodios
Ignacio CrespoBorja TosarJosé EdelsteinIsabel CorderoFrancis VillatoroHéctor Socasdemostraciones lean problemas openaiinteligencia artificial astra openaihito openai compañía chargptopenai contrata matemáticos astrademostración formalizada lenguaje leandocumento sin intervención humanainteligencia artificial openai astradocumento difícil lectura astraia astra resultados preprintconjetura de córnes gruposresultados preliminares revisión por paresrevisión humana de demostraciones astracorrección de demostraciones en leandemostración conjetura cornes leanmatemático nielsen revisa astra openailean programa ordenador rigor matemático30000 líneas de código leanerrores en antecedentes astra openaidemostraciones matemáticas nielsenconocimiento matemático previo de máquinaserrores en demostración conjetura cornesalucinaciones en código leanpropiedad t grupo icc14000 líneas de código astra openaidemostraciones inteligencia artificial astracomplejidad técnica demostraciones openaiconocimiento requerido demostraciones astraLeanFrancis VillatoroAstraOpenAICornesGPT 6.0AristótelesNielsenCharGPTJoséconjetura de Cornespropiedad TICCGPTGeminiClodas
Revisión humana de demostraciones Astra
Ep565: Introgresión; Eclipse; Inestabilidad Kelvin-Helmholtz; Piezoquiralidad
6 de agosto de 20263 momentos
Con
0:000:301:001:302:002:303:003:34
Francis Villatoro reflexiona sobre las demostraciones generadas por la inteligencia artificial Astra de OpenAI, enfatizando la necesidad de que un grupo de expertos revise minuciosamente cada una para verificar su corrección.
…a la Francis, luego puso a Isa, y no sé por qué, a ellos en particular, pero les pregunta por su opinión honesta sobre las charlas de divulgación de Maldacena Hombre, ya he puesto historia, pero le pregunto a José, que es aquí quien tiene más relación Y luego hay una segunda parte de la pregunta que es diferente, que es si logra encontrar traducción de las demostraciones de Lean sobre los 10 problemas OpenAI; no sé muy bien a qué se refiere, no sé si alguno se sabe. Comento yo eso segundo y después pasamos a Maldasena con José. Bueno, la gran noticia en matemáticas de las últimas semanas es el último hito de OpenAI, de la compañía responsable de CharGPT, con una inteligencia artificial de laboratorio que se llama Astra y que todo el mundo cree que va a ser CharGPT 6.0. OpenAI ha hecho algo realmente sorprendente: ha contratado muchos matemáticos y ha puesto un grupo de matemáticos a buscar conjeturas famosas y a demostrarlas con esta inteligencia artificial. Esta tecnología artificial no ha ofrecido una demostración legible para un matemático, sino que ha ofrecido una demostración formalizada en un lenguaje de demostración automática que se llama LEAN. LEAN esas demostraciones en LEAN han sido validadas y verificadas en LEAN, con lo que son demostraciones en principio correctas, entre comillas; y OpenAI anunció que lo había logrado y unos días más tarde presentó un documento escrito por este chat GPT 6.0, por Astra, de 249 páginas con una descripción para humanos de las 10 demostraciones. Son dos resultados bastante importantes. El problema es que ese documento no ha sido tocado por manos humanas. Es un documento difícil de leer. Yo lo he intentado. Yo he intentado leer esas 241 páginas y algunas demostraciones son muy técnicas. Son las mejores demostraciones que han hecho una inteligencia artificial hasta el momento. Estamos hablando de demostraciones de entre 10 y 20 páginas. Pues, hasta ahora las demostraciones eran mucho más cortas; no son un pequeño contraejemplo que va en una página y media o en media página te lo escriben, no son demostraciones bastante más largas. Son demostraciones, no son demostraciones que un humano llamaría especialmente creativas, porque todas están basadas en Resultados recientes, pero recientes, súper recientes; algunas de esas demostraciones utilizan resultados que están en preprint, en archive, que todavía no han pasado por revisión por pares y que todavía nadie sabe si son correctos. La IA ha usado, se ha basado en un resultado que puede que sea correcto o puede que no. Pero aún así son demostraciones espectaculares; incluyen teoremas como la famosa conjetura de córnes sobre grupos o una conjetura también muy famosa sobre un tipo especial de grupos. Entonces, ¿qué pasa con estas demostraciones? Lo que pasa con estas demostraciones es que piden a gritos que humanos formen un grupito de humanos para estudiar en detalle cada una de esas demostraciones en Lean y ver si son correctas o no. ¿Y por qué digo esto? Y digo esto porque es importante porque ayer se publicó. Ya llevaba varios días hablándose del tema. Ya se publicó el documento: un matemático, Nielsen, ha cogido una de esas demostraciones, la demostración de la conjetura de Cornes, y se ha leído las, son, no recuerdo, una barbaridad, 30.000 líneas en Lean, o algo así, una barbaridad de líneas en Lean. Lean es, imagínate un programa de ordenador de 30.000 líneas y te lo tienes que leer con extremo cuidado porque cualquier pequeña desviación de lo que es el rigor matemático invalida automáticamente la prueba. No, pero es que Lean lo ha verificado, no, perdona, Lean lo ha verificado si en un código en Lean. Es muy importante, digamos, darle los antecedentes de la demostración. En una demostración matemática entre humanos, yo asumo que el que lee la demostración ya conoce los antecedentes. Yo me ahorro todo eso, porque ya los conoce. Pero en una demostración hecha por la máquina desde cero, se incluyen esos antecedentes y en esos antecedentes, ese conocimiento matemático conocido, puede haber errores. Y este matemático, Nielsen, ha descubierto. en una de las demostraciones, la de la conjuntura de Cornes que hay dos errores. Corners requiere dos condiciones, la propiedad T, que el grupo sea ICC, y resulta que en el código Lean, donde se definen esas propiedades, se cometen errores. Llámale alucinaciones, llámale como quieras. Hay errores. Entonces, la demostración es automáticamente incorrecta. Pero para leer eso, te has tenido que leer como 14.000 líneas de código para llegar al punto en el que aparece eso. Esto es una labor absolutamente terrible y pesada. ¿Qué matemáticos van a querer hacer eso? Menos mal que lo ha hecho uno con esta demostración y se da vuelta; está volviendo famoso. Y entonces probablemente eso incentive a gente joven que lo haga también. Pero se requiere un enorme conocimiento porque son demostraciones muy técnicas. Este es el gran problema que tenemos ahora mismo, como Esto se popularice y se está empezando a popularizar, ya está empezando a haber gente que está diciendo: No, no, no, no, yo no quiero que Charles G.P.T. me explique la demostración, porque yo no tengo ni zorrea, no lo voy a entender, quiero que me genere el…
Significado #1 · Palabras #1
Francis Villatoro reflexiona sobre las demostraciones generadas por la inteligencia artificial Astra de OpenAI, enfatizando la necesidad de que un grupo de expertos revise minuciosamente cada una para verificar su corrección.
Habla: Francis VillatoroSignificado #1 · Palabras #1demostraciones lean problemas openaiinteligencia artificial astra openaihito openai compañía chargptopenai contrata matemáticos astrademostración formalizada lenguaje leandocumento sin intervención humanainteligencia artificial openai astradocumento difícil lectura astraia astra resultados preprintconjetura de córnes gruposresultados preliminares revisión por paresrevisión humana de demostraciones astracorrección de demostraciones en leandemostración conjetura cornes leanmatemático nielsen revisa astra openailean programa ordenador rigor matemático30000 líneas de código leanerrores en antecedentes astra openaidemostraciones matemáticas nielsenconocimiento matemático previo de máquinaserrores en demostración conjetura cornesalucinaciones en código leanpropiedad t grupo icc14000 líneas de código astra openaidemostraciones inteligencia artificial astracomplejidad técnica demostraciones openaiconocimiento requerido demostraciones astra…a la Francis, luego puso a Isa, y no sé por qué, a ellos en particular, pero les pregunta por su opinión honesta sobre las charlas de divulgación de Maldacena Hombre, ya he puesto historia, pero le pregunto a José, que es aquí quien tiene más relación Y luego hay una segunda parte de la pregunta que es diferente, que es si logra encontrar traducción de las demostraciones de Lean sobre los 10 problemas OpenAI; no sé muy bien a qué se refiere, no sé si alguno se sabe. Comento yo eso segundo y después pasamos a Maldasena con José. Bueno, la gran noticia en matemáticas de las últimas semanas es el último hito de OpenAI, de la compañía responsable de CharGPT, con una inteligencia artificial de laboratorio que se llama Astra y que todo el mundo cree que va a ser CharGPT 6.0. OpenAI ha hecho algo realmente sorprendente: ha contratado muchos matemáticos y ha puesto un grupo de matemáticos a buscar conjeturas famosas y a demostrarlas con esta inteligencia artificial. Esta tecnología artificial no ha ofrecido una demostración legible para un matemático, sino que ha ofrecido una demostración formalizada en un lenguaje de demostración automática que se llama LEAN. LEAN esas demostraciones en LEAN han sido validadas y verificadas en LEAN, con lo que son demostraciones en principio correctas, entre comillas; y OpenAI anunció que lo había logrado y unos días más tarde presentó un documento escrito por este chat GPT 6.0, por Astra, de 249 páginas con una descripción para humanos de las 10 demostraciones. Son dos resultados bastante importantes. El problema es que ese documento no ha sido tocado por manos humanas. Es un documento difícil de leer. Yo lo he intentado. Yo he intentado leer esas 241 páginas y algunas demostraciones son muy técnicas. Son las mejores demostraciones que han hecho una inteligencia artificial hasta el momento. Estamos hablando de demostraciones de entre 10 y 20 páginas. Pues, hasta ahora las demostraciones eran mucho más cortas; no son un pequeño contraejemplo que va en una página y media o en media página te lo escriben, no son demostraciones bastante más largas. Son demostraciones, no son demostraciones que un humano llamaría especialmente creativas, porque todas están basadas en Resultados recientes, pero recientes, súper recientes; algunas de esas demostraciones utilizan resultados que están en preprint, en archive, que todavía no han pasado por revisión por pares y que todavía nadie sabe si son correctos. La IA ha usado, se ha basado en un resultado que puede que sea correcto o puede que no. Pero aún así son demostraciones espectaculares; incluyen teoremas como la famosa conjetura de córnes sobre grupos o una conjetura también muy famosa sobre un tipo especial de grupos. Entonces, ¿qué pasa con estas demostraciones? Lo que pasa con estas demostraciones es que piden a gritos que humanos formen un grupito de humanos para estudiar en detalle cada una de esas demostraciones en Lean y ver si son correctas o no. ¿Y por qué digo esto? Y digo esto porque es importante porque ayer se publicó. Ya llevaba varios días hablándose del tema. Ya se publicó el documento: un matemático, Nielsen, ha cogido una de esas demostraciones, la demostración de la conjetura de Cornes, y se ha leído las, son, no recuerdo, una barbaridad, 30.000 líneas en Lean, o algo así, una barbaridad de líneas en Lean. Lean es, imagínate un programa de ordenador de 30.000 líneas y te lo tienes que leer con extremo cuidado porque cualquier pequeña desviación de lo que es el rigor matemático invalida automáticamente la prueba. No, pero es que Lean lo ha verificado, no, perdona, Lean lo ha verificado si en un código en Lean. Es muy importante, digamos, darle los antecedentes de la demostración. En una demostración matemática entre humanos, yo asumo que el que lee la demostración ya conoce los antecedentes. Yo me ahorro todo eso, porque ya los conoce. Pero en una demostración hecha por la máquina desde cero, se incluyen esos antecedentes y en esos antecedentes, ese conocimiento matemático conocido, puede haber errores. Y este matemático, Nielsen, ha descubierto. en una de las demostraciones, la de la conjuntura de Cornes que hay dos errores. Corners requiere dos condiciones, la propiedad T, que el grupo sea ICC, y resulta que en el código Lean, donde se definen esas propiedades, se cometen errores. Llámale alucinaciones, llámale como quieras. Hay errores. Entonces, la demostración es automáticamente incorrecta. Pero para leer eso, te has tenido que leer como 14.000 líneas de código para llegar al punto en el que aparece eso. Esto es una labor absolutamente terrible y pesada. ¿Qué matemáticos van a querer hacer eso? Menos mal que lo ha hecho uno con esta demostración y se da vuelta; está volviendo famoso. Y entonces probablemente eso incentive a gente joven que lo haga también. Pero se requiere un enorme conocimiento porque son demostraciones muy técnicas. Este es el gran problema que tenemos ahora mismo, como Esto se popularice y se está empezando a popularizar, ya está empezando a haber gente que está diciendo: No, no, no, no, yo no quiero que Charles G.P.T. me explique la demostración, porque yo no tengo ni zorrea, no lo voy a entender, quiero que me genere el…
Francis Villatoro explica la evolución en la generación de demostraciones matemáticas por parte de la inteligencia artificial Astra de OpenAI, contrastando el proceso anterior con el actual.
Habla: Francis VillatoroPalabras #3conversor aristóteles a lenguaje leanverificación en lenguaje lean…a popularizar, ya está empezando a haber gente que está diciendo: No, no, no, no, yo no quiero que Charles G.P.T. me explique la demostración, porque yo no tengo ni zorrea, no lo voy a entender, quiero que me genere el código Lean automáticamente, porque las Demostraciones a principios de este año se generaban en lenguaje humano, hecho por la máquina, y entonces tú usabas Aristóteles, un conversor que te convertía esa demostración al lenguaje Lean, y después la verificabas en Lean. Se ha verificado en Lean y además entiendo el lenguaje humano con el que se ha descrito. Pero es que ahora no, ahora ha generado directamente Lean, el lenguaje máquina, entre comillas, incomprensible para los humanos. En muy pocos años, todas las carreras de matemáticas del Mundo, todos los licenciados en matemática del mundo van a tener que tener un curso de un año en Lean. Todos van a tener que ser expertos en Lean, porque van a aparecer miles, decenas de miles de demostraciones en Lean. Y la única manera de gestionar eso para…
Francis Villatoro plantea la posibilidad de utilizar GPT para leer y analizar el código generado por inteligencia artificial en Lean, pero advierte sobre los riesgos asociados a confiar ciegamente en las evaluaciones realizadas por otras herramientas como Gemini o Clodas.
Habla: Francis VillatoroSignificado #15lenguaje programación lean francis villatorodemostraciones inteligencia artificial leandificultad para comprender leangpt analiza código leangemini y clodas evalúan demostracionesriesgos en evaluaciones gpthipótesis de la unidad disco unitario…miles de demostraciones en Lean. Y la única manera de gestionar eso para la comunidad matemática mundial va a ser que esos matemáticos entiendan Lean, también como entienden sumar, restar o multiplicar. Y eso estamos en un momento en la transición terrible. Entonces, esas 10 demostraciones, ¿sabes que una de ellas es incorrecta? ¿Las otras 9 son correctas? No lo sabemos. No lo sabemos. Tenemos que ponernos a estudiar Lean. Yo no sé Lean. Yo no puedo ponerme a leer un código de 20.000 líneas en Lean si me aburro leyendo un código en Lean de 100 líneas. O sea, alguien va a tener que hacerlo. Se lo ponemos a echar GPT y que lo lea y no se va Claro, eso tiene un enorme tipo de vicio porque este tipo de demostraciones se pasaron a otros, a Gemini, a Clodas, no sé qué, y dijeron que eran correctas O sea, las intereses de vida dijeron, estas demostraciones son correctas Ahora sabemos que una de ellas no lo es y hay dudas de alguna de las otras O sea, estas demostraciones hay que cogerlas con mucho cuidado Pero es que la ocasión anterior, con la famosa demostración de la hipótesis de la unidad, del disco unitario o algo así, OpenAI, antes de sacar la publicación del documento, contrató a una serie de matemáticos que eran todos muy famosos, medallas Phil, gente muy famosa, para que escribieran documentos. Los matemáticos entendieron ahí trabajando con la máquina y con la gente que…