Búsqueda · 24 momentos en 9 episodios
Luisa AchaerandioIgnacio CrespoJuan Carlos GilJosé EdelsteinFrancis VillatoroHéctor SocasGastón Giribetbookmaster sin poder fire openaiempleado de anthropic excluido por openaibookmaster publicación trabajo euler openaiopenai ofrece publicar a bookmasterdos opciones para bookmaster euleroferta openai a bookmaster alpoguépublicación problema del mileniocrédito primer autor problema mileniouso modelos de openaiexclusión poge como autorempleado openai sebastian bubeckchantaje a bookmaster por autoría trabajomalentendido con anthropicpresión interpretada como chantajeingeniero openai sebastian bubeckcarrera profesional bookmasterarrepentimiento de sebastian bubeckversión moderada mafiosillosebastian bubeck excluye a alpoguéalpogué trabaja para anthropicAnthropicOpenAIBookmasterGastón GiribetEulerLevent AlpogéDiego CórdobaTristan BookmasterLeven AlpogeHéctor SocasCodexSebastián BubeckSebastiánEstados UnidosInstituto Curran de MatemáticasUniversidad de Nueva YorkTristamook MasterDiegoLuisaLevantIgnacio CrespoFrancis Villatoro
Bookmaster sin poder fire OpenAI
Con
0:000:301:001:302:002:303:003:31
Gastón Giribet explica que Levent Alpogé, aunque trabaja en Anthropic, actuaba como particular al participar en la controversia con OpenAI. También señala que Bookmaster, un profesor universitario, carece del poder de una empresa como OpenAI.
…OpenAI estaba mirando, o al menos dice no haber estado mirando la carpeta del usuario pero sí que ha sido entrenada con lo que los usuarios estaban haciendo con los recursos de OpenAI Astral, entonces ahí aparece una controversia y la controversia empezó a Subir de tensión, pero recordemos que estamos hablando de dos académicos, porque Alpogea, aunque trabaje en Anthropic, acá era un particular, y Bookmaster, que es un profesor universitario, no tiene el poder de fuego de una empresa como OpenAI, y las comunicaciones con OpenAI empezaron a subir de tono y fueron muy agresivos; primero empezaron a negociar como que Alpogea no Podía estar en el trabajo. ¿Por qué? Porque ser empleado de Anthropic, OpenAI pedía que sacaran a uno de los autores solamente porque era empleado de Anthropic, aunque no tuviese nada que ver Anthropic con todo esto, a lo cual ellos se negaron. Por otro lado, Gastón, una puntualización, porque, claro, para explicar cómo es que OpenAI está diciendo de sacar el trabajo a otros y se supone que estaban independientes y tal, es que OpenAI le ofreció a Bookmaster decir, bueno, vale, tú has estado trabajando en esto, públicalo tú, decía OpenAI, nosotros no necesitamos el crédito, o sea, nosotros, tú lo puedes publicar, si quieres. Dices que, de hecho le ofrecieron dos, según dice Bookmaster en una nota que publicó, le ofrecieron dos opciones: una es, o bien tú publica lo que tienes sobre Euler, y luego al día siguiente nosotros publicamos la solución completa. Tenía que decir que OpenAI tenía un resultado al respecto. Esa es. La segunda opción, espera, es que le dieron dos opciones; lo tengo aquí, tengo delante la, bueno, eso es lo que dice Bookmaster en una nota que publicó él. Dice que le dieron dos opciones: una era que publicaran primero ellos, Bookmaster y Alpogué, lo que tenían, y al día siguiente OpenAI publicaba el resultado final del problema del milenio; o bien le ofrecieron decir tú te llevas el crédito como primer autor de todo esto y del problema del milenio. Tienes que decir eso que tú dices, Gastón; tienes que decir que lo hiciste utilizando modelos de OpenAI. Pero una de las opciones era excluir al Poge como autor exacto; eso es lo que estoy diciendo, pero esa opción exactamente si tú lo puedes publicar y te llevas el crédito, dices que usas un modelo de OpenAI pero excluyes al Poge de autor porque bueno claro. Pero cuando ves tal como lo expresa Bookmaster en la nota, Igual hay algo de malentendido aquí, porque lo que dice el empleado de OpenAI, el ingeniero que llevaba esto en OpenAI, que se llama Sebastián Bubeck, dice: no, no, yo no le dije eso de forma como chantaje, sino le dije que hombre, que era un fastidio, que era una incomodidad, que alguien de Anthropic, o sea, como que dice que hay como un malentendido, que lo que el otro lo interpreta como una presión, un intento de chantaje, que él solo estaba diciendo que esto. Era un fastidio. Es poco creíble eso de este Sebastián, porque lo que sí reconoce haber dicho es: ok, si vos te querés cagar la carrera solo y vos querés entropear tu carrera, y eso reconoce, él mismo reconoce que lo dijo y que está arrepentido entonces yo no creo que sea la versión moderada en la cual este Sebastián, debe ser el típico mafiosillo. Yo tengo que apostar acá en este Sebastián, no soy buen tipo. Entonces, la idea es que lo que pasó es. Pero espera, Déjame decirlo como lo pone Bookmaster en su nota: Dice, Sebastián dos veces dijo que quería que Levent, o sea, Alpogué, no estuviera como coautor y dijo que todo sería más simple si no estuviera ahí y que es una pena, que es un fastidio que Alpogué trabaje para Anthropic. Y sí, pero eso me suena a una fórmula muy americana de decir, sacalo. Sí, sí, seguramente. Eso es como acá en Estados Unidos se dicen las cosas, se dicen sin decirse, para cuidarse el culo. Eso lo que le dijo está: sacá tu trabajo de ahí. Esto que dices, Gastón, creo que es clave: lo de cuidarse el culo, porque estamos pensando en esto, lógicamente, a través del sesgo de que somos personas individuales, que rara vez estamos respondiendo ante grandes instituciones, pero esto es un monstruo, un…
Significado #1 · Palabras #1
Héctor Socas comenta sobre la posibilidad de presentar temas científicos de forma sensacionalista, mencionando ejemplos como 'una inteligencia artificial ha resuelto uno de los problemas del milenio' y 'OpenAI acusada de plagio'.
Habla: Héctor SocasPalabras #16inteligencia artificial resuelve problema milenioopenai acusada de plagio…que ha generado mucha polémica, mucha controversia en redes sociales, mucho salseo, cosas aquí que no nos gustan. A nosotros estas cosas no nos van, no nos gusta meternos en situaciones, en fin, entrar ahí al lodo, pero bueno, a veces no queda más remedio. El tema ya lo habrán visto; hay diferentes titulares que se pueden, hay diferentes formas en las que se puede presentar esto de forma un poco sensacionalista, llamativa. Por ejemplo, una inteligencia artificial ha resuelto uno de los problemas del milenio. Podemos empezar por ahí; esa puede ser un titular. Otro titular puede ser OpenAI acusada de plagio; también hay quien va por ese camino. Vamos a intentar poner un poco de orden y un poco de sensatez en todo esto; vamos a empezar por el principio. De hecho, incluso hemos tenido una pequeña conversación ahora en la pausa sobre cómo íbamos a estructurar esta conversación. Algo que no solemos…
Francis Villatoro explica cómo Tristan Bookmaster y Leven Alpoge, trabajando independientemente para OpenAI y Anthropic, han estado aplicando las técnicas de Diego Córdoba a ecuaciones como la ecuación de Euler y Navier-Stokes durante un año y medio.
Habla: Francis VillatoroSignificado #7 · Palabras #4técnicas diego córdoba ecuaciones navier stokestristan bookmaster openai anthropicleven alpoge anthropic ecuación euler…solución extremadamente bonita, interesante, que se puede explicar desde el punto de vista de la física; tiene un sentido físico, que combina ideas del trabajo de Diego Córdoba y de Luis Martínez Zoroa, también del trabajo que como comentaba Gastón de Leven. Alpoge y Bookmaster, Tristan Bookmaster y Leven Alpoge que estaban trabajando con OpenAI y con Anthropic por su cuenta; Leven Alpoge es trabajador de Anthropic pero no trabajaba en la empresa Anthropic en esto, esto lo hacía en plan por su cuenta y llevan trabajando como un año y medio en usar las técnicas de Diego Córdoba para atacar estas ecuaciones: la ecuación de Euler, la ecuación de Naberstocks. Y cuando estaban ya obteniendo un resultado, de repente OPNIA y se le enciende la bombilla y decide trabajar en eso. ¿Qué es lo que han hecho? La solución es muy bonita y muy sencilla. La idea es la siguiente: imaginemos que yo tengo un vórtice, una solución de tipo vórtice. Cuando yo tengo una solución de tipo vórtice, lo que tengo es un fluido que se mueve como una espiral que se dirige como a un…
Gastón Giribet introduce la controversia surgida tras los avances realizados por OpenAI en la resolución del problema matemático, mencionando el trabajo de Levent Alpogé en Anthropic y el de Buckmaster en el Instituto Curran de Matemáticas.
Habla: Gastón GiribetSignificado #8 · Palabras #9trabajo de alpoge en anthropicbookmaster instituto curran matemáticasinteligencias artificiales resolución matemáticacompetencia de openai con anthropic…la demostración, digamos, la parte final que ha estado contando Francis, que es la de OpenAI, hecha con esos 10.000 agentes con esos 15 millones de dólares gastados en tokens, con ese modelo súper avanzado; es donde se ha dado el paso final sobre esto. Y ahora aquí es donde viene la controversia, que no sé si alguno de ustedes quiere contarla. Claro, sí, la idea de grosso modo es esto: Alpoge trabaja para Anthropic, que es la, digamos, la competencia. La competencia, la principal competencia de OpenAI. Y Bookmaster trabaja acá en el Instituto Curran de Matemáticas, el Departamento de Física de la Universidad de Nueva York. Trabajan juntos, hacía mucho que estaban trabajando en este tema y usaron muchas inteligencias artificiales. Es importante mencionar que Alpogué, aunque trabaja en Anthropic, pero esto que está haciendo aquí es como que no tiene nada que ver con su trabajo académico, que no es institucional, no tiene que ver con Anthropic. Él trabaja en Anthropic, pero trabaja con…
Gastón Giribet aclara que el trabajo realizado por Levent Alpogé en la resolución de problemas matemáticos no está directamente vinculado a su empleo en Anthropic.
Habla: Gastón GiribetPalabras #10trabajo de alpogé en anthropicproblemas matemáticos importante bookmastermillón de dólares por problemas…aunque trabaja en Anthropic, pero esto que está haciendo aquí es como que no tiene nada que ver con su trabajo académico, que no es institucional, no tiene que ver con Anthropic. Él trabaja en Anthropic, pero trabaja con su colega matemático también en este. Problema. Pero está bien la aclaración: no es Anthropic contra OpenAI, es un trabajador que trabaja casualmente en Anthropic a pesar de que hace esto en su tiempo libre, digamos, en su tiempo libre y resuelve problemas matemáticos importantes que le dan un millón de dólares a la gente y trabaja con Bookmaster, que es un reconocido experto en estos. Temas: La cuestión es que, bueno, estaban trabajando en esto; usaron muchas inteligencias artificiales, en particular usaron Codex, entonces ese es el problema porque hubo un rumor en OpenAI de que estos dos matemáticos se estaban acercando a resolver casos…
Gastón Giribet explica cómo un rumor sobre el trabajo de Anthropic en problemas matemáticos llevó a OpenAI a redirigir recursos y desarrollar una solución, lo que generó una disputa sobre la posible utilización de los resultados de otros investigadores.
Habla: Gastón GiribetSignificado #9anthropic y openai redirigen recursos10000 agentes trabajan en problemas matemáticosdisputa por resultados de investigadorestristamook master cuestiona a openai…que lo hizo varios comentarios en redes sociales, a muchos matemáticos, el rumor estaba ahí, ¿no? Está bien, está bien. Y ese rumor es el que le llega a OpenAI y que dice, ¿eh, que la competencia está trabajando en ese problema? Sí, sí. Me voy a poner yo a... Me quiero limitar a lo que está documentado, al menos en algún lado escrito, digamos; ¿no? Es cierto que se dice que el rumor era que Anthropic estaba trabajando esto, OpenAI cambia recursos para trabajar más en esto, pone miles de agentes, 10.000 agentes a trabajar durante 4 días en esto, 88 horas en esto, y bueno, sale el anuncio de que ellos tienen la solución al problema. Entonces aparece una especie de disputa ahí porque Tristamook Master empieza a decirle a OpenAI: Ey, ustedes estuvieron usando, porque nosotros estamos usando su AI, ¿fue entrenada con nuestros resultados? O sea, sobre todo porque había ciertos rasgos de la solución, de cosas que no se te van a ocurrir a vos si no viste mi trabajo Ese era el problema principal uno cuando trabaja se da cuenta que hay ciertos trucos que es muy poco probable que se le ocurran a…
Gastón Giribet explica que Levent Alpogé, aunque trabaja en Anthropic, actuaba como particular al participar en la controversia con OpenAI. También señala que Bookmaster, un profesor universitario, carece del poder de una empresa como OpenAI.
Habla: Gastón GiribetSignificado #1 · Palabras #1bookmaster sin poder fire openaiempleado de anthropic excluido por openaibookmaster publicación trabajo euler openaiopenai ofrece publicar a bookmasterdos opciones para bookmaster euleroferta openai a bookmaster alpoguépublicación problema del mileniocrédito primer autor problema mileniouso modelos de openaiexclusión poge como autorempleado openai sebastian bubeckchantaje a bookmaster por autoría trabajomalentendido con anthropicpresión interpretada como chantajeingeniero openai sebastian bubeckcarrera profesional bookmasterarrepentimiento de sebastian bubeckversión moderada mafiosillosebastian bubeck excluye a alpoguéalpogué trabaja para anthropic…OpenAI estaba mirando, o al menos dice no haber estado mirando la carpeta del usuario pero sí que ha sido entrenada con lo que los usuarios estaban haciendo con los recursos de OpenAI Astral, entonces ahí aparece una controversia y la controversia empezó a Subir de tensión, pero recordemos que estamos hablando de dos académicos, porque Alpogea, aunque trabaje en Anthropic, acá era un particular, y Bookmaster, que es un profesor universitario, no tiene el poder de fuego de una empresa como OpenAI, y las comunicaciones con OpenAI empezaron a subir de tono y fueron muy agresivos; primero empezaron a negociar como que Alpogea no Podía estar en el trabajo. ¿Por qué? Porque ser empleado de Anthropic, OpenAI pedía que sacaran a uno de los autores solamente porque era empleado de Anthropic, aunque no tuviese nada que ver Anthropic con todo esto, a lo cual ellos se negaron. Por otro lado, Gastón, una puntualización, porque, claro, para explicar cómo es que OpenAI está diciendo de sacar el trabajo a otros y se supone que estaban independientes y tal, es que OpenAI le ofreció a Bookmaster decir, bueno, vale, tú has estado trabajando en esto, públicalo tú, decía OpenAI, nosotros no necesitamos el crédito, o sea, nosotros, tú lo puedes publicar, si quieres. Dices que, de hecho le ofrecieron dos, según dice Bookmaster en una nota que publicó, le ofrecieron dos opciones: una es, o bien tú publica lo que tienes sobre Euler, y luego al día siguiente nosotros publicamos la solución completa. Tenía que decir que OpenAI tenía un resultado al respecto. Esa es. La segunda opción, espera, es que le dieron dos opciones; lo tengo aquí, tengo delante la, bueno, eso es lo que dice Bookmaster en una nota que publicó él. Dice que le dieron dos opciones: una era que publicaran primero ellos, Bookmaster y Alpogué, lo que tenían, y al día siguiente OpenAI publicaba el resultado final del problema del milenio; o bien le ofrecieron decir tú te llevas el crédito como primer autor de todo esto y del problema del milenio. Tienes que decir eso que tú dices, Gastón; tienes que decir que lo hiciste utilizando modelos de OpenAI. Pero una de las opciones era excluir al Poge como autor exacto; eso es lo que estoy diciendo, pero esa opción exactamente si tú lo puedes publicar y te llevas el crédito, dices que usas un modelo de OpenAI pero excluyes al Poge de autor porque bueno claro. Pero cuando ves tal como lo expresa Bookmaster en la nota, Igual hay algo de malentendido aquí, porque lo que dice el empleado de OpenAI, el ingeniero que llevaba esto en OpenAI, que se llama Sebastián Bubeck, dice: no, no, yo no le dije eso de forma como chantaje, sino le dije que hombre, que era un fastidio, que era una incomodidad, que alguien de Anthropic, o sea, como que dice que hay como un malentendido, que lo que el otro lo interpreta como una presión, un intento de chantaje, que él solo estaba diciendo que esto. Era un fastidio. Es poco creíble eso de este Sebastián, porque lo que sí reconoce haber dicho es: ok, si vos te querés cagar la carrera solo y vos querés entropear tu carrera, y eso reconoce, él mismo reconoce que lo dijo y que está arrepentido entonces yo no creo que sea la versión moderada en la cual este Sebastián, debe ser el típico mafiosillo. Yo tengo que apostar acá en este Sebastián, no soy buen tipo. Entonces, la idea es que lo que pasó es. Pero espera, Déjame decirlo como lo pone Bookmaster en su nota: Dice, Sebastián dos veces dijo que quería que Levent, o sea, Alpogué, no estuviera como coautor y dijo que todo sería más simple si no estuviera ahí y que es una pena, que es un fastidio que Alpogué trabaje para Anthropic. Y sí, pero eso me suena a una fórmula muy americana de decir, sacalo. Sí, sí, seguramente. Eso es como acá en Estados Unidos se dicen las cosas, se dicen sin decirse, para cuidarse el culo. Eso lo que le dijo está: sacá tu trabajo de ahí. Esto que dices, Gastón, creo que es clave: lo de cuidarse el culo, porque estamos pensando en esto, lógicamente, a través del sesgo de que somos personas individuales, que rara vez estamos respondiendo ante grandes instituciones, pero esto es un monstruo, un…
Héctor Socas plantea una posible justificación para las acciones de OpenAI, asumiendo que la versión oficial de los hechos es cierta y no hubo espionaje o chantaje hacia Bookmaster.
Habla: Héctor SocasSignificado #4 · Palabras #8opinión sobre openai y bookmasterversión oficial espionaje bookmaster10000 agentes solución openaioferta de trabajo a bookmasterentrenamiento openai bookmaster alpogecodex y herramientas de ia bookmasterresultados bookmaster levent alpogé…justo la competencia. No, por supuesto, por supuesto, por supuesto, pero bueno, hay una cuestión de ética profesional que hay que cumplir, y si estas empresas no están cumpliéndolas, estas empresas no tienen que estar en el juego del conocimiento, esa es mi opinión Ahora, aquí hay dos cosas Permite que haya un Estado fuerte que controle el comportamiento ético de estas empresas Ahora, aquí hay dos cosas, si realmente la versión oficial es esta y aquí no ha habido ese espionaje, sino que, oye, pues por la razón que sea ellos dieron este giro de timón, sus 10.000 agentes encontraron la solución y tal. Bueno, ellos pueden decir, oye, le ofrecimos a Bookmaster que hiciera este trabajo con nosotros dejando fuera el amigo, no lo quiso hacer, pues vale, nosotros lo publicamos y ya está. Bueno, puede ser hasta, puede estar hasta dentro de lo que son sus derechos legítimos. Ahora bien, Y es donde viene la segunda parte del problema: ¿realmente ha habido algún tipo de información que se haya difundido desde ese uso de herramientas de IA que estaban usando Bookmaster y Alpoge en Codex y que eso haya ido directa o indirectamente a la demostración? Bueno, lo que probablemente pasó, no lo sabemos, porque acá hay, dime si direte, pero lo que probablemente pasó es que OpenAI usó en su entrenamiento los resultados de estas personas. Esto es equivalente a decir lo siguiente. Yo estoy trabajando en un problema, una demostración de un teorema de mi oficina. Pero claro, para hacer ese problema necesito recursos: necesito una lapicera, necesito un papel y necesito luz. Entonces viene el señor…
Francis Villatoro explica cómo las inteligencias artificiales de OpenAI almacenaron fragmentos de conversaciones de matemáticos, lo que plantea un problema ético debido a la falta de control en el proceso de entrenamiento.
Habla: Francis VillatoroSignificado #20conversaciones de matemáticos openaientrenamiento inteligencia artificial openaiproblema ético openaiautomatización entrenamiento openai…una decisión humana de gente que se enteró por un rumor; más humano que escuchar un rumor y cambiar de dirección no hay. Eso es así, hubo ese cambio de dirección, pero lo que coinciden en OpenAI es que ellos no vieron el chat de estos matemáticos; es decir, Lo que ocurrió fue que las inteligencias artificiales que almacenan ciertos chaps y ciertos trozos de chaps, almacenaron trozos de los chaps de estos que se utilizaron en el entrenamiento de la nueva inteligencia artificial y por eso el problema ético es no trivial, porque la reacción que yo quería decir, el problema no es nada trivial porque todo está muy automatizado y no hay un control en OpenAI le. Llamaban superalignment, el superalineamiento, el tema de controlar realmente qué aprende, qué no aprende, cómo lo aprende la inteligencia artificial. Pero hoy en día, en el que son inteligencias artificiales las que deciden lo que las inteligencias…
Francis Villatoro describe cómo se ha utilizado una demostración matemática elegante, con ideas buenas combinadas, incluyendo el trabajo previo de Diego y Luis con Levant y Bookmaster.
Habla: Francis VillatoroPalabras #12demostración matemática elegante diego luistrabajo previo levant bookmasterideas buenas combinadas diego luis…y obtener un resultado nuevo. No es una demostración de cómo lo hubiera hecho un humano, lo que todo el mundo esperaba que un premio del milenio requiera, lo que requirió de Perelman, que es generar toda una matemática nueva para resolver el problema. Pero se ha usado de una manera muy elegante y la verdad en algunos momentos la demostración es muy bonita; tiene ideas muy buenas, pero se han combinado ciertas cosas y una de las cosas que se ha combinado es la idea de Diego y Luis, que estaban utilizando Levant y Bookmaster. Precisamente por eso, por lo que estaba comentando Héctor, creo que hay una cosa que quiero subrayar después de haberos escuchado, haber estado hablando también con otros profesionales, y es que es muy interesante, por supuesto, si han tenido acceso o no a…
Ignacio Crespo interviene en la tertulia para señalar que la discusión sobre la ética de las acciones recientes de OpenAI es limitada, considerando la larga lista de controversias previas asociadas a OpenAI y Anthropic.
Habla: Ignacio CrespoSignificado #19ética de acciones recientes openaicontroversias previas openai anthropiclista de situaciones controvertidas openai…es un gran superordenador diseñado para responder a las preguntas últimas y tal, y después de correrla durante mucho tiempo sacaron la respuesta que era 42 o creo que era eso, ¿no? Y entonces se dieron cuenta que no sabían cuál era la pregunta. Bueno, Ignacio, tu comentario. Yo creo que hay un tema importante que estamos dándole vueltas porque fijémonos qué hemos hecho: hemos estado dedicando aquí unos cuantos minutos a hablar sobre si es ético o no es ético lo que ha hecho OpenAI sobre este caso concreto, como si fuera lo peor que ha hecho. Como si no tuviéramos ya una larguísima lista por parte de OpenAI y de Anthropic de situaciones mucho más controvertidas. Y en parte es por lo que estaba diciendo Francis, porque como todo esto viene con el envoltorio de la contribución altruista científica, llama más la atención. Olvidamos todo lo demás; olvidamos que ya había dudas importantes sobre cómo se gestionan los datos…