Búsqueda · 22 momentos en 9 episodios
Luisa AchaerandioIgnacio CrespoJuan Carlos GilJosé EdelsteinFrancis VillatoroHéctor SocasGastón Giribetrumor matemáticos acercándose a casosopenai redirige esfuerzos codexcambio de atención openai problemasanthropic y ecuaciones navier stokesrumor sobre anthropictrabajo de anthropic problemas matemáticosterence tao comentarios redes socialesrumor llega a openai competenciaanthropic y openai redirigen recursos10000 agentes trabajan en problemas matemáticosdisputa por resultados de investigadorestristamook master cuestiona a openaiAnthropicTerence TaoOpenAICodexGastón GiribetFrancis VillatoroNavier StokesTristamook MasterLevent AlpogéInstituto Curran de MatemáticasUniversidad de Nueva YorkAstraChinaIgnacio CrespoBookmasterEuler
Rumor llega a OpenAI competencia
Con
0:000:301:001:302:002:303:003:31
Francis Villatoro y Gastón Giribet discuten un rumor sobre el trabajo de Anthropic en problemas matemáticos, específicamente cómo este rumor llegó a Terence Tao y posteriormente a OpenAI.
…trabaja casualmente en Anthropic a pesar de que hace esto en su tiempo libre, digamos, en su tiempo libre y resuelve problemas matemáticos importantes que le dan un millón de dólares a la gente y trabaja con Bookmaster, que es un reconocido experto en estos. Temas: La cuestión es que, bueno, estaban trabajando en esto; usaron muchas inteligencias artificiales, en particular usaron Codex, entonces ese es el problema porque hubo un rumor en OpenAI de que estos dos matemáticos se estaban acercando a resolver casos particulares de este problema. Entonces eso hizo que la compañía OpenAI haga un cambio de esfuerzos, o sea, quiero decir, el rumor de que estos matemáticos estaban trabajando en eso y de esto no hay controversia, hizo que haya un cambio de atención en los problemas que OpenAI estaba tratando. Entonces, como pongamos más recursos para resolver ese problema. Me permite una pequeña aclaración, Gastón. El rumor era que Anthropic, la empresa, estaba trabajando en Nave de Stocks. No sé bien cuál fue el rumor, porque no tenemos acceso a eso. Porque Leven trabajaba para Anthropic, pero en realidad no era Anthropic. Bueno, no sabemos bien cuál fue el rumor, en realidad. No sabemos bien cuál fue el rumor, porque a eso no tenemos acceso. Pero se cree, se especula con que el rumor era que Anthropic estaba trabajando en eso. porque un empleado de Anthropic era uno de los que estaba trabajando en eso. Exactamente, ese era el rumor, eso le llegó a Terence Tao, que lo hizo varios comentarios en redes sociales, a muchos matemáticos, el rumor estaba ahí, ¿no? Está bien, está bien. Y ese rumor es el que le llega a OpenAI y que dice, ¿eh, que la competencia está trabajando en ese problema? Sí, sí. Me voy a poner yo a... Me quiero limitar a lo que está documentado, al menos en algún lado escrito, digamos; ¿no? Es cierto que se dice que el rumor era que Anthropic estaba trabajando esto, OpenAI cambia recursos para trabajar más en esto, pone miles de agentes, 10.000 agentes a trabajar durante 4 días en esto, 88 horas en esto, y bueno, sale el anuncio de que ellos tienen la solución al problema. Entonces aparece una especie de disputa ahí porque Tristamook Master empieza a decirle a OpenAI: Ey, ustedes estuvieron usando, porque nosotros estamos usando su AI, ¿fue entrenada con nuestros resultados? O sea, sobre todo porque había ciertos rasgos de la solución, de cosas que no se te van a ocurrir a vos si no viste mi trabajo Ese era el problema principal uno cuando trabaja se da cuenta que hay ciertos trucos que es muy poco probable que se le ocurran a…
Significado #1 · Palabras #1
Gastón Giribet introduce la controversia surgida tras los avances realizados por OpenAI en la resolución del problema matemático, mencionando el trabajo de Levent Alpogé en Anthropic y el de Buckmaster en el Instituto Curran de Matemáticas.
Habla: Gastón GiribetSignificado #8 · Palabras #5trabajo de alpoge en anthropicbookmaster instituto curran matemáticasinteligencias artificiales resolución matemáticacompetencia de openai con anthropic…la demostración, digamos, la parte final que ha estado contando Francis, que es la de OpenAI, hecha con esos 10.000 agentes con esos 15 millones de dólares gastados en tokens, con ese modelo súper avanzado; es donde se ha dado el paso final sobre esto. Y ahora aquí es donde viene la controversia, que no sé si alguno de ustedes quiere contarla. Claro, sí, la idea de grosso modo es esto: Alpoge trabaja para Anthropic, que es la, digamos, la competencia. La competencia, la principal competencia de OpenAI. Y Bookmaster trabaja acá en el Instituto Curran de Matemáticas, el Departamento de Física de la Universidad de Nueva York. Trabajan juntos, hacía mucho que estaban trabajando en este tema y usaron muchas inteligencias artificiales. Es importante mencionar que Alpogué, aunque trabaja en Anthropic, pero esto que está haciendo aquí es como que no tiene nada que ver con su trabajo académico, que no es institucional, no tiene que ver con Anthropic. Él trabaja en Anthropic, pero trabaja con…
Francis Villatoro y Gastón Giribet discuten un rumor sobre el trabajo de Anthropic en problemas matemáticos, específicamente cómo este rumor llegó a Terence Tao y posteriormente a OpenAI.
Habla: Francis VillatoroSignificado #1 · Palabras #1rumor matemáticos acercándose a casosopenai redirige esfuerzos codexcambio de atención openai problemasanthropic y ecuaciones navier stokesrumor sobre anthropictrabajo de anthropic problemas matemáticosterence tao comentarios redes socialesrumor llega a openai competenciaanthropic y openai redirigen recursos10000 agentes trabajan en problemas matemáticosdisputa por resultados de investigadorestristamook master cuestiona a openai…trabaja casualmente en Anthropic a pesar de que hace esto en su tiempo libre, digamos, en su tiempo libre y resuelve problemas matemáticos importantes que le dan un millón de dólares a la gente y trabaja con Bookmaster, que es un reconocido experto en estos. Temas: La cuestión es que, bueno, estaban trabajando en esto; usaron muchas inteligencias artificiales, en particular usaron Codex, entonces ese es el problema porque hubo un rumor en OpenAI de que estos dos matemáticos se estaban acercando a resolver casos particulares de este problema. Entonces eso hizo que la compañía OpenAI haga un cambio de esfuerzos, o sea, quiero decir, el rumor de que estos matemáticos estaban trabajando en eso y de esto no hay controversia, hizo que haya un cambio de atención en los problemas que OpenAI estaba tratando. Entonces, como pongamos más recursos para resolver ese problema. Me permite una pequeña aclaración, Gastón. El rumor era que Anthropic, la empresa, estaba trabajando en Nave de Stocks. No sé bien cuál fue el rumor, porque no tenemos acceso a eso. Porque Leven trabajaba para Anthropic, pero en realidad no era Anthropic. Bueno, no sabemos bien cuál fue el rumor, en realidad. No sabemos bien cuál fue el rumor, porque a eso no tenemos acceso. Pero se cree, se especula con que el rumor era que Anthropic estaba trabajando en eso. porque un empleado de Anthropic era uno de los que estaba trabajando en eso. Exactamente, ese era el rumor, eso le llegó a Terence Tao, que lo hizo varios comentarios en redes sociales, a muchos matemáticos, el rumor estaba ahí, ¿no? Está bien, está bien. Y ese rumor es el que le llega a OpenAI y que dice, ¿eh, que la competencia está trabajando en ese problema? Sí, sí. Me voy a poner yo a... Me quiero limitar a lo que está documentado, al menos en algún lado escrito, digamos; ¿no? Es cierto que se dice que el rumor era que Anthropic estaba trabajando esto, OpenAI cambia recursos para trabajar más en esto, pone miles de agentes, 10.000 agentes a trabajar durante 4 días en esto, 88 horas en esto, y bueno, sale el anuncio de que ellos tienen la solución al problema. Entonces aparece una especie de disputa ahí porque Tristamook Master empieza a decirle a OpenAI: Ey, ustedes estuvieron usando, porque nosotros estamos usando su AI, ¿fue entrenada con nuestros resultados? O sea, sobre todo porque había ciertos rasgos de la solución, de cosas que no se te van a ocurrir a vos si no viste mi trabajo Ese era el problema principal uno cuando trabaja se da cuenta que hay ciertos trucos que es muy poco probable que se le ocurran a…
Gastón Giribet explica cómo OpenAI presionó para que uno de los autores fuera excluido del trabajo debido a su empleo en Anthropic, a pesar de que esta empresa no estuviera directamente involucrada en la investigación. Además, OpenAI ofreció a Bookmaster la posibilidad de publicar el trabajo.
Habla: Héctor SocasPalabras #17bookmaster sin poder fire openaiempleado de anthropic excluido por openaibookmaster publicación trabajo euler openaiopenai ofrece publicar a bookmasterdos opciones para bookmaster euler…OpenAI estaba mirando, o al menos dice no haber estado mirando la carpeta del usuario pero sí que ha sido entrenada con lo que los usuarios estaban haciendo con los recursos de OpenAI Astral, entonces ahí aparece una controversia y la controversia empezó a Subir de tensión, pero recordemos que estamos hablando de dos académicos, porque Alpogea, aunque trabaje en Anthropic, acá era un particular, y Bookmaster, que es un profesor universitario, no tiene el poder de fuego de una empresa como OpenAI, y las comunicaciones con OpenAI empezaron a subir de tono y fueron muy agresivos; primero empezaron a negociar como que Alpogea no Podía estar en el trabajo. ¿Por qué? Porque ser empleado de Anthropic, OpenAI pedía que sacaran a uno de los autores solamente porque era empleado de Anthropic, aunque no tuviese nada que ver Anthropic con todo esto, a lo cual ellos se negaron. Por otro lado, Gastón, una puntualización, porque, claro, para explicar cómo es que OpenAI está diciendo de sacar el trabajo a otros y se supone que estaban independientes y tal, es que OpenAI le ofreció a Bookmaster decir, bueno, vale, tú has estado trabajando en esto, públicalo tú, decía OpenAI, nosotros no necesitamos el crédito, o sea, nosotros, tú lo puedes publicar, si quieres. Dices que, de hecho le ofrecieron dos, según dice Bookmaster en una nota que publicó, le ofrecieron dos opciones: una es, o bien tú publica lo que tienes sobre Euler, y luego al día siguiente nosotros publicamos la solución completa. Tenía que decir que OpenAI tenía un resultado al respecto. Esa es. La segunda opción, espera, es que le dieron dos opciones; lo tengo aquí, tengo delante la, bueno, eso es lo que dice Bookmaster en una nota que publicó él. Dice que le dieron dos opciones: una era que publicaran primero ellos, Bookmaster y Alpogué, lo que…
Gastón Giribet argumenta que las grandes empresas como OpenAI no permitirán la entrada de competidores directos en el ámbito del conocimiento. Además, señala la importancia de cumplir con los principios éticos profesionales.
Habla: Gastón GiribetSignificado #16 · Palabras #7ética profesional openaiconocimiento sin competencia directaempresas como openai…diciendo eso, estoy diciendo que es frecuente encontrarse ese tipo de cuestiones, sobre todo cuando está mediada la publicidad. Si se moviliza por motivos publicitarios tantos recursos para adelantarse y apuntarse el tanto, es evidente que una empresa tan Mastodóntica no va a permitir que se cuele justo la competencia. No, por supuesto, por supuesto, por supuesto, pero bueno, hay una cuestión de ética profesional que hay que cumplir, y si estas empresas no están cumpliéndolas, estas empresas no tienen que estar en el juego del conocimiento, esa es mi opinión Ahora, aquí hay dos cosas Permite que haya un Estado fuerte que controle el comportamiento ético de estas empresas Ahora, aquí hay dos cosas, si realmente la versión oficial es esta y aquí no ha habido ese espionaje, sino que, oye, pues por la razón…
Gastón Giribet explica que la decisión de redirigir recursos para resolver un problema específico fue tomada por humanos dentro de una empresa, basándose en rumores y no en un proceso automatizado.
Habla: Gastón GiribetPalabras #6decisión humana redirigir recursosrumor sobre nabil stokes…la información que tú estás, todos tus chats, se usen en futuros entrenamientos. Y hay unas IAS que automáticamente van viendo los chats de todo el mundo y deciden qué cosas son relevantes y cuáles no. No estoy de acuerdo, Francis. En este caso no fue así. En este caso hubo una dirección de un directorio de la empresa de redirigir la atención a este problema. Esos fueron humanos tomando esa decisión. No fue que el flujo de información de los recursos de Astra de repente dijeron, che, solo la guía redirigió sus recursos para resolver el problema de Nabil Stokes. Esto fue una decisión humana de gente que se enteró por un rumor; más humano que escuchar un rumor y cambiar de dirección no hay. Eso es así, hubo ese cambio de dirección, pero lo que coinciden en OpenAI es que ellos no vieron el chat de estos matemáticos; es decir, Lo que ocurrió fue que las inteligencias artificiales que almacenan ciertos chaps y ciertos trozos de chaps, almacenaron trozos de los chaps de estos que se utilizaron en el entrenamiento de la nueva inteligencia artificial y por eso el problema ético es no…
Ignacio Crespo interviene en la tertulia para señalar que la discusión sobre la ética de las acciones recientes de OpenAI es limitada, considerando la larga lista de controversias previas asociadas a OpenAI y Anthropic.
Habla: Ignacio CrespoSignificado #12 · Palabras #20ética de acciones recientes openaicontroversias previas openai anthropiclista de situaciones controvertidas openai…es un gran superordenador diseñado para responder a las preguntas últimas y tal, y después de correrla durante mucho tiempo sacaron la respuesta que era 42 o creo que era eso, ¿no? Y entonces se dieron cuenta que no sabían cuál era la pregunta. Bueno, Ignacio, tu comentario. Yo creo que hay un tema importante que estamos dándole vueltas porque fijémonos qué hemos hecho: hemos estado dedicando aquí unos cuantos minutos a hablar sobre si es ético o no es ético lo que ha hecho OpenAI sobre este caso concreto, como si fuera lo peor que ha hecho. Como si no tuviéramos ya una larguísima lista por parte de OpenAI y de Anthropic de situaciones mucho más controvertidas. Y en parte es por lo que estaba diciendo Francis, porque como todo esto viene con el envoltorio de la contribución altruista científica, llama más la atención. Olvidamos todo lo demás; olvidamos que ya había dudas importantes sobre cómo se gestionan los datos…
Ignacio Crespo plantea una interpretación conspiranoica sobre las filtraciones negativas relacionadas con OpenAI y Anthropic, sugiriendo que podrían ser un intento de forzar la legislación para beneficiar a estas empresas.
Habla: Ignacio CrespoSignificado #9 · Palabras #8filtraciones openai anthropiclegislación para beneficiar openaiinteligencias artificiales destrucción humanidadseguridad empresas openai anthropiccompetencia china inteligencia artificial…legislando todo! Por supuesto que sí, pero ¿dónde está Europa en esa carrera? ¿Y cuáles son los países que realmente lideran la carrera y su relación con la legislación? ¿Dónde está Estados Unidos y sobre todo dónde está China? ¿Y qué es lo que va a ocurrir? Había, por ejemplo, una interpretación que creo que es algo conspiranoica, pero bueno, está bien lanzarla; y es que todos estos comentarios que se filtran sobre lo terribles que son estas inteligencias artificiales y cómo van a destruir a la humanidad, que vienen en principio desde dentro, podrían ser un intento de forzar que se legislara, que se legislara para que salgan beneficiadas precisamente estas grandes empresas OpenAI y Anthropic; que a pesar de ser muy opacas en su forma de gestionar la seguridad son tal vez mejores que la competencia que está ofreciendo China y que cada vez está más cerca de pisar los talones por algunos motivos. Creo que no hay que llegar tampoco a estas reflexiones para entender que puede haber un beneficio en soltarlo. Ya decíamos lo de la bolsa y pensémoslo. De nuevo, es una simplificación muy grande, pero si mañana tuviéramos que poner nuestro dinero en una u…