Búsqueda · 22 momentos en 5 episodios
Luisa AchaerandioIgnacio CrespoJuan Carlos GilJosé EdelsteinFrancis VillatoroHéctor SocasGastón Giribetuso compartido openai o anthropicdescubrimiento cura del cáncerconocimiento científicos del mundosistemas ia cloud chatgpt astraOpenAIAnthropicChatGPTAstraQuímica orgánicaCáncerFrancis VillatoroGastón GiribetBookmasterEulerLevent AlpogéIgnacio CrespoDiego CórdobaTristan BookmasterLeven AlpogeInstituto Curran de MatemáticasUniversidad de Nueva YorkAGITerence TaoTristamook MasterChinaSebastián BubeckHéctor SocasSebastiánEstados UnidosLevent AlpoguéIsaac AsimovEuropaNavier Stokes
Datos científicos OpenAI Anthropic
Con
0:000:301:001:302:002:303:003:31
Gastón Giribet plantea un escenario hipotético sobre el uso compartido de sistemas de IA como los de OpenAI o Anthropic por parte de científicos a nivel mundial, imaginando que estos datos conducen al descubrimiento de una cura para el cáncer.
…buenísimo, avanza el conocimiento de la humanidad y como resultado vale la pena, y listo, yo me quedo con eso. Ahora, después está la discusión de los créditos, del dinero, de la gloria, del ego, todas esas cosas que son importantes también de las acciones. Esas discusiones de: hay que repensar la autoría, hay que repensar el concepto de original, hay que repensar muchas cosas. Vamos a jugar un toy model. Supongamos que todo el conocimiento de todos los científicos del mundo, que estamos todos usando sistemas, no necesariamente de OpenAI, pero de Anthropic, Cloud, o ChatGPT, Astra, lo que fuere, estamos todos usando esto, y de repente estos datos se usan, se usan, se usan, se usan, se usan, se usan, se usan, química orgánica, química orgánica, y de repente encuentran la cura del cáncer. Para dar un golpe bajo, porque si no estamos hablando de Navier Stock, ¿a quién carajo le importa esto? Pero supongamos que de repente encontramos algo, porque yo creo que la cura de muchas enfermedades esenciales que tenemos hoy van a ser curadas usando…
Significado #2 · Palabras #1
Francis Villatoro explica cómo Tristan Bookmaster y Leven Alpoge, trabajando independientemente para OpenAI y Anthropic, han estado aplicando las técnicas de Diego Córdoba a ecuaciones como la ecuación de Euler y Navier-Stokes durante un año y medio.
Habla: Francis VillatoroPalabras #6técnicas diego córdoba ecuaciones navier stokestristan bookmaster openai anthropicleven alpoge anthropic ecuación euler…solución extremadamente bonita, interesante, que se puede explicar desde el punto de vista de la física; tiene un sentido físico, que combina ideas del trabajo de Diego Córdoba y de Luis Martínez Zoroa, también del trabajo que como comentaba Gastón de Leven. Alpoge y Bookmaster, Tristan Bookmaster y Leven Alpoge que estaban trabajando con OpenAI y con Anthropic por su cuenta; Leven Alpoge es trabajador de Anthropic pero no trabajaba en la empresa Anthropic en esto, esto lo hacía en plan por su cuenta y llevan trabajando como un año y medio en usar las técnicas de Diego Córdoba para atacar estas ecuaciones: la ecuación de Euler, la ecuación de Naberstocks. Y cuando estaban ya obteniendo un resultado, de repente OPNIA y se le enciende la bombilla y decide trabajar en eso. ¿Qué es lo que han hecho? La solución es muy bonita y muy sencilla. La idea es la siguiente: imaginemos que yo tengo un vórtice, una solución de tipo vórtice. Cuando yo tengo una solución de tipo vórtice, lo que tengo es un fluido que se mueve como una espiral que se dirige como a un…
Gastón Giribet introduce la controversia surgida tras los avances realizados por OpenAI en la resolución del problema matemático, mencionando el trabajo de Levent Alpogé en Anthropic y el de Buckmaster en el Instituto Curran de Matemáticas.
Habla: Gastón GiribetSignificado #6 · Palabras #11trabajo de alpoge en anthropicbookmaster instituto curran matemáticasinteligencias artificiales resolución matemáticacompetencia de openai con anthropictrabajo de alpogué en anthropicinvestigación académica de alpoguécolega matemático de alpoguétrabajo de alpogé en anthropicproblemas matemáticos importante bookmastermillón de dólares por problemas…la demostración, digamos, la parte final que ha estado contando Francis, que es la de OpenAI, hecha con esos 10.000 agentes con esos 15 millones de dólares gastados en tokens, con ese modelo súper avanzado; es donde se ha dado el paso final sobre esto. Y ahora aquí es donde viene la controversia, que no sé si alguno de ustedes quiere contarla. Claro, sí, la idea de grosso modo es esto: Alpoge trabaja para Anthropic, que es la, digamos, la competencia. La competencia, la principal competencia de OpenAI. Y Bookmaster trabaja acá en el Instituto Curran de Matemáticas, el Departamento de Física de la Universidad de Nueva York. Trabajan juntos, hacía mucho que estaban trabajando en este tema y usaron muchas inteligencias artificiales. Es importante mencionar que Alpogué, aunque trabaja en Anthropic, pero esto que está haciendo aquí es como que no tiene nada que ver con su trabajo académico, que no es institucional, no tiene que ver con Anthropic. Él trabaja en Anthropic, pero trabaja con su colega matemático también en este. Problema. Pero está bien la aclaración: no es Anthropic contra OpenAI, es un trabajador que trabaja casualmente en Anthropic a pesar de que hace esto en su tiempo libre, digamos, en su tiempo libre y resuelve problemas matemáticos importantes que le dan un millón de dólares a la gente y trabaja con Bookmaster, que es un reconocido experto en estos. Temas: La cuestión es que, bueno, estaban trabajando en esto; usaron muchas inteligencias artificiales, en particular usaron Codex, entonces ese es el problema porque hubo un rumor en OpenAI de que estos dos matemáticos se estaban acercando a resolver casos…
Francis Villatoro y Gastón Giribet discuten un rumor sobre el trabajo de Anthropic en problemas matemáticos, específicamente cómo este rumor llegó a Terence Tao y posteriormente a OpenAI.
Habla: Francis VillatoroSignificado #17 · Palabras #8anthropic y ecuaciones navier stokesrumor sobre anthropictrabajo de anthropic problemas matemáticosterence tao comentarios redes socialesrumor llega a openai competenciaanthropic y openai redirigen recursos10000 agentes trabajan en problemas matemáticosdisputa por resultados de investigadorestristamook master cuestiona a openai…o sea, quiero decir, el rumor de que estos matemáticos estaban trabajando en eso y de esto no hay controversia, hizo que haya un cambio de atención en los problemas que OpenAI estaba tratando. Entonces, como pongamos más recursos para resolver ese problema. Me permite una pequeña aclaración, Gastón. El rumor era que Anthropic, la empresa, estaba trabajando en Nave de Stocks. No sé bien cuál fue el rumor, porque no tenemos acceso a eso. Porque Leven trabajaba para Anthropic, pero en realidad no era Anthropic. Bueno, no sabemos bien cuál fue el rumor, en realidad. No sabemos bien cuál fue el rumor, porque a eso no tenemos acceso. Pero se cree, se especula con que el rumor era que Anthropic estaba trabajando en eso. porque un empleado de Anthropic era uno de los que estaba trabajando en eso. Exactamente, ese era el rumor, eso le llegó a Terence Tao, que lo hizo varios comentarios en redes sociales, a muchos matemáticos, el rumor estaba ahí, ¿no? Está bien, está bien. Y ese rumor es el que le llega a OpenAI y que dice, ¿eh, que la competencia está trabajando en ese problema? Sí, sí. Me voy a poner yo a... Me quiero limitar a lo que está documentado, al menos en algún lado escrito, digamos; ¿no? Es cierto que se dice que el rumor era que Anthropic estaba trabajando esto, OpenAI cambia recursos para trabajar más en esto, pone miles de agentes, 10.000 agentes a trabajar durante 4 días en esto, 88 horas en esto, y bueno, sale el anuncio de que ellos tienen la solución al problema. Entonces aparece una especie de disputa ahí porque Tristamook Master empieza a decirle a OpenAI: Ey, ustedes estuvieron usando, porque nosotros estamos usando su AI, ¿fue entrenada con nuestros resultados? O sea, sobre todo porque había ciertos rasgos de la solución, de cosas que no se te van a ocurrir a vos si no viste mi trabajo Ese era el problema principal uno cuando trabaja se da cuenta que hay ciertos trucos que es muy poco probable que se le ocurran a…
Gastón Giribet explica cómo OpenAI presionó para que uno de los autores fuera excluido del trabajo debido a su empleo en Anthropic, a pesar de que esta empresa no estuviera directamente involucrada en la investigación. Además, OpenAI ofreció a Bookmaster la posibilidad de publicar el trabajo.
Habla: Héctor SocasSignificado #5 · Palabras #3bookmaster sin poder fire openaiempleado de anthropic excluido por openaibookmaster publicación trabajo euler openaiopenai ofrece publicar a bookmasterdos opciones para bookmaster euler…OpenAI estaba mirando, o al menos dice no haber estado mirando la carpeta del usuario pero sí que ha sido entrenada con lo que los usuarios estaban haciendo con los recursos de OpenAI Astral, entonces ahí aparece una controversia y la controversia empezó a Subir de tensión, pero recordemos que estamos hablando de dos académicos, porque Alpogea, aunque trabaje en Anthropic, acá era un particular, y Bookmaster, que es un profesor universitario, no tiene el poder de fuego de una empresa como OpenAI, y las comunicaciones con OpenAI empezaron a subir de tono y fueron muy agresivos; primero empezaron a negociar como que Alpogea no Podía estar en el trabajo. ¿Por qué? Porque ser empleado de Anthropic, OpenAI pedía que sacaran a uno de los autores solamente porque era empleado de Anthropic, aunque no tuviese nada que ver Anthropic con todo esto, a lo cual ellos se negaron. Por otro lado, Gastón, una puntualización, porque, claro, para explicar cómo es que OpenAI está diciendo de sacar el trabajo a otros y se supone que estaban independientes y tal, es que OpenAI le ofreció a Bookmaster decir, bueno, vale, tú has estado trabajando en esto, públicalo tú, decía OpenAI, nosotros no necesitamos el crédito, o sea, nosotros, tú lo puedes publicar, si quieres. Dices que, de hecho le ofrecieron dos, según dice Bookmaster en una nota que publicó, le ofrecieron dos opciones: una es, o bien tú publica lo que tienes sobre Euler, y luego al día siguiente nosotros publicamos la solución completa. Tenía que decir que OpenAI tenía un resultado al respecto. Esa es. La segunda opción, espera, es que le dieron dos opciones; lo tengo aquí, tengo delante la, bueno, eso es lo que dice Bookmaster en una nota que publicó él. Dice que le dieron dos opciones: una era que publicaran primero ellos, Bookmaster y Alpogué, lo que…
Héctor Socas introduce la perspectiva de Sebastián Bubeck, ingeniero de OpenAI, quien niega haber ejercido presión o chantaje sobre Bookmaster en relación con la autoría de un trabajo.
Habla: Héctor SocasPalabras #13empleado openai sebastian bubeckchantaje a bookmaster por autoría trabajomalentendido con anthropicpresión interpretada como chantaje…exacto; eso es lo que estoy diciendo, pero esa opción exactamente si tú lo puedes publicar y te llevas el crédito, dices que usas un modelo de OpenAI pero excluyes al Poge de autor porque bueno claro. Pero cuando ves tal como lo expresa Bookmaster en la nota, Igual hay algo de malentendido aquí, porque lo que dice el empleado de OpenAI, el ingeniero que llevaba esto en OpenAI, que se llama Sebastián Bubeck, dice: no, no, yo no le dije eso de forma como chantaje, sino le dije que hombre, que era un fastidio, que era una incomodidad, que alguien de Anthropic, o sea, como que dice que hay como un malentendido, que lo que el otro lo interpreta como una presión, un intento de chantaje, que él solo estaba diciendo que esto. Era un fastidio. Es poco creíble eso de este Sebastián, porque lo que sí reconoce haber dicho es: ok, si vos te querés cagar la carrera solo y vos querés entropear tu carrera, y eso reconoce, él mismo reconoce que lo dijo y que está arrepentido entonces yo no…
Héctor Socas y Gastón Giribet discuten una nota publicada por Bookmaster sobre una conversación con Sebastián Bubeck, ingeniero de OpenAI, en la que este último sugirió excluir a Levent Alpogé como coautor debido a su empleo en Anthropic.
Habla: Héctor SocasPalabras #15sebastian bubeck excluye a alpoguéalpogué trabaja para anthropic…que lo dijo y que está arrepentido entonces yo no creo que sea la versión moderada en la cual este Sebastián, debe ser el típico mafiosillo. Yo tengo que apostar acá en este Sebastián, no soy buen tipo. Entonces, la idea es que lo que pasó es. Pero espera, Déjame decirlo como lo pone Bookmaster en su nota: Dice, Sebastián dos veces dijo que quería que Levent, o sea, Alpogué, no estuviera como coautor y dijo que todo sería más simple si no estuviera ahí y que es una pena, que es un fastidio que Alpogué trabaje para Anthropic. Y sí, pero eso me suena a una fórmula muy americana de decir, sacalo. Sí, sí, seguramente. Eso es como acá en Estados Unidos se dicen las cosas, se dicen sin decirse, para cuidarse el culo. Eso lo que le dijo está: sacá tu trabajo de ahí. Esto que dices, Gastón, creo que es clave: lo de cuidarse el culo, porque estamos pensando en esto, lógicamente, a través del sesgo de que somos personas individuales, que rara vez estamos respondiendo ante grandes instituciones, pero esto es un monstruo, un…
Gastón Giribet plantea un escenario hipotético sobre el uso compartido de sistemas de IA como los de OpenAI o Anthropic por parte de científicos a nivel mundial, imaginando que estos datos conducen al descubrimiento de una cura para el cáncer.
Habla: Gastón GiribetSignificado #2 · Palabras #1uso compartido openai o anthropicdescubrimiento cura del cáncerconocimiento científicos del mundosistemas ia cloud chatgpt astra…buenísimo, avanza el conocimiento de la humanidad y como resultado vale la pena, y listo, yo me quedo con eso. Ahora, después está la discusión de los créditos, del dinero, de la gloria, del ego, todas esas cosas que son importantes también de las acciones. Esas discusiones de: hay que repensar la autoría, hay que repensar el concepto de original, hay que repensar muchas cosas. Vamos a jugar un toy model. Supongamos que todo el conocimiento de todos los científicos del mundo, que estamos todos usando sistemas, no necesariamente de OpenAI, pero de Anthropic, Cloud, o ChatGPT, Astra, lo que fuere, estamos todos usando esto, y de repente estos datos se usan, se usan, se usan, se usan, se usan, se usan, se usan, química orgánica, química orgánica, y de repente encuentran la cura del cáncer. Para dar un golpe bajo, porque si no estamos hablando de Navier Stock, ¿a quién carajo le importa esto? Pero supongamos que de repente encontramos algo, porque yo creo que la cura de muchas enfermedades esenciales que tenemos hoy van a ser curadas usando…
Ignacio Crespo comenta sobre una persona que abandonó Anthropic y critica su actitud, señalando que tanto esta empresa como OpenAI comparten similitudes. Se discuten comentarios internos dentro de la empresa relacionados con este abandono.
Habla: Ignacio CrespoSignificado #19 · Palabras #14abandono de anthropic por empleadosimilitudes entre openai y anthropiccomentarios internos sobre abandonocuantificación de posibilidades tragedia…propaganda, pero para dos públicos distintos, a vos te quedó una en la retina, hay otra gente que está hablando de la otra, que es el 90%. Sí, pero ese no es la empresa. Es que la empresa no puede llegar a decir una cosa así, pero sí se la puede decir a otro. Pero es alguien que abandonó la empresa, y este es de Anthropic, por cierto, el collón. Sí, pero con él son lo mismo, no es que hay uno bueno y uno malo. Y desde dentro de la empresa ha habido comentarios sobre este abandono. Comentarios que además han decidido cuantificar las posibilidades de que efectivamente ocurra esa tragedia, indicando que en torno a un 10% de que antes de 2030 ocurra lo que nos decía Koshong. Y dices: “Ostras, entonces sí hay un mensaje que resuena con quien quieren” y una intención clara. El mismo cohete que te lleva a la luna es el que te puede caer en la cabeza. La misma bomba que mata…
Francis Villatoro comenta sobre la política de licencias gratuitas de OpenAI y Anthropic para investigadores, mencionando que OpenAI planea ofrecer hasta 100.000 licencias.
Habla: Francis VillatoroSignificado #1 · Palabras #2licencias gratuitas openai investigadoresopenai planea 100000 licencias gratisdatos científicos openai anthropicherramientas de inteligencia artificial para científicosteorías matemáticas con cómputoagi según openai y anthropicproblema del milenio en laboratorios…es un tema que a lo mejor queda para Francis. Bueno, el impacto de la IA en el tema de la ciencia se está considerando algo muy relevante, por lo que ha dicho básicamente Ignacio, porque se considera que es algo de gran valor y es algo relativamente fácil. Entonces, tanto OpenAI como Anthropic, que han estado dando licencias gratis a investigadores y grupos de investigación y iban a dar 10.000 licencias, creo que OpenAI ya quiere plantearse dar 100.000 licencias gratis a investigadores. si solo tienes que solicitarlo, hablar un poquito de tu proyecto y te dan la licencia, claro, alguien malicioso dirá que lo que quieren es robarle todos los datos a todos los científicos, pero es que de aquí a un par de años todos los científicos del mundo van a utilizar estas herramientas prácticamente gratis, financiado por estas grandes inteligencias, porque a estas empresas les interesa de vez en cuando pegar el bombazo en ciencia, porque curar el cáncer no es nada trivial porque requiere laboratorio. Requiere ensayos clínicos en persona, requiere una serie de cosas, pero demostrar teorías matemáticos o crear nuevas teorías físicas es, entre comillas, trivial porque solo requiere cómputo. Entonces, OpenAI y Anthropic van a salir a bolsa el año que viene; y lo que están haciendo ahora de estar vendiendo de nuevo la octava o la novena vez que lo cuentan, que esto es una AGI y que lo que están viendo en los laboratorios es algo absolutamente increíble, que fijaron las cosas que hacemos, que ahora hemos descubierto un problema del milenio, que después vamos a descubrir no sé qué, es fundamental. Realmente calentar la situación para que cuando salgan a bolsa sean empresas billonarias con B español, no con B americana. Trillonarios con T anglosajona. O sea, quieren entrar a lo grande en el mundo de una valoración realmente increíble en bolsa. La salida…
Ignacio Crespo interviene en la tertulia para señalar que la discusión sobre la ética de las acciones recientes de OpenAI es limitada, considerando la larga lista de controversias previas asociadas a OpenAI y Anthropic.
Habla: Ignacio CrespoSignificado #14 · Palabras #5ética de acciones recientes openaicontroversias previas openai anthropiclista de situaciones controvertidas openaigestión de datos openaidatos confidenciales sistemas gobiernolegislación inteligencia artificialcontribución altruista científica openaidudas gestión grandes inteligencias artificiales…es un gran superordenador diseñado para responder a las preguntas últimas y tal, y después de correrla durante mucho tiempo sacaron la respuesta que era 42 o creo que era eso, ¿no? Y entonces se dieron cuenta que no sabían cuál era la pregunta. Bueno, Ignacio, tu comentario. Yo creo que hay un tema importante que estamos dándole vueltas porque fijémonos qué hemos hecho: hemos estado dedicando aquí unos cuantos minutos a hablar sobre si es ético o no es ético lo que ha hecho OpenAI sobre este caso concreto, como si fuera lo peor que ha hecho. Como si no tuviéramos ya una larguísima lista por parte de OpenAI y de Anthropic de situaciones mucho más controvertidas. Y en parte es por lo que estaba diciendo Francis, porque como todo esto viene con el envoltorio de la contribución altruista científica, llama más la atención. Olvidamos todo lo demás; olvidamos que ya había dudas importantes sobre cómo se gestionan los datos por parte de las grandes inteligencias artificiales, porque no hace falta que los guarden, que es sobre lo que está muchas veces la legislación para que tomen beneficios de ellos, y que para su contribución con datos que son confidenciales de sistemas, por ejemplo, gobiernos, esté suponiendo un problema. ¿Cómo se tiene que legislar eso? Y tenemos una situación complicada que no se sabe por dónde avanzar, porque sí, la legislación es necesaria; estoy totalmente de acuerdo. Me preocupa que, por mucho que sea necesaria, idealmente, ¿cuál es el ejemplo que tenemos?: Europa. ¡Qué fantástica…
Ignacio Crespo plantea una interpretación conspiranoica sobre las filtraciones negativas relacionadas con OpenAI y Anthropic, sugiriendo que podrían ser un intento de forzar la legislación para beneficiar a estas empresas.
Habla: Ignacio CrespoPalabras #12filtraciones openai anthropiclegislación para beneficiar openaiinteligencias artificiales destrucción humanidadseguridad empresas openai anthropiccompetencia china inteligencia artificial…legislando todo! Por supuesto que sí, pero ¿dónde está Europa en esa carrera? ¿Y cuáles son los países que realmente lideran la carrera y su relación con la legislación? ¿Dónde está Estados Unidos y sobre todo dónde está China? ¿Y qué es lo que va a ocurrir? Había, por ejemplo, una interpretación que creo que es algo conspiranoica, pero bueno, está bien lanzarla; y es que todos estos comentarios que se filtran sobre lo terribles que son estas inteligencias artificiales y cómo van a destruir a la humanidad, que vienen en principio desde dentro, podrían ser un intento de forzar que se legislara, que se legislara para que salgan beneficiadas precisamente estas grandes empresas OpenAI y Anthropic; que a pesar de ser muy opacas en su forma de gestionar la seguridad son tal vez mejores que la competencia que está ofreciendo China y que cada vez está más cerca de pisar los talones por algunos motivos. Creo que no hay que llegar tampoco a estas reflexiones para entender que puede haber un beneficio en soltarlo. Ya decíamos lo de la bolsa y pensémoslo. De nuevo, es una simplificación muy grande, pero si mañana tuviéramos que poner nuestro dinero en una u…