Búsqueda · 27 momentos en 13 episodios
Luisa AchaerandioIgnacio CrespoJuan Carlos GilJosé EdelsteinFrancis VillatoroHéctor SocasGastón Giribetcuidarse el culo openaisesgo personas individualesdecisiones openai marketingGastón GiribetIgnacio CrespoOpenAIEstados UnidosNavier StokesAstraFrancis VillatoroHéctor SocasSam AltmanChatGPTAnthropicBookmasterLevent AlpogéEulerCodexSebastián Bubeck
Decisiones OpenAI marketing
Con
0:000:301:001:302:002:303:003:31
Ignacio Crespo destaca la importancia de la frase 'cuidarse el culo' para entender las acciones de OpenAI, argumentando que estas decisiones son impulsadas por estrategias de marketing y no por consideraciones individuales.
…para Anthropic. Y sí, pero eso me suena a una fórmula muy americana de decir, sacalo. Sí, sí, seguramente. Eso es como acá en Estados Unidos se dicen las cosas, se dicen sin decirse, para cuidarse el culo. Eso lo que le dijo está: sacá tu trabajo de ahí. Esto que dices, Gastón, creo que es clave: lo de cuidarse el culo, porque estamos pensando en esto, lógicamente, a través del sesgo de que somos personas individuales, que rara vez estamos respondiendo ante grandes instituciones, pero esto es un monstruo, un monstruo en el que todas estas decisiones que estamos viendo se deben a cuestiones de marketing. Bueno, lo Peor que te puede pasar es quedar sin trabajo; tampoco es tan serio, no pasó a todos, así que hay cosas que valen más. Claro, pero que totalmente no estoy excusando para nada, estoy diciendo que... No, porque si no estamos cayendo en la cosa de que yo no…
Significado #1 · Palabras #1
Gastón Giribet explica cómo un rumor sobre el progreso de dos matemáticos en la resolución de casos específicos de un problema llevó a OpenAI a redirigir sus esfuerzos y destinar más recursos.
Habla: Gastón GiribetSignificado #15 · Palabras #15rumor matemáticos acercándose a casosopenai redirige esfuerzos codexcambio de atención openai problemas…trabaja casualmente en Anthropic a pesar de que hace esto en su tiempo libre, digamos, en su tiempo libre y resuelve problemas matemáticos importantes que le dan un millón de dólares a la gente y trabaja con Bookmaster, que es un reconocido experto en estos. Temas: La cuestión es que, bueno, estaban trabajando en esto; usaron muchas inteligencias artificiales, en particular usaron Codex, entonces ese es el problema porque hubo un rumor en OpenAI de que estos dos matemáticos se estaban acercando a resolver casos particulares de este problema. Entonces eso hizo que la compañía OpenAI haga un cambio de esfuerzos, o sea, quiero decir, el rumor de que estos matemáticos estaban trabajando en eso y de esto no hay controversia, hizo que haya un cambio de atención en los problemas que OpenAI estaba tratando. Entonces, como pongamos más recursos para resolver ese problema. Me permite una pequeña aclaración, Gastón. El rumor era que Anthropic, la empresa, estaba trabajando en Nave de Stocks. No sé bien cuál fue el rumor, porque no tenemos acceso a eso. Porque Leven trabajaba para Anthropic, pero en realidad no era Anthropic.…
Héctor Socas resume una oferta realizada a Bookmaster y Levent Alpogé por parte de OpenAI, según consta en una nota publicada por el primero.
Habla: Héctor SocasSignificado #7bookmaster sin poder fire openaiempleado de anthropic excluido por openaibookmaster publicación trabajo euler openaiopenai ofrece publicar a bookmasterdos opciones para bookmaster euleroferta openai a bookmaster alpoguépublicación problema del mileniocrédito primer autor problema mileniouso modelos de openaiexclusión poge como autorempleado openai sebastian bubeckchantaje a bookmaster por autoría trabajomalentendido con anthropicpresión interpretada como chantaje…OpenAI estaba mirando, o al menos dice no haber estado mirando la carpeta del usuario pero sí que ha sido entrenada con lo que los usuarios estaban haciendo con los recursos de OpenAI Astral, entonces ahí aparece una controversia y la controversia empezó a Subir de tensión, pero recordemos que estamos hablando de dos académicos, porque Alpogea, aunque trabaje en Anthropic, acá era un particular, y Bookmaster, que es un profesor universitario, no tiene el poder de fuego de una empresa como OpenAI, y las comunicaciones con OpenAI empezaron a subir de tono y fueron muy agresivos; primero empezaron a negociar como que Alpogea no Podía estar en el trabajo. ¿Por qué? Porque ser empleado de Anthropic, OpenAI pedía que sacaran a uno de los autores solamente porque era empleado de Anthropic, aunque no tuviese nada que ver Anthropic con todo esto, a lo cual ellos se negaron. Por otro lado, Gastón, una puntualización, porque, claro, para explicar cómo es que OpenAI está diciendo de sacar el trabajo a otros y se supone que estaban independientes y tal, es que OpenAI le ofreció a Bookmaster decir, bueno, vale, tú has estado trabajando en esto, públicalo tú, decía OpenAI, nosotros no necesitamos el crédito, o sea, nosotros, tú lo puedes publicar, si quieres. Dices que, de hecho le ofrecieron dos, según dice Bookmaster en una nota que publicó, le ofrecieron dos opciones: una es, o bien tú publica lo que tienes sobre Euler, y luego al día siguiente nosotros publicamos la solución completa. Tenía que decir que OpenAI tenía un resultado al respecto. Esa es. La segunda opción, espera, es que le dieron dos opciones; lo tengo aquí, tengo delante la, bueno, eso es lo que dice Bookmaster en una nota que publicó él. Dice que le dieron dos opciones: una era que publicaran primero ellos, Bookmaster y Alpogué, lo que tenían, y al día siguiente OpenAI publicaba el resultado final del problema del milenio; o bien le ofrecieron decir tú te llevas el crédito como primer autor de todo esto y del problema del milenio. Tienes que decir eso que tú dices, Gastón; tienes que decir que lo hiciste utilizando modelos de OpenAI. Pero una de las opciones era excluir al Poge como autor exacto; eso es lo que estoy diciendo, pero esa opción exactamente si tú lo puedes publicar y te llevas el crédito, dices que usas un modelo de OpenAI pero excluyes al Poge de autor porque bueno claro. Pero cuando ves tal como lo expresa Bookmaster en la nota, Igual hay algo de malentendido aquí, porque lo que dice el empleado de OpenAI, el ingeniero que llevaba esto en OpenAI, que se llama Sebastián Bubeck, dice: no, no, yo no le dije eso de forma como chantaje, sino le dije que hombre, que era un fastidio, que era una incomodidad, que alguien de Anthropic, o sea, como que dice que hay como un malentendido, que lo que el otro lo interpreta como una presión, un intento de chantaje, que él solo estaba diciendo que esto. Era un fastidio. Es poco creíble eso de este Sebastián, porque lo que sí reconoce haber dicho es: ok, si vos te querés cagar la carrera solo y vos querés entropear tu carrera, y eso reconoce, él mismo reconoce que lo dijo y que está arrepentido entonces yo no…
Ignacio Crespo destaca la importancia de la frase 'cuidarse el culo' para entender las acciones de OpenAI, argumentando que estas decisiones son impulsadas por estrategias de marketing y no por consideraciones individuales.
Habla: Ignacio CrespoSignificado #1 · Palabras #1cuidarse el culo openaisesgo personas individualesdecisiones openai marketing…para Anthropic. Y sí, pero eso me suena a una fórmula muy americana de decir, sacalo. Sí, sí, seguramente. Eso es como acá en Estados Unidos se dicen las cosas, se dicen sin decirse, para cuidarse el culo. Eso lo que le dijo está: sacá tu trabajo de ahí. Esto que dices, Gastón, creo que es clave: lo de cuidarse el culo, porque estamos pensando en esto, lógicamente, a través del sesgo de que somos personas individuales, que rara vez estamos respondiendo ante grandes instituciones, pero esto es un monstruo, un monstruo en el que todas estas decisiones que estamos viendo se deben a cuestiones de marketing. Bueno, lo Peor que te puede pasar es quedar sin trabajo; tampoco es tan serio, no pasó a todos, así que hay cosas que valen más. Claro, pero que totalmente no estoy excusando para nada, estoy diciendo que... No, porque si no estamos cayendo en la cosa de que yo no…
Héctor Socas y Gastón Giribet discuten la posibilidad de que OpenAI haya utilizado los resultados del trabajo realizado por Bookmaster y Levent Alpogé para entrenar sus modelos de IA.
Habla: Héctor SocasSignificado #12entrenamiento openai bookmaster alpogecodex y herramientas de ia bookmasterresultados bookmaster levent alpogé…oye, le ofrecimos a Bookmaster que hiciera este trabajo con nosotros dejando fuera el amigo, no lo quiso hacer, pues vale, nosotros lo publicamos y ya está. Bueno, puede ser hasta, puede estar hasta dentro de lo que son sus derechos legítimos. Ahora bien, Y es donde viene la segunda parte del problema: ¿realmente ha habido algún tipo de información que se haya difundido desde ese uso de herramientas de IA que estaban usando Bookmaster y Alpoge en Codex y que eso haya ido directa o indirectamente a la demostración? Bueno, lo que probablemente pasó, no lo sabemos, porque acá hay, dime si direte, pero lo que probablemente pasó es que OpenAI usó en su entrenamiento los resultados de estas personas. Esto es equivalente a decir lo siguiente. Yo estoy trabajando en un problema, una demostración de un teorema de mi oficina. Pero claro, para hacer ese problema necesito recursos: necesito una lapicera, necesito un papel y necesito luz. Entonces viene el señor…
Gastón Giribet explica que la decisión de redirigir recursos para resolver un problema específico fue tomada por humanos dentro de una empresa, basándose en rumores y no en un proceso automatizado.
Habla: Gastón GiribetPalabras #2decisión humana redirigir recursosrumor sobre nabil stokes…la información que tú estás, todos tus chats, se usen en futuros entrenamientos. Y hay unas IAS que automáticamente van viendo los chats de todo el mundo y deciden qué cosas son relevantes y cuáles no. No estoy de acuerdo, Francis. En este caso no fue así. En este caso hubo una dirección de un directorio de la empresa de redirigir la atención a este problema. Esos fueron humanos tomando esa decisión. No fue que el flujo de información de los recursos de Astra de repente dijeron, che, solo la guía redirigió sus recursos para resolver el problema de Nabil Stokes. Esto fue una decisión humana de gente que se enteró por un rumor; más humano que escuchar un rumor y cambiar de dirección no hay. Eso es así, hubo ese cambio de dirección, pero lo que coinciden en OpenAI es que ellos no vieron el chat de estos matemáticos; es decir, Lo que ocurrió fue que las inteligencias artificiales que almacenan ciertos chaps y ciertos trozos de chaps, almacenaron trozos de los chaps de estos que se utilizaron en el entrenamiento de la nueva inteligencia artificial y por eso el problema ético es no…
Héctor Socas, junto con Gastón Giribet, reflexiona sobre una declaración de Sam Altman, CEO de OpenAI, quien definió el éxito de ChatGPT como una contribución al avance del conocimiento humano.
Habla: Héctor SocasPalabras #4sam altman ceo de openaichatgpt contribución conocimiento humanoempresas peleando avances científicosignacio intriga avances científicos…humano. Esa fue su respuesta. Y a mí eso siempre me llamó la atención: ¿qué ha querido decir? O sea, como que para este hombre la métrica de que esto realmente cambie el mundo sea que contribuya al conocimiento humano; eso es lo que estás pensando. Yo creo que es un vendedor de alfombras. Bueno, puede ser, pero quiero decir que es coherente. Eso suena bien para que la empresa tenga buena propaganda. No, porque podía, o sea, desde el punto de vista de marketing, puede haber dicho otras cosas. Puede haber dicho para hacer la vida mejor a la gente, para que no estemos solos, para que nuestro trabajo sea más sencillo, pero dijo contribuir al avance del conocimiento humano. Pero mira cómo será que hasta te quedó impregnado, el otro no te hubieses acordado nunca; pero es que eso me llamó la atención y es coherente con lo que hemos estado viendo, o sea, se están peleando estas empresas por demostrar que hacen avances en problemas científicos y como Ignacio a mí también me intriga eso, ¿por qué? Sí, pero fíjate que la misma semana salió dos noticias, un gran avance humano y una noticia terrible que es el otro que renunció y dice que van a destruir la humanidad y no sé qué le está hablando a dos públicos distintos, es propaganda, pero para dos…
Ignacio Crespo interviene en la tertulia para señalar que la discusión sobre la ética de las acciones recientes de OpenAI es limitada, considerando la larga lista de controversias previas asociadas a OpenAI y Anthropic.
Habla: Ignacio CrespoSignificado #6 · Palabras #12ética de acciones recientes openaicontroversias previas openai anthropiclista de situaciones controvertidas openai…es un gran superordenador diseñado para responder a las preguntas últimas y tal, y después de correrla durante mucho tiempo sacaron la respuesta que era 42 o creo que era eso, ¿no? Y entonces se dieron cuenta que no sabían cuál era la pregunta. Bueno, Ignacio, tu comentario. Yo creo que hay un tema importante que estamos dándole vueltas porque fijémonos qué hemos hecho: hemos estado dedicando aquí unos cuantos minutos a hablar sobre si es ético o no es ético lo que ha hecho OpenAI sobre este caso concreto, como si fuera lo peor que ha hecho. Como si no tuviéramos ya una larguísima lista por parte de OpenAI y de Anthropic de situaciones mucho más controvertidas. Y en parte es por lo que estaba diciendo Francis, porque como todo esto viene con el envoltorio de la contribución altruista científica, llama más la atención. Olvidamos todo lo demás; olvidamos que ya había dudas importantes sobre cómo se gestionan los datos…