Búsqueda · 37 momentos en 22 episodios
Luisa AchaerandioIgnacio CrespoJuan Carlos GilJosé EdelsteinFrancis VillatoroHéctor SocasGastón Giribetdecisión humana redirigir recursosrumor sobre nabil stokesOpenAINavier StokesAstraGastón GiribetFrancis VillatoroIgnacio CrespoCodexAnthropicTristamook MasterBuckmasterAlpoguéRAM
Decisión humana redirigir recursos
Con
0:000:301:001:302:002:303:003:31
Gastón Giribet explica que la decisión de redirigir recursos para resolver un problema específico fue tomada por humanos dentro de una empresa, basándose en rumores y no en un proceso automatizado.
…la información que tú estás, todos tus chats, se usen en futuros entrenamientos. Y hay unas IAS que automáticamente van viendo los chats de todo el mundo y deciden qué cosas son relevantes y cuáles no. No estoy de acuerdo, Francis. En este caso no fue así. En este caso hubo una dirección de un directorio de la empresa de redirigir la atención a este problema. Esos fueron humanos tomando esa decisión. No fue que el flujo de información de los recursos de Astra de repente dijeron, che, solo la guía redirigió sus recursos para resolver el problema de Nabil Stokes. Esto fue una decisión humana de gente que se enteró por un rumor; más humano que escuchar un rumor y cambiar de dirección no hay. Eso es así, hubo ese cambio de dirección, pero lo que coinciden en OpenAI es que ellos no vieron el chat de estos matemáticos; es decir, Lo que ocurrió fue que las inteligencias artificiales que almacenan ciertos chaps y ciertos trozos de chaps, almacenaron trozos de los chaps de estos que se utilizaron en el entrenamiento de la nueva inteligencia artificial y por eso el problema ético es no…
Significado #1 · Palabras #1
Gastón Giribet explica cómo un rumor sobre el progreso de dos matemáticos en la resolución de casos específicos de un problema llevó a OpenAI a redirigir sus esfuerzos y destinar más recursos.
Habla: Gastón GiribetPalabras #3rumor matemáticos acercándose a casosopenai redirige esfuerzos codexcambio de atención openai problemas…trabaja casualmente en Anthropic a pesar de que hace esto en su tiempo libre, digamos, en su tiempo libre y resuelve problemas matemáticos importantes que le dan un millón de dólares a la gente y trabaja con Bookmaster, que es un reconocido experto en estos. Temas: La cuestión es que, bueno, estaban trabajando en esto; usaron muchas inteligencias artificiales, en particular usaron Codex, entonces ese es el problema porque hubo un rumor en OpenAI de que estos dos matemáticos se estaban acercando a resolver casos particulares de este problema. Entonces eso hizo que la compañía OpenAI haga un cambio de esfuerzos, o sea, quiero decir, el rumor de que estos matemáticos estaban trabajando en eso y de esto no hay controversia, hizo que haya un cambio de atención en los problemas que OpenAI estaba tratando. Entonces, como pongamos más recursos para resolver ese problema. Me permite una pequeña aclaración, Gastón. El rumor era que Anthropic, la empresa, estaba trabajando en Nave de Stocks. No sé bien cuál fue el rumor, porque no tenemos acceso a eso. Porque Leven trabajaba para Anthropic, pero en realidad no era Anthropic.…
Gastón Giribet explica cómo un rumor sobre el trabajo de Anthropic en problemas matemáticos llevó a OpenAI a redirigir recursos y desarrollar una solución, lo que generó una disputa sobre la posible utilización de los resultados de otros investigadores.
Habla: Gastón GiribetPalabras #5anthropic y openai redirigen recursos10000 agentes trabajan en problemas matemáticosdisputa por resultados de investigadorestristamook master cuestiona a openai…que lo hizo varios comentarios en redes sociales, a muchos matemáticos, el rumor estaba ahí, ¿no? Está bien, está bien. Y ese rumor es el que le llega a OpenAI y que dice, ¿eh, que la competencia está trabajando en ese problema? Sí, sí. Me voy a poner yo a... Me quiero limitar a lo que está documentado, al menos en algún lado escrito, digamos; ¿no? Es cierto que se dice que el rumor era que Anthropic estaba trabajando esto, OpenAI cambia recursos para trabajar más en esto, pone miles de agentes, 10.000 agentes a trabajar durante 4 días en esto, 88 horas en esto, y bueno, sale el anuncio de que ellos tienen la solución al problema. Entonces aparece una especie de disputa ahí porque Tristamook Master empieza a decirle a OpenAI: Ey, ustedes estuvieron usando, porque nosotros estamos usando su AI, ¿fue entrenada con nuestros resultados? O sea, sobre todo porque había ciertos rasgos de la solución, de cosas que no se te van a ocurrir a vos si no viste mi trabajo Ese era el problema principal uno cuando trabaja se da cuenta que hay ciertos trucos que es muy poco probable que se le ocurran a…
Gastón Giribet explica que la decisión de redirigir recursos para resolver un problema específico fue tomada por humanos dentro de una empresa, basándose en rumores y no en un proceso automatizado.
Habla: Gastón GiribetSignificado #1 · Palabras #1decisión humana redirigir recursosrumor sobre nabil stokes…la información que tú estás, todos tus chats, se usen en futuros entrenamientos. Y hay unas IAS que automáticamente van viendo los chats de todo el mundo y deciden qué cosas son relevantes y cuáles no. No estoy de acuerdo, Francis. En este caso no fue así. En este caso hubo una dirección de un directorio de la empresa de redirigir la atención a este problema. Esos fueron humanos tomando esa decisión. No fue que el flujo de información de los recursos de Astra de repente dijeron, che, solo la guía redirigió sus recursos para resolver el problema de Nabil Stokes. Esto fue una decisión humana de gente que se enteró por un rumor; más humano que escuchar un rumor y cambiar de dirección no hay. Eso es así, hubo ese cambio de dirección, pero lo que coinciden en OpenAI es que ellos no vieron el chat de estos matemáticos; es decir, Lo que ocurrió fue que las inteligencias artificiales que almacenan ciertos chaps y ciertos trozos de chaps, almacenaron trozos de los chaps de estos que se utilizaron en el entrenamiento de la nueva inteligencia artificial y por eso el problema ético es no…
Gastón Giribet critica la hipocresía en torno a la inteligencia artificial, señalando que algunos humanistas buscan limitarla porque no la necesitan. Además, aclara que los matemáticos Buckmaster y Alpogué no tenían una solución completa al problema que se discute.
Habla: Héctor SocasSignificado #9hipocresía en torno a inteligencia artificialhumanistas limitan inteligencia artificialmatemáticos buckmaster alpogué problema resuelto…compartir información, que siempre lo vemos como una cosa peyorativa, se meten en mi intimidad, nos van a controlar, todo eso es verdad, como riesgo, pero también hay un costado amable en todo eso; esto también va a llevar a cosas buenas, eso quiero decir. Si no es un problema a todo el mundo, es como muchas de las gentes de humanidades que están como diciendo: ay la inteligencia artificial, cortémosla con eso, porque hay gente que no la necesita. Hay mucha hipocresía también ahí. Hay también un tema; tampoco me gustaría que nuestros oyentes se quedaran con la impresión de que estos matemáticos, Buckmaster y Alpogué, tenían el problema resuelto y esto se lo copiaron, eso sería un plan. No estamos hablando de Eso, estamos hablando de que ellos estaban trabajando en una línea que no sabemos dónde hubiera llegado, no sabemos dónde lo hubieran explotado; o sea, realmente la contribución aquí de la IA es significativa, es importante, no es que hayan robado una idea…
Ignacio Crespo comenta sobre la asignación de recursos tras escuchar rumores y cómo esto puede desincentivar el trabajo en ciertas líneas de investigación.
Habla: Ignacio CrespoSignificado #15 · Palabras #2asignación de recursos ignacio crespodesincentiva trabajo líneas investigacióncotilleo redirige recursos desarrollo…hablando también con otros profesionales, y es que es muy interesante, por supuesto, si han tenido acceso o no a estos desarrollos que han estado trabajando, pero a mí me parece que ya se puede emitir cierto juicio sobre sus acciones éticamente por el simple. Hecho de, ante un cotilleo, redirigir tal cantidad de recursos con la intención de pisar el desarrollo de otros. Independientemente de dónde cogen la idea que eso sea una posibilidad en el mundo académico es un problema. Es un problema porque desincentiva que se trabaje en esas líneas diciendo bueno si es que si sigo con la transparencia que tengo hasta ahora, estoy ofreciendo mi pie para que me lo pisen. Y hablando hace unas horas con un amigo matemático, con Roberto Jiménez Conejero, me decía a mí, me preocupa también otra cosa. Cuando presentamos solicitudes de becas o de ayudas, dejamos una lista de aquellos problemas que nos parece interesante trabajar e ideas de cómo podríamos desarrollarlos. Y eso hay veces…
Ignacio Crespo reflexiona sobre cómo las capacidades de memoria de trabajo artificiales, como una RAM, podrían transformar el enfoque a problemas complejos y plantea la necesidad de establecer principios éticos para su uso.
Habla: Ignacio CrespoSignificado #17memoria de trabajo artificial ramprincipios éticos para ramproblemas complejos con ram…proceso deductivo la memoria de trabajo es importantísima y se ve como a medida que hay un declive de la misma también hay una reducción de las contribuciones del investigador. Ojo, ¿quién tiene una memoria de trabajo absolutamente más potente que la nuestra? Una RAM. y eso va a ser va a ser relevante a la hora de tener una visión de conjunto de una nueva forma de aproximar estos problemas. Entonces, si tenemos una fuerza tan bestia, ¿cómo cambia la forma en la que trabajamos? Y sobre todo, ¿cuáles son los principios éticos para poderla utilizar? Hay un tema sobre eso que es, y si cambia qué, ¿no? Yo lo que no entiendo es esa visión medio nostálgica de, esto nos va a dejar sin trabajo, ¿y qué me importa? Es decir, mi trabajo se reconfigurará, tendré que hacer otra cosa, pero como científico, no es que…
Ignacio Crespo argumenta que la inteligencia artificial no necesariamente implica la pérdida de empleos, sino que puede liberar a los trabajadores de tareas rutinarias y engorrosas. Plantea la dificultad de implementar esta idea y cómo reestructurar el sistema para apoyar a las personas afectadas.
Habla: Ignacio CrespoSignificado #13inteligencia artificial libera tareas rutinariasreestructurar sistema afecta inteligencia artificialtareas engorrosas con inteligencia artificial…perdona; porque hay otra gente que va a sufrir la falta de trabajo, de otra manera, mucho más cruenta. Esos son los que están jodidos, no los físicos, que vamos a tener que cambiar de nuestra forma de trabajar. Pero una, solo para que quede claro, estoy. De acuerdo, pero creo que es el mismo problema al que nos enfrentamos cuando hablamos de la inteligencia artificial: no viene necesariamente a quitarnos el trabajo, sino que puede ayudar a liberarnos de determinadas rutinas que son un absoluto engorro. Y estoy de acuerdo, pero ¿cómo se implementa? Y a las personas a las que eso afecte de manera indirecta e inmediata, ¿cómo se reestructura el sistema al que pertenecen para que nos genere? Es que Juan Carlos se tiene que ir, vamos a decirle adiós. Chao, Juan Carlos, hasta otro día. Perdona, Ignacio. No, no, no hay problema. Estoy teniendo gente taladrando aquí en la pared, así que igual eso interfiere, pero me refería a eso a mí. Lo que me…