Búsqueda · 29 momentos en 11 episodios
Luisa AchaerandioIgnacio CrespoJuan Carlos GilJosé EdelsteinFrancis VillatoroHéctor SocasGastón Giribetsuperalineamiento control aprendizaje iainteligencias artificiales determinan aprendizaje otrasdificultad control aprendizaje inteligencias artificialesreacción acrítica inteligencia artificialFrancis VillatoroOpenAIIsaac AsimovLa última preguntaMultivac
Superalineamiento control aprendizaje ia
Con
0:000:301:001:302:002:303:003:31
Francis Villatoro explica la dificultad creciente en el control del aprendizaje de las inteligencias artificiales, señalando que ahora son estas mismas IA las que determinan qué aprenden otras.
…que se utilizaron en el entrenamiento de la nueva inteligencia artificial y por eso el problema ético es no trivial, porque la reacción que yo quería decir, el problema no es nada trivial porque todo está muy automatizado y no hay un control en OpenAI le. Llamaban superalignment, el superalineamiento, el tema de controlar realmente qué aprende, qué no aprende, cómo lo aprende la inteligencia artificial. Pero hoy en día, en el que son inteligencias artificiales las que deciden lo que las inteligencias artificiales aprenden, es extremadamente difícil porque no hay un humano que chequee, porque hay tanta cantidad de información. Y por eso digo: la reacción acrítica. La reacción casi instintiva, casi de reflejo sería: tenemos que evitar que se comparten tan libremente la información, pero eso, por eso digo que es un problema ético no trivial, porque ese compartir información, que siempre lo vemos como una cosa peyorativa,…
Significado #1 · Palabras #1
Francis Villatoro explica la dificultad creciente en el control del aprendizaje de las inteligencias artificiales, señalando que ahora son estas mismas IA las que determinan qué aprenden otras.
Habla: Francis VillatoroSignificado #1 · Palabras #1superalineamiento control aprendizaje iainteligencias artificiales determinan aprendizaje otrasdificultad control aprendizaje inteligencias artificialesreacción acrítica inteligencia artificial…que se utilizaron en el entrenamiento de la nueva inteligencia artificial y por eso el problema ético es no trivial, porque la reacción que yo quería decir, el problema no es nada trivial porque todo está muy automatizado y no hay un control en OpenAI le. Llamaban superalignment, el superalineamiento, el tema de controlar realmente qué aprende, qué no aprende, cómo lo aprende la inteligencia artificial. Pero hoy en día, en el que son inteligencias artificiales las que deciden lo que las inteligencias artificiales aprenden, es extremadamente difícil porque no hay un humano que chequee, porque hay tanta cantidad de información. Y por eso digo: la reacción acrítica. La reacción casi instintiva, casi de reflejo sería: tenemos que evitar que se comparten tan libremente la información, pero eso, por eso digo que es un problema ético no trivial, porque ese compartir información, que siempre lo vemos como una cosa peyorativa,…
Luisa Achaerandio menciona el cuento 'La última pregunta' de Isaac Asimov, relacionándolo con la inteligencia artificial y la necesidad de auditoría y regulación para evitar respuestas inesperadas.
Habla: Luisa AchaerandioPalabras #20la última pregunta isaac asimovmultivac supercomputadora giganteauditoría y regulación de iainteligencia artificial impregna todo…y hace mucho tiempo que me llamaba la atención ese conjunto de palabras auditoría de algoritmos que antes decía. Pero bueno es que es posible que esto se haga, pues sí realmente puede existir y es muy necesario y luego simplemente que me he acordado, no sé si ¿Conocéis el cuento de Isaac Asimov, La última pregunta?, que está relacionado con dos técnicos borrachos que le hacen la pregunta por primera vez a la Multivac, que es una supercomputadora gigante y al final pues tiene como un final inesperado. No lo digo porque es muy cortito, pero es muy relevante y también tiene que ver con eso, con la IA a todos los niveles; está impregnando todo. Queremos hacerle unas preguntas relevantes, y al final, pues quizás tengamos unas respuestas inesperadas si, digamos, no controlamos partes del proceso tan básicas como es la auditoría y la regulación. Me dejas ahora con la intriga: voy a tener que buscar esa historia, pero me recordaste un poco a la guía del autoestopista galáctico, que la Tierra en realidad es un gran superordenador diseñado para responder a las preguntas últimas y tal, y después de correrla durante mucho tiempo sacaron la respuesta que era 42 o creo que era eso, ¿no? Y entonces se…