Búsqueda · 28 momentos en 17 episodios
Luisa AchaerandioIgnacio CrespoJuan Carlos GilJosé EdelsteinFrancis VillatoroHéctor SocasGastón Giribetconversaciones de matemáticos openaientrenamiento inteligencia artificial openaiproblema ético openaiautomatización entrenamiento openaisuperalineamiento control aprendizaje iainteligencias artificiales determinan aprendizaje otrasdificultad control aprendizaje inteligencias artificialesreacción acrítica inteligencia artificialFrancis VillatoroOpenAI
Dificultad control aprendizaje Inteligencias Artificiales
Con
0:000:301:001:302:002:303:003:31
Francis Villatoro explica la dificultad creciente en el control del aprendizaje de las inteligencias artificiales, señalando que ahora son estas mismas IA las que determinan qué aprenden otras.
…una decisión humana de gente que se enteró por un rumor; más humano que escuchar un rumor y cambiar de dirección no hay. Eso es así, hubo ese cambio de dirección, pero lo que coinciden en OpenAI es que ellos no vieron el chat de estos matemáticos; es decir, Lo que ocurrió fue que las inteligencias artificiales que almacenan ciertos chaps y ciertos trozos de chaps, almacenaron trozos de los chaps de estos que se utilizaron en el entrenamiento de la nueva inteligencia artificial y por eso el problema ético es no trivial, porque la reacción que yo quería decir, el problema no es nada trivial porque todo está muy automatizado y no hay un control en OpenAI le. Llamaban superalignment, el superalineamiento, el tema de controlar realmente qué aprende, qué no aprende, cómo lo aprende la inteligencia artificial. Pero hoy en día, en el que son inteligencias artificiales las que deciden lo que las inteligencias artificiales aprenden, es extremadamente difícil porque no hay un humano que chequee, porque hay tanta cantidad de información. Y por eso digo: la reacción acrítica. La reacción casi instintiva, casi de reflejo sería: tenemos que evitar que se comparten tan libremente la información, pero eso, por eso digo que es un problema ético no trivial, porque ese compartir información, que siempre lo vemos como una cosa peyorativa,…
Significado #1 · Palabras #1
Francis Villatoro explica la dificultad creciente en el control del aprendizaje de las inteligencias artificiales, señalando que ahora son estas mismas IA las que determinan qué aprenden otras.
Habla: Francis VillatoroSignificado #1 · Palabras #1conversaciones de matemáticos openaientrenamiento inteligencia artificial openaiproblema ético openaiautomatización entrenamiento openaisuperalineamiento control aprendizaje iainteligencias artificiales determinan aprendizaje otrasdificultad control aprendizaje inteligencias artificialesreacción acrítica inteligencia artificial…una decisión humana de gente que se enteró por un rumor; más humano que escuchar un rumor y cambiar de dirección no hay. Eso es así, hubo ese cambio de dirección, pero lo que coinciden en OpenAI es que ellos no vieron el chat de estos matemáticos; es decir, Lo que ocurrió fue que las inteligencias artificiales que almacenan ciertos chaps y ciertos trozos de chaps, almacenaron trozos de los chaps de estos que se utilizaron en el entrenamiento de la nueva inteligencia artificial y por eso el problema ético es no trivial, porque la reacción que yo quería decir, el problema no es nada trivial porque todo está muy automatizado y no hay un control en OpenAI le. Llamaban superalignment, el superalineamiento, el tema de controlar realmente qué aprende, qué no aprende, cómo lo aprende la inteligencia artificial. Pero hoy en día, en el que son inteligencias artificiales las que deciden lo que las inteligencias artificiales aprenden, es extremadamente difícil porque no hay un humano que chequee, porque hay tanta cantidad de información. Y por eso digo: la reacción acrítica. La reacción casi instintiva, casi de reflejo sería: tenemos que evitar que se comparten tan libremente la información, pero eso, por eso digo que es un problema ético no trivial, porque ese compartir información, que siempre lo vemos como una cosa peyorativa,…