Búsqueda · 32 momentos en 16 episodios
Luisa AchaerandioIgnacio CrespoJuan Carlos GilJosé EdelsteinFrancis VillatoroHéctor SocasGastón Giribetconversaciones de matemáticos openaientrenamiento inteligencia artificial openaiproblema ético openaiautomatización entrenamiento openaisuperalineamiento control aprendizaje iainteligencias artificiales determinan aprendizaje otrasdificultad control aprendizaje inteligencias artificialesreacción acrítica inteligencia artificialFrancis VillatoroOpenAIInteligencia ArtificialHumanidadesGastón GiribetAstra
Reacción acrítica Inteligencia Artificial
Con
0:000:301:001:302:002:303:003:31
Francis Villatoro explica la dificultad creciente en el control del aprendizaje de las inteligencias artificiales, señalando que ahora son estas mismas IA las que determinan qué aprenden otras.
…una decisión humana de gente que se enteró por un rumor; más humano que escuchar un rumor y cambiar de dirección no hay. Eso es así, hubo ese cambio de dirección, pero lo que coinciden en OpenAI es que ellos no vieron el chat de estos matemáticos; es decir, Lo que ocurrió fue que las inteligencias artificiales que almacenan ciertos chaps y ciertos trozos de chaps, almacenaron trozos de los chaps de estos que se utilizaron en el entrenamiento de la nueva inteligencia artificial y por eso el problema ético es no trivial, porque la reacción que yo quería decir, el problema no es nada trivial porque todo está muy automatizado y no hay un control en OpenAI le. Llamaban superalignment, el superalineamiento, el tema de controlar realmente qué aprende, qué no aprende, cómo lo aprende la inteligencia artificial. Pero hoy en día, en el que son inteligencias artificiales las que deciden lo que las inteligencias artificiales aprenden, es extremadamente difícil porque no hay un humano que chequee, porque hay tanta cantidad de información. Y por eso digo: la reacción acrítica. La reacción casi instintiva, casi de reflejo sería: tenemos que evitar que se comparten tan libremente la información, pero eso, por eso digo que es un problema ético no trivial, porque ese compartir información, que siempre lo vemos como una cosa peyorativa,…
Significado #1 · Palabras #1
Francis Villatoro explica cómo OpenAI está trabajando en una nueva inteligencia artificial llamada Astra y otra aún en desarrollo, destacando la inversión significativa realizada para obtener resultados.
Habla: Francis VillatoroPalabras #17astra inteligencia artificial openaiinversión significativa openai astra10000 inteligencias artificiales colaborando15 millones dólares máquina openai…motor de que mucha gente trabajara en los últimos 3 años en este problema, en el problema de utilizar esta técnica, una técnica que consiste en eso: yo meto una solución y veo la respuesta, ¿vale? ¿Qué han hecho exactamente la inteligencia artificial OpenAI? Bueno, la inteligencia artificial OpenAI, estamos hablando de la última inteligencia que está en el mercado, esa que llaman Astra y una inteligencia todavía en desarrollo, una inteligencia artificial todavía en desarrollo que todavía no se ha publicado y que será el futuro de Astra. Se han puesto a trabajar 10.000, 10.000 inteligencias artificiales en paralelo y colaborando entre ellas durante 88 horas. ¿Cuántos millones de dólares vale eso? Se estima que más de 15 millones de dólares en máquina se ha gastado OpenAI para obtener este resultado. O sea que fijaros, estamos hablando de 15 millones comparado con el millón del premio. Claro, pero estas compañías piensan distinto, ¿no? Claro, claro, por supuesto. Pero quiero comentar un poco el asunto para que se vea un poco. Los dineros a veces nos muestran un poco las dificultades de los asuntos, ¿no? Entonces, lo que ha pasado es que…
Francis Villatoro explica la dificultad creciente en el control del aprendizaje de las inteligencias artificiales, señalando que ahora son estas mismas IA las que determinan qué aprenden otras.
Habla: Francis VillatoroSignificado #1 · Palabras #1conversaciones de matemáticos openaientrenamiento inteligencia artificial openaiproblema ético openaiautomatización entrenamiento openaisuperalineamiento control aprendizaje iainteligencias artificiales determinan aprendizaje otrasdificultad control aprendizaje inteligencias artificialesreacción acrítica inteligencia artificial…una decisión humana de gente que se enteró por un rumor; más humano que escuchar un rumor y cambiar de dirección no hay. Eso es así, hubo ese cambio de dirección, pero lo que coinciden en OpenAI es que ellos no vieron el chat de estos matemáticos; es decir, Lo que ocurrió fue que las inteligencias artificiales que almacenan ciertos chaps y ciertos trozos de chaps, almacenaron trozos de los chaps de estos que se utilizaron en el entrenamiento de la nueva inteligencia artificial y por eso el problema ético es no trivial, porque la reacción que yo quería decir, el problema no es nada trivial porque todo está muy automatizado y no hay un control en OpenAI le. Llamaban superalignment, el superalineamiento, el tema de controlar realmente qué aprende, qué no aprende, cómo lo aprende la inteligencia artificial. Pero hoy en día, en el que son inteligencias artificiales las que deciden lo que las inteligencias artificiales aprenden, es extremadamente difícil porque no hay un humano que chequee, porque hay tanta cantidad de información. Y por eso digo: la reacción acrítica. La reacción casi instintiva, casi de reflejo sería: tenemos que evitar que se comparten tan libremente la información, pero eso, por eso digo que es un problema ético no trivial, porque ese compartir información, que siempre lo vemos como una cosa peyorativa,…
Gastón Giribet expresa su preocupación sobre una visión idealizada y poco crítica de la inteligencia artificial, especialmente dentro del ámbito de las humanidades.
Habla: Gastón GiribetSignificado #2 · Palabras #2inteligencia artificial humanidadesmirada acrítica inteligencia artificialchat gpt versión gratis académicoscaverna de la creatividad…en la que me habla de su riesgo. Ellos también son un poco apocalípticos porque es una prueba de poder y porque, por otro lado, si es aquel que tiene la posibilidad de matarme, es aquel que tiene también el control de no hacerlo. Eso es una cosa importante. Lo que sí yo veo nefasto, más que el riesgo de la inteligencia artificial, es la mirada boba, acrítica, romántica, nostálgica, que pulula en muchas áreas de las humanidades donde la inteligencia artificial es vista como una cosa fría, innecesaria, como que una especie de juego de académicos que evalúan lo que está pasando en función de su propia experiencia personal con chat GPT versión gratis. Esa visión de creer todavía que nos podemos refugiar en la oscura caverna de la creatividad. Esa es la más peligrosa de las actitudes, porque esto va a seguir avanzando y nos va a descubrir a todos en pelotas como cuando Francis quiere tirar su ropa en el hielo para alejarse del agua; más vale que estemos todos muy preparados y lo que decía Héctor…