Búsqueda · 27 momentos en 15 episodios
María RibesAlberto ApariciJuan Carlos GilIgnacio CrespoFrancis VillatoroHéctor SocasLuisa AchaerandioPushmeet Kohli · DeepMindThore Graepel · DeepMindreglas en inteligencia artificial modelos lenguajeevitar sobreaprendizaje repetición datosfrancis villatoro reglas inteligencia artificiallimitaciones cómputo entrenamiento modelos lenguajebillones tokens aprendizaje épocas entrenamientointeligencia artificial wikipedia todos idiomasFrancis VillatoroWikipediaInternet ArtificialJuan Carlos Gil
Francis Villatoro reglas Inteligencia Artificial
Con
0:000:301:001:302:002:303:003:33
Francis Villatoro explica cómo la aplicación de reglas a grandes modelos de lenguaje en inteligencia artificial implica que estas redes neuronales sean tan extensas como el conjunto de datos y se expongan repetidamente a los mismos datos para evitar el sobreaprendizaje.
…lo que puedes aceptar que cometa errores en las construcciones y en los modismos, que no entienda bien ciertos dejes, ciertos dobles sentidos porque ha aprendido una segunda lengua o sea, se planteaban eso como casos pilotos para montar un test de Turing y De repente, cuando te llegan los grandes modelos de lenguaje con el modelo de atención y tú aplicas una serie de reglas que nunca se habían aplicado en inteligencia artificial, que es básicamente las redes neuronales tienen que ser muy grandes, tan grandes como el conjunto de datos, y las redes no tienen que aprender muchas veces. Muéstrale todos los datos una, dos, tres, cuatro, cinco veces, pero no las muestres muchas más que sobreaprenden y entonces lo hacen peor. Son reglas muy tontas, muy sencillitas, claro. Ahora ya estás trabajando con billones, literalmente, billones de tokens en los aprendizajes y estamos hablando de una o dos épocas de entrenamiento, no más, porque literalmente no hay cómputo para hacer más; o sea, no se puede hacer más, y eso es más que suficiente. Es decir, y resulta que una inteligencia artificial recibe toda la Wikipedia y solo por ver toda la Wikipedia en todos los idiomas, ya es capaz de hablar en todos los idiomas. Pero ¿por qué habla? Y las mete ahí. Son puras correlaciones. Y hace todo eso sin necesidad de saber lo que es un verbo, lo que es un adjetivo, lo que es un plural. Pero sí lo sabe, igual que tú lo sabes y no lo sabes. O sea, la mayoría de las personas cuando estamos hablando una…
Significado #1 · Palabras #1
Francis Villatoro explica cómo la aplicación de reglas a grandes modelos de lenguaje en inteligencia artificial implica que estas redes neuronales sean tan extensas como el conjunto de datos y se expongan repetidamente a los mismos datos para evitar el sobreaprendizaje.
Habla: Francis VillatoroSignificado #1 · Palabras #1reglas en inteligencia artificial modelos lenguajeevitar sobreaprendizaje repetición datosfrancis villatoro reglas inteligencia artificiallimitaciones cómputo entrenamiento modelos lenguajebillones tokens aprendizaje épocas entrenamientointeligencia artificial wikipedia todos idiomas…lo que puedes aceptar que cometa errores en las construcciones y en los modismos, que no entienda bien ciertos dejes, ciertos dobles sentidos porque ha aprendido una segunda lengua o sea, se planteaban eso como casos pilotos para montar un test de Turing y De repente, cuando te llegan los grandes modelos de lenguaje con el modelo de atención y tú aplicas una serie de reglas que nunca se habían aplicado en inteligencia artificial, que es básicamente las redes neuronales tienen que ser muy grandes, tan grandes como el conjunto de datos, y las redes no tienen que aprender muchas veces. Muéstrale todos los datos una, dos, tres, cuatro, cinco veces, pero no las muestres muchas más que sobreaprenden y entonces lo hacen peor. Son reglas muy tontas, muy sencillitas, claro. Ahora ya estás trabajando con billones, literalmente, billones de tokens en los aprendizajes y estamos hablando de una o dos épocas de entrenamiento, no más, porque literalmente no hay cómputo para hacer más; o sea, no se puede hacer más, y eso es más que suficiente. Es decir, y resulta que una inteligencia artificial recibe toda la Wikipedia y solo por ver toda la Wikipedia en todos los idiomas, ya es capaz de hablar en todos los idiomas. Pero ¿por qué habla? Y las mete ahí. Son puras correlaciones. Y hace todo eso sin necesidad de saber lo que es un verbo, lo que es un adjetivo, lo que es un plural. Pero sí lo sabe, igual que tú lo sabes y no lo sabes. O sea, la mayoría de las personas cuando estamos hablando una…
Francis Villatoro explica cómo las inteligencias artificiales han demostrado que el juego Go, previamente considerado el más difícil para los humanos debido a su complejidad estadística, puede ser dominado por redes neuronales con un conocimiento mínimo del juego.
Habla: Francis VillatoroPalabras #9go juego complejidad estadísticaredes neuronales conocimiento mínimo gointeligencias artificiales dominan juego gofrancis villatoro explica go trivial…serbio y te vas a serbio y tienes amigos serbios, hablas perfectamente, pero no declina los objetos o los sujetos y te falta ese, pero lo aprendes sin darte cuenta Para acabar, lo resitúo donde yo quería ir, o no sé, quizás lo dije mal y desví la atención. Lo que yo quería decir es que se pensaba que el Go era un juego difícil. Se pensaba que era el juego humano más difícil, porque el cálculo estadístico trivial te daba una enorme cantidad de posibilidades; y lo que nos ha mostrado estas nuevas inteligencias artificiales es que es un juego jugado por humanos, luego trivial, es decir, con un número adecuado de tokens, una red neuronal con suficiente número de pesos sinápticos, puede, jugando sola, sin tener ningún tipo de conocimiento humano, obviamente las mínimas reglas de qué es lo que se pretende y qué es válido y qué no es válido, pero con un conocimiento ridículo del juego, infantil del juego, jugando contra sí misma, puede obtener un nivel de juego infinito comparado con el mejor humano del mundo; y eso es una cosa. Que hace 10 años era tabú decirlo, no se podía decir, era imposible, pero hoy sabemos que es trivial: es decir, todo lo que hacen los humanos habitualmente lo van a poder hacer las máquinas de manera trivial solamente escalando el tamaño. Eso no significa, y…
Francis Villatoro explica cómo las inteligencias artificiales procesan información, destacando su tendencia a trabajar con imágenes debido a la gran cantidad de datos que contienen y la facilidad para manejarlos.
Habla: Francis VillatoroSignificado #13inteligencias artificiales procesan imágenesmáquinas ven correlaciones triviales imágenestoken palabra representada como imagenfrancis villatoro inteligencia artificial…Eso no significa, y conectando con lo que Ignacio nos iba a contar, que la conciencia o que la creatividad o que otros atributos que ponemos o la misma inteligencia que ponemos a los humanos, a lo que hacemos los humanos, se pueda hacer en las máquinas. Las máquinas solo están viendo correlaciones triviales entre imágenes. Y bueno, eso es una cosa que podemos hacer. Se manejan fundamentalmente imágenes porque las imágenes te meten muchos datos en poco espacio. Y nos gusta ver los datos así. La gran revolución en Internet Artificial ha sido convertir todo a imágenes, que un token, una palabra, sea una imagen ¿Y qué representa esa imagen? Pues no sabemos muy bien, pero representa la relación entre ese token y todos los demás tokens. Pero si esa imagen tiene menos píxeles que tokens hay, ya ¿y qué? Pero la imagen representa eso. Y conforme yo voy haciendo la imagen más grande, más fluidez y…
Francis Villatoro comenta sobre los avances en la construcción de compactificaciones del modelo estándar utilizando inteligencias artificiales.
Habla: Francis VillatoroPalabras #18compactificaciones modelo estándar inteligencia artificialjuan carlos gil descubre compactificación natural…Cannabi Yau. Bueno, evidentemente es una broma pero me pareció suficientemente graciosa como para sacar la colación y que no sea yo siempre el que se lleva las tarjetas que vean que no todo es culpa mía No es que has creado escuela Héctor, este es el problema En serio, es un tema que se está trabajando en serio; es decir, hoy en día se están aplicando inteligencias artificiales para construir compactificaciones de tipo modelo estándar y se está avanzando bastante. Se han logrado miles de compactificaciones muy similares al modelo estándar gracias a inteligencias artificiales; todavía no tenemos una que realmente digamos: esta es la buena y definitiva. Muchas de ellas, cuando dejas que sea la inteligencia artificial la que automáticamente genere todo lo que es la compactificación y su espectro, acaba siendo súper engorroso porque lo que nos gustaría es una cosa natural, bella, sencilla, que tú digas: Juan lo ha descubierto, qué maravilla; y lo que tenemos ahora mismo son cosas engorrosas. Alambicadas, con ajustes finos, extraños que un humano no haría, pero se está trabajando mucho en ello; o sea, ahora mismo hay exploraciones masivas mediante inteligencia artificial. No sabemos si hay un número finito o infinito; empecemos por ahí. Pero…