Búsqueda · 26 momentos en 15 episodios
María RibesBorja TosarGastón GiribetFrancis VillatoroHéctor Socasalgoritmos de gradiente para mínimosmínimos locales y algoritmos estocásticosvalles más profundos como mínimos globalesfrancis villatoro explica el aprendizajealgoritmos aprendizaje evitar mínimos localesmodelo para evitar mínimos localesmodelo maml minimiza informaciónagnosticismo respecto al modelo mamlmínimos locales en aprendizaje mamlFrancis VillatoroMAML
Algoritmo de gradiente converge
Con
0:000:301:001:302:002:303:003:33
Francis Villatoro explica cómo los algoritmos de gradiente funcionan para encontrar mínimos en un 'paisaje de máximos y mínimos' durante el proceso de aprendizaje.
…que va modificando la profundidad de los valles y la posición de los valles y la posición de las montañas va cambiando ese paisaje en el proceso de aprendizaje y cuando tú quieres para una entrada concreta ver qué resultado tienes que ofrecer lo que tú Aplicas es un algoritmo de gradiente que lo que hace es como caer por estos valles e ir buscando los mínimos. Suele ser algoritmos que tienen una componente estocástica que hace que puedas evitar ciertos valles que son los que llaman mínimos locales, para tratar de buscar valles más profundos que son los mínimos más próximos a los globales, ¿no? Tú nunca tienes garantía de que hayas alcanzado un buen mínimo global. Entonces el algoritmo de gradiente que son rápidos, porque claro tú tienes que evitar los mínimos locales. Tú no puedes aplicar un gradiente completamente agnóstico en el sentido de que aplicas el gradiente y esperas a que converja, porque seguro va a converger un mínimo. Tienes que aplicar Una serie de información sobre lo que tú esperas de ese paisaje para poder evitar los mínimos locales. Entonces ahí tienes que aplicar un modelo. Ese es el modelo que se aplica. Entonces se han propuesto diferentes modificaciones de este tipo de algoritmos que evitan estos mínimos locales y que utilizan ciertos modelos. Y el modelo agnóstico, el MAML era una de las propuestas que trataba de ser lo más agnóstica posible respecto al modelo. Es decir, usar la menor información posible respecto a cómo yo espero que sea el paisaje para evitar esos mínimos locales y converger, pero tendría que volver a repasarme la matemática porque eso lo mide yo hace siglos y ya no me acuerdo de los detalles técnicos de cómo exactamente lo evitaban. Yo creo que nos lo has explicado muy bien; creo que nos lo has explicado muy bien. Me he encontrado los autores que os decía: el trabajo es de Yang y Piantadosi, y es de 2022, en el que ellos se basaban. Así que pues yo lo he entendido mejor ahora. Bueno, no…
Significado #1 · Palabras #1
Francis Villatoro explica cómo los algoritmos de gradiente funcionan para encontrar mínimos en un 'paisaje de máximos y mínimos' durante el proceso de aprendizaje.
Habla: Francis VillatoroSignificado #1 · Palabras #1algoritmos de gradiente para mínimosmínimos locales y algoritmos estocásticosvalles más profundos como mínimos globalesfrancis villatoro explica el aprendizajealgoritmos aprendizaje evitar mínimos localesmodelo para evitar mínimos localesmodelo maml minimiza informaciónagnosticismo respecto al modelo mamlmínimos locales en aprendizaje maml…que va modificando la profundidad de los valles y la posición de los valles y la posición de las montañas va cambiando ese paisaje en el proceso de aprendizaje y cuando tú quieres para una entrada concreta ver qué resultado tienes que ofrecer lo que tú Aplicas es un algoritmo de gradiente que lo que hace es como caer por estos valles e ir buscando los mínimos. Suele ser algoritmos que tienen una componente estocástica que hace que puedas evitar ciertos valles que son los que llaman mínimos locales, para tratar de buscar valles más profundos que son los mínimos más próximos a los globales, ¿no? Tú nunca tienes garantía de que hayas alcanzado un buen mínimo global. Entonces el algoritmo de gradiente que son rápidos, porque claro tú tienes que evitar los mínimos locales. Tú no puedes aplicar un gradiente completamente agnóstico en el sentido de que aplicas el gradiente y esperas a que converja, porque seguro va a converger un mínimo. Tienes que aplicar Una serie de información sobre lo que tú esperas de ese paisaje para poder evitar los mínimos locales. Entonces ahí tienes que aplicar un modelo. Ese es el modelo que se aplica. Entonces se han propuesto diferentes modificaciones de este tipo de algoritmos que evitan estos mínimos locales y que utilizan ciertos modelos. Y el modelo agnóstico, el MAML era una de las propuestas que trataba de ser lo más agnóstica posible respecto al modelo. Es decir, usar la menor información posible respecto a cómo yo espero que sea el paisaje para evitar esos mínimos locales y converger, pero tendría que volver a repasarme la matemática porque eso lo mide yo hace siglos y ya no me acuerdo de los detalles técnicos de cómo exactamente lo evitaban. Yo creo que nos lo has explicado muy bien; creo que nos lo has explicado muy bien. Me he encontrado los autores que os decía: el trabajo es de Yang y Piantadosi, y es de 2022, en el que ellos se basaban. Así que pues yo lo he entendido mejor ahora. Bueno, no…