Búsqueda · 21 momentos en 5 episodios
Modelo Gemma Google Deepmind
Con
0:000:301:001:302:002:303:003:16
Tras la intervención de Juan Carlos Gil sobre espeleología y estalactitas, Cecilia Garraffo introduce un tema relacionado con el aprendizaje multiespectral sin ejemplos, presentado por investigadores de Google Deepmind.
…es que una expedición de tres horas solía acabar convirtiéndose en doce, y la verdad es que cuando pasan más de diez horas dentro de una cueva oscura ya hay que reconocer que bastante cansado, por decirlo así. Pues muchas gracias, Juan Carlos, pero vamos. a tener que dar paso a Cecilia con el tema que nos va a comentar, un tema muy interesante sobre aprendizaje multiespectral sin ejemplos de investigadores de la empresa Google Deepmind, que es la empresa que está revolucionando la inteligencia artificial desde hace prácticamente 10 años, ¿no? Cecilia Sí, les quería contar este paper que se llama Zero Shot Multispectral Learning, así que Zero Shot se llama en inteligencia artificial cuando uno prueba un modelo que ya está entrenado Para tareas generales, cómo funciona para una tarea particular sin haberlo adaptado ni reentrenado. Eso es un Zero Shot en este contexto y acá es Multispectral Learning, aprendizaje de espectros múltiples y a lo que se refiere con eso es que, a ver, les doy…
Significado #1 · Palabras #3
Francis Villatoro anuncia que el programa abordará temas diversos, incluyendo la formación de estalagmitas y estalactitas, avances en aprendizaje computacional de Google Deepmind, entrelazamiento cuántico mediado por gravitación y cómo celebrar Halloween en un planetario.
Habla: Francis VillatoroPalabras #8estalagmitas estalactitas universidad zaragozaaprendizaje computacional multiespectral deepmindentrelazamiento cuántico gravitación canal clásicoabsorción gravitones fotones ligoshalloween planetario observación astronómica…aprovechan muchísimas facultades de física para organizar actividades divulgativas. Por ejemplo, la Gincana a la Caza de la Materia Oscura, que mañana viernes 31 de octubre, a partir de las 5.30 pm peninsulares congregará a niñas, a niños y a mayores en la Facultad de Ciencias de la Universidad de Zaragoza. Además, habrá una observación astronómica con telescopios a partir de las 8.30 pm; eso sí, si el cielo lo permite. Hoy hablaremos de cómo se forma la forma de las estalagmitas y las estalactitas. De los últimos avances en el aprendizaje computacional multiespectral de la compañía Google Deepmind, del entrelazamiento cuántico entre masas mediado por gravitación tanto en un canal clásico como en un canal cuántico, de la posible absorción de gravitones por fotones en interferómetros de ondas gravitacionales como LIGO y de cómo disfrutar de Halloween en un planetario. Y solo si da tiempo, de los últimos artículos de Google Quantum AI en la revista Nature. Les recuerdo que tenemos una página web señalerruido.com con ñ todo junto, donde pueden encontrar todos los episodios anteriores, todas las referencias a los artículos que comentamos en cada programa y recuerde que nosotras nos leemos los papers para que…
Tras la intervención de Juan Carlos Gil sobre espeleología y estalactitas, Cecilia Garraffo introduce un tema relacionado con el aprendizaje multiespectral sin ejemplos, presentado por investigadores de Google Deepmind.
Habla: Francis VillatoroSignificado #1 · Palabras #3aprendizaje multiespectral sin ejemplosinvestigadores google deepmindzero shot inteligencia artificial…es que una expedición de tres horas solía acabar convirtiéndose en doce, y la verdad es que cuando pasan más de diez horas dentro de una cueva oscura ya hay que reconocer que bastante cansado, por decirlo así. Pues muchas gracias, Juan Carlos, pero vamos. a tener que dar paso a Cecilia con el tema que nos va a comentar, un tema muy interesante sobre aprendizaje multiespectral sin ejemplos de investigadores de la empresa Google Deepmind, que es la empresa que está revolucionando la inteligencia artificial desde hace prácticamente 10 años, ¿no? Cecilia Sí, les quería contar este paper que se llama Zero Shot Multispectral Learning, así que Zero Shot se llama en inteligencia artificial cuando uno prueba un modelo que ya está entrenado Para tareas generales, cómo funciona para una tarea particular sin haberlo adaptado ni reentrenado. Eso es un Zero Shot en este contexto y acá es Multispectral Learning, aprendizaje de espectros múltiples y a lo que se refiere con eso es que, a ver, les doy…
Cecilia Garraffo reflexiona sobre un fenómeno emergente en inteligencia artificial donde un modelo especializado supera a uno generalista, sugiriendo una complejidad aún no comprendida.
Habla: Cecilia GarraffoSignificado #16modelo especializado supera modelo generalistafenómeno emergente inteligencia artificialpatrones de otro tipo en modelostamaño del modelo y complejidad…de entrenar, digamos, uno podría usar algo así. Más aún, podés tomar un modelo, hacerlo como se llama un fine tuning para algo, especializarlo en una tarea y después tomar un modelo más grande que no sabe nada del tema y va a funcionar mejor en la tarea esa. Que el modelo que funciona bien, pero lo especializaste. Es difícil explicar porque es como que gana más información de patrones de otro tipo. No lo entendemos bien. Es un fenómeno emergente quizá del tamaño. Sí, exacto, es como casi que asusta pensando en inteligencia general o el pensamiento o como a uno lo ayudas a ver música para poder pensar. No sé, es como que estos modelos estamos viendo recién ahora este fenómeno. Bueno, este paper que les quería contar. Cuanto más lo leo, menos me parece sorprendente en este mismo contexto, pero la idea acá es: dicen, ok, probamos. O sea, el problema es que los datos de teledetección satelital son complicados y si hacemos modelos, y hay modelos hechos específicamente para…
Cecilia Garraffo explica cómo el uso de modelos de lenguaje grandes con contexto puede superar a los modelos especializados en datos para ciertas tareas.
Habla: Cecilia GarraffoSignificado #17chatgpt cálculos humanosmodelo lenguaje grande contextoprompts chat chipiti información…una manera diferente y más compacta. Cuando uno quiere hacer un modelo multimodal lo más común es usar lo que se llama Contrastive Learning, que es alinear de alguna manera estos dos para tener un modelo que pueda aceptar datos y texto. Nosotros hicimos eso. Pero después encontramos que si probamos con un modelo de lenguaje grande y le damos contexto, en vez de darle los datos a un modelo de datos, dárselos directamente a un modelo de lenguaje con contexto, funciona mejor. ¿Qué diferencia hay entre contexto y educar? Si yo quiero una definición, ¿qué es dar contexto? Darle un, lo que se llama prompts es cuando uno le pide algo al chat chipiti, le da como información. Si vos le das contexto, a lo que uno se refiere en general es que le estás dando en el mismo prompt cuando le preguntas algo o cuando le das los datos; le estás diciendo que estos datos son bla bla bla bla y le hablas del contexto en general. Sin embargo, el…
Cecilia Garraffo explica la diferencia entre entrenar modelos y proporcionarles contexto, destacando su preferencia por no alimentar modelos de lenguaje con datos estructurados.
Habla: Cecilia GarraffoSignificado #19modelo genera contexto para otro modeloartículo aprovecha modelos entrenados con imágenespesos del modelo ya vienen dadoscecilía garraffo no alimenta datos estructurados…en general es que le estás dando en el mismo prompt cuando le preguntas algo o cuando le das los datos; le estás diciendo que estos datos son bla bla bla bla y le hablas del contexto en general. Sin embargo, el entrenamiento modifica los pesos, el disparo de las neuronas Claro, en este caso no estamos entrenando, estamos solamente dándole contexto, de hecho encontramos que cuando puedes también armar un modelo que hace, que genera el contexto para darle a este otro modelo Y el artículo, claro, se aprovecha de que utiliza grandes modelos que ya han sido entrenados con mi multitud de imágenes, eso es lo que te ahorras, los pesos, el modelo ya viene dado y tú ahora con contexto, sí, todavía con esto porque a mí me parece, no sé, un gusto personal es, no me gusta para nada dar datos en forma a un modelo de lenguaje porque no es pensando, capaz que esto nos lleva quizás a algo un poco Más filosófico, por suerte hay un filósofo en la sala, que es: pensamos, ¿cómo pensamos nosotros? En texto, en matemática. Yo siempre pensé: ok, hagamos un modelo matemático que use física y matemática para analizar los datos y después conectémoslo con un…