Búsqueda · 36 momentos en 25 episodios
Modelo Espacio representación Humanos
Con
0:000:301:001:302:002:303:003:16
Cecilia Garraffo explica la relación entre modelos especializados y modelos de lenguaje, destacando que ambos comparten un 'espacio latente' o espacio de representación compacta.
…Contrastive Learning. Uno tiene un modelo para los datos que te da resultados en tareas de datos, por ejemplo, cuál es la temperatura de esta observación, de este evento astrofísico de esta observación. Bueno, esos son cálculos que uno hace; puede entrenar un Modelo y por otro lado tiene un modelo de lenguaje. Los dos modelos tienen algo que se llama el espacio latente, el espacio de representación. Simplemente es un espacio en donde los datos y el texto están representados de una manera diferente y más compacta. Cuando uno quiere hacer un modelo multimodal lo más común es usar lo que se llama Contrastive Learning, que es alinear de alguna manera estos dos para tener un modelo que pueda aceptar datos y texto. Nosotros hicimos eso. Pero después encontramos que si probamos con un modelo de lenguaje grande y le damos contexto, en vez de darle los datos a un modelo de datos, dárselos directamente a un modelo de lenguaje con contexto, funciona mejor. ¿Qué diferencia hay entre contexto y…
Significado #4 · Palabras #1
Juan Carlos Gil explica que dará una charla titulada 'Las cosas del espacio van despacio' en Naukas Valladolid, donde compartirá su visión personal sobre el estado actual y el futuro deseado del espacio para el beneficio de la humanidad.
Habla: Juan Carlos GilPalabras #12charla naukas valladolid espaciovisión personal del espacio gilbeneficio de la humanidad espacio…dijo que tú eras de Valladolid. Pues me parece estupendo, vamos, la única conexión es que aprovecho, el sábado dentro de 10 días, no este, el 8 de noviembre, daré una charla en Naukas Valladolid. Mira, pues aprovechemos para comentarlo ¿de qué va tu charla? Titulada Las cosas del espacio van despacio, en Naukas Valladolid se habla del campo de actividad propio de cada uno. Mi ámbito de actividad es el espacio y durante 25 minutos daré mi visión personal de cómo está el espacio y cómo deberíamos hacer que estuviese en el futuro para beneficio de toda la humanidad. Me hacía gracia porque has dicho que se puede ver al cometa Lémon si el cielo oscuro lo permite y eso es una de las cosas que tocaré rápidamente en mi charla: La contaminación lumínica y de radiofrecuencia de las constelaciones de satélites y su impacto en la…
Cecilia Garraffo explica la relación entre modelos especializados y modelos de lenguaje, destacando que ambos comparten un 'espacio latente' o espacio de representación compacta.
Habla: Cecilia GarraffoSignificado #4 · Palabras #1espacio latente modelos especializadoscontrastive learning alineación multimodalmodelo multimodal datos y texto…Contrastive Learning. Uno tiene un modelo para los datos que te da resultados en tareas de datos, por ejemplo, cuál es la temperatura de esta observación, de este evento astrofísico de esta observación. Bueno, esos son cálculos que uno hace; puede entrenar un Modelo y por otro lado tiene un modelo de lenguaje. Los dos modelos tienen algo que se llama el espacio latente, el espacio de representación. Simplemente es un espacio en donde los datos y el texto están representados de una manera diferente y más compacta. Cuando uno quiere hacer un modelo multimodal lo más común es usar lo que se llama Contrastive Learning, que es alinear de alguna manera estos dos para tener un modelo que pueda aceptar datos y texto. Nosotros hicimos eso. Pero después encontramos que si probamos con un modelo de lenguaje grande y le damos contexto, en vez de darle los datos a un modelo de datos, dárselos directamente a un modelo de lenguaje con contexto, funciona mejor. ¿Qué diferencia hay entre contexto y…
Cecilia Garraffo argumenta que al reducir el espacio de representación para un modelo, se le obliga a 'pensar' o resumir información, imitando la forma en que los humanos procesan datos.
Habla: Cecilia GarraffoSignificado #1 · Palabras #2modelo espacio representación humanosresumir información modelosregla reproducir operaciones estudiadasguardar información tablas modelo…Pero llega un punto en el que escribís las ecuaciones; pues es muy difícil hacer todo el lenguaje a eso voy, claro, claro, sí, puede ser porque hay un espacio de representación más compacto que quizás, de hecho, creo que esto es solo lo que yo creo, no sé si. Es correcto, pero creo que cuanto uno más pequeño hace un espacio de representación para un modelo dado, más lo obliga a pensar de alguna manera; porque creo que lo que hacemos cuando pensamos es exactamente eso: es tenemos que resumir la información porque no podemos guardar tanta información, entonces tenemos que encontrar una regla que nos permita reproducir lo que estudiamos o lo que vimos en vez de aprender todas las operaciones, por ejemplo todas las tablas, una manera de poder reproducirlo sin tener que guardar tanta información. Bueno, nos fuimos por las ramas; no sé. Sí, nos fuimos por la rama. Sí, este es un artículo muy interesante y un tema. Claro, porque estos son modelos de lenguaje a los que no se les enseña a pensar ni a razonar, solamente se le da información; solo se mete información y se almacena en un formato súper exótico y ahora le pides, le ofreces unas imágenes que quizás nunca ha…
Cecilia Garraffo explica cómo los modelos de lenguaje funcionan como espacios de representación donde la cercanía entre elementos indica similitud semántica.
Habla: Cecilia GarraffoSignificado #2 · Palabras #3espacio de representaciones similitud semánticaprompt ubicación significado semánticomodelo lenguaje cercanía elementosentrenamiento denso tema específico…de tópicos ahora en los cuales, no sé, diferentes formas de pensar, diferentes operaciones lógicas que haga, no sé, es interesante. Sí, pero ingenuamente si uno sabe cómo esto funciona, uno piensa: ok, no hay ningún misterio, esto uno le da un prompt, va A un espacio de representaciones donde viven cosas y la distancia entre estas cosas en el espacio de representaciones tiene un significado semántico, ¿no? Si estás cerca de algo es porque te pareces en algo más que donde estás puesto. Entonces uno dice, ok, no, no hay nada mágico, le haces un prompt, va al lugar, sabe todo lo que tiene cerca, entiende de qué estás hablando. Entonces, si no sabe mucho de un tema, lo que tenemos que hacer es entrenarlo más densamente en esa área. Pero sin embargo, Puede que no, claro. No, no, es interesante y da miedo. Aunque no sé, porque en realidad el único experimento justo acá sería el mismo tamaño del modelo de lenguaje. Si lo haces fine-tune con un tema, seguro funciona mejor; es lo mismo que darle contexto de…