Búsqueda · 25 momentos en 7 episodios
Juan Carlos GilSilvana TapiaLuisa AchaerandioGastón GiribetFrancis VillatoroHéctor SocasIgnacio Crespomodelo de lenguaje grok instruccioneselon musk influencia en grokinteligencia artificial desarrollo grokJuan Carlos GilGrokElon MuskHéctor SocasJuan CarlosGastónGoogleWikipediaRevolución FrancesaMovimientos 37Physical Review Letters
Modelo de lenguaje grok instrucciones
Con
0:000:301:001:302:002:303:003:303:45
Héctor Socas y Juan Carlos Gil discuten sobre el modelo de lenguaje Grok y su desarrollo, sugiriendo que podría estar influenciado por instrucciones precisas de Elon Musk o incluso de una inteligencia artificial.
…real. Es posible que puedas reemplazar una parte importante de esas horas de trabajo humanas, pero de alguna forma tienes que mantener ese anclaje porque si no acabas con un círculo que se retroalimenta, que se podría desanclar totalmente de la realidad, ¿no? Quizás eso es lo que pasa con Grok, Juan Carlos; no sé. No, no, Grok tuvo instrucciones precisas de Elon Musk; de humanos. Sí, bueno, o de semi-humano, me estoy pasando. Sí, se nos está yendo un poco la pinza aquí; yo creo que debemos hacer la pausa ahora. Déjame un minuto, que tenía un comentario que puede ser. que quiero conectar con lo que has comentado y anticipado de Alfago En la entrevista, una pequeña frasecita Vas a hacer un spoiler ahí Un pelín, pelín, pelín, pero es que viene muy bien Pushmeet Kohli nos dijo que en sus aplicaciones de ciencia, de los…
Significado #1 · Palabras #1
Héctor Socas explica el funcionamiento de los grandes modelos de lenguaje, simplificando el proceso en dos fases: pre-entrenamiento y post-entrenamiento.
Habla: Héctor SocasSignificado #19pre-entrenamiento de modelos lenguajehéctor socas explica grandes modelos…de formación profesional en sanitarias. ¿Qué tal, Luisa? Buenas tardes a todo el mundo, ¿qué tal? Bien, gracias por conectarte; te vimos un poco bajito, pero bueno, ahora como dentro de un ratito ya tenemos la pausa, lo podemos luego hacer el ajuste fino. Entonces, recordemos un poco cómo funcionan los grandes modelos de lenguaje. Hay básicamente dos fases; voy a simplificar mucho el proceso, pero hay básicamente dos fases. Lo que llaman el pre-entrenamiento y otra que, sorpresa, se llama post-entrenamiento, lo cual está mal, porque parecería como que entrenamiento es algo que está en medio y hay un pre y un post, pero no. Quiere decir que hay un entrenamiento previo y un entrenamiento posterior. Entonces, simplificando mucho, el pre-entrenamiento es eso que se suele decir a veces que los modelos de lenguaje lo que hacen es predecir la siguiente palabra a partir de las anteriores. Eso es, bueno, la parte, el principio básico del pre-entrenamiento,…
Héctor Socas explica cómo los modelos de lenguaje procesan el lenguaje humano, transformándolo en 'tokens' para su procesamiento interno y luego volviendo a traducirlo al idioma original.
Habla: Héctor SocasSignificado #4tokenización modelo lenguajetokens como idioma internoconversión idioma a tokensprocesamiento interno en tokenstraducción tokens a palabras…supongo que también será arbitrario dependiendo de, cada uno tendrá su propia dimensión. Lo llaman base de datos vectorial, creo recordar, para ver el rango de esos vectores, sí. Claro, esa es la dimensión. Bueno, Gastón, venga, lárgate, vaya pregunta que. Me has hecho hasta luego, Gastón. Gracias por unirte; gracias a ustedes. La próxima semana, la tokenización es lo que convierte del idioma con el que nosotros le hablamos al modelo de lenguaje: lo convierte su idioma interno. Ellos internamente piensan en tokens. Entonces, el primer paso es cuando nosotros le escribimos en cualquier idioma, hay una conversión de ese idioma a los tokens; todo el procesamiento se hace internamente en tokens, y luego a la salida, un último paso o uno de los últimos pasos es convertir de nuevo los tokens a palabras en el idioma que nos esté hablando. Bueno, entonces el pre-entrenamiento es coger una serie de tokens anteriores y predecir cuáles son los tokens siguientes en base a una cierta distribución de probabilidad que viene de lo que pasa en todos los miles de millones de textos con los que se ha…
Héctor Socas explica la primera fase del proceso de aprendizaje de los modelos de lenguaje: generar texto consistente con el conjunto de entrenamiento, lo cual permite al modelo aprender a escribir.
Habla: Héctor SocasSignificado #16modelo aprende a escribirtexto consistente con entrenamientopoesía literatura ensayo técnicoconjunto de entrenamiento como referencia…aprender a escribir cosas; digo escribir porque estamos pensando en texto, pero esto ya también se hace en los modelos multimodales, se hace con imágenes, con vídeo, con sonido, con lo que uno quiera, ¿no? Pero vamos a pensar en texto para no liarnos mucho. El primer paso es que a partir de un prompt genere un texto que sea consistente, que se parezca a los textos con los que se ha entrenado y entonces esa es la primera parte; y eso lo que hace es que nuestro modelo aprenda a escribir, aprende a escribir, pero no sabe nada del mundo, pero te puede escribir poesía, te puede escribir literatura, te puede escribir un ensayo técnico, te puede responder preguntas de la misma forma que lo que ha visto en el conjunto de entrenamiento. Entonces, lo que sea exactamente igual que en el conjunto de entrenamiento, te podrá dar una respuesta similar a la que había en el conjunto de entrenamiento. Si tú le pones algo que sea fuera del conjunto de entrenamiento, pues tendrá que extrapolar, pero bueno, en general. ya estos sistemas tan grandes funcionan bastante bien para esas cosas, ¿no? Los veo a Juan Carlos y Francis sonriendo, no sé si están leyendo algo. Sí, en el chat. Estaba leyendo también el chat. Estaba leyendo el chat. Debe haber algo gracioso que yo me he…
Héctor Socas y Juan Carlos Gil discuten sobre el modelo de lenguaje Grok y su desarrollo, sugiriendo que podría estar influenciado por instrucciones precisas de Elon Musk o incluso de una inteligencia artificial.
Habla: Juan Carlos GilSignificado #1 · Palabras #1modelo de lenguaje grok instruccioneselon musk influencia en grokinteligencia artificial desarrollo grok…real. Es posible que puedas reemplazar una parte importante de esas horas de trabajo humanas, pero de alguna forma tienes que mantener ese anclaje porque si no acabas con un círculo que se retroalimenta, que se podría desanclar totalmente de la realidad, ¿no? Quizás eso es lo que pasa con Grok, Juan Carlos; no sé. No, no, Grok tuvo instrucciones precisas de Elon Musk; de humanos. Sí, bueno, o de semi-humano, me estoy pasando. Sí, se nos está yendo un poco la pinza aquí; yo creo que debemos hacer la pausa ahora. Déjame un minuto, que tenía un comentario que puede ser. que quiero conectar con lo que has comentado y anticipado de Alfago En la entrevista, una pequeña frasecita Vas a hacer un spoiler ahí Un pelín, pelín, pelín, pero es que viene muy bien Pushmeet Kohli nos dijo que en sus aplicaciones de ciencia, de los…
Héctor Socas explica cómo los modelos de lenguaje generan respuestas plausibles, es decir, sintácticamente correctas, dividiéndolas en afirmaciones correctas e incorrectas.
Habla: Héctor SocasSignificado #9respuestas plausibles del modelo baseafirmaciones correctas e incorrectasmodelo base genera sintaxis correctaplausibilidad en respuestas de modelos…condiciones muy generales, es inevitable que en cuanto tú te sales del volumen o el espacio, digamos el hiperespacio englobado por el conjunto de entrenamiento, en cuanto te sales de ahí, va a haber un cierto porcentaje de respuestas plausibles incorrectas. o sea, definen respuestas plausibles, son todas aquellas que da el modelo base, lo que decíamos, está entrenado para dar respuestas que son sintácticamente correctas, que son lo que llamamos plausibles, y eso lo dividen en dos conjuntos, los que son correctos, o sea, las afirmaciones que son correctas y afirmaciones que son incorrectas, pero todas dentro de lo plausible que produce el modelo base. Entonces llegan a la conclusión de que siempre, o sea, es inevitable que haya un cierto porcentaje; que tú puedes intentar minimizarlo, pero hay un porcentaje mínimo estadísticamente de respuestas incorrectas, plausibles, que va a producir el modelo. Entonces…
Héctor Socas continúa la discusión sobre los modelos de lenguaje, explicando cómo las métricas utilizadas para evaluar su rendimiento llevan a una penalización en la capacidad de admitir desconocimiento.
Habla: Héctor SocasPalabras #20modelos de lenguaje penalizan desconocimientométricas evalúan rendimiento modelos lenguajealucinación limita modelos lenguaje…con la producción de papers para, o sea, que tienes un tribunal que te va a valorar basándose en ciertas métricas; entonces, tú intentas optimizar esas métricas, tú intentas adaptar tu productividad para que te dé un buen resultado en esas métricas. pues ellos hacen lo mismo y entonces el resultado final es que los modelos de lenguaje tienen una fuerte penalización a decir no lo sé y ellos creen que este ahora mismo el principal factor que limita el hecho de que nuestros modelos no puedan funcionar con menos alucinación vale entonces me sorprendió mucho que Hayamos tenido esta conversación, Juan Carlos, no sé hace un par de meses o puede que un poquito más; que tú decía, creo que tus palabras más o menos te voy a parafrasear un poco, es decir, yo me creeré que hemos dado un salto significativo cuando Charles GPT…
Héctor Socas explica cómo los modelos de lenguaje son incentivados a evitar admitir que no saben algo, basándose en una instrucción personalizada que utiliza para obtener información sobre la certeza del modelo.
Habla: Héctor SocasSignificado #7 · Palabras #2instrucciones personalizadas héctor socascerteza y dudas modelos lenguajegoogle wikipedia para información factualmodelos lenguaje no sustituyen googlerevolución francesa en wikipedia…cuando aciertan alguna, pues eso queda ahí como algo importante. Y el problema es que aquí pasa un poco eso también; o sea, la respuesta es incorrecta. Es importante no solo que la respuesta sea correcta, sino por qué, que no vale que has dicho algo al azar. Y entonces están incentivados los grandes modelos de lenguaje, todos, a evitar decir “no lo sé”. Yo te comentaba ese día, Juan Carlos, que yo tengo puesto en las instrucciones personalizadas: a mí me funciona bastante bien, la verdad; le digo que cuando me dé una explicación, luego mañana al final, de qué está seguro y de qué tiene dudas, y eso me parece útil. Pero bueno, en general la recomendación siempre es no usen esto como fuente de datos. O sea, un gran modelo de lenguaje no es para sustituir a Google ni a la Wikipedia. Si quieren saber en qué año fue la Revolución Francesa, búsquenlo en la Wikipedia, busquen en Google los datos que necesiten y el gran modelo de lenguaje, pónganlo, yo qué sé, a hacer poesía. Y Movimientos 37. Y Movimientos 37, exactamente. A cosas que estén más relacionadas con la inteligencia que con el conocimiento enciclopédico. Tu modelo de lenguaje trivial que responde siempre no lo sé, un bucle infinito C out no lo sé, se codifica en una línea; me ha…