Búsqueda · 26 momentos en 17 episodios
Juan Carlos GilSilvana TapiaLuisa AchaerandioGastón GiribetFrancis VillatoroHéctor SocasIgnacio Crespopre-entrenamiento como aprender a escribirmodelos multimodales con imágenes y vídeodistribución estadística de respuestastexto en modelos de lenguajemodelo aprende a escribirtexto consistente con entrenamientopoesía literatura ensayo técnicoconjunto de entrenamiento como referenciaHéctor SocasGoogleChatGPTJuan Carlos Gil
Modelo aprende a escribir
Con
0:000:301:001:302:002:303:003:303:45
Héctor Socas explica la primera fase del proceso de aprendizaje de los modelos de lenguaje: generar texto consistente con el conjunto de entrenamiento, lo cual permite al modelo aprender a escribir.
…que son un montón de tokens y los siguientes tokens que te genera no se parecen estadísticamente a la distribución de probabilidad que hay en el conjunto de entrenamiento, entonces se modifican los pesos para que la siguiente iteración sí que se parezca más. Y de esta forma acabas con una distribución estadística de respuestas que es lo más parecida posible a la distribución estadística en el conjunto de entrenamiento. O sea, el pre-entrenamiento es simplemente aprender a escribir cosas; digo escribir porque estamos pensando en texto, pero esto ya también se hace en los modelos multimodales, se hace con imágenes, con vídeo, con sonido, con lo que uno quiera, ¿no? Pero vamos a pensar en texto para no liarnos mucho. El primer paso es que a partir de un prompt genere un texto que sea consistente, que se parezca a los textos con los que se ha entrenado y entonces esa es la primera parte; y eso lo que hace es que nuestro modelo aprenda a escribir, aprende a escribir, pero no sabe nada del mundo, pero te puede escribir poesía, te puede escribir literatura, te puede escribir un ensayo técnico, te puede responder preguntas de la misma forma que lo que ha visto en el conjunto de entrenamiento. Entonces, lo que sea exactamente igual que en el conjunto de entrenamiento, te podrá dar una respuesta similar a la que había en el conjunto de entrenamiento. Si tú le pones algo que sea fuera del conjunto de entrenamiento, pues tendrá que extrapolar, pero bueno, en general. ya estos sistemas tan grandes funcionan bastante bien para esas cosas, ¿no? Los veo a Juan Carlos y Francis sonriendo, no sé si están leyendo algo. Sí, en el chat. Estaba leyendo también el chat. Estaba leyendo el chat. Debe haber algo gracioso que yo me he…
Significado #1 · Palabras #1
Héctor Socas explica la primera fase del proceso de aprendizaje de los modelos de lenguaje: generar texto consistente con el conjunto de entrenamiento, lo cual permite al modelo aprender a escribir.
Habla: Héctor SocasSignificado #1 · Palabras #1pre-entrenamiento como aprender a escribirmodelos multimodales con imágenes y vídeodistribución estadística de respuestastexto en modelos de lenguajemodelo aprende a escribirtexto consistente con entrenamientopoesía literatura ensayo técnicoconjunto de entrenamiento como referencia…que son un montón de tokens y los siguientes tokens que te genera no se parecen estadísticamente a la distribución de probabilidad que hay en el conjunto de entrenamiento, entonces se modifican los pesos para que la siguiente iteración sí que se parezca más. Y de esta forma acabas con una distribución estadística de respuestas que es lo más parecida posible a la distribución estadística en el conjunto de entrenamiento. O sea, el pre-entrenamiento es simplemente aprender a escribir cosas; digo escribir porque estamos pensando en texto, pero esto ya también se hace en los modelos multimodales, se hace con imágenes, con vídeo, con sonido, con lo que uno quiera, ¿no? Pero vamos a pensar en texto para no liarnos mucho. El primer paso es que a partir de un prompt genere un texto que sea consistente, que se parezca a los textos con los que se ha entrenado y entonces esa es la primera parte; y eso lo que hace es que nuestro modelo aprenda a escribir, aprende a escribir, pero no sabe nada del mundo, pero te puede escribir poesía, te puede escribir literatura, te puede escribir un ensayo técnico, te puede responder preguntas de la misma forma que lo que ha visto en el conjunto de entrenamiento. Entonces, lo que sea exactamente igual que en el conjunto de entrenamiento, te podrá dar una respuesta similar a la que había en el conjunto de entrenamiento. Si tú le pones algo que sea fuera del conjunto de entrenamiento, pues tendrá que extrapolar, pero bueno, en general. ya estos sistemas tan grandes funcionan bastante bien para esas cosas, ¿no? Los veo a Juan Carlos y Francis sonriendo, no sé si están leyendo algo. Sí, en el chat. Estaba leyendo también el chat. Estaba leyendo el chat. Debe haber algo gracioso que yo me he…
Héctor Socas distingue entre la fase técnica del aprendizaje lingüístico en modelos de IA y la fase social donde se definen los límites éticos y morales, destacando que esta última es costosa debido a la necesidad de contratar personal.
Habla: Héctor SocasPalabras #19fase social aprendizaje lingüístico iacosto contratación personal ético iaempleados en centros del tercer mundoalucinaciones modelos de lenguaje…humana, que requiere millones de horas de trabajo humanos: que son los que conectan el modelo al mundo. O sea, lo que sabe una IA del mundo se lo hemos dicho los humanos. Y esto me parece muy bonito. Entonces hay una parte muy computacional que es la parte Más técnica donde aprende a hablar, aprende sintaxis, aprende toda la parte lingüística y luego hay una parte social que es donde los humanos le decimos que está bien y que está mal, que es éticamente o moralmente aceptable o no; y esa parte no es computacionalmente intensiva pero es cara. Es donde gastan un montón de dinero estas empresas en contratar pues cientos de miles o decenas de miles de empleados que están ahí físicamente, supongo que en algún centro, no sé, imagino yo. Esto no lo sé, no tengo ninguna certeza, pero supongo que en algún país del tercer mundo, donde hay humanos, muchos, y son lamentablemente más baratas sus condiciones laborales; bueno, no sé, retiro esto porque no tengo ni idea, estoy haciendo como los modelos de lenguaje un guess, suponiendo sin saber, puede ser una alucinación esto. De hecho, hay ahora una tendencia de esa segunda fase de decirle que es correcto y que no, hacerlo también con IA, o sea, ir reemplazando humanos con IA, lo cual puede ayudar, pero claro, hay algo ahí de círculo vicioso, de generación del problema en el…
Juan Carlos Gil opina sobre la capacidad de aprendizaje de los modelos de inteligencia artificial pre-entrenados como ChatGPT, señalando que aunque acumulan contexto en las conversaciones, no re-aprenden ni modifican su conocimiento base.
Habla: Juan Carlos GilPalabras #15chatgpt pre-entrenado conocimiento inaccesiblecontexto acumulado en chatgptaprendizaje limitado de modelos ia…punto que te empiezas a darte cuenta de que realmente eres muy ignorante sobre todo el campo y entonces tu confianza empieza a disminuir. Dunning-Krager, sí, Dunning-Krager, el sesgo cognitivo. El sesgo cognitivo. Supongo que pregunta si las IAS tienen esto. Yo creo que... Sí ya se aprenden poco, quiero decir, se han pre-entrenado, de ahí la P de ChatGPT; están pre-entrenadas y luego nos llegan a nosotros con ese conocimiento inaccesible, estático, no se puede modificar y sí que cuando tú vas hablando con ellas el contexto se acumula, pero no aprenden, no reaprenden de alguna forma. Quería destacar ese concepto: que hay gente que lo tiene mal. Según estás interaccionando con ella, solo ve tu contexto y, por supuesto, los grandes pesos de los miles de millones de neuronas que tienen, que han pre-aprendido. Exacto, el aprendizaje ocurre…