Búsqueda · 31 momentos en 22 episodios
Juan Carlos GilSilvana TapiaLuisa AchaerandioGastón GiribetFrancis VillatoroHéctor SocasIgnacio Crespoprompts generados aleatoriamenteajuste fino sobre modelo baserespuestas del modelo baseoperador elige mejor respuestaHéctor SocasOpenAIGoogleChatGPTJuan Carlos GilPlexity
Prompts generados aleatoriamente
Con
0:000:301:001:302:002:303:003:303:45
Héctor Socas explica la fase de 'ajuste fino' en modelos de lenguaje, donde se utilizan prompts generados aleatoriamente o extraídos de bases de datos para mejorar el modelo base resultante del pre-entrenamiento.
…plausibles: cuáles son ciertas y cuáles no. Y para eso no queda más remedio que tener personas; hay diferentes pasos aquí, pero uno de los pasos es tener operadores humanos, gente contratada por estas empresas como OpenAI que hacen lo que se llama el post. Entrenamiento, el ajuste fino en el cual se van poniendo prompts, muchísimos, generados, no sé si sacados de alguna base de datos o con cierta aleatoriedad o si el operador lo que sea. Y entonces el modelo le da diferentes respuestas y tienen que elegir cuál es la mejor respuesta. Y entonces así se va haciendo un segundo ajuste sobre el modelo base. El modelo base es el que sale del pre-entrenamiento y luego se hace el ajuste fino en el cual un humano le va diciendo qué respuestas son ciertas y cuáles no. Entonces esta es la distinción fundamental: el pre-entrenamiento nos da respuestas plausibles, pero que pueden ser ciertas o pueden ser no, o pueden no serlo; o sea, un coche rojo compró pescado en la heladería, ¿vale? Eso podría ser una respuesta…
Significado #1 · Palabras #1
Héctor Socas explica la fase de 'ajuste fino' en modelos de lenguaje, donde se utilizan prompts generados aleatoriamente o extraídos de bases de datos para mejorar el modelo base resultante del pre-entrenamiento.
Habla: Héctor SocasSignificado #1 · Palabras #1prompts generados aleatoriamenteajuste fino sobre modelo baserespuestas del modelo baseoperador elige mejor respuesta…plausibles: cuáles son ciertas y cuáles no. Y para eso no queda más remedio que tener personas; hay diferentes pasos aquí, pero uno de los pasos es tener operadores humanos, gente contratada por estas empresas como OpenAI que hacen lo que se llama el post. Entrenamiento, el ajuste fino en el cual se van poniendo prompts, muchísimos, generados, no sé si sacados de alguna base de datos o con cierta aleatoriedad o si el operador lo que sea. Y entonces el modelo le da diferentes respuestas y tienen que elegir cuál es la mejor respuesta. Y entonces así se va haciendo un segundo ajuste sobre el modelo base. El modelo base es el que sale del pre-entrenamiento y luego se hace el ajuste fino en el cual un humano le va diciendo qué respuestas son ciertas y cuáles no. Entonces esta es la distinción fundamental: el pre-entrenamiento nos da respuestas plausibles, pero que pueden ser ciertas o pueden ser no, o pueden no serlo; o sea, un coche rojo compró pescado en la heladería, ¿vale? Eso podría ser una respuesta…
Héctor Socas reflexiona sobre la incertidumbre inherente a las respuestas generadas por los modelos de lenguaje grandes (LLM), como ChatGPT, y menciona una característica específica que indica el nivel de confianza del modelo en sus propias afirmaciones.
Habla: Héctor SocasSignificado #14incertidumbre de las afirmaciones llmchatgpt nivel de confianza respuestasgrado de incertidumbre chatgpt…han pre-aprendido. Exacto, el aprendizaje ocurre durante el pre- y el post-entrenamiento, pero no cuando habla contigo. Cuando habla contigo solo hay el contexto que le da tu conversación, pero las neuronas no se modifican; siguen estando igual que antes, sí. Pero es un tema interesante porque, claro, esto habla sobre la incertidumbre ¿no? Yo me preguntaba o sea, no solemos plantearnos yo por lo menos no he visto ningún estudio sobre el grado de incertidumbre de las afirmaciones de un LLM pero de alguna manera sí que lo tienen porque yo le tengo puesto esto como te decía en el chat GPT y siempre al final de la respuesta me dice de qué cosas está bastante seguro y de cuáles menos. Héctor, ¿y no se estará inventando su verosimilitud? Bueno, puede ser, pero tienes que poner un control para la verosimilitud. ¿Estás seguro de que, como has etiquetado tú a tus opiniones, son buenas? En fin, es que es el mismo modelo. Sí, sí, sí, pero…
Juan Carlos Gil propone un experimento para evaluar la capacidad de ChatGPT de generar respuestas con cierto grado de certeza, planteando una pregunta falsa sobre la fecha de cumpleaños de su perro.
Habla: Juan Carlos GilSignificado #17chatgpt y respuestas con certezaplexity detecta engaño a juan carlos…¿Estás seguro de que, como has etiquetado tú a tus opiniones, son buenas? En fin, es que es el mismo modelo. Sí, sí, sí, pero normalmente tiene sentido lo que me dice de lo que no está seguro porque son cosas que a lo mejor no están en su conocimiento o no. Podemos intentar ahora un experimentito: a preguntarle, yo qué sé, la fecha de cumpleaños de mi perro y a ver qué me dice y si me puede dar algún grado de certidumbre. Por cierto, no tengo perro. Inténtalo, inténtalo, a ver si descubre quién tiene perro. ¿Tú sí tienes perro, Juan Carlos? No, no, no, no, por si Ah, tampoco, pues te va a decir Plexity: no tienes perro, Juan Carlos, me estás engañando. Lo siento, no tengo información sobre la fecha de cumpleaños de tu perro. ¡Ah, se ha creído que tengo perro! A ver, ¿qué sabe, qué sabe?. Inocente Bueno, es una forma de decir la incertidumbre que tiene, que en este caso sería al 100% Mientras hacemos el experimento voy planteando otra pregunta Javier Benavides, si tuviéramos un agujero negro de 100 masas solares,…