Búsqueda · 25 momentos en 11 episodios
Juan Carlos GilSilvana TapiaLuisa AchaerandioGastón GiribetFrancis VillatoroHéctor SocasIgnacio Crespochatgpt pre-entrenado conocimiento inaccesiblecontexto acumulado en chatgptaprendizaje limitado de modelos iachatgpt conocimiento base estáticoneuronas pre-aprendidas en chatgptaprendizaje durante pre y post entrenamientocontexto de conversación en chatgptChatGPTJuan Carlos GilUniversidad Complutense de MadridMecánica estadísticaSimulación computacionalLíquidosInternetHéctor Socas
Modelo ChatGPT mejora contexto memorias
Con
0:000:301:001:302:002:303:003:303:45
Juan Carlos Gil opina sobre la capacidad de aprendizaje de los modelos de inteligencia artificial pre-entrenados como ChatGPT, señalando que aunque acumulan contexto en las conversaciones, no re-aprenden ni modifican su conocimiento base.
…punto que te empiezas a darte cuenta de que realmente eres muy ignorante sobre todo el campo y entonces tu confianza empieza a disminuir. Dunning-Krager, sí, Dunning-Krager, el sesgo cognitivo. El sesgo cognitivo. Supongo que pregunta si las IAS tienen esto. Yo creo que... Sí ya se aprenden poco, quiero decir, se han pre-entrenado, de ahí la P de ChatGPT; están pre-entrenadas y luego nos llegan a nosotros con ese conocimiento inaccesible, estático, no se puede modificar y sí que cuando tú vas hablando con ellas el contexto se acumula, pero no aprenden, no reaprenden de alguna forma. Quería destacar ese concepto: que hay gente que lo tiene mal. Según estás interaccionando con ella, solo ve tu contexto y, por supuesto, los grandes pesos de los miles de millones de neuronas que tienen, que han pre-aprendido. Exacto, el aprendizaje ocurre durante el pre- y el post-entrenamiento, pero no cuando habla contigo. Cuando habla contigo solo hay el contexto que le da tu conversación, pero las neuronas no se modifican; siguen estando igual que antes, sí. Pero es un tema interesante porque, claro, esto habla sobre la incertidumbre ¿no? Yo me preguntaba o sea, no solemos plantearnos yo por lo menos no he visto ningún estudio sobre el grado de incertidumbre de las afirmaciones de un LLM pero de alguna manera sí…
Significado #1 · Palabras #4
Juan Carlos Gil opina sobre la capacidad de aprendizaje de los modelos de inteligencia artificial pre-entrenados como ChatGPT, señalando que aunque acumulan contexto en las conversaciones, no re-aprenden ni modifican su conocimiento base.
Habla: Juan Carlos GilSignificado #1 · Palabras #4chatgpt pre-entrenado conocimiento inaccesiblecontexto acumulado en chatgptaprendizaje limitado de modelos iachatgpt conocimiento base estáticoneuronas pre-aprendidas en chatgptaprendizaje durante pre y post entrenamientocontexto de conversación en chatgpt…punto que te empiezas a darte cuenta de que realmente eres muy ignorante sobre todo el campo y entonces tu confianza empieza a disminuir. Dunning-Krager, sí, Dunning-Krager, el sesgo cognitivo. El sesgo cognitivo. Supongo que pregunta si las IAS tienen esto. Yo creo que... Sí ya se aprenden poco, quiero decir, se han pre-entrenado, de ahí la P de ChatGPT; están pre-entrenadas y luego nos llegan a nosotros con ese conocimiento inaccesible, estático, no se puede modificar y sí que cuando tú vas hablando con ellas el contexto se acumula, pero no aprenden, no reaprenden de alguna forma. Quería destacar ese concepto: que hay gente que lo tiene mal. Según estás interaccionando con ella, solo ve tu contexto y, por supuesto, los grandes pesos de los miles de millones de neuronas que tienen, que han pre-aprendido. Exacto, el aprendizaje ocurre durante el pre- y el post-entrenamiento, pero no cuando habla contigo. Cuando habla contigo solo hay el contexto que le da tu conversación, pero las neuronas no se modifican; siguen estando igual que antes, sí. Pero es un tema interesante porque, claro, esto habla sobre la incertidumbre ¿no? Yo me preguntaba o sea, no solemos plantearnos yo por lo menos no he visto ningún estudio sobre el grado de incertidumbre de las afirmaciones de un LLM pero de alguna manera sí…
Juan Carlos Gil cuestiona si la verosimilitud mostrada por ChatGPT es genuina y sugiere implementar un control para verificar la calidad de las opiniones etiquetadas por Héctor Socas, señalando que se trata del mismo modelo.
Habla: Juan Carlos GilPalabras #16verosimilitud cuestionada por juan carloscontrol para opiniones etiquetadas héctor socasmodelo de chatgpt y sus limitaciones…sobre el grado de incertidumbre de las afirmaciones de un LLM pero de alguna manera sí que lo tienen porque yo le tengo puesto esto como te decía en el chat GPT y siempre al final de la respuesta me dice de qué cosas está bastante seguro y de cuáles menos. Héctor, ¿y no se estará inventando su verosimilitud? Bueno, puede ser, pero tienes que poner un control para la verosimilitud. ¿Estás seguro de que, como has etiquetado tú a tus opiniones, son buenas? En fin, es que es el mismo modelo. Sí, sí, sí, pero normalmente tiene sentido lo que me dice de lo que no está seguro porque son cosas que a lo mejor no están en su conocimiento o no. Podemos intentar ahora un experimentito: a preguntarle, yo qué sé, la fecha de cumpleaños de mi perro y a ver qué me dice y si me puede dar algún grado de certidumbre. Por cierto, no tengo perro. Inténtalo, inténtalo, a ver si descubre quién tiene perro. ¿Tú…
Héctor Socas relata una experiencia con ChatGPT donde el modelo afirma conocer detalles sobre su tesis doctoral, a pesar de afirmar previamente no tener esa información.
Habla: Juan Carlos GilSignificado #2 · Palabras #1química física y biofísica universidad complutensemecánica estadística simulación computacional líquidoschatgpt recuerda tesis doctoral héctor socasmodelo chatgpt mejora contexto memorias…es una de las preguntas que ponían en el paper, ponían ese ejemplo, la fecha de nacimiento de uno de los autores y el título de la tesis doctoral y decía que le preguntaba tres respuestas y las tres eran incorrectas. Pues Perplexity dice que no tiene ni idea. Pero ChatGPT me dice: sé que está relacionado con química y física y biofísica en la Universidad Complutense de Madrid trabajando en mecánica estadística y simulación computacional de líquidos, pero no sé el título. Mira, pues voy a charlar; será que se lo he contado en algún momento, o sea que se queda, decíamos que no aprende, no estrictamente; el modelo está mejorado, pero el contexto se lo va quedando. Ha mejorado mucho, claramente; le estoy preguntando yo también lo mismo, ha hecho el GPT. Ostras, me la ha dado, puede que haya buscado; ah sí, es que tiene una referencia, es que la busco en internet. ¿Te has autocitado? Todo el título, la fecha, los directores y una breve explicación, vamos; que si quiero que me dé los errores también, dice: Si quieres te lo mejora, ¿no? ¿Es que te ayude a pulir el inglés? Este documento es muy grande, ¿quieres un resumen?…