Búsqueda · 36 momentos en 28 episodios
Juan Carlos GilSilvana TapiaLuisa AchaerandioGastón GiribetFrancis VillatoroHéctor SocasIgnacio Crespoinstrucciones personalizadas héctor socascerteza y dudas modelos lenguajeJuan CarlosHéctor SocasWikipediaChatGPT
Instrucciones personalizadas Héctor Socas
Ep549: Agujeros Negros; IAlucinaciones; Engranajes; Materia Oscura; Doom Neuronal
12 de marzo de 20262 momentos
Con
0:000:301:001:302:002:303:003:303:45
Héctor Socas explica cómo los modelos de lenguaje son incentivados a evitar admitir que no saben algo, basándose en una instrucción personalizada que utiliza para obtener información sobre la certeza del modelo.
…cuando aciertan alguna, pues eso queda ahí como algo importante. Y el problema es que aquí pasa un poco eso también; o sea, la respuesta es incorrecta. Es importante no solo que la respuesta sea correcta, sino por qué, que no vale que has dicho algo al azar. Y entonces están incentivados los grandes modelos de lenguaje, todos, a evitar decir “no lo sé”. Yo te comentaba ese día, Juan Carlos, que yo tengo puesto en las instrucciones personalizadas: a mí me funciona bastante bien, la verdad; le digo que cuando me dé una explicación, luego mañana al final, de qué está seguro y de qué tiene dudas, y eso me parece útil. Pero bueno, en general la recomendación siempre es no usen esto como fuente de datos. O sea, un gran modelo de lenguaje no es para sustituir a Google ni a la Wikipedia. Si quieren saber en qué año fue la Revolución Francesa, búsquenlo en la Wikipedia, busquen en Google los datos que necesiten y el gran modelo de lenguaje, pónganlo, yo qué sé,…
Significado #1 · Palabras #1
Héctor Socas explica cómo los modelos de lenguaje son incentivados a evitar admitir que no saben algo, basándose en una instrucción personalizada que utiliza para obtener información sobre la certeza del modelo.
Habla: Héctor SocasSignificado #1 · Palabras #1instrucciones personalizadas héctor socascerteza y dudas modelos lenguaje…cuando aciertan alguna, pues eso queda ahí como algo importante. Y el problema es que aquí pasa un poco eso también; o sea, la respuesta es incorrecta. Es importante no solo que la respuesta sea correcta, sino por qué, que no vale que has dicho algo al azar. Y entonces están incentivados los grandes modelos de lenguaje, todos, a evitar decir “no lo sé”. Yo te comentaba ese día, Juan Carlos, que yo tengo puesto en las instrucciones personalizadas: a mí me funciona bastante bien, la verdad; le digo que cuando me dé una explicación, luego mañana al final, de qué está seguro y de qué tiene dudas, y eso me parece útil. Pero bueno, en general la recomendación siempre es no usen esto como fuente de datos. O sea, un gran modelo de lenguaje no es para sustituir a Google ni a la Wikipedia. Si quieren saber en qué año fue la Revolución Francesa, búsquenlo en la Wikipedia, busquen en Google los datos que necesiten y el gran modelo de lenguaje, pónganlo, yo qué sé,…
Héctor Socas describe una experiencia inusual con ChatGPT, donde el modelo le atribuye información sobre su tesis doctoral y le proporciona referencias que resultan ser falsas, vinculadas a Wikipedia.
Habla: Héctor SocasPalabras #13chatgpt atribuye tesis a héctor socasreferencias falsas de wikipedia a chatgpt…Todo el título, la fecha, los directores y una breve explicación, vamos; que si quiero que me dé los errores también, dice: Si quieres te lo mejora, ¿no? ¿Es que te ayude a pulir el inglés? Este documento es muy grande, ¿quieres un resumen? Ostras, espérate, es mejor todavía porque, o sea, les dije que había buscado en internet ¿no? Entonces te pone la referencia y no lo ha encontrado, pincho, o sea, miro la referencia y me pone que es de la Wikipedia ¿cómo que es de la Wikipedia? Si yo no estoy en la Wikipedia, entonces pincho y me sale una página que dice Héctor Socas Navarro y pone Wikipedia todavía no tiene una página llamada Héctor Socas Navarro, consulta la lista de artículos, no sé qué, tal, tal, tal, no entiendo nada. Porque a lo mejor alguien te ha citado en algún momento en Wikipedia, puede ser, y tienes una página enlazada donde pones tu nombre o un artículo tuyo y apareces en Wikipedia pero no como con una página, sino como… Hombre, tu teoría de los cinturones de Clark…