Búsqueda · 28 momentos en 10 episodios
Juan Carlos GilSilvana TapiaLuisa AchaerandioGastón GiribetFrancis VillatoroHéctor SocasIgnacio Crespomodelo lenguaje juan carlosbenchmarks estándar de la industriarespuesta incorrecta cero puntuaciónJuan CarlosHéctor SocasCharles GPTAdam Taumann-KalaiOpenAIGeorgia TechJuan Carlos GilGrokElon MuskMovimientos 37GoogleWikipediaPushmeet KohliOpen MindRevolución Francesa
Modelo lenguaje Juan Carlos
Con
0:000:301:001:302:002:303:003:303:45
Héctor Socas retoma un punto planteado por Juan Carlos sobre los modelos de lenguaje y su evaluación.
…ahora han sacado un modelo nuevo, vamos a ver cómo se comporta en diferentes tareas y resulta que esos benchmarks, esas comparaciones que se hacen, se basan en ponerles una serie de tareas o de preguntas y ver si la respuesta que da es correcta o incorrecta. Y aquí es donde volvemos al dilema de Juan Carlos. Es decir, un modelo de lenguaje que responde a una pregunta, no lo sé, recibe un cero. Todos los benchmarks que se usan en el estándar de la industria; el decir que no lo sabes te da la misma puntuación que a una respuesta incorrecta, que es cero. Y aquellos que dan una respuesta correcta, pues reciben una Buena puntuación, ¿no? Eso se llama precisión; es decir, cuántas respuestas son correctas frente a cuántas son incorrectas. Entonces se comparan los modelos por su precisión, ¿qué significa eso? Que se está introduciendo un sesgo, porque claro, todas las…
Significado #1 · Palabras #1
Héctor Socas introduce el tema de la conversación sobre cómo las empresas han trabajado para reducir las 'alucinaciones' en los modelos de lenguaje, tras una discusión previa sobre la falta de reconocimiento de desconocimiento en diversas fuentes de información.
Habla: Héctor SocasPalabras #11alucinaciones en modelos de lenguajepost-entrenamiento empresas desarrollo modelosjuan carlos y reconocimiento desconocimiento…Y no sé por qué pasa tal cosa, no lo sé; dice, usa palabras como hay especulaciones, hay hipótesis o sea, usa otro tipo de palabras pero nunca reconoce, no es habitual en un libro, en una página de Wikipedia, en un blog, en un podcast, que digamos no sé. De eso que acaba de decir Juan Carlos es justamente de lo que vamos a hablar, del decir no sé y bueno, tiene que ver con todo esto. El desarrollo y también parte de la razón por la que alucina menos es porque esto ha sido un problema que ha despertado tanta atención que se han esforzado mucho en el post-entrenamiento las empresas de desarrollo de modelos en reducirlo y ahora vamos a hablar un poco de qué se hace para reducir las alucinaciones, pero antes de empezar a comentar lo del paper que vamos a tratar yo primero quiero decir un par de cosas generales. ¿Por qué nos quejamos de que la inteligencia artificial alucine? Es que ese es el comportamiento inteligente, es decir, nosotros antes teníamos máquinas que eran muy buenas en darnos datos, o sea, tenemos conocimiento enciclopédico con todos los datos,…
Héctor Socas continúa la discusión sobre cómo los modelos de lenguaje cometen errores, comparando su comportamiento con el de estudiantes que responden a exámenes tipo test sin saber la respuesta.
Habla: Héctor SocasSignificado #3 · Palabras #5exámenes tipo test estudiantesjuan carlos y respuestas múltiplesmodelos de lenguaje sin penalizaciónestudiantes marcando cualquier cosa…en la conversación, pero bueno, es un paper, como digo, de septiembre de 2025 que se titula ¿Por qué los modelos de lenguaje alucinan? Y está firmado por cuatro autores de OpenAI y uno de Georgia Tech; el primer autor se llama Adam Taumann-Kalai de OpenAI. Bueno, y este artículo pues bueno empieza exactamente con una analogía de este tipo, ¿no? Y conectamos aquí con lo que preguntaba Juan Carlos, de decir: no lo sé, lo que ellos dicen es lo siguiente: si tú tienes un estudiante haciendo un examen y es un examen de estos de respuesta múltiple, tienes cuatro posibilidades, ¿qué les decimos todos siempre a los estudiantes? Cuando vas a hacer el examen, si no te sabe la respuesta, bueno marca cualquier cosa, ¿vale? Que será mejor que dejarla en blanco, suponiendo que no haya penalización en... Eso es, que a veces se corrige por el número de falladas dividido por el número de respuestas menos uno y te quitan esos, ¿no? Te quitan esos puntos. Pues el mundo en el que viven los modelos de lenguaje no funciona así. Falta eso. Entonces, los modelos de lenguaje cuando no están seguros tienden a lanzar, a probar, a hacer un *guess* y entonces el artículo lo que trata es intentar investigar el fenómeno de las alucinaciones desde el punto de vista de la teoría del aprendizaje…
Héctor Socas y Juan Carlos Gil discuten sobre el modelo de lenguaje Grok y su desarrollo, sugiriendo que podría estar influenciado por instrucciones precisas de Elon Musk o incluso de una inteligencia artificial.
Habla: Juan Carlos GilPalabras #4modelo de lenguaje grok instruccioneselon musk influencia en grokinteligencia artificial desarrollo grok…real. Es posible que puedas reemplazar una parte importante de esas horas de trabajo humanas, pero de alguna forma tienes que mantener ese anclaje porque si no acabas con un círculo que se retroalimenta, que se podría desanclar totalmente de la realidad, ¿no? Quizás eso es lo que pasa con Grok, Juan Carlos; no sé. No, no, Grok tuvo instrucciones precisas de Elon Musk; de humanos. Sí, bueno, o de semi-humano, me estoy pasando. Sí, se nos está yendo un poco la pinza aquí; yo creo que debemos hacer la pausa ahora. Déjame un minuto, que tenía un comentario que puede ser. que quiero conectar con lo que has comentado y anticipado de Alfago En la entrevista, una pequeña frasecita Vas a hacer un spoiler ahí Un pelín, pelín, pelín, pero es que viene muy bien Pushmeet Kohli nos dijo que en sus aplicaciones de ciencia, de los…
Juan Carlos Gil continúa la conversación sobre los modelos de lenguaje de Open Mind, conectando la creatividad en estos modelos con las alucinaciones que pueden generar.
Habla: Juan Carlos GilPalabras #7creatividad modelos lenguaje open mindalucinaciones en modelos open mindhipótesis poco convencionales cienciavalidación rigurosa combinaciones improbables…pero es que viene muy bien Pushmeet Kohli nos dijo que en sus aplicaciones de ciencia, de los modelos de Open Mind, que es a lo que él se dedica busca algo parecido a un movimiento 37 en el ámbito de la ciencia, un movimiento especial que es algo inesperado, Que al principio puede incluso parecer erróneo, pero que revela algo nuevo del problema. Y en ese sentido decía que, ya no en nuestra entrevista que fue compacta, le he oído decir que en cierto sentido esa creatividad con 27 comillas podría estar asociada a las alucinaciones; es decir, la capacidad de explorar combinaciones improbables, extrañas, hipótesis poco convencionales que luego, tras una validación rigurosa, pueden ser útiles para la ciencia. Así que eso, empezabas estos comentarios diciendo que no tiene por qué ser malo del todo la desviación del modelo de nuestro conocimiento adquirido. Pues sí, estoy de acuerdo, y él también. Sí. Sí, sí, pues mira, efectivamente yo ponía el ejemplo de David Baker, un uso productivo en ciencia de las alucinaciones, y aquí también, ¿no? Y seguro que, hombre, pues nuestro ámbito es el científico, pero seguro que en temas de arte y que sean más…
Héctor Socas retoma un punto planteado por Juan Carlos sobre los modelos de lenguaje y su evaluación.
Habla: Héctor SocasSignificado #1 · Palabras #1modelo lenguaje juan carlosbenchmarks estándar de la industriarespuesta incorrecta cero puntuación…ahora han sacado un modelo nuevo, vamos a ver cómo se comporta en diferentes tareas y resulta que esos benchmarks, esas comparaciones que se hacen, se basan en ponerles una serie de tareas o de preguntas y ver si la respuesta que da es correcta o incorrecta. Y aquí es donde volvemos al dilema de Juan Carlos. Es decir, un modelo de lenguaje que responde a una pregunta, no lo sé, recibe un cero. Todos los benchmarks que se usan en el estándar de la industria; el decir que no lo sabes te da la misma puntuación que a una respuesta incorrecta, que es cero. Y aquellos que dan una respuesta correcta, pues reciben una Buena puntuación, ¿no? Eso se llama precisión; es decir, cuántas respuestas son correctas frente a cuántas son incorrectas. Entonces se comparan los modelos por su precisión, ¿qué significa eso? Que se está introduciendo un sesgo, porque claro, todas las…
Héctor Socas retoma una conversación previa con Juan Carlos sobre el desarrollo de modelos de lenguaje y su capacidad para admitir desconocimiento.
Habla: Héctor SocasSignificado #2 · Palabras #3desarrollo modelos lenguaje charles gptconversación previa con juan carloscapacidad admitir desconocimiento charles gpt…es que los modelos de lenguaje tienen una fuerte penalización a decir no lo sé y ellos creen que este ahora mismo el principal factor que limita el hecho de que nuestros modelos no puedan funcionar con menos alucinación vale entonces me sorprendió mucho que Hayamos tenido esta conversación, Juan Carlos, no sé hace un par de meses o puede que un poquito más; que tú decía, creo que tus palabras más o menos te voy a parafrasear un poco, es decir, yo me creeré que hemos dado un salto significativo cuando Charles GPT me diga: no lo sé, ¿te acuerdas de eso? Me la reconozco, sí. La respuesta está en este paper, en lo que dicen estos autores; ellos lo achacan a esto, que a mí me parece un poco quitarse responsabilidad encima. Es decir, bueno, la culpa es la sociedad; es un poco el paper siendo un poco cínico viene a decir: a ver, las…
Héctor Socas explica cómo los modelos de lenguaje son incentivados a evitar admitir que no saben algo, basándose en una instrucción personalizada que utiliza para obtener información sobre la certeza del modelo.
Habla: Héctor SocasPalabras #2instrucciones personalizadas héctor socascerteza y dudas modelos lenguajegoogle wikipedia para información factualmodelos lenguaje no sustituyen googlerevolución francesa en wikipediamodelo lenguaje bucle infinito c outalgoritmos compresión secuencia datosteoría compresión algoritmo óptimo bit…cuando aciertan alguna, pues eso queda ahí como algo importante. Y el problema es que aquí pasa un poco eso también; o sea, la respuesta es incorrecta. Es importante no solo que la respuesta sea correcta, sino por qué, que no vale que has dicho algo al azar. Y entonces están incentivados los grandes modelos de lenguaje, todos, a evitar decir “no lo sé”. Yo te comentaba ese día, Juan Carlos, que yo tengo puesto en las instrucciones personalizadas: a mí me funciona bastante bien, la verdad; le digo que cuando me dé una explicación, luego mañana al final, de qué está seguro y de qué tiene dudas, y eso me parece útil. Pero bueno, en general la recomendación siempre es no usen esto como fuente de datos. O sea, un gran modelo de lenguaje no es para sustituir a Google ni a la Wikipedia. Si quieren saber en qué año fue la Revolución Francesa, búsquenlo en la Wikipedia, busquen en Google los datos que necesiten y el gran modelo de lenguaje, pónganlo, yo qué sé, a hacer poesía. Y Movimientos 37. Y Movimientos 37, exactamente. A cosas que estén más relacionadas con la inteligencia que con el conocimiento enciclopédico. Tu modelo de lenguaje trivial que responde siempre no lo sé, un bucle infinito C out no lo sé, se codifica en una línea; me ha recordado una de mis relaciones extrañas. Cuando se hace teoría de compresión se puede hacer un algoritmo óptimo para comprimir que reduzca cualquier secuencia de datos, cualquier fichero a un único bit dado esa secuencia de datos, le asignas el bit 1 y a cualquier otra distinta le pones un 0 seguido de la propia secuencia de datos. O sea, es óptimo para un caso, pero obviamente para los demás nos vale para absolutamente nada. De hecho, Héctor, en la página 8 del paper, la figura 2, me hace gracia que la calibración, o sea, está hablando de la calibración de los modelos, ¿no? Y te dice que con el sobreentrenamiento parece como si se empeorara de alguna manera, como que se vuelve…
Juan Carlos Gil continúa la conversación sobre modelos de lenguaje, comparando su comportamiento con el de una persona que ha sido sobreentrenada y se niega a adaptarse a nuevas situaciones.
Habla: Juan Carlos GilSignificado #5chat gpt y problema del ríosobreentrenamiento de modelos lenguajecomportamiento humano cabezón…está bastante aplanado y se supone que lo correcto es estos segundos. Pero ya te digo que no entendí bien el plot y bueno, como tampoco era central al... No, es que me llama la atención porque me da la sensación como si empeorase realmente una respuesta. El sobreentrenamiento es sabido que puede empeorar respuestas. Yo en su día, ahora mejora mucho, pero hace un par de años jugué té con un chat GPT a hacerle preguntas relacionadas con el famoso problema del río, del granjero, la col, el lobo y la oveja. Pero le decía problemas distintos, sin oveja o sin río. Y el tío, vamos, me decía que la solución era poner a la oveja y llevártela. O sea, que me ignoraba porque lo había leído y asimilado y procesado tantas veces que ese sobreentrenamiento, pues eso, vencía a mis prompts. Pero eso es muy humano también, ¿no? Lo vuelve cabezón. Absolutamente. O sea, más cuñado, más cuñado, si puede ser. Eso siempre se va a conseguir; es decir, tenemos tal creatividad los humanos que somos capaces de sacarle la puntilla a cualquier cosa. Lo importante es que en promedio las alucinaciones sean más o menos controlables y sean más o menos chequeables. Yo…