Búsqueda · 22 momentos en 17 episodios
Juan Carlos GilSilvana TapiaLuisa AchaerandioGastón GiribetFrancis VillatoroHéctor SocasIgnacio Crespoalucinaciones en modelos de lenguajepaper openai septiembre 2025adam taumann kalai openaiexámenes tipo test estudiantesjuan carlos y respuestas múltiplesmodelos de lenguaje sin penalizaciónestudiantes marcando cualquier cosaTwitterAdam Taumann-KalaiOpenAIGeorgia TechHéctor SocasJuan CarlosPushmeet KohliOpen MindAlfago
Adam Taumann-Kalai
Con
0:000:301:001:302:002:303:003:303:45
Héctor Socas introduce un artículo científico sobre las 'alucinaciones' en modelos de lenguaje, mencionando que lo descubrió a través de una conversación en Twitter.
…pues muchas eran cosas totalmente inservibles. Pero de vez en cuando encontraban ideas que les abrían caminos para avanzar, porque dentro de ese mundo de fabulaciones, de inventos que hacía la red neuronal, pues algunos eran prolíficas Entonces bueno, quería decir eso un poco. Entonces, el paper que vamos a comentar es un paper que es de septiembre del año pasado; yo lo vi comentado en Twitter y me despertó la... porque no lo había visto. Había visto otros parecidos pero este me pareció particularmente interesante y lo vi en una conversación de Twitter; lo siento pero no recuerdo quién fue la persona que me etiquetó o que me incluyó en la conversación, pero bueno, es un paper, como digo, de septiembre de 2025 que se titula ¿Por qué los modelos de lenguaje alucinan? Y está firmado por cuatro autores de OpenAI y uno de Georgia Tech; el primer autor se llama Adam Taumann-Kalai de OpenAI. Bueno, y este artículo pues bueno empieza exactamente con una analogía de este tipo, ¿no? Y conectamos aquí con lo que preguntaba Juan Carlos, de decir: no lo sé, lo que ellos dicen es lo siguiente: si tú tienes un estudiante haciendo un examen y es un examen de estos de respuesta múltiple, tienes cuatro posibilidades, ¿qué les decimos todos siempre a los estudiantes? Cuando vas a hacer el examen, si no te sabe la respuesta, bueno marca cualquier cosa, ¿vale? Que será mejor que dejarla en blanco, suponiendo que no haya penalización en... Eso es, que a veces se corrige por el número de falladas dividido por el número de respuestas menos uno y te quitan esos, ¿no? Te quitan esos puntos. Pues el mundo en el que viven los modelos de lenguaje no funciona así. Falta eso. Entonces, los modelos de lenguaje cuando no están seguros tienden a lanzar, a probar, a hacer un *guess* y entonces el artículo lo que trata es intentar investigar el fenómeno de las alucinaciones desde el punto de vista de la teoría del aprendizaje…
Significado #1 · Palabras #1
Héctor Socas introduce un artículo científico sobre las 'alucinaciones' en modelos de lenguaje, mencionando que lo descubrió a través de una conversación en Twitter.
Habla: Héctor SocasSignificado #1 · Palabras #1alucinaciones en modelos de lenguajepaper openai septiembre 2025adam taumann kalai openaiexámenes tipo test estudiantesjuan carlos y respuestas múltiplesmodelos de lenguaje sin penalizaciónestudiantes marcando cualquier cosa…pues muchas eran cosas totalmente inservibles. Pero de vez en cuando encontraban ideas que les abrían caminos para avanzar, porque dentro de ese mundo de fabulaciones, de inventos que hacía la red neuronal, pues algunos eran prolíficas Entonces bueno, quería decir eso un poco. Entonces, el paper que vamos a comentar es un paper que es de septiembre del año pasado; yo lo vi comentado en Twitter y me despertó la... porque no lo había visto. Había visto otros parecidos pero este me pareció particularmente interesante y lo vi en una conversación de Twitter; lo siento pero no recuerdo quién fue la persona que me etiquetó o que me incluyó en la conversación, pero bueno, es un paper, como digo, de septiembre de 2025 que se titula ¿Por qué los modelos de lenguaje alucinan? Y está firmado por cuatro autores de OpenAI y uno de Georgia Tech; el primer autor se llama Adam Taumann-Kalai de OpenAI. Bueno, y este artículo pues bueno empieza exactamente con una analogía de este tipo, ¿no? Y conectamos aquí con lo que preguntaba Juan Carlos, de decir: no lo sé, lo que ellos dicen es lo siguiente: si tú tienes un estudiante haciendo un examen y es un examen de estos de respuesta múltiple, tienes cuatro posibilidades, ¿qué les decimos todos siempre a los estudiantes? Cuando vas a hacer el examen, si no te sabe la respuesta, bueno marca cualquier cosa, ¿vale? Que será mejor que dejarla en blanco, suponiendo que no haya penalización en... Eso es, que a veces se corrige por el número de falladas dividido por el número de respuestas menos uno y te quitan esos, ¿no? Te quitan esos puntos. Pues el mundo en el que viven los modelos de lenguaje no funciona así. Falta eso. Entonces, los modelos de lenguaje cuando no están seguros tienden a lanzar, a probar, a hacer un *guess* y entonces el artículo lo que trata es intentar investigar el fenómeno de las alucinaciones desde el punto de vista de la teoría del aprendizaje…
Juan Carlos Gil conecta con una conversación anterior sobre Alfago y anticipa un spoiler relacionado con una entrevista. Menciona que Pushmeet Kohli, de Open Mind, busca un 'movimiento 37' en aplicaciones científicas.
Habla: Juan Carlos GilSignificado #19movimiento 37 aplicaciones open mindpushmeet kohli modelos open mindalfago entrevista spoiler anticipado…No, no, Grok tuvo instrucciones precisas de Elon Musk; de humanos. Sí, bueno, o de semi-humano, me estoy pasando. Sí, se nos está yendo un poco la pinza aquí; yo creo que debemos hacer la pausa ahora. Déjame un minuto, que tenía un comentario que puede ser. que quiero conectar con lo que has comentado y anticipado de Alfago En la entrevista, una pequeña frasecita Vas a hacer un spoiler ahí Un pelín, pelín, pelín, pero es que viene muy bien Pushmeet Kohli nos dijo que en sus aplicaciones de ciencia, de los modelos de Open Mind, que es a lo que él se dedica busca algo parecido a un movimiento 37 en el ámbito de la ciencia, un movimiento especial que es algo inesperado, Que al principio puede incluso parecer erróneo, pero que revela algo nuevo del problema. Y en ese sentido decía que, ya no en nuestra entrevista que fue compacta, le he oído decir que en cierto sentido esa creatividad con 27 comillas podría estar asociada a…