Búsqueda · 32 momentos en 19 episodios
Juan Carlos GilSilvana TapiaLuisa AchaerandioGastón GiribetFrancis VillatoroHéctor SocasIgnacio Crespoalucinaciones chatgpt dialnetresolver alucinaciones forzando búsquedaChatGPT-5.3DialnetHéctor SocasJuan Carlos GilFrancis VillatoroCoffee BreakWikipediaJuan CarlosUniversidad de MálagaIgnacio Crespo
Resolver alucinaciones forzando búsqueda
Con
0:000:301:001:302:002:303:003:303:45
Héctor Socas y Juan Carlos Gil discuten cómo forzar a ChatGPT-5.3 a buscar información en internet para resolver las alucinaciones que presenta.
…pero luego las referencias no existen. No la tiene guardada el enlace, sí, es curioso. Vale, dices que a lo mejor encontró en internet la información, pero no en esta referencia, sino en otro sitio. Efectivamente. Pero ha perdido el hilo de dónde lo encontró. Sin embargo, a chat GPT 5.3 le he dicho, puedes buscar en internet y en unos segundos me ha dicho, la he encontrado en Dialnet y me la ha puesto O sea que si le forzas, busca en internet Claro, si busca en internet, evidentemente esa es la forma de resolver alucinaciones, pero ese ya es otro tema diferente Bueno, y no sé, ya para terminar, una última, por Ejemplo, ¿cómo se distingue en las observaciones el redshift del mero Doppler? Bueno, el Doppler es redshift, pero entiendo que la pregunta es cómo se distingue el redshift cosmológico del redshift Doppler. ¿Alguien quiere?, Francis, por ejemplo, que creo que…
Significado #1 · Palabras #1
Héctor Socas introduce el tema de las alucinaciones en los grandes modelos de lenguaje, un problema actual en la inteligencia artificial que preocupa a la industria.
Habla: Héctor SocasSignificado #20alucinaciones en modelos lenguajeinteligencia artificial y la industriaamenaza alucinaciones inteligencia artificialindustria siglo xxi…cimientos del país. Fernando Arrabal, dice José Edelstein en el chat. ¿Cómo que José? ¿Está José Edelstein en el chat? Está ahí en el chat, sí, sí. ¿Pero qué hace José Edelstein en el chat? O alguien que le ha clonado muy bien el nombre y tal. Bueno, venga. vamos, decía yo que íbamos a hablar de las alucinaciones en los grandes modelos de lenguaje que parece que es el gran problema hoy en día en la inteligencia artificial y lo que tiene en vilo a toda esta gran industria que puede ser la gran industria del siglo XXI y está todo ahí un poco cogido con pinzas porque está la sombra de la amenaza de las alucinaciones que puede hacer que todo el castillo se caiga abajo, ¿no? Entonces, a ver, yo quizás me gustaría empezar antes de hablar del paper Que vamos a comentar, haciendo una observación que no sé si es una obviedad o una provocación, según para quién, pero yo creo que estamos criticando en general socialmente a los modelos de lenguaje por hacer exactamente lo que tienen que hacer. Cuando…
Héctor Socas aclara la diferencia entre las alucinaciones en neurociencia y el concepto técnico de 'fabulación' utilizado para describir los errores de los modelos de lenguaje.
Habla: Héctor SocasPalabras #19alucinaciones neurociencia vs fabulacionignacio crespo y la fabulaciónfabulación como invento plausible…alucinaciones en inteligencia artificial, estamos hablando de esos momentos en los que un modelo genera algo que suena plausible, que suena como algo que podría pasar, pero que no es verdadero, que no ha ocurrido realmente o que no es un dato correcto. O sea, No es como la alucinación en el sentido de neurociencia de que ves algo totalmente fuera de la realidad: ves un dragón rosado en tu casa. Es el concepto de alucinación digamos coloquial, pero aquí en esta jerga técnica se habla de lo que Ignacio Crespo nos decía que deberíamos llamar fabulación, que es un invento plausible, por ejemplo. Esto pasa mucho lamentablemente con las personas de Alzheimer y tal, que te construyen un relato totalmente coherente sobre lo que hicieron por la mañana. Dicen: “No, me levanté y fui a hacer la compra a Mercadona y compré jamón serrano y luego me fui a mi…
Héctor Socas introduce el tema de la conversación sobre cómo las empresas han trabajado para reducir las 'alucinaciones' en los modelos de lenguaje, tras una discusión previa sobre la falta de reconocimiento de desconocimiento en diversas fuentes de información.
Habla: Héctor SocasSignificado #7alucinaciones en modelos de lenguajepost-entrenamiento empresas desarrollo modelosjuan carlos y reconocimiento desconocimiento…Y no sé por qué pasa tal cosa, no lo sé; dice, usa palabras como hay especulaciones, hay hipótesis o sea, usa otro tipo de palabras pero nunca reconoce, no es habitual en un libro, en una página de Wikipedia, en un blog, en un podcast, que digamos no sé. De eso que acaba de decir Juan Carlos es justamente de lo que vamos a hablar, del decir no sé y bueno, tiene que ver con todo esto. El desarrollo y también parte de la razón por la que alucina menos es porque esto ha sido un problema que ha despertado tanta atención que se han esforzado mucho en el post-entrenamiento las empresas de desarrollo de modelos en reducirlo y ahora vamos a hablar un poco de qué se hace para reducir las alucinaciones, pero antes de empezar a comentar lo del paper que vamos a tratar yo primero quiero decir un par de cosas generales. ¿Por qué nos quejamos de que la inteligencia artificial alucine? Es que ese es el comportamiento inteligente, es decir, nosotros antes teníamos máquinas que eran muy buenas en darnos datos, o sea, tenemos conocimiento enciclopédico con todos los datos,…
Héctor Socas continúa reflexionando sobre la naturaleza del error, extendiéndola a los modelos de lenguaje y otros animales, y plantea la posibilidad de que incluso las 'alucinaciones' puedan ser útiles en el ámbito científico.
Habla: Héctor SocasSignificado #8error útil en modelos de lenguajealucinaciones en cienciacasos paradigmáticos de alucinaciones…Decimos muy a menudo: errar es humano, bueno, es humano y también es de grandes modelos de lenguaje y seguramente también es de perros. Si pudiéramos entender sus procesos mentales, todos nos equivocamos, los que pensamos y las redes neuronales también. Y luego una última cosa, es que igual está bien, igual que con las personas que se equivoquen y que alucinen hasta cierto punto; y en ciencia de hecho hay casos en los que esas alucinaciones han sido útiles, y el caso más paradigmático es: hay un, bueno a ver, creo que no lo hemos comentado en Coffee Break, pero. Uno de los ganadores del premio Nobel de Química en 2024 con Alphafold; el otro, o sea la mitad del premio fue para Alphafold, la otra mitad fue para David Baker que su equipo, pues, iba a decir inventó, pero no puede inventar proteínas, pero como que…
Héctor Socas explica cómo los modelos de lenguaje, cuando no están seguros, tienden a hacer conjeturas o 'guesses', y describe un artículo científico que investiga las alucinaciones desde una perspectiva teórica del aprendizaje computacional.
Habla: Héctor SocasSignificado #5 · Palabras #18alucinaciones modelos lenguajeaprendizaje computacional alucinacionesteoría del aprendizaje computacionalprocesos semilla alucinación…no haya penalización en... Eso es, que a veces se corrige por el número de falladas dividido por el número de respuestas menos uno y te quitan esos, ¿no? Te quitan esos puntos. Pues el mundo en el que viven los modelos de lenguaje no funciona así. Falta eso. Entonces, los modelos de lenguaje cuando no están seguros tienden a lanzar, a probar, a hacer un *guess* y entonces el artículo lo que trata es intentar investigar el fenómeno de las alucinaciones desde el punto de vista de la teoría del aprendizaje computacional; y entonces hacen dos cosas. Lo primero es intentar entenderlo y desde un punto de vista teórico hay diferentes tipos de alucinaciones introducidas por diferentes procesos, y cada uno de estos procesos es como una semilla de la cual puede aparecer una alucinación que luego es amplificada por todo el procesamiento de la red. Entonces lo importante es que se nos está uniendo Silvana a la tertulia, voy a darle paso aquí a la sala mientras se va conectando, me está diciendo Gastón que te tienes que ir también en 5 minutos, vale, vale, vale, pues bueno, aquí tenemos a Silvana, hola…
Héctor Socas continúa discutiendo sobre el origen de las 'alucinaciones' en modelos de lenguaje, enfocándose en un artículo científico que analiza el caso ideal y más perfecto para comprender mejor este fenómeno.
Habla: Héctor SocasSignificado #14errores en el conjunto de entrenamientoalucinaciones modelos de lenguajecaso ideal de alucinación…tenemos a Silvana, hola Silvana, ¿qué tal? Silvana Tapia es doctora de microbiología, profesor en la Universidad de Málaga. Qué bueno que se sumó cinco minutos antes, porque si no la gente va a pensar que estamos peleados y que yo me voy cuando ella cega. Por lo menos pueden convivir cinco minutos, no está tan mal la relación. Bueno, que el entonces, el artículo en lo que se basa es en ir a lo más fundamental, ¿no? Porque dice, bueno, supongamos que, o sea, si en el conjunto de entrenamiento hay errores, ¿no? Sabemos que los modelos de lenguaje se entrenan con muchísimos datos y ahí hay errores, evidentemente eso puede ser una fuente de alucinación, pero esa la vamos a dejar de lado, eso sabemos que está ahí. Hay también otros posibles errores que pueden surgir por otros mecanismos, pero ellos quieren irse al caso ideal, al caso más perfecto. La pregunta es: ¿se puede desarrollar un gran modelo de lenguaje que no tenga alucinaciones si lo entrenamos con datos perfectamente verídicos, en condiciones ideales, si todo fuera perfectamente correcto? Y entonces hay una primera parte con un desarrollo…
Héctor Socas introduce un paper que estudia el origen de las alucinaciones en redes neuronales desde una perspectiva de teoría de aprendizaje computacional, diferenciando entre las alucinaciones intrínsecas y aquellas causadas por datos incorrectos en el entrenamiento.
Habla: Héctor SocasSignificado #12alucinaciones intrínsecas red neuronaldatos incorrectos conjunto entrenamientoteoría aprendizaje computacional alucinaciones…dimensiones de ese vector donde se guardan, por ejemplo, información en los sistemas estos RAG, de Retrieval Augmented Generation, suelen tener 1.536, por lo visto, dimensiones Balance entre performance, entre capacidad y almacenamiento o complejidad. Bueno, pues este paper del que hablábamos intenta estudiar desde un punto de vista, como digo, de teoría de aprendizaje computacional el origen de las alucinaciones, las que son intrínsecas de la red neuronal, no las que aparecen, por ejemplo, porque haya datos incorrectos en el conjunto de datos de entrenamiento, perdón, eso ya. Son cosas que se sobreentiende que van a pasar. Digamos como lo mínimo a lo que se puede aspirar. Ellos llegan a la conclusión de que se puede hacer un modelo de lenguaje que no se equivoque nunca, que no tenga ninguna alucinación. Dice: sí, uno que siempre responda, no lo sé. Ese modelo trivial nunca va a producir alucinaciones, pero evidentemente eso es…
Héctor Socas explica una posible solución para reducir las 'alucinaciones' en modelos de inteligencia artificial, comparándola con la necesidad de verificar cada afirmación en Wikipedia.
Habla: Héctor SocasSignificado #2 · Palabras #2alucinaciones modelos inteligencia artificialverificación wikipedia afirmaciones héctor socasfrancis villatoro corrige errores coffee break…otra pregunta: por ejemplo, pregunta Gabriel Osorio y si se entrenaran las IAs para ser un tanto inseguras, por entre comillas, de manera que comprueben en parte lo que dicen; y bueno, sí, esto se hace, o sea, de hecho, y de esto se habla en el paper, ¿no? Una forma de eliminar alucinaciones es forzar al modelo a que busque en internet cualquier información que va a dar, que la busque, que la compruebe en internet. que es un poco matar moscas a cañonazos, quiero decir, eso es como si nosotros no pudiéramos hablar, no pudiéramos hacer Coffee Break y tuviéramos que estar comprobando en la Wikipedia cada cosa que decimos, pues no, para eso está Francis, para decirnos cuando nos equivocamos, ahí está para hacernoslo saber, pero sería muy incómodo hacer un programa en el que cada frase la tuviéramos que estar buscando en internet, pues lo mismo pasa con las inteligencias artificiales, entonces se puede hacer y se pueden mejorar las alucinaciones, Te aseguro, pues que te asegures buscándolo en internet, pero ellos lo que querían era ir a la esencia, a lo básico; ver si desde un punto de vista abstracto matemático se puede establecer alguna relación y efectivamente llegan a formalizar la conclusión de…
Héctor Socas y Juan Carlos Gil discuten cómo forzar a ChatGPT-5.3 a buscar información en internet para resolver las alucinaciones que presenta.
Habla: Héctor SocasSignificado #1 · Palabras #1alucinaciones chatgpt dialnetresolver alucinaciones forzando búsqueda…pero luego las referencias no existen. No la tiene guardada el enlace, sí, es curioso. Vale, dices que a lo mejor encontró en internet la información, pero no en esta referencia, sino en otro sitio. Efectivamente. Pero ha perdido el hilo de dónde lo encontró. Sin embargo, a chat GPT 5.3 le he dicho, puedes buscar en internet y en unos segundos me ha dicho, la he encontrado en Dialnet y me la ha puesto O sea que si le forzas, busca en internet Claro, si busca en internet, evidentemente esa es la forma de resolver alucinaciones, pero ese ya es otro tema diferente Bueno, y no sé, ya para terminar, una última, por Ejemplo, ¿cómo se distingue en las observaciones el redshift del mero Doppler? Bueno, el Doppler es redshift, pero entiendo que la pregunta es cómo se distingue el redshift cosmológico del redshift Doppler. ¿Alguien quiere?, Francis, por ejemplo, que creo que…