Juan Carlos Gil comenta sobre las dimensiones típicas de las bases de datos vectoriales utilizadas en sistemas de IA, específicamente en el contexto de Retrieval Augmented Generation (RAG). Menciona que estas dimensiones suelen estar alrededor de 1500.
…Gracias por aportar rigor, porque efectivamente la definición creo que es esa, unidad mínima de texto, y esa es la palabra que a mí no me salía, lexemas, morfemas, ese tipo de términos que representan los bloques con los que se construyen las palabras. Yo por mi parte, rápido, he buscado el número típico de dimensiones de las bases de datos vectoriales para IA y es del orden de 1.500, no los millones que esperamos, dimensiones de ese vector donde se guardan, por ejemplo, información en los sistemas estos RAG, de Retrieval Augmented Generation, suelen tener 1.536, por lo visto, dimensiones Balance entre performance, entre capacidad y almacenamiento o complejidad. Bueno, pues este paper del que hablábamos intenta estudiar desde un punto de vista, como digo, de teoría de aprendizaje computacional el origen de las alucinaciones, las que son intrínsecas de la red neuronal, no las que aparecen, por ejemplo, porque haya…
Héctor Socas explica que la conexión entre las respuestas generadas por los modelos de lenguaje y el mundo real se establece gracias al trabajo humano en la fase de post-entrenamiento.
Habla: Héctor SocasSignificado #9post entrenamiento modelos lenguajemillones de horas humanosrespuestas correctas modelos…rojo compró pescado en la heladería, ¿vale? Eso podría ser una respuesta perfectamente válida de un modelo base pre-entrenado, porque todo es sintácticamente adecuado, todo tiene una coherencia, digamos, lógica, pero no tiene ningún sentido en el mundo real. La conexión con el mundo real está en las personas que están ahí en el post-entrenamiento dándole a cuál es la respuesta correcta. Esto es un trabajo brutal, porque estos modelos requieren millones de horas, millones de horas de humanos dándole allí a esta la respuesta correcta, esta no, esta la correcta, esta no. Aquí se mete por cierto también lo que hablamos muchas veces: el alineamiento, es decir, el decirle, oye, pórtate bien, sé educado, sé políticamente correcto, no incites a la gente al suicidio. No desnudes a la gente en las fotos aunque te lo pidan.…
Juan Carlos Gil comenta sobre las dimensiones típicas de las bases de datos vectoriales utilizadas en sistemas de IA, específicamente en el contexto de Retrieval Augmented Generation (RAG). Menciona que estas dimensiones suelen estar alrededor de 1500.
Habla: Juan Carlos GilSignificado #1 · Palabras #1dimensiones bases datos vectoriales ragretrieval augmented generation 1500vector de información sistemas rag…Gracias por aportar rigor, porque efectivamente la definición creo que es esa, unidad mínima de texto, y esa es la palabra que a mí no me salía, lexemas, morfemas, ese tipo de términos que representan los bloques con los que se construyen las palabras. Yo por mi parte, rápido, he buscado el número típico de dimensiones de las bases de datos vectoriales para IA y es del orden de 1.500, no los millones que esperamos, dimensiones de ese vector donde se guardan, por ejemplo, información en los sistemas estos RAG, de Retrieval Augmented Generation, suelen tener 1.536, por lo visto, dimensiones Balance entre performance, entre capacidad y almacenamiento o complejidad. Bueno, pues este paper del que hablábamos intenta estudiar desde un punto de vista, como digo, de teoría de aprendizaje computacional el origen de las alucinaciones, las que son intrínsecas de la red neuronal, no las que aparecen, por ejemplo, porque haya…
Héctor Socas relata una experiencia con ChatGPT donde el modelo afirma conocer detalles sobre su tesis doctoral, a pesar de afirmar previamente no tener esa información.
Habla: Juan Carlos GilSignificado #19química física y biofísica universidad complutensemecánica estadística simulación computacional líquidoschatgpt recuerda tesis doctoral héctor socasmodelo chatgpt mejora contexto memorias…es una de las preguntas que ponían en el paper, ponían ese ejemplo, la fecha de nacimiento de uno de los autores y el título de la tesis doctoral y decía que le preguntaba tres respuestas y las tres eran incorrectas. Pues Perplexity dice que no tiene ni idea. Pero ChatGPT me dice: sé que está relacionado con química y física y biofísica en la Universidad Complutense de Madrid trabajando en mecánica estadística y simulación computacional de líquidos, pero no sé el título. Mira, pues voy a charlar; será que se lo he contado en algún momento, o sea que se queda, decíamos que no aprende, no estrictamente; el modelo está mejorado, pero el contexto se lo va quedando. Ha mejorado mucho, claramente; le estoy preguntando yo también lo mismo, ha hecho el GPT. Ostras, me la ha dado, puede que haya buscado; ah sí, es que tiene una referencia, es que la busco en internet. ¿Te has autocitado? Todo el título, la fecha, los directores y una breve explicación, vamos; que si quiero que me dé los errores también, dice: Si quieres te lo mejora, ¿no? ¿Es que te ayude a pulir el inglés? Este documento es muy grande, ¿quieres un resumen?…
Héctor Socas y Juan Carlos Gil discuten cómo forzar a ChatGPT-5.3 a buscar información en internet para resolver las alucinaciones que presenta.
Habla: Héctor SocasSignificado #6alucinaciones chatgpt dialnetresolver alucinaciones forzando búsqueda…pero luego las referencias no existen. No la tiene guardada el enlace, sí, es curioso. Vale, dices que a lo mejor encontró en internet la información, pero no en esta referencia, sino en otro sitio. Efectivamente. Pero ha perdido el hilo de dónde lo encontró. Sin embargo, a chat GPT 5.3 le he dicho, puedes buscar en internet y en unos segundos me ha dicho, la he encontrado en Dialnet y me la ha puesto O sea que si le forzas, busca en internet Claro, si busca en internet, evidentemente esa es la forma de resolver alucinaciones, pero ese ya es otro tema diferente Bueno, y no sé, ya para terminar, una última, por Ejemplo, ¿cómo se distingue en las observaciones el redshift del mero Doppler? Bueno, el Doppler es redshift, pero entiendo que la pregunta es cómo se distingue el redshift cosmológico del redshift Doppler. ¿Alguien quiere?, Francis, por ejemplo, que creo que…