Búsqueda · 33 momentos en 24 episodios
Juan Carlos GilSilvana TapiaLuisa AchaerandioGastón GiribetFrancis VillatoroHéctor SocasIgnacio Crespoespacio multidimensional arbitrariobase de datos vectorial gastón giribetrango de vectoresGastón GiribetHéctor SocasGoogleMetaJuan Carlos Gil
Espacio multidimensional arbitrario
Con
0:000:301:001:302:002:303:003:303:45
Héctor Socas reflexiona sobre la complejidad de convertir palabras en representaciones vectoriales y cómo se organizan en un espacio multidimensional.
…tiene también un conjunto público de tokens también, pero que luego eso se convierta en números que estén, con eso que yo digo, que palabras relacionadas estén cerca en ese espacio y otras menos relacionadas más lejos. Bueno. No sé; eso es complicadísimo. Porque es un espacio de dimensión muy grande, ¿no? Sí, no sé tampoco qué dimensión tiene, supongo que también será arbitrario dependiendo de, cada uno tendrá su propia dimensión. Lo llaman base de datos vectorial, creo recordar, para ver el rango de esos vectores, sí. Claro, esa es la dimensión. Bueno, Gastón, venga, lárgate, vaya pregunta que. Me has hecho hasta luego, Gastón. Gracias por unirte; gracias a ustedes. La próxima semana, la tokenización es lo que convierte del idioma con el que nosotros le hablamos al modelo de lenguaje: lo convierte su idioma interno. Ellos internamente piensan en…
Significado #1 · Palabras #1
Héctor Socas reflexiona sobre la complejidad de convertir palabras en representaciones vectoriales y cómo se organizan en un espacio multidimensional.
Habla: Héctor SocasSignificado #1 · Palabras #1espacio multidimensional arbitrariobase de datos vectorial gastón giribetrango de vectores…tiene también un conjunto público de tokens también, pero que luego eso se convierta en números que estén, con eso que yo digo, que palabras relacionadas estén cerca en ese espacio y otras menos relacionadas más lejos. Bueno. No sé; eso es complicadísimo. Porque es un espacio de dimensión muy grande, ¿no? Sí, no sé tampoco qué dimensión tiene, supongo que también será arbitrario dependiendo de, cada uno tendrá su propia dimensión. Lo llaman base de datos vectorial, creo recordar, para ver el rango de esos vectores, sí. Claro, esa es la dimensión. Bueno, Gastón, venga, lárgate, vaya pregunta que. Me has hecho hasta luego, Gastón. Gracias por unirte; gracias a ustedes. La próxima semana, la tokenización es lo que convierte del idioma con el que nosotros le hablamos al modelo de lenguaje: lo convierte su idioma interno. Ellos internamente piensan en…
Juan Carlos Gil continúa la analogía entre los modelos de lenguaje y otros sistemas complejos, explicando cómo se busca un mínimo global en diagramas de fases multidimensionales para evitar quedar atrapado en mínimos locales.
Habla: Juan Carlos GilPalabras #7mínimo global en diagramas fasesmínimos locales en landscapes complejosazar para mejorar soluciones juan carlos…alucinaciones, y aquí también, ¿no? Y seguro que, hombre, pues nuestro ámbito es el científico, pero seguro que en temas de arte y que sean más relacionados con creatividad pura y dura, seguramente las alucinaciones de la IA también serán muy interesantes. Y otro caso muy sencillo, cuando hacemos búsquedas en landscapes, en complicados, en diagramas de fases multidimensionales, queremos buscar un mínimo global, ¿verdad? Para no quedarnos atascados en mínimos locales, ¿qué hacemos? Pues le pegamos una pata a la pelota, salta de valle y aumentamos mediante el azar la probabilidad de encontrar una mejor solución. Es semejante, pues sí. Bueno, pues lo dicho, vamos a hacer la pausita; vamos a seguir en la cara B y les cuento ya para terminar lo que dice este paper sobre las alucinaciones y cómo se podría eso mejorar y sobre todo cuánto de conectado están con la propia naturaleza de la red…