Búsqueda · 31 momentos en 20 episodios
Juan Carlos GilSilvana TapiaLuisa AchaerandioGastón GiribetFrancis VillatoroHéctor SocasIgnacio Crespocreatividad y precisión en modelos lenguajemáquinas inventando cosas googletensión inherente creatividad precisiónGoogleHéctor SocasJuan Carlos GilPushmeet KohliOpen Mind
Tensión inherente creatividad precisión
Ep549: Agujeros Negros; IAlucinaciones; Engranajes; Materia Oscura; Doom Neuronal
12 de marzo de 20262 momentos
Con
0:000:301:001:302:002:303:003:303:45
Héctor Socas explica la tensión inherente entre creatividad y precisión en los modelos de lenguaje, argumentando que es natural que estos generen información incorrecta si se les pide ser creativos.
…de lenguaje, llámese un Cloud, un Deep Seek, un Chat GPT, y le preguntemos la fecha de la revolución francesa. Es que lo estamos usando como Google, o mucha gente lo está usando como un sustituto de Google, y eso es absurdo; no es un sustituto de Google. en Google y vas a una fuente enciclopédica. Entonces, lo que se está viendo es que existe una tensión fundamental entre creatividad y precisión de las respuestas. Es normal. Si yo estoy desarrollando una máquina cuya capacidad es de inventar cosas, pues que no me queje luego si algunas de las respuestas tienen cosas inventadas, porque eso es lo que le estoy pidiendo, que tenga esa creatividad. Y entre los mismos humanos pues también ya digo que a veces uno está muy convencido de recordar algo, yo estoy seguro de que ayer yo puse las gafas en este estuche y resulta que cuando voy a mirar las gafas no están en el estuche, yo estoy segurísimo, eso nos…
Significado #1 · Palabras #1
Héctor Socas explica la tensión inherente entre creatividad y precisión en los modelos de lenguaje, argumentando que es natural que estos generen información incorrecta si se les pide ser creativos.
Habla: Héctor SocasSignificado #1 · Palabras #1creatividad y precisión en modelos lenguajemáquinas inventando cosas googletensión inherente creatividad precisión…de lenguaje, llámese un Cloud, un Deep Seek, un Chat GPT, y le preguntemos la fecha de la revolución francesa. Es que lo estamos usando como Google, o mucha gente lo está usando como un sustituto de Google, y eso es absurdo; no es un sustituto de Google. en Google y vas a una fuente enciclopédica. Entonces, lo que se está viendo es que existe una tensión fundamental entre creatividad y precisión de las respuestas. Es normal. Si yo estoy desarrollando una máquina cuya capacidad es de inventar cosas, pues que no me queje luego si algunas de las respuestas tienen cosas inventadas, porque eso es lo que le estoy pidiendo, que tenga esa creatividad. Y entre los mismos humanos pues también ya digo que a veces uno está muy convencido de recordar algo, yo estoy seguro de que ayer yo puse las gafas en este estuche y resulta que cuando voy a mirar las gafas no están en el estuche, yo estoy segurísimo, eso nos…
Juan Carlos Gil continúa la conversación sobre los modelos de lenguaje de Open Mind, conectando la creatividad en estos modelos con las alucinaciones que pueden generar.
Habla: Juan Carlos GilSignificado #11creatividad modelos lenguaje open mindalucinaciones en modelos open mindhipótesis poco convencionales cienciavalidación rigurosa combinaciones improbables…pero es que viene muy bien Pushmeet Kohli nos dijo que en sus aplicaciones de ciencia, de los modelos de Open Mind, que es a lo que él se dedica busca algo parecido a un movimiento 37 en el ámbito de la ciencia, un movimiento especial que es algo inesperado, Que al principio puede incluso parecer erróneo, pero que revela algo nuevo del problema. Y en ese sentido decía que, ya no en nuestra entrevista que fue compacta, le he oído decir que en cierto sentido esa creatividad con 27 comillas podría estar asociada a las alucinaciones; es decir, la capacidad de explorar combinaciones improbables, extrañas, hipótesis poco convencionales que luego, tras una validación rigurosa, pueden ser útiles para la ciencia. Así que eso, empezabas estos comentarios diciendo que no tiene por qué ser malo del todo la desviación del modelo de nuestro conocimiento adquirido. Pues sí, estoy de acuerdo, y él también. Sí. Sí, sí, pues mira, efectivamente yo ponía el ejemplo de David Baker, un uso productivo en ciencia de las alucinaciones, y aquí también, ¿no? Y seguro que, hombre, pues nuestro ámbito es el científico, pero seguro que en temas de arte y que sean más…