Búsqueda · 25 momentos en 10 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosarbúsquedas ias entrenamiento modelosinformación humano influencia iamodelos inteligencia artificial direcciónIASIgnacio CrespoHéctor SocasAnthropicFrancis VillatoroOCRLean
Búsquedas IAS entrenamiento modelos
Con
0:000:301:001:302:002:303:003:25
Ignacio Crespo comenta sobre la posibilidad de que información obtenida por humanos o mediante búsquedas de IA haya influido en el entrenamiento de nuevos modelos de inteligencia artificial.
…le parece impactante la similitud de la investigación. Palabras de él. Sé que además hay medios españoles que están intentando contactar con él; no está siendo fácil, pero a ver qué es lo que indica en las próximas semanas; que será también muy interesante. En cualquier caso, sabemos que es plausible que se tenga acceso a esa información por ojo humano, por búsqueda de IAS, lo que sea, pero que por haberla utilizado para entrenar nuevos modelos haya dado suficiente pista a este complejo sistema de IAS para ir en una dirección. Esto ya es más complejo. Esto habría que verlo. y pasa otra cosa, que es que constantemente en la historia de la ciencia hemos visto convergencias, de llegar a la misma conclusión por personas independientes. Esta misma semana hablando con un amigo que es matemático,…
Significado #1 · Palabras #1
Héctor Socas continúa su reflexión sobre la evolución de los modelos de lenguaje, explicando que el desarrollo de capacidades complejas y llamativas está ligado al alineamiento y entrenamiento recibido.
Habla: Héctor SocasSignificado #9 · Palabras #12alineamiento y entrenamiento modelos lenguaje iatareas complejas modelos lenguaje…que a lo mejor no le dan tanta importancia a una cosa como a la otra, y no le dan tanta importancia a lo de que hable o que escriba también, como a que pueda tener también estas otras capacidades. Ahora están sobre todo centrados en que desarrolle código, en ¿Que haga tareas complejas, en que haga ciencia, en que haga cosas mucho más potentes y llamativas? Y luego, por último, el tema de que si desarrollan un lenguaje y tal, o sea, eso básicamente va con el alineamiento y el entrenamiento que se les haya dado. No hay una limitación estricta, o sea, al final la mitad del trabajo de entrenar uno de estos modelos es con entrenadores, sobre todo con entrenadores humanos: miles de personas que le van diciendo si esta respuesta es adecuada, no, esta respuesta no es adecuada. Entonces eso ancla el modelo de lenguaje a hablar nuestro idioma y a comunicarse con nosotros, pero podría no ser así necesariamente; o sea, seguramente están desarrollando otros modelos que son muy eficientes para algún problema dado y que probablemente no…
Francis Villatoro explica cómo las inteligencias artificiales (IAS) han evolucionado en su forma de 'alucinar' o cometer errores, contrastando con el comportamiento anterior.
Habla: Francis VillatoroPalabras #19ias alucinan diferente a añosocr tablas con errores iafrancis villatoro explica ias…lo está reconstruyendo bien. Por eso, en demostraciones, por ejemplo, con Lean, es muy importante leerse el código Lean. O sea, no basta con la explicación que me describen, porque la explicación que me describen puede estar muy, muy desviada respecto a... Ahora las IAS alucinan de una manera muy diferente a como alucinaban hace años, porque hace años alucinaban de la manera que tú lo veías, ¿no? Me ha cambiado este número; en esta tabla le he pedido que me hagan un OCR de la tabla y se ha equivocado en un número, no, qué alucinación. Ahora no, ahora alucinan en la línea conductual, en el camino, en el razonamiento, entre comillas, que están ejecutando; ahí muchas veces cometen alucinaciones y pegan unos desvíos absolutamente sin sentido, entonces de vez en cuando requieren que se les dé…
Ignacio Crespo comenta sobre la posibilidad de que información obtenida por humanos o mediante búsquedas de IA haya influido en el entrenamiento de nuevos modelos de inteligencia artificial.
Habla: Ignacio CrespoSignificado #1 · Palabras #1búsquedas ias entrenamiento modelosinformación humano influencia iamodelos inteligencia artificial dirección…le parece impactante la similitud de la investigación. Palabras de él. Sé que además hay medios españoles que están intentando contactar con él; no está siendo fácil, pero a ver qué es lo que indica en las próximas semanas; que será también muy interesante. En cualquier caso, sabemos que es plausible que se tenga acceso a esa información por ojo humano, por búsqueda de IAS, lo que sea, pero que por haberla utilizado para entrenar nuevos modelos haya dado suficiente pista a este complejo sistema de IAS para ir en una dirección. Esto ya es más complejo. Esto habría que verlo. y pasa otra cosa, que es que constantemente en la historia de la ciencia hemos visto convergencias, de llegar a la misma conclusión por personas independientes. Esta misma semana hablando con un amigo que es matemático,…
Tras una discusión sobre la falta de innovación en trabajos recientes y posibles plagios relacionados con inteligencia artificial, Francis Villatoro introduce un comentario sobre una polémica relacionada con Anthropic.
Habla: Francis VillatoroPalabras #15anthropic chat uso oyentesentrenamiento ias anthropicpolémica anthropic ignacio…no parece haber nada innovador en esto. Parece que justo lo que pretendían defender sigue en el aire. No hay una respuesta clara que nos diga: no, sí, las nuevas inteligencias artificiales con cadenas de razonamiento, con todos estos procesos, son capaces. Bien, gracias Ignacio. ¿Algún comentario sobre no, eso, comentar el tema de la polémica? No es que sea español, etcétera, pero él comenta que se supone que ha usado el chat de Anthropic. Entonces, lo que hay que recordar a todos los oyentes es que toda persona que use el chat de Anthropic firma, de manera explícita, lo firma, pinchando en el botón de usar Anthropic y lo mismo que no tenía ahí, que cualquier cosa que escriba puede ser usada en el entrenamiento de futuras IAS. Entonces, si tú lo firmas y tú das el visto bueno y dices: yo uso esta tecnología a sabiendas de eso, lo que no tiene sentido es que en el momento que descubras que alguien te ha plagiado un paper, porque a mí me ha llegado a ocurrir. O sea, ideas que yo he…