Búsqueda · 31 momentos en 17 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosarbúsquedas ias entrenamiento modelosinformación humano influencia iamodelos inteligencia artificial direcciónIASIgnacio CrespoFrancis VillatoroAntropic
Modelos Inteligencia Artificial dirección
Con
0:000:301:001:302:002:303:003:25
Ignacio Crespo comenta sobre la posibilidad de que información obtenida por humanos o mediante búsquedas de IA haya influido en el entrenamiento de nuevos modelos de inteligencia artificial.
…le parece impactante la similitud de la investigación. Palabras de él. Sé que además hay medios españoles que están intentando contactar con él; no está siendo fácil, pero a ver qué es lo que indica en las próximas semanas; que será también muy interesante. En cualquier caso, sabemos que es plausible que se tenga acceso a esa información por ojo humano, por búsqueda de IAS, lo que sea, pero que por haberla utilizado para entrenar nuevos modelos haya dado suficiente pista a este complejo sistema de IAS para ir en una dirección. Esto ya es más complejo. Esto habría que verlo. y pasa otra cosa, que es que constantemente en la historia de la ciencia hemos visto convergencias, de llegar a la misma conclusión por personas independientes. Esta misma semana hablando con un amigo que es matemático,…
Significado #1 · Palabras #1
Ignacio Crespo comenta un anuncio reciente de Antropic sobre el potencial de las inteligencias artificiales para acabar con la humanidad. Aclara que su preocupación radica más en el presente sociopolítico y la falta de legislación al respecto que en el escenario planteado.
Habla: Ignacio CrespoPalabras #16inteligencias artificiales antropic humanidadpreocupación presente sociopolítico legislaciónautomatización futuro inteligencias artificiales…ese gap, que incluso la labor física la realicen máquinas. Están entrenando esto; no es nada del mundo, ya hay algunos procesos concretos que se pueden hacer así, que están implementados así en laboratorios y por supuesto esto llegará a farmacéuticas. Que por cierto, como detalle, hace unas semanas precisamente de Antropic venía este anuncio de en unos años podrían acabar con nosotros las inteligencias artificiales. Y la gente decía: bueno, pero que no tiene manitas, ¿no? ¿Qué va a hacer para sintetizar ahí el virus? Que a mí ya he dicho que no me preocupa ese futuro, me preocupa el presente sociopolítico que hay al respecto y la falta de legislación, pero que no es tan raro; que precisamente estamos yendo en la dirección de automatizar los laboratorios y ponerlos en sus manos. Habría que ver cómo funciona. De todos modos, este laboratorio de Antropic tiene un nivel de bioseguridad 2, que significa que no hay nada, ningún microorganismo con el que puedan trabajar que sea realmente peligroso,…
Ignacio Crespo comenta sobre la posibilidad de que información obtenida por humanos o mediante búsquedas de IA haya influido en el entrenamiento de nuevos modelos de inteligencia artificial.
Habla: Ignacio CrespoSignificado #1 · Palabras #1búsquedas ias entrenamiento modelosinformación humano influencia iamodelos inteligencia artificial dirección…le parece impactante la similitud de la investigación. Palabras de él. Sé que además hay medios españoles que están intentando contactar con él; no está siendo fácil, pero a ver qué es lo que indica en las próximas semanas; que será también muy interesante. En cualquier caso, sabemos que es plausible que se tenga acceso a esa información por ojo humano, por búsqueda de IAS, lo que sea, pero que por haberla utilizado para entrenar nuevos modelos haya dado suficiente pista a este complejo sistema de IAS para ir en una dirección. Esto ya es más complejo. Esto habría que verlo. y pasa otra cosa, que es que constantemente en la historia de la ciencia hemos visto convergencias, de llegar a la misma conclusión por personas independientes. Esta misma semana hablando con un amigo que es matemático,…
Francis Villatoro explica que los modelos de IA necesitan actualizarse constantemente para incorporar información reciente y destaca su incapacidad para recordar la fuente original de esa información.
Habla: Francis VillatoroSignificado #9alineamiento modelos lenguaje iaactualización constante modelos iamemoria fuentes información iaguías no recuerdan fuentes…y después que me reordenara conjuntos de datos y al final la IA ha leído completo mi proyecto de investigación, que todavía no he enviado y que es una investigación futura y eso conforme pasan los meses y como que le están saliendo ahora mismo un. Nuevo modelo cada pocos meses porque es muy relevante que el modelo tenga en su memoria cosas muy recientes, pues mucha de esa información acaba en pocos meses integrada en lo que aprenden y la IA no es capaz de recordar cuál es la fuente de la información. Porque las guías no están entrenadas ni preparadas para recordar fuentes, la guía recuerda; es como cuando tú recuerdas algo, tú ahora vas a recordar. Hay gente que recuerda y tiene una memoria de elefante y recuerda el origen de lo que recuerda, pero la mayor parte de la gente cuando recuerda, no sabe por qué recuerda, ni es consciente de cómo ese recuerdo se ha ido modificando cada vez que lo ha recordado, ni es consciente de que los recuerdos. están vivos Yo acabo de recordar una cosa, que es que tenemos más temas todavía que comentar Vamos a hacer una cosa, vamos a dejar lo de la señal de radio de otro planeta Lo vamos a dejar para el siguiente episodio, si es que todavía estamos aquí Ahí sacó…