Búsqueda · 29 momentos en 13 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosarias simulan reconstruir solucionesverificación código lean demostracionesexplicaciones ias pueden ser desviadasias alucinan diferente a añosocr tablas con errores iafrancis villatoro explica iasOCRFrancis VillatoroLeanHéctor SocasIASIgnacio CrespoJosé EdelsteinTelescopio Muy Grande (TMT)
IAS alucinan diferente a años
Con
0:000:301:001:302:002:303:003:25
Francis Villatoro explica cómo las inteligencias artificiales (IAS) han evolucionado en su forma de 'alucinar' o cometer errores, contrastando con el comportamiento anterior.
…tachas, borras, tal, y luego cuando lo escribes en el paper, lo pones súper elegante. Partimos de aquí, vamos a no sé qué, tal, tal, y en cuatro pasitos, con qué elegancia llegas, pero eso no se parece en nada al proceso mental que has seguido realmente, ¿no? Pero en las IAS, que son máquinas, les pedimos que lo reconstruyan bien y la gente se cree que lo está reconstruyendo bien. Por eso, en demostraciones, por ejemplo, con Lean, es muy importante leerse el código Lean. O sea, no basta con la explicación que me describen, porque la explicación que me describen puede estar muy, muy desviada respecto a... Ahora las IAS alucinan de una manera muy diferente a como alucinaban hace años, porque hace años alucinaban de la manera que tú lo veías, ¿no? Me ha cambiado este número; en esta tabla le he pedido que me hagan un OCR de la tabla y se ha equivocado en un número, no, qué alucinación. Ahora no, ahora alucinan en la línea conductual, en el camino, en el razonamiento, entre comillas, que están ejecutando; ahí muchas veces cometen alucinaciones y pegan unos desvíos absolutamente sin sentido, entonces de vez en cuando requieren que se les dé…
Significado #1 · Palabras #1
Héctor Socas expresa su opinión personal sobre la situación del Telescopio Muy Grande (TMT), enfatizando que sus comentarios no representan la postura del Instituto Astrofísico de Canarias (IAC). Aclara que se encuentra en excedencia y carece de información interna sobre las decisiones del IAC.
Habla: Héctor SocasSignificado #12opinión personal telescopio muy grandefalta información decisiones iac…información confidencial, pero bueno, salió un artículo diciendo que, aunque no es información oficial, pues que Estados Unidos también se inclinaba más por la opción de la palma. Supongo que no querrían tampoco generar más problemas en su propio territorio. Entonces bueno, mi opinión personal, y aquí voy a insistir mucho que esto es mi opinión personal, que nada de lo que voy a decir tiene ninguna relación con lo que pueda pensar el IAC, que yo no soy empleado del IAC, estoy en excedencia y no tengo información de lo que piensa el IAC sobre nada de este tema. Pero en mi opinión personal es casi mejor, porque francamente ese es un consorcio que yo creo que se está cayendo a pedazos. China ya no está en el consorcio, Estados Unidos no está financiando el proyecto, dice que en el futuro pues ya veremos, pero ahora…
Francis Villatoro aborda las críticas sobre la calidad de la escritura generada por la inteligencia artificial, mencionando incluso opiniones que sugieren un retroceso en su desempeño respecto a hace dos años.
Habla: Francis VillatoroSignificado #18críticas escritura inteligencia artificialretroceso calidad ia villatorodesempeño ia dos años atrás…o a dar nombres nuevos. Cuando empiece a crear cosas con nuevos nombres y nos diga la IA: "Estoy usando la propiedad Filipón", y tú digas: "Pero, ¿y qué es la propiedad Filipón?", todo el mundo sabe cuál es; es esta. Y tú vas a decir: "Bueno, ese salto". Una de las cuestiones que ahora se está trabajando mucho, porque hay muchas críticas a la manera en la que escribe la IA. Hay gente incluso que ha llegado a decir que la IA está yendo para atrás, que ahora escribe mucho peor de lo que escribía hace dos años. Las IAs comerciales y en parte es cierto porque ahora están como más capadas. Ahora tienen como menos. Todo lo que rodea, todo el chat, no el GPT, no el núcleo, no el modelo de lenguaje, sino el chat, está súper podado para que no hable de no sé qué temas,…
Héctor Socas expresa cautela sobre las predicciones del futuro de la inteligencia artificial, refiriéndose a comentarios anteriores sobre cómo evolucionarán estas tecnologías.
Habla: Héctor SocasSignificado #11cautela predicciones futuro inteligencia artificialextrapolaciones lineales avance tecnología jose edelsteinpercepción avance rápido últimos años…tal manera que el resultado clave, la demostración va a ser validada por Lean pero en la demostración todas las palabras van a ser completamente nuevas y va a ser absolutamente imposible de entender y me llega un humano a decir, esto no hay quien lo entienda Tengo un par de comentarios sobre estas cosas que hemos estado comentando, que me parecen muy fascinantes. Lo primero, yo pondría una cautela a eso que decía José: de que si en cinco años o en un año, yo pondría una cautela porque estamos todos pensando en cómo va a evolucionar esto a futuro y es como muy impredecible. No creo que tengamos que hacer extrapolaciones lineales de un avance ni en un sentido ni en otro; no asumamos que porque ha estado avanzando muy rápidamente o que tenemos una percepción de avance muy rápido en los últimos años, que realmente de aquí a dos años va a haber un cambio tan radical como el que ha habido de hace dos años para acá. Eso es una Primera cuestión, lo otro respecto a que si se expresan peor o son peores escribiendo o hablando, las guías que comentaba Francis, yo no creo que sea por el tema de que le escapan, porque eso, vamos a ver, el alineamiento lo han tenido siempre y eso no creo…
Francis Villatoro explica cómo las inteligencias artificiales (IAS) han evolucionado en su forma de 'alucinar' o cometer errores, contrastando con el comportamiento anterior.
Habla: Francis VillatoroSignificado #1 · Palabras #1ias simulan reconstruir solucionesverificación código lean demostracionesexplicaciones ias pueden ser desviadasias alucinan diferente a añosocr tablas con errores iafrancis villatoro explica ias…tachas, borras, tal, y luego cuando lo escribes en el paper, lo pones súper elegante. Partimos de aquí, vamos a no sé qué, tal, tal, y en cuatro pasitos, con qué elegancia llegas, pero eso no se parece en nada al proceso mental que has seguido realmente, ¿no? Pero en las IAS, que son máquinas, les pedimos que lo reconstruyan bien y la gente se cree que lo está reconstruyendo bien. Por eso, en demostraciones, por ejemplo, con Lean, es muy importante leerse el código Lean. O sea, no basta con la explicación que me describen, porque la explicación que me describen puede estar muy, muy desviada respecto a... Ahora las IAS alucinan de una manera muy diferente a como alucinaban hace años, porque hace años alucinaban de la manera que tú lo veías, ¿no? Me ha cambiado este número; en esta tabla le he pedido que me hagan un OCR de la tabla y se ha equivocado en un número, no, qué alucinación. Ahora no, ahora alucinan en la línea conductual, en el camino, en el razonamiento, entre comillas, que están ejecutando; ahí muchas veces cometen alucinaciones y pegan unos desvíos absolutamente sin sentido, entonces de vez en cuando requieren que se les dé…
Héctor Socas explica que utiliza dos inteligencias artificiales en paralelo para corregir los errores de una con la otra.
Habla: Héctor SocasSignificado #4 · Palabras #2alineamiento modelos lenguaje iacorregir errores con dos iasproblemas multiagentes complejosdiversidad formas pensar ciencia…el camino, en el razonamiento, entre comillas, que están ejecutando; ahí muchas veces cometen alucinaciones y pegan unos desvíos absolutamente sin sentido, entonces de vez en cuando requieren que se les dé con el látigo y reconstruirla y volverlas a situar. Yo por ejemplo ahora trabajo con dos IAs en paralelo porque necesariamente tengo que estar constantemente pegando latigazos a una de las IAs con la otra porque constantemente se desvían de los objetivos. Para estos problemas concretos, complejos, por eso suelen ser multiagentes, justamente con ese sentido. Decían que habían usado miles de ellos, me parece una barbaridad, no sé cómo eso puede ayudar, pero sí que tienen que tener diferentes instancias que se van vigilando, corrigiendo, explorando diferentes vías, poniendo en común porque al final esa parte colectiva de la ciencia realmente tiene algo de valor, o sea, no es solamente la superinteligencia, sino también la diversidad en formas de pensar, también aporta y es importante a la hora de resolver problemas complejos. Bueno, hablando de diversidad, no sé si ya que estamos en la parte más general podemos introducir en el debate también el otro artículo que teníamos, Ignacio, sobre problemas, en este caso de biología ¿no? Que nos vamos yendo de las matemáticas cada vez a…
Ignacio Crespo comenta sobre la posibilidad de que información obtenida por humanos o mediante búsquedas de IA haya influido en el entrenamiento de nuevos modelos de inteligencia artificial.
Habla: Ignacio CrespoSignificado #5 · Palabras #8búsquedas ias entrenamiento modelosinformación humano influencia iamodelos inteligencia artificial dirección…le parece impactante la similitud de la investigación. Palabras de él. Sé que además hay medios españoles que están intentando contactar con él; no está siendo fácil, pero a ver qué es lo que indica en las próximas semanas; que será también muy interesante. En cualquier caso, sabemos que es plausible que se tenga acceso a esa información por ojo humano, por búsqueda de IAS, lo que sea, pero que por haberla utilizado para entrenar nuevos modelos haya dado suficiente pista a este complejo sistema de IAS para ir en una dirección. Esto ya es más complejo. Esto habría que verlo. y pasa otra cosa, que es que constantemente en la historia de la ciencia hemos visto convergencias, de llegar a la misma conclusión por personas independientes. Esta misma semana hablando con un amigo que es matemático,…