Búsqueda · 31 momentos en 23 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosarias simulan reconstruir solucionesverificación código lean demostracionesexplicaciones ias pueden ser desviadasias alucinan diferente a añosocr tablas con errores iafrancis villatoro explica iasalucinaciones razonamiento inteligencias artificialeserrores conductuales modelos lenguaje iadesvíos sin sentido francis villatoroalineamiento modelos lenguaje iacorregir errores con dos iasproblemas multiagentes complejosdiversidad formas pensar cienciaLeanFrancis VillatoroHéctor SocasOCRIASIgnacio Crespo
IAS simulan reconstruir soluciones
Con
0:000:301:001:302:002:303:003:25
Francis Villatoro explica cómo las inteligencias artificiales (IAS) simulan reconstruir el proceso seguido para llegar a una solución, y enfatiza la importancia de verificar el código Lean en demostraciones.
…tachas, borras, tal, y luego cuando lo escribes en el paper, lo pones súper elegante. Partimos de aquí, vamos a no sé qué, tal, tal, y en cuatro pasitos, con qué elegancia llegas, pero eso no se parece en nada al proceso mental que has seguido realmente, ¿no? Pero en las IAS, que son máquinas, les pedimos que lo reconstruyan bien y la gente se cree que lo está reconstruyendo bien. Por eso, en demostraciones, por ejemplo, con Lean, es muy importante leerse el código Lean. O sea, no basta con la explicación que me describen, porque la explicación que me describen puede estar muy, muy desviada respecto a... Ahora las IAS alucinan de una manera muy diferente a como alucinaban hace años, porque hace años alucinaban de la manera que tú lo veías, ¿no? Me ha cambiado este número; en esta tabla le he pedido que me hagan un OCR de la tabla y se ha equivocado en un número, no, qué alucinación. Ahora no, ahora alucinan en la línea conductual, en el camino, en el razonamiento, entre comillas, que están ejecutando; ahí muchas veces cometen alucinaciones y pegan unos desvíos absolutamente sin sentido, entonces de vez en cuando requieren que se les dé con el látigo y reconstruirla y volverlas a situar. Yo por ejemplo ahora trabajo con dos IAs en paralelo porque necesariamente tengo que estar constantemente pegando latigazos a una de las IAs con la otra porque constantemente se desvían de los objetivos. Para estos problemas concretos, complejos, por eso suelen ser multiagentes, justamente con ese sentido. Decían que habían usado miles de ellos, me parece una barbaridad, no sé cómo eso puede ayudar, pero sí que tienen que tener diferentes instancias que se van vigilando, corrigiendo, explorando diferentes vías, poniendo en común porque al final esa parte colectiva de la ciencia realmente tiene algo de valor, o sea, no es solamente la superinteligencia, sino también la diversidad en formas de pensar, también aporta y es importante a la hora de resolver problemas complejos. Bueno, hablando de diversidad, no sé si ya que estamos en la parte más general podemos introducir en el debate también el otro artículo que teníamos, Ignacio, sobre problemas, en este caso de biología ¿no? Que nos vamos yendo de las matemáticas cada vez a…
Significado #1 · Palabras #1
Francis Villatoro explica cómo las inteligencias artificiales simulan describir el proceso seguido para llegar a una respuesta, pero esta descripción es una reconstrucción posterior basada en la solución obtenida.
Habla: Francis VillatoroSignificado #2 · Palabras #2alineamiento modelos lenguaje iareconstrucción caminos inteligencias artificialesartículos técnicos revistas científicasreconstrucción caminos internet artificialtomografía soluciones problemas sencillosproceso mental paper científico…de los pasos del camino y después cuando ha acabado yo le pregunto: ¿Qué camino has seguido? ¿Cómo lo has hecho? Y te lo cuenta; no recoge esa información acumulada porque no la ha acumulado. Nadie la ha entrenado para que acumulen esa información. Entonces Lo que hace es, una vez ya obtenida la solución, lee esa solución como si fuera la solución de otra persona y ahora trata de construir el camino. El camino que se supone a partir de lo que leo y eso está documentado: hay varios artículos técnicos que lo demuestran y están publicados en revistas. Reconstruye el camino y claro, esa reconstrucción muchas veces es ficticia. Elementos clave, que fueron clave, porque podemos hacer una tomografía de lo que ha hecho la internet artificial en problemas sencillos, pero más complicados no podemos, pero en problemas sencillos podemos hacerlo y vemos que el elemento clave que le llevó a esa solución concreta ha sido omitido de la reconstrucción de la explicación De todas formas tengo que decir que cuando yo escribo un paper y tengo que poner un desarrollo de algo, eso no se parece en nada a cuál ha sido mi proceso mental, quiero decir que Tú empiezas con un papel, tiras un montón de hojas a la papelera, tachas, borras, tal, y luego cuando lo escribes en el paper, lo pones súper elegante. Partimos de aquí, vamos a no sé qué, tal, tal, y en cuatro pasitos, con qué elegancia llegas, pero eso no…
Francis Villatoro explica cómo las inteligencias artificiales (IAS) simulan reconstruir el proceso seguido para llegar a una solución, y enfatiza la importancia de verificar el código Lean en demostraciones.
Habla: Francis VillatoroSignificado #1 · Palabras #1ias simulan reconstruir solucionesverificación código lean demostracionesexplicaciones ias pueden ser desviadasias alucinan diferente a añosocr tablas con errores iafrancis villatoro explica iasalucinaciones razonamiento inteligencias artificialeserrores conductuales modelos lenguaje iadesvíos sin sentido francis villatoroalineamiento modelos lenguaje iacorregir errores con dos iasproblemas multiagentes complejosdiversidad formas pensar ciencia…tachas, borras, tal, y luego cuando lo escribes en el paper, lo pones súper elegante. Partimos de aquí, vamos a no sé qué, tal, tal, y en cuatro pasitos, con qué elegancia llegas, pero eso no se parece en nada al proceso mental que has seguido realmente, ¿no? Pero en las IAS, que son máquinas, les pedimos que lo reconstruyan bien y la gente se cree que lo está reconstruyendo bien. Por eso, en demostraciones, por ejemplo, con Lean, es muy importante leerse el código Lean. O sea, no basta con la explicación que me describen, porque la explicación que me describen puede estar muy, muy desviada respecto a... Ahora las IAS alucinan de una manera muy diferente a como alucinaban hace años, porque hace años alucinaban de la manera que tú lo veías, ¿no? Me ha cambiado este número; en esta tabla le he pedido que me hagan un OCR de la tabla y se ha equivocado en un número, no, qué alucinación. Ahora no, ahora alucinan en la línea conductual, en el camino, en el razonamiento, entre comillas, que están ejecutando; ahí muchas veces cometen alucinaciones y pegan unos desvíos absolutamente sin sentido, entonces de vez en cuando requieren que se les dé con el látigo y reconstruirla y volverlas a situar. Yo por ejemplo ahora trabajo con dos IAs en paralelo porque necesariamente tengo que estar constantemente pegando latigazos a una de las IAs con la otra porque constantemente se desvían de los objetivos. Para estos problemas concretos, complejos, por eso suelen ser multiagentes, justamente con ese sentido. Decían que habían usado miles de ellos, me parece una barbaridad, no sé cómo eso puede ayudar, pero sí que tienen que tener diferentes instancias que se van vigilando, corrigiendo, explorando diferentes vías, poniendo en común porque al final esa parte colectiva de la ciencia realmente tiene algo de valor, o sea, no es solamente la superinteligencia, sino también la diversidad en formas de pensar, también aporta y es importante a la hora de resolver problemas complejos. Bueno, hablando de diversidad, no sé si ya que estamos en la parte más general podemos introducir en el debate también el otro artículo que teníamos, Ignacio, sobre problemas, en este caso de biología ¿no? Que nos vamos yendo de las matemáticas cada vez a…
Ignacio Crespo comenta sobre la posibilidad de que información obtenida por humanos o mediante búsquedas de IA haya influido en el entrenamiento de nuevos modelos de inteligencia artificial.
Habla: Ignacio CrespoPalabras #11búsquedas ias entrenamiento modelosinformación humano influencia iamodelos inteligencia artificial dirección…le parece impactante la similitud de la investigación. Palabras de él. Sé que además hay medios españoles que están intentando contactar con él; no está siendo fácil, pero a ver qué es lo que indica en las próximas semanas; que será también muy interesante. En cualquier caso, sabemos que es plausible que se tenga acceso a esa información por ojo humano, por búsqueda de IAS, lo que sea, pero que por haberla utilizado para entrenar nuevos modelos haya dado suficiente pista a este complejo sistema de IAS para ir en una dirección. Esto ya es más complejo. Esto habría que verlo. y pasa otra cosa, que es que constantemente en la historia de la ciencia hemos visto convergencias, de llegar a la misma conclusión por personas independientes. Esta misma semana hablando con un amigo que es matemático,…