Búsqueda · 33 momentos en 22 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosaralineamiento modelos lenguaje iacorregir errores con dos iasproblemas multiagentes complejosdiversidad formas pensar cienciaHéctor SocasFrancis VillatoroLeanOCRIASIgnacio CrespoJosé EdelsteinLance Dixon
Corregir errores con dos IAS
Con
0:000:301:001:302:002:303:003:25
Héctor Socas explica que utiliza dos inteligencias artificiales en paralelo para corregir los errores de una con la otra.
…el camino, en el razonamiento, entre comillas, que están ejecutando; ahí muchas veces cometen alucinaciones y pegan unos desvíos absolutamente sin sentido, entonces de vez en cuando requieren que se les dé con el látigo y reconstruirla y volverlas a situar. Yo por ejemplo ahora trabajo con dos IAs en paralelo porque necesariamente tengo que estar constantemente pegando latigazos a una de las IAs con la otra porque constantemente se desvían de los objetivos. Para estos problemas concretos, complejos, por eso suelen ser multiagentes, justamente con ese sentido. Decían que habían usado miles de ellos, me parece una barbaridad, no sé cómo eso puede ayudar, pero sí que tienen que tener diferentes instancias que se van vigilando, corrigiendo, explorando diferentes vías, poniendo en común porque al final esa parte colectiva de la ciencia realmente tiene algo de valor, o sea, no es solamente la superinteligencia, sino también la diversidad en formas de pensar, también aporta y es importante a la hora de resolver problemas complejos. Bueno, hablando de diversidad, no sé si ya que estamos en la parte más general podemos introducir en el debate también el otro artículo que teníamos, Ignacio, sobre problemas, en este caso de biología ¿no? Que nos vamos yendo de las matemáticas cada vez a…
Significado #1 · Palabras #1
José Edelstein reflexiona sobre la complejidad de los cálculos científicos, comparando el proceso humano con el de la inteligencia artificial y destacando la importancia de la revisión por parte de personas.
Habla: José EdelsteinSignificado #17errores cálculos científicos iarevisión resultados inteligencia artificialprocesos complejos jose edelsteinmarcha atrás procesos científicos…a 8 lazos por ejemplo y dándose cuenta trucos para que el cálculo sea... el cálculo ingenuo es imposible, es muy muy complejo como dice Dixon que también incluyó una parte, un pequeño comentario en la pieza del blog él dice, a ver, es que además un humano se equivoca y entonces te das cuenta muchos días después que llevas varios días con un error; entonces, bueno, es mucho más tortuoso y también eso te mina el ánimo y hace que te lleve más tiempo, probablemente porque prefiere dedicarle tiempo también a otras cosas en las cuales estás más seguro de lo que estás haciendo. Está muy impresionado que obviamente la IA dio un resultado y el resultado es correcto, pero la IA también en ese proceso también se equivoca a veces y tienes que revisar; por eso es bueno que haya gente; ella misma también en estos procesos complejos también revisa sus propios y a veces tiene que dar marcha atrás de cosas que ha hecho. O sea que en ese sentido se parece también un poco a cómo nosotros funcionamos. Por supuesto, pero cada vez lo hace más ella sola y entonces, bueno, ¿qué más te da? O sea, se equivoca, pero es como un poco las ordenadoras jugando al ajedrez. Lo hace tan…
Francis Villatoro explica cómo las inteligencias artificiales (IAS) simulan reconstruir el proceso seguido para llegar a una solución, y enfatiza la importancia de verificar el código Lean en demostraciones.
Habla: Francis VillatoroSignificado #2 · Palabras #12ias simulan reconstruir solucionesverificación código lean demostracionesexplicaciones ias pueden ser desviadasias alucinan diferente a añosocr tablas con errores iafrancis villatoro explica ias…tachas, borras, tal, y luego cuando lo escribes en el paper, lo pones súper elegante. Partimos de aquí, vamos a no sé qué, tal, tal, y en cuatro pasitos, con qué elegancia llegas, pero eso no se parece en nada al proceso mental que has seguido realmente, ¿no? Pero en las IAS, que son máquinas, les pedimos que lo reconstruyan bien y la gente se cree que lo está reconstruyendo bien. Por eso, en demostraciones, por ejemplo, con Lean, es muy importante leerse el código Lean. O sea, no basta con la explicación que me describen, porque la explicación que me describen puede estar muy, muy desviada respecto a... Ahora las IAS alucinan de una manera muy diferente a como alucinaban hace años, porque hace años alucinaban de la manera que tú lo veías, ¿no? Me ha cambiado este número; en esta tabla le he pedido que me hagan un OCR de la tabla y se ha equivocado en un número, no, qué alucinación. Ahora no, ahora alucinan en la línea conductual, en el camino, en el razonamiento, entre comillas, que están ejecutando; ahí muchas veces cometen alucinaciones y pegan unos desvíos absolutamente sin sentido, entonces de vez en cuando requieren que se les dé…
Héctor Socas explica que utiliza dos inteligencias artificiales en paralelo para corregir los errores de una con la otra.
Habla: Héctor SocasSignificado #1 · Palabras #1alineamiento modelos lenguaje iacorregir errores con dos iasproblemas multiagentes complejosdiversidad formas pensar ciencia…el camino, en el razonamiento, entre comillas, que están ejecutando; ahí muchas veces cometen alucinaciones y pegan unos desvíos absolutamente sin sentido, entonces de vez en cuando requieren que se les dé con el látigo y reconstruirla y volverlas a situar. Yo por ejemplo ahora trabajo con dos IAs en paralelo porque necesariamente tengo que estar constantemente pegando latigazos a una de las IAs con la otra porque constantemente se desvían de los objetivos. Para estos problemas concretos, complejos, por eso suelen ser multiagentes, justamente con ese sentido. Decían que habían usado miles de ellos, me parece una barbaridad, no sé cómo eso puede ayudar, pero sí que tienen que tener diferentes instancias que se van vigilando, corrigiendo, explorando diferentes vías, poniendo en común porque al final esa parte colectiva de la ciencia realmente tiene algo de valor, o sea, no es solamente la superinteligencia, sino también la diversidad en formas de pensar, también aporta y es importante a la hora de resolver problemas complejos. Bueno, hablando de diversidad, no sé si ya que estamos en la parte más general podemos introducir en el debate también el otro artículo que teníamos, Ignacio, sobre problemas, en este caso de biología ¿no? Que nos vamos yendo de las matemáticas cada vez a…
Ignacio Crespo comenta sobre la posibilidad de que información obtenida por humanos o mediante búsquedas de IA haya influido en el entrenamiento de nuevos modelos de inteligencia artificial.
Habla: Ignacio CrespoPalabras #13búsquedas ias entrenamiento modelosinformación humano influencia iamodelos inteligencia artificial dirección…le parece impactante la similitud de la investigación. Palabras de él. Sé que además hay medios españoles que están intentando contactar con él; no está siendo fácil, pero a ver qué es lo que indica en las próximas semanas; que será también muy interesante. En cualquier caso, sabemos que es plausible que se tenga acceso a esa información por ojo humano, por búsqueda de IAS, lo que sea, pero que por haberla utilizado para entrenar nuevos modelos haya dado suficiente pista a este complejo sistema de IAS para ir en una dirección. Esto ya es más complejo. Esto habría que verlo. y pasa otra cosa, que es que constantemente en la historia de la ciencia hemos visto convergencias, de llegar a la misma conclusión por personas independientes. Esta misma semana hablando con un amigo que es matemático,…