Búsqueda · 32 momentos en 24 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosarias simulan reconstruir solucionesverificación código lean demostracionesexplicaciones ias pueden ser desviadasias alucinan diferente a añosocr tablas con errores iafrancis villatoro explica iasLeanFrancis VillatoroHéctor SocasOCRIASIgnacio CrespoGPTChatAnthropic
Explicaciones IAS pueden ser desviadas
Con
0:000:301:001:302:002:303:003:25
Francis Villatoro explica cómo las inteligencias artificiales (IAS) simulan reconstruir el proceso seguido para llegar a una solución, y enfatiza la importancia de verificar el código Lean en demostraciones.
…tachas, borras, tal, y luego cuando lo escribes en el paper, lo pones súper elegante. Partimos de aquí, vamos a no sé qué, tal, tal, y en cuatro pasitos, con qué elegancia llegas, pero eso no se parece en nada al proceso mental que has seguido realmente, ¿no? Pero en las IAS, que son máquinas, les pedimos que lo reconstruyan bien y la gente se cree que lo está reconstruyendo bien. Por eso, en demostraciones, por ejemplo, con Lean, es muy importante leerse el código Lean. O sea, no basta con la explicación que me describen, porque la explicación que me describen puede estar muy, muy desviada respecto a... Ahora las IAS alucinan de una manera muy diferente a como alucinaban hace años, porque hace años alucinaban de la manera que tú lo veías, ¿no? Me ha cambiado este número; en esta tabla le he pedido que me hagan un OCR de la tabla y se ha equivocado en un número, no, qué alucinación. Ahora no, ahora alucinan en la línea conductual, en el camino, en el razonamiento, entre comillas, que están ejecutando; ahí muchas veces cometen alucinaciones y pegan unos desvíos absolutamente sin sentido, entonces de vez en cuando requieren que se les dé…
Significado #1 · Palabras #1
Francis Villatoro comenta sobre la tendencia de las inteligencias artificiales a evitar la creación de nuevos términos para describir sus descubrimientos, prefiriendo utilizar terminología establecida y conocida.
Habla: Francis VillatoroSignificado #6ia evitan creación términos nuevosterminología establecida en inteligencias artificialesrevisores rechazan nueva terminología ia…si descubrimos algo que creemos que es interesante, tenemos que acuñar un nuevo término. Y si os fijáis en la mayor parte del trabajo que se está publicando ahora, que se está publicando una barbaridad increíble, trabajo hecho por IA: las IAs nunca quieren. acuñar términos nuevos, siempre están como muy restrictivas, les tienes que obligar a acuñar algo nuevo, ellas prefieren usar términos conocidos y te dicen, no, pero esto hay que decirlo de esta manera, porque si no lo va a leer un revisor y te va a decir que eso está mal dicho, que la palabra correcta que es todo el mundo, ya, ya, pero es que lo mío no es exactamente lo mismo, porque yo he querido añadir una cosita muy pequeñita, no, no, pero es una cosita demasiado pequeña; no merece un mes. O sea, la IA está constantemente queriendo no crear, ni siquiera nombres nuevos. Cuando tengamos un resultado en el que…
Francis Villatoro explica por qué las inteligencias artificiales comerciales parecen tener dificultades para comunicarse de manera efectiva.
Habla: Francis VillatoroSignificado #16 · Palabras #13ia comercial limitada por restriccionesmodelo de lenguaje gpt super podado…Una de las cuestiones que ahora se está trabajando mucho, porque hay muchas críticas a la manera en la que escribe la IA. Hay gente incluso que ha llegado a decir que la IA está yendo para atrás, que ahora escribe mucho peor de lo que escribía hace dos años. Las IAs comerciales y en parte es cierto porque ahora están como más capadas. Ahora tienen como menos. Todo lo que rodea, todo el chat, no el GPT, no el núcleo, no el modelo de lenguaje, sino el chat, está súper podado para que no hable de no sé qué temas, para que use un lenguaje políticamente correcto no sé cuánto, para que no sé qué, no sé cuánto. Está tan podado que al final a la IA le cuesta mucho trabajo comunicar cosas. Entonces, en el momento en el que una IA de verdad haga lo que todos estamos soñando con que haga algún día, en redes sociales cada vez que hace algo todo el mundo dice que ya lo ha hecho. Y digo no señores todavía no lo ha hecho; cuando lo haga lo veremos y…
Francis Villatoro explica cómo las inteligencias artificiales (IAS) simulan reconstruir el proceso seguido para llegar a una solución, y enfatiza la importancia de verificar el código Lean en demostraciones.
Habla: Francis VillatoroSignificado #1 · Palabras #1ias simulan reconstruir solucionesverificación código lean demostracionesexplicaciones ias pueden ser desviadasias alucinan diferente a añosocr tablas con errores iafrancis villatoro explica ias…tachas, borras, tal, y luego cuando lo escribes en el paper, lo pones súper elegante. Partimos de aquí, vamos a no sé qué, tal, tal, y en cuatro pasitos, con qué elegancia llegas, pero eso no se parece en nada al proceso mental que has seguido realmente, ¿no? Pero en las IAS, que son máquinas, les pedimos que lo reconstruyan bien y la gente se cree que lo está reconstruyendo bien. Por eso, en demostraciones, por ejemplo, con Lean, es muy importante leerse el código Lean. O sea, no basta con la explicación que me describen, porque la explicación que me describen puede estar muy, muy desviada respecto a... Ahora las IAS alucinan de una manera muy diferente a como alucinaban hace años, porque hace años alucinaban de la manera que tú lo veías, ¿no? Me ha cambiado este número; en esta tabla le he pedido que me hagan un OCR de la tabla y se ha equivocado en un número, no, qué alucinación. Ahora no, ahora alucinan en la línea conductual, en el camino, en el razonamiento, entre comillas, que están ejecutando; ahí muchas veces cometen alucinaciones y pegan unos desvíos absolutamente sin sentido, entonces de vez en cuando requieren que se les dé…
Héctor Socas explica que utiliza dos inteligencias artificiales en paralelo para corregir los errores de una con la otra.
Habla: Héctor SocasSignificado #2 · Palabras #2alineamiento modelos lenguaje iacorregir errores con dos iasproblemas multiagentes complejosdiversidad formas pensar ciencia…el camino, en el razonamiento, entre comillas, que están ejecutando; ahí muchas veces cometen alucinaciones y pegan unos desvíos absolutamente sin sentido, entonces de vez en cuando requieren que se les dé con el látigo y reconstruirla y volverlas a situar. Yo por ejemplo ahora trabajo con dos IAs en paralelo porque necesariamente tengo que estar constantemente pegando latigazos a una de las IAs con la otra porque constantemente se desvían de los objetivos. Para estos problemas concretos, complejos, por eso suelen ser multiagentes, justamente con ese sentido. Decían que habían usado miles de ellos, me parece una barbaridad, no sé cómo eso puede ayudar, pero sí que tienen que tener diferentes instancias que se van vigilando, corrigiendo, explorando diferentes vías, poniendo en común porque al final esa parte colectiva de la ciencia realmente tiene algo de valor, o sea, no es solamente la superinteligencia, sino también la diversidad en formas de pensar, también aporta y es importante a la hora de resolver problemas complejos. Bueno, hablando de diversidad, no sé si ya que estamos en la parte más general podemos introducir en el debate también el otro artículo que teníamos, Ignacio, sobre problemas, en este caso de biología ¿no? Que nos vamos yendo de las matemáticas cada vez a…
Ignacio Crespo comenta sobre la posibilidad de que información obtenida por humanos o mediante búsquedas de IA haya influido en el entrenamiento de nuevos modelos de inteligencia artificial.
Habla: Ignacio CrespoPalabras #4búsquedas ias entrenamiento modelosinformación humano influencia iamodelos inteligencia artificial dirección…le parece impactante la similitud de la investigación. Palabras de él. Sé que además hay medios españoles que están intentando contactar con él; no está siendo fácil, pero a ver qué es lo que indica en las próximas semanas; que será también muy interesante. En cualquier caso, sabemos que es plausible que se tenga acceso a esa información por ojo humano, por búsqueda de IAS, lo que sea, pero que por haberla utilizado para entrenar nuevos modelos haya dado suficiente pista a este complejo sistema de IAS para ir en una dirección. Esto ya es más complejo. Esto habría que verlo. y pasa otra cosa, que es que constantemente en la historia de la ciencia hemos visto convergencias, de llegar a la misma conclusión por personas independientes. Esta misma semana hablando con un amigo que es matemático,…
Tras una discusión sobre la falta de innovación en trabajos recientes y posibles plagios relacionados con inteligencia artificial, Francis Villatoro introduce un comentario sobre una polémica relacionada con Anthropic.
Habla: Francis VillatoroPalabras #20anthropic chat uso oyentesentrenamiento ias anthropicpolémica anthropic ignacio…no parece haber nada innovador en esto. Parece que justo lo que pretendían defender sigue en el aire. No hay una respuesta clara que nos diga: no, sí, las nuevas inteligencias artificiales con cadenas de razonamiento, con todos estos procesos, son capaces. Bien, gracias Ignacio. ¿Algún comentario sobre no, eso, comentar el tema de la polémica? No es que sea español, etcétera, pero él comenta que se supone que ha usado el chat de Anthropic. Entonces, lo que hay que recordar a todos los oyentes es que toda persona que use el chat de Anthropic firma, de manera explícita, lo firma, pinchando en el botón de usar Anthropic y lo mismo que no tenía ahí, que cualquier cosa que escriba puede ser usada en el entrenamiento de futuras IAS. Entonces, si tú lo firmas y tú das el visto bueno y dices: yo uso esta tecnología a sabiendas de eso, lo que no tiene sentido es que en el momento que descubras que alguien te ha plagiado un paper, porque a mí me ha llegado a ocurrir. O sea, ideas que yo he…