Búsqueda · 35 momentos en 21 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosarcríticas escritura inteligencia artificialretroceso calidad ia villatorodesempeño ia dos años atrásFrancis VillatoroCoffee BreakJosé EdelsteinBarcelonaUniversidad Menéndez PelayoLance DixonDOIChatGPTHéctor SocasSpaceX
Desempeño ia dos años atrás
Con
0:000:301:001:302:002:303:003:25
Francis Villatoro aborda las críticas sobre la calidad de la escritura generada por la inteligencia artificial, mencionando incluso opiniones que sugieren un retroceso en su desempeño respecto a hace dos años.
…o a dar nombres nuevos. Cuando empiece a crear cosas con nuevos nombres y nos diga la IA: "Estoy usando la propiedad Filipón", y tú digas: "Pero, ¿y qué es la propiedad Filipón?", todo el mundo sabe cuál es; es esta. Y tú vas a decir: "Bueno, ese salto". Una de las cuestiones que ahora se está trabajando mucho, porque hay muchas críticas a la manera en la que escribe la IA. Hay gente incluso que ha llegado a decir que la IA está yendo para atrás, que ahora escribe mucho peor de lo que escribía hace dos años. Las IAs comerciales y en parte es cierto porque ahora están como más capadas. Ahora tienen como menos. Todo lo que rodea, todo el chat, no el GPT, no el núcleo, no el modelo de lenguaje, sino el chat, está súper podado para que no hable de no sé qué temas,…
Significado #1 · Palabras #1
José Edelstein explica que en un resultado anterior relacionado con interacciones entre partículas, humanos participaron activamente en el proceso, mostrando resultados a ChatGPT para que aprendiera y generalizara.
Habla: José EdelsteinSignificado #12interacción partículas humanos chatgptchatgpt aprende resultados gluonesgeneralización chatgpt demostración gluones…usando la versión que tiene OpenAI en sus cuarteles, o sea que no tenemos acceso nosotros, mostraron que no solo no era cero, sino que además le dio la expresión para cualquier número de gluones y se la demostró. Entonces fue un resultado espectacular. Pero en ese caso, para compararlo con este, hay varias diferencias y esencialmente la primera es que ahí intervinieron humanos mucho en el proceso. O sea, fue: yo te muestro lo que me dio a mí con 2, 3, 4, 5 y 6 gluones, míralo bien, y bueno, el chat GPT aprendió, fue capaz de generalizarlo y de demostrarlo. En este caso, como luego. supongo que va a comentar más bien Francis más en detalle, lo que hicieron fue algo en lo cual esencialmente le dijo la instrucción a la IA era Resuélveme el diagrama de 6 puntos con 9 loops en n igual a 4 superior mils y el resto de los, bueno, comenta en su…
José Edelstein reflexiona sobre la complejidad de los cálculos científicos, comparando el proceso humano con el de la inteligencia artificial y destacando la importancia de la revisión por parte de personas.
Habla: José EdelsteinPalabras #6errores cálculos científicos iarevisión resultados inteligencia artificialprocesos complejos jose edelsteinmarcha atrás procesos científicos…a 8 lazos por ejemplo y dándose cuenta trucos para que el cálculo sea... el cálculo ingenuo es imposible, es muy muy complejo como dice Dixon que también incluyó una parte, un pequeño comentario en la pieza del blog él dice, a ver, es que además un humano se equivoca y entonces te das cuenta muchos días después que llevas varios días con un error; entonces, bueno, es mucho más tortuoso y también eso te mina el ánimo y hace que te lleve más tiempo, probablemente porque prefiere dedicarle tiempo también a otras cosas en las cuales estás más seguro de lo que estás haciendo. Está muy impresionado que obviamente la IA dio un resultado y el resultado es correcto, pero la IA también en ese proceso también se equivoca a veces y tienes que revisar; por eso es bueno que haya gente; ella misma también en estos procesos complejos también revisa sus propios y a veces tiene que dar marcha atrás de cosas que ha hecho. O sea que en ese sentido se parece también un poco a cómo nosotros funcionamos. Por supuesto, pero cada vez lo hace más ella sola y entonces, bueno, ¿qué más te da? O sea, se equivoca, pero es como un poco las ordenadoras jugando al ajedrez. Lo hace tan…
José Edelstein predice que dentro de poco, posiblemente menos de un año, los oyentes de Coffee Break podrán verificar soluciones complejas encontradas por la inteligencia artificial.
Habla: José EdelsteinSignificado #3ia soluciones verificables jose edelsteinconstatación inteligencia artificial coffee breakritmo ia menos de un año…nosotros justificamos a posteriori nuestros razonamientos a veces sin tener nada que ver con los verdaderos motivos y vaya por ese camino. Me parece que sería muy interesante y muy frustrante. Yo creo que va a pasar eso, con algunos problemas va a pasar eso. La IA va a llegar a una solución que podremos saber que es correcta, podremos constatarla por medio de constatación; no es lo mismo eso que llegar a algo que ver los pasos intermedios. Entonces yo creo que eso va a pasar con, no sé, me sorprendería mucho dentro de 5 años en Coffee Break, que los oyentes acuerden apunten la hora para preguntarnos si no ha pasado. Y yo creo que va a pasar en mucho menos tiempo, porque el ritmo al que va esto será menos de un año. Sí, fijaros una cosa que tenemos los investigadores de las últimas décadas, como incluso antes, muy asumido y es que si descubrimos algo que creemos que es interesante, tenemos que acuñar un nuevo término. Y si os fijáis en la mayor parte del trabajo que se…
Francis Villatoro aborda las críticas sobre la calidad de la escritura generada por la inteligencia artificial, mencionando incluso opiniones que sugieren un retroceso en su desempeño respecto a hace dos años.
Habla: Francis VillatoroSignificado #1 · Palabras #1críticas escritura inteligencia artificialretroceso calidad ia villatorodesempeño ia dos años atrás…o a dar nombres nuevos. Cuando empiece a crear cosas con nuevos nombres y nos diga la IA: "Estoy usando la propiedad Filipón", y tú digas: "Pero, ¿y qué es la propiedad Filipón?", todo el mundo sabe cuál es; es esta. Y tú vas a decir: "Bueno, ese salto". Una de las cuestiones que ahora se está trabajando mucho, porque hay muchas críticas a la manera en la que escribe la IA. Hay gente incluso que ha llegado a decir que la IA está yendo para atrás, que ahora escribe mucho peor de lo que escribía hace dos años. Las IAs comerciales y en parte es cierto porque ahora están como más capadas. Ahora tienen como menos. Todo lo que rodea, todo el chat, no el GPT, no el núcleo, no el modelo de lenguaje, sino el chat, está súper podado para que no hable de no sé qué temas,…
Héctor Socas responde a las afirmaciones de Francis Villatoro sobre el rendimiento decreciente en la escritura y el habla de las inteligencias artificiales, argumentando que el problema no radica en una falta de alineamiento.
Habla: Héctor SocasSignificado #14cautela predicciones futuro inteligencia artificialextrapolaciones lineales avance tecnología jose edelsteinpercepción avance rápido últimos añosalineamiento modelos lenguaje iarendimiento escritura habla inteligencias artificialesmodelos lenguaje ia conversaciones humanasrecursos procesamiento modelos lenguaje…tal manera que el resultado clave, la demostración va a ser validada por Lean pero en la demostración todas las palabras van a ser completamente nuevas y va a ser absolutamente imposible de entender y me llega un humano a decir, esto no hay quien lo entienda Tengo un par de comentarios sobre estas cosas que hemos estado comentando, que me parecen muy fascinantes. Lo primero, yo pondría una cautela a eso que decía José: de que si en cinco años o en un año, yo pondría una cautela porque estamos todos pensando en cómo va a evolucionar esto a futuro y es como muy impredecible. No creo que tengamos que hacer extrapolaciones lineales de un avance ni en un sentido ni en otro; no asumamos que porque ha estado avanzando muy rápidamente o que tenemos una percepción de avance muy rápido en los últimos años, que realmente de aquí a dos años va a haber un cambio tan radical como el que ha habido de hace dos años para acá. Eso es una Primera cuestión, lo otro respecto a que si se expresan peor o son peores escribiendo o hablando, las guías que comentaba Francis, yo no creo que sea por el tema de que le escapan, porque eso, vamos a ver, el alineamiento lo han tenido siempre y eso no creo que haya cambiado mucho, y tampoco me parece que eso lleve mucho procesamiento ni que les reste muchos recursos. Lo que sí es verdad es que cada vez les pedimos hacer más cosas, o sea, a mí ya me flipaban estos modelos de lenguaje que pudieran hablar, que pudieras tener una conversión con ellos aparentemente como un humano; eso ya me volaba la cabeza. Yo no pensaba que llegarían a poder. Hacer afirmaciones precisas, que pudieran dejar de alucinar como han dejado de alucinar. No sé si somos conscientes de cómo hemos pasado de ver Dragones Rosas por todas partes a que ahora te dé una referencia bibliográfica y sea correcta de un artículo oscuro…
Francis Villatoro comenta sobre la evolución de las inteligencias artificiales en relación con las referencias bibliográficas, señalando cómo hace un año cometían numerosos errores al recordar información.
Habla: Francis VillatoroSignificado #9inteligencia artificial referencias bibliográficaserrores inteligencia artificial doicambio nombres autores iabúsqueda internet datos rigurosos…que a lo mejor no es necesario para todas las tareas. Así que no sé. Bueno, en fin, veremos a dónde va todo esto. Pero estamos viviendo tiempos interesantes; yo creo. Tiempo increíble, sí. Tiempo que no nos podíamos soñar. La verdad es que ahora mismo son... Lo que has comentado, por ejemplo, de las referencias. Claro, es que hace un año la inteligencia artificial recordaba la referencia bibliográfica. Entonces cometía una cantidad de errores increíbles. Se equivocaba en un número en el DOI, se equivocaba en un número de páginas. 212 y te ponía 221. Se equivocaba en los nombres de los autores y te confundía el nombre de pila con el apellido y te lo cambiaba de orden y entonces te cambiaba la sigla. Este autor no existe y después tú lo mirabas y dices, ah, pero es que ha cambiado. Ahora ya no, ¿por qué? Porque busca el internet. Ahora, cada vez que tiene que encontrar un dato que se supone que es riguroso, se conecta directamente a la web y te dice, mira, he encontrado que a este Artículo, en otros artículos, se le está citando de tres maneras diferentes. Entonces no sé realmente cuál es la manera correcta. Así que te lo pongo en duda para que tú lo verifiques, porque, pero si el artículo todo el mundo lo cita igual. Pero si ya te lo…
José Edelstein recuerda una experiencia moderando una discusión sobre inteligencia artificial hace tres años en la Universidad Menéndez Pelayo, donde descubrió que Barcelona ya utilizaba ampliamente la IA en dependencias públicas.
Habla: José EdelsteinSignificado #10 · Palabras #4ia en dependencias públicas barcelonamoderación discusión inteligencia artificial menéndez pelayoexperiencia jose edelstein iacandidato presidencial inteligencia artificialdiputado una ia universidad menéndez pelayoopiniones sobre ia diputados registro…sale el tema y que hoy hablamos mucho de IA, esto me recuerda a algo que estuve recordando justamente ayer. Hace unos, creo que fue hace tres años, que me invitaron en la Universidad Menéndez Pelayo a un evento de verano y no sé por qué me pusieron a moderar. una discusión sobre IA, que en ese momento, hace tres años, imaginaos, yo a duras penas sabía que hubiera, o sea, no era un tema, no era un tema público muy importante. Las dos personas que hablaron conmigo, tres, yo era el moderador, era agente especialista y ahí me enteré, por ejemplo, que en Barcelona ya tenían un montón de dependencias públicas que funcionaban mucho con IA, yo ni lo sabía Y en un momento, como de manera provocadora, se me ocurre preguntar al final, para darle lugar al público, Si se admitirían que hubiera un candidato presidencial que fuera una IA y entonces todos, ¿100% que no? No, perdón, me sugirieron esa pregunta. Entonces la hice y todo el mundo respondió que no, pero de repente dije: ¿me permiten hacer una variante de la pregunta? Un escaño, un diputado, que fue una IA. Y ahí ya fue más repartidas. Volvió a ganar el no, pero ya ganó el no, 70-30, 60-40. Me gustaría hacer la pregunta de vuelta hoy, tres años. Después. Un partido minoritario de IA y quizás la IA sea mejor persuadiendo en algún momento en redes sociales y utilizando habilidades igual, de la misma manera que ha demostrado ser mejor que los humanos jugando partidas de ajedrez. Ahora está resolviendo…