Búsqueda · 26 momentos en 14 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosartérminos nuevos investigadoresinteligencias artificiales carecen iniciativatrabajo ia sin términos nuevosia evitan creación términos nuevosterminología establecida en inteligencias artificialesrevisores rechazan nueva terminología iaia evita creación nombres nuevosinteligencias artificiales resultados con nombrefrancis villatoro ia descubrimientosia reticencia crear conceptos nuevospropiedad filipón inteligencia artificialsalto concepto propiedad filipóncríticas escritura inteligencia artificialretroceso calidad ia villatorodesempeño ia dos años atráspropiedad FilipónFrancis VillatoroInteligencia ArtificialLeanMochizukiJosé EdelsteinIgnacio CrespoSuperconvicciónBorja TosarDixonSongheAnthropiClaude
Ia reticencia crear conceptos nuevos
Con
0:000:301:001:302:002:303:003:25
Francis Villatoro explica que las inteligencias artificiales muestran una gran reticencia a crear nuevos conceptos o asignarles nombres.
…eso va a pasar con, no sé, me sorprendería mucho dentro de 5 años en Coffee Break, que los oyentes acuerden apunten la hora para preguntarnos si no ha pasado. Y yo creo que va a pasar en mucho menos tiempo, porque el ritmo al que va esto será menos de un año. Sí, fijaros una cosa que tenemos los investigadores de las últimas décadas, como incluso antes, muy asumido y es que si descubrimos algo que creemos que es interesante, tenemos que acuñar un nuevo término. Y si os fijáis en la mayor parte del trabajo que se está publicando ahora, que se está publicando una barbaridad increíble, trabajo hecho por IA: las IAs nunca quieren. acuñar términos nuevos, siempre están como muy restrictivas, les tienes que obligar a acuñar algo nuevo, ellas prefieren usar términos conocidos y te dicen, no, pero esto hay que decirlo de esta manera, porque si no lo va a leer un revisor y te va a decir que eso está mal dicho, que la palabra correcta que es todo el mundo, ya, ya, pero es que lo mío no es exactamente lo mismo, porque yo he querido añadir una cosita muy pequeñita, no, no, pero es una cosita demasiado pequeña; no merece un mes. O sea, la IA está constantemente queriendo no crear, ni siquiera nombres nuevos. Cuando tengamos un resultado en el que la IA use cosas que no tienen nombre, porque ahora mismo la IA siempre está usando cosas con nombre. Tiene un extremado miedo a construir cosas nuevas o a dar nombres nuevos. Cuando empiece a crear cosas con nuevos nombres y nos diga la IA: "Estoy usando la propiedad Filipón", y tú digas: "Pero, ¿y qué es la propiedad Filipón?", todo el mundo sabe cuál es; es esta. Y tú vas a decir: "Bueno, ese salto". Una de las cuestiones que ahora se está trabajando mucho, porque hay muchas críticas a la manera en la que escribe la IA. Hay gente incluso que ha llegado a decir que la IA está yendo para atrás, que ahora escribe mucho peor de lo que escribía hace dos años. Las IAs comerciales y en parte es cierto porque ahora están como más capadas. Ahora tienen como menos. Todo lo que rodea, todo el chat, no el GPT, no el núcleo, no el modelo de lenguaje, sino el chat, está súper podado para que no hable de no sé qué temas,…
Significado #1 · Palabras #1
José Edelstein introduce un tema que Francis Villatoro profundizará más adelante. Se describe una instrucción dada a la IA para resolver un diagrama con seis puntos y nueve bucles.
Habla: José EdelsteinPalabras #16diagrama seis puntos nueve buclesinstrucción ia resolver diagraman igual a 4 superior milsblog francisco villatoro…la primera es que ahí intervinieron humanos mucho en el proceso. O sea, fue: yo te muestro lo que me dio a mí con 2, 3, 4, 5 y 6 gluones, míralo bien, y bueno, el chat GPT aprendió, fue capaz de generalizarlo y de demostrarlo. En este caso, como luego. supongo que va a comentar más bien Francis más en detalle, lo que hicieron fue algo en lo cual esencialmente le dijo la instrucción a la IA era Resuélveme el diagrama de 6 puntos con 9 loops en n igual a 4 superior mils y el resto de los, bueno, comenta en su blog este chico que mencionó Francis recién, que la única interacción que luego tuvo con humanos es cada varias horas decirle sigue, ánimo, sigue; cada 4 o 6 horas pásame, ve contándome cómo va la cosa, pero no hubo una retroalimentación, o sea que en términos bastante, bueno, por lo…
Francis Villatoro plantea una pregunta sobre si para calcular a nueve lazos será necesario innovar o si se podrán usar las técnicas empleadas para ocho lazos, mencionando el trabajo del equipo de Dixon y otros equipos.
Habla: Francis VillatoroPalabras #8equipo de dixon cálculo nueve lazosgrupo songhe ia anthropi lazosclaude demostración técnicas lazos…se reduce una barbaridad. Pero una barbaridad, eso sí fue una reducción enorme y entonces cosas que eran realmente inviables a nivel computacional se hicieron viables y se pudo obtener en 2023 el cálculo a ocho lazos. Entonces estaba en 2023 la gran duda. ¿Para calcular a nueve lazos vamos a tener que innovar? ¿Vamos a tener que crear nuevas técnicas, descubrir nuevas simetrías o van a servir las técnicas que hemos usado para ocho lazos? Bueno, pues eso estaba trabajando el equipo de Dixon en paralelo con otros equipos; había un equipo del grupo de Songhe que estaba trabajando con IA, con la IA de Anthropi, trabajando en ese problema. Pues resulta que eso es lo que ha demostrado Claude. Y Fable, Claude Opus 5 y Fable 5.1 de Anthropi han demostrado que basta con las técnicas de ocho lazos que se puede obtener el resultado a nueve lazos sin innovaciones sin creatividad y este es el punto clave que tenemos que recordar de este gran resultado de…
José Edelstein retoma una idea expresada por Francis Villatoro sobre cómo analizar las soluciones propuestas por una inteligencia artificial.
Habla: José EdelsteinSignificado #15 · Palabras #7análisis soluciones inteligencia artificialtécnicas de ia en la literaturafrancis villatoro sobre análisis iasalto creativo inteligencia artificiallimitaciones humanas cálculosia compete con dixoncálculo lazos mortales…un montón de cosas que hacen que la teoría sea tremendamente compleja. Lo que pasa es trivial comparada con el modelo estándar, digamos, pero la teoría es muy compleja, muy bonita, por sus simetrías también. Se me fue de la cabeza lo que quería comentar. Ah, no, sí, una cosa que te escuché, Francis, que está muy bien, que quiero remarcar, es que una vez que la IA lo resolvió, uno puede ver cómo lo resolvió y claro, ahí estaba un poco el momento muy relevante porque si todo lo que hizo la IA lo entiendo, que es lo que al final ocurrió, que es lo que dice Francis, que lo que usó fue técnicas que estaban en la literatura y mostró que no había que introducir ningún concepto nuevo, bueno, en parte bien, en parte hubiera sido mucho más bonito. Que la IA en algún momento ya tenga que dar un salto que nadie ha dado todavía. Y todavía ese salto podría ser un salto técnico y de no demasiada creatividad o completamente creativo. Entonces, sí, por supuesto cabe la duda de en qué medida una IA puede dar un salto creativo de estos que los humanos, también hay que decirlo, unos pocos humanos dan cada tantos. Cuando estamos comparando nos venimos arriba porque la IA recién puede competir con Dixon, pero es que nosotros no somos capaces de calcular ni ni cero lazos, ¿no? Entonces, el grueso de los mortales. O sea, yo creo que... Yo estaba pensando, José, justo eso, cuando decía si sería capaz de identificar un oscilador armónico visto desde un sistema de referencia. Digo, pero es que a lo mejor yo tampoco lo sería. Ah, no, no; por supuesto que no. Es muy notable el hallazgo de…
Francis Villatoro explica que las inteligencias artificiales muestran una gran reticencia a crear nuevos conceptos o asignarles nombres.
Habla: Francis VillatoroSignificado #1 · Palabras #1términos nuevos investigadoresinteligencias artificiales carecen iniciativatrabajo ia sin términos nuevosia evitan creación términos nuevosterminología establecida en inteligencias artificialesrevisores rechazan nueva terminología iaia evita creación nombres nuevosinteligencias artificiales resultados con nombrefrancis villatoro ia descubrimientosia reticencia crear conceptos nuevospropiedad filipón inteligencia artificialsalto concepto propiedad filipóncríticas escritura inteligencia artificialretroceso calidad ia villatorodesempeño ia dos años atrás…eso va a pasar con, no sé, me sorprendería mucho dentro de 5 años en Coffee Break, que los oyentes acuerden apunten la hora para preguntarnos si no ha pasado. Y yo creo que va a pasar en mucho menos tiempo, porque el ritmo al que va esto será menos de un año. Sí, fijaros una cosa que tenemos los investigadores de las últimas décadas, como incluso antes, muy asumido y es que si descubrimos algo que creemos que es interesante, tenemos que acuñar un nuevo término. Y si os fijáis en la mayor parte del trabajo que se está publicando ahora, que se está publicando una barbaridad increíble, trabajo hecho por IA: las IAs nunca quieren. acuñar términos nuevos, siempre están como muy restrictivas, les tienes que obligar a acuñar algo nuevo, ellas prefieren usar términos conocidos y te dicen, no, pero esto hay que decirlo de esta manera, porque si no lo va a leer un revisor y te va a decir que eso está mal dicho, que la palabra correcta que es todo el mundo, ya, ya, pero es que lo mío no es exactamente lo mismo, porque yo he querido añadir una cosita muy pequeñita, no, no, pero es una cosita demasiado pequeña; no merece un mes. O sea, la IA está constantemente queriendo no crear, ni siquiera nombres nuevos. Cuando tengamos un resultado en el que la IA use cosas que no tienen nombre, porque ahora mismo la IA siempre está usando cosas con nombre. Tiene un extremado miedo a construir cosas nuevas o a dar nombres nuevos. Cuando empiece a crear cosas con nuevos nombres y nos diga la IA: "Estoy usando la propiedad Filipón", y tú digas: "Pero, ¿y qué es la propiedad Filipón?", todo el mundo sabe cuál es; es esta. Y tú vas a decir: "Bueno, ese salto". Una de las cuestiones que ahora se está trabajando mucho, porque hay muchas críticas a la manera en la que escribe la IA. Hay gente incluso que ha llegado a decir que la IA está yendo para atrás, que ahora escribe mucho peor de lo que escribía hace dos años. Las IAs comerciales y en parte es cierto porque ahora están como más capadas. Ahora tienen como menos. Todo lo que rodea, todo el chat, no el GPT, no el núcleo, no el modelo de lenguaje, sino el chat, está súper podado para que no hable de no sé qué temas,…
Francis Villatoro argumenta que cuando una inteligencia artificial alcance su máximo potencial, creará nuevo lenguaje y conceptos, lo cual dificultará el entendimiento.
Habla: Francis VillatoroSignificado #2 · Palabras #2ia crea nuevo lenguajeinteligencia artificial conceptos nuevosdificultad entendimiento ia villatoro…de lenguaje, sino el chat, está súper podado para que no hable de no sé qué temas, para que use un lenguaje políticamente correcto no sé cuánto, para que no sé qué, no sé cuánto. Está tan podado que al final a la IA le cuesta mucho trabajo comunicar cosas. Entonces, en el momento en el que una IA de verdad haga lo que todos estamos soñando con que haga algún día, en redes sociales cada vez que hace algo todo el mundo dice que ya lo ha hecho. Y digo no señores todavía no lo ha hecho; cuando lo haga lo veremos y los encontraremos con que la IA tendrá que crear lenguaje, tendrá que crear nuevos términos, nuevos conceptos, y eso hará que nos cueste mucho trabajo. Será como esa demostración de Mochizuki que tiene sus dos mil páginas, de las cuales mil páginas son de escribir cosas con nuevos nombres y cuando tú ya has leído mil páginas de nuevos nombres y lo siguiente empieza a usar los nombres que están ahí.…
Francis Villatoro explica que cuando las inteligencias artificiales alcancen su máximo potencial, comenzarán a crear nuevos nombres y conceptos.
Habla: Francis VillatoroSignificado #9 · Palabras #4ia crea nombres nuevosdemostración lean nombres nuevosimposibilidad humana entender ia…porque estos nombres en realidad lo que ha querido decir es tal y cual, y cual, que son los nombres que todo el mundo usa. Y usando con los nombres que todo el mundo usa, leyendo esto, ya me doy cuenta de que está mal. Eso es lo que hizo, lo que se hizo con. la demostración de Mochicic. Entonces, eso nos va a pasar con IA, va a haber un momento en el que la IA va a empezar a crear y va a decir, uy, que guay, puedo crear nombres, voy a crear nombres y te vas a crear una cantidad enorme de nombres, una cantidad excesiva, miles de páginas de nombres nuevos, de tal manera que el resultado clave, la demostración va a ser validada por Lean pero en la demostración todas las palabras van a ser completamente nuevas y va a ser absolutamente imposible de entender y me llega un humano a decir, esto no hay quien lo entienda Tengo un par de comentarios sobre estas cosas que hemos estado comentando, que me parecen muy fascinantes. Lo primero, yo pondría una cautela a eso que decía José: de que si en cinco años o en un año, yo pondría una cautela porque estamos todos pensando en…
Ignacio Crespo, continuando una conversación sobre investigaciones y posibles plagios relacionados con la inteligencia artificial, plantea la posibilidad de conflictos futuros entre grupos humanos debido a la apropiación de ideas por parte de la IA.
Habla: Ignacio CrespoSignificado #18apropiación ideas ia grupos humanosconflicto humano inteligencia artificialprioridad robo ideas ia…Han llegado no solo uno, sino otros dos equipos, los dos de la misma forma entre sí, distinto a ellos. Cuando no había ninguna pista de que justo ahora, por ningún motivo debía haber más gente intentando resolver esto que llevaba mucho tiempo planteado. Y ha pasado constantemente. Entonces no me extrañaría que fuera un poco en esta línea. Tenemos que contemplarlo también. Vamos a llegar un momento en que los grupos humanos van a pelearse por la prioridad de quién fue al que la IA le robó la idea. Este es el tema. Sí que diré también una cosa: que se ha indicado que había cosas muy parecidas descubiertas, sí publicadas en paper, porque no es el caso de Mario Rodríguez Mestre; no tenían esta investigación pública de ninguna manera, ni en preprint ni nada, pero sí…
Ignacio Crespo interrumpe la conversación para disculparse por haberse olvidado de intervenir previamente y menciona un término llamado 'Superconvicción', aludiendo a una idea relacionada con la inteligencia artificial.
Habla: Ignacio CrespoSignificado #7 · Palabras #17superconvicción idea inteligencia artificialignacio crea términos nuevos iaia ignacio superconvicción…balancear el sistema de forma que no haya concentraciones de poder. Lo que decía Borja llegará el momento en el que sea muy convincente; esto se habla, si la gente quiere buscar al respecto, es la super convicción. Superconvicción, ya me he olvidado cómo era. Bueno, pues fantástico. ¿Cómo iba a intervenir antes? Me he olvidado en esta rata. Bueno, Superconvicción, lo llamamos y ya está. No, pero luego si me acuerdo lo vuelvo a decir. Es que Ignacio no quiere inventar términos nuevos, es una IA. Es un poco IA, ¿eh? Pero está planteado, está planteado... Yo nunca lo vi en el mundo real, yo no estoy seguro de este... Está planteado esto porque precisamente ya tiene un sesgo de decirnos lo que queremos escuchar. Y si entendemos que hay relaciones entre inputs y outputs, si estudiamos la psicología, sobre todo de una manera conductista, ahí hay teclas que se pueden pulsar…