Búsqueda · 31 momentos en 17 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosarapropiación ideas ia grupos humanosconflicto humano inteligencia artificialprioridad robo ideas iaIgnacio CrespoSuperconvicciónBorja TosarFrancis VillatoroAnthropicMario Rodríguez MestreUniversidad de CopenhagueCIAAntropicpropiedad FilipónJosé EdelsteinRamanujanKasparovFrancis
Prioridad robo ideas ia
Con
0:000:301:001:302:002:303:003:25
Ignacio Crespo, continuando una conversación sobre investigaciones y posibles plagios relacionados con la inteligencia artificial, plantea la posibilidad de conflictos futuros entre grupos humanos debido a la apropiación de ideas por parte de la IA.
…Han llegado no solo uno, sino otros dos equipos, los dos de la misma forma entre sí, distinto a ellos. Cuando no había ninguna pista de que justo ahora, por ningún motivo debía haber más gente intentando resolver esto que llevaba mucho tiempo planteado. Y ha pasado constantemente. Entonces no me extrañaría que fuera un poco en esta línea. Tenemos que contemplarlo también. Vamos a llegar un momento en que los grupos humanos van a pelearse por la prioridad de quién fue al que la IA le robó la idea. Este es el tema. Sí que diré también una cosa: que se ha indicado que había cosas muy parecidas descubiertas, sí publicadas en paper, porque no es el caso de Mario Rodríguez Mestre; no tenían esta investigación pública de ninguna manera, ni en preprint ni nada, pero sí…
Significado #1 · Palabras #1
José Edelstein retoma una idea expresada por Francis Villatoro sobre cómo analizar las soluciones propuestas por una inteligencia artificial.
Habla: José EdelsteinPalabras #12análisis soluciones inteligencia artificialtécnicas de ia en la literaturafrancis villatoro sobre análisis ia…un montón de cosas que hacen que la teoría sea tremendamente compleja. Lo que pasa es trivial comparada con el modelo estándar, digamos, pero la teoría es muy compleja, muy bonita, por sus simetrías también. Se me fue de la cabeza lo que quería comentar. Ah, no, sí, una cosa que te escuché, Francis, que está muy bien, que quiero remarcar, es que una vez que la IA lo resolvió, uno puede ver cómo lo resolvió y claro, ahí estaba un poco el momento muy relevante porque si todo lo que hizo la IA lo entiendo, que es lo que al final ocurrió, que es lo que dice Francis, que lo que usó fue técnicas que estaban en la literatura y mostró que no había que introducir ningún concepto nuevo, bueno, en parte bien, en parte hubiera sido mucho más bonito. Que la IA en algún momento ya tenga que dar un salto que nadie ha dado todavía. Y todavía ese salto podría ser un salto técnico y de no demasiada creatividad o completamente creativo. Entonces, sí, por supuesto cabe la duda de en qué medida una IA puede dar…
Ignacio Crespo sugiere que sería interesante e incluso frustrante si la inteligencia artificial, al resolver problemas matemáticos complejos, mejorara su capacidad para explicar sus procesos, comparándola con el genio de Ramanujan.
Habla: Ignacio CrespoSignificado #13kasparov programa informáticohito científico kasparovia idea comprensibledivulgación ia comprensibleia ramanujan explicación procesosinteligencia artificial caja negraintuición matemática inteligencia artificialjustificación razonamientos inteligencia artificial…lo tengo que mirar puede ser tremendamente complejo. Yo creo que sí es un hito, pero no es un hitito, no sé, hay que poner un nombre, o sea, es un hito igual que la primera vez que un... Hitita es otra cosa Sí, es cierto, estamos convocando a Nefero y muchos Digo, es un hito como cuando un jugador profesional de ajedrez perdió con un programa informático; cuando perdió Kasparov con un programa informático. O sea, son claramente momentos que uno podría, antes de que ocurran, pensar que nunca van a ocurrir y bueno, ante el momento en el cual ocurrieron, evidentemente es un hito; no es un hito de las dimensiones que Francis plantea, o sea, no es que una IA tuvo una idea que de hecho, el día que ocurra eso, incluso nos va a costar entender qué hizo exactamente; o sea, nosotros podemos verificar el resultado y quizás no entendemos lo que hizo, y ojalá que la IA sea, se le pueda explicarlo de manera comprensible, que sea buena en divulgación también la IA. Una cosa, perdonad, pero ahora que ha salido el tema, ¿no? Y creo que no lo sacamos cuando hablamos de la aplicación de la inteligencia artificial a las matemáticas. Me parecería muy interesante descubrir que a medida que vaya avanzando y sea capaz de resolver cosas, no aumente su capacidad para explicarnos lo que está haciendo. Imagínate que el tipo de genio en el que se convierte la inteligencia artificial es un Ramanujan, que no te demuestra las cosas, que es a través de una especie de intuición, porque es una caja negra, porque nosotros justificamos a posteriori nuestros razonamientos a veces sin tener nada que ver con los verdaderos motivos y vaya por ese camino. Me parece que sería muy interesante y muy frustrante. Yo creo que va a pasar eso, con algunos problemas va a pasar eso. La IA va a llegar a una solución que podremos saber que es correcta, podremos constatarla por medio de constatación; no es lo mismo eso que llegar a algo que ver los pasos intermedios. Entonces yo creo que eso va a pasar con, no sé, me sorprendería mucho…
Francis Villatoro comenta sobre la práctica común entre investigadores de crear nuevos términos para describir descubrimientos considerados interesantes, observando que el trabajo realizado por inteligencias artificiales a menudo carece de esta iniciativa.
Habla: Francis VillatoroSignificado #9términos nuevos investigadoresinteligencias artificiales carecen iniciativatrabajo ia sin términos nuevos…eso va a pasar con, no sé, me sorprendería mucho dentro de 5 años en Coffee Break, que los oyentes acuerden apunten la hora para preguntarnos si no ha pasado. Y yo creo que va a pasar en mucho menos tiempo, porque el ritmo al que va esto será menos de un año. Sí, fijaros una cosa que tenemos los investigadores de las últimas décadas, como incluso antes, muy asumido y es que si descubrimos algo que creemos que es interesante, tenemos que acuñar un nuevo término. Y si os fijáis en la mayor parte del trabajo que se está publicando ahora, que se está publicando una barbaridad increíble, trabajo hecho por IA: las IAs nunca quieren. acuñar términos nuevos, siempre están como muy restrictivas, les tienes que obligar a acuñar algo nuevo, ellas prefieren usar términos conocidos y te dicen, no, pero esto hay que decirlo de esta manera, porque si no lo va a leer un revisor y te va a decir que…
Francis Villatoro explica que las inteligencias artificiales muestran una gran reticencia a crear nuevos conceptos o asignarles nombres.
Habla: Francis VillatoroSignificado #11ia reticencia crear conceptos nuevospropiedad filipón inteligencia artificialsalto concepto propiedad filipón…demasiado pequeña; no merece un mes. O sea, la IA está constantemente queriendo no crear, ni siquiera nombres nuevos. Cuando tengamos un resultado en el que la IA use cosas que no tienen nombre, porque ahora mismo la IA siempre está usando cosas con nombre. Tiene un extremado miedo a construir cosas nuevas o a dar nombres nuevos. Cuando empiece a crear cosas con nuevos nombres y nos diga la IA: "Estoy usando la propiedad Filipón", y tú digas: "Pero, ¿y qué es la propiedad Filipón?", todo el mundo sabe cuál es; es esta. Y tú vas a decir: "Bueno, ese salto". Una de las cuestiones que ahora se está trabajando mucho, porque hay muchas críticas a la manera en la que escribe la IA. Hay gente incluso que ha llegado a decir que la IA está yendo para atrás, que ahora escribe mucho peor de lo que escribía hace dos años.…
Ignacio Crespo, junto con Héctor Socas, plantea una hipótesis sobre la posible apropiación de ideas por parte de agencias como la CIA, refiriéndose a Mario Rodríguez Mestre, investigador predoctoral en la Universidad de Copenhague.
Habla: Ignacio CrespoPalabras #9cia apropiación ideas investigador españolmario rodríguez mestre copenhaguehipótesis cia investigadores españoles…es español. Estoy diciendo que se hicieron eco en The New York Times, ¿vale? Para intentar ponerlo un poco en contexto, no es, bueno, en cada país debe de haber alguien, por pura estadística, y justo yo estoy haciendo referencia al español. Bueno, hablamos. De Mario Rodríguez Mestre, que es investigador predoctoral en la Universidad de Copenhague, y dice que... ¿Pero entonces qué pasa? ¿Que las CIA le tienen manía a los investigadores españoles y le roban sus ideas sistemáticamente? Vete tú a saber, pero lo que alega es lo mismo que se alegaba en su momento, que es, yo He estado trabajando con Claude; yo he estado compartiendo todo esto; he estado utilizando pues para revisar mis textos, para lo que sea, y señaló que le parece impactante la similitud de la investigación. Palabras de él. Sé que además hay medios españoles…
Ignacio Crespo, continuando una conversación sobre investigaciones y posibles plagios relacionados con la inteligencia artificial, plantea la posibilidad de conflictos futuros entre grupos humanos debido a la apropiación de ideas por parte de la IA.
Habla: Ignacio CrespoSignificado #1 · Palabras #1apropiación ideas ia grupos humanosconflicto humano inteligencia artificialprioridad robo ideas ia…Han llegado no solo uno, sino otros dos equipos, los dos de la misma forma entre sí, distinto a ellos. Cuando no había ninguna pista de que justo ahora, por ningún motivo debía haber más gente intentando resolver esto que llevaba mucho tiempo planteado. Y ha pasado constantemente. Entonces no me extrañaría que fuera un poco en esta línea. Tenemos que contemplarlo también. Vamos a llegar un momento en que los grupos humanos van a pelearse por la prioridad de quién fue al que la IA le robó la idea. Este es el tema. Sí que diré también una cosa: que se ha indicado que había cosas muy parecidas descubiertas, sí publicadas en paper, porque no es el caso de Mario Rodríguez Mestre; no tenían esta investigación pública de ninguna manera, ni en preprint ni nada, pero sí…
Francis Villatoro relata una experiencia personal sobre cómo una inteligencia artificial le alertó sobre la publicación de un artículo similar a uno en el que estaba trabajando, después de haber utilizado IA para generar ideas.
Habla: Francis VillatoroSignificado #6 · Palabras #4ia alerta sobre plagio artículoideas con ia en junio juliopublicación similar agosto villatoropaper de francisco villatoro…a todos los oyentes es que toda persona que use el chat de Anthropic firma, de manera explícita, lo firma, pinchando en el botón de usar Anthropic y lo mismo que no tenía ahí, que cualquier cosa que escriba puede ser usada en el entrenamiento de futuras IAS. Entonces, si tú lo firmas y tú das el visto bueno y dices: yo uso esta tecnología a sabiendas de eso, lo que no tiene sentido es que en el momento que descubras que alguien te ha plagiado un paper, porque a mí me ha llegado a ocurrir. O sea, ideas que yo he trabajado en junio, julio con IA, de repente, llegado septiembre, quería ponerme ya a escribir el paper de lo que estoy haciendo, me dice la IA: es que se ha publicado a finales de agosto un artículo que hace más o menos lo mismo que tú y lo que tú ya has hecho ya. No se puede publicar porque ya está publicado, digo: vale, pues puede ser por casualidad o puede que no sea por casualidad, pero yo no puedo decir nada, ¿vale? Porque yo he firmado que eso puede pasar. Y esto no es solamente que te haya ayudado con el proceso…
Ignacio Crespo interrumpe la conversación para disculparse por haberse olvidado de intervenir previamente y menciona un término llamado 'Superconvicción', aludiendo a una idea relacionada con la inteligencia artificial.
Habla: Ignacio CrespoSignificado #2 · Palabras #11superconvicción idea inteligencia artificialignacio crea términos nuevos iaia ignacio superconvicción…balancear el sistema de forma que no haya concentraciones de poder. Lo que decía Borja llegará el momento en el que sea muy convincente; esto se habla, si la gente quiere buscar al respecto, es la super convicción. Superconvicción, ya me he olvidado cómo era. Bueno, pues fantástico. ¿Cómo iba a intervenir antes? Me he olvidado en esta rata. Bueno, Superconvicción, lo llamamos y ya está. No, pero luego si me acuerdo lo vuelvo a decir. Es que Ignacio no quiere inventar términos nuevos, es una IA. Es un poco IA, ¿eh? Pero está planteado, está planteado... Yo nunca lo vi en el mundo real, yo no estoy seguro de este... Está planteado esto porque precisamente ya tiene un sesgo de decirnos lo que queremos escuchar. Y si entendemos que hay relaciones entre inputs y outputs, si estudiamos la psicología, sobre todo de una manera conductista, ahí hay teclas que se pueden pulsar…