Búsqueda · 29 momentos en 14 episodios
Borja TosarIgnacio CrespoJuan Carlos GilFrancis VillatoroHéctor SocasGastón Giribetcreatividad matemática modelos lenguajeagentes openai demostraciones matemáticassesgo creatividad humana inteligencia artificialmatemáticos españoles idea existenteanálisis profundo alternativas openaicreatividad inteligencia artificial villatoroideas inteligencia artificial no explicativasorigen ideas inteligencia artificial desconocidoartículos como fuente inteligencia artificialOpenAIFrancis VillatoroJuan Carlos GilBorja TosarInteligencia ArtificialGastón GiribetHéctor SocasThomas VilaPicassoGoyaIgnacio CrespoLLMMatemática
Sesgo creatividad humana Inteligencia Artificial
Con
0:000:301:001:302:002:303:003:29
Francis Villatoro aborda el debate sobre la creatividad matemática de los modelos de lenguaje, específicamente refiriéndose a las demostraciones realizadas por agentes de OpenAI.
…estimular y no permitir abrir nuevos campos. El mismo hecho de la investigación es muy preocupante. ¿Qué opinan? Quizás Francis es el matemático más formal de la sala, podemos empezar por ti y luego si quieres seguimos haciendo ronda por el resto de la mesa. Posta ya en varias ocasiones sobre el tema de la creatividad matemática de los modelos de lenguaje, de las inteligencias artificiales que actúan como agentes para hacer demostraciones. Esto es una cosa que hay gente que la pone en duda; hay gente que dice: “no, es que tú tienes un sesgo hacia la creatividad humana”. Pero en rigor, si tú analizas la demostración que ha logrado estas inteligencias artificiales colaborando entre ellas de OpenAI, en rigor lo que ha hecho es coger una idea ya existente, que es la idea de los dos matemáticos españoles y explotarla y estrujarla y hacer un análisis no es de fuerza bruta pero es un análisis bastante profundo de muchísimas posibles alternativas pero basándose siempre en esa idea. Si tú miras realmente qué creatividad tiene la nueva solución, pues te encuentras con una creatividad relativamente muy ridícula, porque puedes tracear todas las nuevas ideas aparentes que aparecen en la demostración, porque el problema que tiene la inteligencia artificial es que todavía no hemos logrado que sean explicativas. La inteligencia artificial no te explica bien dónde se originan sus ideas porque no lo sabe, porque no tenemos capacidad para lograr que una inteligencia artificial sepa de dónde está extrayendo las ideas entonces lo que sí podemos pedirle es que busque un artículo, que lea el artículo y que ahora opere y entonces automáticamente ya sabe que todo lo está sacando de ese artículo. Pero cuando la ponemos a Resolver un problema complicado, y está durante 80 horas trabajando. No sabe la inteligencia artificial; la está sacando todo de todo lo que sabe y de todo a lo que tiene acceso a través de internet o está usando todo. Entonces, en ese uso de todo, no sabe…
Significado #3 · Palabras #1
Francis Villatoro aborda el debate sobre la creatividad matemática de los modelos de lenguaje, específicamente refiriéndose a las demostraciones realizadas por agentes de OpenAI.
Habla: Francis VillatoroSignificado #3 · Palabras #1creatividad matemática modelos lenguajeagentes openai demostraciones matemáticassesgo creatividad humana inteligencia artificialmatemáticos españoles idea existenteanálisis profundo alternativas openaicreatividad inteligencia artificial villatoroideas inteligencia artificial no explicativasorigen ideas inteligencia artificial desconocidoartículos como fuente inteligencia artificial…estimular y no permitir abrir nuevos campos. El mismo hecho de la investigación es muy preocupante. ¿Qué opinan? Quizás Francis es el matemático más formal de la sala, podemos empezar por ti y luego si quieres seguimos haciendo ronda por el resto de la mesa. Posta ya en varias ocasiones sobre el tema de la creatividad matemática de los modelos de lenguaje, de las inteligencias artificiales que actúan como agentes para hacer demostraciones. Esto es una cosa que hay gente que la pone en duda; hay gente que dice: “no, es que tú tienes un sesgo hacia la creatividad humana”. Pero en rigor, si tú analizas la demostración que ha logrado estas inteligencias artificiales colaborando entre ellas de OpenAI, en rigor lo que ha hecho es coger una idea ya existente, que es la idea de los dos matemáticos españoles y explotarla y estrujarla y hacer un análisis no es de fuerza bruta pero es un análisis bastante profundo de muchísimas posibles alternativas pero basándose siempre en esa idea. Si tú miras realmente qué creatividad tiene la nueva solución, pues te encuentras con una creatividad relativamente muy ridícula, porque puedes tracear todas las nuevas ideas aparentes que aparecen en la demostración, porque el problema que tiene la inteligencia artificial es que todavía no hemos logrado que sean explicativas. La inteligencia artificial no te explica bien dónde se originan sus ideas porque no lo sabe, porque no tenemos capacidad para lograr que una inteligencia artificial sepa de dónde está extrayendo las ideas entonces lo que sí podemos pedirle es que busque un artículo, que lea el artículo y que ahora opere y entonces automáticamente ya sabe que todo lo está sacando de ese artículo. Pero cuando la ponemos a Resolver un problema complicado, y está durante 80 horas trabajando. No sabe la inteligencia artificial; la está sacando todo de todo lo que sabe y de todo a lo que tiene acceso a través de internet o está usando todo. Entonces, en ese uso de todo, no sabe…
Francis Villatoro explica que los matemáticos se ven a sí mismos como exploradores que descubren, no como creadores, y critica la falta de creatividad en la inteligencia artificial debido a su incapacidad para mostrar las fuentes utilizadas.
Habla: Francis VillatoroSignificado #9 · Palabras #2matemáticos exploradores no creadoresinteligencia artificial falta de fuentesevaluar creatividad inteligencia artificialsalto demostración conocimiento aportado…que si ha cogido un puente o ha cogido una liana o ha saltado en plantarza. Eso al humano le es relevante, sobre todo por ver diferentes caminos, porque implica ciertas dificultades, ciertas maneras de ver el paisaje de ese mundo platónico, de las ideas que muchas veces a los matemáticos nos gusta tratar de ver como la realidad en la que estamos explorando, ¿no? Nos sentimos como exploradores, ¿no? Estamos descubriendo, no nos sentimos creadores, pero eso le falta a la inteligencia artificial ahora mismo. tiene una creatividad muy limitada fundamentalmente porque no nos muestra las fuentes y entonces no podemos evaluar realmente el salto que ha habido. Si la inteligencia me dice en este paso de aquí, en estos tres párrafos de la demostración, yo he partido de este conocimiento y he aportado esto, nosotros podemos valorar si son más creativos, menos creativos, más humanos, menos humanos, pero si solamente tenemos un salto, Vas pegando saltos y con un camino de más aparentemente. Evidentemente, extremadamente recto, o sea, un camino que prácticamente parece que no tiene ningún tipo de desviación, cuando eso no es el conocimiento humano. El conocimiento humano es un conocimiento…
Francis Villatoro explica por qué considera que las demostraciones matemáticas generadas por inteligencia artificial carecen de creatividad.
Habla: Francis VillatoroPalabras #15demostraciones matemáticas inteligencia artificialcreatividad carente en demostraciones villatoroúnico camino no es matemática…tipo de desviación, cuando eso no es el conocimiento humano. El conocimiento humano es un conocimiento de ir generando muchos caminos alternativos, explorándolo, volviendo para atrás, volviendo a avanzar por aquí, va por acá, o aquí he llegado más lejos. Ponerme contra alguna pared, una obstrucción matemática no puede continuar; tengo que ir para atrás. Eso nos falta en este tipo de demostraciones. Y en ese sentido son demostraciones muy poco creativas, no son demostraciones que creen matemática nueva, no hay matemática nueva en estas demostraciones porque solo tengo un único camino y un único camino no es matemática, la matemática no es un único Camino, la matemática no es leer la historia del explorador mirando los datos en el GPS del camino que ha recorrido. La historia es todo lo que le va pasando al explorador, mientras va recorriendo el camino, mientras está descubriendo: aquí vi una serpiente,…
Juan Carlos Gil y Borja Tosar discuten sobre la naturaleza de la creatividad y si existe una diferencia significativa entre la creatividad humana y la inteligencia artificial.
Habla: Borja TosarSignificado #1inteligencia artificial y creatividaddefinición de creatividad en iaia combinando ideas y estilosjuan carlos gil inteligencia artificialcreatividad humana inteligencia artificialexperiencias personales información adquiridaintencionalidad tarea impuesta necesidad propiaseres humanos máquinas materia diferenteinteligencia artificial imita creación humanacomposición musical como analogía iaborja tosar expertos inteligencia artificial…¿no? A la respuesta sobre el problema de Neivir Stokes, pero puede que la rama que nos haya llevado hasta allí no tenga ramificaciones a su vez. Me parece que también es una analogía interesante, si os parece a los que realmente sabéis aquí del tema. En el sentido, decía que en el sentido más, que se lo pregunta mucha gente, en el sentido más sencillo de lo que habéis comentado ya saliéndome de las matemáticas, es la inteligencia artificial creativa a día de hoy; pues yo creo que es un problema también un poquito de definición. Yo veo fácilmente dos tipos: una creatividad que podemos decir emergente, funcional, que es lo que hace la IA, que combina ideas, estilos. No veo tanta diferencia entre una cosa y la otra No, pues a mí es que me parece noche y día Pero es que eso lo que uno llama basado en experiencias personales, es también información, adquirida de otra manera Y aquello que llamamos la intencionalidad de hacer, es una tarea impuesta por alguna razón Por tu propia necesidad, por tu propia yo Pero nosotros somos máquinas también, lo único que echas de otro tipo de materia Pero no veo en nosotros nada mágico más que eso Lo que quiero decir con esto es, nosotros siempre buscamos algo que es La prerrogativa del humano antes de abordar la pregunta. Es decir, la IA nunca hará, ¿qué? Y lo definimos en forma de ya anticipar la conclusión. Cuando uno pregunta, la IA nunca va a crear, dicen algunos. ¿Por qué? Bueno, porque no va a crear, porque lo que hace es imitar. ¿Y qué hago yo cuando hago un solo? Cuando yo creo que estoy haciendo un solo de bajo, ¿estoy improvisando? ¿Estoy improvisando? ¿O estoy buscando patrones de fraseos tónicos que ya conozco? ¿Que me copié a mí mismo en función de aquellos que aprendí? ¿Me tengo que hundir en eso mi memoria…
Borja Tosar reflexiona sobre la naturaleza de la creatividad humana, comparándola con el proceso de los modelos de lenguaje grandes (LLM) y argumentando que todos los artistas se basan en influencias previas.
Habla: Borja TosarSignificado #8picasso sin goya influencia artísticaprocesos humanos y llm copia reprocesamientoabuso palabra crear creatividad humanaignacio se despide del programa…de fraseos tónicos que ya conozco? ¿Que me copié a mí mismo en función de aquellos que aprendí? ¿Me tengo que hundir en eso mi memoria emotiva de los años 80 para recordar cómo yo trataba de copiar a Marcus Miller cuando hacía sus solos y no me salían? Entonces en el fondo todos los humanos hacemos lo mismo, no hay un Picasso sin Goya, todos somos eso también. Nosotros somos copia, somos copia que reprocesamos y hacemos algo nuevo con eso, exactamente lo mismo que hacen los LLM. Estoy muy con Gastón, a mí me parece que se abusa mucho de la palabra crear y creatividad; creo que es una palabra muy fuerte para el uso que se le suele dar. Héctor, vamos a despedir a Ignacio y sigues hablando. Ah, ¿que te tienes que ir? Ah, perdón, Ignacio. Sí, sí, sí, pero me voy, me voy, solamente era. Decir que estoy totalmente de acuerdo con lo que ha dicho Gastón; que aquí habría que hablar de qué significa intención, en qué marco lo entendemos, qué estamos dispuestos a aceptar, qué hay ahí, y si queréis otro día lo abordamos y vosotros, pues por…
Héctor Socas, tras una conversación sobre creatividad e inteligencia artificial, plantea un experimento mental extremo para ilustrar su visión de cómo se podría generar creación.
Habla: Héctor SocasSignificado #11creación tras experimento mentalfísicos teóricos durante 20 añosbebé recién nacido y habitación aisladainteligencia artificial y creatividad…otro día lo abordamos y vosotros, pues por supuesto, seguir hablando del tema, pero que yo me bajo ya y que muchas gracias, que un placer como siempre. Chao, chao. Gracias, Ignacio; un placer. Hasta luego. Tendré más cuidado con la portada la próxima vez. No, sí, eso iba a decir que yo, cuando me hablan de esto de creatividad, digo: bueno, tú cógeme un bebé recién nacido, mételo encerrado en una habitación, solo dale de comer por intravenosa durante 20 o 30 años, luego lo sacas de la habitación, que me cree algo y entonces ya podemos empezar a hablar. Pues obviamente no lo vamos a hacer, pero fíjate, yo estoy convencido que en esos 20 años: esa es la receta para ser físicos teóricos. El tipo va a crear en esa habitación, no hace falta esperar ni a que Salga. Yo estuve pensando mucho, escuchando… ¿Pero de dónde va a salir esa materia para crear? Porque cuando uno crea, no es que uno se levanta y dice: voy a hacer un dibujo de una veladura y me das… ¿De dónde tiene que salir? Nadie crea sin haber sido…
Héctor Socas reflexiona sobre la posibilidad de creatividad en la inteligencia artificial y propone un 'Tomás Test' para determinar si una IA puede generar humor similar al de Thomas Vila.
Habla: Héctor SocasSignificado #6 · Palabras #8tomás test para medir creatividad iahumor thomas vila como referenciaexperiencias personales y humor humano…La cascada de energías es muy difícil de controlar, pero por ejemplo en AGN, me acuerdo: el número de rey no puede superar los cuatrillones. Perdón, ¿qué dice Tomás Vila? Mi rey no por un caballo. Bueno, a lo mejor eso sí puede ser creatividad, fíjate; ahí admito cierta duda sobre si puede existir algo de creatividad. Vamos a hacer el Tomás Test, el día que él ahí haga chistes como Tomás. Si nos hace reír a todos a la vez, eso, fíjate, donde yo noto más la diferencia de comportamientos característicamente humanos que surgen sin demasiada complicación de forma natural en el ser humano y no tomas diferencia con la IA, es en ese tipo de humor que yo no... O sea, está basado en experiencias personales, aunque Gastón me cruja. Yo creo que es así. Bueno, hay humor de otras civilizaciones humanas que no lo entendemos. Hay humor chino, indio, etcétera, que te lo cuentan y te lo digan en una traducción muy muy buena al español, que no dice, pero ¿y dónde está el chiste? Bueno, porque no te has leído toda…