Búsqueda · 35 momentos en 19 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosaria ramanujan explicación procesosinteligencia artificial caja negraintuición matemática inteligencia artificialjustificación razonamientos inteligencia artificialRamanujanIgnacio CrespoAntropicFrancis VillatoroJosé Edelstein
Inteligencia Artificial caja negra
Con
0:000:301:001:302:002:303:003:25
Ignacio Crespo sugiere que sería interesante e incluso frustrante si la inteligencia artificial, al resolver problemas matemáticos complejos, mejorara su capacidad para explicar sus procesos, comparándola con el genio de Ramanujan.
…eso, incluso nos va a costar entender qué hizo exactamente; o sea, nosotros podemos verificar el resultado y quizás no entendemos lo que hizo, y ojalá que la IA sea, se le pueda explicarlo de manera comprensible, que sea buena en divulgación también la IA. Una cosa, perdonad, pero ahora que ha salido el tema, ¿no? Y creo que no lo sacamos cuando hablamos de la aplicación de la inteligencia artificial a las matemáticas. Me parecería muy interesante descubrir que a medida que vaya avanzando y sea capaz de resolver cosas, no aumente su capacidad para explicarnos lo que está haciendo. Imagínate que el tipo de genio en el que se convierte la inteligencia artificial es un Ramanujan, que no te demuestra las cosas, que es a través de una especie de intuición, porque es una caja negra, porque nosotros justificamos a posteriori nuestros razonamientos a veces sin tener nada que ver con los verdaderos motivos y vaya por ese camino. Me parece que sería muy interesante y muy frustrante. Yo creo que va a pasar eso, con algunos problemas va a pasar eso. La IA va a llegar a una solución que podremos saber que es correcta, podremos constatarla por medio de constatación; no es lo mismo eso que llegar a algo que ver los pasos intermedios. Entonces yo creo que eso va a pasar con, no sé, me sorprendería mucho…
Significado #1 · Palabras #3
José Edelstein explica cómo la dinámica de las partículas es muy compleja y describe una analogía visual para ilustrar los procesos que ocurren dentro de una 'caja negra'.
Habla: José EdelsteinPalabras #13dinámica partículas caja negraanalogía visual procesos partículaprobabilidades diferentes canales partículalazos dibujo dinámica partícula…digo puede pasar algo les recuerdo que el particle data book tiene un grosor que los que no me están viendo, bueno pues más o menos unos 5 centímetros de grosor en el cual con papel biblia muy muy finito y líneas muy abigarradas están todo lo que puede pasar Entonces la dinámica de las partículas es tremendamente compleja; hay muchos canales de cosas que pueden estar ocurriendo con probabilidades diferentes y básicamente todo lo que puede ocurrir ocurre con la probabilidad con la que puede ocurrir. ¿Qué pasa? Si yo tengo cuanto más, imagínense un dibujo en el cual tengo una serie de patas por izquierda que son las partículas que entran, una serie de patas por derecha que son las que salen y una caja negra. Lo que ocurre en esa caja negra en principio es todo lo que puede ocurrir, pero no todo con el mismo peso. Cuanto más líneas cerradas en sí mismas, lazos, lo que se llaman los lazos, yo tenga en el dibujo. Uno le puede dar a una niña las reglas de dibujo y que dibuje todos los dibujos posibles, que son infinitos, pero que dibuje desde los más simples a los más complejos. Cada vez que en el dibujo aparezca un círculo, algo que tenga la forma de un círculo, eso…
Ignacio Crespo sugiere que sería interesante e incluso frustrante si la inteligencia artificial, al resolver problemas matemáticos complejos, mejorara su capacidad para explicar sus procesos, comparándola con el genio de Ramanujan.
Habla: Ignacio CrespoSignificado #1 · Palabras #3ia ramanujan explicación procesosinteligencia artificial caja negraintuición matemática inteligencia artificialjustificación razonamientos inteligencia artificial…eso, incluso nos va a costar entender qué hizo exactamente; o sea, nosotros podemos verificar el resultado y quizás no entendemos lo que hizo, y ojalá que la IA sea, se le pueda explicarlo de manera comprensible, que sea buena en divulgación también la IA. Una cosa, perdonad, pero ahora que ha salido el tema, ¿no? Y creo que no lo sacamos cuando hablamos de la aplicación de la inteligencia artificial a las matemáticas. Me parecería muy interesante descubrir que a medida que vaya avanzando y sea capaz de resolver cosas, no aumente su capacidad para explicarnos lo que está haciendo. Imagínate que el tipo de genio en el que se convierte la inteligencia artificial es un Ramanujan, que no te demuestra las cosas, que es a través de una especie de intuición, porque es una caja negra, porque nosotros justificamos a posteriori nuestros razonamientos a veces sin tener nada que ver con los verdaderos motivos y vaya por ese camino. Me parece que sería muy interesante y muy frustrante. Yo creo que va a pasar eso, con algunos problemas va a pasar eso. La IA va a llegar a una solución que podremos saber que es correcta, podremos constatarla por medio de constatación; no es lo mismo eso que llegar a algo que ver los pasos intermedios. Entonces yo creo que eso va a pasar con, no sé, me sorprendería mucho…
Ignacio Crespo describe cómo Antropic identificó un caso particular durante su proceso de cribado genético, destacando que la inteligencia artificial involucrada pudo identificar detalles relevantes dentro de una cadena de razonamientos.
Habla: Ignacio CrespoSignificado #4cribado genético antropicinteligencia artificial cadena razonamientosdetalle relevante antropic…Unas 21 horas y media duró todo este proceso; proceso en el cual utilizaron muchas inteligencias artificiales, como decíamos, a través de lo que llaman un harness, para actuar como trabajadores, como supervisores, otras que actuaban con una memoria. compartida de trabajo sobre la cual ir haciendo este cribado. Y se quedaron con este caso, se quedaron con uno que llamaba la atención y me parece muy interesante porque Antropic ha compartido la línea en la cual la inteligencia artificial en esta cadena de razonamientos que tiene, porque todavía son legibles en principio, se dio cuenta del detalle y ellos lo cuentan como si fuera maravilloso. Dicen que aquí la inteligencia artificial dijo, es espectacular, puedo ver a simple vista, que eso ya tiene su gracia, ¿no? Una repetición en tándem que es como CRISPR, puntos suspensivos, una repetición en tándem, ¿no? O sea, algo así dice, Repet the Ray,…
Ignacio Crespo concluye una explicación sobre las limitaciones actuales de las inteligencias artificiales para generar hipótesis originales, retomando una idea previamente mencionada por Francis.
Habla: Ignacio CrespoSignificado #17 · Palabras #5limitaciones inteligencias artificiales hipótesishipótesis originales entrenamiento iafrancis limitación planteamiento hipótesis…de ninguna manera, ni en preprint ni nada, pero sí algunas similares de 2021, similares. Antrópica ha dicho que nada tiene que ver todo esto con el trabajo de Mestre, pero no ha dicho sobre el otro que al final puede estar condicionando perfectamente y ellos planteaban una cosa y ya con esto yo cierro mi explicación y si queréis pues me decir lo que opináis o lo que sea planteaban que la limitación del uso de las inteligencias artificiales para plantear hipótesis hasta ahora es que les cuesta mucho plantear hipótesis que se desmarquen totalmente de aquello con lo que han sido entrenadas que son, por lo que decía Francis, no va a plantear un término nuevo, le va a costar salirse de la caja. Y querían hacer justo eso. Así que, independientemente de que hayan copiado, independientemente de que supieran que existían estas cosas antes, no parece haber nada innovador en esto. Parece que justo lo que pretendían defender sigue en el aire. No hay una…