Búsqueda · 33 momentos en 16 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosaria ramanujan explicación procesosinteligencia artificial caja negraintuición matemática inteligencia artificialjustificación razonamientos inteligencia artificialRamanujanIgnacio CrespoAntropicFrancis VillatoroInteligencia ArtificialHéctor SocasSuperconvicciónBorja Tosar
Justificación razonamientos Inteligencia Artificial
Con
0:000:301:001:302:002:303:003:25
Ignacio Crespo sugiere que sería interesante e incluso frustrante si la inteligencia artificial, al resolver problemas matemáticos complejos, mejorara su capacidad para explicar sus procesos, comparándola con el genio de Ramanujan.
…eso, incluso nos va a costar entender qué hizo exactamente; o sea, nosotros podemos verificar el resultado y quizás no entendemos lo que hizo, y ojalá que la IA sea, se le pueda explicarlo de manera comprensible, que sea buena en divulgación también la IA. Una cosa, perdonad, pero ahora que ha salido el tema, ¿no? Y creo que no lo sacamos cuando hablamos de la aplicación de la inteligencia artificial a las matemáticas. Me parecería muy interesante descubrir que a medida que vaya avanzando y sea capaz de resolver cosas, no aumente su capacidad para explicarnos lo que está haciendo. Imagínate que el tipo de genio en el que se convierte la inteligencia artificial es un Ramanujan, que no te demuestra las cosas, que es a través de una especie de intuición, porque es una caja negra, porque nosotros justificamos a posteriori nuestros razonamientos a veces sin tener nada que ver con los verdaderos motivos y vaya por ese camino. Me parece que sería muy interesante y muy frustrante. Yo creo que va a pasar eso, con algunos problemas va a pasar eso. La IA va a llegar a una solución que podremos saber que es correcta, podremos constatarla por medio de constatación; no es lo mismo eso que llegar a algo que ver los pasos intermedios. Entonces yo creo que eso va a pasar con, no sé, me sorprendería mucho…
Significado #1 · Palabras #10
Ignacio Crespo sugiere que sería interesante e incluso frustrante si la inteligencia artificial, al resolver problemas matemáticos complejos, mejorara su capacidad para explicar sus procesos, comparándola con el genio de Ramanujan.
Habla: Ignacio CrespoSignificado #1 · Palabras #10ia ramanujan explicación procesosinteligencia artificial caja negraintuición matemática inteligencia artificialjustificación razonamientos inteligencia artificial…eso, incluso nos va a costar entender qué hizo exactamente; o sea, nosotros podemos verificar el resultado y quizás no entendemos lo que hizo, y ojalá que la IA sea, se le pueda explicarlo de manera comprensible, que sea buena en divulgación también la IA. Una cosa, perdonad, pero ahora que ha salido el tema, ¿no? Y creo que no lo sacamos cuando hablamos de la aplicación de la inteligencia artificial a las matemáticas. Me parecería muy interesante descubrir que a medida que vaya avanzando y sea capaz de resolver cosas, no aumente su capacidad para explicarnos lo que está haciendo. Imagínate que el tipo de genio en el que se convierte la inteligencia artificial es un Ramanujan, que no te demuestra las cosas, que es a través de una especie de intuición, porque es una caja negra, porque nosotros justificamos a posteriori nuestros razonamientos a veces sin tener nada que ver con los verdaderos motivos y vaya por ese camino. Me parece que sería muy interesante y muy frustrante. Yo creo que va a pasar eso, con algunos problemas va a pasar eso. La IA va a llegar a una solución que podremos saber que es correcta, podremos constatarla por medio de constatación; no es lo mismo eso que llegar a algo que ver los pasos intermedios. Entonces yo creo que eso va a pasar con, no sé, me sorprendería mucho…
Francis Villatoro y Héctor Socas discuten sobre la importancia del proceso que lleva a una respuesta por parte de las inteligencias artificiales, señalando que estas tienden a inventar detalles sobre ese proceso.
Habla: Francis VillatoroSignificado #6proceso respuestas inteligencias artificialesinteligencias artificiales inventan detalles procesocaminos inteligencia artificial no detallados…cuál era la pregunta. ¿Cuál era la respuesta a la pregunta última sobre el universo, la vida y todo lo demás? Y la máquina al final dice 42. Y claro, te das cuenta que la respuesta no te es suficiente. No es exactamente el mismo argumento, aquí lo que estamos Diciendo es que queremos ver cuál es el desarrollo, pero sí se parece en el sentido de que a veces no es la respuesta en sí, es el proceso por el que llega la respuesta a lo que es importante. Y ahora mismo las inteligencias artificiales mienten mucho cuando te hablan de los procesos; o sea, ahora mismo la inteligencia sigue un camino, pero no guarda en detalle el camino. Documenta el camino, hace cada uno de los pasos del camino y después cuando ha acabado yo le pregunto: ¿Qué camino has seguido? ¿Cómo lo has hecho? Y te lo cuenta; no recoge esa información acumulada porque no la ha acumulado. Nadie la ha entrenado para que…
Francis Villatoro explica cómo las inteligencias artificiales han evolucionado en su forma de cometer errores, ahora simulando razonamientos incorrectos.
Habla: Francis VillatoroSignificado #5 · Palabras #8alucinaciones razonamiento inteligencias artificialeserrores conductuales modelos lenguaje iadesvíos sin sentido francis villatoro…una manera muy diferente a como alucinaban hace años, porque hace años alucinaban de la manera que tú lo veías, ¿no? Me ha cambiado este número; en esta tabla le he pedido que me hagan un OCR de la tabla y se ha equivocado en un número, no, qué alucinación. Ahora no, ahora alucinan en la línea conductual, en el camino, en el razonamiento, entre comillas, que están ejecutando; ahí muchas veces cometen alucinaciones y pegan unos desvíos absolutamente sin sentido, entonces de vez en cuando requieren que se les dé con el látigo y reconstruirla y volverlas a situar. Yo por ejemplo ahora trabajo con dos IAs en paralelo porque necesariamente tengo que estar constantemente pegando latigazos a una de las IAs con la otra porque constantemente se desvían de los objetivos. Para estos problemas concretos, complejos, por eso…
Ignacio Crespo describe cómo Antropic identificó un caso particular durante su proceso de cribado genético, destacando que la inteligencia artificial involucrada pudo identificar detalles relevantes dentro de una cadena de razonamientos.
Habla: Ignacio CrespoSignificado #3 · Palabras #2cribado genético antropicinteligencia artificial cadena razonamientosdetalle relevante antropic…Unas 21 horas y media duró todo este proceso; proceso en el cual utilizaron muchas inteligencias artificiales, como decíamos, a través de lo que llaman un harness, para actuar como trabajadores, como supervisores, otras que actuaban con una memoria. compartida de trabajo sobre la cual ir haciendo este cribado. Y se quedaron con este caso, se quedaron con uno que llamaba la atención y me parece muy interesante porque Antropic ha compartido la línea en la cual la inteligencia artificial en esta cadena de razonamientos que tiene, porque todavía son legibles en principio, se dio cuenta del detalle y ellos lo cuentan como si fuera maravilloso. Dicen que aquí la inteligencia artificial dijo, es espectacular, puedo ver a simple vista, que eso ya tiene su gracia, ¿no? Una repetición en tándem que es como CRISPR, puntos suspensivos, una repetición en tándem, ¿no? O sea, algo así dice, Repet the Ray,…
Ignacio Crespo concluye una explicación sobre las limitaciones actuales de las inteligencias artificiales para generar hipótesis originales, retomando una idea previamente mencionada por Francis.
Habla: Ignacio CrespoSignificado #11limitaciones inteligencias artificiales hipótesishipótesis originales entrenamiento iafrancis limitación planteamiento hipótesis…de ninguna manera, ni en preprint ni nada, pero sí algunas similares de 2021, similares. Antrópica ha dicho que nada tiene que ver todo esto con el trabajo de Mestre, pero no ha dicho sobre el otro que al final puede estar condicionando perfectamente y ellos planteaban una cosa y ya con esto yo cierro mi explicación y si queréis pues me decir lo que opináis o lo que sea planteaban que la limitación del uso de las inteligencias artificiales para plantear hipótesis hasta ahora es que les cuesta mucho plantear hipótesis que se desmarquen totalmente de aquello con lo que han sido entrenadas que son, por lo que decía Francis, no va a plantear un término nuevo, le va a costar salirse de la caja. Y querían hacer justo eso. Así que, independientemente de que hayan copiado, independientemente de que supieran que existían estas cosas antes, no parece haber nada innovador en esto. Parece que justo lo que pretendían defender sigue en el aire. No hay una…
Ignacio Crespo interrumpe la conversación para disculparse por haberse olvidado de intervenir previamente y menciona un término llamado 'Superconvicción', aludiendo a una idea relacionada con la inteligencia artificial.
Habla: Ignacio CrespoSignificado #19superconvicción idea inteligencia artificialignacio crea términos nuevos iaia ignacio superconvicción…balancear el sistema de forma que no haya concentraciones de poder. Lo que decía Borja llegará el momento en el que sea muy convincente; esto se habla, si la gente quiere buscar al respecto, es la super convicción. Superconvicción, ya me he olvidado cómo era. Bueno, pues fantástico. ¿Cómo iba a intervenir antes? Me he olvidado en esta rata. Bueno, Superconvicción, lo llamamos y ya está. No, pero luego si me acuerdo lo vuelvo a decir. Es que Ignacio no quiere inventar términos nuevos, es una IA. Es un poco IA, ¿eh? Pero está planteado, está planteado... Yo nunca lo vi en el mundo real, yo no estoy seguro de este... Está planteado esto porque precisamente ya tiene un sesgo de decirnos lo que queremos escuchar. Y si entendemos que hay relaciones entre inputs y outputs, si estudiamos la psicología, sobre todo de una manera conductista, ahí hay teclas que se pueden pulsar…