Búsqueda · 25 momentos en 16 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosarproceso respuestas inteligencias artificialesinteligencias artificiales inventan detalles procesocaminos inteligencia artificial no detalladosalineamiento modelos lenguaje iainteligencias artificiales simulan describir procesonadie entrena ia para registrar caminoreconstrucción caminos inteligencias artificialesartículos técnicos revistas científicasreconstrucción caminos internet artificialtomografía soluciones problemas sencillosproceso mental paper científicoFrancis VillatoroLeanEinsteinJosé EdelsteinInteligencia ArtificialHéctor SocasRamanujanIgnacio Crespo
Reconstrucción caminos Inteligencias Artificiales
Con
0:000:301:001:302:002:303:003:25
Francis Villatoro explica cómo las inteligencias artificiales simulan describir el proceso seguido para llegar a una respuesta, pero esta descripción es una reconstrucción posterior basada en la solución obtenida.
…cuál era la pregunta. ¿Cuál era la respuesta a la pregunta última sobre el universo, la vida y todo lo demás? Y la máquina al final dice 42. Y claro, te das cuenta que la respuesta no te es suficiente. No es exactamente el mismo argumento, aquí lo que estamos Diciendo es que queremos ver cuál es el desarrollo, pero sí se parece en el sentido de que a veces no es la respuesta en sí, es el proceso por el que llega la respuesta a lo que es importante. Y ahora mismo las inteligencias artificiales mienten mucho cuando te hablan de los procesos; o sea, ahora mismo la inteligencia sigue un camino, pero no guarda en detalle el camino. Documenta el camino, hace cada uno de los pasos del camino y después cuando ha acabado yo le pregunto: ¿Qué camino has seguido? ¿Cómo lo has hecho? Y te lo cuenta; no recoge esa información acumulada porque no la ha acumulado. Nadie la ha entrenado para que acumulen esa información. Entonces Lo que hace es, una vez ya obtenida la solución, lee esa solución como si fuera la solución de otra persona y ahora trata de construir el camino. El camino que se supone a partir de lo que leo y eso está documentado: hay varios artículos técnicos que lo demuestran y están publicados en revistas. Reconstruye el camino y claro, esa reconstrucción muchas veces es ficticia. Elementos clave, que fueron clave, porque podemos hacer una tomografía de lo que ha hecho la internet artificial en problemas sencillos, pero más complicados no podemos, pero en problemas sencillos podemos hacerlo y vemos que el elemento clave que le llevó a esa solución concreta ha sido omitido de la reconstrucción de la explicación De todas formas tengo que decir que cuando yo escribo un paper y tengo que poner un desarrollo de algo, eso no se parece en nada a cuál ha sido mi proceso mental, quiero decir que Tú empiezas con un papel, tiras un montón de hojas a la papelera, tachas, borras, tal, y luego cuando lo escribes en el paper, lo pones súper elegante. Partimos de aquí, vamos a no sé qué, tal, tal, y en cuatro pasitos, con qué elegancia llegas, pero eso no…
Significado #1 · Palabras #1
José Edelstein explica cómo los cálculos relacionados con lazos han sido objeto de investigación durante mucho tiempo, llevando al descubrimiento de estructuras generales en diagramas y técnicas aplicadas en inteligencia artificial.
Habla: José EdelsteinPalabras #10cálculo lazos estructuras diagramasinteligencia artificial técnica bootstrapdiagramas estructura general edelstein…por eso es medio, no es que sea el único, por supuesto; cualquier número de gluones es interesante. Pero ese es un caso bastante estudiado porque es como no trivial, tiene un número par de gluones y es el primero que es asimétrico en los que son la mayoría. Entonces se viene trabajando en ellos hace mucho tiempo y se van batiendo récords del cálculo de lazos en ese camino se fueron descubriendo la estructura general de estos diagramas y se fueron descubriendo cosas que de hecho se utilizan en esto que hizo la inteligencia artificial, que es lo que se llama el bootstrap, que es hacer la cuenta ingenuamente es absurdo, te llevaría un tiempo ingente y es muy complicado, entonces lo que la gente se fue dando cuenta con el correr del tiempo es que si yo conozco todas las simetrías y conozco muchas de las cosas que yo espero al resultado, puedo hacer algo que está a mitad de camino entre adivinarlo y hacerlo. Voy construyendo,…
Francis Villatoro describe un proyecto que intenta reconstruir la relatividad general de Einstein utilizando inteligencia artificial y conocimientos físicos previos a esta teoría.
Habla: Francis VillatoroSignificado #5relatividad general einstein inteligencia artificialreconstrucción física previa relatividad generalinteligencia artificial conocimiento físico previoproyecto francis villatoro relatividad general…pseudo-rimaniana en 3 más 1 dimensiones, el problema ya no es tan complejo. Ahora, dar ese salto creativo es, bueno, no tenemos ni idea cómo, qué métrica darle en el espacio de la creatividad, qué métrica darle Si me permite, José, un pequeño comentario, ha Habido un proyecto que ha intentado, con toda la información de la física previa a la relatividad general de Einstein, reconstruir con inteligencia artificial dado todo ese conocimiento físico, sin acceso a conocimientos posteriores. Reconstruir ese hito de innovar la relatividad general y la IA no ha sido capaz. No han sido capaces, eso está terminado; yo había escuchado eso. Está en curso, como no lo han logrado, siguen trabajando a ver si lo logran. No, es muy interesante porque efectivamente uno puede hacer. ese tipo de juegos Uno puede hacer ese tipo de juegos, uno puede entrenarle una IA que no sepa nada posterior a 1905 y a ver si, en fin, a ver si es capaz de dar los pasos O, no sé, a mí me intriga mucho darle una IA a todos los datos de Tico Brahe y que…
Ignacio Crespo sugiere que sería interesante e incluso frustrante si la inteligencia artificial, al resolver problemas matemáticos complejos, mejorara su capacidad para explicar sus procesos, comparándola con el genio de Ramanujan.
Habla: Ignacio CrespoPalabras #18ia ramanujan explicación procesosinteligencia artificial caja negraintuición matemática inteligencia artificialjustificación razonamientos inteligencia artificial…eso, incluso nos va a costar entender qué hizo exactamente; o sea, nosotros podemos verificar el resultado y quizás no entendemos lo que hizo, y ojalá que la IA sea, se le pueda explicarlo de manera comprensible, que sea buena en divulgación también la IA. Una cosa, perdonad, pero ahora que ha salido el tema, ¿no? Y creo que no lo sacamos cuando hablamos de la aplicación de la inteligencia artificial a las matemáticas. Me parecería muy interesante descubrir que a medida que vaya avanzando y sea capaz de resolver cosas, no aumente su capacidad para explicarnos lo que está haciendo. Imagínate que el tipo de genio en el que se convierte la inteligencia artificial es un Ramanujan, que no te demuestra las cosas, que es a través de una especie de intuición, porque es una caja negra, porque nosotros justificamos a posteriori nuestros razonamientos a veces sin tener nada que ver con los verdaderos motivos y vaya por ese camino. Me parece que sería muy interesante y muy frustrante. Yo creo que va a pasar eso, con algunos problemas va a pasar eso. La IA va a llegar a una solución que podremos saber que es correcta, podremos constatarla por medio de constatación; no es lo mismo eso que llegar a algo que ver los pasos intermedios. Entonces yo creo que eso va a pasar con, no sé, me sorprendería mucho…
Francis Villatoro explica cómo las inteligencias artificiales simulan describir el proceso seguido para llegar a una respuesta, pero esta descripción es una reconstrucción posterior basada en la solución obtenida.
Habla: Francis VillatoroSignificado #1 · Palabras #1proceso respuestas inteligencias artificialesinteligencias artificiales inventan detalles procesocaminos inteligencia artificial no detalladosalineamiento modelos lenguaje iainteligencias artificiales simulan describir procesonadie entrena ia para registrar caminoreconstrucción caminos inteligencias artificialesartículos técnicos revistas científicasreconstrucción caminos internet artificialtomografía soluciones problemas sencillosproceso mental paper científico…cuál era la pregunta. ¿Cuál era la respuesta a la pregunta última sobre el universo, la vida y todo lo demás? Y la máquina al final dice 42. Y claro, te das cuenta que la respuesta no te es suficiente. No es exactamente el mismo argumento, aquí lo que estamos Diciendo es que queremos ver cuál es el desarrollo, pero sí se parece en el sentido de que a veces no es la respuesta en sí, es el proceso por el que llega la respuesta a lo que es importante. Y ahora mismo las inteligencias artificiales mienten mucho cuando te hablan de los procesos; o sea, ahora mismo la inteligencia sigue un camino, pero no guarda en detalle el camino. Documenta el camino, hace cada uno de los pasos del camino y después cuando ha acabado yo le pregunto: ¿Qué camino has seguido? ¿Cómo lo has hecho? Y te lo cuenta; no recoge esa información acumulada porque no la ha acumulado. Nadie la ha entrenado para que acumulen esa información. Entonces Lo que hace es, una vez ya obtenida la solución, lee esa solución como si fuera la solución de otra persona y ahora trata de construir el camino. El camino que se supone a partir de lo que leo y eso está documentado: hay varios artículos técnicos que lo demuestran y están publicados en revistas. Reconstruye el camino y claro, esa reconstrucción muchas veces es ficticia. Elementos clave, que fueron clave, porque podemos hacer una tomografía de lo que ha hecho la internet artificial en problemas sencillos, pero más complicados no podemos, pero en problemas sencillos podemos hacerlo y vemos que el elemento clave que le llevó a esa solución concreta ha sido omitido de la reconstrucción de la explicación De todas formas tengo que decir que cuando yo escribo un paper y tengo que poner un desarrollo de algo, eso no se parece en nada a cuál ha sido mi proceso mental, quiero decir que Tú empiezas con un papel, tiras un montón de hojas a la papelera, tachas, borras, tal, y luego cuando lo escribes en el paper, lo pones súper elegante. Partimos de aquí, vamos a no sé qué, tal, tal, y en cuatro pasitos, con qué elegancia llegas, pero eso no…
Francis Villatoro explica cómo las inteligencias artificiales (IAS) simulan reconstruir el proceso seguido para llegar a una solución, y enfatiza la importancia de verificar el código Lean en demostraciones.
Habla: Francis VillatoroSignificado #4ias simulan reconstruir solucionesverificación código lean demostracionesexplicaciones ias pueden ser desviadas…tachas, borras, tal, y luego cuando lo escribes en el paper, lo pones súper elegante. Partimos de aquí, vamos a no sé qué, tal, tal, y en cuatro pasitos, con qué elegancia llegas, pero eso no se parece en nada al proceso mental que has seguido realmente, ¿no? Pero en las IAS, que son máquinas, les pedimos que lo reconstruyan bien y la gente se cree que lo está reconstruyendo bien. Por eso, en demostraciones, por ejemplo, con Lean, es muy importante leerse el código Lean. O sea, no basta con la explicación que me describen, porque la explicación que me describen puede estar muy, muy desviada respecto a... Ahora las IAS alucinan de una manera muy diferente a como alucinaban hace años, porque hace años alucinaban de la manera que tú lo veías, ¿no? Me ha cambiado este número; en esta tabla le he pedido que me hagan un OCR de la tabla y se ha equivocado en un…
Francis Villatoro explica cómo las inteligencias artificiales han evolucionado en su forma de cometer errores, ahora simulando razonamientos incorrectos.
Habla: Francis VillatoroSignificado #18 · Palabras #19alucinaciones razonamiento inteligencias artificialeserrores conductuales modelos lenguaje iadesvíos sin sentido francis villatoro…una manera muy diferente a como alucinaban hace años, porque hace años alucinaban de la manera que tú lo veías, ¿no? Me ha cambiado este número; en esta tabla le he pedido que me hagan un OCR de la tabla y se ha equivocado en un número, no, qué alucinación. Ahora no, ahora alucinan en la línea conductual, en el camino, en el razonamiento, entre comillas, que están ejecutando; ahí muchas veces cometen alucinaciones y pegan unos desvíos absolutamente sin sentido, entonces de vez en cuando requieren que se les dé con el látigo y reconstruirla y volverlas a situar. Yo por ejemplo ahora trabajo con dos IAs en paralelo porque necesariamente tengo que estar constantemente pegando latigazos a una de las IAs con la otra porque constantemente se desvían de los objetivos. Para estos problemas concretos, complejos, por eso…