Búsqueda · 24 momentos en 14 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosarproceso respuestas inteligencias artificialesinteligencias artificiales inventan detalles procesocaminos inteligencia artificial no detalladosalineamiento modelos lenguaje iainteligencias artificiales simulan describir procesonadie entrena ia para registrar caminoreconstrucción caminos inteligencias artificialesartículos técnicos revistas científicasreconstrucción caminos internet artificialtomografía soluciones problemas sencillosproceso mental paper científicoInteligencia ArtificialFrancis VillatoroHéctor SocasJosé EdelsteinAntropicIgnacio CrespoRamanujan
Caminos Inteligencia Artificial no detallados
Con
0:000:301:001:302:002:303:003:25
Francis Villatoro y Héctor Socas discuten sobre la importancia del proceso que lleva a una respuesta por parte de las inteligencias artificiales, señalando que estas tienden a inventar detalles sobre ese proceso.
…cuál era la pregunta. ¿Cuál era la respuesta a la pregunta última sobre el universo, la vida y todo lo demás? Y la máquina al final dice 42. Y claro, te das cuenta que la respuesta no te es suficiente. No es exactamente el mismo argumento, aquí lo que estamos Diciendo es que queremos ver cuál es el desarrollo, pero sí se parece en el sentido de que a veces no es la respuesta en sí, es el proceso por el que llega la respuesta a lo que es importante. Y ahora mismo las inteligencias artificiales mienten mucho cuando te hablan de los procesos; o sea, ahora mismo la inteligencia sigue un camino, pero no guarda en detalle el camino. Documenta el camino, hace cada uno de los pasos del camino y después cuando ha acabado yo le pregunto: ¿Qué camino has seguido? ¿Cómo lo has hecho? Y te lo cuenta; no recoge esa información acumulada porque no la ha acumulado. Nadie la ha entrenado para que acumulen esa información. Entonces Lo que hace es, una vez ya obtenida la solución, lee esa solución como si fuera la solución de otra persona y ahora trata de construir el camino. El camino que se supone a partir de lo que leo y eso está documentado: hay varios artículos técnicos que lo demuestran y están publicados en revistas. Reconstruye el camino y claro, esa reconstrucción muchas veces es ficticia. Elementos clave, que fueron clave, porque podemos hacer una tomografía de lo que ha hecho la internet artificial en problemas sencillos, pero más complicados no podemos, pero en problemas sencillos podemos hacerlo y vemos que el elemento clave que le llevó a esa solución concreta ha sido omitido de la reconstrucción de la explicación De todas formas tengo que decir que cuando yo escribo un paper y tengo que poner un desarrollo de algo, eso no se parece en nada a cuál ha sido mi proceso mental, quiero decir que Tú empiezas con un papel, tiras un montón de hojas a la papelera, tachas, borras, tal, y luego cuando lo escribes en el paper, lo pones súper elegante. Partimos de aquí, vamos a no sé qué, tal, tal, y en cuatro pasitos, con qué elegancia llegas, pero eso no…
Significado #1 · Palabras #1
José Edelstein explica cómo los cálculos relacionados con lazos han sido objeto de investigación durante mucho tiempo, llevando al descubrimiento de estructuras generales en diagramas y técnicas aplicadas en inteligencia artificial.
Habla: José EdelsteinPalabras #8cálculo lazos estructuras diagramasinteligencia artificial técnica bootstrapdiagramas estructura general edelstein…por eso es medio, no es que sea el único, por supuesto; cualquier número de gluones es interesante. Pero ese es un caso bastante estudiado porque es como no trivial, tiene un número par de gluones y es el primero que es asimétrico en los que son la mayoría. Entonces se viene trabajando en ellos hace mucho tiempo y se van batiendo récords del cálculo de lazos en ese camino se fueron descubriendo la estructura general de estos diagramas y se fueron descubriendo cosas que de hecho se utilizan en esto que hizo la inteligencia artificial, que es lo que se llama el bootstrap, que es hacer la cuenta ingenuamente es absurdo, te llevaría un tiempo ingente y es muy complicado, entonces lo que la gente se fue dando cuenta con el correr del tiempo es que si yo conozco todas las simetrías y conozco muchas de las cosas que yo espero al resultado, puedo hacer algo que está a mitad de camino entre adivinarlo y hacerlo. Voy construyendo,…
Ignacio Crespo sugiere que sería interesante e incluso frustrante si la inteligencia artificial, al resolver problemas matemáticos complejos, mejorara su capacidad para explicar sus procesos, comparándola con el genio de Ramanujan.
Habla: Ignacio CrespoPalabras #18ia ramanujan explicación procesosinteligencia artificial caja negraintuición matemática inteligencia artificialjustificación razonamientos inteligencia artificial…eso, incluso nos va a costar entender qué hizo exactamente; o sea, nosotros podemos verificar el resultado y quizás no entendemos lo que hizo, y ojalá que la IA sea, se le pueda explicarlo de manera comprensible, que sea buena en divulgación también la IA. Una cosa, perdonad, pero ahora que ha salido el tema, ¿no? Y creo que no lo sacamos cuando hablamos de la aplicación de la inteligencia artificial a las matemáticas. Me parecería muy interesante descubrir que a medida que vaya avanzando y sea capaz de resolver cosas, no aumente su capacidad para explicarnos lo que está haciendo. Imagínate que el tipo de genio en el que se convierte la inteligencia artificial es un Ramanujan, que no te demuestra las cosas, que es a través de una especie de intuición, porque es una caja negra, porque nosotros justificamos a posteriori nuestros razonamientos a veces sin tener nada que ver con los verdaderos motivos y vaya por ese camino. Me parece que sería muy interesante y muy frustrante. Yo creo que va a pasar eso, con algunos problemas va a pasar eso. La IA va a llegar a una solución que podremos saber que es correcta, podremos constatarla por medio de constatación; no es lo mismo eso que llegar a algo que ver los pasos intermedios. Entonces yo creo que eso va a pasar con, no sé, me sorprendería mucho…
Francis Villatoro y Héctor Socas discuten sobre la importancia del proceso que lleva a una respuesta por parte de las inteligencias artificiales, señalando que estas tienden a inventar detalles sobre ese proceso.
Habla: Francis VillatoroSignificado #1 · Palabras #1proceso respuestas inteligencias artificialesinteligencias artificiales inventan detalles procesocaminos inteligencia artificial no detalladosalineamiento modelos lenguaje iainteligencias artificiales simulan describir procesonadie entrena ia para registrar caminoreconstrucción caminos inteligencias artificialesartículos técnicos revistas científicasreconstrucción caminos internet artificialtomografía soluciones problemas sencillosproceso mental paper científico…cuál era la pregunta. ¿Cuál era la respuesta a la pregunta última sobre el universo, la vida y todo lo demás? Y la máquina al final dice 42. Y claro, te das cuenta que la respuesta no te es suficiente. No es exactamente el mismo argumento, aquí lo que estamos Diciendo es que queremos ver cuál es el desarrollo, pero sí se parece en el sentido de que a veces no es la respuesta en sí, es el proceso por el que llega la respuesta a lo que es importante. Y ahora mismo las inteligencias artificiales mienten mucho cuando te hablan de los procesos; o sea, ahora mismo la inteligencia sigue un camino, pero no guarda en detalle el camino. Documenta el camino, hace cada uno de los pasos del camino y después cuando ha acabado yo le pregunto: ¿Qué camino has seguido? ¿Cómo lo has hecho? Y te lo cuenta; no recoge esa información acumulada porque no la ha acumulado. Nadie la ha entrenado para que acumulen esa información. Entonces Lo que hace es, una vez ya obtenida la solución, lee esa solución como si fuera la solución de otra persona y ahora trata de construir el camino. El camino que se supone a partir de lo que leo y eso está documentado: hay varios artículos técnicos que lo demuestran y están publicados en revistas. Reconstruye el camino y claro, esa reconstrucción muchas veces es ficticia. Elementos clave, que fueron clave, porque podemos hacer una tomografía de lo que ha hecho la internet artificial en problemas sencillos, pero más complicados no podemos, pero en problemas sencillos podemos hacerlo y vemos que el elemento clave que le llevó a esa solución concreta ha sido omitido de la reconstrucción de la explicación De todas formas tengo que decir que cuando yo escribo un paper y tengo que poner un desarrollo de algo, eso no se parece en nada a cuál ha sido mi proceso mental, quiero decir que Tú empiezas con un papel, tiras un montón de hojas a la papelera, tachas, borras, tal, y luego cuando lo escribes en el paper, lo pones súper elegante. Partimos de aquí, vamos a no sé qué, tal, tal, y en cuatro pasitos, con qué elegancia llegas, pero eso no…
Francis Villatoro explica cómo las inteligencias artificiales han evolucionado en su forma de cometer errores, ahora simulando razonamientos incorrectos.
Habla: Francis VillatoroSignificado #13 · Palabras #19alucinaciones razonamiento inteligencias artificialeserrores conductuales modelos lenguaje iadesvíos sin sentido francis villatoro…una manera muy diferente a como alucinaban hace años, porque hace años alucinaban de la manera que tú lo veías, ¿no? Me ha cambiado este número; en esta tabla le he pedido que me hagan un OCR de la tabla y se ha equivocado en un número, no, qué alucinación. Ahora no, ahora alucinan en la línea conductual, en el camino, en el razonamiento, entre comillas, que están ejecutando; ahí muchas veces cometen alucinaciones y pegan unos desvíos absolutamente sin sentido, entonces de vez en cuando requieren que se les dé con el látigo y reconstruirla y volverlas a situar. Yo por ejemplo ahora trabajo con dos IAs en paralelo porque necesariamente tengo que estar constantemente pegando latigazos a una de las IAs con la otra porque constantemente se desvían de los objetivos. Para estos problemas concretos, complejos, por eso…
Ignacio Crespo describe cómo Antropic identificó un caso particular durante su proceso de cribado genético, destacando que la inteligencia artificial involucrada pudo identificar detalles relevantes dentro de una cadena de razonamientos.
Habla: Ignacio CrespoPalabras #12cribado genético antropicinteligencia artificial cadena razonamientosdetalle relevante antropic…Unas 21 horas y media duró todo este proceso; proceso en el cual utilizaron muchas inteligencias artificiales, como decíamos, a través de lo que llaman un harness, para actuar como trabajadores, como supervisores, otras que actuaban con una memoria. compartida de trabajo sobre la cual ir haciendo este cribado. Y se quedaron con este caso, se quedaron con uno que llamaba la atención y me parece muy interesante porque Antropic ha compartido la línea en la cual la inteligencia artificial en esta cadena de razonamientos que tiene, porque todavía son legibles en principio, se dio cuenta del detalle y ellos lo cuentan como si fuera maravilloso. Dicen que aquí la inteligencia artificial dijo, es espectacular, puedo ver a simple vista, que eso ya tiene su gracia, ¿no? Una repetición en tándem que es como CRISPR, puntos suspensivos, una repetición en tándem, ¿no? O sea, algo así dice, Repet the Ray,…