Búsqueda · 34 momentos en 18 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosarproceso respuestas inteligencias artificialesinteligencias artificiales inventan detalles procesocaminos inteligencia artificial no detalladosalineamiento modelos lenguaje iainteligencias artificiales simulan describir procesonadie entrena ia para registrar caminoreconstrucción caminos inteligencias artificialesartículos técnicos revistas científicasInteligencia ArtificialFrancis VillatoroHéctor SocasIgnacio CrespoCRISPRRepet the RayAntropicRamanujan
Proceso respuestas Inteligencias Artificiales
Con
0:000:301:001:302:002:303:003:25
Francis Villatoro y Héctor Socas discuten sobre la importancia del proceso que lleva a una respuesta por parte de las inteligencias artificiales, señalando que estas tienden a inventar detalles sobre ese proceso.
…cuál era la pregunta. ¿Cuál era la respuesta a la pregunta última sobre el universo, la vida y todo lo demás? Y la máquina al final dice 42. Y claro, te das cuenta que la respuesta no te es suficiente. No es exactamente el mismo argumento, aquí lo que estamos Diciendo es que queremos ver cuál es el desarrollo, pero sí se parece en el sentido de que a veces no es la respuesta en sí, es el proceso por el que llega la respuesta a lo que es importante. Y ahora mismo las inteligencias artificiales mienten mucho cuando te hablan de los procesos; o sea, ahora mismo la inteligencia sigue un camino, pero no guarda en detalle el camino. Documenta el camino, hace cada uno de los pasos del camino y después cuando ha acabado yo le pregunto: ¿Qué camino has seguido? ¿Cómo lo has hecho? Y te lo cuenta; no recoge esa información acumulada porque no la ha acumulado. Nadie la ha entrenado para que acumulen esa información. Entonces Lo que hace es, una vez ya obtenida la solución, lee esa solución como si fuera la solución de otra persona y ahora trata de construir el camino. El camino que se supone a partir de lo que leo y eso está documentado: hay varios artículos técnicos que lo demuestran y están publicados en revistas. Reconstruye el camino y claro, esa reconstrucción muchas veces es ficticia. Elementos clave, que fueron clave, porque podemos hacer una tomografía de lo que ha hecho la internet artificial en problemas sencillos, pero más complicados no podemos, pero en problemas sencillos podemos hacerlo y vemos que el elemento clave que le llevó a…
Significado #1 · Palabras #1
Ignacio Crespo sugiere que sería interesante e incluso frustrante si la inteligencia artificial, al resolver problemas matemáticos complejos, mejorara su capacidad para explicar sus procesos, comparándola con el genio de Ramanujan.
Habla: Ignacio CrespoSignificado #17ia ramanujan explicación procesosinteligencia artificial caja negraintuición matemática inteligencia artificialjustificación razonamientos inteligencia artificial…eso, incluso nos va a costar entender qué hizo exactamente; o sea, nosotros podemos verificar el resultado y quizás no entendemos lo que hizo, y ojalá que la IA sea, se le pueda explicarlo de manera comprensible, que sea buena en divulgación también la IA. Una cosa, perdonad, pero ahora que ha salido el tema, ¿no? Y creo que no lo sacamos cuando hablamos de la aplicación de la inteligencia artificial a las matemáticas. Me parecería muy interesante descubrir que a medida que vaya avanzando y sea capaz de resolver cosas, no aumente su capacidad para explicarnos lo que está haciendo. Imagínate que el tipo de genio en el que se convierte la inteligencia artificial es un Ramanujan, que no te demuestra las cosas, que es a través de una especie de intuición, porque es una caja negra, porque nosotros justificamos a posteriori nuestros razonamientos a veces sin tener nada que ver con los verdaderos motivos y vaya por ese camino. Me parece que sería muy interesante y muy frustrante. Yo creo que va a pasar eso, con algunos problemas va a pasar eso. La IA va a llegar a una solución que podremos saber que es correcta, podremos constatarla por medio de constatación; no es lo mismo eso que llegar a algo que ver los pasos intermedios. Entonces yo creo que eso va a pasar con, no sé, me sorprendería mucho…
Francis Villatoro y Héctor Socas discuten sobre la importancia del proceso que lleva a una respuesta por parte de las inteligencias artificiales, señalando que estas tienden a inventar detalles sobre ese proceso.
Habla: Francis VillatoroSignificado #1 · Palabras #1proceso respuestas inteligencias artificialesinteligencias artificiales inventan detalles procesocaminos inteligencia artificial no detalladosalineamiento modelos lenguaje iainteligencias artificiales simulan describir procesonadie entrena ia para registrar caminoreconstrucción caminos inteligencias artificialesartículos técnicos revistas científicas…cuál era la pregunta. ¿Cuál era la respuesta a la pregunta última sobre el universo, la vida y todo lo demás? Y la máquina al final dice 42. Y claro, te das cuenta que la respuesta no te es suficiente. No es exactamente el mismo argumento, aquí lo que estamos Diciendo es que queremos ver cuál es el desarrollo, pero sí se parece en el sentido de que a veces no es la respuesta en sí, es el proceso por el que llega la respuesta a lo que es importante. Y ahora mismo las inteligencias artificiales mienten mucho cuando te hablan de los procesos; o sea, ahora mismo la inteligencia sigue un camino, pero no guarda en detalle el camino. Documenta el camino, hace cada uno de los pasos del camino y después cuando ha acabado yo le pregunto: ¿Qué camino has seguido? ¿Cómo lo has hecho? Y te lo cuenta; no recoge esa información acumulada porque no la ha acumulado. Nadie la ha entrenado para que acumulen esa información. Entonces Lo que hace es, una vez ya obtenida la solución, lee esa solución como si fuera la solución de otra persona y ahora trata de construir el camino. El camino que se supone a partir de lo que leo y eso está documentado: hay varios artículos técnicos que lo demuestran y están publicados en revistas. Reconstruye el camino y claro, esa reconstrucción muchas veces es ficticia. Elementos clave, que fueron clave, porque podemos hacer una tomografía de lo que ha hecho la internet artificial en problemas sencillos, pero más complicados no podemos, pero en problemas sencillos podemos hacerlo y vemos que el elemento clave que le llevó a…
Ignacio Crespo explica cómo Antropic ha acortado parte del proceso de investigación al combinar prompts generados por inteligencia artificial con experimentos físicos.
Habla: Ignacio CrespoPalabras #18inteligencia artificial bacteriófagospreprints sin revisión científica…ya no matemáticas que es lápiz y papel muy entre comillas sabemos que no pero para entender esa diferencia con el mundo del laboratorio húmedo donde hay que manipular físicamente objetos placas de petri microscopios pipetas hay un buen salto bueno pues lo que ha decidido es acortar parte del proceso. Ellos mismos han declarado que en estas investigaciones este preprint que han publicado, porque no ha pasado ningún tipo de revisión, que es de unas 40 páginas, es larguito. El humano solamente ha planteado el prompt y luego llevado a cabo experimentos físicos de lo que sugería la inteligencia artificial, que había detectado estos patrones en el genoma de unos bacteriófagos. Luego entraremos en este caso claro; esto ya corta un poquito la escala, sobre todo teniendo en cuenta que Precisamente Antropic está creando Laboratorios Uno, en concreto, que además se ha anunciado hace relativamente poco, con el propósito de que poco a poco se vuelvan totalmente autónomos. Ellos pretenden acortar totalmente ese gap, que incluso la labor física…
Ignacio Crespo comenta sobre la forma en que Antropic comparte sus descubrimientos, destacando una reacción de entusiasmo por parte de la inteligencia artificial durante un proceso de filtrado masivo de datos.
Habla: Ignacio CrespoPalabras #8entusiasmo ia filtrado datosreacción inteligencia artificial rayproceso filtrado masivo datos antropicimitación emoción inteligencia artificial…me parece muy interesante porque Antropic ha compartido la línea en la cual la inteligencia artificial en esta cadena de razonamientos que tiene, porque todavía son legibles en principio, se dio cuenta del detalle y ellos lo cuentan como si fuera maravilloso. Dicen que aquí la inteligencia artificial dijo, es espectacular, puedo ver a simple vista, que eso ya tiene su gracia, ¿no? Una repetición en tándem que es como CRISPR, puntos suspensivos, una repetición en tándem, ¿no? O sea, algo así dice, Repet the Ray, vamos a ver, es de todo, de todo, menos calmado, menos meditado este momento. y compartir con júbilo la sorpresa y la emoción que imita una inteligencia artificial en un proceso de filtrado de datos como este, que es masivo, que es claro que vas a encontrar algo, seguro que vas a encontrar algo, bueno, pues tiene su tela. Detallar que, aparte de utilizar las propias inteligencias artificiales de Antropic, porque utilizaron Opus, Mitos, Sonnet también lo utilizaron, pero bueno, para otro tipo de funciones menos exigentes, utilizaron algunas que están hechas precisamente para…
Ignacio Crespo analiza la falta de innovación en un trabajo reciente, independientemente de si hubo copia o conocimiento previo.
Habla: Ignacio CrespoPalabras #4falta innovación trabajo ignacio crespointeligencia artificial cadenas razonamientoprocesos inteligencia artificial…para plantear hipótesis hasta ahora es que les cuesta mucho plantear hipótesis que se desmarquen totalmente de aquello con lo que han sido entrenadas que son, por lo que decía Francis, no va a plantear un término nuevo, le va a costar salirse de la caja. Y querían hacer justo eso. Así que, independientemente de que hayan copiado, independientemente de que supieran que existían estas cosas antes, no parece haber nada innovador en esto. Parece que justo lo que pretendían defender sigue en el aire. No hay una respuesta clara que nos diga: no, sí, las nuevas inteligencias artificiales con cadenas de razonamiento, con todos estos procesos, son capaces. Bien, gracias Ignacio. ¿Algún comentario sobre no, eso, comentar el tema de la polémica? No es que sea español, etcétera, pero él comenta que se supone que ha usado el chat de Anthropic. Entonces, lo que hay que recordar a todos los oyentes es que toda…