Búsqueda · 32 momentos en 20 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosarfrancis rebotar guías filtrosinteligencias artificiales cribar datoscrítica antropic prompts no especificadosrevisión sistemática términos de búsquedainteligencia artificial complacer promptIgnacio CrespoAntropicOpusMitosSonnetEvo2GLM2Inteligencia ArtificialFrancis VillatoroHéctor SocasFrancisInteligencias ArtificialesRamanujan
Inteligencia Artificial complacer prompt
Con
0:000:301:001:302:002:303:003:25
Ignacio Crespo expresa una crítica importante sobre el enfoque de Antropic, señalando que no especifican literalmente los prompts utilizados en sus procesos.
…no entraría en conflicto con las farmacéuticas a las que evidentemente les interesaría vender sus productos, ya sean las inteligencias artificiales para procesar datos o estas encarnadas, podríamos decir, que sean capaces de manipular objetos en laboratorio. En este contexto, y todavía muy verdes en este proceso, han decidido mostrar qué es lo que pueden hacer y cuando vayamos avanzando diréis, ya, pero este proceso al final es cribar datos y encontrar patrones. Eso ya lo saben hacer las inteligencias artificiales; dale suficiente tiempo, dale suficiente capacidad de cómputo y yo puedo incluso programarlas para que me hagan esto y es así. El resultado que han obtenido se podría haber obtenido con métodos muchísimo más tradicionales. La diferencia que ellos alegan es que en este caso se han concatenado todos los procesos necesarios de esa búsqueda, revisión, ese tipo de interacciones que comentaba además Francis, de rebotar una guía con otra para ir filtrando los filtros y de esa manera han agilizado mucho el proceso; y además que la indicación que han dado no es ni siquiera una hipótesis concreta de qué tienen que buscar, sino un prompt muy genérico. Aquí viene mi primera crítica gorda, un prompt que no especifican literalmente. Para mí eso es un problema. En una revisión sistemática, por ejemplo, tienes que decir cuáles son tus términos de búsqueda exactamente y cómo has realizado la selección de los artículos, porque ese proceso es también importante. Si yo no conozco bien el prompt no tengo muy claro qué es lo que ha intentado complacer la inteligencia artificial y eso es uno de los grandes problemas que tenemos pero bueno sabiendo que quieren buscar estas herramientas en la naturaleza y sabiendo qué es lo que tienen en mente y cómo quieren hacerlo pues ellos los que plantearon. Fue utilicemos grandes bases de datos metagenómicas; significa que no son bases de organismos concretos. Muchas veces son recogidas del ambiente, por lo tanto tienen ahí una representación de distintos microorganismos, virus, etc. Y vamos a intentar cribar…
Significado #1 · Palabras #1
Ignacio Crespo sugiere que sería interesante e incluso frustrante si la inteligencia artificial, al resolver problemas matemáticos complejos, mejorara su capacidad para explicar sus procesos, comparándola con el genio de Ramanujan.
Habla: Ignacio CrespoSignificado #16ia ramanujan explicación procesosinteligencia artificial caja negraintuición matemática inteligencia artificialjustificación razonamientos inteligencia artificial…eso, incluso nos va a costar entender qué hizo exactamente; o sea, nosotros podemos verificar el resultado y quizás no entendemos lo que hizo, y ojalá que la IA sea, se le pueda explicarlo de manera comprensible, que sea buena en divulgación también la IA. Una cosa, perdonad, pero ahora que ha salido el tema, ¿no? Y creo que no lo sacamos cuando hablamos de la aplicación de la inteligencia artificial a las matemáticas. Me parecería muy interesante descubrir que a medida que vaya avanzando y sea capaz de resolver cosas, no aumente su capacidad para explicarnos lo que está haciendo. Imagínate que el tipo de genio en el que se convierte la inteligencia artificial es un Ramanujan, que no te demuestra las cosas, que es a través de una especie de intuición, porque es una caja negra, porque nosotros justificamos a posteriori nuestros razonamientos a veces sin tener nada que ver con los verdaderos motivos y vaya por ese camino. Me parece que sería muy interesante y muy frustrante. Yo creo que va a pasar eso, con algunos problemas va a pasar eso. La IA va a llegar a una solución que podremos saber que es correcta, podremos constatarla por medio de constatación; no es lo mismo eso que llegar a algo que ver los pasos intermedios. Entonces yo creo que eso va a pasar con, no sé, me sorprendería mucho…
Francis Villatoro y Héctor Socas discuten sobre la importancia del proceso que lleva a una respuesta por parte de las inteligencias artificiales, señalando que estas tienden a inventar detalles sobre ese proceso.
Habla: Francis VillatoroSignificado #10proceso respuestas inteligencias artificialesinteligencias artificiales inventan detalles procesocaminos inteligencia artificial no detallados…cuál era la pregunta. ¿Cuál era la respuesta a la pregunta última sobre el universo, la vida y todo lo demás? Y la máquina al final dice 42. Y claro, te das cuenta que la respuesta no te es suficiente. No es exactamente el mismo argumento, aquí lo que estamos Diciendo es que queremos ver cuál es el desarrollo, pero sí se parece en el sentido de que a veces no es la respuesta en sí, es el proceso por el que llega la respuesta a lo que es importante. Y ahora mismo las inteligencias artificiales mienten mucho cuando te hablan de los procesos; o sea, ahora mismo la inteligencia sigue un camino, pero no guarda en detalle el camino. Documenta el camino, hace cada uno de los pasos del camino y después cuando ha acabado yo le pregunto: ¿Qué camino has seguido? ¿Cómo lo has hecho? Y te lo cuenta; no recoge esa información acumulada porque no la ha acumulado. Nadie la ha entrenado para que…
Ignacio Crespo explica cómo Antropic ha acortado parte del proceso de investigación al combinar prompts generados por inteligencia artificial con experimentos físicos.
Habla: Ignacio CrespoSignificado #13 · Palabras #2inteligencia artificial bacteriófagospreprints sin revisión científica…ya no matemáticas que es lápiz y papel muy entre comillas sabemos que no pero para entender esa diferencia con el mundo del laboratorio húmedo donde hay que manipular físicamente objetos placas de petri microscopios pipetas hay un buen salto bueno pues lo que ha decidido es acortar parte del proceso. Ellos mismos han declarado que en estas investigaciones este preprint que han publicado, porque no ha pasado ningún tipo de revisión, que es de unas 40 páginas, es larguito. El humano solamente ha planteado el prompt y luego llevado a cabo experimentos físicos de lo que sugería la inteligencia artificial, que había detectado estos patrones en el genoma de unos bacteriófagos. Luego entraremos en este caso claro; esto ya corta un poquito la escala, sobre todo teniendo en cuenta que Precisamente Antropic está creando Laboratorios Uno, en concreto, que además se ha anunciado hace relativamente poco, con el propósito de que poco a poco se vuelvan totalmente autónomos. Ellos pretenden acortar totalmente ese gap, que incluso la labor física…
Ignacio Crespo expresa una crítica importante sobre el enfoque de Antropic, señalando que no especifican literalmente los prompts utilizados en sus procesos.
Habla: Ignacio CrespoSignificado #1 · Palabras #1francis rebotar guías filtrosinteligencias artificiales cribar datoscrítica antropic prompts no especificadosrevisión sistemática términos de búsquedainteligencia artificial complacer prompt…no entraría en conflicto con las farmacéuticas a las que evidentemente les interesaría vender sus productos, ya sean las inteligencias artificiales para procesar datos o estas encarnadas, podríamos decir, que sean capaces de manipular objetos en laboratorio. En este contexto, y todavía muy verdes en este proceso, han decidido mostrar qué es lo que pueden hacer y cuando vayamos avanzando diréis, ya, pero este proceso al final es cribar datos y encontrar patrones. Eso ya lo saben hacer las inteligencias artificiales; dale suficiente tiempo, dale suficiente capacidad de cómputo y yo puedo incluso programarlas para que me hagan esto y es así. El resultado que han obtenido se podría haber obtenido con métodos muchísimo más tradicionales. La diferencia que ellos alegan es que en este caso se han concatenado todos los procesos necesarios de esa búsqueda, revisión, ese tipo de interacciones que comentaba además Francis, de rebotar una guía con otra para ir filtrando los filtros y de esa manera han agilizado mucho el proceso; y además que la indicación que han dado no es ni siquiera una hipótesis concreta de qué tienen que buscar, sino un prompt muy genérico. Aquí viene mi primera crítica gorda, un prompt que no especifican literalmente. Para mí eso es un problema. En una revisión sistemática, por ejemplo, tienes que decir cuáles son tus términos de búsqueda exactamente y cómo has realizado la selección de los artículos, porque ese proceso es también importante. Si yo no conozco bien el prompt no tengo muy claro qué es lo que ha intentado complacer la inteligencia artificial y eso es uno de los grandes problemas que tenemos pero bueno sabiendo que quieren buscar estas herramientas en la naturaleza y sabiendo qué es lo que tienen en mente y cómo quieren hacerlo pues ellos los que plantearon. Fue utilicemos grandes bases de datos metagenómicas; significa que no son bases de organismos concretos. Muchas veces son recogidas del ambiente, por lo tanto tienen ahí una representación de distintos microorganismos, virus, etc. Y vamos a intentar cribar…
Ignacio Crespo explica que Antropic utilizó varias inteligencias artificiales como Opus, Mitos y Sonnet para diferentes tareas, además de herramientas especializadas en modelos genómicos como Evo2 y GLM2.
Habla: Ignacio CrespoPalabras #4antropic opus mitos sonnetevo2 glm2 modelos genómicosarquitectura automatiza flujo trabajo antropicprompt genérico retrotranscriptas genes…este momento. y compartir con júbilo la sorpresa y la emoción que imita una inteligencia artificial en un proceso de filtrado de datos como este, que es masivo, que es claro que vas a encontrar algo, seguro que vas a encontrar algo, bueno, pues tiene su tela. Detallar que, aparte de utilizar las propias inteligencias artificiales de Antropic, porque utilizaron Opus, Mitos, Sonnet también lo utilizaron, pero bueno, para otro tipo de funciones menos exigentes, utilizaron algunas que están hechas precisamente para trabajar con modelos genómicos como puede ser Evo2, GLM2; era un ecosistema complejo. Hay que reconocer que eso está bien montado, es una arquitectura interesante que automatiza partes de ese flujo de trabajo, que parte de ese prompt genérico que no tenemos muy claro, más allá de identificar sistemas de retrotranscriptas nuevos sobre bases asociadas con genes acompañados; eso es un poco lo que yo he podido sintetizar que parece que han dicho, y nos lleva a esta conclusión. Ahora bien, ¿qué han encontrado exactamente? Han encontrado un sistema de tres componentes; por un lado tenemos la retrotranscriptasa, eso es lo que buscábamos, tiene que estar ahí presente, que tiene además una cola muy larga que indica que cuando obtenemos…