Búsqueda · 21 momentos en 9 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosarfrancis rebotar guías filtrosinteligencias artificiales cribar datoscrítica antropic prompts no especificadosrevisión sistemática términos de búsquedainteligencia artificial complacer promptIgnacio CrespoAntropicARTArray Retro TranscriptaseADNARNAntonio Martínez RonNew York TimesCRISPROpusMitosSonnetEvo2GLM2Francis VillatoroJosé EdelsteinCloudHéctor SocasLaboratorios UnoFrancisInteligencias ArtificialesRepet the Ray
Crítica Antropic prompts no especificados
Con
0:000:301:001:302:002:303:003:25
Ignacio Crespo expresa una crítica importante sobre el enfoque de Antropic, señalando que no especifican literalmente los prompts utilizados en sus procesos.
…no entraría en conflicto con las farmacéuticas a las que evidentemente les interesaría vender sus productos, ya sean las inteligencias artificiales para procesar datos o estas encarnadas, podríamos decir, que sean capaces de manipular objetos en laboratorio. En este contexto, y todavía muy verdes en este proceso, han decidido mostrar qué es lo que pueden hacer y cuando vayamos avanzando diréis, ya, pero este proceso al final es cribar datos y encontrar patrones. Eso ya lo saben hacer las inteligencias artificiales; dale suficiente tiempo, dale suficiente capacidad de cómputo y yo puedo incluso programarlas para que me hagan esto y es así. El resultado que han obtenido se podría haber obtenido con métodos muchísimo más tradicionales. La diferencia que ellos alegan es que en este caso se han concatenado todos los procesos necesarios de esa búsqueda, revisión, ese tipo de interacciones que comentaba además Francis, de rebotar una guía con otra para ir filtrando los filtros y de esa manera han agilizado mucho el proceso; y además que la indicación que han dado no es ni siquiera una hipótesis concreta de qué tienen que buscar, sino un prompt muy genérico. Aquí viene mi primera crítica gorda, un prompt que no especifican literalmente. Para mí eso es un problema. En una revisión sistemática, por ejemplo, tienes que decir cuáles son tus términos de búsqueda exactamente y cómo has realizado la selección de los artículos, porque ese proceso es también importante. Si yo no conozco bien el prompt no tengo muy claro qué es lo que ha intentado complacer la inteligencia artificial y eso es uno de los grandes problemas que tenemos pero bueno sabiendo que quieren buscar estas herramientas en la naturaleza y sabiendo qué es lo que tienen en mente y cómo quieren hacerlo pues ellos los que plantearon. Fue utilicemos grandes bases de datos metagenómicas; significa que no son bases de organismos concretos. Muchas veces son recogidas del ambiente, por lo tanto tienen ahí una representación de distintos microorganismos, virus, etc. Y vamos a intentar cribar…
Significado #1 · Palabras #1
Héctor Socas agradece la compañía de los oyentes e introduce la segunda parte del episodio, retomando el tema del cálculo presentado por empleados de Antropic.
Habla: Héctor SocasPalabras #11cálculo antropic cloudinterés académico cálculo antropicproblema resuelto empleados antropic…de la Starship y vamos a seguir debatiendo sobre los descubrimientos de inteligencia artificial en biología y en física. Eso a la vuelta de la pausa, pero en la cara B. Nos tiene que buscar en el podcast. Venga, hasta ahora. Chao, chao. Hasta ahora. Gracias por seguirnos acompañando, comenzamos aquí esta cara B del episodio número 573 y vamos a continuar con el tema que habíamos justo acabado de introducir al final de la cara A sobre este nuevo cálculo presentado por empleados de Antropic utilizando Cloud y Francis nos puedes hablar un poco más ahora entonces de este problema que han resuelto que bueno nos decía José que tenía un interés más académico que práctico realmente ¿no? Exactamente, José, claro cuando se habla de amplitudes que básicamente digamos las amplitudes al cuadrado nos dan la probabilidad de que ocurra una cierta interacción entre partículas. Como José ha comentado, pues uno tiende a pensar en el modelo estándar en…
Francis Villatoro aborda las críticas sobre la calidad de la escritura generada por la inteligencia artificial, mencionando incluso opiniones que sugieren un retroceso en su desempeño respecto a hace dos años.
Habla: Francis VillatoroSignificado #12críticas escritura inteligencia artificialretroceso calidad ia villatorodesempeño ia dos años atrás…o a dar nombres nuevos. Cuando empiece a crear cosas con nuevos nombres y nos diga la IA: "Estoy usando la propiedad Filipón", y tú digas: "Pero, ¿y qué es la propiedad Filipón?", todo el mundo sabe cuál es; es esta. Y tú vas a decir: "Bueno, ese salto". Una de las cuestiones que ahora se está trabajando mucho, porque hay muchas críticas a la manera en la que escribe la IA. Hay gente incluso que ha llegado a decir que la IA está yendo para atrás, que ahora escribe mucho peor de lo que escribía hace dos años. Las IAs comerciales y en parte es cierto porque ahora están como más capadas. Ahora tienen como menos. Todo lo que rodea, todo el chat, no el GPT, no el núcleo, no el modelo de lenguaje, sino el chat, está súper podado para que no hable de no sé qué temas,…
Ignacio Crespo menciona el anuncio de Antropic sobre la identificación autónoma de un sistema similar a CRISPR por parte de sus inteligencias artificiales.
Habla: Ignacio CrespoSignificado #20 · Palabras #14antropic identifica sistema crisprcrispr sistema inmunitario adaptativobiotecnología busca herramientas vida…y tiene sentido: o sea, es que no les podemos pedir otra cosa a las empresas que eso, es evidente, y han dado un paso que han vendido de esta forma. Hace apenas unos días, la semana pasada, que como no hicimos programa la misma semana, pues lo hemos traído a Esta Antropic anunció que sus inteligencias artificiales habían conseguido de forma casi autónoma identificar un sistema parecido a CRISPR. Recordemos que CRISPR es un sistema por el cual las arqueas son capaces de reconocer a los bacteriófagos, los virus que las infectan y atacarles. Una especie de sistema inmunitario adaptativo, pero mucho más sencillo. Que hayan descubierto algo parecido sería muy llamativo; sería muy revolucionario, entre otras cosas, porque en general, en este tipo de ciencias, en biotecnología, se está buscando constantemente herramientas en otras formas de vida que podamos llevar al laboratorio. Porque tenemos ahí una caja de herramientas que la evolución ha ido preparando, afinando y no tenemos por qué diseñarlas desde cero, es como si nacieran llaves inglesas, taladros, por ahí adelante y nosotros pudiéramos aplicarlos, por poner algunos casos, las…
Ignacio Crespo compara la revolución genética actual con los avances en bioinformática, destacando el potencial de nuevos descubrimientos pero matizando un reciente anuncio de Antropic.
Habla: Ignacio CrespoSignificado #10 · Palabras #8revolución genética con bioinformáticaanuncio antropic sin fundamentocrispr opinan investigadoresherramientas personalizables crispens…por supuesto, que luego no llegan a término en el caso de los humanos, pero que se hacen experimentos y todas las posibles aplicaciones que hay para enfermedades monogénicas que están causadas por un solo gen y que, por lo tanto, la edición genética. Crespo es la gran revolución genética de nuestra época junto con la bioinformática, podríamos decir. Son las dos grandes herramientas que hay. Así que encontrar algo de esta escala es para echarnos las manos a la cabeza. Y a Antropic le interesa, así que Antropic lo anunció así. Ahora bien, spoiler: no han encontrado eso. Todos los investigadores que están relacionados con CRISPR y que han podido opinar lo tienen claro, y es que no podemos afirmar tal cosa. Comparte algunas características pero no las suficientes para que consideremos primero que sea suficientemente cercano y desde luego que podamos aplicarlo tanto. No parece que sea tan personalizable para que nosotros le indiquemos dónde cortar y cómo cortar, que es al final lo que necesitamos en este tipo de herramientas. pero creo que es interesante que sigamos un poco el proceso porque aparte de esto lo que Antropica ha planteado es estamos intentando cada vez automatizar más la investigación ya no matemáticas que es lápiz y papel muy entre comillas sabemos que no pero para…
Ignacio Crespo comenta un anuncio reciente de Antropic sobre el potencial de las inteligencias artificiales para acabar con la humanidad. Aclara que su preocupación radica más en el presente sociopolítico y la falta de legislación al respecto que en el escenario planteado.
Habla: Ignacio CrespoSignificado #5 · Palabras #13antropic crea laboratorios unoautomatización investigación científica antropiclaboratorio físico máquinas antropicproceso autónomo laboratorios unointeligencias artificiales antropic humanidadpreocupación presente sociopolítico legislaciónautomatización futuro inteligencias artificialeslaboratorio antropic nivel bioseguridad 2microorganismos bajo riesgo tratamientos disponiblesinfecciones menores laboratorio antropic…llevado a cabo experimentos físicos de lo que sugería la inteligencia artificial, que había detectado estos patrones en el genoma de unos bacteriófagos. Luego entraremos en este caso claro; esto ya corta un poquito la escala, sobre todo teniendo en cuenta que Precisamente Antropic está creando Laboratorios Uno, en concreto, que además se ha anunciado hace relativamente poco, con el propósito de que poco a poco se vuelvan totalmente autónomos. Ellos pretenden acortar totalmente ese gap, que incluso la labor física la realicen máquinas. Están entrenando esto; no es nada del mundo, ya hay algunos procesos concretos que se pueden hacer así, que están implementados así en laboratorios y por supuesto esto llegará a farmacéuticas. Que por cierto, como detalle, hace unas semanas precisamente de Antropic venía este anuncio de en unos años podrían acabar con nosotros las inteligencias artificiales. Y la gente decía: bueno, pero que no tiene manitas, ¿no? ¿Qué va a hacer para sintetizar ahí el virus? Que a mí ya he dicho que no me preocupa ese futuro, me preocupa el presente sociopolítico que hay al respecto y la falta de legislación, pero que no es tan raro; que precisamente estamos yendo en la dirección de automatizar los laboratorios y ponerlos en sus manos. Habría que ver cómo funciona. De todos modos, este laboratorio de Antropic tiene un nivel de bioseguridad 2, que significa que no hay nada, ningún microorganismo con el que puedan trabajar que sea realmente peligroso, porque son infecciones menores para las cuales tenemos tratamiento. No vamos a ver nada raro. Y por poner un caso para hacernos una idea, simplemente de lo que estamos hablando, pues no pueden trabajar con tuberculosis, no pueden trabajar con COVID; es bastante, por ahora. Cabal eso sí que están buscando, estamos buscando edición genética, que igual…
Ignacio Crespo expresa una crítica importante sobre el enfoque de Antropic, señalando que no especifican literalmente los prompts utilizados en sus procesos.
Habla: Ignacio CrespoSignificado #1 · Palabras #1francis rebotar guías filtrosinteligencias artificiales cribar datoscrítica antropic prompts no especificadosrevisión sistemática términos de búsquedainteligencia artificial complacer prompt…no entraría en conflicto con las farmacéuticas a las que evidentemente les interesaría vender sus productos, ya sean las inteligencias artificiales para procesar datos o estas encarnadas, podríamos decir, que sean capaces de manipular objetos en laboratorio. En este contexto, y todavía muy verdes en este proceso, han decidido mostrar qué es lo que pueden hacer y cuando vayamos avanzando diréis, ya, pero este proceso al final es cribar datos y encontrar patrones. Eso ya lo saben hacer las inteligencias artificiales; dale suficiente tiempo, dale suficiente capacidad de cómputo y yo puedo incluso programarlas para que me hagan esto y es así. El resultado que han obtenido se podría haber obtenido con métodos muchísimo más tradicionales. La diferencia que ellos alegan es que en este caso se han concatenado todos los procesos necesarios de esa búsqueda, revisión, ese tipo de interacciones que comentaba además Francis, de rebotar una guía con otra para ir filtrando los filtros y de esa manera han agilizado mucho el proceso; y además que la indicación que han dado no es ni siquiera una hipótesis concreta de qué tienen que buscar, sino un prompt muy genérico. Aquí viene mi primera crítica gorda, un prompt que no especifican literalmente. Para mí eso es un problema. En una revisión sistemática, por ejemplo, tienes que decir cuáles son tus términos de búsqueda exactamente y cómo has realizado la selección de los artículos, porque ese proceso es también importante. Si yo no conozco bien el prompt no tengo muy claro qué es lo que ha intentado complacer la inteligencia artificial y eso es uno de los grandes problemas que tenemos pero bueno sabiendo que quieren buscar estas herramientas en la naturaleza y sabiendo qué es lo que tienen en mente y cómo quieren hacerlo pues ellos los que plantearon. Fue utilicemos grandes bases de datos metagenómicas; significa que no son bases de organismos concretos. Muchas veces son recogidas del ambiente, por lo tanto tienen ahí una representación de distintos microorganismos, virus, etc. Y vamos a intentar cribar…
Ignacio Crespo explica el funcionamiento de la retrotranscriptasa y cómo Antropic planea utilizarla para buscar características en una base de datos.
Habla: Ignacio CrespoPalabras #4conversión arn en adn funcióncríticas búsqueda datos bruto…material genético. Recordemos que retrotranscriptasa, en este caso, bueno, estaríamos buscando los genes, pero esos genes podemos volverlos proteínas, podemos traducirlos en proteínas. La retrotranscriptasa lo que hace es, por lo contrario, la transcriptasa. En vez de convertir el ADN en ARN como intermediario para luego traducirlo en proteínas, la retrotranscriptasa convierte el ARN en ADN. Hace el inverso. Entonces esto era un poco lo que tenían en mente. Vamos a buscar estas características en nuestra enorme base de datos. Y aquí viene otra de las críticas que han recibido, porque lo han hecho a lo bruto. Lo que han cogido es: deja de que busque los datos porque aquí son los típicos que hay que dar uno a uno. Vale, han cogido unos 200.000 clústeres de posibles retrotranscriptasas. Clúster significa que cuando tú analizas todos esos genomas no te quedas con cada uno de ellos individualmente; hay algunos que se parecen lo suficiente en algunas partes como para…
Ignacio Crespo describe cómo Antropic identificó un caso particular durante su proceso de cribado genético, destacando que la inteligencia artificial involucrada pudo identificar detalles relevantes dentro de una cadena de razonamientos.
Habla: Ignacio CrespoSignificado #3 · Palabras #9cribado genético antropicinteligencia artificial cadena razonamientosdetalle relevante antropicentusiasmo ia filtrado datosreacción inteligencia artificial rayproceso filtrado masivo datos antropicimitación emoción inteligencia artificialantropic opus mitos sonnetevo2 glm2 modelos genómicosarquitectura automatiza flujo trabajo antropicprompt genérico retrotranscriptas genes…Unas 21 horas y media duró todo este proceso; proceso en el cual utilizaron muchas inteligencias artificiales, como decíamos, a través de lo que llaman un harness, para actuar como trabajadores, como supervisores, otras que actuaban con una memoria. compartida de trabajo sobre la cual ir haciendo este cribado. Y se quedaron con este caso, se quedaron con uno que llamaba la atención y me parece muy interesante porque Antropic ha compartido la línea en la cual la inteligencia artificial en esta cadena de razonamientos que tiene, porque todavía son legibles en principio, se dio cuenta del detalle y ellos lo cuentan como si fuera maravilloso. Dicen que aquí la inteligencia artificial dijo, es espectacular, puedo ver a simple vista, que eso ya tiene su gracia, ¿no? Una repetición en tándem que es como CRISPR, puntos suspensivos, una repetición en tándem, ¿no? O sea, algo así dice, Repet the Ray, vamos a ver, es de todo, de todo, menos calmado, menos meditado este momento. y compartir con júbilo la sorpresa y la emoción que imita una inteligencia artificial en un proceso de filtrado de datos como este, que es masivo, que es claro que vas a encontrar algo, seguro que vas a encontrar algo, bueno, pues tiene su tela. Detallar que, aparte de utilizar las propias inteligencias artificiales de Antropic, porque utilizaron Opus, Mitos, Sonnet también lo utilizaron, pero bueno, para otro tipo de funciones menos exigentes, utilizaron algunas que están hechas precisamente para trabajar con modelos genómicos como puede ser Evo2, GLM2; era un ecosistema complejo. Hay que reconocer que eso está bien montado, es una arquitectura interesante que automatiza partes de ese flujo de trabajo, que parte de ese prompt genérico que no tenemos muy claro, más allá de identificar sistemas de retrotranscriptas nuevos sobre bases asociadas con genes acompañados; eso es un poco lo que yo he podido sintetizar que parece que han dicho, y nos lleva a esta conclusión. Ahora bien, ¿qué han encontrado exactamente? Han encontrado un sistema de tres componentes; por un lado tenemos la retrotranscriptasa, eso es lo que buscábamos, tiene que estar ahí presente, que tiene además una cola muy larga que indica que cuando obtenemos…
Ignacio Crespo aborda las críticas sobre el sistema ART (Array Retro Transcriptase) descubierto por Antropic, señalando que algunos lo consideran simplemente retrones y no algo novedoso.
Habla: Ignacio CrespoPalabras #2retrones versus array retro transcriptaseartículo antonio martínez ron diarioconclusiones antropic new york timesinvestigador conclusiones antropic…del entorno se active, pues por ejemplo para producir la muerte celular, en el caso de que la bacteria detecte que ha sido infectada con virus, quitarse de en medio y no darle la posibilidad al virus de que se replique e infecte a las que tiene alrededor. Así que ha habido muchas críticas diciendo también que esto no es nuevo, que estos son retrones y ya está y no tiene mucho más por mucho que le llaméis ART, que es como le han llamado a este sistema por Array Retro Transcriptase. Pero está la otra vuelta que recomiendo a todo el mundo que le eche un ojo porque además ayer por La noche Antonio Martínez Ron publicó en el diario un artículo que está muy bien. También resumiendo lo que ya el New York Times comentó prácticamente, creo que fue el día siguiente al anuncio de Antropic. Y es que hay un investigador, una vez más, que había llegado a estas conclusiones. Y además, sin tener que decir que esto era CRISPR ni nada parecido, es, mira, lo he encontrado; ya veremos cuándo publicamos. Y ese investigador, una vez más, es español. Estoy diciendo que se hicieron eco en The New York Times, ¿vale? Para intentar ponerlo un poco en contexto, no es, bueno, en cada país debe de haber alguien, por pura estadística, y justo yo estoy haciendo…