Héctor Socas reflexiona sobre un artículo científico publicado en Nature Astronomy, cuestionando su novedad tras considerar que las redes neuronales ya filtran ruido por defecto y comparándolo con una técnica básica.
…porque por alguna razón se nos quedó Francis fuera, que yo no sé por qué no estábamos contando contigo para esta semana; por algún lado se perdió un fallo del becario, se perdió algún correo por ahí, pero sí que estábamos hablando de este tema y bueno. Una de las cosas que hacen siempre las redes neuronales es filtrar ruido, es una cosa como que es casi que va incluida con el paquete; entonces hubo que darle un poco de vueltas al paper a ver por qué esto se publica en Nature Astronomy. ¿Qué tiene de novedoso y bueno? Es lo que ha explicado Sara de que se entrena sin tener modelos previos y tal, pero te voy a poner un ejemplo porque es que lo tengo aquí porque como es de un paper mío lo tengo. Aquí al lado y esto es de un artículo que publiqué con Andrés en 2023; creo que fue en Astronomy and Astrophysics. Iba sobre otra cosa, no iba sobre filtrar ruido, pero aquí puedes ver un ejemplo de imágenes solares: la imagen real observada y cómo queda después de que la procese la red neuronal. Ves que la filtra todo el ruido que tiene. pero no era para eso, el propósito de la red no era filtrar el ruido, estaba haciendo otras cosas pero como subproducto, y de hecho solo mencionamos una frase, una frase en la que se dice, y bueno, como subproducto tenemos una imagen también más limpia de ruido porque, como digo, es algo que todo el mundo sabe, qué pasa cuando aplicas una red neuronal y entonces yo viendo este artículo digo, pero no solo que se publica sino que además se publica en Nature Astronomy que es una revista con un impacto superior al de las revistas especializadas de astrofísica, no es como el Nature principal pero está a mitad de camino y bueno, tenía su vuelta de tuerca nos costó, nos costó dudo bastante que esto, en fin, que un editor experto y un referido experto te lo hubiera publicado en esa revista a mí me parece que es un poco el efecto moda, de que ahora está muy de moda el aplicar inteligencia artificial a cualquier cosa y cualquier…
Sara Robisco explica un problema que surge al intentar mejorar imágenes astronómicas utilizando redes neuronales, señalando la dificultad de entrenar los modelos cuando las imágenes originales contienen ruido desconocido.
Habla: Sara RobiscoSignificado #2redes neuronales imágenes astronómicasruido desconocido sensores telescopiosimagen limpia inexistente astronomíaautoencoder imagen original sin ruidored neuronal noise to noiseinvestigadores universidad nedredes neuronales convolucionales u…te das cuenta de que igual sí que tienes un miguilla? ¿Por qué? Porque ellos aquí lo que plantean es una cosa que no habíamos tenido en cuenta. Cuando nosotros filtramos las imágenes de ruido con métodos no supervisados, lo que hacemos es tomamos una imagen. La metemos ruido adicional que generamos nosotros. Solo un conjunto de imágenes así con ruido generado. Ponemos a que la red entrene con ellas y comparamos los resultados de nuestro autoencoder con la imagen original sin el ruido. Dices, oye, ¿feitra bien o feitra mal? Muy bien, pero ¿qué pasa con las imágenes astronómicas? ¿Qué pasa cuando el ruido es un artefacto que introducen sensores? ¿Cuando el ruido es algo que no somos ni siquiera conscientes de ello? O sea, cuando no tenemos la imagen limpia de todo, en casos de imágenes astronómicas, en casos obtenidas por telescopios tanto terrestres como que están en el espacio. Tú tienes la imagen, pero tienes la imagen como te llega, con ruido; no lo puedes entrenar con imágenes limpias de todo porque esa imagen limpia de todo no existe porque tú no sabes si lo estás quitando bien de todo. Ellos dicen: ¿Qué pasa con esto? Ellos dicen que han creado una red neuronal llamada Noise to Noise y además es muy sencillita. ¿No os imaginéis algo muy tremendamente laborioso? Es una UNED, este tipo de redes neuronales es un tipo de red neuronal convolucional que hace una forma de U. ¿Para qué las usamos? Las UNED las usamos en medicina; son muy conocidas, muy usadas, tienen unos resultados estupendos; se usan en medicina para segmentar. ¿Qué te hace? ¿Qué es segmentar? Tú le metes imágenes de rayos X, le metes una imagen en 3D de una resonancia magnética y…
Sara Robisco explica cómo la técnica de 'dropout' ayuda a mitigar el riesgo de sobreentrenamiento en redes neuronales convolucionales cuando se dispone de pocos datos para entrenarlas.
Habla: Sara RobiscoSignificado #15dropout mitiga sobreentrenamiento redes neuronalesredes neuronales convolucionales pocos datoslímite de ruido evaluación red neuronal…muy poquitas imágenes para tratar o para investigar, para meter en nuestra red y entrenarla en conjuntos con pocas imágenes, pues una red convolucional normal o una red neuronal plantearía problemas por entrenamiento y sesgos. Entonces, es un problemón. Con este dropout quitas un poquito ese riesgo, de hecho ayuda bastante a quitar ese riesgo y permite que no caiga en esta falta de poder generalizar, en este sobreentrenamiento y funcione mejor. Entonces, con esto tan sencillo, pues han conseguido un poco el límite de ruido. ¿Qué hacen también? Pues eso, el ruido, un poco para evaluar cómo ha trabajado nuestra red. Podemos hacer tres aproximaciones. Podemos usar imágenes limpias, como he dicho siempre, y comparar, si tuviéramos, en Caso de no tener imágenes limpias, en caso de no tener las imágenes observacionales y usar unos límites en cuanto ese píxel varía con sus píxeles que le rodean en un límite marcado. Ellos trabajan con un límite de 100; he perdido la unidad. Trabajan con dos…
Sara Robisco explica cómo se evalúa una red neuronal en un contexto de aprendizaje no supervisado, donde no existen imágenes puras y limpias.
Habla: Sara RobiscoSignificado #12 · Palabras #6red neuronal aprendizaje no supervisadopíxel antes del cambio píxel despuésumbral para detectar ruidoimagen sin etiquetar sistema no supervisado…ese píxel varía con sus píxeles que le rodean en un límite marcado. Ellos trabajan con un límite de 100; he perdido la unidad. Trabajan con dos límites pues cuando superas el límite, lo marcas; este hay que cambiarlo y lo que hace es un suavizado o otro es. Para entrenar, haces estas aproximaciones y comparas el píxel. Lo que hacen es comparar el píxel antes del cambio y después del cambio, ¿vale? ¿Por qué? Porque tu red neuronal te devuelve esos píxeles marcados. Haces el cambio y tienes para comparar cómo estabas antes y cómo estás después. Si ese cambio es mayor que otro umbral, dices, ¿vale? Parece que eso era ruido o pues no parece que hubiera ruido, y mediante estas estrategias es como ellos evalúan la red neuronal porque tengamos en cuenta es un sistema no supervisado: tú no tienes la imagen etiquetada, tú no tienes la imagen pura prístina que te sale del telescopio porque no existe esa imagen. El instrumento bien por las lentes, bien por el sistema, bien por lo que sea puede tener por polvo, puede tener ruido. Va a tener ruido siempre, entonces es interesante este enfoque; sí que el artículo plantea esto bastante bien. Tiene un tema que no me gusta y es la selección de conjunto de entrenamiento y test. Han elegido 10 imágenes y lo han hecho un poco al revés: ¿cómo…
Héctor Socas comenta sobre un artículo científico que parece reinventar algo ya conocido: el uso de redes neuronales para filtrar ruido en imágenes, comparándolo con algo tan básico como 'pan y mantequilla'. Menciona una reunión previa al programa donde se discutió este tema a través de correos electrónicos.
Habla: Héctor SocasSignificado #5 · Palabras #15redes neuronales para filtrar ruidofiltro de ruido en imágenesreinvención de la rueda hector socaspaper sobre filtro de ruido…es mayor. Pero aún así me parece una barbaridad, una cosa un poco contraintuitiva y no sé, un poco por qué lo han hecho así. Igual habría que preguntarles por qué esa elección tan raruna. Pero sí que me ha chocado; esto es lo que más raro me ha resultado. Pero sí que es un poco reinventar la rueda. A mí me sorprendió un poco; lo estuvimos comentando ayer cuando empezamos a mirar el paper, porque digo: ¿cómo sacan un paper con un filtro de ruido, con redes neuronales, cuando esto es como el pan y mantequilla? Esto para que los oyentes sepan que hay una reunión de producción antes del programa, que de hecho es cierto; hubo varios mails sobre esto ayer, ayer y antes de ayer. Bueno, reunión, intercambio de mails más bien. Ahí tuvimos una descoordinación porque por alguna razón se nos quedó Francis fuera, que yo no sé por qué no estábamos contando contigo para esta semana; por algún lado se perdió un fallo del becario, se perdió algún correo por ahí, pero sí que estábamos…
Héctor Socas reflexiona sobre un artículo científico publicado en Nature Astronomy, cuestionando su novedad tras considerar que las redes neuronales ya filtran ruido por defecto y comparándolo con una técnica básica.
Habla: Héctor SocasSignificado #1 · Palabras #8redes neuronales filtran ruidoartículo nature astronomy novedad cuestionadaentrenamiento sin modelos previos sarapaper héctor socas ejemploartículo andrés astronomy astrophysicsred neuronal elimina ruido solarimágenes solares reales vs procesadasred neuronal para imágenes solareseliminación del ruido como subproducto nature astronomyimpacto superior revistas astrofísica…porque por alguna razón se nos quedó Francis fuera, que yo no sé por qué no estábamos contando contigo para esta semana; por algún lado se perdió un fallo del becario, se perdió algún correo por ahí, pero sí que estábamos hablando de este tema y bueno. Una de las cosas que hacen siempre las redes neuronales es filtrar ruido, es una cosa como que es casi que va incluida con el paquete; entonces hubo que darle un poco de vueltas al paper a ver por qué esto se publica en Nature Astronomy. ¿Qué tiene de novedoso y bueno? Es lo que ha explicado Sara de que se entrena sin tener modelos previos y tal, pero te voy a poner un ejemplo porque es que lo tengo aquí porque como es de un paper mío lo tengo. Aquí al lado y esto es de un artículo que publiqué con Andrés en 2023; creo que fue en Astronomy and Astrophysics. Iba sobre otra cosa, no iba sobre filtrar ruido, pero aquí puedes ver un ejemplo de imágenes solares: la imagen real observada y cómo queda después de que la procese la red neuronal. Ves que la filtra todo el ruido que tiene. pero no era para eso, el propósito de la red no era filtrar el ruido, estaba haciendo otras cosas pero como subproducto, y de hecho solo mencionamos una frase, una frase en la que se dice, y bueno, como subproducto tenemos una imagen también más limpia de ruido porque, como digo, es algo que todo el mundo sabe, qué pasa cuando aplicas una red neuronal y entonces yo viendo este artículo digo, pero no solo que se publica sino que además se publica en Nature Astronomy que es una revista con un impacto superior al de las revistas especializadas de astrofísica, no es como el Nature principal pero está a mitad de camino y bueno, tenía su vuelta de tuerca nos costó, nos costó dudo bastante que esto, en fin, que un editor experto y un referido experto te lo hubiera publicado en esa revista a mí me parece que es un poco el efecto moda, de que ahora está muy de moda el aplicar inteligencia artificial a cualquier cosa y cualquier…