Búsqueda · 25 momentos en 11 episodios
María RibesFrancis VillatoroHéctor SocasSara RobiscoGastón Giribetred neuronal noise to noiseinvestigadores universidad nedredes neuronales convolucionales uNoise to NoiseUNEDSara RobiscoNature AstronomyPythonHéctor Socas
Redes Neuronales convolucionales u
Con
0:000:301:001:302:002:303:11
Sara Robisco comenta sobre una red neuronal llamada 'Noise to Noise' desarrollada por investigadores para mejorar imágenes astronómicas ruidosas.
…terrestres como que están en el espacio. Tú tienes la imagen, pero tienes la imagen como te llega, con ruido; no lo puedes entrenar con imágenes limpias de todo porque esa imagen limpia de todo no existe porque tú no sabes si lo estás quitando bien de todo. Ellos dicen: ¿Qué pasa con esto? Ellos dicen que han creado una red neuronal llamada Noise to Noise y además es muy sencillita. ¿No os imaginéis algo muy tremendamente laborioso? Es una UNED, este tipo de redes neuronales es un tipo de red neuronal convolucional que hace una forma de U. ¿Para qué las usamos? Las UNED las usamos en medicina; son muy conocidas, muy usadas, tienen unos resultados estupendos; se usan en medicina para segmentar. ¿Qué te hace? ¿Qué es segmentar? Tú le metes imágenes de rayos X, le metes una imagen en 3D de una resonancia magnética y…
Significado #1 · Palabras #1
Sara Robisco comenta sobre una red neuronal llamada 'Noise to Noise' desarrollada por investigadores para mejorar imágenes astronómicas ruidosas.
Habla: Sara RobiscoSignificado #1 · Palabras #1red neuronal noise to noiseinvestigadores universidad nedredes neuronales convolucionales u…terrestres como que están en el espacio. Tú tienes la imagen, pero tienes la imagen como te llega, con ruido; no lo puedes entrenar con imágenes limpias de todo porque esa imagen limpia de todo no existe porque tú no sabes si lo estás quitando bien de todo. Ellos dicen: ¿Qué pasa con esto? Ellos dicen que han creado una red neuronal llamada Noise to Noise y además es muy sencillita. ¿No os imaginéis algo muy tremendamente laborioso? Es una UNED, este tipo de redes neuronales es un tipo de red neuronal convolucional que hace una forma de U. ¿Para qué las usamos? Las UNED las usamos en medicina; son muy conocidas, muy usadas, tienen unos resultados estupendos; se usan en medicina para segmentar. ¿Qué te hace? ¿Qué es segmentar? Tú le metes imágenes de rayos X, le metes una imagen en 3D de una resonancia magnética y…
Sara Robisco explica cómo la modificación de la arquitectura de las redes neuronales convolucionales permite una mejor generalización en situaciones donde se dispone de pocos datos para el entrenamiento.
Habla: Sara RobiscoSignificado #2 · Palabras #5framework uned descargable en pythonredes neuronales convolucionales capas de convolucióntransformación de imágenes con redes convolucionalesimágenes más pequeñas para procesamiento rápidoconvolución parcial en redes neuronalestécnica dropout entrenamiento convolucionalprobabilidad p activación capas dropoutarquitectura red diferente iteración entrenamientoneuronas desactivadas capa dropoutredes neuronales convolucionales generalizaciónpocos datos entrenamiento redes neuronalessesgos en conjuntos imágenes pequeñasarquitectura neuronal problemas entrenamientodropout mitiga sobreentrenamiento redes neuronalesredes neuronales convolucionales pocos datoslímite de ruido evaluación red neuronal…mejor caer en más falsos negativos y limpiar de menos. Entonces, teniendo nuestra red sencillita, algo sencillita, hablamos de una señora red neuronal: esto es Deep Learning con muchísimas capas. Pero bueno, algo que no es súper novedoso ni ultra laborioso. ¿Qué han hecho? Han cogido el framework tal cual de la UNED, el que te puedes descargar de Python, o sea, de arquitectura básica y la han cambiado. ¿Y qué han hecho? Hemos hablado que las redes convolucionales tienen unas capas que llamamos capas de convolución que lo que hacen es transformar la imagen. Normalmente lo que hacen es hacer esa imagen más pequeñita. ¿Por qué? Porque no podríamos imágenes grandes, necesitaríamos redes muy muy grandes y tardaría muchísimo en procesarlas. Entonces lo que va haciendo esta red es va haciendo más pequeñita la imagen para poder tratarla. ¿Y qué han hecho? Han metido una convolución especial que es convolución parcial. o sea, no reduces todo, reduces partes de la imagen. Luego aparte han metido una cosita que llamamos dropout en estas capas convolucionales. ¿Qué es el dropout? El dropout es un truco que usamos que consiste en en el entrenamiento lo que hace la red es con una probabilidad P que le metemos a las capas, las activa o desactiva. dependiendo de esa probabilidad lo que te determina es no la uses entonces que te garantizamos con esto que en cada iteración del entrenamiento la arquitectura de nuestra red es diferente no estás entrenando nunca la misma red la red cambia su arquitectura porque tienes capas que nos que pasa con esto o neuronas dentro de la capa que no usas o puedes hacer a nivel de capa o neuronal bueno qué pasa con esto que lo que consigues es es que tu red generaliza mucho mejor. Entonces, en casos en los que tú imagínate, tenemos muy poquitas imágenes para tratar o para investigar, para meter en nuestra red y entrenarla en conjuntos con pocas imágenes, pues una red convolucional normal o una red neuronal plantearía problemas por entrenamiento y sesgos. Entonces, es un problemón. Con este dropout quitas un poquito ese riesgo, de hecho ayuda bastante a quitar ese riesgo y permite que no caiga en esta falta de poder generalizar, en este sobreentrenamiento y funcione mejor. Entonces, con esto tan sencillo, pues han conseguido un poco el límite de ruido. ¿Qué hacen también? Pues eso, el ruido, un poco para evaluar cómo ha trabajado nuestra red. Podemos hacer tres aproximaciones. Podemos usar imágenes limpias, como he dicho siempre, y comparar, si tuviéramos, en Caso de no tener imágenes limpias, en caso de no tener las imágenes observacionales y usar unos límites en cuanto ese píxel varía con sus píxeles que le rodean en un límite marcado. Ellos trabajan con un límite de 100; he perdido la unidad. Trabajan con dos…
Sara Robisco explica cómo se evalúa una red neuronal en un contexto de aprendizaje no supervisado, donde no existen imágenes puras y limpias.
Habla: Sara RobiscoSignificado #20red neuronal aprendizaje no supervisadopíxel antes del cambio píxel despuésumbral para detectar ruidoimagen sin etiquetar sistema no supervisado…ese píxel varía con sus píxeles que le rodean en un límite marcado. Ellos trabajan con un límite de 100; he perdido la unidad. Trabajan con dos límites pues cuando superas el límite, lo marcas; este hay que cambiarlo y lo que hace es un suavizado o otro es. Para entrenar, haces estas aproximaciones y comparas el píxel. Lo que hacen es comparar el píxel antes del cambio y después del cambio, ¿vale? ¿Por qué? Porque tu red neuronal te devuelve esos píxeles marcados. Haces el cambio y tienes para comparar cómo estabas antes y cómo estás después. Si ese cambio es mayor que otro umbral, dices, ¿vale? Parece que eso era ruido o pues no parece que hubiera ruido, y mediante estas estrategias es como ellos evalúan la red neuronal porque tengamos en cuenta es un sistema no supervisado: tú no tienes la imagen etiquetada, tú no tienes la imagen pura prístina que te sale del telescopio porque no existe esa imagen. El instrumento bien por las lentes, bien por el sistema, bien por lo que sea puede tener por polvo, puede tener ruido. Va a tener ruido siempre, entonces es interesante este enfoque; sí que el artículo plantea esto bastante bien. Tiene un tema que no me gusta y es la selección de conjunto de entrenamiento y test. Han elegido 10 imágenes y lo han hecho un poco al revés: ¿cómo…
Héctor Socas reflexiona sobre un artículo científico publicado en Nature Astronomy, cuestionando su novedad tras considerar que las redes neuronales ya filtran ruido por defecto y comparándolo con una técnica básica.
Habla: Héctor SocasSignificado #19redes neuronales filtran ruidoartículo nature astronomy novedad cuestionadaentrenamiento sin modelos previos sarapaper héctor socas ejemplo…porque por alguna razón se nos quedó Francis fuera, que yo no sé por qué no estábamos contando contigo para esta semana; por algún lado se perdió un fallo del becario, se perdió algún correo por ahí, pero sí que estábamos hablando de este tema y bueno. Una de las cosas que hacen siempre las redes neuronales es filtrar ruido, es una cosa como que es casi que va incluida con el paquete; entonces hubo que darle un poco de vueltas al paper a ver por qué esto se publica en Nature Astronomy. ¿Qué tiene de novedoso y bueno? Es lo que ha explicado Sara de que se entrena sin tener modelos previos y tal, pero te voy a poner un ejemplo porque es que lo tengo aquí porque como es de un paper mío lo tengo. Aquí al lado y esto es de un artículo que publiqué con Andrés en 2023; creo que fue en Astronomy and Astrophysics. Iba sobre otra cosa, no iba sobre filtrar ruido, pero aquí puedes ver un ejemplo de imágenes solares: la imagen real observada y cómo queda…