Búsqueda · 16 momentos en 9 episodios
ResNet
Con
0:000:301:001:302:002:303:12
Sara Robisco explica que para obtener respuestas rápidas en el análisis de gráficas, los investigadores podrían optar por modelos de redes neuronales menos profundos, similar al artículo de Juan Carlos. Sin embargo, han logrado obtener resultados en un segundo utilizando ResNet, una red neuronal convolucional muy compleja.
…la tiene, no procesa. Quiero decir, tú le das un trocito y ella se queda ahí esperando como una cosa tonta, vale, dame, dame, hasta que tú no tienes una condición de parada, ella no va a parar porque necesita sacar el contexto. Entonces esto es un problemón. Y dices: bueno, quieren ser rápidos, pues tirarán por un modelo de red neuronal menos profundita, ¿no? Lo que hemos visto con el artículo de Juan Carlos, algo sencillo, algo que tarde un segundo. Pues han conseguido hacer que tarde un segundo en darnos la respuesta con una pedazo de gráfica usando una de las redes neuronales convolucionales más profundas que hay, la ResNet. Estamos hablando de un bicho que en su primera publicación, que fue en 2016, ResNet se probó con una profundidad de 150 capas y una profundidad de 1.000; se hicieron dos res de mil capas. O sea, estamos hablando de una señora red neuronal. Vale, pero aparte hemos hablado de datos de la gráfica, es algo complicado de digerir. Entonces ellos idean un sistema de pre-compresión previa, un filtro. ¿Qué hacen? Esta señal la dividen en tres señales, en varias señales por sus frecuencias, la separan en…
Significado #2 · Palabras #1
Sara Robisco sugiere la posibilidad de realizar un desafío utilizando imágenes históricas del proyecto Arecibo Wow para entrenar redes neuronales.
Habla: Sara RobiscoSignificado #7redes neuronales proyecto arecibo wowchallenge imágenes históricas arecibolenet ocr red neuronal convolucionalred neuronal años noventa…va a coger esas letras y va a hacer OCR sobre ellas para pasárselas a medios analógicos, que ahora la memoria no vale nada, para a su vez analizarlas de forma moderna, vete a tú a saber con qué métodos, en fin, las vueltas que da la buena ciencia, ¿no? Lo que molaría mucho es que hicieran un challenge, porque si tú pones: a mí me gustaría tener esas imágenes y poder entrenar redes neuronales que inicialmente, como LENET, que inicialmente fue un OCR, fue la primera red neuronal convolucional, y poner a prueba, decir, venga, ¿qué tal se defendería esa red neuronal de los años 90? ¿Cómo se apañaría? y jugar con ellas. Molaría un montón. Sí, sí. Una oportunidad para... Supongo que el OCR es una red neuronal en el fondo, pero no sé exactamente los detalles. Sí, pero que... Bueno, hay muchas técnicas detrás, pero que molaría mucho probar esas antiguas, ¿no? A ver qué tal se defiende. Lo que me ha dado un poquillo bajón es que…
Sara Robisco explica que el entrenamiento del modelo requirió muchos GPUs, pero los cálculos finales se ejecutaron en un Intel Core i7 a 3.8 GHz, destacando la eficiencia de las redes neuronales pequeñas.
Habla: Sara RobiscoSignificado #9redes neuronales predicción menos segundoentrenamiento modelo sesenta díaseficiencia conjunto redes neuronales paraleloentrenamiento modelo muchos gpuscálculos finales intel core i7redes neuronales pequeñas eficiencia…Impulso Era una marca de un desodorante, no sé. ¡Ah, ostras, sí, sí, sí, sí, sí! Pero me pilló un pequeño a mí eso. Yo creo que era un perfume. No, era un desodorante, yo creo, y no tenía una mariposita. Pues sí, me suena. No sé, pero no lo sé; puede ser. Es que fijaos lo impresionante que es este trabajo: que es que la predicción la hacen un segundo, en menos de un segundo, para que veáis la eficiencia de este conjunto de redes neuronales, que estamos hablando de varias en paralelo. Y ojo, tardó 60 días en entrenar. Ahora ya se explica. Si alguien me hace un cálculo y sale en un segundo es que no se ha esforzado lo suficiente. Pero para que veáis, ¿qué pensáis? Que bueno, que esto necesitó una barbaridad de GPUs, una cosa muy loca Vale, los cálculos se ejecutaron en un Intel Core i7 de 3,8 GHz O sea, es que eficiencia total Sí, es lo que dices tú, son redes pequeñas y esto es una de las ventajas de las redes neuronales, una red pequeña se ejecuta en cualquier sitio, en un reloj la puedes poner. Bueno, Venga, vamos a pasar de tema porque ahora que dije reloj, porque es que estoy mirando el reloj aquí y me están dando la ansiedad de la que hablábamos con la canción de Coffee Break y los latidos extras me están aquí ya empezando a dar. Francis, está la gente…
Sara Robisco explica que para obtener respuestas rápidas en el análisis de gráficas, los investigadores podrían optar por modelos de redes neuronales menos profundos, similar al artículo de Juan Carlos. Sin embargo, han logrado obtener resultados en un segundo utilizando ResNet, una red neuronal convolucional muy compleja.
Habla: Sara RobiscoSignificado #2 · Palabras #1modelo red neuronal juan carlosresnet con 150 capasresnet con 1000 capasredes neuronales convolucionales profundas resnet…la tiene, no procesa. Quiero decir, tú le das un trocito y ella se queda ahí esperando como una cosa tonta, vale, dame, dame, hasta que tú no tienes una condición de parada, ella no va a parar porque necesita sacar el contexto. Entonces esto es un problemón. Y dices: bueno, quieren ser rápidos, pues tirarán por un modelo de red neuronal menos profundita, ¿no? Lo que hemos visto con el artículo de Juan Carlos, algo sencillo, algo que tarde un segundo. Pues han conseguido hacer que tarde un segundo en darnos la respuesta con una pedazo de gráfica usando una de las redes neuronales convolucionales más profundas que hay, la ResNet. Estamos hablando de un bicho que en su primera publicación, que fue en 2016, ResNet se probó con una profundidad de 150 capas y una profundidad de 1.000; se hicieron dos res de mil capas. O sea, estamos hablando de una señora red neuronal. Vale, pero aparte hemos hablado de datos de la gráfica, es algo complicado de digerir. Entonces ellos idean un sistema de pre-compresión previa, un filtro. ¿Qué hacen? Esta señal la dividen en tres señales, en varias señales por sus frecuencias, la separan en…
Sara Robisco explica el objetivo del sistema de redes neuronales, que consiste en obtener una serie de valores para determinar la posición, spin y masas de los objetos involucrados, imitando el análisis realizado por una persona.
Habla: Sara RobiscoSignificado #3 · Palabras #2red neuronal valores posición spin masasanálisis persona datos objetosresnet premisa aprendizaje capas…de pre-compresión previa, un filtro. ¿Qué hacen? Esta señal la dividen en tres señales, en varias señales por sus frecuencias, la separan en frecuencia. y luego aplicar un algoritmo de compresión para reducirla lo máximo posible sin perder información. ¿Por qué? Porque el objetivo de nuestra red neuronal es devolvernos un churro de valores en los que vamos a separar nosotros encontrando la posición, el spin, masas, todos los datos que sacaría una persona analizando bien. Esto lo tiene que sacar de la red neuronal. ¿Y por qué una ResNet? Pues una ResNet parte de una premisa y es: ¿Una red neuronal si añadimos más capas va a aprender mejor? Bueno pues en 2016 teníamos un problemón y es que Se sabía que era falso, no porque a más capas la red sobreaprenda sino porque cuando tú le añades más capas tu error aumenta; empieza a aumentar la tasa de error de la red neuronal y dices: ostras, empieza a fallar y esto era un problemón y a unos chinos,…
Sara Robisco explica el funcionamiento de las ResNet, redes neuronales que aprenden el error o residuo entre la solución verdadera y la observación, en lugar de la solución directamente.
Habla: Sara RobiscoSignificado #1 · Palabras #3resnet aprende el restored neuronal convolucional datos grandesprecisión superior al 90 por ciento ligovirgokagraentrenamiento con pocos datos fusión estrellas neutrones…en una red neuronal? Pues tenemos subredes, tú coges varias capas, un par de capas funcionando y a la salida de esas capas le sumas la entrada. Entonces ella no está aprendiendo la solución como el resto de redes neuronales, está aprendiendo el resto. Por eso se llama ResNet, redes neuronales basadas en restos. Entonces, ella aprende el resto, le suma la entrada y ya tiene esa solución. Son muy eficientes, aunque no te tiene que dar miedo que tenga mil capas; es rápida, es muy precisa y aparte tiene otra ventaja: es una red neuronal convolucional. Las convolucionales tienen capas de convolución que el dato de entrada también te lo comprimen. Entonces están hechas para trabajar con datos muy grandes y con todas estas ventajas han conseguido eso: que con un trocito de la gráfica ella te dé los parámetros con una precisión de más de un 90%. Se ha entrenado, eso sí, tenemos muy poquitos datos de LIGO, Virgo y KAGRA de fusión de estrellas de neutrones y. Esto es un problemón. ¿Qué se ha hecho? Ellos han generado de forma sintética datos, han empezado a generar datos, han hecho un conjunto de datos sintéticos grande, lo han entrenado con estos datos ficticios y luego el conjunto de validación con el que lo han…