Búsqueda · 28 momentos en 13 episodios
Sara RobiscoJuan Carlos GilFrancis VillatoroHéctor SocasGastón Giribetredes neuronales proyecto arecibo wowchallenge imágenes históricas arecibolenet ocr red neuronal convolucionalred neuronal años noventaLENETSara RobiscoArecibo WowMachine LearningDingoHéctor SocasChinaJuan CarlosResNet
Red Neuronal años noventa
Con
0:000:301:001:302:002:303:12
Sara Robisco sugiere la posibilidad de realizar un desafío utilizando imágenes históricas del proyecto Arecibo Wow para entrenar redes neuronales.
…va a coger esas letras y va a hacer OCR sobre ellas para pasárselas a medios analógicos, que ahora la memoria no vale nada, para a su vez analizarlas de forma moderna, vete a tú a saber con qué métodos, en fin, las vueltas que da la buena ciencia, ¿no? Lo que molaría mucho es que hicieran un challenge, porque si tú pones: a mí me gustaría tener esas imágenes y poder entrenar redes neuronales que inicialmente, como LENET, que inicialmente fue un OCR, fue la primera red neuronal convolucional, y poner a prueba, decir, venga, ¿qué tal se defendería esa red neuronal de los años 90? ¿Cómo se apañaría? y jugar con ellas. Molaría un montón. Sí, sí. Una oportunidad para... Supongo que el OCR es una red neuronal en el fondo, pero no sé exactamente los detalles. Sí, pero que... Bueno, hay muchas técnicas detrás, pero que molaría mucho probar esas antiguas, ¿no? A ver qué tal se defiende. Lo que me ha dado un poquillo bajón es que…
Significado #1 · Palabras #1
Sara Robisco sugiere la posibilidad de realizar un desafío utilizando imágenes históricas del proyecto Arecibo Wow para entrenar redes neuronales.
Habla: Sara RobiscoSignificado #1 · Palabras #1redes neuronales proyecto arecibo wowchallenge imágenes históricas arecibolenet ocr red neuronal convolucionalred neuronal años noventa…va a coger esas letras y va a hacer OCR sobre ellas para pasárselas a medios analógicos, que ahora la memoria no vale nada, para a su vez analizarlas de forma moderna, vete a tú a saber con qué métodos, en fin, las vueltas que da la buena ciencia, ¿no? Lo que molaría mucho es que hicieran un challenge, porque si tú pones: a mí me gustaría tener esas imágenes y poder entrenar redes neuronales que inicialmente, como LENET, que inicialmente fue un OCR, fue la primera red neuronal convolucional, y poner a prueba, decir, venga, ¿qué tal se defendería esa red neuronal de los años 90? ¿Cómo se apañaría? y jugar con ellas. Molaría un montón. Sí, sí. Una oportunidad para... Supongo que el OCR es una red neuronal en el fondo, pero no sé exactamente los detalles. Sí, pero que... Bueno, hay muchas técnicas detrás, pero que molaría mucho probar esas antiguas, ¿no? A ver qué tal se defiende. Lo que me ha dado un poquillo bajón es que…
Héctor Socas y Sara Robisco comentan sobre la experiencia de entrenar redes neuronales en el pasado, donde los resultados tardaban varios días.
Habla: Héctor SocasSignificado #8redes neuronales tardaban una semanaentrenar redes neuronales día nocheestadísticas para evaluar redes neuronales…y me sale el resultado, la escala de le doy al botón me voy a comer y en un par de horas está el resultado, y la escala de 10 horas, le doy al botón y el día siguiente veo el resultado o el fin de semana como dice Uy, al día siguiente, yo he tenido redes. neuronales que tardaba una semana en entrenar y poniéndolas, dejándolas, eh, día y noche. Sí, yo también, y las dejabas, ibas viendo; además me iba dando con el resultado parcial, la iba usando, iba viendo si la cosa más o menos iba en la dirección deseada, iba mejor, iba peor. Yo le ponía que fuera escupiendo estadísticas para decirme cómo iba, y claro, había veces que llevabas 4 o 5. Días y veías que no mejoraba ni de coña y decías: ya voy a parar, no sé qué, y de repente alguien te decía: no, no, no, que creo que hay 5 o 6 días. Es una película de acción a espabilar. El ordenador, bueno, la Surface la tengo aquí, se hinchó porque la…
Sara Robisco pregunta sobre qué tipos de redes neuronales son adecuadas para analizar gráficas como series temporales, introduciendo el concepto de redes neuronales recurrentes.
Habla: Sara RobiscoPalabras #5redes neuronales recurrentes sara robiscográfica como serie temporalseries temporales redes neuronales…siendo eficiente y preciso. Entonces ellos proponen una red neuronal que han llamado Dingo BNS por fusión de estrellas de neutrones; porque ellos ya tienen otro Dingo. Hace unos años ellos propusieron un Dingo para fusión de agujeros negros. Vale, entonces Dices, vale, Machine Learning: una red neuronal. ¿Qué tipo de red neuronal así que conozcamos, que hablamos, ha hablado de ellas? ¿Os suena que una gráfica es una serie temporal que trabaja muy bien con series temporales? Venga, vamos ahí un poquito a jugar. Venga, todos nos suenan, habéis escuchado hablarme, series temporales, tal, redes neuronales recurrentes, ¿verdad? Sería lo más lógico para este tipo de datos. ¿Por qué? Porque cogen muy bien la señal en el tiempo, son muy precisas, vale. Pero tenemos unos problemas: son lentas; bueno, lentas no, porque las tenemos analizando textos y conversando, pero son grandes, son complicadas de entrenar porque tenemos que…
Sara Robisco explica que para obtener respuestas rápidas en el análisis de gráficas, los investigadores podrían optar por modelos de redes neuronales menos profundos, similar al artículo de Juan Carlos. Sin embargo, han logrado obtener resultados en un segundo utilizando ResNet, una red neuronal convolucional muy compleja.
Habla: Sara RobiscoSignificado #15 · Palabras #18modelo red neuronal juan carlosresnet con 150 capasresnet con 1000 capasredes neuronales convolucionales profundas resnet…la tiene, no procesa. Quiero decir, tú le das un trocito y ella se queda ahí esperando como una cosa tonta, vale, dame, dame, hasta que tú no tienes una condición de parada, ella no va a parar porque necesita sacar el contexto. Entonces esto es un problemón. Y dices: bueno, quieren ser rápidos, pues tirarán por un modelo de red neuronal menos profundita, ¿no? Lo que hemos visto con el artículo de Juan Carlos, algo sencillo, algo que tarde un segundo. Pues han conseguido hacer que tarde un segundo en darnos la respuesta con una pedazo de gráfica usando una de las redes neuronales convolucionales más profundas que hay, la ResNet. Estamos hablando de un bicho que en su primera publicación, que fue en 2016, ResNet se probó con una profundidad de 150 capas y una profundidad de 1.000; se hicieron dos res de mil capas. O sea, estamos hablando de una señora red neuronal. Vale, pero aparte hemos hablado de datos de la gráfica, es algo complicado de digerir. Entonces ellos idean un sistema de pre-compresión previa, un filtro. ¿Qué hacen? Esta señal la dividen en tres señales, en varias señales por sus frecuencias, la separan en…
Sara Robisco explica que en 2016 se observó un problema al intentar mejorar el rendimiento de las redes neuronales añadiendo más capas.
Habla: Sara RobiscoSignificado #11 · Palabras #10red neuronal valores posición spin masasanálisis persona datos objetosresnet premisa aprendizaje capaserror aumento redes neuronales capastasa error red neuronal chinared neuronal problema chino…de pre-compresión previa, un filtro. ¿Qué hacen? Esta señal la dividen en tres señales, en varias señales por sus frecuencias, la separan en frecuencia. y luego aplicar un algoritmo de compresión para reducirla lo máximo posible sin perder información. ¿Por qué? Porque el objetivo de nuestra red neuronal es devolvernos un churro de valores en los que vamos a separar nosotros encontrando la posición, el spin, masas, todos los datos que sacaría una persona analizando bien. Esto lo tiene que sacar de la red neuronal. ¿Y por qué una ResNet? Pues una ResNet parte de una premisa y es: ¿Una red neuronal si añadimos más capas va a aprender mejor? Bueno pues en 2016 teníamos un problemón y es que Se sabía que era falso, no porque a más capas la red sobreaprenda sino porque cuando tú le añades más capas tu error aumenta; empieza a aumentar la tasa de error de la red neuronal y dices: ostras, empieza a fallar y esto era un problemón y a unos chinos, porque esta red neuronal es china. Se les ocurrió una maravillosa idea y es, vale, la solución que queremos observar; que nosotros queremos obtener es igual a los restos, digo no, los restos de la observación, o sea, el error de nuestra observación sería igual a la solución que nosotros…