Búsqueda · 29 momentos en 13 episodios
Juan Carlos GilSilvana TapiaLuisa AchaerandioGastón GiribetFrancis VillatoroHéctor SocasIgnacio Crespogasto energético sistemas neuronalestpu y gpu para pongaprendizaje más rápido en tpusTPUsGPUsPongFrancis VillatoroJuan Carlos GilCPUsHéctor Socas
Aprendizaje más rápido en TPUs
Ep549: Agujeros Negros; IAlucinaciones; Engranajes; Materia Oscura; Doom Neuronal
12 de marzo de 20263 momentos
Con
0:000:301:001:302:002:303:003:303:45
Francis Villatoro y Juan Carlos Gil discuten cómo se compara el gasto energético de los sistemas neuronales cultivados con el de procesadores convencionales como TPUs o GPUs.
…electrodos como en 3D, que es el tema en el que están trabajando ahora mucho, de quedar esas bolas, bolas de neuronas con astrocitos para que las alimenten y por fuera en la superficie con electrodos hacer pues toda la entrada y salida con esas bolas, ¿no? Pero no comparan el gasto energético no lo hacen por teraflop, ¿no? Porque si no, no, no, no, no, lo hacen por esto me ha gastado tanto y esto tanto para jugar al Pong, por aprendizaje, ¿vale? Dicen que esto aprende mucho más rápido, pero claro es que a las TPUs o a las GPUs les dan de verdad un juego del Pong, no les dan una. chorrada como esta, que esto es una estantería, ¿vale? El juego que han metido es una versión súper simplificada, muy de juguete, ¿vale? O sea, que se programa en cuatro líneas, bueno, en cuatro líneas de código no, pero en muy poquitas líneas de código un…
Significado #1 · Palabras #1
Francis Villatoro explica cómo un sistema neuronal cultivado, mantenido con nutrientes básicos, resulta energéticamente más eficiente que ejecutar software en procesadores como CPUs, GPUs o TPUs.
Habla: Francis VillatoroSignificado #4 · Palabras #2sistema neuronal con nutrientes básicosaprendizaje automático refuerzo francis villatorocostes energéticos versus tpusartículo 2024 comparan costes energía…están los electrodos y que, bueno, para el vídeo han hecho que emita las imágenes del juego Doom mientras lo va jugando. Pero bueno, no son las cosas de las empresas comerciales. Entonces es un trabajo muy interesante porque lo que nos abre un poco la puerta. Fijaros que estamos diciendo aprendizaje automático, bueno, eso que entre comillas, pero bueno, aprendizaje automático con refuerzo en un sistema neuronal biológico que yo mantengo básicamente echando alimentos, echando azúcar, echan ahí unas sustancias para que se queden vivas las células que están ahí, ¿no? Eso energéticamente es mucho más barato que tener una nave de CPUs o de GPUs o de TPUs que me está ejecutando mi software. Entonces tienen un artículo 2024 en el que comparan los costes, los costes en energía de su sistema biológico, que Digo hace una chorrada, porque esto, la verdad es que es una chorrada, porque estamos hablando de ocho entradas y que tú la puedes interpretar casi como entradas binarias o poco más, tienen muy poca codificación. Y una consideración de entero corto, un poco…
Francis Villatoro y Juan Carlos Gil discuten cómo se compara el gasto energético de los sistemas neuronales cultivados con el de procesadores convencionales como TPUs o GPUs.
Habla: Francis VillatoroSignificado #1 · Palabras #1gasto energético sistemas neuronalestpu y gpu para pongaprendizaje más rápido en tpus…electrodos como en 3D, que es el tema en el que están trabajando ahora mucho, de quedar esas bolas, bolas de neuronas con astrocitos para que las alimenten y por fuera en la superficie con electrodos hacer pues toda la entrada y salida con esas bolas, ¿no? Pero no comparan el gasto energético no lo hacen por teraflop, ¿no? Porque si no, no, no, no, no, lo hacen por esto me ha gastado tanto y esto tanto para jugar al Pong, por aprendizaje, ¿vale? Dicen que esto aprende mucho más rápido, pero claro es que a las TPUs o a las GPUs les dan de verdad un juego del Pong, no les dan una. chorrada como esta, que esto es una estantería, ¿vale? El juego que han metido es una versión súper simplificada, muy de juguete, ¿vale? O sea, que se programa en cuatro líneas, bueno, en cuatro líneas de código no, pero en muy poquitas líneas de código un…
Héctor Socas explica cómo los investigadores han utilizado la ablación para congelar el aprendizaje de las redes neuronales artificiales y evaluar si la mejora en el rendimiento del sistema híbrido es significativa.
Habla: Héctor SocasSignificado #9ablación para congelar redes neuronalesrendimiento del sistema híbridomejora estadísticamente significativaaprendizaje de redes artificiales…¿cuál es el problema aquí? Que no sabemos si esa hipotética mejora que ellos dicen que han visto que ha ido aprendiendo a jugar no sabemos cuál de las tres o las tres es la que ha estado aprendiendo. Evidentemente ellos no son tontos son conscientes de esto y Lo que han hecho es una ablación. Es decir, han probado a congelar el aprendizaje de las otras de forma que se mantiene, ya no aprenden más las artificiales y ven que aún así sigue habiendo mejora en el rendimiento, pero no sabemos cuánto es esa mejora; puede que no sea estadísticamente significativa, puede que sea marginal, hombre, algo aprenderán. Son neuronas, de alguna forma; si realmente tienes un sistema de estímulo, respuesta, recompensa, penalización, algo aprenderán, pero es significativo; no sé, yo digo, a mí lo que se ve en el vídeo no me da la impresión de algo impresionante, de decir: oye,…