38 episodios
00:35:22Habla: Sara Robisco
↗

Búsqueda · 34 momentos en 27 episodios

Sara RobiscoJosé EdelsteinFrancis VillatoroHéctor SocasGastón Giribeteficiencia algoritmos informática villatorométodos optimización desarrollo softwarerecursos máquina desarrollo softwarerestricciones exportación chinahardware inteligencia artificial chinaoptimización software años 80 y 90google tpus optimización hardwareprecisión coma flotante bitsChinaInteligencia ArtificialSoftwareAños 80Años 90Sara RobiscoFrancis VillatoroIngenieríaPlasmaGoogleTPUs

Optimización software años 80 y 90

Ep497: Deep Seek; Einstein; Fusión; Quiralidad Cósmica

30 de enero de 2025
2 momentos
Con
0:000:301:001:302:002:303:11

Sara Robisco explica cómo las restricciones de exportación en China obligan a las empresas locales a innovar con los recursos disponibles.

…se han basado en más modelos que han ido saliendo en papers que se han publicado, en otros modelos de código abierto y ellos han estado mirando, comparando y en base a esto han generado su propio modelo al cual han aplicado optimización, lo que en la carrera. De informática, Francis, seguro que coincide, que se da en los primeros años: que es eficiencia de algoritmos, métodos de optimización, todo esto que es tan importante y que en las últimas décadas se nos ha olvidado. En las últimas décadas, por desgracia, en el desarrollo de software intentamos gastar todo lo que dé la máquina; vamos a aprovechar todos los recursos de la máquina y eso es un error. El problema que tiene China es que tiene un problema. De control de exportaciones, este tema de control de exportaciones lo que hace es que las empresas chinas no pueden adquirir los últimos modelos de hardware para desarrollar inteligencia artificial. ¿Esto qué propicia? Que hagas lo que puedes con lo que tienes. ¿Esto a qué se parece? A lo que se hacía en los años 80 y 90, que es cuando más auge teníamos en la optimización de software, a nivel de software. pero esto no es nada nuevo, ya Google hizo una optimización de sus sistemas a nivel de hardware desarrollando sus TPUs en 2016 que siguen publicándolas y siguen usándolas entonces algo mega novedoso no es pero está muy bien, entonces ¿qué mejoras, qué eficiencia han hecho? vamos por partes, la primera es que han disminuido un poquito la precisión, los modelos actuales estaban usando números en coma flotante con una precisión de 32 bits para coma flotante y ellos dicen bueno vamos a usar 8 bits, tampoco pierdes tanto en comparación con lo que ahorras, entonces esto en que repercute en un ahorro de memoria RAM bastante grande, bien, luego los índices clave valor en los que se basa para hacer inferencias los han comprimido, han llegado a alcanzar un 93% de radio de compresión reduciendo el uso de memoria virtual, vale, más eficiente, luego en lugar de ir prediciendo como hace ChattGPT,…
Significado #1 · Palabras #1