Búsqueda · 33 momentos en 21 episodios
Sara RobiscoJosé EdelsteinFrancis VillatoroHéctor SocasGastón Giribetdeepseek basado en open sourcemodelos lenguaje papers publicadosoptimización deepseek carreraeficiencia algoritmos informática villatorométodos optimización desarrollo softwarerecursos máquina desarrollo softwarerestricciones exportación chinahardware inteligencia artificial chinaoptimización software años 80 y 90google tpus optimización hardwareprecisión coma flotante bitsFrancis VillatoroChinaSara RobiscoInteligencia ArtificialSoftwareAños 80Años 90IngenieríaPlasmaNVIDIAHéctor SocasGoogleTPUsDeepSeek
Métodos optimización desarrollo software
Con
0:000:301:001:302:002:303:11
Sara Robisco continúa la conversación sobre DeepSeek, un modelo de lenguaje originario de China, mencionando cómo Francis Villatoro seguramente coincidirá con la importancia de la eficiencia de algoritmos y métodos de optimización en informática.
…simple como un modelete, como una red de citar neuronal, una arquitectura y tira, no, es un poquito más complejo Entonces, ¿qué han hecho? ¿Por qué ahora ha salido? Pues esto es un poco la fuerza y tenemos que insistir en esto, la fuerza y la ventaja de tener Modelos open source porque esta gente no ha partido de cero. En DeepSync no sale de cero, lo que han hecho es que se han basado en más modelos que han ido saliendo en papers que se han publicado, en otros modelos de código abierto y ellos han estado mirando, comparando y en base a esto han generado su propio modelo al cual han aplicado optimización, lo que en la carrera. De informática, Francis, seguro que coincide, que se da en los primeros años: que es eficiencia de algoritmos, métodos de optimización, todo esto que es tan importante y que en las últimas décadas se nos ha olvidado. En las últimas décadas, por desgracia, en el desarrollo de software intentamos gastar todo lo que dé la máquina; vamos a aprovechar todos los recursos de la máquina y eso es un error. El problema que tiene China es que tiene un problema. De control de exportaciones, este tema de control de exportaciones lo que hace es que las empresas chinas no pueden adquirir los últimos modelos de hardware para desarrollar inteligencia artificial. ¿Esto qué propicia? Que hagas lo que puedes con lo que tienes. ¿Esto a qué se parece? A lo que se hacía en los años 80 y 90, que es cuando más auge teníamos en la optimización de software, a nivel de software. pero esto no es nada nuevo, ya Google hizo una optimización de sus sistemas a nivel de hardware desarrollando sus TPUs en 2016 que siguen publicándolas y siguen usándolas entonces algo mega novedoso no es pero está muy bien, entonces ¿qué mejoras, qué eficiencia han hecho? vamos por partes, la primera es que han disminuido un poquito la precisión, los modelos actuales estaban usando números en coma flotante con una precisión de 32 bits para coma flotante y ellos dicen bueno vamos a usar 8 bits, tampoco pierdes tanto en comparación con lo que ahorras, entonces esto en que repercute en un ahorro de memoria RAM bastante grande, bien, luego los índices clave valor en los que se basa para hacer inferencias los han comprimido, han llegado a alcanzar un 93% de radio de compresión reduciendo el uso de memoria virtual, vale, más eficiente, luego en lugar de ir prediciendo como hace ChattGPT,…
Significado #1 · Palabras #1
Sara Robisco continúa la conversación sobre DeepSeek, un modelo de lenguaje originario de China, mencionando cómo Francis Villatoro seguramente coincidirá con la importancia de la eficiencia de algoritmos y métodos de optimización en informática.
Habla: Sara RobiscoSignificado #1 · Palabras #1deepseek basado en open sourcemodelos lenguaje papers publicadosoptimización deepseek carreraeficiencia algoritmos informática villatorométodos optimización desarrollo softwarerecursos máquina desarrollo softwarerestricciones exportación chinahardware inteligencia artificial chinaoptimización software años 80 y 90google tpus optimización hardwareprecisión coma flotante bits…simple como un modelete, como una red de citar neuronal, una arquitectura y tira, no, es un poquito más complejo Entonces, ¿qué han hecho? ¿Por qué ahora ha salido? Pues esto es un poco la fuerza y tenemos que insistir en esto, la fuerza y la ventaja de tener Modelos open source porque esta gente no ha partido de cero. En DeepSync no sale de cero, lo que han hecho es que se han basado en más modelos que han ido saliendo en papers que se han publicado, en otros modelos de código abierto y ellos han estado mirando, comparando y en base a esto han generado su propio modelo al cual han aplicado optimización, lo que en la carrera. De informática, Francis, seguro que coincide, que se da en los primeros años: que es eficiencia de algoritmos, métodos de optimización, todo esto que es tan importante y que en las últimas décadas se nos ha olvidado. En las últimas décadas, por desgracia, en el desarrollo de software intentamos gastar todo lo que dé la máquina; vamos a aprovechar todos los recursos de la máquina y eso es un error. El problema que tiene China es que tiene un problema. De control de exportaciones, este tema de control de exportaciones lo que hace es que las empresas chinas no pueden adquirir los últimos modelos de hardware para desarrollar inteligencia artificial. ¿Esto qué propicia? Que hagas lo que puedes con lo que tienes. ¿Esto a qué se parece? A lo que se hacía en los años 80 y 90, que es cuando más auge teníamos en la optimización de software, a nivel de software. pero esto no es nada nuevo, ya Google hizo una optimización de sus sistemas a nivel de hardware desarrollando sus TPUs en 2016 que siguen publicándolas y siguen usándolas entonces algo mega novedoso no es pero está muy bien, entonces ¿qué mejoras, qué eficiencia han hecho? vamos por partes, la primera es que han disminuido un poquito la precisión, los modelos actuales estaban usando números en coma flotante con una precisión de 32 bits para coma flotante y ellos dicen bueno vamos a usar 8 bits, tampoco pierdes tanto en comparación con lo que ahorras, entonces esto en que repercute en un ahorro de memoria RAM bastante grande, bien, luego los índices clave valor en los que se basa para hacer inferencias los han comprimido, han llegado a alcanzar un 93% de radio de compresión reduciendo el uso de memoria virtual, vale, más eficiente, luego en lugar de ir prediciendo como hace ChattGPT,…
Héctor Socas explica cómo las restricciones tecnológicas actuales impiden que empresas chinas utilicen los procesadores más avanzados de NVIDIA para inteligencia artificial.
Habla: Héctor SocasPalabras #6restricciones tecnológicas nvidia chinaprocesadores nvidia para inteligencia artificialempresas chinas tecnología menos avanzadaalgoritmos optimizados sara…teníamos problemas para colaborar con gente en China y había que mandarle una cámara; uno se que había que estar pidiendo permisos especiales y demostrar que eso no era tecnología sensible que pudiera el gobierno chino hacerse con conocimiento, bueno, en fin. Entonces, ahora mismo la cosa está mucho peor y hay restricciones tecnológicas que afectan, por ejemplo, a los últimos procesadores de NVIDIA más avanzados para hacer computación en inteligencia artificial; no se pueden exportar a China. Entonces, el hecho de que una empresa china esté haciendo estos desarrollos los tiene que hacer con tecnología menos avanzada, tecnología más antigua, como dice Sara y por eso pues quizás han tenido que optimizar esos algoritmos. Es lo que ellos dicen, porque claro, eso habrá que verlo; porque uno no sabe, si bien es público los pesos y el software, uno no sabe cómo lo han entrenado, que al final es la clave en todo esto. OpenAI al principio era todo código abierto y luego lo fueron cerrando, pero los modelos de ChatGPT hasta 3 era todo abierto, creo que 3.5 empezaba a ser parcialmente; el 3.5 algunas cosas eran abiertas y otras no, que es un poco la situación en la que está…
Tras una conversación sobre la financiación de proyectos científicos y la capacidad de innovación con recursos limitados, Francis Villatoro comenta sobre la necesidad de optimizar los procesos en el desarrollo de reactores.
Habla: Francis VillatoroSignificado #2 · Palabras #7optimiza procesos desarrollo reactoresreactores para estudiar plasmasingeniería optimización proyectos científicosfrancis villatoro innovación recursos limitados…euros adicionales. Pues es mal momento para sacar esa conversación porque ahora está todo el mundo diciendo que total no se falta dinero porque los chinos han demostrado que con pocos recursos y un poco de imaginación se pueden hacer las cosas igual de bien, Así que ahora ya todo el que pida dinero se dirá: no, no, no. Aplica imaginación y tira para adelante; optimiza, que eso es muy ingeniería. Optimiza, pero bueno, ya os digo, este tipo de reactores son eso, son muy interesantes para estudiar plasmas, pero lo que tienen que saber. Nuestros oyentes es primero que esto es un... Bueno, es el encendido del reactor, ¿vale? Ahora ya pueden empezar a hacer física experimental, y claro, es una muy buena noticia. Que desde España, este es un reactor que tenemos en Sevilla, pero también tenemos…