Búsqueda · 29 momentos en 12 episodios
Sara RobiscoJosé EdelsteinFrancis VillatoroHéctor SocasGastón Giribetchatgpt usa tpus no gpustpus chatgpt menor consumo eléctricomodelos chatgpt generan menos calorsarah robisco modelos chatgptmodelos código abierto experimentar sara robiscobenchmarks bancos de pruebas resultadosChatGPTTPUGPUSara RobiscoDeepSeekChinaTPUsGPUsLlamaFacebookMetaSaraDeep SeekHéctor SocasOpenAIChar G.P.T.
Sarah robisco modelos ChatGPT
Con
0:000:301:001:302:002:303:11
Sara Robisco explica que los modelos ChatGPT utilizan TPUs en lugar de GPUs, lo que implica un menor consumo eléctrico y una menor generación de calor.
…pero si tenemos en cuenta que estas horas de entrenamiento han sido con GPUs más baratas y de menor consumo que el último modelo que están usando otra gente, pues bueno, sí que parece tener un ahorro, pero también os digo: estamos comparando GPU contra GPU. que pasa que muchos de estos modelos ChatGPT usa TPUs, no usa GPUs, entonces que consumen menos, consumen menos electricidad, se calientan menos entonces también esas cosas tenemos que tenerlas en cuenta, está muy bien pero también tiene cositas que tenemos que tener muy en cuenta para darnos cuenta un poco de la realidad y la situación. Esto, sí, os digo que aunque diga estas cosas que sí es muy interesante y a mí me parece que es un avance y que tener más modelos de código abierto que podamos probar y jugar está interesante. Bueno, ahora vamos a hablar un poco de los resultados: le han puesto a trabajar en distintos benchmarks, que son bancos de pruebas ¿Y qué nos da? Deepseek solo habla inglés y chino, ¿vale? Y en inglés y chino se defiende muy bien; está al nivel de un chat GPT. ¿Por qué es recomendable, ellos os recomiendan, que hables con él en inglés o chino? Porque en otros tú le puedes hablar en español, sí, en…
Significado #1 · Palabras #2
Héctor Socas comenta sobre la proliferación de modelos de lenguaje adaptados para uso práctico, destacando el predominio actual de ChatGPT pero reconociendo la existencia de otros modelos igualmente competentes.
Habla: Héctor SocasSignificado #7 · Palabras #6chatgpt predominio actualmodelos lenguaje uso prácticodeep seek chinagrandes modelos lenguaje nivel…está todo el mundo probando; los servidores están petados ahí, pero más o menos, va sacando la cabeza fuera del agua y poco a poco va dando abasto en algunas cosas y podemos estar probando un nuevo actor en este escenario de los grandes modelos de lenguaje. y sobre todo de los adaptados para el uso práctico, los que hemos venido usando yo creo todo el mundo, últimamente con sobre todo ChatGPT, también en menor medida otros muchos que hay que siempre nos olvidamos, parece que siempre que solo está ChatGPT, pero hay muchos otros con muy buen nivel, es realmente asombroso lo que pueden hacer hoy en día estos grandes modelos de lenguaje y ahora ha irrumpido con fuerza otro, que Sara nos va a hablar de Deep Seek, que además viene de China, con todo lo que eso lo involucra. Sí, la verdad es que tenemos... Empieza bien el año de la serpiente. Empiezan los chinos, empiezan sembrados, empiezan a tope. Sí, tenemos este nuevo modelo sobre el que habéis oído muchísimas noticias, cosas muy tremendas y claro aquí estamos para separar la…
Sara Robisco explica las características del modelo DeepSeek, originario de China, comparándolo con sistemas expertos de la década de 1990.
Habla: Sara RobiscoPalabras #3deepseek modelo lenguaje chinaevolución sistemas expertos década 90entrenamiento deepseek información genéricamodelo deepseek open sourcedeepseek comparativa sistemas expertospesos de entrenamiento deepseek liberadosconjunto datos deepseek no compartido…empiezan sembrados, empiezan a tope. Sí, tenemos este nuevo modelo sobre el que habéis oído muchísimas noticias, cosas muy tremendas y claro aquí estamos para separar la señal de ruido, el grano de la paja, entonces vamos a ver un poquito qué es DeepSeek. DeepSeek es un nuevo modelo de lenguaje, rollo Llama, Chat GPT, que para mí es una evolución que nosotros teníamos en los años 90, llamados sistemas expertos; solo que en el caso de estos modelos suelen ser sistemas expertos en nada porque se nutren, se entrenan con una información muy genérica. Deepseek es un modelo open source, no es un modelo cerrado como por ejemplo ChatGPT y esto es bastante positivo. Ellos han liberado; se puede descargar de arquitectura, tienes el modelo liberado. Tienes los pesos de entrenamiento, también los han compartido; lo único que no han compartido es el conjunto de datos de entrenamiento y test. Y eso se guardan para ellos, pero lo que es arquitectura, todo lo que el software lo tienen Más que un modelo, tenemos que hablar de un framework, porque ya es un sistema bastante complejo ya que lo que tú te descargas para investigación, lo que nos podemos…
Sara Robisco explica cómo DeepSeek, un modelo de lenguaje originario de China, no se desarrolló desde cero, sino basándose en modelos open source y papers publicados.
Habla: Sara RobiscoPalabras #14deepseek basado en open sourcemodelos lenguaje papers publicadosoptimización deepseek carrera…simple como un modelete, como una red de citar neuronal, una arquitectura y tira, no, es un poquito más complejo Entonces, ¿qué han hecho? ¿Por qué ahora ha salido? Pues esto es un poco la fuerza y tenemos que insistir en esto, la fuerza y la ventaja de tener Modelos open source porque esta gente no ha partido de cero. En DeepSync no sale de cero, lo que han hecho es que se han basado en más modelos que han ido saliendo en papers que se han publicado, en otros modelos de código abierto y ellos han estado mirando, comparando y en base a esto han generado su propio modelo al cual han aplicado optimización, lo que en la carrera. De informática, Francis, seguro que coincide, que se da en los primeros años: que es eficiencia de algoritmos, métodos de optimización, todo esto que es tan importante y que en las últimas décadas se nos ha olvidado. En las últimas décadas, por desgracia, en…
Sara Robisco explica cómo DeepSeek ha comprimido los índices clave para realizar inferencias, logrando una reducción del 93% en el uso de memoria virtual y mejorando la eficiencia. Además, describe un método diferente al utilizado por ChatGPT: predecir tokens (palabras) uno a la vez.
Habla: Sara RobiscoPalabras #15deepseek compresión índices claveinferencias reducción memoria virtualredes recurrentes trabajan textos…usando números en coma flotante con una precisión de 32 bits para coma flotante y ellos dicen bueno vamos a usar 8 bits, tampoco pierdes tanto en comparación con lo que ahorras, entonces esto en que repercute en un ahorro de memoria RAM bastante grande, bien, luego los índices clave valor en los que se basa para hacer inferencias los han comprimido, han llegado a alcanzar un 93% de radio de compresión reduciendo el uso de memoria virtual, vale, más eficiente, luego en lugar de ir prediciendo como hace ChattGPT, como hacen todos los modelos actuales que van prediciendo token a token, a ver nosotros cuando hablamos de token es Estas redes recurrentes que trabajan con textos les van entrando tokens, sería un poco las palabras, van entrando palabras y ellos predicen cuál sería la siguiente palabra a decir Entonces en función del texto de cómo va evolucionando van prediciendo palabra a palabra, Bueno pues este sistema no predice palabra a palabra sino que te crea un chorro de palabras varias juntas. ¿Esto qué hace? Pues se aumenta mucho la velocidad de inferencia. A la hora de darte una respuesta es más rápido y esto es una ventaja muy buena porque…
Sara Robisco explica que los modelos ChatGPT utilizan TPUs en lugar de GPUs, lo que implica un menor consumo eléctrico y una menor generación de calor.
Habla: Sara RobiscoSignificado #1 · Palabras #2chatgpt usa tpus no gpustpus chatgpt menor consumo eléctricomodelos chatgpt generan menos calorsarah robisco modelos chatgptmodelos código abierto experimentar sara robiscobenchmarks bancos de pruebas resultados…pero si tenemos en cuenta que estas horas de entrenamiento han sido con GPUs más baratas y de menor consumo que el último modelo que están usando otra gente, pues bueno, sí que parece tener un ahorro, pero también os digo: estamos comparando GPU contra GPU. que pasa que muchos de estos modelos ChatGPT usa TPUs, no usa GPUs, entonces que consumen menos, consumen menos electricidad, se calientan menos entonces también esas cosas tenemos que tenerlas en cuenta, está muy bien pero también tiene cositas que tenemos que tener muy en cuenta para darnos cuenta un poco de la realidad y la situación. Esto, sí, os digo que aunque diga estas cosas que sí es muy interesante y a mí me parece que es un avance y que tener más modelos de código abierto que podamos probar y jugar está interesante. Bueno, ahora vamos a hablar un poco de los resultados: le han puesto a trabajar en distintos benchmarks, que son bancos de pruebas ¿Y qué nos da? Deepseek solo habla inglés y chino, ¿vale? Y en inglés y chino se defiende muy bien; está al nivel de un chat GPT. ¿Por qué es recomendable, ellos os recomiendan, que hables con él en inglés o chino? Porque en otros tú le puedes hablar en español, sí, en…
Héctor Socas interrumpe a Sara Robisco para comentar su experiencia con el modelo R1 de DeepSeek, destacando que este se comunica fluidamente tanto en español como en inglés.
Habla: Héctor SocasSignificado #9modelo r1 de deepseek españolconversaciones largas modelo deepseekdeepseek habla inglés y chino…él en inglés o chino? Porque en otros tú le puedes hablar en español, sí, en castellano, pero se traba. Va a tener problemas de liarse entre lenguajes, o sea, no te extrañe que tú estés hablando en castellano y el tío mezcle palabras en inglés y castellano. Perdona Sara, será a lo mejor modelos anteriores; yo he estado usando el R1 que es el más novedoso y habla perfectamente español y en inglés sin ningún problema. Sí, inglés o habla. He tenido conversaciones largas y no tiene problema. Sí, habla inglés y chino, pero en las recomendaciones te piden que procures hablar en inglés y chino porque sí que hace saltos. Yo lo he estado usando en español y no da ningún problema. Yo lo que pone en el documento técnico, que ellos dicen de V1, vamos, de este. Claro, lo que pasa es que han sacado varios modelos muy rápidamente. Yo estoy usando el último que está público, que es el R1. Eso, R1. Es posible…
Sara Robisco explica la importancia de tener modelos de código abierto como alternativa a sistemas cerrados como ChatGPT, destacando que esto refleja positivamente sobre el desarrollo tecnológico en China.
Habla: Sara RobiscoSignificado #2 · Palabras #1deepseek sistema experto programarrendimiento deepseek comparado chatgpt gráficasentrenamiento datos específicos deepseekchatgpt modelo cerradoalternativa código abierto chinadesarrollo tecnológico en china…en el documento técnico, que tú le pidas que te dé las respuestas paso a paso explicándote por qué ha llegado a una conclusión y parece que lo hace francamente bien. Entonces, ¿por qué se da tan bien programar? ¿Por qué se da tan bien la matemática? porque ha sido entrenado con este tipo de datos, entonces a mí me parece útil porque a la hora de tener se parece más a lo que yo entiendo como un sistema experto, si tienes un sistema que has entrenado que sabe programar muy bien por ejemplo para ayudarte con código sería un sistema experto genial, entonces la verdad es que me parece interesante en este sentido se defiende francamente a niveles casi de prácticamente como ChatGPT como el último y tiene en las gráficas la verdad es que se le ve bien lo que pasa es que el tema es ya os digo coger un poquito con pinzas porque porque Eso, porque esto hasta que no lo reproduzcan, pero como todo o sea ChatGPT es un modelo cerrado. No tenemos tampoco nada con que comparar, pero sí que me parece importante eso: el que tenemos un modelo de código abierto ahora mismo disponible, que eso también dice mucho a favor de los chinos. Yo quiero hacer un par de comentarios porque he visto en medios de comunicación y por ahí que como además todo lo que nos llega está tan politizado que hay mucha controversia sobre que China ha hecho o ha dejado de hacer y tal. Y hay que tener en cuenta que…
Sara Robisco explica que el modelo Llama de Meta, competidor de ChatGPT, es un proyecto de código abierto.
Habla: Sara RobiscoPalabras #4llama proyecto código abierto facebooktarjeta quietito vía libre llama…por ejemplo ha sido muy emblemático como ha terminado por abrazar, de haber pasado a ser el archirrival del mundo open source de Linux. Ahora Microsoft usa Linux en sus servidores internamente y es uno de los grandes desarrolladores del open source de Linux. Sí, para haceros una idea, Llama, que es el modelo conversacional de chat GPT de Facebook, de Meta, es open source. No te meta con él. Exacto, Llama es open source. La tarjeta, dijimos que me iba a estar quietito. No tengo tarjetas, tienes vía libre pues eso, llama a. eso, pensos, y es una empresa la que está detrás, una empresa como meta, o sea que no tenemos que pensar que son un puñado de hippies Exacto, hay una implicación geopolítica muy importante que es el hecho de que, o sea, el hecho de que esta empresa esté en…
Héctor Socas explica cómo OpenAI inicialmente fue de código abierto, pero posteriormente cerró su acceso, y comenta sobre la evolución del modelo ChatGPT, donde las versiones hasta la 3 eran completamente abiertas.
Habla: Héctor SocasSignificado #16 · Palabras #7openai inicialmente código abiertochatgpt versiones hasta 3 abiertaschatgpt 3 5 parcialmente abierto…y por eso pues quizás han tenido que optimizar esos algoritmos. Es lo que ellos dicen, porque claro, eso habrá que verlo; porque uno no sabe, si bien es público los pesos y el software, uno no sabe cómo lo han entrenado, que al final es la clave en todo esto. OpenAI al principio era todo código abierto y luego lo fueron cerrando, pero los modelos de ChatGPT hasta 3 era todo abierto, creo que 3.5 empezaba a ser parcialmente; el 3.5 algunas cosas eran abiertas y otras no, que es un poco la situación en la que está DeepSeek. entonces claro, hay que verlo, hay gente que dice, hay un rumor por ahí en una leyenda urbana de que OpenAI le ha puesto una demanda porque dice que les han copiado, eso no es cierto lo que si es cierto que se ha dicho es que Microsoft en particular, que es…