Búsqueda · 26 momentos en 17 episodios
Sara RobiscoJosé EdelsteinFrancis VillatoroHéctor SocasGastón Giribetdeepseek aplica divide vencerásmodelo gigantesco deepseek optimizadopequeños modelos trabajando juntos deepseekdeepseek y técnica divide vencerásahorro costes modelos pequeñosnvidia h800 en deepseekcautela con informe técnico deepseekreproducir resultados deepseek grupos investigaciónentrenamiento pre entrenamiento extensión post2048 gpus h800 paralelo2664000 horas gpu preentrenamientoH800Sara RobiscoDeepSeekChinaChatGPTGPTHéctor SocasCanariasHigh FlyerMicrosoftLinuxLlamaOpenAINVIDIA H800GPUCoffee Break: Señal y RuidoPDFFrancis VillatoroArchiveSam Altman
Reproducir resultados DeepSeek grupos investigación
Con
0:000:301:001:302:002:303:11
Sara Robisco explica que es necesario esperar a que otros grupos de investigación reproduzcan los resultados obtenidos con DeepSeek, un modelo de lenguaje desarrollado en China, antes de considerarlos definitivos.
…sino que te crea un chorro de palabras varias juntas. ¿Esto qué hace? Pues se aumenta mucho la velocidad de inferencia. A la hora de darte una respuesta es más rápido y esto es una ventaja muy buena porque claro, a más velocidad con menos recursos vas bien. Y luego han aplicado una cosa que nos gusta mucho en informática: que es el sistema de dividir y vencerás. ¿En qué consiste? Divide y vencerás es una técnica que usamos mucho; es cuando tienes un problema grande, algo que es poco abarcable, lo dividimos en problemas más pequeños, que son fácilmente abarcables, y así resolvemos antes los problemas. Ellos han hecho lo mismo: en lugar de usar un modelo gigantesco, monolítico, lo que han hecho es que lo han dividido en pequeños modelos más pequeñitos y los han puesto a trabajar juntos. ¿En qué ganamos con esto? Fácil, estos pequeños modelitos se entrenan con menos necesidad de potencia y menos GPU, así que es un ahorro de costes bastante majete. También os digo, hay que ser un poquito escépticos; ellos nos comentan cosas interesantes en su artículo, como por ejemplo que usan 2048 GPUs NVIDIA H800, que no son lo último pero bueno, no están mal, pero tienen bastante buen resultado. Si lo habéis conseguido probar este modelo, oye, responde muy bien. Entonces, mi duda es realmente han usado estas GPUs este paper; bueno, ellos lo ponen dar un informe técnico bastante interesante, pero lo que tenemos es que ser cautelosos ahora. Y esperar. ¿Esperar a qué? A que otros grupos de investigación repitan, reproduzcan esto, porque si lo han conseguido esto tiene que ser reproducible. Así que por ahora bien, pero vamos a dejar un poquito como todo en cuarentena. Para que os hagáis una idea ellos también dividen el entrenamiento, no es entrenamiento test y producción sino hacen un pre-entrenamiento, luego una extensión de contexto y un post-entrenamiento así dividen el entrenamiento en tres pequeñas partes. Para esto usan 2.048 GPUs trabajando en paralelo de este tipo, unas H800. En el preentrenamiento ha tardado menos de dos meses con 2.664.000 horas de GPUs. En la extensión de la longitud del contexto para mejorar su predicción, 119.000 horas de GPU, estamos hablando de que se ha tirado para desarrollar este modelo y tenerlo funcionando necesita mucho tiempo. Y luego 5000 horas de GPU de postentrenamiento, lo cual es bastante, pero si tenemos en cuenta que estas horas de entrenamiento han sido con GPUs más baratas y de menor consumo que el último modelo que están usando otra gente, pues bueno, sí que parece tener…
Significado #1 · Palabras #1
Sara Robisco explica que DeepSeek no es simplemente un modelo de lenguaje, sino un framework complejo con redes neuronales y software descargable para investigación y entrenamiento.
Habla: Sara RobiscoSignificado #8 · Palabras #3modelo lenguaje deepseek chinanoticias impactantes deepseekseparar señal ruido deepseekdeepseek modelo lenguaje chinaevolución sistemas expertos década 90entrenamiento deepseek información genéricamodelo deepseek open sourcedeepseek comparativa sistemas expertospesos de entrenamiento deepseek liberadosconjunto datos deepseek no compartidodeepseek framework redes neuronalessoftware descargable investigación entrenamientoredes neuronales reproducir sistema deepseekarquitectura deepseek no es simpledeepseek basado en open sourcemodelos lenguaje papers publicadosoptimización deepseek carrera…muchos otros con muy buen nivel, es realmente asombroso lo que pueden hacer hoy en día estos grandes modelos de lenguaje y ahora ha irrumpido con fuerza otro, que Sara nos va a hablar de Deep Seek, que además viene de China, con todo lo que eso lo involucra. Sí, la verdad es que tenemos... Empieza bien el año de la serpiente. Empiezan los chinos, empiezan sembrados, empiezan a tope. Sí, tenemos este nuevo modelo sobre el que habéis oído muchísimas noticias, cosas muy tremendas y claro aquí estamos para separar la señal de ruido, el grano de la paja, entonces vamos a ver un poquito qué es DeepSeek. DeepSeek es un nuevo modelo de lenguaje, rollo Llama, Chat GPT, que para mí es una evolución que nosotros teníamos en los años 90, llamados sistemas expertos; solo que en el caso de estos modelos suelen ser sistemas expertos en nada porque se nutren, se entrenan con una información muy genérica. Deepseek es un modelo open source, no es un modelo cerrado como por ejemplo ChatGPT y esto es bastante positivo. Ellos han liberado; se puede descargar de arquitectura, tienes el modelo liberado. Tienes los pesos de entrenamiento, también los han compartido; lo único que no han compartido es el conjunto de datos de entrenamiento y test. Y eso se guardan para ellos, pero lo que es arquitectura, todo lo que el software lo tienen Más que un modelo, tenemos que hablar de un framework, porque ya es un sistema bastante complejo ya que lo que tú te descargas para investigación, lo que nos podemos descargar si queremos jugar, si queremos entrenar otra red, si queremos reproducir lo que ellos han hecho te vas a descargar el sistema que han diseñado para entrenarlo, te vas a descargar las redes neuronales, todo entonces no es algo tan simple como un modelete, como una red de citar neuronal, una arquitectura y tira, no, es un poquito más complejo Entonces, ¿qué han hecho? ¿Por qué ahora ha salido? Pues esto es un poco la fuerza y tenemos que insistir en esto, la fuerza y la ventaja de tener Modelos open source porque esta gente no ha partido de cero. En DeepSync no sale de cero, lo que han hecho es que se han basado en más modelos que han ido saliendo en papers que se han publicado, en otros modelos de código abierto y ellos han estado mirando, comparando y en base a esto han generado su propio modelo al cual han aplicado optimización, lo que en la carrera. De informática, Francis, seguro que coincide, que se da en los primeros años: que es eficiencia de algoritmos, métodos de optimización, todo esto que es tan importante y que en las últimas décadas se nos ha olvidado. En las últimas décadas, por desgracia, en…
Sara Robisco explica que es necesario esperar a que otros grupos de investigación reproduzcan los resultados obtenidos con DeepSeek, un modelo de lenguaje desarrollado en China, antes de considerarlos definitivos.
Habla: Sara RobiscoSignificado #1 · Palabras #1deepseek aplica divide vencerásmodelo gigantesco deepseek optimizadopequeños modelos trabajando juntos deepseekdeepseek y técnica divide vencerásahorro costes modelos pequeñosnvidia h800 en deepseekcautela con informe técnico deepseekreproducir resultados deepseek grupos investigaciónentrenamiento pre entrenamiento extensión post2048 gpus h800 paralelo2664000 horas gpu preentrenamiento…sino que te crea un chorro de palabras varias juntas. ¿Esto qué hace? Pues se aumenta mucho la velocidad de inferencia. A la hora de darte una respuesta es más rápido y esto es una ventaja muy buena porque claro, a más velocidad con menos recursos vas bien. Y luego han aplicado una cosa que nos gusta mucho en informática: que es el sistema de dividir y vencerás. ¿En qué consiste? Divide y vencerás es una técnica que usamos mucho; es cuando tienes un problema grande, algo que es poco abarcable, lo dividimos en problemas más pequeños, que son fácilmente abarcables, y así resolvemos antes los problemas. Ellos han hecho lo mismo: en lugar de usar un modelo gigantesco, monolítico, lo que han hecho es que lo han dividido en pequeños modelos más pequeñitos y los han puesto a trabajar juntos. ¿En qué ganamos con esto? Fácil, estos pequeños modelitos se entrenan con menos necesidad de potencia y menos GPU, así que es un ahorro de costes bastante majete. También os digo, hay que ser un poquito escépticos; ellos nos comentan cosas interesantes en su artículo, como por ejemplo que usan 2048 GPUs NVIDIA H800, que no son lo último pero bueno, no están mal, pero tienen bastante buen resultado. Si lo habéis conseguido probar este modelo, oye, responde muy bien. Entonces, mi duda es realmente han usado estas GPUs este paper; bueno, ellos lo ponen dar un informe técnico bastante interesante, pero lo que tenemos es que ser cautelosos ahora. Y esperar. ¿Esperar a qué? A que otros grupos de investigación repitan, reproduzcan esto, porque si lo han conseguido esto tiene que ser reproducible. Así que por ahora bien, pero vamos a dejar un poquito como todo en cuarentena. Para que os hagáis una idea ellos también dividen el entrenamiento, no es entrenamiento test y producción sino hacen un pre-entrenamiento, luego una extensión de contexto y un post-entrenamiento así dividen el entrenamiento en tres pequeñas partes. Para esto usan 2.048 GPUs trabajando en paralelo de este tipo, unas H800. En el preentrenamiento ha tardado menos de dos meses con 2.664.000 horas de GPUs. En la extensión de la longitud del contexto para mejorar su predicción, 119.000 horas de GPU, estamos hablando de que se ha tirado para desarrollar este modelo y tenerlo funcionando necesita mucho tiempo. Y luego 5000 horas de GPU de postentrenamiento, lo cual es bastante, pero si tenemos en cuenta que estas horas de entrenamiento han sido con GPUs más baratas y de menor consumo que el último modelo que están usando otra gente, pues bueno, sí que parece tener…
Héctor Socas aclara que DeepSeek, un modelo de lenguaje, no fue creado por el gobierno chino, sino por una empresa llamada DeepSeek, respaldada por un fondo de inversión llamado High Flyer.
Habla: Héctor SocasPalabras #8modelo lenguaje deepseek high flyerfondo inversión high flyer chinamicrosoft archirrival linux open sourceopen source grandes empresas microsoft…que nos llega está tan politizado que hay mucha controversia sobre que China ha hecho o ha dejado de hacer y tal. Y hay que tener en cuenta que aquí, aunque realmente subyace detrás cierta estrategia geopolítica y lo demás, aquí estamos hablando de empresas. Exacto. Esto no es el gobierno chino quien ha creado este modelo de lenguaje. Es una empresa que se llama DeepSeek, que pertenece a un fondo de inversión que se llama High Flyer, que está radicado en China. Pero es una empresa china que pertenece a un fondo de inversión chino, tampoco es un grupo de chavales en su garaje. Exacto, tienen pasta. Claro, cuando uno dice open source puede llevarse a cierto engaño pensando en la comunidad Linux. Open source también se usa en grandes empresas y bueno, Microsoft por ejemplo ha sido muy emblemático como ha terminado por abrazar, de haber pasado a ser el archirrival del mundo open source de Linux. Ahora Microsoft usa Linux en sus servidores internamente y es uno de los grandes desarrolladores del open source de Linux. Sí, para haceros una idea, Llama, que es el modelo conversacional de chat GPT de Facebook, de Meta, es open source. No te meta con él. Exacto, Llama es open source. La tarjeta, dijimos que me iba a estar quietito. No tengo tarjetas, tienes vía libre pues eso,…
Héctor Socas aclara que Microsoft no ha demandado a DeepSeek por supuesta copia, sino que está investigando si se utilizó una técnica llamada 'destilación' para entrenar el modelo.
Habla: Héctor SocasSignificado #10 · Palabras #12destilación modelo deepseek microsoftentrenamiento con llama y char gptinvestigación microsoft sobre destilación…dice, hay un rumor por ahí en una leyenda urbana de que OpenAI le ha puesto una demanda porque dice que les han copiado, eso no es cierto lo que si es cierto que se ha dicho es que Microsoft en particular, que es uno de los grandes patrocinadores de OpenAI Microsoft está investigando; no es que hayan puesto una demanda, todavía no han llegado a ese punto, pero están investigando si se ha hecho una cosa que se llama destilar, que consiste en, digamos que tú haces preguntas y respuestas al otro modelo y usas eso para entrenar el tuyo. Sí, de hecho en el propio artículo lo dicen; ellos mismos dicen que han destilado, pero han destilado a Llama y hay otra que han destilado también; han destilado dos modelos de código abierto. Para esos códigos es legítimo, pero por ejemplo OpenIA no te permite hacer eso con ChatGPT, no está permitido por los términos de uso, entonces habrá que verlo, pero lo que está claro es que a mí me parece que es buenísimo, funciona maravillosamente bien, yo…
Héctor Socas explica cómo está experimentando con DeepSeek y destaca una característica importante: su API es compatible con la de GPT.
Habla: Héctor SocasSignificado #14 · Palabras #5api deepseek compatible con gptadaptación trivial programas gptpágina web deepseek caída mantenimientoregistro requerido para acceder deepseek…experimentos. O sea, una cosa es poner ahí una preguntita en un prompt, pero realmente para comparar modelos y tal, tienes que hacer experimentos. Claro, tiene que ser sistemático, tienes que repetirlo muchas veces, hacer estadística de los resultados y tal. Entonces eso lo hago con una API. Resulta que vi y me pareció chulísimo que DeepSeek, una de las cosas guays que ha hecho es que ha hecho su API compatible con la de GPT, o sea que si tú tienes un programa que use GPT en principio es trivial de adaptarlo para que use la de. DeepSeek. Entonces lo estuve intentando pero lleva desde ayer caída; bueno, caída está cerrada por mantenimiento la página, o sea ellos dicen que sí que tienen su app y que puedes acceder y tal y de hecho he estado mirando la documentación ya me he hecho el programa y todo pero tienes que digamos que apuntarte, tienes que registrarte que Te den la clave y tal, y esa página lleva desde ayer por la mañana en mantenimiento. Entonces, claro, yo me imagino que les debe haber venido una avalancha de peticiones de repente de todo el mundo. Esto se ha hecho tan viral que está todo el mundo queriendo…
Héctor Socas comparte su experiencia al probar DeepSeek y compara sus resultados con los de GPT, notando una preferencia personal por las respuestas de DeepSeek aunque reconoce que podría ser debido a un efecto de novedad.
Habla: Héctor SocasSignificado #7 · Palabras #6sesgo percepción en respuestas deepseek…que a mí me ha gustado es que se puede, te puedes descargar y puedes trabajar en el local. Sí, pero es un modelo más pequeño. Sí, claro, hombre, obviamente tiene que ser más pequeñito para que funcione en tu equipo. Y nada, y genial por lo demás, he probado a ponerle, por ejemplo, papers y que le hago las típicas preguntas y demás Y hay cosas hasta que me gustan más que cómo las hace GPT No sé si es por el efecto novedad, siempre tenemos este sesgo de cuando algo nuevo nos encandila más la novelería que decimos en Canarias, pero es que me resulta, me gustan más las respuestas, no sé si será percepción porque es subjetivo, hasta que no pueda experimentar pero me da la impresión de que las explicaciones que Te da, o sea con GPT tengo el problema de que si por ejemplo le doy un paper y le pregunto cosas, que es uno de los usos que le suelo dar, sobre todo en papers que son de un tema que no es el mío y no me entero de nada. Voy leyendo el paper y le voy haciendo…
Francis Villatoro señala una peculiaridad en los papers publicados en Archive donde DeepSeek aparece como primer autor, explicando que a menudo se incluye el nombre de la empresa seguido de las personas que trabajan allí.
Habla: Francis VillatoroSignificado #15deepseek primer autor en archivepapers deepseek empresa autorespdf deepseek solo empresa…que es que también hemos de pensar que son chinos y los chinos cuando publican papers, acordaos hace unos años que no se entendía y que costaba mucho, ¿verdad? y ahora la verdad es que yo creo que en formato, todo, yo creo que la he ayudado en la edición. Un pequeño detalle, creo que te equivocas: pone el nombre de la empresa y después pone las personas que pertenecen a la empresa como autores, pero es el clásico; después miras, por ejemplo, el PDF y te encuentras debajo del título solamente el nombre de la empresa. Ah, no es, vale, es que yo estoy viendo el... Título, nombre de la empresa y al final te aparece el listado de personas que trabajan en la empresa. Claro, en Archive está incluido ese primer nombre de la empresa como primer autor, pero no porque el primer…
Héctor Socas plantea la hipótesis de que las sospechas sobre la destilación de información no autorizada en DeepSeek son infundadas y comenta las declaraciones de Sam Altman, CEO de OpenAI.
Habla: Héctor SocasSignificado #18sospechas destilación deepseek infundadassam altman ceo openai bienvenida competenciamodelo r1 impresionante según sam altmancapacidad computo modelo deepseek limitada…que es más barato; efectivamente, la API de hecho es como menos de la décima parte de lo que cuesta la de OpenAI, la de GPT es mucho más barato y también parece, en principio, por lo que sabemos, que cuesta también menos recursos correr este modelo. Vamos a seguir hablando de esto; vamos a ser bien pensados y vamos a asumir que está todo correcto, o sea, que estas sospechas que hay de haber estado destilando cosas que no deberían son infundadas. Sam Altman, por cierto, el CEO de OpenAI en su línea habitual con su discurso de terciopelo no ha sido agresivo sino que al contrario ha dicho que es bienvenido un competidor más; que cuanto más sean mejor; que le parece impresionante el modelo R1; que le impresiona mucho lo que han podido conseguir con tan poco, con menos capacidad de cómputo. Y que esto es algo positivo, pero que no se piense nadie que ya OpenAI ha llegado hasta su techo; o sea, que ellos ya tienen muchas cosas más avanzadas que las van a ir sacando este año, o sea, lanza un mensaje de buen rollista, como suele hacer él siempre,…