Búsqueda · 20 momentos en 7 episodios
Sara RobiscoJosé EdelsteinFrancis VillatoroHéctor SocasGastón Giribetdeepseek compresión índices claveinferencias reducción memoria virtualredes recurrentes trabajan textossistema deepseek predice bloquesvelocidad inferencia deepseek aumentarespuesta rápida gracias deepseekmenos recursos con deepseekSara RobiscoDeepSeekChatGPTHéctor SocasGPTCanariasDocumento técnicoChinaCoffee Break: Señal y RuidoMicrosoftLlamaOpenAIThomas VilaDeep SeekOndas gravitacionalesQuiralidadTeoría de twistoresSam AltmanNVIDIA H800GPUTomás VilaHigh FlyerLinuxChar G.P.T.
Respuesta rápida gracias DeepSeek
Con
0:000:301:001:302:002:303:11
Sara Robisco explica que el sistema DeepSeek predice palabras en bloques, lo que aumenta significativamente la velocidad de inferencia en comparación con el método de predecir palabra por palabra.
…usando números en coma flotante con una precisión de 32 bits para coma flotante y ellos dicen bueno vamos a usar 8 bits, tampoco pierdes tanto en comparación con lo que ahorras, entonces esto en que repercute en un ahorro de memoria RAM bastante grande, bien, luego los índices clave valor en los que se basa para hacer inferencias los han comprimido, han llegado a alcanzar un 93% de radio de compresión reduciendo el uso de memoria virtual, vale, más eficiente, luego en lugar de ir prediciendo como hace ChattGPT, como hacen todos los modelos actuales que van prediciendo token a token, a ver nosotros cuando hablamos de token es Estas redes recurrentes que trabajan con textos les van entrando tokens, sería un poco las palabras, van entrando palabras y ellos predicen cuál sería la siguiente palabra a decir Entonces en función del texto de cómo va evolucionando van prediciendo palabra a palabra, Bueno pues este sistema no predice palabra a palabra sino que te crea un chorro de palabras varias juntas. ¿Esto qué hace? Pues se aumenta mucho la velocidad de inferencia. A la hora de darte una respuesta es más rápido y esto es una ventaja muy buena porque claro, a más velocidad con menos recursos vas bien. Y luego han aplicado una cosa que nos gusta mucho en informática: que es el sistema de dividir y vencerás. ¿En qué consiste? Divide y vencerás es una técnica que usamos mucho; es cuando tienes un problema grande, algo que es poco abarcable, lo dividimos en…
Significado #2 · Palabras #1
Sara Robisco introduce un nuevo modelo de lenguaje llamado DeepSeek, originario de China, tras una serie de noticias impactantes sobre él.
Habla: Sara RobiscoSignificado #6 · Palabras #14modelo lenguaje deepseek chinanoticias impactantes deepseekseparar señal ruido deepseekdeepseek modelo lenguaje chinaevolución sistemas expertos década 90entrenamiento deepseek información genéricamodelo deepseek open sourcedeepseek comparativa sistemas expertospesos de entrenamiento deepseek liberadosconjunto datos deepseek no compartido…muchos otros con muy buen nivel, es realmente asombroso lo que pueden hacer hoy en día estos grandes modelos de lenguaje y ahora ha irrumpido con fuerza otro, que Sara nos va a hablar de Deep Seek, que además viene de China, con todo lo que eso lo involucra. Sí, la verdad es que tenemos... Empieza bien el año de la serpiente. Empiezan los chinos, empiezan sembrados, empiezan a tope. Sí, tenemos este nuevo modelo sobre el que habéis oído muchísimas noticias, cosas muy tremendas y claro aquí estamos para separar la señal de ruido, el grano de la paja, entonces vamos a ver un poquito qué es DeepSeek. DeepSeek es un nuevo modelo de lenguaje, rollo Llama, Chat GPT, que para mí es una evolución que nosotros teníamos en los años 90, llamados sistemas expertos; solo que en el caso de estos modelos suelen ser sistemas expertos en nada porque se nutren, se entrenan con una información muy genérica. Deepseek es un modelo open source, no es un modelo cerrado como por ejemplo ChatGPT y esto es bastante positivo. Ellos han liberado; se puede descargar de arquitectura, tienes el modelo liberado. Tienes los pesos de entrenamiento, también los han compartido; lo único que no han compartido es el conjunto de datos de entrenamiento y test. Y eso se guardan para ellos, pero lo que es arquitectura, todo lo que el software lo tienen Más que un modelo, tenemos que hablar de un framework, porque ya es un sistema bastante complejo ya que lo que tú te descargas para investigación, lo que nos podemos…
Sara Robisco explica que el sistema DeepSeek predice palabras en bloques, lo que aumenta significativamente la velocidad de inferencia en comparación con el método de predecir palabra por palabra.
Habla: Sara RobiscoSignificado #2 · Palabras #1deepseek compresión índices claveinferencias reducción memoria virtualredes recurrentes trabajan textossistema deepseek predice bloquesvelocidad inferencia deepseek aumentarespuesta rápida gracias deepseekmenos recursos con deepseek…usando números en coma flotante con una precisión de 32 bits para coma flotante y ellos dicen bueno vamos a usar 8 bits, tampoco pierdes tanto en comparación con lo que ahorras, entonces esto en que repercute en un ahorro de memoria RAM bastante grande, bien, luego los índices clave valor en los que se basa para hacer inferencias los han comprimido, han llegado a alcanzar un 93% de radio de compresión reduciendo el uso de memoria virtual, vale, más eficiente, luego en lugar de ir prediciendo como hace ChattGPT, como hacen todos los modelos actuales que van prediciendo token a token, a ver nosotros cuando hablamos de token es Estas redes recurrentes que trabajan con textos les van entrando tokens, sería un poco las palabras, van entrando palabras y ellos predicen cuál sería la siguiente palabra a decir Entonces en función del texto de cómo va evolucionando van prediciendo palabra a palabra, Bueno pues este sistema no predice palabra a palabra sino que te crea un chorro de palabras varias juntas. ¿Esto qué hace? Pues se aumenta mucho la velocidad de inferencia. A la hora de darte una respuesta es más rápido y esto es una ventaja muy buena porque claro, a más velocidad con menos recursos vas bien. Y luego han aplicado una cosa que nos gusta mucho en informática: que es el sistema de dividir y vencerás. ¿En qué consiste? Divide y vencerás es una técnica que usamos mucho; es cuando tienes un problema grande, algo que es poco abarcable, lo dividimos en…
Sara Robisco explica las ventajas de la técnica 'divide y vencerás' aplicada a DeepSeek, destacando el ahorro de costes al entrenar modelos más pequeños.
Habla: Sara RobiscoSignificado #17deepseek y técnica divide vencerásahorro costes modelos pequeñosnvidia h800 en deepseekcautela con informe técnico deepseek…y así resolvemos antes los problemas. Ellos han hecho lo mismo: en lugar de usar un modelo gigantesco, monolítico, lo que han hecho es que lo han dividido en pequeños modelos más pequeñitos y los han puesto a trabajar juntos. ¿En qué ganamos con esto? Fácil, estos pequeños modelitos se entrenan con menos necesidad de potencia y menos GPU, así que es un ahorro de costes bastante majete. También os digo, hay que ser un poquito escépticos; ellos nos comentan cosas interesantes en su artículo, como por ejemplo que usan 2048 GPUs NVIDIA H800, que no son lo último pero bueno, no están mal, pero tienen bastante buen resultado. Si lo habéis conseguido probar este modelo, oye, responde muy bien. Entonces, mi duda es realmente han usado estas GPUs este paper; bueno, ellos lo ponen dar un informe técnico bastante interesante, pero lo que tenemos es que ser cautelosos ahora. Y esperar. ¿Esperar a qué? A que otros grupos de investigación repitan, reproduzcan esto, porque si lo han conseguido esto tiene que ser reproducible. Así que por ahora bien, pero vamos a dejar un poquito como todo en cuarentena. Para que os hagáis una idea…
Sara Robisco explica que DeepSeek funciona bien en inglés y chino, pero tiene problemas al procesar español.
Habla: Sara RobiscoSignificado #8 · Palabras #17deepseek funciona bien inglés chinoproblemas deepseek procesar españoldeepseek nivel chat gpt ingléscastellano deepseek mezcla inglésmodelo r1 de deepseek españolconversaciones largas modelo deepseekdeepseek habla inglés y chinomodelo deepseek r1 procesa españoldeepseek v1 documento técnicoúltimo modelo público deepseek r1…me parece que es un avance y que tener más modelos de código abierto que podamos probar y jugar está interesante. Bueno, ahora vamos a hablar un poco de los resultados: le han puesto a trabajar en distintos benchmarks, que son bancos de pruebas ¿Y qué nos da? Deepseek solo habla inglés y chino, ¿vale? Y en inglés y chino se defiende muy bien; está al nivel de un chat GPT. ¿Por qué es recomendable, ellos os recomiendan, que hables con él en inglés o chino? Porque en otros tú le puedes hablar en español, sí, en castellano, pero se traba. Va a tener problemas de liarse entre lenguajes, o sea, no te extrañe que tú estés hablando en castellano y el tío mezcle palabras en inglés y castellano. Perdona Sara, será a lo mejor modelos anteriores; yo he estado usando el R1 que es el más novedoso y habla perfectamente español y en inglés sin ningún problema. Sí, inglés o habla. He tenido conversaciones largas y no tiene problema. Sí, habla inglés y chino, pero en las recomendaciones te piden que procures hablar en inglés y chino porque sí que hace saltos. Yo lo he estado usando en español y no da ningún problema. Yo lo que pone en el documento técnico, que ellos dicen de V1, vamos, de este. Claro, lo que pasa es que han sacado varios modelos muy rápidamente. Yo estoy usando el último que está público, que es el R1. Eso, R1. Es posible que haya mejorado. Sí, R1, lo que pasa es que ya te digo. En el documento técnico te dicen que sí, pero que si ves que puedes ver algún salto que aún no está muy bien perfeccionado; de hecho, el V3, que es el R1 pero con una capa, el V3 va con aprendizaje por refuerzo y luego lo que lleva es el V1. Después de estas…
Sara Robisco explica cómo el modelo DeepSeek destaca en tareas de razonamiento, siguiendo las recomendaciones del documento técnico para obtener respuestas paso a paso con explicaciones.
Habla: Sara RobiscoSignificado #12 · Palabras #4modelo deepseek tareas razonamientodocumento técnico explicaciones paso a pasodeepseek sistema experto programarrendimiento deepseek comparado chatgpt gráficasentrenamiento datos específicos deepseek…ahí, por eso ya han metido este aprendizaje por refuerzo, ¿vale? Luego, cosas que mejora también, ¿dónde tiene los puntos fuertes? Es muy fuerte y muy bueno en código fuente; el tío entiende fenomenal, sabe programar muy bien, matemáticas se entiende bien. Y a la hora de razonar, entendemos por razonar, que además te lo recomiendan en el documento técnico, que tú le pidas que te dé las respuestas paso a paso explicándote por qué ha llegado a una conclusión y parece que lo hace francamente bien. Entonces, ¿por qué se da tan bien programar? ¿Por qué se da tan bien la matemática? porque ha sido entrenado con este tipo de datos, entonces a mí me parece útil porque a la hora de tener se parece más a lo que yo entiendo como un sistema experto, si tienes un sistema que has entrenado que sabe programar muy bien por ejemplo para ayudarte con código sería un sistema experto genial, entonces la verdad es que me parece interesante en este sentido se defiende francamente a niveles casi de prácticamente como ChatGPT como el último y tiene en las gráficas la verdad es que se le ve bien lo que pasa es que el tema es ya os digo coger un poquito con pinzas porque porque Eso, porque esto hasta que no lo reproduzcan, pero como todo o sea ChatGPT es un modelo cerrado. No tenemos tampoco nada con que comparar, pero sí que me parece importante eso: el que tenemos un modelo de código abierto ahora mismo disponible, que eso también…
Héctor Socas aclara que DeepSeek, un modelo de lenguaje, no fue creado por el gobierno chino, sino por una empresa llamada DeepSeek, respaldada por un fondo de inversión llamado High Flyer.
Habla: Héctor SocasSignificado #19 · Palabras #20modelo lenguaje deepseek high flyerfondo inversión high flyer chinamicrosoft archirrival linux open sourceopen source grandes empresas microsoft…que nos llega está tan politizado que hay mucha controversia sobre que China ha hecho o ha dejado de hacer y tal. Y hay que tener en cuenta que aquí, aunque realmente subyace detrás cierta estrategia geopolítica y lo demás, aquí estamos hablando de empresas. Exacto. Esto no es el gobierno chino quien ha creado este modelo de lenguaje. Es una empresa que se llama DeepSeek, que pertenece a un fondo de inversión que se llama High Flyer, que está radicado en China. Pero es una empresa china que pertenece a un fondo de inversión chino, tampoco es un grupo de chavales en su garaje. Exacto, tienen pasta. Claro, cuando uno dice open source puede llevarse a cierto engaño pensando en la comunidad Linux. Open source también se usa en grandes empresas y bueno, Microsoft por ejemplo ha sido muy emblemático como ha terminado por abrazar, de haber pasado a ser el archirrival del mundo open source de Linux. Ahora Microsoft usa Linux en sus servidores internamente y es uno de los grandes desarrolladores del open source de Linux. Sí, para haceros una idea, Llama, que es el modelo conversacional de chat GPT de Facebook, de Meta, es open source. No te meta con él. Exacto, Llama es open source. La tarjeta, dijimos que me iba a estar quietito. No tengo tarjetas, tienes vía libre pues eso,…
Héctor Socas aclara que Microsoft no ha demandado a DeepSeek por supuesta copia, sino que está investigando si se utilizó una técnica llamada 'destilación' para entrenar el modelo.
Habla: Héctor SocasPalabras #7destilación modelo deepseek microsoftentrenamiento con llama y char gptinvestigación microsoft sobre destilación…dice, hay un rumor por ahí en una leyenda urbana de que OpenAI le ha puesto una demanda porque dice que les han copiado, eso no es cierto lo que si es cierto que se ha dicho es que Microsoft en particular, que es uno de los grandes patrocinadores de OpenAI Microsoft está investigando; no es que hayan puesto una demanda, todavía no han llegado a ese punto, pero están investigando si se ha hecho una cosa que se llama destilar, que consiste en, digamos que tú haces preguntas y respuestas al otro modelo y usas eso para entrenar el tuyo. Sí, de hecho en el propio artículo lo dicen; ellos mismos dicen que han destilado, pero han destilado a Llama y hay otra que han destilado también; han destilado dos modelos de código abierto. Para esos códigos es legítimo, pero por ejemplo OpenIA no te permite hacer eso con ChatGPT, no está permitido por los términos de uso, entonces habrá que verlo, pero lo que está claro es que a mí me parece que es buenísimo, funciona maravillosamente bien, yo…
Héctor Socas explica cómo está experimentando con DeepSeek y destaca una característica importante: su API es compatible con la de GPT.
Habla: Héctor SocasSignificado #3 · Palabras #10api deepseek compatible con gptadaptación trivial programas gptpágina web deepseek caída mantenimientoregistro requerido para acceder deepseek…experimentos. O sea, una cosa es poner ahí una preguntita en un prompt, pero realmente para comparar modelos y tal, tienes que hacer experimentos. Claro, tiene que ser sistemático, tienes que repetirlo muchas veces, hacer estadística de los resultados y tal. Entonces eso lo hago con una API. Resulta que vi y me pareció chulísimo que DeepSeek, una de las cosas guays que ha hecho es que ha hecho su API compatible con la de GPT, o sea que si tú tienes un programa que use GPT en principio es trivial de adaptarlo para que use la de. DeepSeek. Entonces lo estuve intentando pero lleva desde ayer caída; bueno, caída está cerrada por mantenimiento la página, o sea ellos dicen que sí que tienen su app y que puedes acceder y tal y de hecho he estado mirando la documentación ya me he hecho el programa y todo pero tienes que digamos que apuntarte, tienes que registrarte que Te den la clave y tal, y esa página lleva desde ayer por la mañana en mantenimiento. Entonces, claro, yo me imagino que les debe haber venido una avalancha de peticiones de repente de todo el mundo. Esto se ha hecho tan viral que está todo el mundo queriendo…
Héctor Socas comparte su experiencia al probar DeepSeek y compara sus resultados con los de GPT, notando una preferencia personal por las respuestas de DeepSeek aunque reconoce que podría ser debido a un efecto de novedad.
Habla: Héctor SocasSignificado #4 · Palabras #2sesgo percepción en respuestas deepseek…que a mí me ha gustado es que se puede, te puedes descargar y puedes trabajar en el local. Sí, pero es un modelo más pequeño. Sí, claro, hombre, obviamente tiene que ser más pequeñito para que funcione en tu equipo. Y nada, y genial por lo demás, he probado a ponerle, por ejemplo, papers y que le hago las típicas preguntas y demás Y hay cosas hasta que me gustan más que cómo las hace GPT No sé si es por el efecto novedad, siempre tenemos este sesgo de cuando algo nuevo nos encandila más la novelería que decimos en Canarias, pero es que me resulta, me gustan más las respuestas, no sé si será percepción porque es subjetivo, hasta que no pueda experimentar pero me da la impresión de que las explicaciones que Te da, o sea con GPT tengo el problema de que si por ejemplo le doy un paper y le pregunto cosas, que es uno de los usos que le suelo dar, sobre todo en papers que son de un tema que no es el mío y no me entero de nada. Voy leyendo el paper y le voy haciendo…
Héctor Socas reflexiona sobre la experiencia de usar DeepSeek, comparándolo con GPT y notando que requiere un poco más de insistencia para obtener respuestas técnicas detalladas.
Habla: Héctor SocasSignificado #1 · Palabras #5deepseek requiere insistencia técnicarespuestas deepseek detalles rápidosexceso demanda deepseek inaccesible…un poco más técnico o sea, tienes que sacarle con cuchara. Debe estar muy alineado para que sea muy didáctico y muy pedagógico y es como muy, o sea, te cuesta, ¿no? Tienes que insistirle bastante para que te explique cosas con un cierto nivel técnico, ¿no? Y sin embargo me da la impresión de que este no tanto, o sea que enseguida la primera respuesta era muy superficial pero en cuanto le rascas un poquito y le preguntas un poquito más por los detalles ya sí que va más rápidamente a los detalles y eso me pareció más interesante; pero bueno también es verdad que estos dos días que lo he estado probando había muchas veces que estaba inaccesible, que estaba colgado, que tal, que supongo que es por el exceso de demanda que está teniendo. También eso pasaba, me acuerdo; al principio con CharGPT había muchas veces que estaba colapsado y de hecho una de las ventajas de pagar el plus era que no te garantizaban pero sí te decían que tenías más prioridad y era menos probable que te lo encontraras…
Héctor Socas agradece a los oyentes su compañía e introduce la segunda parte del episodio número 497 de Coffee Break, donde se analizará el modelo de lenguaje DeepSeek, originario de China pero financiado por un fondo de inversión.
Habla: Héctor SocasSignificado #7 · Palabras #8modelo lenguaje deepseek chinaapi deepseek coste openaifondo inversión deepseek empresa chinarecursos modelo deepseeksospechas destilación deepseek infundadassam altman ceo openai bienvenida competenciamodelo r1 impresionante según sam altmancapacidad computo modelo deepseek limitada…allí para seguir. Vamos a seguir la conversación sobre este y otros temas muy interesantes que tenemos a continuación, y si no nos despedimos hasta la semana que viene. Pero venga, vuelvan con nosotros; búsquenos en el podcast. Hasta ahora, chau, chau, chau. Gracias por seguirnos acompañando o por seguir acompañándonos, como prefieran. Empezamos aquí la cara B de este episodio número 497 de Coffee Break, que empieza a acercarse a un número bastante redondo y vamos a seguir destripando un poco este gran modelo de lenguaje DeepSeek, que nos viene de China, aunque insisto, no del gobierno chino, de una empresa, una empresa china, de un fondo de inversión. Estas cosas son caras, aunque se ha dicho y es importante resaltarlo, que es más barato; efectivamente, la API de hecho es como menos de la décima parte de lo que cuesta la de OpenAI, la de GPT es mucho más barato y también parece, en principio, por lo que sabemos, que cuesta también menos recursos correr este modelo. Vamos a seguir hablando de esto; vamos a ser bien pensados y vamos a asumir que está todo correcto, o sea, que estas sospechas que hay de haber estado destilando cosas que no deberían son infundadas. Sam Altman, por cierto, el CEO de OpenAI en su línea habitual con su discurso de terciopelo no ha sido agresivo sino que al contrario ha dicho que es bienvenido un competidor más; que cuanto más sean mejor; que le parece impresionante el modelo R1; que le impresiona mucho lo que han podido conseguir con tan poco, con menos capacidad de cómputo. Y que esto es algo positivo, pero que no se piense nadie que ya OpenAI ha llegado hasta su techo; o sea, que ellos ya tienen muchas cosas más avanzadas que las van a ir sacando este año, o sea, lanza un mensaje de buen rollista, como suele hacer él siempre,…
Héctor Socas responde a una pregunta de Tomás Vila sobre la quiralidad de las ondas gravitacionales y su relación con la teoría de twistores, mostrando desconocimiento sobre el tema.
Habla: Héctor SocasSignificado #18quiralidad ondas gravedad teoría twistoresgoogly problem gravedad teoría twistoresdesconocimiento hector socas tema twistoresdeepseek respuesta pregunta quiralidad…he visto; ley y orden, Ley y orden. Yo soy medio maricondo, yo sé que mi aspecto no parece, pero si hubiese en mi oficina, soy medio obsesivo con el cajoncito. Bueno, yo soy todo lo contrario ¿Cómo? ¿Perdona, Sara? Yo soy todo lo contrario, vivo en el caso. Bueno, que preguntaba también Tomás, si se demostrara una quiralidad de izquierda en las ondas de gravedad, ¿sería una prueba experimental de que la gravedad tiene un googly problem, tal como predice la teoría de twistores? No tengo ni idea de lo que estás hablando, Tomás Yo tampoco sé lo que es un twistor, pero no tengo Googly problem Le voy a preguntar a DeepSeek A ver que se cuenta Voy a copiar directamente la pregunta A ver, a ver qué te dice El problema es que se me han perdido, aquí está, vale ¿Quieres ir contando mientras tanto, Gastón, lo que son los twistores? Rápidamente En realidad, yendo al caso de, ¿qué pasaría si se descubriese que nos convinciéramos, después mucha estadística, de que sí, las ondas gravitacionales no les es lo mismo rotar…
Héctor Socas invita a Tomás Vila a buscar información sobre una pregunta compleja relacionada con ondas gravitacionales, quiralidad y la teoría de twistores, utilizando herramientas como Deep Seek o ChatGPT.
Habla: Héctor SocasSignificado #11ondas gravitacionales quiralidad twistoresdeep seek o chatgpt para preguntasgoogly problem en teoría twistores…especular. Entonces uno diría: estamos viendo los efectos de este nuevo término en las ecuaciones que van más allá de los efectos. Esa sería una forma de violar la paridad en la teoría gravitacional. Hay muchas formas de violar. Tengo la respuesta ya y. es bastante larga y profusa, así que no la voy a leer entera le invito al amigo Thomas a que ponga la pregunta en Deep Seek o en ChatGPT, empieza diciendo excelente pregunta, vamos a desglosar este tema que combina conceptos de ondas gravitacionales, quiralidad y la teoría de twistores una explicación estupenda y además estructurado y el segundo punto es el Googly Problem en la teoría de twistores que es la parte que yo no me suena de nada, dice teoría de twistores es un marco matemático desarrollado por Roger Penrose y otros para reformular la física en términos de objetos geométricos llamados twistores. Estos twistores están relacionados con las simetrías del espacio-tiempo y pueden…