Héctor Socas explica cómo está experimentando con DeepSeek y destaca una característica importante: su API es compatible con la de GPT.
…experimentos. O sea, una cosa es poner ahí una preguntita en un prompt, pero realmente para comparar modelos y tal, tienes que hacer experimentos. Claro, tiene que ser sistemático, tienes que repetirlo muchas veces, hacer estadística de los resultados y tal. Entonces eso lo hago con una API. Resulta que vi y me pareció chulísimo que DeepSeek, una de las cosas guays que ha hecho es que ha hecho su API compatible con la de GPT, o sea que si tú tienes un programa que use GPT en principio es trivial de adaptarlo para que use la de. DeepSeek. Entonces lo estuve intentando pero lleva desde ayer caída; bueno, caída está cerrada por mantenimiento la página, o sea ellos dicen que sí que tienen su app y que puedes acceder y tal y de hecho he estado mirando la documentación ya me he hecho el programa y todo pero tienes que digamos que apuntarte, tienes que registrarte que Te den la clave y tal, y esa página lleva desde ayer por la mañana en mantenimiento. Entonces, claro, yo me imagino que les debe haber venido una avalancha de peticiones de repente de todo el mundo. Esto se ha hecho tan viral que está todo el mundo queriendo…
Sara Robisco explica que los modelos ChatGPT utilizan TPUs en lugar de GPUs, lo que implica un menor consumo eléctrico y una menor generación de calor.
Habla: Sara RobiscoSignificado #13chatgpt usa tpus no gpustpus chatgpt menor consumo eléctricomodelos chatgpt generan menos calorsarah robisco modelos chatgpt…pero si tenemos en cuenta que estas horas de entrenamiento han sido con GPUs más baratas y de menor consumo que el último modelo que están usando otra gente, pues bueno, sí que parece tener un ahorro, pero también os digo: estamos comparando GPU contra GPU. que pasa que muchos de estos modelos ChatGPT usa TPUs, no usa GPUs, entonces que consumen menos, consumen menos electricidad, se calientan menos entonces también esas cosas tenemos que tenerlas en cuenta, está muy bien pero también tiene cositas que tenemos que tener muy en cuenta para darnos cuenta un poco de la realidad y la situación. Esto, sí, os digo que aunque diga estas cosas que sí es muy interesante y a mí me parece que es un avance y que tener más modelos de código abierto que podamos probar y jugar está interesante. Bueno, ahora vamos a hablar un poco de los resultados: le han…
Héctor Socas comenta sobre el uso legítimo de técnicas como la destilación para entrenar modelos de lenguaje, contrastándolo con las restricciones impuestas por OpenAI en relación a ChatGPT.
Habla: Héctor SocasSignificado #14destilación modelos lenguaje openaitécnicas destilación chatgpt restriccionespruebas gpt interfaz char gpt…y respuestas al otro modelo y usas eso para entrenar el tuyo. Sí, de hecho en el propio artículo lo dicen; ellos mismos dicen que han destilado, pero han destilado a Llama y hay otra que han destilado también; han destilado dos modelos de código abierto. Para esos códigos es legítimo, pero por ejemplo OpenIA no te permite hacer eso con ChatGPT, no está permitido por los términos de uso, entonces habrá que verlo, pero lo que está claro es que a mí me parece que es buenísimo, funciona maravillosamente bien, yo lo he estado probando y tengo algunos comentarios que no sé si tenemos tiempo, quizás sí podemos entrar un poquito en eso. A ver, de entrada se parece muchísimo a echar GPT hasta la interfaz, e incluso la forma en la que te responde Cierto A mí, yo la verdad que lo he estado probando bastante y me gusta. No he podido hacer pruebas sistemáticas porque tiene también una API, igual que con GPT hay una API que tú puedes usar para, yo uso; yo tengo la API de GPT, o sea pago por tener el acceso y…
Héctor Socas explica cómo está experimentando con DeepSeek y destaca una característica importante: su API es compatible con la de GPT.
Habla: Héctor SocasSignificado #1api deepseek compatible con gptadaptación trivial programas gptpágina web deepseek caída mantenimientoregistro requerido para acceder deepseek…experimentos. O sea, una cosa es poner ahí una preguntita en un prompt, pero realmente para comparar modelos y tal, tienes que hacer experimentos. Claro, tiene que ser sistemático, tienes que repetirlo muchas veces, hacer estadística de los resultados y tal. Entonces eso lo hago con una API. Resulta que vi y me pareció chulísimo que DeepSeek, una de las cosas guays que ha hecho es que ha hecho su API compatible con la de GPT, o sea que si tú tienes un programa que use GPT en principio es trivial de adaptarlo para que use la de. DeepSeek. Entonces lo estuve intentando pero lleva desde ayer caída; bueno, caída está cerrada por mantenimiento la página, o sea ellos dicen que sí que tienen su app y que puedes acceder y tal y de hecho he estado mirando la documentación ya me he hecho el programa y todo pero tienes que digamos que apuntarte, tienes que registrarte que Te den la clave y tal, y esa página lleva desde ayer por la mañana en mantenimiento. Entonces, claro, yo me imagino que les debe haber venido una avalancha de peticiones de repente de todo el mundo. Esto se ha hecho tan viral que está todo el mundo queriendo…
Héctor Socas recuerda cómo Char GPT también experimentó problemas de colapso al principio y explica una ventaja del plan de pago: mayor prioridad para evitar esos fallos. Luego comenta una peculiaridad observada en los papers publicados en Archive, donde Deep Seek aparece como primer autor.
Habla: Sara RobiscoSignificado #4colapso inicial chargptprioridad plan de pago chargptdeep seek primer autor archivepublicaciones deep seek formato edición…a los detalles y eso me pareció más interesante; pero bueno también es verdad que estos dos días que lo he estado probando había muchas veces que estaba inaccesible, que estaba colgado, que tal, que supongo que es por el exceso de demanda que está teniendo. También eso pasaba, me acuerdo; al principio con CharGPT había muchas veces que estaba colapsado y de hecho una de las ventajas de pagar el plus era que no te garantizaban pero sí te decían que tenías más prioridad y era menos probable que te lo encontraras colapsado. Una cosa curiosa que me ha llamado mucha atención y me ha hecho muchas gracias es que los papers publicados en Archive, todos los que han publicado, tienen como autor, como primer autor a la propia Deep Seek. Ah sí, qué graciosos; son muy simpáticos. Que entonces la verdad es que te hace gracia porque está simpaticón. Pero yo creo que es que también hemos de pensar que son chinos y los chinos cuando publican papers, acordaos hace unos años que no se entendía y que costaba mucho, ¿verdad? y ahora la verdad es que yo creo que en formato, todo, yo creo que la he ayudado en la edición. Un pequeño detalle, creo que te equivocas: pone el nombre de la empresa y después pone las personas que pertenecen a la empresa como autores, pero es el clásico; después miras, por ejemplo, el PDF y te encuentras debajo del título solamente el nombre de la…
Héctor Socas lamenta la falta de aplicaciones externas a la web Chat GPT, destacando el potencial sin explotar de la API de GPT.
Habla: Héctor SocasSignificado #8api de gpt sin explotarjuego nintendo usa gptgpt en juego de rol…es la misma, pero digamos que son añadidos de informática tradicional que se le han puesto alrededor y que son muy útiles; y eso va. Y es lo que yo todavía, por cierto, hago un inciso para decir que es lo que sigo echando de menos en todos estos desarrollos. Me falta que, por ejemplo, que GPT salga de la web, que salga de Chat GPT. O sea, que tengan la API. O sea, ¿por qué no está todo lleno de aplicaciones? Hace poco alguien comentaba en el chat de YouTube, que efectivamente, además yo lo he visto, hay un juego de Nintendo que usa GPT para hacer las conversaciones con los personajes. O sea, cuando interactúas con un personaje del juego, te responde siguiendo, o sea, usa GPT para generar las respuestas, ese tipo de cosas, ¿no? Hace poco vi que hay un juego de rol; digo, bueno, pues ya estábamos tardando, o sea, hay un montón de posibilidades ahí para explorar y que todavía no se están explorando, ¿no? Yo creo que la primera gran revolución que van a tener estos modelos va a ser como nuestro asistente virtual. La posibilidad de tener un secretario que te ayuda a hacer toda la gestión y todas las cosas, o sea, faltará integrar esto con el mail y yo a esto,…