Búsqueda · 30 momentos en 15 episodios
Sara RobiscoJosé EdelsteinFrancis VillatoroHéctor SocasGastón Giribetrestricciones tecnológicas nvidia chinaprocesadores nvidia para inteligencia artificialempresas chinas tecnología menos avanzadaalgoritmos optimizados saraNVIDIAChinaSara RobiscoHéctor SocasIA (Inteligencia Artificial)AppleTPUFrancis VillatoroCEO de NVIDIAApple IntelligenceGoogleChatGPTGPUDeepSeekSam AltmanNVIDIA H800
Procesadores NVIDIA para Inteligencia Artificial
Con
0:000:301:001:302:002:303:11
Héctor Socas explica cómo las restricciones tecnológicas actuales impiden que empresas chinas utilicen los procesadores más avanzados de NVIDIA para inteligencia artificial.
…teníamos problemas para colaborar con gente en China y había que mandarle una cámara; uno se que había que estar pidiendo permisos especiales y demostrar que eso no era tecnología sensible que pudiera el gobierno chino hacerse con conocimiento, bueno, en fin. Entonces, ahora mismo la cosa está mucho peor y hay restricciones tecnológicas que afectan, por ejemplo, a los últimos procesadores de NVIDIA más avanzados para hacer computación en inteligencia artificial; no se pueden exportar a China. Entonces, el hecho de que una empresa china esté haciendo estos desarrollos los tiene que hacer con tecnología menos avanzada, tecnología más antigua, como dice Sara y por eso pues quizás han tenido que optimizar esos algoritmos. Es lo que ellos dicen, porque claro, eso habrá que verlo; porque uno no sabe, si bien es público los pesos y el software, uno no sabe cómo lo han entrenado, que al final es la clave en todo esto. OpenAI al principio era todo código abierto y luego lo fueron cerrando, pero los modelos de ChatGPT hasta 3 era todo abierto, creo que 3.5 empezaba a ser parcialmente; el 3.5 algunas cosas eran abiertas y otras no, que es un poco la situación en la que está…
Significado #2 · Palabras #1
Sara Robisco explica las ventajas de la técnica 'divide y vencerás' aplicada a DeepSeek, destacando el ahorro de costes al entrenar modelos más pequeños.
Habla: Sara RobiscoSignificado #15deepseek y técnica divide vencerásahorro costes modelos pequeñosnvidia h800 en deepseekcautela con informe técnico deepseek…y así resolvemos antes los problemas. Ellos han hecho lo mismo: en lugar de usar un modelo gigantesco, monolítico, lo que han hecho es que lo han dividido en pequeños modelos más pequeñitos y los han puesto a trabajar juntos. ¿En qué ganamos con esto? Fácil, estos pequeños modelitos se entrenan con menos necesidad de potencia y menos GPU, así que es un ahorro de costes bastante majete. También os digo, hay que ser un poquito escépticos; ellos nos comentan cosas interesantes en su artículo, como por ejemplo que usan 2048 GPUs NVIDIA H800, que no son lo último pero bueno, no están mal, pero tienen bastante buen resultado. Si lo habéis conseguido probar este modelo, oye, responde muy bien. Entonces, mi duda es realmente han usado estas GPUs este paper; bueno, ellos lo ponen dar un informe técnico bastante interesante, pero lo que tenemos es que ser cautelosos ahora. Y esperar. ¿Esperar a qué? A que otros grupos de investigación repitan, reproduzcan esto, porque si lo han conseguido esto tiene que ser reproducible. Así que por ahora bien, pero vamos a dejar un poquito como todo en cuarentena. Para que os hagáis una idea…
Sara Robisco explica que los modelos ChatGPT utilizan TPUs en lugar de GPUs, lo que implica un menor consumo eléctrico y una menor generación de calor.
Habla: Sara RobiscoSignificado #8deepseek postentrenamiento 5000 horas gpugpus deepseek más baratas consumoahorro entrenamiento deepseek vs otros modeloschatgpt usa tpus no gpustpus chatgpt menor consumo eléctricomodelos chatgpt generan menos calorsarah robisco modelos chatgpt…menos de dos meses con 2.664.000 horas de GPUs. En la extensión de la longitud del contexto para mejorar su predicción, 119.000 horas de GPU, estamos hablando de que se ha tirado para desarrollar este modelo y tenerlo funcionando necesita mucho tiempo. Y luego 5000 horas de GPU de postentrenamiento, lo cual es bastante, pero si tenemos en cuenta que estas horas de entrenamiento han sido con GPUs más baratas y de menor consumo que el último modelo que están usando otra gente, pues bueno, sí que parece tener un ahorro, pero también os digo: estamos comparando GPU contra GPU. que pasa que muchos de estos modelos ChatGPT usa TPUs, no usa GPUs, entonces que consumen menos, consumen menos electricidad, se calientan menos entonces también esas cosas tenemos que tenerlas en cuenta, está muy bien pero también tiene cositas que tenemos que tener muy en cuenta para darnos cuenta un poco de la realidad y la situación. Esto, sí, os digo que aunque diga estas cosas que sí es muy interesante y a mí me parece que es un avance y que tener más modelos de código abierto que podamos probar y jugar está interesante. Bueno, ahora vamos a hablar un poco de los resultados: le han…
Héctor Socas explica cómo las restricciones tecnológicas actuales impiden que empresas chinas utilicen los procesadores más avanzados de NVIDIA para inteligencia artificial.
Habla: Héctor SocasSignificado #2 · Palabras #1restricciones tecnológicas nvidia chinaprocesadores nvidia para inteligencia artificialempresas chinas tecnología menos avanzadaalgoritmos optimizados sara…teníamos problemas para colaborar con gente en China y había que mandarle una cámara; uno se que había que estar pidiendo permisos especiales y demostrar que eso no era tecnología sensible que pudiera el gobierno chino hacerse con conocimiento, bueno, en fin. Entonces, ahora mismo la cosa está mucho peor y hay restricciones tecnológicas que afectan, por ejemplo, a los últimos procesadores de NVIDIA más avanzados para hacer computación en inteligencia artificial; no se pueden exportar a China. Entonces, el hecho de que una empresa china esté haciendo estos desarrollos los tiene que hacer con tecnología menos avanzada, tecnología más antigua, como dice Sara y por eso pues quizás han tenido que optimizar esos algoritmos. Es lo que ellos dicen, porque claro, eso habrá que verlo; porque uno no sabe, si bien es público los pesos y el software, uno no sabe cómo lo han entrenado, que al final es la clave en todo esto. OpenAI al principio era todo código abierto y luego lo fueron cerrando, pero los modelos de ChatGPT hasta 3 era todo abierto, creo que 3.5 empezaba a ser parcialmente; el 3.5 algunas cosas eran abiertas y otras no, que es un poco la situación en la que está…
Francis Villatoro menciona que el CEO de NVIDIA ha expresado su objetivo de permitir la ejecución de modelos de lenguaje en teléfonos móviles y hace referencia a Apple Intelligence.
Habla: Francis VillatoroSignificado #5 · Palabras #5ceo nvidia ejecución modelos lenguajemodelos lenguaje en teléfonos móvileschip inteligencia apple intelligenceapple intelligence en dispositivos móviles…o sea, no le he dado mucha caña a cuánto de inteligente es, pero la conversación es súper fluida. Creo que es el que más natural ha logrado tener la conversación con el modelo de lenguaje y de nuevo, me falta la integración total con todo lo que está. En el móvil. Ese es el tema clave de NVIDIA, o sea, lo dijo el CEO de NVIDIA; lo ha dicho ya en varias ocasiones. Su objetivo fundamental de aquí a un par de años es que todos los modelos de lenguaje se puedan ejecutar en local en tu teléfono móvil. Que tengas un chip de inteligencia; de hecho, sabéis lo de Apple Intelligence. Vamos a tener Apple Intelligence por todos. Lados, pero todavía no la tenemos en el iPhone; lo van a activar ahora, ¿no se han activado ya estos días o lo van a activar la semana que viene? Se va a activar ya inmediatamente. Pero es porque la inteligencia, ninguno de nosotros que estamos aquí confiamos…
Francis Villatoro explica que Nvidia está trabajando en tecnología que permitirá a los teléfonos móviles contar con chips dedicados a la inteligencia artificial, reemplazando las funcionalidades actuales.
Habla: Francis VillatoroSignificado #1 · Palabras #2nvidia chips dedicados inteligencia artificialteléfonos móviles chip inteligencia artificialconsumo extremo chip nvidianvidia y chips inteligencia artificialcambiar móvil chip inteligencia artificialapple m4 y tpu integradabatería móvil consumo tecnología nvidia…funciona? Eso es que está funcionando dentro de mi móvil. Solamente cuando haya una cuestión en la que necesite recurrir al Internet, me dirá ¿Me das permiso para que me conecte a Internet y te lo resuelva gracias a Internet? Y tú ya se lo das, ¿o no? Y eso es en lo que está trabajando Nvidia, y eso va a ser revolucionario porque todos los teléfonos móviles van a tener su chip gordo de inteligencia artificial y el mierdecilla para hacer todo lo que hacen hoy en día los móviles. Y ese chip gordo tiene que tener un consumo extremadamente bajo para no cargarse la batería del móvil y eso va a aparecer ya. Es una cosa que estaba anunciada para finales de 2025 y probablemente en 2026 todos tengamos ya que cambiar de móvil y comprarnos un móvil con su chip de inteligencia artificial bien avanzado. Eso ya lleva tiempo, ya hay móviles que llevan años metiendo una TPU para estos modelos Sí, sí, Apple lo lleva metido en todos los chips ahora, está integrado en todos los propios chips, el M4, el M2, todo eso tiene su parte de... Pero eso todavía no está completamente integrado con el teléfono móvil, está más integrado en PC que en móvil. Y esa va a ser la gran revolución, porque de repente nadie necesita una inteligencia artificial para nada, pero en el momento en el que todo el…
Francis Villatoro describe un futuro cercano, en aproximadamente cinco años, donde la tecnología descrita se generalizará y tendrá un impacto significativo en NVIDIA.
Habla: Francis VillatoroSignificado #6nvidia y su impacto tecnológicogoogle y el futuro cercanoimpacto inmediato en nvidianvidia macroempresa en cinco años…tienda en Lugo. Si quieres te pido el vestido y te lo mando. ¿Quieres que compruebes si está tu talla? Porque además tú no le dirás qué talla tienes, él ya sabrá qué talla tienes porque conoce todo de ti. Ese es el objetivo y esa revolución que parece algo. Como muy fantasioso va a venir en cinco años, con toda seguridad todos lo tenemos y se espera. Se espera que sea inmediato, y eso le va a dar a NVIDIA el poder de convertirse en una macroempresa comparada con lo que tiene ahora; ahora es la número uno del mundo, pues dentro de nada será diez veces respecto a la segunda. Pero si es que esto Google Ya lo tenía. Espera, espera: que Gastón quería decir algo. No, no: pensaba que incluso te podía aconsejar; te voy a decir: quiero tal vestido, me lo quiero comprar; no sea ridículo, maestro. Tú te has visto. No, no: te saldrá la imagen; quieres verte y te…
Héctor Socas menciona que Sam Altman ha expresado el deseo de crear una inteligencia artificial capaz de revolucionar el mundo, algo que aún no considera haberse logrado.
Habla: Héctor SocasPalabras #12sam altman y revolución iainteligencia artificial personalizadas asistentesrevolución inteligencia artificial no lograda…toda la información, y conoce mi móvil, conoce mi ordenador, conoce mi tablet, y a partir de ahí yo le doy permiso a que escuche mis conversaciones y ya lo sabe todo de mí. O sea, en un año aprende todo lo que se pueda aprender de mí y ya me puede ayudar Y de eso ha hablado Sam Oldman como el objetivo que ellos tienen que le gustaría conseguir Eso sería lo que haría que la inteligencia artificial pudiera revolucionar el mundo Porque él no considera que a día de hoy se haya producido esa revolución Estamos en proceso de intentarlo Pero hay inteligencias Artificiales yo te aseguro que para el año que viene vas a tener sorpresas en lo que… Y te la van a colar este año sin que tú quieras, te la van a ir metiendo poco a poco y nos la van a meter a poco. Pero ya hay inteligencias artificiales que se adaptan a tu…
Héctor Socas analiza la reacción del mercado bursátil ante las noticias relacionadas con NVIDIA y su enfoque en la fabricación de chips para inteligencia artificial.
Habla: Héctor SocasSignificado #3 · Palabras #3caída bolsa nvidia chinachips nvidia para ia superpotenteempresas chinas hacen ia competitivanvidia invierte dinero en chips…China sobre Estados Unidos y que es erróneo verlo en términos nacionales, pero que él lo ve como una victoria de open source frente a código propietario. Esa es otra reflexión interesante con las salvedades que comentamos al principio sobre tema open source. Y luego estábamos comentando las reacciones también de la bolsa, que a mucha gente le sorprendió, hubo una caída en general de las tecnológicas y sobre todo de NVIDIA, no sé si esto está actualizado este número, pero lo que vi ayer era que había caído un 17% en bolsa NVIDIA, porque claro, NVIDIA está centrándose en fabricar chips de última generación para IA superpotente que no se pueden exportar a China y ahora vemos que China, las empresas chinas, sin necesidad de esos chips de última generación, son capaces de hacer IA competitiva. Entonces, quizás esto se ha interpretado como que Envidia va a perder mucho valor porque esos chips en los que está invirtiendo tanto dinero no son necesarios. Bueno, no sé si quieren hablar sobre el tema, yo comenté antes en el descanso que me parece una reacción totalmente normal y habitual del mercado y que igual que bajó volverá a subir. Pero bueno, esta bajada ha sido aprovechada por algunas personas para invertir, para que saben que volverá a subir y seguirá…