Búsqueda · 19 momentos en 1 episodio
María RibesAlberto ApariciJuan Carlos GilIgnacio CrespoFrancis VillatoroHéctor SocasLuisa AchaerandioPushmeet Kohli · DeepMindThore Graepel · DeepMindaniversario diez años partida go deepmindidioma hindi pushmit colleylaboratorio deepmind de google inteligencia artificialPushmit ColleyTore GreipelMaríaDeepMindGoogleIBMGoogle DeepMindAlphaGoPushmit KohliFrancis VillatoroWikipediaHéctor SocasMariana AqueroDepartamento de Comunicación de GoogleEspañaMovimiento 37juego de GoThor GreipelSeúlKasparovRedes NeuronalesMaría RibesAlberto ApariciJuan Carlos GilLee SedolIgnacio Crespojuego GoAlphaFoldFagóárbol de Monte CarloAjedrezAlbertoJuan Carlos
Entrenamiento neuronal Google DeepMind
Con
0:000:301:001:302:002:303:003:33
Héctor Socas presenta una entrevista grabada previamente con Pushmit Colley y Tore Greipel, destacando su trabajo en DeepMind de Google y la importancia del aniversario de un hito en inteligencia artificial: el juego de Go.
…pasada, que a mí me parece que ha quedado muy chula, sobre todo porque no he intervenido yo así que es un disfrute de escuchar con dos protagonistas del desarrollo de la inteligencia artificial en esta última década que son las personas cuyos rostros ven en. la imagen de portada de este episodio, se llaman Pushmit Colley, el que aparece con un turbante y Tore Greipel, yo lo he pronunciado fatal pero María se ha pegado el curre de buscar cómo pronunciarlo adecuadamente y además hablarles a cada uno de ellos en su idioma natal, que también te lo ha traducido, porque uno de ellos su idioma natal es hindi y el otro es alemán. Y pues son del laboratorio DeepMind de Google, que saben que ha sido uno de los grandes motores de la inteligencia artificial en los últimos 15 años o así, y sobre todo porque estos días se cumple un aniversario muy importante que son 10 años de esa partida de Go, el juego, Ese juego asiático del que ahora nos hablará Alberto, que es muy aficionado. De hecho, yo recuerdo que de esto hablamos en Coffee Break hace 10 años y que yo no sé si llegamos a hablar de cuando tuvo lugar esta partida, pero sí que hubo episodios en los que…
Significado #1 · Palabras #2
Héctor Socas presenta una entrevista grabada previamente con Pushmit Colley y Tore Greipel, destacando su trabajo en DeepMind de Google y la importancia del aniversario de un hito en inteligencia artificial: el juego de Go.
Habla: Héctor SocasSignificado #1 · Palabras #2aniversario diez años partida go deepmindidioma hindi pushmit colleylaboratorio deepmind de google inteligencia artificial…pasada, que a mí me parece que ha quedado muy chula, sobre todo porque no he intervenido yo así que es un disfrute de escuchar con dos protagonistas del desarrollo de la inteligencia artificial en esta última década que son las personas cuyos rostros ven en. la imagen de portada de este episodio, se llaman Pushmit Colley, el que aparece con un turbante y Tore Greipel, yo lo he pronunciado fatal pero María se ha pegado el curre de buscar cómo pronunciarlo adecuadamente y además hablarles a cada uno de ellos en su idioma natal, que también te lo ha traducido, porque uno de ellos su idioma natal es hindi y el otro es alemán. Y pues son del laboratorio DeepMind de Google, que saben que ha sido uno de los grandes motores de la inteligencia artificial en los últimos 15 años o así, y sobre todo porque estos días se cumple un aniversario muy importante que son 10 años de esa partida de Go, el juego, Ese juego asiático del que ahora nos hablará Alberto, que es muy aficionado. De hecho, yo recuerdo que de esto hablamos en Coffee Break hace 10 años y que yo no sé si llegamos a hablar de cuando tuvo lugar esta partida, pero sí que hubo episodios en los que…
Héctor Socas agradece a Mariana Aquero, del departamento de comunicación de Google en España, por ponerse en contacto con el podcast para promocionar el décimo aniversario del Movimiento 37 en el juego de Go.
Habla: Héctor SocasPalabras #5aniversario movimiento 37 googlemariana aquero departamento comunicación googlepromoción aniversario juego goagradecimiento mariana google españaentrevista personas difíciles contactodepartamento comunicación google facilita entrevistagrabación técnica héctor socasparticipación juan carlos gil entrevista…décimo aniversario del día en el que se jugó la partida del famoso Movimiento 37, del cual hablaremos ahora y Alberto nos contará un poco, pero que fue algo muy rompedor e inesperado, un movimiento que hizo la máquina que fue sorprendente para todo el mundo. Entonces, pues Google ha estado estos días promocionando este aniversario, contactando con medios de comunicación y en nuestro caso, debo decir que quiero dar las gracias a Mariana Aquero, del Departamento de Comunicación de Google en España, que se puso en contacto con. nosotros porque Mariana, según nos confesó, es oyente del programa y a ella le hace ilusión el ofrecernos esta posibilidad y que esta entrevista a estas dos personas, que ahora comentaremos un poco pues que pudiéramos tener esta oportunidad en Coffee Break y le quiero dar las gracias porque bueno es gente con la que es muy difícil poder contactar y poder tener esta oportunidad de estar hablando con ellos y el departamento de comunicación de Google a través en este caso de Mariana pues no facilitó esa entrevista no fue fácil porque bueno hubo también que reprogramar éramos por nuestra parte tres personas que iban a partir bueno de hecho 4 conmigo porque yo iba a estar grabando y encargándome de la parte técnica, más María, Alberto y Juan Carlos que iban a estar encargándose de hacer la entrevista propiamente dicho, más los dos Entrevistados, más Mariana, pues era como había que juntar a mucha gente y algunas, en este caso, tanto Pushmit como Tore, pues con personas con agendas muy complicadas. Así que nuestro agradecimiento; yo tenía también ciertas dudas de cómo íbamos a hacer…
Francis Villatoro comenta sobre una jugada inusual realizada por Lee Sedol durante un enfrentamiento contra AlphaGo, donde intentó confundir a la máquina con movimientos inesperados.
Habla: Francis VillatoroSignificado #12 · Palabras #13jugada inusual lee sedol alphagomovimientos inesperados alphago deepmindmáquina confundida por lissedolvictoria humana contra alphagolee sedol vence a fagódeepmind parchea defecto alphagoaprendizaje jugando contra la máquina…las partidas a Lissedol 4-1, Alberto 4-1, 4-1, sí la cuarta la ganó la cuarta es el retorno de la humanidad y recordad, la cuarta la ganó Lissedol y acojonó a Dismain porque Dismain dijo: como me gane la quinta, porque lo que hizo fue engañar a la máquina. Queda dudoso, ¿no? Lissedol hizo una jugada absolutamente idiota en plan: esto la máquina no lo va a entender y va a fallar, que es que estuvo probando muchas cosas y lo logró; la máquina completamente se perdió, no se enteró de nada, de la misa a la mitad y entonces pensaron los de DeepMind, como en la quinta vuelva a hacer lo. Mismo Licedol, con que gane 2 de 3, ya el humano ha ganado la máquina porque el humano ha tenido que aprender a jugar contra la máquina y lo ha logrado y la ha vencido; entonces era fundamental que en la quinta volviera a ganar al Fagó y ganó al Fagó. Claro, y DeepMind confesó que entre la cuarta y la quinta parcheó ese defecto, muy a posterior y varios años después, así se aprende. También, bueno quería llegar con todo esto al famoso segundo juego, que es donde tiene lugar la jugada 37, de la que hablamos en la entrevista. Y de hecho lo están preguntando también en el chat, lo acabo de ver entonces, la jugada 37 es básicamente una…
Juan Carlos Gil explica que Pushmit Kohli, aunque inicialmente no formó parte del equipo central de AlphaGo en IBM, fue posteriormente reclutado por DeepMind y ahora ocupa un puesto de investigación senior en Google DeepMind.
Habla: Juan Carlos GilSignificado #7 · Palabras #1thor greipel deepmind inteligencia artificialcontrol partido famosísimo isidolcreador fagón deepmindorigen hindú pushmet kohliturbante y religión pushmet kohlirelación turbante religión hinduismopushmit kohli investigador senior googledepmindinvestigación inteligencia artificial asuntos científicosdesarrollo alfago por pushmit kohli…lo podría pronunciar así, pero bueno, me quise asegurar y me dijo: sí, sí, digo, vale. Sí, dijo que lo habías pronunciado muy bien Juan Carlos; quieres rápidamente hacer la introducción y pasamos ya a poner la entrevista. Bueno, pues sí, estas dos personas. Thor Greipel, disculpad, es un científico de DeepMind especializado en inteligencia artificial, en particular aprendizaje automático y era especialmente relevante en este contexto porque fue parte del equipo original y estuvo en Seúl jugando, aportando su control al partido famosísimo contra el Isidol. De hecho, en su página personal aparece: Contribuí a crear al fagón. Es como quizá la frase que quede para la historia. Además, se explica como un libro abierto. Vamos, a mí me dejó realmente impresionado oírle. Pushmet Kohli, el hindú, no estaba entonces en DeepMind; creo que estaba en... Perdón, es que no sabemos si es hindú, porque hindú es una religión. Ciertamente. Es de origen hindú. Bueno, pero lleva el turbante, ¿no es eso estar relacionado con la religión? Sería sí. No, sí, no, sí. Correcto, vale. Bueno, pues estaban, no sé si en IBM en aquel momento, bueno, que no estaba en DeepMind, o sea que no formó parte core del equipo de AlphaGo, sin embargo luego DeepMind le reclutó y ahora es investigador senior y vicepresidente de Research, de investigación de inteligencia artificial para asuntos científicos en Google DeepMind y entonces él sí fue parte pivotal en el desarrollo de alfago, digamos, de alfafol quería decir, perdón, sí, y de otros proyectos científicos que si tenemos tiempo comentamos, alguno de ellos saqué a colación en la entrevista. Vale, pues vamos ya con la entrevista. Perfecto, gracias chicos. Pues ponemos la entrevista y volvemos aquí un ratillo; dura 26 minutos casi exacto. Sí, María. Quiero decir que tenemos suerte de tener a Juan Carlos y Alberto porque creo que no puede haber mejores…
Francis Villatoro explica cómo AlphaGo utiliza dos redes neuronales, la red de política y la red de valor, para reducir el espacio de búsqueda al imitar la capacidad humana de identificar movimientos prometedores.
Palabras #3reducción espacio búsqueda alphagoredes neuronales alphagoaguja en un pajar alphagored política imita jugadores humanosalphago reduce espacio búsqueda redes neuronalesentrenamiento red política partidas expertosmovimientos prometedores según alphagored valor estimación partida gopartida go movimientos inicialesaprendizaje automático tablero goredes neuronales árbol juego combinatorio…primeros movimientos por ejemplo y luego la duración del juego es la profundidad de este árbol. Y bueno sabes eso genera una estructura combinatoria realmente enorme y si quieres jugar de forma óptima prácticamente tienes que recorrer toda esa estructura. Y entonces la gran pregunta que nuestro trabajo con AlphaGo fue capaz de responder es: ¿cómo reducir ese espacio de búsqueda? De modo que ahora, aunque seguimos buscando una aguja en un pajar, la estamos buscando en un pajar mucho más pequeño. Y todo esto se lleva a cabo con la asistencia de redes neuronales. En este escenario hay dos redes neuronales que AlphaGo empleó; a una de ellas la conocemos como la red de política y a la otra la identificamos como la red de valor. La red de políticas es la que imita la capacidad de los humanos de observar el tablero y seleccionar los movimientos que parecen más prometedores. Fue entrenada con muchísimas partidas de expertos humanos y le permite a la red neuronal decir, oh, sabes, no voy a analizar todos los movimientos posibles; solo me voy a fijar en aquellos movimientos que me saltan a la vista, que destacan, justo como lo harían para un jugador humano de Go como tú mismo y lo que eso hace es que el árbol se vuelva más estrecho porque estos son todos los movimientos, pero ahora solo estamos considerando una pequeña selección de movimientos en cada etapa y eso es muy útil. La red de valor resulta muy útil, ya que normalmente tendríamos que analizar todas las variaciones hasta el mismísimo final, porque solo entonces sabríamos si el bando negro o el blanco ha ganado la partida. Pero la red de valor nos brinda la capacidad de estimar esto con mucha más antelación. Se le puede presentar un tablero que aún no está completo, quizás después de tan solo 10 o 15 movimientos de la partida, y ya es capaz de juzgar si la posición es más ventajosa para las piezas negras o para las blancas. Y esto, por supuesto, también ha sido entrenado exhaustivamente con una gran cantidad de datos de partidas utilizando técnicas de aprendizaje automático. Y así la función principal de estas dos redes neuronales consiste en reducir significativamente el tamaño de este inmenso árbol de juego combinatorio, y luego existe otra técnica muy específica. conocida como búsqueda en árbol Monte Carlo que nos permite de una manera muy eficiente explorar y analizar las ramas restantes del árbol. Gracias, muy interesante. Así que hoy es exactamente el décimo aniversario del segundo juego, creo, de AlphaGo contra…
Francis Villatoro explica cómo AlphaFold II se desarrolló desde cero utilizando una única red neuronal para predecir la estructura tridimensional de las proteínas a partir de la secuencia de aminoácidos.
Habla: Francis VillatoroPalabras #12alphafold ii red neuronalestructura tridimensional secuencia aminoácidosarquitectura red neuronal conocimiento científico…primer lugar, había una red neuronal que nos proporcionaba algunas ideas o pistas sobre qué proteínas podrían estar próximas entre sí; y luego, en segundo lugar, había un módulo más clásico que se encargaba de intentar predecir la estructura tridimensional. Para AlphaFold II comenzamos completamente desde cero y lo abordamos de principio a fin, con una única red neuronal, partiendo exclusivamente de la secuencia de aminoácidos para predecir la estructura tridimensional. Y esa elegancia y la simplicidad de aquella solución, con una gran cantidad de conocimiento científico muy interesante integrado en la arquitectura de la red neuronal, fue la clave para lograr ese asombroso éxito. Así que si lo piensas, AlphaFault resolvió ese gran desafío, pero más ampliamente es solo un paso en nuestra comprensión de la biología; así que las proteínas son los pilares de la vida y hacen que todos los fenómenos biológicos ocurran. Pero si observamos la…
Francis Villatoro explica cómo las redes neuronales han superado a las supercomputadoras en la simulación del clima, utilizando menos recursos computacionales.
Habla: Francis VillatoroSignificado #4 · Palabras #14redes neuronales simulan climasupercomputadoras vs redes neuronaleschip para simulaciones climáticasteoría desconocida modelos climáticos…muy interesantes que quizás no llegamos a apreciar o a comprender del todo y para los cuales no poseemos la teoría actual que los explique. pero de alguna manera hay una prueba de concepto que lo valida. Hay una prueba de existencia de que el modelo con mucha menos cantidad de computación de la que una supercomputadora necesitaba en más de un día para obtener un nivel de rendimiento similar puede ser superado por una red neuronal operando en un solo chip. Así que hay algo ahí que está aprovechando que el modelo ha utilizado y no comprendemos completamente en este momento cuál es esa teoría en la que está basándose Pero hay algo en las estadísticas de la naturaleza que el modelo es capaz de aprovechar y está operando no en la complejidad del peor de los casos sino en la complejidad inherente al problema mismo, lo que le permite predecir las cosas de manera muy efectiva.…
Francis Villatoro reflexiona sobre cómo los científicos de la computación se han centrado tradicionalmente en la complejidad computacional, mientras que las redes neuronales parecen haber aprovechado una menor complejidad teórica de la información para encontrar soluciones.
Habla: Francis VillatoroSignificado #11complejidad computacional científicosredes neuronales complejidad informaciónsoluciones redes neuronales villatororedes neuronales predicciones asombrosascapacidad computacional modelos redes neuronaleslímite eficiencia modelos redes neuronalesinvestigación activa redes neuronales…representan una mejor aproximación a ese conjunto mucho más amplio de cálculos que originalmente habríamos necesitado llevar a cabo. Bueno, así que quizás hay una complejidad teórica de la información del problema y luego está la complejidad computacional del Problema y siempre como científicos de la computación hemos estado pensando en el tipo de complejidad computacional. ¿Cómo representamos ahora el sistema y calculamos un estado final mientras que la complejidad de la información del problema, la complejidad teórica de la información del problema era mucho menor? Y las redes neuronales de alguna manera lo aprovecharon para, por así decirlo, dar con esas soluciones que son mejores. Pero yo no creo que hayamos encontrado una respuesta completa a la pregunta que planteaste. Es un problema de investigación activo, digamos, sobre cómo estos modelos son capaces de extraer y hacer estas predicciones asombrosas con menos capacidad de cómputo. Y ¿cuál es el límite? ¿Cuál es el límite real, el verdadero límite de cuánto más eficientes podemos llegar a serlos? Muchas gracias, Alberto. Sí, muchísimas gracias. Volvamos, si les parece, al tema de Go por un momento. No podemos terminar esto sin preguntar sobre la mítica jugada 37 que ocurrió en la segunda partida contra Lee Sedol. Esa jugada, para nuestros oyentes, fue una que los comentaristas descartaron casi por…
Alberto Aparici explica que existe una versión de Go llamada 'Go de un solo color', utilizada por los profesionales para entrenar su memoria.
Habla: Alberto ApariciPalabras #7profesionales go mismo colorlenguaje del go reconstrucción partida…completa, con que lo que hay es lo que está en el tablero y las piedras que tienen capturadas los jugadores que también están a la vista. Bueno, pues hay una versión de Go que sigue siendo información completa si has visto la partida desde el principio. Pero que para los humanos es muy difícil, que es el Go de un solo color. Los profesionales para entrenar la memoria juegan con el mismo color. Pero, ¿qué necesidad hay? ¿Qué sufrimiento? No, porque un profesional necesita conocer tanto el lenguaje del Go como para, a partir de una formación que ves, poder reconstruir por donde ha ido la partida y eso es lo que entrenan. Ahí, en realidad yo tengo una especie como de partidas estándar en mi cabeza y en esta estamos jugando la 27A. Madre mía. Sí, sí, es una locura y bueno, les ves jugar con un solo color; tú te pierdes al cabo de dos minutos básicamente y ellos pues en un…
Francis Villatoro explica que el estudio exhaustivo de aperturas y finales en Go es similar a cómo se entrenan los jugadores de ajedrez.
Habla: Francis VillatoroPalabras #19entrenamiento jugadores ajedrezaperturas clásicas go variantesfinales a cuatro fichas goconocimiento finales y aperturas go…mi cabeza y en esta estamos jugando la 27A. Madre mía. Sí, sí, es una locura y bueno, les ves jugar con un solo color; tú te pierdes al cabo de dos minutos básicamente y ellos pues en un momento de a uno dice me rindo y dices pues debe de ser que ha parecido. Pero eso es el equivalente en Go a lo que en ajedrez se llama entrenarse con aperturas; tú te estudias todas las aperturas, todas las aperturas clásicas con todas sus variantes de manera sistemática en plan puramente arbórea y te estudias finales, finales a cuatro fichas, a tres fichas, a dos fichas; te los estudias completamente y te sabes todas las posibilidades. Si tú no tienes ese conocimiento de finales y de aperturas, normalmente una persona con ese conocimiento te gana porque ves rápidamente que no conoces esos detalles. Eso es. De hecho, ese es uno de mis puntos débiles más potentes, que es que yo nunca he tenido el tiempo y la paciencia de aprenderme las aperturas, las esquinas, los yo sé que hice y todas estas cosas. Un punto…
Héctor Socas explica cómo una métrica es necesaria para optimizar el aprendizaje en redes neuronales, comparándolo con la evaluación del estado de una partida de ajedrez.
Habla: Héctor SocasSignificado #9evaluar estado partida juego gométricas para redes neuronalesaprendizaje mejora red neuronalmétrica optimiza aprendizaje redes neuronalesminimizar error estado partida ajedrezdensidad piezas centro tablero ajedrezrey acorralado indica ventaja ajedrez…más y asegurar la victoria, que no es lo mismo. Pero yo es que también quería sacar ese punto que justamente decía Alberto. El hecho de que no se trata solo de enseñarte a jugar y cómo mejorar el estado actual, ¿qué jugada me permite mejorar el estado actual? Sino que para yo saber si estoy mejorando el estado actual o no, tengo que saber evaluar el estado de la partida. Una cosa muy importante en una red neuronal es saber tener una métrica de cuánto de bien estás haciendo el trabajo, porque el aprendizaje de una red neuronal se trata de mejorar aquello que te hace que la Métrica que tú estás usando se optimice, o sea que tú minimices el error de lo que estás haciendo; hacer cosas que minimicen el error entonces para eso necesitas saber, dado el estado de la partida, saber cuánto de bueno es ese estado. Por ejemplo, en ajedrez, más o menos, tú sabes que más o menos el que tiene más piezas y el que tiene más o menos el centro del tablero tiene mayor densidad de piezas por el centro del tablero va ganando, salvo que veas que uno tiene el rey acorralado; hay como un par de cositas que te hacen ver quién va ganando la partida. Y claro, en Go debe ser mucho más complicado eso. Y yo creo que uno de los grandes éxitos para poder desarrollar AlphaGo fue poder desarrollar algo que te permite evaluar cuánto de bien lo estás haciendo. Pero llevando la conversación, saliendo un poco del…
Héctor Socas expresa su sorpresa y decepción con respecto a la estructura interna de AlphaGo, señalando que consta de tres componentes principales: dos redes neuronales y un árbol de Monte Carlo.
Habla: Héctor SocasPalabras #17árbol de monte carlo en alfago…a futuro, pero muchísimos otros problemas. Eso no es así y ese es el primer tipo de los problemas, es los que alfa cero y sus descendientes han dominado claramente y en el segundo tipo de problemas es donde empezamos a ver avances en los últimos años. Yo quería comentar una de las cosas que para mí fueron más llamativas de la entrevista y que para mí fue un poco una decepción, que es que explicaron que realmente alfago es un sistema que tiene tres componentes principales, ¿no? tiene dos redes neuronales y tiene un árbol de jugados, un árbol de Monte Carlo. Digo que para mí fue un poco una decepción porque yo pensaba en su momento cuando se hablaba de esto y en medio de todo el "hype" se decía que este era un sistema que, por primera vez desde cero, había aprendido a jugar este juego tan complejo. Entonces yo,…
Francis Villatoro explica las consecuencias del sobreaprendizaje en redes neuronales, señalando que es contraproducente y requiere un aprendizaje suave pero extenso con una red neuronal lo suficientemente grande.
Habla: Francis VillatoroSignificado #2 · Palabras #11sobreaprendizaje en redes neuronalesaprendizaje suave con red neuronaltamaño similar a conjunto tokensinteligencia artificial romper paradigmas…que saben los filólogos, lo único que tienes que hacer es aprender correlaciones entre datos y los datos es leer muchos textos, tener muchos tokens, y cuanto más tokens tienes, cuanto más información tienes aprendida, y eso sí, no sobreaprendida, porque como Sobreaprendas, peor todavía. Tienes que aprender en muy poquitas épocas, tienes que aprender de manera muy suave, pero mucho, con una red neuronal suficientemente grande para que tenga un tamaño similar al conjunto de tokens y eso era romper completamente todo lo que se sabía de inteligencia artificial y cuando se hizo eso se descubrió que el lenguaje natural es. trivial, las correlaciones que aprenden los bebés y los niños las aprenden fácilmente porque en realidad el lenguaje es trivial y lo mismo hemos observado con el ajedrez o lo hemos observado con el go; son juegos humanos por lo tanto son triviales. Si tú…
María Ribes continúa la conversación sobre cómo los bebés adquieren el lenguaje de forma inconsciente, comparando este proceso con el funcionamiento de una red neuronal.
Habla: María RibesSignificado #16 · Palabras #18bebés adquieren lenguaje inconscientered neuronal bebe aprendizajerelaciones sintácticas bebe…Y esas relaciones que tú has dicho, que tiene razón y no, y te lo voy a justificar; que los bebés aprenden de manera, como dices, trivial, bueno, de manera informal, no sé cómo decir, inconsciente. Es la diferencia entre adquirir y aprender una lengua, ¿no? Actual tu bebé, cuando le hablas no le dices, y ahora cariñito, vamos a aprender el plural, y ahora vamos a formar el femenino. Tú hablas y el bebé infiere cosas, que es como podríamos decir que hace la red neuronal: ve cosas, escucha y aprende. Pero esas relaciones sintácticas, Yo me temo que tengo que llevarte a la contraria, Francis, porque no son triviales, de hecho, es el fundamento de las lenguas. El lenguaje humano es la capacidad para comunicarnos, entonces si pensamos en el origen del lenguaje, que es imposible saberlo, es…
Francis Villatoro explica las limitaciones prácticas del entrenamiento de modelos de lenguaje basados en reglas, señalando que el cómputo disponible limita el número de épocas de entrenamiento.
Habla: Francis VillatoroSignificado #3 · Palabras #9reglas en inteligencia artificial modelos lenguajeevitar sobreaprendizaje repetición datosfrancis villatoro reglas inteligencia artificiallimitaciones cómputo entrenamiento modelos lenguajebillones tokens aprendizaje épocas entrenamientointeligencia artificial wikipedia todos idiomas…lo que puedes aceptar que cometa errores en las construcciones y en los modismos, que no entienda bien ciertos dejes, ciertos dobles sentidos porque ha aprendido una segunda lengua o sea, se planteaban eso como casos pilotos para montar un test de Turing y De repente, cuando te llegan los grandes modelos de lenguaje con el modelo de atención y tú aplicas una serie de reglas que nunca se habían aplicado en inteligencia artificial, que es básicamente las redes neuronales tienen que ser muy grandes, tan grandes como el conjunto de datos, y las redes no tienen que aprender muchas veces. Muéstrale todos los datos una, dos, tres, cuatro, cinco veces, pero no las muestres muchas más que sobreaprenden y entonces lo hacen peor. Son reglas muy tontas, muy sencillitas, claro. Ahora ya estás trabajando con billones, literalmente, billones de tokens en los aprendizajes y estamos hablando de una o dos épocas de entrenamiento, no más, porque literalmente no hay cómputo para hacer más; o sea, no se puede hacer más, y eso es más que suficiente. Es decir, y resulta que una inteligencia artificial recibe toda la Wikipedia y solo por ver toda la Wikipedia en todos los idiomas, ya es capaz de hablar en todos los idiomas. Pero ¿por qué habla? Y las mete ahí. Son puras correlaciones. Y hace todo eso sin necesidad de saber lo que es un verbo, lo que es un adjetivo, lo que es un plural. Pero sí lo sabe, igual que tú lo sabes y no lo sabes. O sea, la mayoría de las personas cuando estamos hablando una…
Héctor Socas explica la diferencia entre cómo IBM venció a Kasparov mediante reglas programadas y cómo las redes neuronales aprenden observando ejemplos, comparándolo con el proceso de adquisición del lenguaje en humanos.
Habla: Héctor SocasSignificado #6ibm venció a kasparov reglas programadasredes neuronales aprenden observando ejemplosadquisición del lenguaje viendo ejemplosfrancis villatoro redes neuronales…lo que es un verbo. Pero tú, si no supieras eso, no podrías hablar ni podrías comprender lo que estamos haciendo ahora nosotros. Yo creo que estamos de acuerdo con lo que quería decir Francis, corrígeme si me equivoco, efectivamente, es que no se trata. De enseñar, de programarles las reglas. Yo hablaba antes de la diferencia entre el IBM que le ganó a Kasparov con reglas que habían sido programadas frente a una máquina de redes neuronales que había aprendido a base de ver ejemplos y que el ser humano aprende, adquiere la lengua, perdona, siguiendo esa nomenclatura que tú usas María: de adquirir frente a aprender; adquieres la lengua viendo ejemplos y esas reglas están ahí pero no es como el bebé las aprende, sino simplemente viendo ejemplos, muchos ejemplos y de esa forma aprenden también las redes neuronales, que creo que era lo que se refería a Francis y no he entendido mal. Hay personas que aprenden una lengua sin ir a clase, que la aprenden en la calle o hablando con otros, que siempre tendrán algún fallo, porque si te pones ahora a aprender serbio y te vas a serbio y tienes amigos serbios, hablas perfectamente, pero no declina…
Francis Villatoro explica cómo las inteligencias artificiales han demostrado que el juego Go, previamente considerado el más difícil para los humanos debido a su complejidad estadística, puede ser dominado por redes neuronales con un conocimiento mínimo del juego.
Habla: Francis VillatoroSignificado #14go juego complejidad estadísticaredes neuronales conocimiento mínimo gointeligencias artificiales dominan juego gofrancis villatoro explica go trivial…serbio y te vas a serbio y tienes amigos serbios, hablas perfectamente, pero no declina los objetos o los sujetos y te falta ese, pero lo aprendes sin darte cuenta Para acabar, lo resitúo donde yo quería ir, o no sé, quizás lo dije mal y desví la atención. Lo que yo quería decir es que se pensaba que el Go era un juego difícil. Se pensaba que era el juego humano más difícil, porque el cálculo estadístico trivial te daba una enorme cantidad de posibilidades; y lo que nos ha mostrado estas nuevas inteligencias artificiales es que es un juego jugado por humanos, luego trivial, es decir, con un número adecuado de tokens, una red neuronal con suficiente número de pesos sinápticos, puede, jugando sola, sin tener ningún tipo de conocimiento humano, obviamente las mínimas reglas de qué es lo que se pretende y qué es válido y qué no es válido, pero con un conocimiento ridículo del juego, infantil del juego, jugando contra sí misma, puede obtener un nivel de juego infinito comparado con el mejor humano del mundo; y eso es una cosa. Que hace 10 años era tabú decirlo, no se podía decir, era imposible, pero hoy sabemos que es trivial: es decir, todo lo que hacen los humanos habitualmente lo van a poder hacer las máquinas de manera trivial solamente escalando el tamaño. Eso no significa, y…
Ignacio Crespo explica que la neuroplasticidad depende de la edad y puede ser entrenada, conectando con una idea previamente mencionada por Francis Villatoro sobre el desarrollo de conexiones al aprender idiomas.
Habla: Ignacio CrespoPalabras #15neuroplasticidad depende edadconexiones al aprender idiomas francisestablecer correlaciones idiomas…una fantasía, pero la plasticidad cerebral también se... ¿No, Ignacio? Según los idiomas que tú aprendas, ¿estás volviendo a desarrollar ese sistema innato que dices, esas estructuras que podemos tener ahí diseñadas? No es incorrecto, pero es más complejo. Sí que diría que la neuroplasticidad depende sobre todo de la edad, pero no solo de eso, y lo sabemos: se puede entrenar a ser mejor. Y aquí hay otra cosa que sí que tiene que ver con lo que comentaba Francis, y es que no solo es que por aprender más idiomas desarrolles la facilidad de establecer conexiones, sino que tienes más ejemplos de los que tirar para establecer correlaciones entre ellos, que esta es otra aproximación relevante. Yo solo quería decir dos cosas, porque yo creo que María me puede, vamos, que también sabrá de esto muchísimo más que yo, pero que cuando existen dos problemas, a veces, cuando aprendes una lengua nueva, está la fosilización del lenguaje, que a veces es…
Héctor Socas aclara un punto sobre cómo las habilidades lingüísticas se adaptan tras una lesión cerebral, enfatizando que no implica mover conocimiento a otra zona.
Habla: Héctor SocasSignificado #20 · Palabras #4lesión cerebral desarrollo habilidadestraslado habilidades lingüísticas cerebroregión cerebral lesión entrenamientolesión cerebral adaptación lingüísticaconocimiento cerebro no trasladablered neuronal cerebral entrenamientoseñora entrena zona lesionadamemoria de francis villatororedes neuronales cerebrales dinámicasreconfiguración direccional de redesalmacenamiento de información en cerebro…misma región y cuando estimula generando daño en esa región y obligas a que se mueva a la función, se mueve de manera simultánea. La estimulación que se aplicó es la misma que se aplicaría para trasladar cualquier otra cosa, y se trasladaron los dos idiomas. Aquí hay una cosa también interesante y es: Perdón, déjame aclarar una cosa aquí porque yo creo que tú no trasladas características de una región concreta sino que tú vas lesionando la región del cerebro que sabes que vas a operar mientras la persona sigue entrenando todas sus habilidades para. Asegurarse de que lo que sea que hubiera ahí en esa zona se va trasladando a otra zona del cerebro, ¿no? Pero no es que uno pueda cogerla y digo, porque a lo mejor habrá oyentes que se hayan quedado con la impresión de que uno puede ir al cerebro, coger un trocito de una caja que tiene conocimiento de algo y ponerla en otro sitio, ¿no? Y no sabemos realmente dónde está cada cosa, pero ahí lo que sé, esa intervención es como muy genérica; es decir, bueno, todo lo que había aquí, como yo lo voy lesionando, no sé si estoy lesionando algo importante, pero como lo voy entrenando al mismo tiempo, entonces todo lo que la señora está entrenando, pues sé que lo que hubiera ahí se va a repartir por otras partes de la red neuronal cerebral. No es que se trasplante, efectivamente, pero incluso en estados totalmente fisiológicos, si yo ahora pudiera saber dónde tiene Francis codificado en su cerebro información relacionada con, por ejemplo, el último paper que ha leído, imagínate, y dentro de dos semanas fuera a buscarlo al mismo sitio exactamente, es probable que no esté ahí. Sabemos que hay pequeños movimientos de esas redes que se activan correlacionadas con determinados recuerdos o estímulos y eso es lo que se aprovecha en estos casos; que hay cierta facilidad para que se reconfigure simplemente que sea direccional esa reconfiguración para poco a poco conseguir que cambie un montón. Hay, aparte de estudios en humanos que son muy interesantes, hay estudios aún más radicales incluso con animales, lógicamente, y había algunos casos en los que habían conseguido desplazar totalmente la corteza visual de algunos animales, que en principio…
