Francis Villatoro explica cómo las inteligencias artificiales han demostrado que el juego Go, previamente considerado el más difícil para los humanos debido a su complejidad estadística, puede ser dominado por redes neuronales con un conocimiento mínimo del juego.
…serbio y te vas a serbio y tienes amigos serbios, hablas perfectamente, pero no declina los objetos o los sujetos y te falta ese, pero lo aprendes sin darte cuenta Para acabar, lo resitúo donde yo quería ir, o no sé, quizás lo dije mal y desví la atención. Lo que yo quería decir es que se pensaba que el Go era un juego difícil. Se pensaba que era el juego humano más difícil, porque el cálculo estadístico trivial te daba una enorme cantidad de posibilidades; y lo que nos ha mostrado estas nuevas inteligencias artificiales es que es un juego jugado por humanos, luego trivial, es decir, con un número adecuado de tokens, una red neuronal con suficiente número de pesos sinápticos, puede, jugando sola, sin tener ningún tipo de conocimiento humano, obviamente las mínimas reglas de qué es lo que se pretende y qué es válido y qué no es válido, pero con un conocimiento ridículo del juego, infantil del juego, jugando contra sí misma, puede obtener un nivel de juego infinito comparado con el mejor humano del mundo; y eso es una cosa. Que hace 10 años era tabú decirlo, no se podía decir, era imposible, pero hoy sabemos que es trivial: es decir, todo lo que hacen los humanos habitualmente lo van a poder hacer las máquinas de manera trivial solamente escalando el tamaño. Eso no significa, y…
Francis Villatoro explica cómo AlphaGo utiliza dos redes neuronales, la red de política y la red de valor, para reducir el espacio de búsqueda al imitar la capacidad humana de identificar movimientos prometedores.
Palabras #2reducción espacio búsqueda alphagoredes neuronales alphagoaguja en un pajar alphagored política imita jugadores humanosalphago reduce espacio búsqueda redes neuronalesentrenamiento red política partidas expertosmovimientos prometedores según alphagored valor estimación partida gopartida go movimientos inicialesaprendizaje automático tablero goredes neuronales árbol juego combinatorio…primeros movimientos por ejemplo y luego la duración del juego es la profundidad de este árbol. Y bueno sabes eso genera una estructura combinatoria realmente enorme y si quieres jugar de forma óptima prácticamente tienes que recorrer toda esa estructura. Y entonces la gran pregunta que nuestro trabajo con AlphaGo fue capaz de responder es: ¿cómo reducir ese espacio de búsqueda? De modo que ahora, aunque seguimos buscando una aguja en un pajar, la estamos buscando en un pajar mucho más pequeño. Y todo esto se lleva a cabo con la asistencia de redes neuronales. En este escenario hay dos redes neuronales que AlphaGo empleó; a una de ellas la conocemos como la red de política y a la otra la identificamos como la red de valor. La red de políticas es la que imita la capacidad de los humanos de observar el tablero y seleccionar los movimientos que parecen más prometedores. Fue entrenada con muchísimas partidas de expertos humanos y le permite a la red neuronal decir, oh, sabes, no voy a analizar todos los movimientos posibles; solo me voy a fijar en aquellos movimientos que me saltan a la vista, que destacan, justo como lo harían para un jugador humano de Go como tú mismo y lo que eso hace es que el árbol se vuelva más estrecho porque estos son todos los movimientos, pero ahora solo estamos considerando una pequeña selección de movimientos en cada etapa y eso es muy útil. La red de valor resulta muy útil, ya que normalmente tendríamos que analizar todas las variaciones hasta el mismísimo final, porque solo entonces sabríamos si el bando negro o el blanco ha ganado la partida. Pero la red de valor nos brinda la capacidad de estimar esto con mucha más antelación. Se le puede presentar un tablero que aún no está completo, quizás después de tan solo 10 o 15 movimientos de la partida, y ya es capaz de juzgar si la posición es más ventajosa para las piezas negras o para las blancas. Y esto, por supuesto, también ha sido entrenado exhaustivamente con una gran cantidad de datos de partidas utilizando técnicas de aprendizaje automático. Y así la función principal de estas dos redes neuronales consiste en reducir significativamente el tamaño de este inmenso árbol de juego combinatorio, y luego existe otra técnica muy específica. conocida como búsqueda en árbol Monte Carlo que nos permite de una manera muy eficiente explorar y analizar las ramas restantes del árbol. Gracias, muy interesante. Así que hoy es exactamente el décimo aniversario del segundo juego, creo, de AlphaGo contra…
Francis Villatoro explica cómo AlphaFold II se desarrolló desde cero utilizando una única red neuronal para predecir la estructura tridimensional de las proteínas a partir de la secuencia de aminoácidos.
Habla: Francis VillatoroPalabras #7alphafold ii red neuronalestructura tridimensional secuencia aminoácidosarquitectura red neuronal conocimiento científico…primer lugar, había una red neuronal que nos proporcionaba algunas ideas o pistas sobre qué proteínas podrían estar próximas entre sí; y luego, en segundo lugar, había un módulo más clásico que se encargaba de intentar predecir la estructura tridimensional. Para AlphaFold II comenzamos completamente desde cero y lo abordamos de principio a fin, con una única red neuronal, partiendo exclusivamente de la secuencia de aminoácidos para predecir la estructura tridimensional. Y esa elegancia y la simplicidad de aquella solución, con una gran cantidad de conocimiento científico muy interesante integrado en la arquitectura de la red neuronal, fue la clave para lograr ese asombroso éxito. Así que si lo piensas, AlphaFault resolvió ese gran desafío, pero más ampliamente es solo un paso en nuestra comprensión de la biología; así que las proteínas son los pilares de la vida y hacen que todos los fenómenos biológicos ocurran. Pero si observamos la…
Francis Villatoro reflexiona sobre cómo los científicos de la computación se han centrado tradicionalmente en la complejidad computacional, mientras que las redes neuronales parecen haber aprovechado una menor complejidad teórica de la información para encontrar soluciones.
Habla: Francis VillatoroSignificado #8complejidad computacional científicosredes neuronales complejidad informaciónsoluciones redes neuronales villatoro…representan una mejor aproximación a ese conjunto mucho más amplio de cálculos que originalmente habríamos necesitado llevar a cabo. Bueno, así que quizás hay una complejidad teórica de la información del problema y luego está la complejidad computacional del Problema y siempre como científicos de la computación hemos estado pensando en el tipo de complejidad computacional. ¿Cómo representamos ahora el sistema y calculamos un estado final mientras que la complejidad de la información del problema, la complejidad teórica de la información del problema era mucho menor? Y las redes neuronales de alguna manera lo aprovecharon para, por así decirlo, dar con esas soluciones que son mejores. Pero yo no creo que hayamos encontrado una respuesta completa a la pregunta que planteaste. Es un problema de investigación activo, digamos, sobre cómo estos modelos son capaces de extraer y hacer estas predicciones asombrosas con menos capacidad de cómputo. Y ¿cuál es el límite? ¿Cuál es el límite real, el verdadero límite de cuánto más eficientes…
Héctor Socas retoma un punto mencionado por Alberto Aparici sobre la importancia de evaluar el estado de una partida en el juego Go para determinar si se está mejorando.
Habla: Héctor SocasPalabras #3evaluar estado partida juego gométricas para redes neuronalesaprendizaje mejora red neuronal…más y asegurar la victoria, que no es lo mismo. Pero yo es que también quería sacar ese punto que justamente decía Alberto. El hecho de que no se trata solo de enseñarte a jugar y cómo mejorar el estado actual, ¿qué jugada me permite mejorar el estado actual? Sino que para yo saber si estoy mejorando el estado actual o no, tengo que saber evaluar el estado de la partida. Una cosa muy importante en una red neuronal es saber tener una métrica de cuánto de bien estás haciendo el trabajo, porque el aprendizaje de una red neuronal se trata de mejorar aquello que te hace que la Métrica que tú estás usando se optimice, o sea que tú minimices el error de lo que estás haciendo; hacer cosas que minimicen el error entonces para eso necesitas saber, dado el estado de la partida, saber cuánto de bueno es ese estado. Por ejemplo, en…
Francis Villatoro explica las consecuencias del sobreaprendizaje en redes neuronales, señalando que es contraproducente y requiere un aprendizaje suave pero extenso con una red neuronal lo suficientemente grande.
Habla: Francis VillatoroSignificado #6sobreaprendizaje en redes neuronalesaprendizaje suave con red neuronaltamaño similar a conjunto tokensinteligencia artificial romper paradigmas…que saben los filólogos, lo único que tienes que hacer es aprender correlaciones entre datos y los datos es leer muchos textos, tener muchos tokens, y cuanto más tokens tienes, cuanto más información tienes aprendida, y eso sí, no sobreaprendida, porque como Sobreaprendas, peor todavía. Tienes que aprender en muy poquitas épocas, tienes que aprender de manera muy suave, pero mucho, con una red neuronal suficientemente grande para que tenga un tamaño similar al conjunto de tokens y eso era romper completamente todo lo que se sabía de inteligencia artificial y cuando se hizo eso se descubrió que el lenguaje natural es. trivial, las correlaciones que aprenden los bebés y los niños las aprenden fácilmente porque en realidad el lenguaje es trivial y lo mismo hemos observado con el ajedrez o lo hemos observado con el go; son juegos humanos por lo tanto son triviales. Si tú…
Francis Villatoro explica cómo las inteligencias artificiales han demostrado que el juego Go, previamente considerado el más difícil para los humanos debido a su complejidad estadística, puede ser dominado por redes neuronales con un conocimiento mínimo del juego.
Habla: Francis VillatoroSignificado #1 · Palabras #1go juego complejidad estadísticaredes neuronales conocimiento mínimo gointeligencias artificiales dominan juego gofrancis villatoro explica go trivial…serbio y te vas a serbio y tienes amigos serbios, hablas perfectamente, pero no declina los objetos o los sujetos y te falta ese, pero lo aprendes sin darte cuenta Para acabar, lo resitúo donde yo quería ir, o no sé, quizás lo dije mal y desví la atención. Lo que yo quería decir es que se pensaba que el Go era un juego difícil. Se pensaba que era el juego humano más difícil, porque el cálculo estadístico trivial te daba una enorme cantidad de posibilidades; y lo que nos ha mostrado estas nuevas inteligencias artificiales es que es un juego jugado por humanos, luego trivial, es decir, con un número adecuado de tokens, una red neuronal con suficiente número de pesos sinápticos, puede, jugando sola, sin tener ningún tipo de conocimiento humano, obviamente las mínimas reglas de qué es lo que se pretende y qué es válido y qué no es válido, pero con un conocimiento ridículo del juego, infantil del juego, jugando contra sí misma, puede obtener un nivel de juego infinito comparado con el mejor humano del mundo; y eso es una cosa. Que hace 10 años era tabú decirlo, no se podía decir, era imposible, pero hoy sabemos que es trivial: es decir, todo lo que hacen los humanos habitualmente lo van a poder hacer las máquinas de manera trivial solamente escalando el tamaño. Eso no significa, y…