Búsqueda · 33 momentos en 16 episodios
María RibesAlberto ApariciJuan Carlos GilIgnacio CrespoFrancis VillatoroHéctor SocasLuisa AchaerandioPushmeet Kohli · DeepMindThore Graepel · DeepMindcomplejidad computacional científicosredes neuronales complejidad informaciónsoluciones redes neuronales villatoroFrancis VillatoroAlphaGoHéctor Socasárbol de Monte Carlo
Redes Neuronales complejidad información
Con
0:000:301:001:302:002:303:003:33
Francis Villatoro reflexiona sobre cómo los científicos de la computación se han centrado tradicionalmente en la complejidad computacional, mientras que las redes neuronales parecen haber aprovechado una menor complejidad teórica de la información para encontrar soluciones.
…representan una mejor aproximación a ese conjunto mucho más amplio de cálculos que originalmente habríamos necesitado llevar a cabo. Bueno, así que quizás hay una complejidad teórica de la información del problema y luego está la complejidad computacional del Problema y siempre como científicos de la computación hemos estado pensando en el tipo de complejidad computacional. ¿Cómo representamos ahora el sistema y calculamos un estado final mientras que la complejidad de la información del problema, la complejidad teórica de la información del problema era mucho menor? Y las redes neuronales de alguna manera lo aprovecharon para, por así decirlo, dar con esas soluciones que son mejores. Pero yo no creo que hayamos encontrado una respuesta completa a la pregunta que planteaste. Es un problema de investigación activo, digamos, sobre cómo estos modelos son capaces de extraer y hacer estas predicciones asombrosas con menos capacidad de cómputo. Y ¿cuál es el límite? ¿Cuál es el límite real, el verdadero límite de cuánto más eficientes…
Significado #1 · Palabras #1
Francis Villatoro reflexiona sobre cómo los modelos de redes neuronales están logrando predicciones efectivas en el clima al aprovechar patrones estadísticos inherentes a la naturaleza.
Habla: Francis VillatoroPalabras #15redes neuronales predicciones climapatrones estadísticos inherentes naturalezacomplejidad inherente al problema climáticointerpretabilidad de los resultados limitada…un nivel de rendimiento similar puede ser superado por una red neuronal operando en un solo chip. Así que hay algo ahí que está aprovechando que el modelo ha utilizado y no comprendemos completamente en este momento cuál es esa teoría en la que está basándose Pero hay algo en las estadísticas de la naturaleza que el modelo es capaz de aprovechar y está operando no en la complejidad del peor de los casos sino en la complejidad inherente al problema mismo, lo que le permite predecir las cosas de manera muy efectiva. Y esto es un poco a costa de la interpretabilidad de los resultados, ¿verdad? Lo que significa. Quiero decir, definitivamente hay un papel para esas ecuaciones porque nos dan una comprensión más profunda. La ecuación de Navier-Stokes, ¿no? Sí, sí, exacto. Entonces creo que es decir, puedes desplegar y ver exactamente qué cálculos se han realizado, así…
Francis Villatoro reflexiona sobre cómo los científicos de la computación se han centrado tradicionalmente en la complejidad computacional, mientras que las redes neuronales parecen haber aprovechado una menor complejidad teórica de la información para encontrar soluciones.
Habla: Francis VillatoroSignificado #1 · Palabras #1complejidad computacional científicosredes neuronales complejidad informaciónsoluciones redes neuronales villatoro…representan una mejor aproximación a ese conjunto mucho más amplio de cálculos que originalmente habríamos necesitado llevar a cabo. Bueno, así que quizás hay una complejidad teórica de la información del problema y luego está la complejidad computacional del Problema y siempre como científicos de la computación hemos estado pensando en el tipo de complejidad computacional. ¿Cómo representamos ahora el sistema y calculamos un estado final mientras que la complejidad de la información del problema, la complejidad teórica de la información del problema era mucho menor? Y las redes neuronales de alguna manera lo aprovecharon para, por así decirlo, dar con esas soluciones que son mejores. Pero yo no creo que hayamos encontrado una respuesta completa a la pregunta que planteaste. Es un problema de investigación activo, digamos, sobre cómo estos modelos son capaces de extraer y hacer estas predicciones asombrosas con menos capacidad de cómputo. Y ¿cuál es el límite? ¿Cuál es el límite real, el verdadero límite de cuánto más eficientes…
Héctor Socas expresa su decepción al descubrir la estructura interna de AlphaGo, revelando que no se desarrolló completamente desde cero como él inicialmente pensaba.
Habla: Héctor SocasPalabras #10decepción héctor socas alphagoredes neuronales policy value alphagodiseño humano detrás de alphagoárbol de decisiones en alphago…más llamativas de la entrevista y que para mí fue un poco una decepción, que es que explicaron que realmente alfago es un sistema que tiene tres componentes principales, ¿no? tiene dos redes neuronales y tiene un árbol de jugados, un árbol de Monte Carlo. Digo que para mí fue un poco una decepción porque yo pensaba en su momento cuando se hablaba de esto y en medio de todo el "hype" se decía que este era un sistema que, por primera vez desde cero, había aprendido a jugar este juego tan complejo. Entonces yo, desde cero, entendía que esto era: habían hecho una red neuronal, habían puesto a jugar partidas y había aprendido; pero en cambio no, hay algo de diseño humano detrás, o sea, un humano ha decidido que hay que tener dos redes neuronales, una la de "policy", otra la de "value", que tiene que haber un árbol, o sea, que no era simplemente crear una red muy grande y ponerla a jugar; entonces, que realmente eso es un poco por donde va. al facero Claro, ese es Alpha Zero, exactamente, que vino después y el cero viene de ahí, de empezar casi que de primeros principios. Entonces, AlphaGo no está diseñado de primeros principios, sino que hay un poco de diseño, o sea, hay diseño inteligente…
Francis Villatoro explica cómo una teoría tiene implicaciones en el campo de la conciencia artificial, sugiriendo la creación de redes paralelas que exploren y analicen el estado neuronal.
Habla: Francis VillatoroSignificado #18 · Palabras #5redes paralelas conciencia artificialtomografía del estado neuronalmetainformación proceso cognitivo villatororazonamientos y metacognición…presentar para un rendimiento parecido una o dos patrones en el que sólo está presente la de primer orden y en el que están presentes las dos, y que habrá propiedades distintas que solemos asociar con el procesamiento consciente. Esa es un poco la clave. Esta teoría tiene, entre comillas, más implicaciones desde el punto de vista de lo que es la conciencia artificial porque es una de las cosas arquitectónicas que se están planteando en ese campo el definir en paralelo a las redes de aprendizaje profundo que están ejecutando tareas, tener redes en paralelo que estén explorando, haciendo tomografía del estado neuronal y viendo realmente qué está ocurriendo ahí y obteniendo información, metainformación sobre el proceso cognitivo, información que después se puede reinyestar al propio proceso cognitivo para facilitar, entre comillas, razonamientos y metacognición. Sí, justo. Y el problema, que es lo que comentábamos, es que todavía hay pocos estudios. En el momento en el que se hizo el contrast se habían hecho apenas 12, que es mucho menos que los estudios que se habían reunido de las otras teorías. Y en parte es…