Héctor Socas introduce los temas a tratar en el episodio, incluyendo avances en aprendizaje profundo como la victoria de AlphaGo sobre un campeón de Go, así como otros temas diversos como el embalsamamiento egipcio y experimentos con criogenización cerebral.
Habla: Héctor SocasSignificado #7 · Palabras #6alphago derrota campeón goembalsamamiento momias egipto antiguocriogenización tejido cerebralteorías conciencia debate científico…felicidad. Quizás hay una moraleja escondida en esto y la clave de la felicidad es el justo equilibrio. Buen tema para un tratado de autoayuda. Pero no estamos aquí hoy para eso, sino para tertuliar sobre la actualidad de la ciencia. Hoy nuestro recorrido nos Lleva a los orígenes del aprendizaje profundo moderno; vamos a retrotraernos 10 años a ese gran hito de DeepMind cuando su sistema AlphaGo derrotó en una partida legendaria al gran campeón humano de Go. Pero no solo de IA vive el Cientófilo, y tenemos más temas: el embalsamamiento de las momias en el Egipto Antiguo, los experimentos sobre criogenización de tejido cerebral, lo que algunos ven la antesala de la hibernación. Continuaremos el debate sobre las teorías de la conciencia y más cosas que irán surgiendo, seguro. Pasen y pónganse cómodas; que están ustedes en la compañía de Coffee Break Señal y Ruido. Ya Saben que tenemos una página web que es señalirruido.com. En esa página pueden encontrar todos los episodios anteriores, los 550 episodios que ya hemos producido contando este más todos los audios bonus, extra; también todas las referencias de los temas que…
Héctor Socas presenta una entrevista grabada previamente con Pushmit Colley y Tore Greipel, destacando su trabajo en DeepMind de Google y la importancia del aniversario de un hito en inteligencia artificial: el juego de Go.
Habla: Héctor SocasSignificado #1 · Palabras #2aniversario diez años partida go deepmindidioma hindi pushmit colleylaboratorio deepmind de google inteligencia artificial…pasada, que a mí me parece que ha quedado muy chula, sobre todo porque no he intervenido yo así que es un disfrute de escuchar con dos protagonistas del desarrollo de la inteligencia artificial en esta última década que son las personas cuyos rostros ven en. la imagen de portada de este episodio, se llaman Pushmit Colley, el que aparece con un turbante y Tore Greipel, yo lo he pronunciado fatal pero María se ha pegado el curre de buscar cómo pronunciarlo adecuadamente y además hablarles a cada uno de ellos en su idioma natal, que también te lo ha traducido, porque uno de ellos su idioma natal es hindi y el otro es alemán. Y pues son del laboratorio DeepMind de Google, que saben que ha sido uno de los grandes motores de la inteligencia artificial en los últimos 15 años o así, y sobre todo porque estos días se cumple un aniversario muy importante que son 10 años de esa partida de Go, el juego, Ese juego asiático del que ahora nos hablará Alberto, que es muy aficionado. De hecho, yo recuerdo que de esto hablamos en Coffee Break hace 10 años y que yo no sé si llegamos a hablar de cuando tuvo lugar esta partida, pero sí que hubo episodios en los que…
Héctor Socas explica la diferencia entre la complejidad de programar máquinas para jugar al ajedrez y a juegos como el Go, destacando que el ajedrez es más fácil de programar.
Habla: Héctor SocasSignificado #8 · Palabras #13deep blue venció a kasparovmáquinas derrotan campeones humanos ajedrezprogramación limitada juegos complejosajedrez más fácil programarinteligencia artificial google ajedrezjuegos como el go complejidad…de cuando tuvo lugar esta partida, pero sí que hubo episodios en los que hablamos de esta serie, de este enfrentamiento en este juego tan complejo del que Alberto ahora nos va a hablar un poco y fue muy revolucionario porque a ver ya teníamos desde los. Años 90, desde que Deep Blue venció a Kasparov, ya teníamos máquinas que eran capaces de derrotar a campeones humanos en ajedrez y otros juegos así intelectuales, ¿no? Pero yo creo que la gran diferencia es que hasta ese momento eran máquinas programadas y ya, y claro, eso de programar, esa filosofía de programar no sirve para un juego tan complejo como el Go. Incluso para el ajedrez valía, fíjense ustedes: el ajedrez es un juego que tenemos como algo tan complejo y tan elevado intelectualmente. Es más fácil programar máquinas que puedan derrotarte en ajedrez que en juegos como el Go. El logro es que aquí ya empezaba; esto era parte de un proyecto de Google de desarrollar inteligencias artificiales que pudieran jugar y aprender las reglas de los juegos. Aprenderlas según iba jugando. Y esto decíamos: María que nos recordaba juegos de guerra, como decían desde el principio de la película: que Whopper estaba continuamente jugando a la Tercera Guerra Mundial y ese fruto de estar 24 horas al día, 7 días a la…
Héctor Socas agradece a Mariana Aquero, del departamento de comunicación de Google en España, por ponerse en contacto con el podcast para promocionar el décimo aniversario del Movimiento 37 en el juego de Go.
Habla: Héctor SocasPalabras #3aniversario movimiento 37 googlemariana aquero departamento comunicación googlepromoción aniversario juego goagradecimiento mariana google españaentrevista personas difíciles contactodepartamento comunicación google facilita entrevistagrabación técnica héctor socasparticipación juan carlos gil entrevista…décimo aniversario del día en el que se jugó la partida del famoso Movimiento 37, del cual hablaremos ahora y Alberto nos contará un poco, pero que fue algo muy rompedor e inesperado, un movimiento que hizo la máquina que fue sorprendente para todo el mundo. Entonces, pues Google ha estado estos días promocionando este aniversario, contactando con medios de comunicación y en nuestro caso, debo decir que quiero dar las gracias a Mariana Aquero, del Departamento de Comunicación de Google en España, que se puso en contacto con. nosotros porque Mariana, según nos confesó, es oyente del programa y a ella le hace ilusión el ofrecernos esta posibilidad y que esta entrevista a estas dos personas, que ahora comentaremos un poco pues que pudiéramos tener esta oportunidad en Coffee Break y le quiero dar las gracias porque bueno es gente con la que es muy difícil poder contactar y poder tener esta oportunidad de estar hablando con ellos y el departamento de comunicación de Google a través en este caso de Mariana pues no facilitó esa entrevista no fue fácil porque bueno hubo también que reprogramar éramos por nuestra parte tres personas que iban a partir bueno de hecho 4 conmigo porque yo iba a estar grabando y encargándome de la parte técnica, más María, Alberto y Juan Carlos que iban a estar encargándose de hacer la entrevista propiamente dicho, más los dos Entrevistados, más Mariana, pues era como había que juntar a mucha gente y algunas, en este caso, tanto Pushmit como Tore, pues con personas con agendas muy complicadas. Así que nuestro agradecimiento; yo tenía también ciertas dudas de cómo íbamos a hacer…
Francis Villatoro y Juan Carlos Gil discuten sobre el enfrentamiento entre Lee Sedol y AlphaGo, explicando que un humano ya habría ganado si hubiera logrado vencer a la máquina en dos de tres partidas.
Habla: Francis VillatoroSignificado #3 · Palabras #11jugada inusual lee sedol alphagomovimientos inesperados alphago deepmindmáquina confundida por lissedolvictoria humana contra alphagolee sedol vence a fagódeepmind parchea defecto alphagoaprendizaje jugando contra la máquina…las partidas a Lissedol 4-1, Alberto 4-1, 4-1, sí la cuarta la ganó la cuarta es el retorno de la humanidad y recordad, la cuarta la ganó Lissedol y acojonó a Dismain porque Dismain dijo: como me gane la quinta, porque lo que hizo fue engañar a la máquina. Queda dudoso, ¿no? Lissedol hizo una jugada absolutamente idiota en plan: esto la máquina no lo va a entender y va a fallar, que es que estuvo probando muchas cosas y lo logró; la máquina completamente se perdió, no se enteró de nada, de la misa a la mitad y entonces pensaron los de DeepMind, como en la quinta vuelva a hacer lo. Mismo Licedol, con que gane 2 de 3, ya el humano ha ganado la máquina porque el humano ha tenido que aprender a jugar contra la máquina y lo ha logrado y la ha vencido; entonces era fundamental que en la quinta volviera a ganar al Fagó y ganó al Fagó. Claro, y DeepMind confesó que entre la cuarta y la quinta parcheó ese defecto, muy a posterior y varios años después, así se aprende. También, bueno quería llegar con todo esto al famoso segundo juego, que es donde tiene lugar la jugada 37, de la que hablamos en la entrevista. Y de hecho lo están preguntando también en el chat, lo acabo de ver entonces, la jugada 37 es básicamente una…
Alberto Aparici analiza una jugada controvertida del segundo enfrentamiento entre Lee Sedol y AlphaGo, explicando cómo los comentaristas la consideraron un error debido a su falta de invasión o dominio del centro.
Habla: Alberto ApariciPalabras #16error lee sedol contra alfagojugada controvertida alfago centrolee sedol fumando durante partidaalfago análisis 12 minutos…jugando con gente muy muy buena, hacer una jugada que a priori no es óptima es como en plan de, buf, te va a ir mal Te va a ir mal porque van a aprovechar el carácter no óptimo de esta jugada para ganarte, ¿vale? Y eso es lo que ellos querían decir con error Todos dijeron, esta jugada no puede estar bien, porque efectivamente no estás invadiéndole, pero tampoco estás dominando el centro ¿Qué estás haciendo exactamente? En cambio, Lissedol, que había perdido ya una partida contra Alfago, estaba fumando en ese momento Estaba fumando en el exterior y cuando volvió de fumar y vio la jugada de Alfago, el tío se pasó 12 minutos pensando que no es lo que haces cuando hay un error evidente. Cuando hay un error evidente te aprovechas, dices vale pues juego aquí y se acabó, me aprovecho de este error. No, no, no. Él vio la jugada y dijo, ostras, ¿qué está intentando hacer? Y luego lo dijo que le había parecido una jugada súper interesante y por…
Alberto Aparici explica cómo AlphaGo realizó una jugada lógica en la quinta fila para avanzar hacia el centro del tablero, aprovechando piedras previamente colocadas en la esquina inferior izquierda.
Habla: Alberto ApariciPalabras #17alfago quinta fila centro tableropiedras esquina inferior izquierda alfagojugada tablero completo go…con error; con un tablero tan vacío, nada te condena inmediatamente, pero sí que es verdad que a priori si se juega como casi todos los humanos juegan, hay jugadas que te dejan en una pequeña desventaja. Pues esa era la jugada 37 al final, lo que resultó. Es que Alfago estaba haciendo lo que es lógico con una jugada en la quinta fila, que es jugar hacia el centro; él tenía toda una serie de piedras en la esquina inferior izquierda y a la hora de desarrollarlas, esas piedras que colocó a la derecha terminaron rimando con todo aquello e hicieron una jugada de tablero completo, que son las buenas en Go. Claro, los humanos no somos buenos jugando con muchas opciones. Nos gusta más jugar en la esquina; las esquinas pues está todo mucho más claro. Alfagó en ese caso estaba jugando a tablero completo y al final esas piedras que colocó en la derecha fueron importantes para la esquina inferior izquierda, y de ahí la…
Juan Carlos Gil explica que Pushmit Kohli, aunque inicialmente no formó parte del equipo central de AlphaGo en IBM, fue posteriormente reclutado por DeepMind y ahora ocupa un puesto de investigación senior en Google DeepMind.
Habla: Juan Carlos GilSignificado #2 · Palabras #1thor greipel deepmind inteligencia artificialcontrol partido famosísimo isidolcreador fagón deepmindorigen hindú pushmet kohliturbante y religión pushmet kohlirelación turbante religión hinduismopushmit kohli investigador senior googledepmindinvestigación inteligencia artificial asuntos científicosdesarrollo alfago por pushmit kohli…lo podría pronunciar así, pero bueno, me quise asegurar y me dijo: sí, sí, digo, vale. Sí, dijo que lo habías pronunciado muy bien Juan Carlos; quieres rápidamente hacer la introducción y pasamos ya a poner la entrevista. Bueno, pues sí, estas dos personas. Thor Greipel, disculpad, es un científico de DeepMind especializado en inteligencia artificial, en particular aprendizaje automático y era especialmente relevante en este contexto porque fue parte del equipo original y estuvo en Seúl jugando, aportando su control al partido famosísimo contra el Isidol. De hecho, en su página personal aparece: Contribuí a crear al fagón. Es como quizá la frase que quede para la historia. Además, se explica como un libro abierto. Vamos, a mí me dejó realmente impresionado oírle. Pushmet Kohli, el hindú, no estaba entonces en DeepMind; creo que estaba en... Perdón, es que no sabemos si es hindú, porque hindú es una religión. Ciertamente. Es de origen hindú. Bueno, pero lleva el turbante, ¿no es eso estar relacionado con la religión? Sería sí. No, sí, no, sí. Correcto, vale. Bueno, pues estaban, no sé si en IBM en aquel momento, bueno, que no estaba en DeepMind, o sea que no formó parte core del equipo de AlphaGo, sin embargo luego DeepMind le reclutó y ahora es investigador senior y vicepresidente de Research, de investigación de inteligencia artificial para asuntos científicos en Google DeepMind y entonces él sí fue parte pivotal en el desarrollo de alfago, digamos, de alfafol quería decir, perdón, sí, y de otros proyectos científicos que si tenemos tiempo comentamos, alguno de ellos saqué a colación en la entrevista. Vale, pues vamos ya con la entrevista. Perfecto, gracias chicos. Pues ponemos la entrevista y volvemos aquí un ratillo; dura 26 minutos casi exacto. Sí, María. Quiero decir que tenemos suerte de tener a Juan Carlos y Alberto porque creo que no puede haber mejores…
Juan Carlos Gil explica cómo su trabajo con AlphaGo abordó el desafío de reducir el espacio de búsqueda en el juego de Go, comparándolo con buscar una aguja en un pajar.
Significado #9reducción espacio búsqueda alphagoredes neuronales alphagoaguja en un pajar alphagored política imita jugadores humanosalphago reduce espacio búsqueda redes neuronalesentrenamiento red política partidas expertosmovimientos prometedores según alphago…primeros movimientos por ejemplo y luego la duración del juego es la profundidad de este árbol. Y bueno sabes eso genera una estructura combinatoria realmente enorme y si quieres jugar de forma óptima prácticamente tienes que recorrer toda esa estructura. Y entonces la gran pregunta que nuestro trabajo con AlphaGo fue capaz de responder es: ¿cómo reducir ese espacio de búsqueda? De modo que ahora, aunque seguimos buscando una aguja en un pajar, la estamos buscando en un pajar mucho más pequeño. Y todo esto se lleva a cabo con la asistencia de redes neuronales. En este escenario hay dos redes neuronales que AlphaGo empleó; a una de ellas la conocemos como la red de política y a la otra la identificamos como la red de valor. La red de políticas es la que imita la capacidad de los humanos de observar el tablero y seleccionar los movimientos que parecen más prometedores. Fue entrenada con muchísimas partidas de expertos humanos y le permite a la red neuronal decir, oh, sabes, no voy a analizar todos los movimientos posibles; solo me voy a fijar en aquellos movimientos que me saltan a la vista, que destacan, justo como lo harían para un jugador humano de Go como tú mismo y lo que eso hace es que el árbol se vuelva más estrecho porque estos son todos los movimientos, pero ahora solo estamos considerando una pequeña selección de movimientos en cada etapa y eso es muy útil. La red de valor resulta muy útil, ya que normalmente tendríamos que analizar todas las variaciones hasta el mismísimo final, porque solo entonces sabríamos si el bando negro o el blanco ha ganado la partida. Pero la red de valor nos brinda la capacidad de…
Francis Villatoro reflexiona sobre la complejidad del ADN y cómo se relaciona con el desarrollo de organismos vivos y la creación de sistemas artificiales como AlphaGo.
Habla: Francis VillatoroSignificado #11adn y desarrollo organismos vivossemántica del genoma humanoalpha go sistemas artificialesembrión desarrollo cerebro humano…AlphaFault resolvió ese gran desafío, pero más ampliamente es solo un paso en nuestra comprensión de la biología; así que las proteínas son los pilares de la vida y hacen que todos los fenómenos biológicos ocurran. Pero si observamos la receta de la vida y Pensamos en nuestro ADN, en cómo podemos entender la semántica de nuestro propio ADN, en descifrar lo que realmente está codificado en todo el genoma. ¿Cómo es posible que un embrión sepa cómo desarrollarse completamente, que sea capaz de desarrollar un cerebro que pueda aprender de la misma manera que un ser humano y además crear sistemas o programas tan complejos como AlphaGo, que puede funcionar en sistemas y ordenadores que nosotros, que los humanos, desarrollamos? Entonces, ¿qué es ese fenómeno tan extraordinario que está codificado en el código genético? Es como el lenguaje más interesante que hemos aprendido a leer, pero no lo entendemos. Así que descifrar ese lenguaje de la vida es el gran desafío hacia el cual…
Francis Villatoro explica cómo las redes neuronales han superado a las supercomputadoras en la simulación del clima, utilizando menos recursos computacionales.
Habla: Francis VillatoroSignificado #6redes neuronales simulan climasupercomputadoras vs redes neuronaleschip para simulaciones climáticasteoría desconocida modelos climáticos…muy interesantes que quizás no llegamos a apreciar o a comprender del todo y para los cuales no poseemos la teoría actual que los explique. pero de alguna manera hay una prueba de concepto que lo valida. Hay una prueba de existencia de que el modelo con mucha menos cantidad de computación de la que una supercomputadora necesitaba en más de un día para obtener un nivel de rendimiento similar puede ser superado por una red neuronal operando en un solo chip. Así que hay algo ahí que está aprovechando que el modelo ha utilizado y no comprendemos completamente en este momento cuál es esa teoría en la que está basándose Pero hay algo en las estadísticas de la naturaleza que el modelo es capaz de aprovechar y está operando no en la complejidad del peor de los casos sino en la complejidad inherente al problema mismo, lo que le permite predecir las cosas de manera muy efectiva.…
Francis Villatoro reflexiona sobre cómo los científicos de la computación se han centrado tradicionalmente en la complejidad computacional, mientras que las redes neuronales parecen haber aprovechado una menor complejidad teórica de la información para encontrar soluciones.
Habla: Francis VillatoroSignificado #12 · Palabras #12complejidad computacional científicosredes neuronales complejidad informaciónsoluciones redes neuronales villatoro…representan una mejor aproximación a ese conjunto mucho más amplio de cálculos que originalmente habríamos necesitado llevar a cabo. Bueno, así que quizás hay una complejidad teórica de la información del problema y luego está la complejidad computacional del Problema y siempre como científicos de la computación hemos estado pensando en el tipo de complejidad computacional. ¿Cómo representamos ahora el sistema y calculamos un estado final mientras que la complejidad de la información del problema, la complejidad teórica de la información del problema era mucho menor? Y las redes neuronales de alguna manera lo aprovecharon para, por así decirlo, dar con esas soluciones que son mejores. Pero yo no creo que hayamos encontrado una respuesta completa a la pregunta que planteaste. Es un problema de investigación activo, digamos, sobre cómo estos modelos son capaces de extraer y hacer estas predicciones asombrosas con menos capacidad de cómputo. Y ¿cuál es el límite? ¿Cuál es el límite real, el verdadero límite de cuánto más eficientes…
Ignacio Crespo reflexiona sobre cómo AlphaGo seleccionó movimientos creativos en partidas de Go, destacando la combinación entre intuición y análisis exhaustivo de datos.
Habla: Ignacio CrespoPalabras #7alphago movimientos creativos gointuición análisis exhaustivo alphagoárbol de juego alphago…probables y por eso debió seguir estando en la selección y luego, claro, fue la parte de búsqueda lo que lo impulsó, ¿verdad? De alguna manera, las consecuencias de los movimientos, tal como fueron identificadas por el algoritmo de búsqueda de Árbol Monte. Carlo, resultaron tan prometedoras para el sistema que finalmente lo seleccionó. Y creo que eso nos dice algo sobre cómo funciona este proceso creativo, ¿verdad? Es la combinación de la intuición, de ese presentimiento y así sucesivamente junto con el análisis de datos, el revisar realmente todas las variaciones posibles, la búsqueda exhaustiva en el árbol de juego y fue verdaderamente creativo. Yo creo, si consideramos una interpretación razonable de lo que es la creatividad, entendiéndola como algo novedoso, como algo efectivo y como algo sorprendente, realmente lo fue; y en particular porque rompió ciertas reglas generales que los jugadores habían…
Héctor Socas explica cómo una métrica es necesaria para optimizar el aprendizaje en redes neuronales, comparándolo con la evaluación del estado de una partida de ajedrez.
Habla: Héctor SocasPalabras #19métrica optimiza aprendizaje redes neuronalesminimizar error estado partida ajedrezdensidad piezas centro tablero ajedrezrey acorralado indica ventaja ajedrez…o no, tengo que saber evaluar el estado de la partida. Una cosa muy importante en una red neuronal es saber tener una métrica de cuánto de bien estás haciendo el trabajo, porque el aprendizaje de una red neuronal se trata de mejorar aquello que te hace que la Métrica que tú estás usando se optimice, o sea que tú minimices el error de lo que estás haciendo; hacer cosas que minimicen el error entonces para eso necesitas saber, dado el estado de la partida, saber cuánto de bueno es ese estado. Por ejemplo, en ajedrez, más o menos, tú sabes que más o menos el que tiene más piezas y el que tiene más o menos el centro del tablero tiene mayor densidad de piezas por el centro del tablero va ganando, salvo que veas que uno tiene el rey acorralado; hay como un par de cositas que te hacen ver quién va ganando la partida. Y claro, en Go debe ser mucho más complicado eso. Y yo creo que uno de los grandes éxitos para poder desarrollar AlphaGo fue poder desarrollar algo que te permite evaluar cuánto de bien lo estás haciendo. Pero llevando la conversación, saliendo un poco del…
Juan Carlos Gil explica que AlphaFold tuvo una ventaja significativa al entrenarse: existía una base de datos, el Protein Data Bank (PDB), con estructuras de proteínas ya determinadas por métodos complejos.
Habla: Juan Carlos GilPalabras #18pdb protein data bankestructuras proteínas difracción rayos xproteínas target conocidas alphafoldsecuencia aminoácidos posición red átomos…uno de los criterios fundamentales, no solo por el absurdo impacto que puede tener en la humanidad, que si queréis lo discutimos, obviamente, sino porque tenían contra qué comparar, y eso no se da en muchos problemas científicos existían decenas de miles de Proteínas cuya estructura había sido ya determinada con mucho dolor mediante técnicas que a menudo llevaban decenas de años y que estaban disponibles en una base de datos accesible, el PDB, el Protein Data Bank, donde pone la secuencia de aminoácidos y la posición exacta de la red de átomos en el cristal sólido, que es como se calculan esas estructuras mediante difracción de rayos X. Entonces tenían un target para cada proteína de las conocidas, sabían cómo se iba a plegar y eso les sirvió obviamente para el entrenamiento. También en el caso de la Predicción meteorológica, ¿sabes qué ocurrió hace dos días y el tiempo que ha acabado haciendo hoy? Por lo tanto tienes puntos en el pasado y forecast a futuro, pero muchísimos otros problemas. Eso no es así y ese es el primer tipo de los problemas, es los…
Francis Villatoro explica cómo el avance en la comprensión del lenguaje natural se logró al ignorar el conocimiento de los filólogos y centrarse en aprender correlaciones entre datos a partir de grandes cantidades de texto.
Habla: Francis VillatoroPalabras #4olvidar filólogos lenguaje naturalcorrelaciones datos comprensión lenguajetokens información aprendizaje automáticoevitar sobreaprendizaje modelos lenguaje…niños, los bebés, los pequeñitos aprenden el idioma sin necesidad de ese conocimiento ortocintáctico. Entonces, en inteligencia artificial teníamos ese gran problema, por eso quería ahí meterle chicha a María. No, voy a rogar diferir y te lo voy a justificar. Pero bueno, lo que quiero decir es eso: el gran avance en la comprensión del lenguaje natural fue el momento en el que dijimos Olvídate de todo lo que saben los filólogos, lo único que tienes que hacer es aprender correlaciones entre datos y los datos es leer muchos textos, tener muchos tokens, y cuanto más tokens tienes, cuanto más información tienes aprendida, y eso sí, no sobreaprendida, porque como Sobreaprendas, peor todavía. Tienes que aprender en muy poquitas épocas, tienes que aprender de manera muy suave, pero mucho, con una red neuronal suficientemente grande para que tenga un tamaño similar al conjunto de tokens y eso era romper completamente…
María Ribes explica cómo en la sintaxis humana los verbos actúan como el centro de una frase, siendo dependientes de ellos tanto el objeto como el sujeto.
Habla: María RibesPalabras #14dependencias universales stanfordstring de caracteres sistema stanfordcomunicación cadena dependencias universalesverbos como centro de fraseobjeto y sujeto dependientes verbosintaxis humana maria ribes…no me acuerdo cómo se llama ahora mismo, tenía un capítulo de la tesis sobre eso pero te refieres a los tokens, la forma en la que dividimos las palabras no son los tokens, bueno los tokens y los tipos, eso es lo que sí tratamos en lingüística también no son procesamiento del lenguaje natural, ah dependencias universales, eso que es Universal Dependencies de Stanford, entonces eso lo que hacía era que en ese string de caracteres que cogía el sistema sabía seleccionar los que eran más importantes para la comunicación de toda esa cadena por así decirlo y eso En sintaxis humana son los verbos, por lo que sea nosotros; el verbo es el centro de la frase y del verbo depende todo lo demás: el objeto, el sujeto. Porque aunque digamos, aunque pensemos que las lenguas del mundo son muy diferentes, eso creo que ya lo he dicho. Alguna vez y ahora mismo viniera un extraterrestre diría: “Ostras, todos hablan variedades de la misma lengua porque todas las lenguas hacen las mismas”. Son gente que hace cosas, tiene sus sujetos y sus objetos, entonces esas relaciones sintácticas entre las…
Francis Villatoro explica cómo la aplicación de reglas a grandes modelos de lenguaje en inteligencia artificial implica que estas redes neuronales sean tan extensas como el conjunto de datos y se expongan repetidamente a los mismos datos para evitar el sobreaprendizaje.
Habla: Francis VillatoroSignificado #10 · Palabras #15reglas en inteligencia artificial modelos lenguajeevitar sobreaprendizaje repetición datosfrancis villatoro reglas inteligencia artificiallimitaciones cómputo entrenamiento modelos lenguajebillones tokens aprendizaje épocas entrenamientointeligencia artificial wikipedia todos idiomas…lo que puedes aceptar que cometa errores en las construcciones y en los modismos, que no entienda bien ciertos dejes, ciertos dobles sentidos porque ha aprendido una segunda lengua o sea, se planteaban eso como casos pilotos para montar un test de Turing y De repente, cuando te llegan los grandes modelos de lenguaje con el modelo de atención y tú aplicas una serie de reglas que nunca se habían aplicado en inteligencia artificial, que es básicamente las redes neuronales tienen que ser muy grandes, tan grandes como el conjunto de datos, y las redes no tienen que aprender muchas veces. Muéstrale todos los datos una, dos, tres, cuatro, cinco veces, pero no las muestres muchas más que sobreaprenden y entonces lo hacen peor. Son reglas muy tontas, muy sencillitas, claro. Ahora ya estás trabajando con billones, literalmente, billones de tokens en los aprendizajes y estamos hablando de una o dos épocas de entrenamiento, no más, porque literalmente no hay cómputo para hacer más; o sea, no se puede hacer más, y eso es más que suficiente. Es decir, y resulta que una inteligencia artificial recibe toda la Wikipedia y solo por ver toda la Wikipedia en todos los idiomas, ya es capaz de hablar en todos los idiomas. Pero ¿por qué habla? Y las mete ahí. Son puras correlaciones. Y hace todo eso sin necesidad de saber lo que es un verbo, lo que es un adjetivo, lo que es un plural. Pero sí lo sabe, igual que tú lo sabes y no lo sabes. O sea, la mayoría de las personas cuando estamos hablando una…
Francis Villatoro explica cómo las inteligencias artificiales procesan información, destacando su tendencia a trabajar con imágenes debido a la gran cantidad de datos que contienen y la facilidad para manejarlos.
Habla: Francis VillatoroSignificado #19 · Palabras #20inteligencias artificiales procesan imágenesmáquinas ven correlaciones triviales imágenestoken palabra representada como imagenfrancis villatoro inteligencia artificial…Eso no significa, y conectando con lo que Ignacio nos iba a contar, que la conciencia o que la creatividad o que otros atributos que ponemos o la misma inteligencia que ponemos a los humanos, a lo que hacemos los humanos, se pueda hacer en las máquinas. Las máquinas solo están viendo correlaciones triviales entre imágenes. Y bueno, eso es una cosa que podemos hacer. Se manejan fundamentalmente imágenes porque las imágenes te meten muchos datos en poco espacio. Y nos gusta ver los datos así. La gran revolución en Internet Artificial ha sido convertir todo a imágenes, que un token, una palabra, sea una imagen ¿Y qué representa esa imagen? Pues no sabemos muy bien, pero representa la relación entre ese token y todos los demás tokens. Pero si esa imagen tiene menos píxeles que tokens hay, ya ¿y qué? Pero la imagen representa eso. Y conforme yo voy haciendo la imagen más grande, más fluidez y…
Francis Villatoro explica cómo una teoría tiene implicaciones en el campo de la conciencia artificial, sugiriendo la creación de redes paralelas que exploren y analicen el estado neuronal.
Habla: Francis VillatoroSignificado #13redes paralelas conciencia artificialtomografía del estado neuronalmetainformación proceso cognitivo villatororazonamientos y metacognición…presentar para un rendimiento parecido una o dos patrones en el que sólo está presente la de primer orden y en el que están presentes las dos, y que habrá propiedades distintas que solemos asociar con el procesamiento consciente. Esa es un poco la clave. Esta teoría tiene, entre comillas, más implicaciones desde el punto de vista de lo que es la conciencia artificial porque es una de las cosas arquitectónicas que se están planteando en ese campo el definir en paralelo a las redes de aprendizaje profundo que están ejecutando tareas, tener redes en paralelo que estén explorando, haciendo tomografía del estado neuronal y viendo realmente qué está ocurriendo ahí y obteniendo información, metainformación sobre el proceso cognitivo, información que después se puede reinyestar al propio proceso cognitivo para facilitar, entre comillas, razonamientos y metacognición. Sí, justo. Y el problema, que es lo que comentábamos, es que todavía hay pocos estudios. En el momento en el que se hizo el contrast se habían hecho apenas 12, que es mucho menos que los estudios que se habían reunido de las otras teorías. Y en parte es…
Ignacio Crespo reflexiona sobre cómo se almacenan recuerdos y sugiere que las principales estructuras cerebrales involucradas en el lenguaje, como Broca y Wernicke, son compartidas en gran medida para procesar diferentes idiomas.
Habla: Ignacio CrespoSignificado #17estructuras broca bernicke lenguajememoria almacenamiento estructuras cerebralesprocesamiento idiomas hemisferio derecho…que vemos cuando hablamos con las personas decía antes María que a veces se le ocurre que una palabra encaja mucho mejor de otro idioma de alguna forma ya hay relaciones no es algo que esté aislado y estás o en un lado o en el otro y eso lo vamos a ver lo que No sé, es para para cosas más específicas relacionadas ya con memoria; por ejemplo, cómo se almacena. No sé si alguien tiene algo más que decir, pero yo me quedaría ahí y decir que el grueso, que son las principales estructuras, Broca, Bernicke, las que hay en el hemisferio derecho para hablar de dobles sentidos, todo esto, y algunas más, porque está distribuido siempre este tipo de pensamientos, serán comunes en gran medida. En estos experimentos, que por estimulación externa se movía de un hemisferio a otro habilidades, uno de los casos más famosos es una mujer que hablaba dos lenguajes; era bilingüe, ¿no? Y cuando se trasladó de esa región al otro hemisferio se trasladaron los…
Ignacio Crespo reflexiona sobre la naturaleza dinámica de las redes neuronales cerebrales y cómo el almacenamiento de información, como los artículos científicos leídos por Francis Villatoro, puede cambiar con el tiempo.
Habla: Ignacio CrespoSignificado #16memoria de francis villatororedes neuronales cerebrales dinámicasreconfiguración direccional de redesalmacenamiento de información en cerebro…como yo lo voy lesionando, no sé si estoy lesionando algo importante, pero como lo voy entrenando al mismo tiempo, entonces todo lo que la señora está entrenando, pues sé que lo que hubiera ahí se va a repartir por otras partes de la red neuronal cerebral. No es que se trasplante, efectivamente, pero incluso en estados totalmente fisiológicos, si yo ahora pudiera saber dónde tiene Francis codificado en su cerebro información relacionada con, por ejemplo, el último paper que ha leído, imagínate, y dentro de dos semanas fuera a buscarlo al mismo sitio exactamente, es probable que no esté ahí. Sabemos que hay pequeños movimientos de esas redes que se activan correlacionadas con determinados recuerdos o estímulos y eso es lo que se aprovecha en estos casos; que hay cierta facilidad para que se reconfigure simplemente que sea direccional esa reconfiguración para poco a poco conseguir que cambie un montón. Hay, aparte de estudios en humanos que son muy interesantes, hay estudios aún más radicales incluso con animales, lógicamente, y había algunos casos en los que habían conseguido desplazar totalmente la corteza visual de algunos animales, que en principio…