Búsqueda · 25 momentos en 1 episodio
María RibesAlberto ApariciJuan Carlos GilIgnacio CrespoFrancis VillatoroHéctor SocasLuisa AchaerandioPushmeet Kohli · DeepMindThore Graepel · DeepMindthor greipel deepmind inteligencia artificialcontrol partido famosísimo isidolcreador fagón deepmindorigen hindú pushmet kohliturbante y religión pushmet kohlirelación turbante religión hinduismopushmit kohli investigador senior googledepmindinvestigación inteligencia artificial asuntos científicosdesarrollo alfago por pushmit kohliIBMGoogle DeepMindAlphaGoPushmit KohliTest de TuringFrancis VillatoroThor GreipelDeepMindSeúlPLN (Procesamiento del Lenguaje Natural)AntoniaTuringMaría RibesPushmit ColleyTore GreipelMaríaGoogleLee SedolHéctor SocasJuan Carlos GilIgnacio CrespoFan HuiIcedolMaría RibasFagóKasparovRedes NeuronalesAlphafoldGastón Giribetcampeón de EuropaAlberto ApariciWikipediaStanfordUniversal DependenciesRay KurzweilChatGPT 3.5teoría de Recurrent ProcessingEgipto AntiguoCientófiloHigher Order Theories
DeepMind prueba teoremas lenguaje formal
Con
0:000:301:001:302:002:303:003:33
Juan Carlos Gil explica que Pushmit Kohli, aunque inicialmente no formó parte del equipo central de AlphaGo en IBM, fue posteriormente reclutado por DeepMind y ahora ocupa un puesto de investigación senior en Google DeepMind.
…lo podría pronunciar así, pero bueno, me quise asegurar y me dijo: sí, sí, digo, vale. Sí, dijo que lo habías pronunciado muy bien Juan Carlos; quieres rápidamente hacer la introducción y pasamos ya a poner la entrevista. Bueno, pues sí, estas dos personas. Thor Greipel, disculpad, es un científico de DeepMind especializado en inteligencia artificial, en particular aprendizaje automático y era especialmente relevante en este contexto porque fue parte del equipo original y estuvo en Seúl jugando, aportando su control al partido famosísimo contra el Isidol. De hecho, en su página personal aparece: Contribuí a crear al fagón. Es como quizá la frase que quede para la historia. Además, se explica como un libro abierto. Vamos, a mí me dejó realmente impresionado oírle. Pushmet Kohli, el hindú, no estaba entonces en DeepMind; creo que estaba en... Perdón, es que no sabemos si es hindú, porque hindú es una religión. Ciertamente. Es de origen hindú. Bueno, pero lleva el turbante, ¿no es eso estar relacionado con la religión? Sería sí. No, sí, no, sí. Correcto, vale. Bueno, pues estaban, no sé si en IBM en aquel momento, bueno, que no estaba en DeepMind, o sea que no formó parte core del equipo de AlphaGo, sin embargo luego DeepMind le reclutó y ahora es investigador senior y vicepresidente de Research, de investigación de inteligencia artificial para asuntos científicos en Google DeepMind y entonces él sí fue parte pivotal en el desarrollo de alfago, digamos, de alfafol quería decir, perdón, sí, y de otros proyectos científicos que si tenemos tiempo comentamos, alguno de ellos saqué a colación en la entrevista. Vale, pues vamos ya con la entrevista. Perfecto, gracias chicos. Pues ponemos la entrevista y volvemos aquí un ratillo; dura 26 minutos casi exacto. Sí, María. Quiero decir que tenemos suerte de tener a Juan Carlos y Alberto porque creo que no puede haber mejores…
Palabras #1
Héctor Socas introduce los temas a tratar en el episodio, incluyendo avances en aprendizaje profundo como la victoria de AlphaGo sobre un campeón de Go, así como otros temas diversos como el embalsamamiento egipcio y experimentos con criogenización cerebral.
Habla: Héctor SocasSignificado #17alphago derrota campeón goembalsamamiento momias egipto antiguocriogenización tejido cerebralteorías conciencia debate científico…felicidad. Quizás hay una moraleja escondida en esto y la clave de la felicidad es el justo equilibrio. Buen tema para un tratado de autoayuda. Pero no estamos aquí hoy para eso, sino para tertuliar sobre la actualidad de la ciencia. Hoy nuestro recorrido nos Lleva a los orígenes del aprendizaje profundo moderno; vamos a retrotraernos 10 años a ese gran hito de DeepMind cuando su sistema AlphaGo derrotó en una partida legendaria al gran campeón humano de Go. Pero no solo de IA vive el Cientófilo, y tenemos más temas: el embalsamamiento de las momias en el Egipto Antiguo, los experimentos sobre criogenización de tejido cerebral, lo que algunos ven la antesala de la hibernación. Continuaremos el debate sobre las teorías de la conciencia y más cosas que irán surgiendo, seguro. Pasen y pónganse cómodas; que están ustedes en la compañía de Coffee Break Señal y Ruido. Ya Saben que tenemos una página web que es señalirruido.com. En esa página pueden encontrar todos los episodios anteriores, los 550 episodios que ya hemos producido contando este más todos los audios bonus, extra; también todas las referencias de los temas que…
Héctor Socas presenta una entrevista grabada previamente con Pushmit Colley y Tore Greipel, destacando su trabajo en DeepMind de Google y la importancia del aniversario de un hito en inteligencia artificial: el juego de Go.
Habla: Héctor SocasSignificado #6 · Palabras #3aniversario diez años partida go deepmindidioma hindi pushmit colleylaboratorio deepmind de google inteligencia artificial…pasada, que a mí me parece que ha quedado muy chula, sobre todo porque no he intervenido yo así que es un disfrute de escuchar con dos protagonistas del desarrollo de la inteligencia artificial en esta última década que son las personas cuyos rostros ven en. la imagen de portada de este episodio, se llaman Pushmit Colley, el que aparece con un turbante y Tore Greipel, yo lo he pronunciado fatal pero María se ha pegado el curre de buscar cómo pronunciarlo adecuadamente y además hablarles a cada uno de ellos en su idioma natal, que también te lo ha traducido, porque uno de ellos su idioma natal es hindi y el otro es alemán. Y pues son del laboratorio DeepMind de Google, que saben que ha sido uno de los grandes motores de la inteligencia artificial en los últimos 15 años o así, y sobre todo porque estos días se cumple un aniversario muy importante que son 10 años de esa partida de Go, el juego, Ese juego asiático del que ahora nos hablará Alberto, que es muy aficionado. De hecho, yo recuerdo que de esto hablamos en Coffee Break hace 10 años y que yo no sé si llegamos a hablar de cuando tuvo lugar esta partida, pero sí que hubo episodios en los que…
Alberto Aparici describe la siguiente fase en las pruebas realizadas con AlphaGo, tras obtener una victoria contundente sobre el campeón europeo.
Habla: Alberto ApariciPalabras #14alfago vence al campeón europeovictoria alpha go en serie partidasprueba preliminar alpha go jugadores…buenos jugadores en Australia, menos, y en Europa también un poco menos. Con lo que el campeón europeo en principio es un jugador de segunda categoría, no es un jugador de los buenos buenos. Entonces la gente de Alfago jugó primero contra este campeón. europeo y Alfago le consiguió ganar en una serie de 10 partidas, si no recuerdo mal, le ganó 10 a 0 y una vez tuvieron esa prueba preliminar hecha, dijeron, vale, ya podemos dar el salto a jugar contra un jugador de los de primera categoría y entonces contactaron con los Mejores jugadores de la última década y en particular consiguieron organizar una serie de cinco partidas contra Lisedol, que es el jugador más brillante de los 2000. En el momento en que la partida tuvo lugar, que es en el año 2016, Lee Sedol ya no era el…
Francis Villatoro comenta sobre una jugada inusual realizada por Lee Sedol durante un enfrentamiento contra AlphaGo, donde intentó confundir a la máquina con movimientos inesperados.
Habla: Francis VillatoroSignificado #12 · Palabras #7jugada inusual lee sedol alphagomovimientos inesperados alphago deepmindmáquina confundida por lissedolvictoria humana contra alphagolee sedol vence a fagódeepmind parchea defecto alphagoaprendizaje jugando contra la máquina…las partidas a Lissedol 4-1, Alberto 4-1, 4-1, sí la cuarta la ganó la cuarta es el retorno de la humanidad y recordad, la cuarta la ganó Lissedol y acojonó a Dismain porque Dismain dijo: como me gane la quinta, porque lo que hizo fue engañar a la máquina. Queda dudoso, ¿no? Lissedol hizo una jugada absolutamente idiota en plan: esto la máquina no lo va a entender y va a fallar, que es que estuvo probando muchas cosas y lo logró; la máquina completamente se perdió, no se enteró de nada, de la misa a la mitad y entonces pensaron los de DeepMind, como en la quinta vuelva a hacer lo. Mismo Licedol, con que gane 2 de 3, ya el humano ha ganado la máquina porque el humano ha tenido que aprender a jugar contra la máquina y lo ha logrado y la ha vencido; entonces era fundamental que en la quinta volviera a ganar al Fagó y ganó al Fagó. Claro, y DeepMind confesó que entre la cuarta y la quinta parcheó ese defecto, muy a posterior y varios años después, así se aprende. También, bueno quería llegar con todo esto al famoso segundo juego, que es donde tiene lugar la jugada 37, de la que hablamos en la entrevista. Y de hecho lo están preguntando también en el chat, lo acabo de ver entonces, la jugada 37 es básicamente una…
Juan Carlos Gil explica que Pushmit Kohli, aunque inicialmente no formó parte del equipo central de AlphaGo en IBM, fue posteriormente reclutado por DeepMind y ahora ocupa un puesto de investigación senior en Google DeepMind.
Habla: Juan Carlos GilPalabras #1thor greipel deepmind inteligencia artificialcontrol partido famosísimo isidolcreador fagón deepmindorigen hindú pushmet kohliturbante y religión pushmet kohlirelación turbante religión hinduismopushmit kohli investigador senior googledepmindinvestigación inteligencia artificial asuntos científicosdesarrollo alfago por pushmit kohli…lo podría pronunciar así, pero bueno, me quise asegurar y me dijo: sí, sí, digo, vale. Sí, dijo que lo habías pronunciado muy bien Juan Carlos; quieres rápidamente hacer la introducción y pasamos ya a poner la entrevista. Bueno, pues sí, estas dos personas. Thor Greipel, disculpad, es un científico de DeepMind especializado en inteligencia artificial, en particular aprendizaje automático y era especialmente relevante en este contexto porque fue parte del equipo original y estuvo en Seúl jugando, aportando su control al partido famosísimo contra el Isidol. De hecho, en su página personal aparece: Contribuí a crear al fagón. Es como quizá la frase que quede para la historia. Además, se explica como un libro abierto. Vamos, a mí me dejó realmente impresionado oírle. Pushmet Kohli, el hindú, no estaba entonces en DeepMind; creo que estaba en... Perdón, es que no sabemos si es hindú, porque hindú es una religión. Ciertamente. Es de origen hindú. Bueno, pero lleva el turbante, ¿no es eso estar relacionado con la religión? Sería sí. No, sí, no, sí. Correcto, vale. Bueno, pues estaban, no sé si en IBM en aquel momento, bueno, que no estaba en DeepMind, o sea que no formó parte core del equipo de AlphaGo, sin embargo luego DeepMind le reclutó y ahora es investigador senior y vicepresidente de Research, de investigación de inteligencia artificial para asuntos científicos en Google DeepMind y entonces él sí fue parte pivotal en el desarrollo de alfago, digamos, de alfafol quería decir, perdón, sí, y de otros proyectos científicos que si tenemos tiempo comentamos, alguno de ellos saqué a colación en la entrevista. Vale, pues vamos ya con la entrevista. Perfecto, gracias chicos. Pues ponemos la entrevista y volvemos aquí un ratillo; dura 26 minutos casi exacto. Sí, María. Quiero decir que tenemos suerte de tener a Juan Carlos y Alberto porque creo que no puede haber mejores…
Ignacio Crespo explica cómo se necesitaba un encuentro de prueba con Fan Hui, el entonces campeón europeo de Go, para evaluar la calidad del sistema AlphaGo en comparación con otros programas existentes.
Palabras #8encuentro prueba campeón go fan huialpha go frente sistemas existentesevaluar calidad sistema alpha go…redes neuronales. También implementamos la búsqueda en árbol y con el tiempo llegamos a un punto en el que consideramos que era bastante robusto, pero todavía no habíamos alcanzado el nivel del Icedol y así trajimos a Fan Hui, el entonces campeón europeo de. Go para jugar un partido de 10 partidas, un encuentro de prueba que nos diría dónde estábamos porque es realmente difícil saber qué tan buena es la iteración actual del sistema. Puedes enfrentarlo a los sistemas que ya existen pero claro nuestra intención era ir mucho más allá de los sistemas actuales y por lo tanto requeríamos una manera de poder hacer pruebas. Y así Fanjui nos resultó de una ayuda verdaderamente inestimable y nosotros, sabes, AlphaGo ganó 10 a 0 contra Fanjui y eso nos dio una buena indicación de que era un jugador bastante fuerte. De hecho, en ese entonces yo hice una apuesta con David Silver; yo…
Francis Villatoro reflexiona sobre el desafío de descifrar el lenguaje de la vida y cómo AlphaFold ha abierto un camino para comprender mejor los ingredientes biológicos.
Habla: Francis VillatoroPalabras #11lenguaje de la vida desafíoproteínas ingredientes biológicos alphafoldalphafold entiende los ingredienteslibro de recetas proteínas…que sea capaz de desarrollar un cerebro que pueda aprender de la misma manera que un ser humano y además crear sistemas o programas tan complejos como AlphaGo, que puede funcionar en sistemas y ordenadores que nosotros, que los humanos, desarrollamos? Entonces, ¿qué es ese fenómeno tan extraordinario que está codificado en el código genético? Es como el lenguaje más interesante que hemos aprendido a leer, pero no lo entendemos. Así que descifrar ese lenguaje de la vida es el gran desafío hacia el cual estamos trabajando. Alphafold nos mostró el camino diciendo: bueno, si las proteínas son los ingredientes, ahora entiendes los ingredientes, ahora tenemos que descifrar el libro de recetas. Me refiero a la forma en que esos ingredientes realmente hacen que las cosas funcionen en la vida. Y solo para añadir a eso, quiero decir, para demostrar. Lo difícil que es este problema, me gusta observar las diferentes escalas en las que se desarrolla la vida. Si lo piensas bien, la escala de relevancia a nivel de las proteínas es de aproximadamente 10 a la menos 9 metros, por lo que un nanómetro es más o…
Francis Villatoro reflexiona sobre cómo los científicos de la computación se han centrado tradicionalmente en la complejidad computacional, mientras que las redes neuronales parecen haber aprovechado una menor complejidad teórica de la información para encontrar soluciones.
Habla: Francis VillatoroSignificado #7complejidad computacional científicosredes neuronales complejidad informaciónsoluciones redes neuronales villatoro…representan una mejor aproximación a ese conjunto mucho más amplio de cálculos que originalmente habríamos necesitado llevar a cabo. Bueno, así que quizás hay una complejidad teórica de la información del problema y luego está la complejidad computacional del Problema y siempre como científicos de la computación hemos estado pensando en el tipo de complejidad computacional. ¿Cómo representamos ahora el sistema y calculamos un estado final mientras que la complejidad de la información del problema, la complejidad teórica de la información del problema era mucho menor? Y las redes neuronales de alguna manera lo aprovecharon para, por así decirlo, dar con esas soluciones que son mejores. Pero yo no creo que hayamos encontrado una respuesta completa a la pregunta que planteaste. Es un problema de investigación activo, digamos, sobre cómo estos modelos son capaces de extraer y hacer estas predicciones asombrosas con menos capacidad de cómputo. Y ¿cuál es el límite? ¿Cuál es el límite real, el verdadero límite de cuánto más eficientes…
Francis Villatoro explica por qué el análisis ortosintáctico, basado en el conocimiento de los filólogos, resulta ineficaz para comprender el lenguaje natural desde la perspectiva de la inteligencia artificial.
Habla: Francis VillatoroPalabras #6análisis ortosintáctico filólogos ineficazlenguaje natural inteligencia artificial ambiguoconocimiento filólogos lenguaje trivial…que si no ponías un árbol de Monte Carlo como se había hecho toda la vida para hacer juegos parecía como que la inteligencia artificial no iba a ser capaz de profundizar más y eso es una cosa que me gustaría ya que está aquí María y es un tema interesante. Conectarlo con el lenguaje natural de toda la vida en inteligencia artificial se ha dicho que el lenguaje natural era tan ambiguo, tan complicado. Todo el conocimiento de los filólogos sobre el lenguaje, el análisis ortosintáctico es trivial. El análisis ortosintáctico no permite entender un idioma, una lengua. Los hablantes no usamos el análisis ortosintáctico y la conexión semántica, y no usamos ese tipo de conceptos que teóricamente es lo que desde la inteligencia artificial estábamos usando para entender el lenguaje natural. Intentábamos entenderlo utilizando el conocimiento de los filólogos, pero es. Que el conocimiento de los filólogos es irrelevante, todo lo contrario a ser un beneficio, es un lastre, porque los niños, los bebés, los pequeñitos aprenden el idioma sin necesidad de ese conocimiento ortocintáctico. Entonces, en inteligencia artificial…
Francis Villatoro explica cómo el avance en la comprensión del lenguaje natural se logró al ignorar el conocimiento de los filólogos y centrarse en aprender correlaciones entre datos a partir de grandes cantidades de texto.
Habla: Francis VillatoroSignificado #15olvidar filólogos lenguaje naturalcorrelaciones datos comprensión lenguajetokens información aprendizaje automáticoevitar sobreaprendizaje modelos lenguaje…niños, los bebés, los pequeñitos aprenden el idioma sin necesidad de ese conocimiento ortocintáctico. Entonces, en inteligencia artificial teníamos ese gran problema, por eso quería ahí meterle chicha a María. No, voy a rogar diferir y te lo voy a justificar. Pero bueno, lo que quiero decir es eso: el gran avance en la comprensión del lenguaje natural fue el momento en el que dijimos Olvídate de todo lo que saben los filólogos, lo único que tienes que hacer es aprender correlaciones entre datos y los datos es leer muchos textos, tener muchos tokens, y cuanto más tokens tienes, cuanto más información tienes aprendida, y eso sí, no sobreaprendida, porque como Sobreaprendas, peor todavía. Tienes que aprender en muy poquitas épocas, tienes que aprender de manera muy suave, pero mucho, con una red neuronal suficientemente grande para que tenga un tamaño similar al conjunto de tokens y eso era romper completamente…
María Ribes interrumpe la discusión sobre inteligencia artificial y aclara que no profundizará en filosofía del lenguaje, sino que se centrará en explicar varios puntos relacionados con un desafío planteado.
Habla: María RibesSignificado #18 · Palabras #9procesamiento lenguaje natural maria ribesanálisis morfosintáctico ortosintáctico preferenciagastón ausencia análisisconexiones entre las palabras sintaxisprocesamiento lenguaje natural filólogosconstrucción textual filólogosdesafío planteado maria ribes…yo, yo qué sé de los árboles de Monte Carlo. Nunca has estado en Monte Carlo, ¿no? Claro, exacto, solo tienes que acercarte. Sí, nunca he estado en Soria y nunca he estado en Burgos y mire qué morcilla. Bueno, como te iba, como te va diciendo, pues vale. Yo estudié cuando era más joven, muy modestamente, procesamiento de lenguaje natural. Y claro, lo que se trataba de hacer, cuando dices tú el análisis ortosintáctico, me imagino que prefieres a morfosintáctico, Morfosintáctico, sí, como le quieras llamar, perdonad por qué uso el tema. Qué pena que no esté Gastón. No, no voy a hablar filosofía del lenguaje, solo que las conexiones entre las palabras, no, pues la sintaxis. Entonces, me gustaría aclarar varias cosas de este challenge que se me ha lanzado. Primero, no creo que nos debamos referir al conocimiento de los filólogos para el procesamiento del lenguaje natural porque los filólogos realmente estudian el texto, los textos, la construcción textual. Yo diría más bien los Lingüistas, cuando yo era joven, antes de la IA, pues yo estudiaba lingüística computacional: cómo hacer que las máquinas hablen y que nos comprendan. Y esas relaciones que tú has dicho, que tiene razón y no, y te lo voy a justificar; que los bebés aprenden…
María Ribes contradice a Francis Villatoro sobre la trivialidad de los juegos y el lenguaje humano, introduciendo una discusión sobre el origen del lenguaje.
Habla: María RibesPalabras #5origen del lenguaje debatelenguaje humano capacidad comunicarnosfrancis villatoro trivialidad juegos…le hablas no le dices, y ahora cariñito, vamos a aprender el plural, y ahora vamos a formar el femenino. Tú hablas y el bebé infiere cosas, que es como podríamos decir que hace la red neuronal: ve cosas, escucha y aprende. Pero esas relaciones sintácticas, Yo me temo que tengo que llevarte a la contraria, Francis, porque no son triviales, de hecho, es el fundamento de las lenguas. El lenguaje humano es la capacidad para comunicarnos, entonces si pensamos en el origen del lenguaje, que es imposible saberlo, es un debate en el que no nos vamos a meter. Pero si pensamos en lenguas como Vocabulario, por ejemplo, si yo me aprendo ahora 10.000 palabras de otro idioma, nunca voy a poder saber hablar esa lengua bien si no comprendo las relaciones entre las palabras. Yo les pongo a mis alumnos siempre el ejemplo de los hombres prehistóricos, es…
María Ribes continúa explicando su experiencia en procesamiento de lenguaje natural, mencionando un capítulo de su tesis sobre cadenas de signos y recordando terminología específica.
Habla: María RibesSignificado #11 · Palabras #19cadenas de signos tesis maría ribesprocesamiento lenguaje natural capítulo tesisdependencias universales stanfordstring de caracteres sistema stanfordcomunicación cadena dependencias universales…piedra, piedra aquí, yo aquí o mamut; pero no es lo mismo en saber lo que es un mamut que en decir cógelo y llévatelo de allí o pon esto aquí o hacia aquí o de mí. Entonces esas relaciones sintácticas te lo digo como lingüista, sí que sé de lo que hablo pero. como procesamiento de lenguaje natural pues cuando yo estudiaba esto son esas cadenas esas cadenas de signos ¿cómo se llama esto? no me acuerdo cómo se llama ahora mismo, tenía un capítulo de la tesis sobre eso pero te refieres a los tokens, la forma en la que dividimos las palabras no son los tokens, bueno los tokens y los tipos, eso es lo que sí tratamos en lingüística también no son procesamiento del lenguaje natural, ah dependencias universales, eso que es Universal Dependencies de Stanford, entonces eso lo que hacía era que en ese string de caracteres que cogía el sistema sabía seleccionar los que eran más importantes para la comunicación de toda esa cadena por así decirlo y eso En sintaxis humana son los verbos, por lo que sea nosotros; el verbo es el centro de la frase y del verbo depende todo lo demás: el objeto, el sujeto. Porque aunque digamos, aunque pensemos que las lenguas del mundo son muy diferentes, eso creo que ya lo he…
Francis Villatoro explica que el Test de Turing, un test lingüístico para evaluar la inteligencia artificial, es una trivialidad y no requiere conocimientos específicos.
Habla: Francis VillatoroSignificado #1 · Palabras #17test turing como trivialidadmáquina y test lingüísticoconcursos test turing inteligencia artificial…recordarás que en el año 2020 el conocimiento básico de lingüística computacional era el lenguaje natural; es imposible, probablemente no lo resolvamos en las próximas décadas; es una cosa absolutamente imposible de resolver, la clave de la inteligencia de. Una máquina es el Test de Turing, que básicamente es un test lingüístico; es entender el lenguaje el Test de Turing, es entender el lenguaje, es una trivialidad, no requiere conocimiento. Cuando hacíamos los concursos de Test de Turing, lo que le complicaba a la máquina no era el conocimiento, ponías por ejemplo los clásicos de estos ejemplos de. software que eran un adolescente o una persona, una sueca que ha aprendido inglés y está hablando en inglés y no es su idioma nativo por lo que puedes aceptar que cometa errores en las construcciones y en los modismos, que no entienda bien ciertos dejes,…
Francis Villatoro explica cómo la aplicación de reglas a grandes modelos de lenguaje en inteligencia artificial implica que estas redes neuronales sean tan extensas como el conjunto de datos y se expongan repetidamente a los mismos datos para evitar el sobreaprendizaje.
Habla: Francis VillatoroSignificado #3reglas en inteligencia artificial modelos lenguajeevitar sobreaprendizaje repetición datosfrancis villatoro reglas inteligencia artificiallimitaciones cómputo entrenamiento modelos lenguajebillones tokens aprendizaje épocas entrenamientointeligencia artificial wikipedia todos idiomas…lo que puedes aceptar que cometa errores en las construcciones y en los modismos, que no entienda bien ciertos dejes, ciertos dobles sentidos porque ha aprendido una segunda lengua o sea, se planteaban eso como casos pilotos para montar un test de Turing y De repente, cuando te llegan los grandes modelos de lenguaje con el modelo de atención y tú aplicas una serie de reglas que nunca se habían aplicado en inteligencia artificial, que es básicamente las redes neuronales tienen que ser muy grandes, tan grandes como el conjunto de datos, y las redes no tienen que aprender muchas veces. Muéstrale todos los datos una, dos, tres, cuatro, cinco veces, pero no las muestres muchas más que sobreaprenden y entonces lo hacen peor. Son reglas muy tontas, muy sencillitas, claro. Ahora ya estás trabajando con billones, literalmente, billones de tokens en los aprendizajes y estamos hablando de una o dos épocas de entrenamiento, no más, porque literalmente no hay cómputo para hacer más; o sea, no se puede hacer más, y eso es más que suficiente. Es decir, y resulta que una inteligencia artificial recibe toda la Wikipedia y solo por ver toda la Wikipedia en todos los idiomas, ya es capaz de hablar en todos los idiomas. Pero ¿por qué habla? Y las mete ahí. Son puras correlaciones. Y hace todo eso sin necesidad de saber lo que es un verbo, lo que es un adjetivo, lo que es un plural. Pero sí lo sabe, igual que tú lo sabes y no lo sabes. O sea, la mayoría de las personas cuando estamos hablando una…
María Ribes continúa la discusión sobre las estructuras lingüísticas y su relación con los primeros tests de Turing, ejemplificando con una frase ambigua que plantea dudas sobre quién posee los prismáticos.
Habla: María RibesSignificado #2estructuras lingüísticas y turingambigüedad sintaxis clase pnlantonia vio al niño prismáticos…alguien te dirán: ni idea. Eso serás tú, perdona, eh. Perdón, me refiero a un humano normal. ¿Qué es el subjuntivo? ¿Por qué usamos el subjuntivo? Espera, espera, que no he terminado de sujetar el cubata. Tienes toda la razón, son las estructuras. ¿Y qué son Las estructuras¿ son las relaciones de jerarquía y eso es el de dependencias, son lo que en el lenguaje natural humano es la sintaxis cuando hablabas de esos primeros test de Turing. Yo recuerdo en la clase de PLN era la ambigüedad, que no sabía distinguir la máquina de la ambigüedad como Antonia vio al niño en la ventana con los prismáticos¿ quién tiene los prismáticos? Antonia o el niño, ¿no? Ese tipo de ambigüedades, eso es ambigüedad semántica, pero la ambigüedad, ay, le daba algo, la ambigüedad sintáctica, lo que te digo; a ver, tú crees que no lo sabes, pero sí que lo sabes. Tú sabes lo que es un verbo, un adjetivo, a lo mejor no eres…
María Ribes introduce la adquisición del lenguaje natural como un proceso cognitivo complejo, lamentando la imposibilidad de observar directamente el funcionamiento interno del cerebro durante este proceso.
Habla: María RibesSignificado #8 · Palabras #20adquisición lenguaje natural proceso cognitivocerebro funcionando imposibilidad observación directaestructuras adquisición lenguaje natural…eso es ambigüedad semántica, pero la ambigüedad, ay, le daba algo, la ambigüedad sintáctica, lo que te digo; a ver, tú crees que no lo sabes, pero sí que lo sabes. Tú sabes lo que es un verbo, un adjetivo, a lo mejor no eres consciente, y eso es lo que. se llama la adquisición, la magia y el misterio del lenguaje natural, que como es un proceso cognitivo, lástima, no se puede abrir un cerebro mientras está funcionando, pero que las estructuras... Bueno, ahora hablamos de eso. Ok, te he mirado por eso Pero, ¿esto hay que decir algo? Porque ha salto aquí un mensaje y lo he cerrado No, no, no, termina tu argumentación, solo estaba diciendo que Vayamos reconduciendo para volver al tema. Bueno, pues eso, que la sintaxis es necesaria, aunque no haya que hacer árboles ni saber definir lo que es un verbo. Pero tú, si no supieras eso, no podrías hablar ni podrías comprender lo que estamos haciendo ahora…
Héctor Socas explica la diferencia entre cómo IBM venció a Kasparov mediante reglas programadas y cómo las redes neuronales aprenden observando ejemplos, comparándolo con el proceso de adquisición del lenguaje en humanos.
Habla: Héctor SocasSignificado #10ibm venció a kasparov reglas programadasredes neuronales aprenden observando ejemplosadquisición del lenguaje viendo ejemplosfrancis villatoro redes neuronales…lo que es un verbo. Pero tú, si no supieras eso, no podrías hablar ni podrías comprender lo que estamos haciendo ahora nosotros. Yo creo que estamos de acuerdo con lo que quería decir Francis, corrígeme si me equivoco, efectivamente, es que no se trata. De enseñar, de programarles las reglas. Yo hablaba antes de la diferencia entre el IBM que le ganó a Kasparov con reglas que habían sido programadas frente a una máquina de redes neuronales que había aprendido a base de ver ejemplos y que el ser humano aprende, adquiere la lengua, perdona, siguiendo esa nomenclatura que tú usas María: de adquirir frente a aprender; adquieres la lengua viendo ejemplos y esas reglas están ahí pero no es como el bebé las aprende, sino simplemente viendo ejemplos, muchos ejemplos y de esa forma aprenden también las redes neuronales, que creo que era lo que se refería a Francis y no he entendido mal. Hay personas que aprenden una lengua sin ir a clase, que la aprenden en la calle o hablando con otros, que siempre tendrán algún fallo, porque si te pones ahora a aprender serbio y te vas a serbio y tienes amigos serbios, hablas perfectamente, pero no declina…
Francis Villatoro menciona al futurólogo Ray Kurzweil y su predicción sobre cuándo se alcanzaría un cierto nivel de conocimiento lingüístico del lenguaje natural.
Habla: Francis VillatoroPalabras #16kurzweil modelos marcovianos ocultosconocimiento lingüístico lenguaje natural 2030chat gpt 3 5 año 2023salto de infinito conocimiento lingüístico…sentido porque parece que cuando digamos trivial es que no tiene secreto y lo cierto es que las máquinas lo imitan, pero si tuvieses que dar una serie de normas que te llevaran a eso de forma determinista y no por aprendizaje, pues eso no lo sabríamos hacer. Fíjate que el gran futurologo, el Kurzweil, que era especialista en modelos marcovianos ocultos para entender el habla, pero a nivel de fonema a signo, de fonética a grafía y poder escribir, o sea, lo que es entender el lenguaje a partir de un audio, digamos, tras escribir el audio, que era la gran especialidad de Kurzweil, predecía que este nivel de conocimiento lingüístico del lenguaje natural se alcanzaría del orden del año 2030. Lo hemos alcanzado, pues, en tres años, así, o sea, que era el chat GPT 3.5, que es del 2023, o algo así. Sí, creo que sí, hemos dado un salto de infinito en el momento en. El que nos hemos dado cuenta de que todo era extremadamente sencillo y de que en esa sencillez cualquiera puede avanzar en este campo. Ha costado 70 años llegar a ese conocimiento de que todo esto era sencillo, pero todos los grandes tabúes de todo lo que…
Ignacio Crespo sugiere que sería interesante contar con Gastón Giribet para analizar la cuarta teoría sobre la naturaleza de la conciencia, destacando su contenido matemático.
Habla: Ignacio CrespoSignificado #19gastón giribet analiza conciencia matemáticateorías de orden superior planteamientos filosóficoshigher order theories origen filosófico…mira, me gusta lo que has dicho de que es verdad que hoy no está Gastón y por lo tanto haremos la tercera y la cuarta no la voy a hacer porque es la que más críticas debería recibir desde la perspectiva materialista que evidentemente me adscribo yo también. Pero que creo que es muy interesante que pueda estar Gastón para entrar en ella. Además, tiene muchos temas matemáticos chulos que seguro que darán de qué hablar. Nos quedamos entonces con otra, que es la Higher Order Theories, las teorías de orden superior. Estas tienen una particularidad y es que nacen desde planteamientos filosóficos. Ojo, tiene un planteamiento científico ahora mismo, que se puede Realmente desarrollar de forma paralela a las que hemos estado contando, no es como la que traeremos para el próximo programa, que tiene un nacimiento puramente anticientífico en ciertos aspectos y es más criticable. En este caso, tenemos una historia muy…
Ignacio Crespo explica que la tercera teoría sobre la naturaleza de la conciencia es la menos respaldada por estudios científicos y pruebas.
Habla: Ignacio CrespoPalabras #13teoría conciencia estudios científicospaper previo conclusiones limitadasmenos respaldada pruebas científicas…criticable. En este caso, tenemos una historia muy prolongada en la cual este tipo de explicaciones de teorías de orden superior se han tratado desde la filosofía de la cognición sin contar con investigaciones científicas y ahora está habiendo una transición. Esto significa que de las 5 que vamos a contar es la que cuenta con menos estudios realmente, estudios científicos, pruebas, etc. Y llega incluso al punto de que en el paper previo que comentamos, porque estábamos relacionando dos, no podían sacar grandes conclusiones al respecto. Es por lo que a veces se deja de lado. Tengo aquí el textito que suelo preparar para que leamos asegurándonos de que está todo ahí donde toca y que vayamos explicándolo por partes. En este caso digo lo siguiente: Las teorías de orden superior implican que hay representaciones de primer orden, y…
Ignacio Crespo explica cómo las teorías sobre la conciencia se relacionan con la corrección de errores en las predicciones cerebrales.
Habla: Ignacio CrespoSignificado #20conciencia maximiza errores cerebralespredicciones cerebrales ignacio crespomodelización características cognición…que tienen que ver con la predicción. No son las que vamos a hablar dentro de uno o dos programas, pero hablan de la predicción y entienden que la conciencia podría ser, esta es la cosa, la corrección de los errores de predicción que hace nuestro cerebro. al comparar lo que ha predicho con lo que está recibiendo. que en los casos en los que está consciente esos errores se maximizan, se potencian para poder detectar esa diferencia y a partir de esto han sacado algunas predicciones interesantes que parecen modelizar bien algunas características de la cognición pero que se quedan todavía muy lejos de llegar a ser predictivas, fuertes y que hay que seguir desarrollando. yo creo que es la más complicada de explicar bien porque primero es bastante ambiguo que significa eso de orden superior y a la vez que propiedades tiene esa representación de orden superior que no requiera de una tercera representación que esté por encima…
Francis Villatoro explica cómo una teoría tiene implicaciones en el campo de la conciencia artificial, sugiriendo la creación de redes paralelas que exploren y analicen el estado neuronal.
Habla: Francis VillatoroSignificado #13redes paralelas conciencia artificialtomografía del estado neuronalmetainformación proceso cognitivo villatororazonamientos y metacognición…presentar para un rendimiento parecido una o dos patrones en el que sólo está presente la de primer orden y en el que están presentes las dos, y que habrá propiedades distintas que solemos asociar con el procesamiento consciente. Esa es un poco la clave. Esta teoría tiene, entre comillas, más implicaciones desde el punto de vista de lo que es la conciencia artificial porque es una de las cosas arquitectónicas que se están planteando en ese campo el definir en paralelo a las redes de aprendizaje profundo que están ejecutando tareas, tener redes en paralelo que estén explorando, haciendo tomografía del estado neuronal y viendo realmente qué está ocurriendo ahí y obteniendo información, metainformación sobre el proceso cognitivo, información que después se puede reinyestar al propio proceso cognitivo para facilitar, entre comillas, razonamientos y metacognición. Sí, justo. Y el problema, que es lo que comentábamos, es que todavía hay pocos estudios. En el momento en el que se hizo el contrast se habían hecho apenas 12, que es mucho menos que los estudios que se habían reunido de las otras teorías. Y en parte es…
Ignacio Crespo plantea una pregunta sobre la posibilidad de que existan formas de conciencia en sistemas electrónicos con arquitecturas recurrentes, a pesar de que pueda parecer descabellado.
Habla: Ignacio CrespoSignificado #16conciencia en sistemas electrónicosarquitecturas recurrentes ignacio crespoteoría de procesamiento recurrente cerebro humano…que se habían reunido de las otras teorías. Y en parte es porque cuesta reducir esta complejidad de la que daba cuenta Alberto a algo en lo que estén de acuerdo todos. Veremos qué es lo que pasa al respecto. Hay una cosa que comentamos el otro día y que Si hay cinco minutillos, creo que podría estar bien porque yo entiendo las dudas que tenía Héctor y estoy convencido de que las sigues teniendo. Vale, pero estamos fijándonos solamente en lo que pasa en el cerebro humano y ponías el ejemplo del caso de la teoría de Recurrent Processing que comentábamos. Hay procesos recursivos en sistemas totalmente electrónicos que tenemos desde hace tiempo. Aquí la pregunta que creo que tenemos que hacernos cuando dudemos sobre eso es: ¿y estamos seguros de que no hay ningún tipo de conciencia en, no digo todos esos sistemas, sino en sistemas que tengan determinadas arquitecturas recurrentes? Y puede parecer muy fumada esto, pero quiero poner un Caso: comentábamos al principio que una cosa es que podamos reportar las experiencias conscientes y otra que todas las experiencias conscientes sean reportables. Y esto no lo tenemos del todo claro. Por ejemplo, con pacientes, aunque sea un caso burdo,…
Ignacio Crespo explica cómo la información proveniente del campo visual izquierdo se dirige al hemisferio derecho, el cual carece de las estructuras fundamentales necesarias para procesar el lenguaje.
Habla: Ignacio CrespoSignificado #4 · Palabras #18procesamiento lenguaje hemisferio derechoestructuras fundamentales procesamiento lenguajecontexto metáforas hemisferio derechoignacio crespo campo visual izquierdo…encontrar las estructuras principales de procesamiento y producción del lenguaje. Así que si le preguntamos qué has visto, podrás responder. Pero imagínate que lo hacemos al revés: en lugar de ponérselo en el derecho, lo ponemos en el campo visual izquierdo. Va a ir toda esa información al hemisferio derecho, donde no tenemos estructuras tan fundamentales para el procesamiento del lenguaje. Sí que hay algunas para darle contexto, para hablar de dobles sentidos, de metáforas, pero no son las que necesitamos aquí. Si le preguntamos qué estás viendo, no va a poder. Responder, pero si le pedimos que lo señale, se lo hemos indicado antes; tal vez ahí es posible que sí lo señale. Y hay un caso muy chulo que hizo Gatsaniga en su momento, donde la imagen que ponía era una imagen erótica, ruborizante. Cuando el paciente le…
