Búsqueda · 20 momentos en 9 episodios
María RibesAlberto ApariciJuan Carlos GilIgnacio CrespoFrancis VillatoroHéctor SocasLuisa AchaerandioPushmeet Kohli · DeepMindThore Graepel · DeepMindanálisis ortosintáctico filólogos ineficazlenguaje natural inteligencia artificial ambiguoconocimiento filólogos lenguaje trivialfilólogos lastre inteligencia artificialniños aprenden idioma ortocintácticomaria problema inteligencia artificialolvidar filólogos lenguaje naturalcorrelaciones datos comprensión lenguajetokens información aprendizaje automáticoevitar sobreaprendizaje modelos lenguajeFrancis VillatoroMaría RibesMaríaGastón GiribetMaría RibasStanfordUniversal DependenciesRay KurzweilChatGPT 3.5Ignacio CrespoJosé Miguel RoblesHéctor SocasSeñal y Ruido
Procesamiento lenguaje natural filólogos
Con
0:000:301:001:302:002:303:003:33
Francis Villatoro explica cómo el avance en la comprensión del lenguaje natural se logró al ignorar el conocimiento de los filólogos y centrarse en aprender correlaciones entre datos a partir de grandes cantidades de texto.
…que si no ponías un árbol de Monte Carlo como se había hecho toda la vida para hacer juegos parecía como que la inteligencia artificial no iba a ser capaz de profundizar más y eso es una cosa que me gustaría ya que está aquí María y es un tema interesante. Conectarlo con el lenguaje natural de toda la vida en inteligencia artificial se ha dicho que el lenguaje natural era tan ambiguo, tan complicado. Todo el conocimiento de los filólogos sobre el lenguaje, el análisis ortosintáctico es trivial. El análisis ortosintáctico no permite entender un idioma, una lengua. Los hablantes no usamos el análisis ortosintáctico y la conexión semántica, y no usamos ese tipo de conceptos que teóricamente es lo que desde la inteligencia artificial estábamos usando para entender el lenguaje natural. Intentábamos entenderlo utilizando el conocimiento de los filólogos, pero es. Que el conocimiento de los filólogos es irrelevante, todo lo contrario a ser un beneficio, es un lastre, porque los niños, los bebés, los pequeñitos aprenden el idioma sin necesidad de ese conocimiento ortocintáctico. Entonces, en inteligencia artificial teníamos ese gran problema, por eso quería ahí meterle chicha a María. No, voy a rogar diferir y te lo voy a justificar. Pero bueno, lo que quiero decir es eso: el gran avance en la comprensión del lenguaje natural fue el momento en el que dijimos Olvídate de todo lo que saben los filólogos, lo único que tienes que hacer es aprender correlaciones entre datos y los datos es leer muchos textos, tener muchos tokens, y cuanto más tokens tienes, cuanto más información tienes aprendida, y eso sí, no sobreaprendida, porque como Sobreaprendas, peor todavía. Tienes que aprender en muy poquitas épocas, tienes que aprender de manera muy suave, pero mucho, con una red neuronal suficientemente grande para que tenga un tamaño similar al conjunto de tokens y eso era romper completamente…
Significado #1 · Palabras #3
Francis Villatoro explica cómo el avance en la comprensión del lenguaje natural se logró al ignorar el conocimiento de los filólogos y centrarse en aprender correlaciones entre datos a partir de grandes cantidades de texto.
Habla: Francis VillatoroSignificado #1 · Palabras #3análisis ortosintáctico filólogos ineficazlenguaje natural inteligencia artificial ambiguoconocimiento filólogos lenguaje trivialfilólogos lastre inteligencia artificialniños aprenden idioma ortocintácticomaria problema inteligencia artificialolvidar filólogos lenguaje naturalcorrelaciones datos comprensión lenguajetokens información aprendizaje automáticoevitar sobreaprendizaje modelos lenguaje…que si no ponías un árbol de Monte Carlo como se había hecho toda la vida para hacer juegos parecía como que la inteligencia artificial no iba a ser capaz de profundizar más y eso es una cosa que me gustaría ya que está aquí María y es un tema interesante. Conectarlo con el lenguaje natural de toda la vida en inteligencia artificial se ha dicho que el lenguaje natural era tan ambiguo, tan complicado. Todo el conocimiento de los filólogos sobre el lenguaje, el análisis ortosintáctico es trivial. El análisis ortosintáctico no permite entender un idioma, una lengua. Los hablantes no usamos el análisis ortosintáctico y la conexión semántica, y no usamos ese tipo de conceptos que teóricamente es lo que desde la inteligencia artificial estábamos usando para entender el lenguaje natural. Intentábamos entenderlo utilizando el conocimiento de los filólogos, pero es. Que el conocimiento de los filólogos es irrelevante, todo lo contrario a ser un beneficio, es un lastre, porque los niños, los bebés, los pequeñitos aprenden el idioma sin necesidad de ese conocimiento ortocintáctico. Entonces, en inteligencia artificial teníamos ese gran problema, por eso quería ahí meterle chicha a María. No, voy a rogar diferir y te lo voy a justificar. Pero bueno, lo que quiero decir es eso: el gran avance en la comprensión del lenguaje natural fue el momento en el que dijimos Olvídate de todo lo que saben los filólogos, lo único que tienes que hacer es aprender correlaciones entre datos y los datos es leer muchos textos, tener muchos tokens, y cuanto más tokens tienes, cuanto más información tienes aprendida, y eso sí, no sobreaprendida, porque como Sobreaprendas, peor todavía. Tienes que aprender en muy poquitas épocas, tienes que aprender de manera muy suave, pero mucho, con una red neuronal suficientemente grande para que tenga un tamaño similar al conjunto de tokens y eso era romper completamente…
María Ribes interrumpe la discusión sobre inteligencia artificial y aclara que no profundizará en filosofía del lenguaje, sino que se centrará en explicar varios puntos relacionados con un desafío planteado.
Habla: María RibesSignificado #3 · Palabras #1procesamiento lenguaje natural maria ribesanálisis morfosintáctico ortosintáctico preferenciagastón ausencia análisisconexiones entre las palabras sintaxisprocesamiento lenguaje natural filólogosconstrucción textual filólogosdesafío planteado maria ribeslingüística computacional maria ribesmáquinas hablan comprenden maria ribesadquirir aprender lengua bebés…yo, yo qué sé de los árboles de Monte Carlo. Nunca has estado en Monte Carlo, ¿no? Claro, exacto, solo tienes que acercarte. Sí, nunca he estado en Soria y nunca he estado en Burgos y mire qué morcilla. Bueno, como te iba, como te va diciendo, pues vale. Yo estudié cuando era más joven, muy modestamente, procesamiento de lenguaje natural. Y claro, lo que se trataba de hacer, cuando dices tú el análisis ortosintáctico, me imagino que prefieres a morfosintáctico, Morfosintáctico, sí, como le quieras llamar, perdonad por qué uso el tema. Qué pena que no esté Gastón. No, no voy a hablar filosofía del lenguaje, solo que las conexiones entre las palabras, no, pues la sintaxis. Entonces, me gustaría aclarar varias cosas de este challenge que se me ha lanzado. Primero, no creo que nos debamos referir al conocimiento de los filólogos para el procesamiento del lenguaje natural porque los filólogos realmente estudian el texto, los textos, la construcción textual. Yo diría más bien los Lingüistas, cuando yo era joven, antes de la IA, pues yo estudiaba lingüística computacional: cómo hacer que las máquinas hablen y que nos comprendan. Y esas relaciones que tú has dicho, que tiene razón y no, y te lo voy a justificar; que los bebés aprenden de manera, como dices, trivial, bueno, de manera informal, no sé cómo decir, inconsciente. Es la diferencia entre adquirir y aprender una lengua, ¿no? Actual tu bebé, cuando le hablas no le dices, y ahora cariñito, vamos a aprender el plural, y ahora vamos a formar el femenino. Tú hablas y el bebé infiere cosas, que es como podríamos decir que hace la red neuronal: ve cosas, escucha y aprende. Pero esas…
María Ribes explica un aspecto del procesamiento del lenguaje natural relacionado con las dependencias universales de Stanford, indicando cómo estos sistemas identifican los caracteres más relevantes en una cadena para facilitar la comunicación.
Habla: María RibesPalabras #6cadenas de signos tesis maría ribesprocesamiento lenguaje natural capítulo tesisdependencias universales stanfordstring de caracteres sistema stanfordcomunicación cadena dependencias universales…piedra, piedra aquí, yo aquí o mamut; pero no es lo mismo en saber lo que es un mamut que en decir cógelo y llévatelo de allí o pon esto aquí o hacia aquí o de mí. Entonces esas relaciones sintácticas te lo digo como lingüista, sí que sé de lo que hablo pero. como procesamiento de lenguaje natural pues cuando yo estudiaba esto son esas cadenas esas cadenas de signos ¿cómo se llama esto? no me acuerdo cómo se llama ahora mismo, tenía un capítulo de la tesis sobre eso pero te refieres a los tokens, la forma en la que dividimos las palabras no son los tokens, bueno los tokens y los tipos, eso es lo que sí tratamos en lingüística también no son procesamiento del lenguaje natural, ah dependencias universales, eso que es Universal Dependencies de Stanford, entonces eso lo que hacía era que en ese string de caracteres que cogía el sistema sabía seleccionar los que eran más importantes para la comunicación de toda esa cadena por así decirlo y eso En sintaxis humana son los verbos, por lo que sea nosotros; el verbo es el centro de la frase y del verbo depende todo lo demás: el objeto, el sujeto. Porque aunque digamos, aunque pensemos que las lenguas del mundo son muy diferentes, eso creo que ya lo he…
Francis Villatoro introduce una distinción entre sintactistas y semantistas dentro del campo de la lingüística, sugiriendo que uno de estos grupos merece más reconocimiento.
Habla: Francis VillatoroSignificado #15lingüística sintactistas semantistascampo lingüística computacional 2020lenguaje natural problema décadasinteligencia artificial resolución imposible…de las palabras según su posición gramatical, su posición en la frase, según su función sintáctica. Entonces, eso yo tengo que decir que no es trivial, es que sin eso no existe, o sea, yo diría, es más, hay dos tipos de personas, déjame que termine esto. Hay dos tipos de personas, los sintactistas y los semantistas, y solo uno de ellos merece No, no, no, no sé si sabéis a cuál No, pero en el campo de si has estudiado lingüística computacional, si has estudiado lingüística computacional recordarás que en el año 2020 el conocimiento básico de lingüística computacional era el lenguaje natural; es imposible, probablemente no lo resolvamos en las próximas décadas; es una cosa absolutamente imposible de resolver, la clave de la inteligencia de. Una máquina es el Test de Turing, que básicamente es un test lingüístico; es entender el lenguaje el Test de Turing, es entender el lenguaje, es una trivialidad, no requiere conocimiento. Cuando hacíamos los concursos de Test de Turing, lo que le complicaba a…
María Ribes introduce la adquisición del lenguaje natural como un proceso cognitivo complejo, lamentando la imposibilidad de observar directamente el funcionamiento interno del cerebro durante este proceso.
Habla: María RibesSignificado #5 · Palabras #7adquisición lenguaje natural proceso cognitivocerebro funcionando imposibilidad observación directaestructuras adquisición lenguaje natural…eso es ambigüedad semántica, pero la ambigüedad, ay, le daba algo, la ambigüedad sintáctica, lo que te digo; a ver, tú crees que no lo sabes, pero sí que lo sabes. Tú sabes lo que es un verbo, un adjetivo, a lo mejor no eres consciente, y eso es lo que. se llama la adquisición, la magia y el misterio del lenguaje natural, que como es un proceso cognitivo, lástima, no se puede abrir un cerebro mientras está funcionando, pero que las estructuras... Bueno, ahora hablamos de eso. Ok, te he mirado por eso Pero, ¿esto hay que decir algo? Porque ha salto aquí un mensaje y lo he cerrado No, no, no, termina tu argumentación, solo estaba diciendo que Vayamos reconduciendo para volver al tema. Bueno, pues eso, que la sintaxis es necesaria, aunque no haya que hacer árboles ni saber definir lo que es un verbo. Pero tú, si no supieras eso, no podrías hablar ni podrías comprender lo que estamos haciendo ahora…
Francis Villatoro menciona al futurólogo Ray Kurzweil y su predicción sobre cuándo se alcanzaría un cierto nivel de conocimiento lingüístico del lenguaje natural.
Habla: Francis VillatoroSignificado #13 · Palabras #19kurzweil modelos marcovianos ocultosconocimiento lingüístico lenguaje natural 2030chat gpt 3 5 año 2023salto de infinito conocimiento lingüístico…sentido porque parece que cuando digamos trivial es que no tiene secreto y lo cierto es que las máquinas lo imitan, pero si tuvieses que dar una serie de normas que te llevaran a eso de forma determinista y no por aprendizaje, pues eso no lo sabríamos hacer. Fíjate que el gran futurologo, el Kurzweil, que era especialista en modelos marcovianos ocultos para entender el habla, pero a nivel de fonema a signo, de fonética a grafía y poder escribir, o sea, lo que es entender el lenguaje a partir de un audio, digamos, tras escribir el audio, que era la gran especialidad de Kurzweil, predecía que este nivel de conocimiento lingüístico del lenguaje natural se alcanzaría del orden del año 2030. Lo hemos alcanzado, pues, en tres años, así, o sea, que era el chat GPT 3.5, que es del 2023, o algo así. Sí, creo que sí, hemos dado un salto de infinito en el momento en. El que nos hemos dado cuenta de que todo era extremadamente sencillo y de que en esa sencillez cualquiera puede avanzar en este campo. Ha costado 70 años llegar a ese conocimiento de que todo esto era sencillo, pero todos los grandes tabúes de todo lo que…
Héctor Socas menciona una herramienta de búsqueda desarrollada por José Miguel Robles, un oyente y mecenas del podcast, que permite realizar consultas en lenguaje natural.
Habla: Héctor SocasPalabras #20herramienta búsqueda josé miguel robleslenguaje natural herramienta roblesrelaciones morfosintácticas gastón…de embalsamamiento utilizados en la momificación egipcia y a mí esto me recordó un montón a algo que contamos en el episodio 402, también de un tema parecido Sí, sí, me acuerdo perfectamente, no tuve que buscarlo en nuestra web señalirruido.com Vale, vale, ok, ahora estoy más tranquilo, donde por cierto tenemos una maravillosa herramienta de búsqueda que ha desarrollado nuestro amigo y oyente y mecenas José Miguel Robles, que es maravilloso con lenguaje natural. Le podemos preguntar a la máquina cualquier cosa que queramos y pilla todas las relaciones morfosintácticas y ortosintácticas, que diría aquí para molestar a Gastón y... Hasta es verdad, nunca nos acordamos de eso. Bueno, y a todos nuestros oyentes latinoamericanos un saludo. Que bueno, eso el paper este, que parece muy interesante, ¿no? Sí, y es complementario de ese que decías tú; el del otro piso era de 2023. Y este paper, pues los autores es importante que digamos algo también. La primera, como has dicho, es Wanjue Chao, se…
Ignacio Crespo explica cómo la información proveniente del campo visual izquierdo se dirige al hemisferio derecho, el cual carece de las estructuras fundamentales necesarias para procesar el lenguaje.
Habla: Ignacio CrespoSignificado #17procesamiento lenguaje hemisferio derechoestructuras fundamentales procesamiento lenguajecontexto metáforas hemisferio derechoignacio crespo campo visual izquierdo…encontrar las estructuras principales de procesamiento y producción del lenguaje. Así que si le preguntamos qué has visto, podrás responder. Pero imagínate que lo hacemos al revés: en lugar de ponérselo en el derecho, lo ponemos en el campo visual izquierdo. Va a ir toda esa información al hemisferio derecho, donde no tenemos estructuras tan fundamentales para el procesamiento del lenguaje. Sí que hay algunas para darle contexto, para hablar de dobles sentidos, de metáforas, pero no son las que necesitamos aquí. Si le preguntamos qué estás viendo, no va a poder. Responder, pero si le pedimos que lo señale, se lo hemos indicado antes; tal vez ahí es posible que sí lo señale. Y hay un caso muy chulo que hizo Gatsaniga en su momento, donde la imagen que ponía era una imagen erótica, ruborizante. Cuando el paciente le…