Búsqueda · 24 momentos en 12 episodios
María RibesAlberto ApariciJuan Carlos GilIgnacio CrespoFrancis VillatoroHéctor SocasLuisa AchaerandioPushmeet Kohli · DeepMindThore Graepel · DeepMindcadenas de signos tesis maría ribesprocesamiento lenguaje natural capítulo tesisdependencias universales stanfordstring de caracteres sistema stanfordcomunicación cadena dependencias universalesMaría RibesGastón GiribetStanfordUniversal DependenciesMaría RibasFrancis VillatoroIgnacio CrespoRay KurzweilChatGPT 3.5
Procesamiento lenguaje natural capítulo tesis
Con
0:000:301:001:302:002:303:003:33
María Ribes continúa explicando su experiencia en procesamiento de lenguaje natural, mencionando un capítulo de su tesis sobre cadenas de signos y recordando terminología específica.
…piedra, piedra aquí, yo aquí o mamut; pero no es lo mismo en saber lo que es un mamut que en decir cógelo y llévatelo de allí o pon esto aquí o hacia aquí o de mí. Entonces esas relaciones sintácticas te lo digo como lingüista, sí que sé de lo que hablo pero. como procesamiento de lenguaje natural pues cuando yo estudiaba esto son esas cadenas esas cadenas de signos ¿cómo se llama esto? no me acuerdo cómo se llama ahora mismo, tenía un capítulo de la tesis sobre eso pero te refieres a los tokens, la forma en la que dividimos las palabras no son los tokens, bueno los tokens y los tipos, eso es lo que sí tratamos en lingüística también no son procesamiento del lenguaje natural, ah dependencias universales, eso que es Universal Dependencies de Stanford, entonces eso lo que hacía era que en ese string de caracteres que cogía el sistema sabía seleccionar los que eran más importantes para la comunicación de toda esa cadena por así decirlo y eso En sintaxis humana son los verbos, por lo que sea nosotros; el verbo es el centro de la frase y del verbo depende todo lo demás: el objeto, el sujeto. Porque aunque digamos, aunque pensemos que las lenguas del mundo son muy diferentes, eso creo que ya lo he…
Significado #1 · Palabras #1
Francis Villatoro explica por qué el análisis ortosintáctico, basado en el conocimiento de los filólogos, resulta ineficaz para comprender el lenguaje natural desde la perspectiva de la inteligencia artificial.
Habla: Francis VillatoroSignificado #8 · Palabras #11análisis ortosintáctico filólogos ineficazlenguaje natural inteligencia artificial ambiguoconocimiento filólogos lenguaje trivial…que si no ponías un árbol de Monte Carlo como se había hecho toda la vida para hacer juegos parecía como que la inteligencia artificial no iba a ser capaz de profundizar más y eso es una cosa que me gustaría ya que está aquí María y es un tema interesante. Conectarlo con el lenguaje natural de toda la vida en inteligencia artificial se ha dicho que el lenguaje natural era tan ambiguo, tan complicado. Todo el conocimiento de los filólogos sobre el lenguaje, el análisis ortosintáctico es trivial. El análisis ortosintáctico no permite entender un idioma, una lengua. Los hablantes no usamos el análisis ortosintáctico y la conexión semántica, y no usamos ese tipo de conceptos que teóricamente es lo que desde la inteligencia artificial estábamos usando para entender el lenguaje natural. Intentábamos entenderlo utilizando el conocimiento de los filólogos, pero es. Que el conocimiento de los filólogos es irrelevante, todo lo contrario a ser un beneficio, es un lastre, porque los niños, los bebés, los pequeñitos aprenden el idioma sin necesidad de ese conocimiento ortocintáctico. Entonces, en inteligencia artificial…
Francis Villatoro explica cómo el avance en la comprensión del lenguaje natural se logró al ignorar el conocimiento de los filólogos y centrarse en aprender correlaciones entre datos a partir de grandes cantidades de texto.
Habla: Francis VillatoroSignificado #9 · Palabras #19olvidar filólogos lenguaje naturalcorrelaciones datos comprensión lenguajetokens información aprendizaje automáticoevitar sobreaprendizaje modelos lenguaje…niños, los bebés, los pequeñitos aprenden el idioma sin necesidad de ese conocimiento ortocintáctico. Entonces, en inteligencia artificial teníamos ese gran problema, por eso quería ahí meterle chicha a María. No, voy a rogar diferir y te lo voy a justificar. Pero bueno, lo que quiero decir es eso: el gran avance en la comprensión del lenguaje natural fue el momento en el que dijimos Olvídate de todo lo que saben los filólogos, lo único que tienes que hacer es aprender correlaciones entre datos y los datos es leer muchos textos, tener muchos tokens, y cuanto más tokens tienes, cuanto más información tienes aprendida, y eso sí, no sobreaprendida, porque como Sobreaprendas, peor todavía. Tienes que aprender en muy poquitas épocas, tienes que aprender de manera muy suave, pero mucho, con una red neuronal suficientemente grande para que tenga un tamaño similar al conjunto de tokens y eso era romper completamente…
María Ribes recuerda su experiencia estudiando procesamiento de lenguaje natural y comenta sobre la preferencia por el análisis morfosintáctico en comparación con el ortosintáctico.
Habla: María RibesSignificado #4 · Palabras #2procesamiento lenguaje natural maria ribesanálisis morfosintáctico ortosintáctico preferenciagastón ausencia análisisconexiones entre las palabras sintaxisprocesamiento lenguaje natural filólogosconstrucción textual filólogosdesafío planteado maria ribes…yo, yo qué sé de los árboles de Monte Carlo. Nunca has estado en Monte Carlo, ¿no? Claro, exacto, solo tienes que acercarte. Sí, nunca he estado en Soria y nunca he estado en Burgos y mire qué morcilla. Bueno, como te iba, como te va diciendo, pues vale. Yo estudié cuando era más joven, muy modestamente, procesamiento de lenguaje natural. Y claro, lo que se trataba de hacer, cuando dices tú el análisis ortosintáctico, me imagino que prefieres a morfosintáctico, Morfosintáctico, sí, como le quieras llamar, perdonad por qué uso el tema. Qué pena que no esté Gastón. No, no voy a hablar filosofía del lenguaje, solo que las conexiones entre las palabras, no, pues la sintaxis. Entonces, me gustaría aclarar varias cosas de este challenge que se me ha lanzado. Primero, no creo que nos debamos referir al conocimiento de los filólogos para el procesamiento del lenguaje natural porque los filólogos realmente estudian el texto, los textos, la construcción textual. Yo diría más bien los Lingüistas, cuando yo era joven, antes de la IA, pues yo estudiaba lingüística computacional: cómo hacer que las máquinas hablen y que nos comprendan. Y esas relaciones que tú has dicho, que tiene razón y no, y te lo voy a justificar; que los bebés aprenden…
María Ribes continúa explicando su experiencia en procesamiento de lenguaje natural, mencionando un capítulo de su tesis sobre cadenas de signos y recordando terminología específica.
Habla: María RibesSignificado #1 · Palabras #1cadenas de signos tesis maría ribesprocesamiento lenguaje natural capítulo tesisdependencias universales stanfordstring de caracteres sistema stanfordcomunicación cadena dependencias universales…piedra, piedra aquí, yo aquí o mamut; pero no es lo mismo en saber lo que es un mamut que en decir cógelo y llévatelo de allí o pon esto aquí o hacia aquí o de mí. Entonces esas relaciones sintácticas te lo digo como lingüista, sí que sé de lo que hablo pero. como procesamiento de lenguaje natural pues cuando yo estudiaba esto son esas cadenas esas cadenas de signos ¿cómo se llama esto? no me acuerdo cómo se llama ahora mismo, tenía un capítulo de la tesis sobre eso pero te refieres a los tokens, la forma en la que dividimos las palabras no son los tokens, bueno los tokens y los tipos, eso es lo que sí tratamos en lingüística también no son procesamiento del lenguaje natural, ah dependencias universales, eso que es Universal Dependencies de Stanford, entonces eso lo que hacía era que en ese string de caracteres que cogía el sistema sabía seleccionar los que eran más importantes para la comunicación de toda esa cadena por así decirlo y eso En sintaxis humana son los verbos, por lo que sea nosotros; el verbo es el centro de la frase y del verbo depende todo lo demás: el objeto, el sujeto. Porque aunque digamos, aunque pensemos que las lenguas del mundo son muy diferentes, eso creo que ya lo he…
Francis Villatoro introduce una distinción entre sintactistas y semantistas dentro del campo de la lingüística, sugiriendo que uno de estos grupos merece más reconocimiento.
Habla: Francis VillatoroSignificado #7lingüística sintactistas semantistascampo lingüística computacional 2020lenguaje natural problema décadasinteligencia artificial resolución imposible…de las palabras según su posición gramatical, su posición en la frase, según su función sintáctica. Entonces, eso yo tengo que decir que no es trivial, es que sin eso no existe, o sea, yo diría, es más, hay dos tipos de personas, déjame que termine esto. Hay dos tipos de personas, los sintactistas y los semantistas, y solo uno de ellos merece No, no, no, no sé si sabéis a cuál No, pero en el campo de si has estudiado lingüística computacional, si has estudiado lingüística computacional recordarás que en el año 2020 el conocimiento básico de lingüística computacional era el lenguaje natural; es imposible, probablemente no lo resolvamos en las próximas décadas; es una cosa absolutamente imposible de resolver, la clave de la inteligencia de. Una máquina es el Test de Turing, que básicamente es un test lingüístico; es entender el lenguaje el Test de Turing, es entender el lenguaje, es una trivialidad, no requiere conocimiento. Cuando hacíamos los concursos de Test de Turing, lo que le complicaba a…
María Ribes introduce la adquisición del lenguaje natural como un proceso cognitivo complejo, lamentando la imposibilidad de observar directamente el funcionamiento interno del cerebro durante este proceso.
Habla: María RibesSignificado #6 · Palabras #5adquisición lenguaje natural proceso cognitivocerebro funcionando imposibilidad observación directaestructuras adquisición lenguaje natural…eso es ambigüedad semántica, pero la ambigüedad, ay, le daba algo, la ambigüedad sintáctica, lo que te digo; a ver, tú crees que no lo sabes, pero sí que lo sabes. Tú sabes lo que es un verbo, un adjetivo, a lo mejor no eres consciente, y eso es lo que. se llama la adquisición, la magia y el misterio del lenguaje natural, que como es un proceso cognitivo, lástima, no se puede abrir un cerebro mientras está funcionando, pero que las estructuras... Bueno, ahora hablamos de eso. Ok, te he mirado por eso Pero, ¿esto hay que decir algo? Porque ha salto aquí un mensaje y lo he cerrado No, no, no, termina tu argumentación, solo estaba diciendo que Vayamos reconduciendo para volver al tema. Bueno, pues eso, que la sintaxis es necesaria, aunque no haya que hacer árboles ni saber definir lo que es un verbo. Pero tú, si no supieras eso, no podrías hablar ni podrías comprender lo que estamos haciendo ahora…
Francis Villatoro menciona al futurólogo Ray Kurzweil y su predicción sobre cuándo se alcanzaría un cierto nivel de conocimiento lingüístico del lenguaje natural.
Habla: Francis VillatoroSignificado #16 · Palabras #20kurzweil modelos marcovianos ocultosconocimiento lingüístico lenguaje natural 2030chat gpt 3 5 año 2023salto de infinito conocimiento lingüístico…sentido porque parece que cuando digamos trivial es que no tiene secreto y lo cierto es que las máquinas lo imitan, pero si tuvieses que dar una serie de normas que te llevaran a eso de forma determinista y no por aprendizaje, pues eso no lo sabríamos hacer. Fíjate que el gran futurologo, el Kurzweil, que era especialista en modelos marcovianos ocultos para entender el habla, pero a nivel de fonema a signo, de fonética a grafía y poder escribir, o sea, lo que es entender el lenguaje a partir de un audio, digamos, tras escribir el audio, que era la gran especialidad de Kurzweil, predecía que este nivel de conocimiento lingüístico del lenguaje natural se alcanzaría del orden del año 2030. Lo hemos alcanzado, pues, en tres años, así, o sea, que era el chat GPT 3.5, que es del 2023, o algo así. Sí, creo que sí, hemos dado un salto de infinito en el momento en. El que nos hemos dado cuenta de que todo era extremadamente sencillo y de que en esa sencillez cualquiera puede avanzar en este campo. Ha costado 70 años llegar a ese conocimiento de que todo esto era sencillo, pero todos los grandes tabúes de todo lo que…
Ignacio Crespo explica cómo la información proveniente del campo visual izquierdo se dirige al hemisferio derecho, el cual carece de las estructuras fundamentales necesarias para procesar el lenguaje.
Habla: Ignacio CrespoSignificado #12procesamiento lenguaje hemisferio derechoestructuras fundamentales procesamiento lenguajecontexto metáforas hemisferio derechoignacio crespo campo visual izquierdo…encontrar las estructuras principales de procesamiento y producción del lenguaje. Así que si le preguntamos qué has visto, podrás responder. Pero imagínate que lo hacemos al revés: en lugar de ponérselo en el derecho, lo ponemos en el campo visual izquierdo. Va a ir toda esa información al hemisferio derecho, donde no tenemos estructuras tan fundamentales para el procesamiento del lenguaje. Sí que hay algunas para darle contexto, para hablar de dobles sentidos, de metáforas, pero no son las que necesitamos aquí. Si le preguntamos qué estás viendo, no va a poder. Responder, pero si le pedimos que lo señale, se lo hemos indicado antes; tal vez ahí es posible que sí lo señale. Y hay un caso muy chulo que hizo Gatsaniga en su momento, donde la imagen que ponía era una imagen erótica, ruborizante. Cuando el paciente le…