Búsqueda · 26 momentos en 14 episodios
María RibesBorja TosarGastón GiribetFrancis VillatoroHéctor Socassesgos inductivos estructuradosredes neuronales flexibilidad representacionalaprendizaje de idiomas modelos híbridoslenguaje formal sesgo cognitivo ribesgramática concepto clave chomskyrepresentación simbólica informáticaalfabeto símbolos reglas lenguajepalabras combinaciones símbolos válidosredes neuronales convolución imágenesrepresentación neuronal caja negrasímbolos representados en imágenes aprendidasNoam ChomskyFrancis VillatoroMaría RibesGeorge TuringAlto ValirioGastón GiribetValenciaCanal Nou
Palabras combinaciones símbolos válidos
Con
0:000:301:001:302:002:303:003:33
Francis Villatoro explica la importancia de comprender no solo el significado de las palabras, sino también la forma en que se expresan, haciendo referencia a un concepto clave de Noam Chomsky.
…que crean las tareas estudiando esos lenguajes formales bayesianos en la red neuronal para que sea capaz de adquirir la lengua inglesa. Y aquí nos dice: he apuntado una cosa porque sabía que no me iba a acordar, y eso es para que vosotros lo expliquéis. Un modelo híbrido entre simbolismo y conexionismo, o sea que combina los sesgos inductivos explícitos estructurados de los modelos simbólicos bayesianos y luego la flexibilidad representacional de las redes neuronales; y eso, os voy a dejar que lo explique, no me callo, pero es que me acuerdo de otra frase que dice que es importante para poder aprender, para que adquiera la lengua, desligar lo que es la representación del lenguaje formal del sesgo cognitivo. Es decir, no solo que entienda lo que dice, sino cómo lo dices, cómo poder expresarlo. No sé si me explico. A ver si encuentro esa frase. Y ahora os dejo que lo expliquéis. A ver... En las representaciones simbólicas se trabaja con lo que en informática llamamos un concepto clave de Chomsky: el concepto de gramática; tienes un alfabeto con una serie de símbolos y tienes un conjunto de reglas que te permiten conectar esos símbolos para hacer palabras, es decir, combinaciones de símbolos que son válidas. El lenguaje consiste en un conjunto de reglas que te dicen cómo puedes combinar los símbolos del alfabeto para obtener palabras válidas. Eso es la representación simbólica, la representación. Conexionista o representación neuronal es una representación de caja negra. Tú tienes un embedding, tienes una representación de los símbolos en forma de unos objetos que son objetos abstractos. Hoy en día, en redes neuronales, básicamente de convolución, son siempre imágenes. Yo tengo una imagen que representa información y nadie sabe cómo los símbolos se representan en esa imagen porque es una imagen aprendida. En el proceso de aprendizaje se aprenden las imágenes que representan de manera efectiva los símbolos y las relaciones entre símbolos. Entonces yo trabajo con esas. Imágenes y obtengo soluciones al problema que yo quiera, como en el caso de los modelos de lenguaje: pues generar el siguiente token para una registra de token. Básicamente yo represento la entrada en una serie de imágenes y genero nuevas imágenes y esas…
Significado #1 · Palabras #1
Francis Villatoro explica la importancia de comprender no solo el significado de las palabras, sino también la forma en que se expresan, haciendo referencia a un concepto clave de Noam Chomsky.
Habla: Francis VillatoroSignificado #1 · Palabras #1sesgos inductivos estructuradosredes neuronales flexibilidad representacionalaprendizaje de idiomas modelos híbridoslenguaje formal sesgo cognitivo ribesgramática concepto clave chomskyrepresentación simbólica informáticaalfabeto símbolos reglas lenguajepalabras combinaciones símbolos válidosredes neuronales convolución imágenesrepresentación neuronal caja negrasímbolos representados en imágenes aprendidas…que crean las tareas estudiando esos lenguajes formales bayesianos en la red neuronal para que sea capaz de adquirir la lengua inglesa. Y aquí nos dice: he apuntado una cosa porque sabía que no me iba a acordar, y eso es para que vosotros lo expliquéis. Un modelo híbrido entre simbolismo y conexionismo, o sea que combina los sesgos inductivos explícitos estructurados de los modelos simbólicos bayesianos y luego la flexibilidad representacional de las redes neuronales; y eso, os voy a dejar que lo explique, no me callo, pero es que me acuerdo de otra frase que dice que es importante para poder aprender, para que adquiera la lengua, desligar lo que es la representación del lenguaje formal del sesgo cognitivo. Es decir, no solo que entienda lo que dice, sino cómo lo dices, cómo poder expresarlo. No sé si me explico. A ver si encuentro esa frase. Y ahora os dejo que lo expliquéis. A ver... En las representaciones simbólicas se trabaja con lo que en informática llamamos un concepto clave de Chomsky: el concepto de gramática; tienes un alfabeto con una serie de símbolos y tienes un conjunto de reglas que te permiten conectar esos símbolos para hacer palabras, es decir, combinaciones de símbolos que son válidas. El lenguaje consiste en un conjunto de reglas que te dicen cómo puedes combinar los símbolos del alfabeto para obtener palabras válidas. Eso es la representación simbólica, la representación. Conexionista o representación neuronal es una representación de caja negra. Tú tienes un embedding, tienes una representación de los símbolos en forma de unos objetos que son objetos abstractos. Hoy en día, en redes neuronales, básicamente de convolución, son siempre imágenes. Yo tengo una imagen que representa información y nadie sabe cómo los símbolos se representan en esa imagen porque es una imagen aprendida. En el proceso de aprendizaje se aprenden las imágenes que representan de manera efectiva los símbolos y las relaciones entre símbolos. Entonces yo trabajo con esas. Imágenes y obtengo soluciones al problema que yo quiera, como en el caso de los modelos de lenguaje: pues generar el siguiente token para una registra de token. Básicamente yo represento la entrada en una serie de imágenes y genero nuevas imágenes y esas…
Francis Villatoro explica que es difícil afirmar que una imagen representa directamente una palabra como 'gato', describiéndola como ruido y contrastando enfoques de representación simbólica y neuronal.
Habla: Francis VillatoroPalabras #5imagen representa palabra gatoruido en representación neuronalgramáticas generales chomsky máquinas turingtesis george turing algoritmos genéricos…y en ciertos momentos puedo decir: pues cuando le diré como la entrada al token de la palabra gato "Cat", pues apareció esta imagen. Yo que sea, en la representación de la atención, la imagen asociada a la atención. Pero, ¿dónde está ahí la palabra gato? O sea, no es fácil decir: Toda la imagen representa la palabra gato. Es una imagen que parece ruido. Son dos enfoques muy diferentes. Ambos son enfoques que se puede demostrar que son completos a nivel de cómputo; es decir, todo lo calculable, todo lo expresable en un lenguaje se puede obtener tanto en la representación simbólica, básicamente es equivalente a un algoritmo de tipo Turing, etc. Las gramáticas generales de Chomsky son tan generales que son equivalentes por la tesis de George Turing a cualquier máquina de Turing, a cualquier algoritmo genérico. Pero las redes neuronales también, con las redes neuronales, siempre Y cuando tengan más de una capa ya se puede demostrar que pueden representar de manera arbitraria cualquier función. Es una demostración clásica. Por lo tanto, son dos sistemas formalmente equivalentes en el sentido de que su poder de cómputo es exactamente…
María Ribes aclara el significado de la palabra 'sintético' tal como se utiliza en un artículo sobre lenguajes formales y lingüística.
Habla: María RibesPalabras #8lenguaje sintético como artificiallingüística sintético aglutina clustersmétodos bayesianos para lenguajes formalesred con 25000 lenguajes formales…muy interesante Yo no lo he leído, te confieso, cuando lo vi dije, ostras, qué paper tan complicado, no, ostras, María, digo, espero que me lo cuente porque esto se sale de mí De mí también un poco, ¿eh? La parte lingüística es la que he entendido un poco Mejor también quería decir que habla mucho de lenguas sintéticas, ¿eh? Y aquí utiliza la palabra sintética en dos sentidos: sintética como artificial, que son estos lenguajes formales que yo digo que no es como el Alto Valirio, sino símbolos. Pero también en lingüística hablamos de sintético en el sentido de que aglutina, ¿no? Y de que va formando clusters, o sea que se refiere a ese concepto, ya está. Y ya está, son 25.000 lenguajes formales creados con métodos bayesianos, los que le dieron a la red. Y después el corpus natural, el Childes y destiló todo ese sesgo, que la palabra sesgo está negativa, pero en este caso es buena. Este es un sesgo lingüístico bueno porque es un sesgo cognitivo que te ayuda a predecir; es esa distribución a priori que es cómo…
María Ribes reflexiona sobre las diferencias entre el valenciano normativo y el habla cotidiana en Valencia, recordando la existencia del Canal Nou como un espacio donde se hablaba valenciano y generaba controversia por su vocabulario.
Habla: María RibesPalabras #19canal nou y controversia vocabulariovalenciano normativo frente habla cotidianacanal nou espacio valenciano…no abramos ese melón. El valenciano, catalán, es la misma, como decían, parece que no es poco ¿hay una ingle o hay varias ingles? Nosotros somos muy devotos de Fulkner. El valenciano es jodido, es complicado; para mí es como hablar con los otópodos. Pero si somos hermanos; yo cuando voy a Valencia, yo creo que hablan. Bueno, lo que quería decir es que el valenciano normativo no es el que habla a la gente de la calle y antes que existía el canal Nou, que ya no existe, el canal Nou, que era: el Nou significa nuevo y nueve a la vez, tenía un nueve el símbolo, pero claro, era un canal en el que se hablaba valenciano. Había una polémica tan grande con las palabras que existían allí. Lo voy a llamar Planeta Nou. Planeta Nou. Llámalo así. Llámalo así. Ya lo tienes, ya lo tienes. ¿Qué héroes, qué dioses ni nada? Lo que quería decir es que la gente tenía mucha polémica y criticaba mucho. Esa palabra que dicen ahí, eso no se ha dicho nunca.…
Gastón Giribet interrumpe la conversación sobre el idioma francés y su relación con los catálogos de galaxias Messier para expresar una opinión personal sobre las diferencias percibidas en la pronunciación.
Habla: Gastón GiribetPalabras #13vocales en español timbre clarísimoidioma francés dimensiones ocultaspronunciación percibida gastón giribet…sí, Messier Messier Lo peor es que un francés Lo peor es que un francés no entendería el chiste porque para él los dos Messiers son totalmente distintos Para mí no Claro, claro Messier Messier, Messier El idioma ese, por favor Un idioma que tiene tantas Reglas como combinaciones es por definición arbitrario. Bueno, yo creo que ese idioma tiene dimensiones ocultas, porque hay cosas que ellos dicen que suenan diferentes; a mí me suenan igual, o sea, debe haber una dimensión. Pero eso es, perdonad que me meta en este momento; eso son todas las vocales, igual que para nosotros las vocales en español son totalmente, tienen un timbre clarísimo. Para mí que están mintiendo, para mí que están mintiendo. Para mí están mintiendo porque si no, ¿por qué hay cinco símbolos nada más? Pero yo lo quiero defender porque me pasa a mí con el español; cuando yo enseño a los estudiantes internacionales me dicen lo mismo, es que suena todo igual. Una vez me dijo una persona: me dijo que sonaba lo mismo, Francia que Infancia; es que es igual,…