Búsqueda · 26 momentos en 17 episodios
María RibesBorja TosarGastón GiribetFrancis VillatoroHéctor Socastokens y representaciones visuales gatorelación entrada token palabra gatoimagen generada algoritmo palabra perroatención imagen asociada a catimagen representa palabra gatoruido en representación neuronalgramáticas generales chomsky máquinas turingtesis george turing algoritmos genéricosGeorge TuringNoam ChomskyFrancis VillatoroCatMarkarianGastón Giribet
Imagen representa palabra gato
Con
0:000:301:001:302:002:303:003:33
Francis Villatoro explica que es difícil afirmar que una imagen representa directamente una palabra como 'gato', describiéndola como ruido y contrastando enfoques de representación simbólica y neuronal.
…Básicamente yo represento la entrada en una serie de imágenes y genero nuevas imágenes y esas imágenes las transformo en un nuevo token y voy trabajando entonces en ese tipo de representación. No existe una representación simbólica; es decir, no existe. Un lugar donde yo pueda decir: voy a encontrar la palabra gato. Voy a encontrar la palabra perro. Lo que yo puedo, claro, yo veo el interior del algoritmo y en ciertos momentos puedo decir: pues cuando le diré como la entrada al token de la palabra gato "Cat", pues apareció esta imagen. Yo que sea, en la representación de la atención, la imagen asociada a la atención. Pero, ¿dónde está ahí la palabra gato? O sea, no es fácil decir: Toda la imagen representa la palabra gato. Es una imagen que parece ruido. Son dos enfoques muy diferentes. Ambos son enfoques que se puede demostrar que son completos a nivel de cómputo; es decir, todo lo calculable, todo lo expresable en un lenguaje se puede obtener tanto en la representación simbólica, básicamente es equivalente a un algoritmo de tipo Turing, etc. Las gramáticas generales de Chomsky son tan generales que son equivalentes por la tesis de George Turing a cualquier máquina de Turing, a cualquier algoritmo genérico. Pero las redes neuronales también, con las redes neuronales, siempre Y cuando tengan más de una capa ya se puede demostrar que pueden representar de manera arbitraria cualquier función. Es una demostración clásica. Por lo tanto, son dos sistemas formalmente equivalentes en el sentido de que su poder de cómputo es exactamente…
Significado #1 · Palabras #1
Francis Villatoro explica la diferencia entre representación simbólica y neuronal en redes neuronales, describiendo esta última como una 'caja negra' donde los símbolos se representan a través de imágenes aprendidas.
Habla: Francis VillatoroPalabras #7gramática concepto clave chomskyrepresentación simbólica informáticaalfabeto símbolos reglas lenguajepalabras combinaciones símbolos válidosredes neuronales convolución imágenesrepresentación neuronal caja negrasímbolos representados en imágenes aprendidas…neuronales; y eso, os voy a dejar que lo explique, no me callo, pero es que me acuerdo de otra frase que dice que es importante para poder aprender, para que adquiera la lengua, desligar lo que es la representación del lenguaje formal del sesgo cognitivo. Es decir, no solo que entienda lo que dice, sino cómo lo dices, cómo poder expresarlo. No sé si me explico. A ver si encuentro esa frase. Y ahora os dejo que lo expliquéis. A ver... En las representaciones simbólicas se trabaja con lo que en informática llamamos un concepto clave de Chomsky: el concepto de gramática; tienes un alfabeto con una serie de símbolos y tienes un conjunto de reglas que te permiten conectar esos símbolos para hacer palabras, es decir, combinaciones de símbolos que son válidas. El lenguaje consiste en un conjunto de reglas que te dicen cómo puedes combinar los símbolos del alfabeto para obtener palabras válidas. Eso es la representación simbólica, la representación. Conexionista o representación neuronal es una representación de caja negra. Tú tienes un embedding, tienes una representación de los símbolos en forma de unos objetos que son objetos abstractos. Hoy en día, en redes neuronales, básicamente de convolución, son siempre imágenes. Yo tengo una imagen que representa información y nadie sabe cómo los símbolos se representan en esa imagen porque es una imagen aprendida. En el proceso de aprendizaje se aprenden las imágenes que representan de manera efectiva los símbolos y las relaciones entre símbolos. Entonces yo trabajo con esas. Imágenes y obtengo soluciones al problema que yo quiera, como en el caso de los modelos de lenguaje: pues generar el siguiente token para una registra de token. Básicamente yo represento la entrada en una serie de imágenes y genero nuevas imágenes y esas…
Francis Villatoro explica que es difícil afirmar que una imagen representa directamente una palabra como 'gato', describiéndola como ruido y contrastando enfoques de representación simbólica y neuronal.
Habla: Francis VillatoroSignificado #1 · Palabras #1tokens y representaciones visuales gatorelación entrada token palabra gatoimagen generada algoritmo palabra perroatención imagen asociada a catimagen representa palabra gatoruido en representación neuronalgramáticas generales chomsky máquinas turingtesis george turing algoritmos genéricos…Básicamente yo represento la entrada en una serie de imágenes y genero nuevas imágenes y esas imágenes las transformo en un nuevo token y voy trabajando entonces en ese tipo de representación. No existe una representación simbólica; es decir, no existe. Un lugar donde yo pueda decir: voy a encontrar la palabra gato. Voy a encontrar la palabra perro. Lo que yo puedo, claro, yo veo el interior del algoritmo y en ciertos momentos puedo decir: pues cuando le diré como la entrada al token de la palabra gato "Cat", pues apareció esta imagen. Yo que sea, en la representación de la atención, la imagen asociada a la atención. Pero, ¿dónde está ahí la palabra gato? O sea, no es fácil decir: Toda la imagen representa la palabra gato. Es una imagen que parece ruido. Son dos enfoques muy diferentes. Ambos son enfoques que se puede demostrar que son completos a nivel de cómputo; es decir, todo lo calculable, todo lo expresable en un lenguaje se puede obtener tanto en la representación simbólica, básicamente es equivalente a un algoritmo de tipo Turing, etc. Las gramáticas generales de Chomsky son tan generales que son equivalentes por la tesis de George Turing a cualquier máquina de Turing, a cualquier algoritmo genérico. Pero las redes neuronales también, con las redes neuronales, siempre Y cuando tengan más de una capa ya se puede demostrar que pueden representar de manera arbitraria cualquier función. Es una demostración clásica. Por lo tanto, son dos sistemas formalmente equivalentes en el sentido de que su poder de cómputo es exactamente…
Gastón Giribet reflexiona sobre sus propias dificultades para distinguir entre palabras en inglés, como 'beach' y 'cat', a pesar de haber vivido muchos años en el país.
Habla: Gastón GiribetSignificado #8dificultad con palabras en inglés gastón giribetdistinguir beach y cat gastón giribetmarkarian y la confusión lingüística…"¿Ustedes dicen terra incógnita o terra incógnita?" Con el acento, y ella le preguntaba: "¿Eh? ¿Qué diferencia hay?". Repito, se lo repitió tres veces y la tía no pillaba la diferencia entre incógnita e incógnita. A mí me pasa peor, me pasa con el inglés. ¿Qué es mucho más sencillo, no? Yo todavía, después de vivir años acá, no sé la diferencia entre beach y beach, entre... Hombre... No, es que no la sé, o entre cat y cat, con el que dice miau y el cat, digamos, cat y cat, y me miran así como diciendo cat y cat, cat y cat, miau. ¿Y tú es lo mismo? Para mí es lo mismo. Bueno, Markarian, ¿por qué? ¿Cómo llegamos de Mark? Ah, me sí, me sí. A diferencia de Messier, de Messier 87, de Messier 31 y estos objetos que están por ahí, esos vienen del siglo XVIII y muchos de esos ni siquiera son todos galaxias; uno es una estrella, otro es una galaxia, porque el pobre tipo no sabía. El siglo XVIII,…