Búsqueda · 27 momentos en 8 episodios
María RibesBorja TosarGastón GiribetFrancis VillatoroHéctor Socasaprendizaje del lenguaje amplía capacidades cognitivasmodelos de lenguaje aprenden nuevas habilidadesinglés como lengua madre de eptcorpus en inglés y otros idiomasmodelos de lenguaje adquieren corpussupremacía de un idioma por corpusembeddings como primera capaHéctor SocasEPTGoogleGastón GiribetChatGPTMaría RibesFrancis VillatoroLineal AVoynichPrincetonBaby LM ChallengeNature Communications
Modelos de lenguaje adquieren corpus
Con
0:000:301:001:302:002:303:003:33
Héctor Socas reflexiona sobre la influencia del volumen de corpus en diferentes idiomas en el funcionamiento de los modelos de lenguaje, específicamente si esto implica una 'supremacía' de un idioma sobre otros.
…otra ya sabiendo inglés sino que aprenda una lengua cualquiera sin haber aprendido otra natural antes solamente con esos códigos matemáticos, que sería, conforme lo que estabas diciendo, sería una manera de agrandar, si cabe, esa capacidad cognitiva, ¿no? Si es capaz de aprender una lengua natural sin saber otra antes, pues puede llegar luego a aprender muchas más cosas, como estabas contando. A mí me gusta mucho esa frase que dices siempre de que aprendiendo el lenguaje, la capacidad del lenguaje, puede aprender más cosas. ¿Sabemos que eso es así? Quiero decir que no sé hasta qué punto eso es información pública o que se pueda saber; yo no la he encontrado, o sea, ¿sabemos que EPT u otros modelos tienen una lengua madre que es el inglés? Pues sí, un poco asumido un poco es que hay más corpus en inglés, pero que se le echa todo corpus en un montón de idiomas como que los aprende de forma, los adquiere, como tú estabas diciendo, no aprender sino adquirir simultáneamente del corpus que recibe porque tiene libros en inglés, en español, en francés, en alemán y tal lo que pasa es que evidentemente hay un corpus mucho mayor en internet de inglés entonces no sé hasta qué punto eso puede establecer una especie de supremacía de un idioma frente a otros en su forma de funcionar. Pues sí. Pero no sé si funciona traduciendo, yo me extrañaría que eso fuera así, de hecho. No, no funciona traduciendo. Hay una primera capa que son embeddings. Pero ahora os diré una cosa. Vale, sé que hay una primera parte del modelo que son los embeddings, que todavía no es parte de la red neuronal en sí; que es una especie de abstracción del lenguaje a conceptos, que es lo que luego se tokeniza. Pero bueno, no sé, me parece…
Significado #1 · Palabras #1
María Ribes explica cómo ha elegido un artículo sobre aprendizaje rápido del lenguaje para analizar, destacando su relación con la inteligencia artificial y el procesamiento del lenguaje natural, áreas de interés para ella.
Habla: María RibesPalabras #20aprendizaje rápido del lenguajedestilación de priores bayesianasprocesamiento del lenguaje natural maria ribespublicación en nature communications…a priori, pero eso lo tendréis que confirmar o corregir, Francis y Héctor. Decís prior, un prior bayesiano, un prior, sí hay muchas cosas que no se traducen, yo suelo decir distribución a priori. Sí, puedes decir los a priori. Los a priori. Bueno, entonces es modelado del aprendizaje rápido del lenguaje mediante la destilación de priores o distribuciones a priori bayesianas en redes neuronales artificiales. Y ha sido un poco complicado de leer y lo he elegido porque tiene que ver con la IA, con los modelos de lenguaje, con el procesamiento del lenguaje natural, que es lo que a mí me interesa, lo que yo estudio. Y también publicado en Nature, Nature Communications, ¿vale? No el Nature Nature, pero tampoco está mal, ¿verdad? Todo bueno esta semana, ¿eh? Salió en mayo; en realidad el artículo es del año pasado, pero enviado, submitted y aceptado y publicado en mayo. Y los autores, creo que deberíamos hablar un poquillo de los autores, como ha dicho Héctor. Tomás y Tomás, Tom y Tom son Thomas McCoy, The Real…
Héctor Socas interrumpe la conversación para pedir disculpas y continuar una pregunta sobre cómo los bebés adquieren lenguaje al estar expuestos a sonidos y asociarlos con experiencias.
Habla: Héctor SocasPalabras #13adquisición del lenguaje en bebéssonidos asociados a experiencias infantilespeluche como asociación de sonidos…va desterrando, los va desechando y solo se queda con los que usa la persona que le está hablando. Entonces estos autores, igual que el Baby LM Challenge, quieren buscar: ¿podemos entrenar de alguna manera a un gran modelo de lenguaje? ¿A qué brinda a hablar? Bueno, perdón que te interrumpa. Estaba esperando que llegaras a un punto adecuado, pero nada, ya que te paraste. Ah, vale, perdón. No, quería preguntarte por lo que dijiste, de que el bebé está expuesto a escuchar estos sonidos y entonces así va adquiriendo el lenguaje o la lengua o las dos cosas. Pero yo supongo que eso debe estar relacionado también con el resto de experiencias que absorbe, o sea que si le dices osito y le enseñas el peluche, asocia ese sonido con ese objeto que él quiere agarrar y que eso es parte del aprendizaje, no solamente escuchar sin un contexto O sea que si estuviera en una habitación vacía, oscura, no viera nada, no tocara nada, sino solamente escuchara sonidos, no aprendería a hablar,…
María Ribes continúa explicando cómo los niños adquieren el lenguaje, comparando el proceso con jugar al casino y encontrando patrones, haciendo referencia a un experimento de Gastón Giribet.
Habla: María RibesPalabras #11adquisición del lenguaje como casinoresonancia magnética de gastón giribetlenguajes formales con simetría matemáticapronunciación de stop en español…es el experimento? Primero han creado lenguajes formales artificiales con métodos bayesianos, eso ni pretendo explicar lo que es porque tenemos aquí a Francis y a Héctor que nos lo explicarían muchísimo mejor. Ahora os dejo el turno para que expliquéis lo que Es, pero primero han creado, creo que son 25.000 lenguajes formales con unas características muy matemáticas, por ejemplo de simetría, de inducción fonológica, sintáctica. O sea, el niño, el niño humano, cuando adquiere una lengua, lo que hace son, pues como ha hecho, como hacía Gastón en su escáner, en su resonancia magnética, está jugando al casino. Él ve que le dan una carta, luego le dan otra, no tiene ni idea de por qué, hasta que ve un patrón y dice: ajá, entonces ya encuentro el patrón. Se me enciende la lucecilla en el cerebro. Y su amigo de Princeton, encantado, ¿no? Pues esto, lo que hace el niño, un español. Un español o una persona de habla hispana nunca te va a pronunciar stop. Podemos hacerlo perfectamente. Podemos decir stop, podemos decir street y podemos pronunciar lo que nos eches. Pero, ¿qué hace un español? Una vocal protética, una vocal de ayuda ahí que nosotros ponemos una e, ¿no? Stop, street. Un niño japonés lo que hace es epéntesis; los japoneses no tienen dos consonantes juntas, entonces siempre le meten una vocal, por eso Edgar…
María Ribes explica que el objetivo de ciertos modelos no es explicar cómo se adquiere el lenguaje humano, sino emularlo proporcionándoles pocos datos para que infieran y aprendan una lengua natural por sí mismos.
Habla: María RibesSignificado #5 · Palabras #6redes neuronales aprenden reglas gastón giribetcorpus child s inglés infantilsesgos cognitivos bayesianos en red neuronalaprendizaje de lengua natural corpus child smodelo de lenguaje emula adquisición humanainferencia de lenguas naturales con datoslenguajes matemáticos para aprender idiomasmaria ribes explica modelos de lenguaje…no sabe por qué. Pues eso es lo que hace esta red neuronal, saca esas deducciones y crea esos los sesgos; yo lo llamo sesgos cognitivos fuertes que son los priors, la distribución a priori bayesiana. Entonces aprende con estos lenguajes formales, la red de la Oral aprende las reglas, como Gastón con sus cartas. Me ha venido de vicio este ejemplo. A-B-A-B, pues vale, pues A-B-A-B, pero B-A-B-A, entonces cuando pregunto tengo que darle la vuelta, no quiero entretenerme dando ejemplos lingüísticos. ¿Y qué hacen? Lo más cool, lo más guay es que al final usan los datos naturalísticos que dicen ellos; datos naturales han cogido el corpus, el child's, que es el corpus del inglés infantil, el corpus de expresiones, vocabulario, sintaxis, gramática de los niños: lo que dicen los niños es lo que dicen los padres y se lo han metido a esta red neuronal para ver si aprende inglés. Entonces el objetivo es que con esos sesgos cognitivos, metiendo esos sesgos cognitivos bayesianos, que esta red neuronal sea capaz de aprender una lengua natural, una lengua real, cuando se la introduces sacando sus propias deducciones sin que yo le enseñe. Me explico entonces, a mí me parece muy interesante. A ver, también explican ellos insisten mucho en que no pretenden llegar a explicar cómo se está este proceso de adquisición humano. No lo pretenden llegar a explicar ni lo explican, pero sí intentar emularlo, dándoles pocos datos para que lo infieran con esos lenguajes matemáticos y después que pueda aprender a adquirir ella sola la lengua natural. Y la verdad es que los resultados son muy buenos. No sé si habéis llegado a leer el artículo, pero los resultados son de una gran mejora y sobre todo con muchísimos menos datos. Entonces sería una primera manera, como estos autores estudian el proceso cognitivo humano, sería como un primer paso para emular o…
Francis Villatoro describe su enfoque para resolver problemas utilizando imágenes, ejemplificando con modelos de lenguaje donde la entrada se representa como una serie de imágenes que luego se transforman en tokens.
Habla: Francis VillatoroSignificado #20modelos de lenguaje como imágenestokens generados a partir de imágenesfrancis villatoro y representación visual…y nadie sabe cómo los símbolos se representan en esa imagen porque es una imagen aprendida. En el proceso de aprendizaje se aprenden las imágenes que representan de manera efectiva los símbolos y las relaciones entre símbolos. Entonces yo trabajo con esas. Imágenes y obtengo soluciones al problema que yo quiera, como en el caso de los modelos de lenguaje: pues generar el siguiente token para una registra de token. Básicamente yo represento la entrada en una serie de imágenes y genero nuevas imágenes y esas imágenes las transformo en un nuevo token y voy trabajando entonces en ese tipo de representación. No existe una representación simbólica; es decir, no existe. Un lugar donde yo pueda decir: voy a encontrar la palabra gato. Voy a encontrar la palabra perro. Lo que yo puedo, claro, yo veo el interior del algoritmo y en ciertos momentos puedo decir: pues cuando le diré como la entrada al token de la palabra gato…
Héctor Socas continúa reflexionando sobre la capacidad de los grandes modelos de lenguaje para aprender, comparándolos con las redes neuronales y destacando su potencial como una vía prometedora para el aprendizaje general.
Habla: Héctor SocasSignificado #12redes neuronales y modelos lenguajeaprendizaje general con modelos lenguaje…una capacidad de aprendizaje rápido comparado con lo que son en general las redes neuronales o en particular con los grandes modelos de lenguaje que hasta donde tengo entendido sí que son buenos aprendedores en ese sentido y eso a su vez me lleva a. Algo que a mí siempre me ha fascinado mucho y es que justamente los grandes modelos de lenguaje parecen ser una excelente, o sea, pensando de forma agnóstica simplemente en redes neuronales parecen ser una avenida fantástica para el aprendizaje general hasta el punto de que muchos se usan luego para. Otras cosas, se puede coger un gran modelo de lenguaje y reentrenarlo para otras aplicaciones que no son el lenguaje y funcionan mejor incluso que aplicaciones, que redes neuronales entrenadas específicamente para ese propósito. Lo cual parece dar a entender,…
Héctor Socas reflexiona sobre la influencia del volumen de corpus en diferentes idiomas en el funcionamiento de los modelos de lenguaje, específicamente si esto implica una 'supremacía' de un idioma sobre otros.
Habla: Héctor SocasSignificado #1 · Palabras #1aprendizaje del lenguaje amplía capacidades cognitivasmodelos de lenguaje aprenden nuevas habilidadesinglés como lengua madre de eptcorpus en inglés y otros idiomasmodelos de lenguaje adquieren corpussupremacía de un idioma por corpusembeddings como primera capa…otra ya sabiendo inglés sino que aprenda una lengua cualquiera sin haber aprendido otra natural antes solamente con esos códigos matemáticos, que sería, conforme lo que estabas diciendo, sería una manera de agrandar, si cabe, esa capacidad cognitiva, ¿no? Si es capaz de aprender una lengua natural sin saber otra antes, pues puede llegar luego a aprender muchas más cosas, como estabas contando. A mí me gusta mucho esa frase que dices siempre de que aprendiendo el lenguaje, la capacidad del lenguaje, puede aprender más cosas. ¿Sabemos que eso es así? Quiero decir que no sé hasta qué punto eso es información pública o que se pueda saber; yo no la he encontrado, o sea, ¿sabemos que EPT u otros modelos tienen una lengua madre que es el inglés? Pues sí, un poco asumido un poco es que hay más corpus en inglés, pero que se le echa todo corpus en un montón de idiomas como que los aprende de forma, los adquiere, como tú estabas diciendo, no aprender sino adquirir simultáneamente del corpus que recibe porque tiene libros en inglés, en español, en francés, en alemán y tal lo que pasa es que evidentemente hay un corpus mucho mayor en internet de inglés entonces no sé hasta qué punto eso puede establecer una especie de supremacía de un idioma frente a otros en su forma de funcionar. Pues sí. Pero no sé si funciona traduciendo, yo me extrañaría que eso fuera así, de hecho. No, no funciona traduciendo. Hay una primera capa que son embeddings. Pero ahora os diré una cosa. Vale, sé que hay una primera parte del modelo que son los embeddings, que todavía no es parte de la red neuronal en sí; que es una especie de abstracción del lenguaje a conceptos, que es lo que luego se tokeniza. Pero bueno, no sé, me parece…
Gastón Giribet propone un método para detectar sesgos lingüísticos en modelos de lenguaje, sugiriendo el uso de lenguajes menos comunes o incluso aquellos que no están escritos.
Habla: Gastón GiribetSignificado #3 · Palabras #4sesgos lingüísticos en modelos lenguajelenguajes menos comunes gastón giribetcorpus en castellano para modelos…haciendo plantillas con los alumnos y según cómo le hago el input, pues me da la beca o no me lleva o no me lleva al sitio. Pero claro, ahí también entran, hay que decirlo, otros sesgos: que el sesgo lingüístico te lleva al sesgo también cultural y racial. Como método para ver si hay un sesgo lingüístico lo que uno tendría capaz que hacer sería algo así como usar los lenguajes menos comunes, incluso aquellos los no escritos, porque de los otros tiene mucho corpus, probablemente tiene tanto cuerpo de información en castellano como para haberse educado él solo en castellano, pero de los demás no, entonces traduce a través de él. Eso es, eso es. Mira, justo hay un artículo, perdona, que estaba leyendo ahora sobre hablándole a Chao GFT en rioplatense. Ahí hay mucho cuerpo, ahí hay mucho cuerpo para leer. Y hay muchos experimentos en rioplatense, en español rioplatense y en español mexicano estándar, y…
Héctor Socas reflexiona sobre cómo los modelos de lenguaje adquieren conocimientos de latín, considerando la influencia del material didáctico disponible en ese idioma.
Habla: Héctor SocasPalabras #2modelos de lenguaje y latínmaterial didáctico en latíncorpus para enseñar latínbúsqueda en google de latín…rioplatense y en español mexicano estándar, y ver cómo maneja el sesgo. Yo creo que debe llegar un momento cuando el corpus se va reduciendo y se vuelve tan pequeño que empieza a competir con la cantidad de material que hay de enseñarlo en otros idiomas. Quiero decir, estoy pensando en latín, por ejemplo. Hay textos en latín, quizás no tantos, pero también hay muchos textos enseñándote latín. de diferentes idiomas. Entonces, es posible que parte de lo que sepa de latín sea de mucho corpus que hay en el que se enseña latín, ¿no? Es cierto. Y ahora cuando buscas en Google que la primera respuesta Es su Gemini, ¿no? A mí me da un poquito de rabia eso. La primera respuesta de Google es la IA. Y cuando yo le pregunto cualquier cosa lingüística, en vez de preguntarle a HGPT qué cosas tengo, todavía lo pongo en Google, Nena, dime tal; y la primera…
Francis Villatoro responde a una pregunta sobre la posibilidad de que las inteligencias artificiales puedan reconstruir la evolución de los lenguajes y descifrar escrituras antiguas.
Habla: Francis VillatoroPalabras #5inteligencias artificiales reconstruyen evoluciónlenguajes actuales inferir ancestrocorpus limitado descifrar escrituras antiguasfrancis villatoro y la evolución de lenguajesreconstrucción lineal a desde corpus cescrituras y lenguas relación crucialproblema voynich descifrado escrituraalfabeto griego lectura sin lengua…es como si fuera el paso previo a la Lineal B. La Lineal B es lineal y la Lineal A tiene todavía un poco de restos pictográficos y supuestamente puede ser un estadio anterior en la evolución, pero que yo sepa todavía no se ha llegado a esa epifanía, pero muy Buena pregunta, y está además ahora candente en el mundo lingüístico. Sí, quizás, no lo sé; en un futuro las inteligencias artificiales sean capaces de llevar hacia atrás la evolución de los lenguajes y entonces a partir de lenguajes actuales inferir relaciones de ancestro, de parentesco entre lenguajes y a partir de ahí inferir y descifrar de manera aproximada con un corpus muy limitado pero usando el corpus de dónde ha derivado ese lenguaje en el futuro. Es decir, si hubiera, que no lo sé, si el lineal A precede a B y B a C y hubiera corpus en C suficiente, se podría llevar hacia el B y hacia el A y reconstruir. Bueno, lo que pasa ahí primero tenemos que especificar que son lenguas, que no son tipos de lenguajes, son lenguas y el problema son las escrituras, porque si no sabemos la lengua que subyace, no puedo leer ese texto. Es como si tú no hablas griego y tienes un texto en alfabeto griego, no lo puedes leer. Es lo contrario de que tú conoces las letras griegas, sabes cómo se pronuncian y las lees, pero no sabes lo que dice entonces ese es el problema, la diferencia entre escritura y la lengua; tú tienes un texto pero no sabes qué lengua hay debajo, que es el problema del Voynich si lo que se hace, bueno lo que lo hicieron en. El siglo XIX, la filogénesis de las lenguas; eso se podría revisar quizá con la IA, pero ahí más o menos está todo ya pues investigado de dónde viene cada lengua, las relaciones que tienen, la lingüística histórica. El problema es si esas lenguas, si solo…