Héctor Socas y María Ribes comentan un artículo publicado en Nature Communications sobre modelos de aprendizaje rápido del lenguaje.
Habla: María RibesPalabras #7aprendizaje rápido del lenguajeartículo nature communicationsmodelado de aprendizaje rápidoforo interno héctor socas…artificial y bueno, tú nos propusiste aquí un artículo que salió en Nature Communications de Tomas y Tomas. Sí, ellos firman como Tom, Tom y Tom. ¿Ah sí? Firman así, no como Tom y Jerry, pero no nuestro Tomas Vila, sino estos son otros Tomas diferentes. Hay muchos, los Tomas o los Dejas; quiero decir que están… ¡Ostras! Total, que el artículo se titula… Bueno, nada, tú que no se titula ahí, cuéntanos. Oye, esto me ha costado mucho a mí traducirlo, ¿vale? Se llama… Os lo voy a decir cómo lo he traducido yo en mi foro interno, ¿vale? Yo diría modelado de aprendizaje rápido del lenguaje, no de. Lenguas e idiomas o de una lengua, sino lo que es el lenguaje. Mediante la destilación de, y ahora esto, los priors, Bayesian priors, yo lo traduzco como distribuciones a priori, pero eso lo tendréis que confirmar o corregir, Francis y Héctor. Decís prior, un…
María Ribes explica cómo ha elegido un artículo sobre aprendizaje rápido del lenguaje para analizar, destacando su relación con la inteligencia artificial y el procesamiento del lenguaje natural, áreas de interés para ella.
Habla: María RibesPalabras #5aprendizaje rápido del lenguajedestilación de priores bayesianasprocesamiento del lenguaje natural maria ribespublicación en nature communications…a priori, pero eso lo tendréis que confirmar o corregir, Francis y Héctor. Decís prior, un prior bayesiano, un prior, sí hay muchas cosas que no se traducen, yo suelo decir distribución a priori. Sí, puedes decir los a priori. Los a priori. Bueno, entonces es modelado del aprendizaje rápido del lenguaje mediante la destilación de priores o distribuciones a priori bayesianas en redes neuronales artificiales. Y ha sido un poco complicado de leer y lo he elegido porque tiene que ver con la IA, con los modelos de lenguaje, con el procesamiento del lenguaje natural, que es lo que a mí me interesa, lo que yo estudio. Y también publicado en Nature, Nature Communications, ¿vale? No el Nature Nature, pero tampoco está mal, ¿verdad? Todo bueno esta semana, ¿eh? Salió en mayo; en realidad el artículo es del año pasado, pero enviado, submitted y aceptado y publicado en mayo. Y los autores, creo que deberíamos hablar un poquillo de los autores, como ha dicho Héctor. Tomás y Tomás, Tom y Tom son Thomas McCoy, The Real…
María Ribes continúa explicando la diferencia entre aprender y adquirir un idioma, enfocándose en cómo los niños adquieren lenguaje de forma natural sin instrucción explícita.
Habla: María RibesSignificado #5adquisición de lenguas por niñosproceso de adquisición de lenguaslenguaje como habilidad innatabebés y los primeros años infanciaadquisición de lenguaje infantilperritos como ejemplo didácticoformación del plural en niñoshabla cotidiana y adquisición de idiomas…encontrar la base matemática de la cognición humana y sobre todo con neurociencia, conecta neurociencia con ciencia de datos. No sé cómo os suena esto. ¿Os suena bien, mal, Francis? Conecta neurociencia con ciencia de datos. A mí me parece muy interesante. Porque de lo que trata este paper es de intentar emular o simular el proceso de adquisición de lenguas que hacen los niños humanos. Y ahora os lo voy a explicar: No es aprender una lengua, sino adquirir. Todos sabéis que el lenguaje es la capacidad humana para comunicarnos y es como una habilidad innata que tenemos todos los niños humanos, todos los niños como nosotros, para aprender una lengua. Lo que pasa es que cuando tú eres un bebito, hasta se ha puesto convencionalmente la barrera en los siete años, pero no es exacta. Hay un momento desde que eres bebé hasta durante los primeros años de la infancia en el que tú no aprendes una lengua. sino que la adquieres ¿Qué diferencia hay? Pues que cuando la adquieres no te das cuenta Cuando tu madre, tu padre o tu tutor te está hablando cosas y te dice aquí tienes un perrito y ahora tienes otro, son dos Entonces, perritos, ¿no? Pero tu madre o tu padre o tu torno te dice, y ahora querido niño, vamos a aprender la formación del plural O no te explica, ahora vamos a hablar el pasado, simplemente te habla Eso ya es cuando viene Coco Sí, y el que se perdiera ese episodio, pues ya nunca lo hace bien, como yo que me perdí el de izquierda y derecha. Y no he conseguido arreglarlo, Borja tampoco, ¿eh? Sí, y tiene implicaciones muy peligrosas en mi caso. Bueno, entonces, lo que quiere este…
María Ribes introduce un tema relacionado con el aprendizaje del lenguaje infantil y la investigación sobre cómo los niños adquieren habilidades lingüísticas con una cantidad limitada de información previa.
Habla: María RibesSignificado #1 · Palabras #2aprendizaje del lenguaje infantilhabilidades lingüísticas con poca informacióninvestigación chomsky sobre el lenguaje…de la cuestión. De todas maneras, debería ir rápido, ¿no, Héctor? Para no enrollarme mucho. Nada, tú enróllate todo lo que quieras que hace tiempo que no vienes y ya, si no, lo hace más que se fastidien. Y ahora Francis dice, jope. Hoy tienes el micrófono. Bueno, ahora entraré en ese aprendizaje de las lenguas. Porque quiero empezar con la introducción del artículo; que precisamente de lo que como empieza introduciendo esta investigación es cómo es posible que los niños humanos puedan aprender a hablar con tan poca información anterior y esto ellos mismos están mencionando problemas de los que hablaba Chomsky, todos conocéis a. Chomsky, Chomsky se le fue un poco la cabeza, no, pero la dirección y se metió en política, etc. Pero Chomsky fue el impulsor de lo que es la gramática generativa o los universales lingüísticos, que se plantea este problema que ellos llaman el problema de…
María Ribes explica cómo los niños aprenden a hablar frases y palabras que nunca han oído antes, planteando la cuestión de cómo adquieren las reglas gramaticales sin una instrucción explícita.
Habla: María RibesSignificado #2adquisición de lenguaje infantilreglas gramaticales sin instrucción explícitaplural y género en la adquisición del lenguajepasado verbal en el aprendizaje infantil…que se plantea este problema que ellos llaman el problema de Platón o el problema del estímulo pobre: que es que como un niño humano puede formular infinitas frases, puede formular cualquier frase sin haberla oído antes; es decir, que los niños no aprenden. Por imitación, porque pueden decir frases y palabras que no han oído nunca antes, y también, ¿cómo pueden los niños aprender las reglas sin que nadie se las explique? Como os decía antes, cuando tú adquieres la lengua, tu tutor o la persona con la que estás hablando no te dice ahora vamos a aprender el plural, ahora vamos a aprender a cambiar masculino a femenino, vamos a estudiar el pasado. ¿Qué es el problema que tenemos cuando aprendemos una lengua? Esa es la diferencia entre adquisición y aprendizaje. El aprendizaje es consciente. Diga usted. Una pregunta, ahora yo sé que formular la pregunta de esta manera acá, después de 45.000 años de…
Gastón Giribet explica cómo los seguidores de Noam Chomsky utilizaban argumentos sobre el desarrollo lingüístico infantil y el descubrimiento de tribus en Nueva Guinea con lenguajes complejos para respaldar sus teorías.
Habla: Gastón GiribetPalabras #18desarrollo lingüístico infantil chomskytribus en nueva guinea lenguajes complejosfilogénesis del lenguaje niño chomskyanoscultura primitiva y evolución lenguaje…aprendizaje es consciente. Diga usted. Una pregunta, ahora yo sé que formular la pregunta de esta manera acá, después de 45.000 años de postestructuralismo queda políticamente incorrecto, pero la voy a formular de la manera en la que se formulaba en los 50 Es Cierto también que Chomsky usaba como argumento, no necesariamente él, pero los chomskyanos, como argumento no solamente la filogénesis de un niño que estaba aprendiendo lenguaje sino también el hecho, por eso digo, está bien la parte que un postestructuralista encontrará como políticamente incorrecta; también el hecho del descubrimiento de, uno se va a Nueva Guinea y encuentra una tribu en la cual su desarrollo cultural, su desarrollo artístico, su desarrollo en otros tipos, o sea, era, y acá viene la parte políticamente incorrecta, pero pongámonos en ese lugar, primitivo y aún así su evolución de lenguaje era tanto o más compleja que la de los llamados mundos civilizados, ¿no? Es decir... Pero eso, ¿qué es primitivo? ¿Su lengua o su sistema quieres decir? No, exacto, todo menos su lengua, ese es el punto, está bien, obviamente, de vuelta, estamos entrando en que qué es primitivo, porque uno dice que el arte, bueno, dejémonos de joder, los…
María Ribes continúa la conversación sobre el aprendizaje de idiomas, refiriéndose a las ideas de Noam Chomsky y explicando por qué los adultos tienen más dificultades para aprender nuevos idiomas que los niños.
Habla: María RibesSignificado #19chomsky y características universales lenguasadquisición de idiomas hasta los 7 añossesgo cognitivo en aprendizaje idiomas adultosdistribuciones bayesianas a priori humanos…manera de hacer. Es que yo no puedo imaginar una lengua que no sea humana, entonces con la escritura sí que pudieron suplir ese problema. No sé si me explico, pero me estoy viniendo arriba quizás, porque me pongo a hablar de lengua: pues muy buena pregunta. Gastón, sí, entonces Chomsky dice que todas las lenguas del planeta tienen las mismas características y todos los humanos las aprendemos todas, todos, cuando eres bebé las adquieres, hasta los 7 años que os digo que se pone de manera convencional, sin embargo cuando tú vas al colegio, vas a una academia a aprender otro idioma porque siempre decimos los niños son esponjas y lo absorben todo y los mayores no, no, no, lo que es es tu capacidad de aceptar las cosas y de inferir de usar este sesgo cognitivo, estas distribuciones bayesianas a priori, que los humanos también lo hacemos Entonces, si yo voy a clase, ahora me dicen, te voy a enseñar el plural, ¿vale? o el pasado del verbo comer, pero en la lengua chirifú, depende si eres hombre o mujer; el verbo es diferente. Entonces yo tengo dos opciones: aceptarlo y decir, vale, dámelo, dámelo, que es lo que hacen los niños nuestros, los…
María Ribes reflexiona sobre las dificultades del aprendizaje de idiomas en contraste con la facilidad con la que los bebés adquieren múltiples lenguas simultáneamente.
Habla: María RibesSignificado #11adquisición de lenguas en bebéslenguaje humano como proceso cognitivo socialapp lingüística chomskygastón sobre teoría chomsky…si eres hombre o mujer; el verbo es diferente. Entonces yo tengo dos opciones: aceptarlo y decir, vale, dámelo, dámelo, que es lo que hacen los niños nuestros, los niños humanos; obtengo la opción de decir qué clase de broma es esta, qué basura es esta, por ¿Qué no lo haces igual que yo? Entonces me cierro en redondo y ya no lo aprendo, o sea, ese es el problema de aprender una lengua, pero adquirirla todavía no sabemos cómo lo hacemos; es un misterio. O sea, un bebito tú le sometes, le pones a escuchar español, ruso, inglés, catalán, lo que sea y lo va a adquirir todo, porque de alguna manera, como decía Gastón, esto decía Chomsky antiguamente, que tenemos como una app en el centro de la lengua, y tú la vas rellenando con lengua. El bebé humano, eso creo que lo hemos hablado aquí, hace estadísticas y escucha un montón de cosas; puede pronunciar todos los sonidos del mundo pero los va desterrando, los va desechando y solo se queda con los que usa la persona que le está hablando.…
Héctor Socas interrumpe la conversación para pedir disculpas y continuar una pregunta sobre cómo los bebés adquieren lenguaje al estar expuestos a sonidos y asociarlos con experiencias.
Habla: Héctor SocasSignificado #10adquisición del lenguaje en bebéssonidos asociados a experiencias infantilespeluche como asociación de sonidos…va desterrando, los va desechando y solo se queda con los que usa la persona que le está hablando. Entonces estos autores, igual que el Baby LM Challenge, quieren buscar: ¿podemos entrenar de alguna manera a un gran modelo de lenguaje? ¿A qué brinda a hablar? Bueno, perdón que te interrumpa. Estaba esperando que llegaras a un punto adecuado, pero nada, ya que te paraste. Ah, vale, perdón. No, quería preguntarte por lo que dijiste, de que el bebé está expuesto a escuchar estos sonidos y entonces así va adquiriendo el lenguaje o la lengua o las dos cosas. Pero yo supongo que eso debe estar relacionado también con el resto de experiencias que absorbe, o sea que si le dices osito y le enseñas el peluche, asocia ese sonido con ese objeto que él quiere agarrar y que eso es parte del aprendizaje, no solamente escuchar sin un contexto O sea que si estuviera en una habitación vacía, oscura, no viera nada, no tocara nada, sino solamente escuchara sonidos, no aprendería a hablar,…
María Ribes explica que el aprendizaje del lenguaje en bebés humanos requiere interacción con otros seres humanos y es un proceso social y cognitivo.
Habla: María RibesSignificado #6 · Palabras #20aprendizaje del lenguaje en bebés humanosproceso cognitivo social con otros humanosvídeo de la madre ignorado por el bebé…vacía, oscura, no viera nada, no tocara nada, sino solamente escuchara sonidos, no aprendería a hablar, supongo, tiene que contextualizar Si viera solo a su madre o su padre o la persona que lo está criando, sí que lo aprendería todo sin tener el osito Porque el bebé humano solo aprende con otro humano. El lenguaje humano es una actividad social, es un proceso cognitivo social. Si tú le pones al bebé un vídeo, aunque sea su madre, en un vídeo, su madre hablando, diciéndole: Este es un osito, este es un tal, el bebé lo ignora; lo ignora, no lo considera apropiado, no lo considera necesario, tiene que ser otro humano el que le está hablando. entonces si está en habitación oscura y solo oye el sonido probablemente no lo va a aprender como dices tú, porque es una cosa también afectiva; el lenguaje humano, la capacidad lingüística tiene mucha afectividad. Por eso se ha usado durante tantísimo tiempo…
María Ribes continúa la conversación sobre cómo los niños aprenden el lenguaje, explicando que tanto hablantes de español como de inglés adaptan la pronunciación de palabras extranjeras y comparando esto con la corrección que reciben cuando cometen errores gramaticales.
Habla: María RibesSignificado #9niños adaptan pronunciación extranjeraerrores gramaticales y corrección maternahablantes ingleses burlas stop streetlenguaje como proceso cognitivo socialhe ponido ejemplo infantiladquisición lingüística en niñosfrases correctamente para deducciónred neuronal y lengua completa…entonces siempre le meten una vocal, por eso Edgar Allan Poe es Edogawa Rampo, ¿vale? Edogara Rampo, como hace Bob Esponja, que dice sí, es Korreketo, o Julio Iglesias; Julio Iglesias hacía eso, Korreketo, ¿no? Nos seguimos riendo de culturas milenarias. Pero es que nosotros hacemos lo mismo, ellos la meten por el centro y nosotros al principio. Las personas de habla inglesa siempre se burlan de los que hablamos español, que tenemos español de lengua materna porque decimos stop, street, pero eso son lo que hacen los niños y eso significa, bueno, eso significa que estás aprendiendo las reglas, como cuando el niño dice he ponido, he ponido los libros en la mesa, su madre le dice has puesto, que yo he puesto, ¿no? Nunca le decimos a un niño: eso no se dice, eso está mal. Vamos hablando de manera bien, que es como se intenta enseñar lenguas hoy en día. Hacerlo de. Más fácil a la adquisición lingüística. Tú lo que haces es, para corregir el error, lo repites bien para que el otro lo deduzca. Que no lo deduces, tengo que explicar, vale, tardaremos más. Pero por lo menos es el primer intento. Entonces, cada tarea de esta red neuronal es una lengua completa. Un lenguaje formal entero. Sobre todo es muy matemático, por ejemplo la simetría; ahí en el paper te da ejemplos formales. El término es ABBA, como si fuera un soneto Abba, Abba, C, D, C, D, D, ¿no? Entonces eso en una lengua real sería frases como, a ver, si yo te digo Pepito está…
María Ribes continúa explicando cómo los niños adquieren el lenguaje, utilizando ejemplos de frases sencillas como 'Pepito está comiendo' para ilustrar cómo estructuran sus preguntas.
Habla: María RibesSignificado #8frases sencillas como pepito está comiendoestructura de preguntas según ochomskyadquisición del lenguaje por niñosred neuronal saca deduccionessesgos cognitivos fuertes priorsniño interpreta frases y errores gramaticalesmaria ribes explica sesgos neuronales…fuera un soneto Abba, Abba, C, D, C, D, D, ¿no? Entonces eso en una lengua real sería frases como, a ver, si yo te digo Pepito está corriendo, la pregunta es: ¿Quién está corriendo? No es ¿Está corriendo quién? No sé si es un buen ejemplo tampoco aquí, donde. estoy ahora. Pepito está comiendo, ¿no? ¿Quién está comiendo? El niño, el niño te pregunta quién está comiendo, el niño no va a decir está comiendo quién y nadie se lo ha explicado. Ochomsky en sus libros hablaba: el hombre es, bueno la frase está en inglés. ¿Es el hombre alto el que está en la habitación? Entonces tú puedes decir que el niño puede interpretar que la pregunta empieza con es, o sea, diciendo solamente es. Pero si le dices: es el hombre que alto está en la habitación, dice no, ahí algo está mal, y no sabe por qué. Pues eso es lo que hace esta red neuronal, saca esas deducciones y crea esos los sesgos; yo lo llamo sesgos cognitivos fuertes que son los priors, la distribución a priori bayesiana. Entonces aprende con estos lenguajes formales, la red de la Oral aprende las reglas, como Gastón con sus cartas. Me ha venido de vicio este ejemplo. A-B-A-B, pues vale, pues A-B-A-B, pero B-A-B-A, entonces cuando pregunto tengo que darle la vuelta, no quiero entretenerme dando ejemplos lingüísticos. ¿Y qué hacen? Lo…
María Ribes explica cómo los niños aprenden a generalizar conceptos, utilizando el ejemplo de enseñar a un niño a identificar perros de diferentes razas.
Habla: María RibesSignificado #16generalización léxica de perrosniño identifica labrador como perrochihuahua confundido con ratóngolden retriever también es un perrosimetría fonológica en niños…representaciones, lo que estabas explicando, cómo se codifica una frase, un concepto en la red, separado de las intuiciones previas que guían ese aprendizaje y la generalización, que es lo que hacemos los humanos; y eso es lo que querían enseñarle a la red. Neuronal, generalización léxica, hablando de perro. Enseño a un pequeño, a un niño: mira, aparece, no sé, un labrador; le digo perro, un perro, pero luego ve un, bueno un chihuahua quizás, no, mi guagua quizás diga ratón, pero luego ve un golden retriever y dice oh perro. Sin embargo, no es la misma cosa, pero el niño ha generalizado que eso también es un perro, no solamente la generalización fonológica como decía antes o sintáctica, la simetría o el, si yo digo el niño, en la cama, pues tú puedes repetir como que el perro duerme en el cojín. Esa generalización de reglas y eso es lo que consiguen que haga sus redes neuronales entrenadas con este sistema, con estos lenguajes formales creados con métodos bayesianos. Me ha parecido muy interesante. Creo que me lo tengo que leer otra vez. Ha sido, lo…
Héctor Socas comenta sobre la capacidad de los grandes modelos de lenguaje para aprender rápidamente, comparándola con el aprendizaje infantil y destacando su habilidad de 'few-shot learning'.
Habla: Héctor SocasPalabras #1aprendizaje infantil versus redes neuronalesfewshot learning en modelos de lenguajegrandes modelos de lenguaje buenos aprendedoresredes neuronales y modelos lenguajeaprendizaje general con modelos lenguaje…una de las cosas que además hay artículos sobre eso, recuerdo haber leído alguno cuando he estado, bueno, también hace algo de tiempo así que no recuerdo los detalles pero una de las cosas que se ha investigado y que resulta un poco sorprendente es que los Grandes modelos de lenguaje con respecto a otras redes neuronales presentan una característica justamente de eso, de ser buenos aprendedores, de ser, o sea, muestran few-shot learning, justamente esta capacidad de la que hablan en el artículo. Entonces, bueno, no sé si en el artículo se refieren a que el bebé manifieste una capacidad de aprendizaje rápido comparado con lo que son en general las redes neuronales o en particular con los grandes modelos de lenguaje que hasta donde tengo entendido sí que son buenos aprendedores en ese sentido y eso a su vez me lleva a. Algo que a mí siempre me ha fascinado mucho y es que justamente los grandes modelos de lenguaje parecen ser una excelente, o sea, pensando de forma agnóstica simplemente en redes neuronales parecen ser una avenida fantástica para el aprendizaje general hasta el punto de que muchos se usan luego para. Otras cosas, se puede coger un gran modelo de lenguaje y reentrenarlo para otras aplicaciones que no son el lenguaje y funcionan mejor incluso que aplicaciones, que redes neuronales entrenadas específicamente para ese propósito. Lo cual parece dar a entender,…
Héctor Socas continúa la conversación sobre la capacidad de los modelos de lenguaje para aprender nuevas habilidades, retomando un comentario previo sobre cómo el aprendizaje del lenguaje puede ampliar las capacidades cognitivas.
Habla: Héctor SocasPalabras #17aprendizaje del lenguaje amplía capacidades cognitivasmodelos de lenguaje aprenden nuevas habilidadesinglés como lengua madre de ept…otra ya sabiendo inglés sino que aprenda una lengua cualquiera sin haber aprendido otra natural antes solamente con esos códigos matemáticos, que sería, conforme lo que estabas diciendo, sería una manera de agrandar, si cabe, esa capacidad cognitiva, ¿no? Si es capaz de aprender una lengua natural sin saber otra antes, pues puede llegar luego a aprender muchas más cosas, como estabas contando. A mí me gusta mucho esa frase que dices siempre de que aprendiendo el lenguaje, la capacidad del lenguaje, puede aprender más cosas. ¿Sabemos que eso es así? Quiero decir que no sé hasta qué punto eso es información pública o que se pueda saber; yo no la he encontrado, o sea, ¿sabemos que EPT u otros modelos tienen una lengua madre que es el inglés? Pues sí, un poco asumido un poco es que hay más corpus en inglés, pero que se le echa todo corpus en un montón de idiomas como que los aprende de forma, los adquiere, como tú estabas diciendo, no aprender sino adquirir simultáneamente del corpus que recibe…