María Ribes explica cómo traduce términos técnicos de un artículo sobre modelos de aprendizaje rápido del lenguaje, específicamente la expresión 'Bayesian priors', que interpreta como 'distribuciones a priori'. Solicita confirmación o corrección a Francis Villatoro y Héctor Socas.
Habla: María RibesPalabras #13bayesian priors distribuciones a prioridistribuciones a priori maria ribesconfirmación o corrección francis y héctor…se titula… Bueno, nada, tú que no se titula ahí, cuéntanos. Oye, esto me ha costado mucho a mí traducirlo, ¿vale? Se llama… Os lo voy a decir cómo lo he traducido yo en mi foro interno, ¿vale? Yo diría modelado de aprendizaje rápido del lenguaje, no de. Lenguas e idiomas o de una lengua, sino lo que es el lenguaje. Mediante la destilación de, y ahora esto, los priors, Bayesian priors, yo lo traduzco como distribuciones a priori, pero eso lo tendréis que confirmar o corregir, Francis y Héctor. Decís prior, un prior bayesiano, un prior, sí hay muchas cosas que no se traducen, yo suelo decir distribución a priori. Sí, puedes decir los a priori. Los a priori. Bueno, entonces es modelado del aprendizaje rápido del lenguaje mediante la destilación de priores o distribuciones a priori bayesianas en redes neuronales artificiales. Y ha sido un poco complicado de leer y lo he elegido porque tiene que ver con la IA, con los…
María Ribes explica cómo el artículo que está analizando busca emular el proceso de adquisición de lenguas por parte de niños, diferenciando entre aprender y adquirir un idioma.
Habla: María RibesSignificado #2 · Palabras #4adquisición de lenguas por niñosproceso de adquisición de lenguaslenguaje como habilidad innatabebés y los primeros años infanciaadquisición de lenguaje infantilperritos como ejemplo didácticoformación del plural en niñoshabla cotidiana y adquisición de idiomas…encontrar la base matemática de la cognición humana y sobre todo con neurociencia, conecta neurociencia con ciencia de datos. No sé cómo os suena esto. ¿Os suena bien, mal, Francis? Conecta neurociencia con ciencia de datos. A mí me parece muy interesante. Porque de lo que trata este paper es de intentar emular o simular el proceso de adquisición de lenguas que hacen los niños humanos. Y ahora os lo voy a explicar: No es aprender una lengua, sino adquirir. Todos sabéis que el lenguaje es la capacidad humana para comunicarnos y es como una habilidad innata que tenemos todos los niños humanos, todos los niños como nosotros, para aprender una lengua. Lo que pasa es que cuando tú eres un bebito, hasta se ha puesto convencionalmente la barrera en los siete años, pero no es exacta. Hay un momento desde que eres bebé hasta durante los primeros años de la infancia en el que tú no aprendes una lengua. sino que la adquieres ¿Qué diferencia hay? Pues que cuando la adquieres no te das cuenta Cuando tu madre, tu padre o tu tutor te está hablando cosas y te dice aquí tienes un perrito y ahora tienes otro, son dos Entonces, perritos, ¿no? Pero tu madre o tu padre o tu torno te dice, y ahora querido niño, vamos a aprender la formación del plural O no te explica, ahora vamos a hablar el pasado, simplemente te habla Eso ya es cuando viene Coco Sí, y el que se perdiera ese episodio, pues ya nunca lo hace bien, como yo que me perdí el de izquierda y derecha. Y no he conseguido arreglarlo, Borja tampoco, ¿eh? Sí, y tiene implicaciones muy peligrosas en mi caso. Bueno, entonces, lo que quiere este…
Gastón Giribet introduce una distinción entre adquisición y aprendizaje de un idioma, señalando que el aprendizaje es consciente y anticipa una pregunta sobre el problema que surge al aprender una lengua.
Habla: Gastón GiribetSignificado #1 · Palabras #1adquisición de lenguaje infantilreglas gramaticales sin instrucción explícitaplural y género en la adquisición del lenguajepasado verbal en el aprendizaje infantiladquisición y aprendizaje de un idiomaaprendizaje consciente de una lenguapostestructuralismo políticamente incorrecto…que se plantea este problema que ellos llaman el problema de Platón o el problema del estímulo pobre: que es que como un niño humano puede formular infinitas frases, puede formular cualquier frase sin haberla oído antes; es decir, que los niños no aprenden. Por imitación, porque pueden decir frases y palabras que no han oído nunca antes, y también, ¿cómo pueden los niños aprender las reglas sin que nadie se las explique? Como os decía antes, cuando tú adquieres la lengua, tu tutor o la persona con la que estás hablando no te dice ahora vamos a aprender el plural, ahora vamos a aprender a cambiar masculino a femenino, vamos a estudiar el pasado. ¿Qué es el problema que tenemos cuando aprendemos una lengua? Esa es la diferencia entre adquisición y aprendizaje. El aprendizaje es consciente. Diga usted. Una pregunta, ahora yo sé que formular la pregunta de esta manera acá, después de 45.000 años de postestructuralismo queda políticamente incorrecto, pero la voy a formular de la manera en la que se formulaba en los 50 Es Cierto también que Chomsky usaba como argumento, no necesariamente él, pero los chomskyanos, como argumento no solamente la filogénesis de un niño que estaba aprendiendo lenguaje sino también el hecho, por eso digo, está bien la parte que un…
María Ribes continúa la conversación sobre el aprendizaje de idiomas, refiriéndose a las ideas de Noam Chomsky y explicando por qué los adultos tienen más dificultades para aprender nuevos idiomas que los niños.
Habla: María RibesSignificado #4 · Palabras #9chomsky y características universales lenguasadquisición de idiomas hasta los 7 añossesgo cognitivo en aprendizaje idiomas adultosdistribuciones bayesianas a priori humanos…manera de hacer. Es que yo no puedo imaginar una lengua que no sea humana, entonces con la escritura sí que pudieron suplir ese problema. No sé si me explico, pero me estoy viniendo arriba quizás, porque me pongo a hablar de lengua: pues muy buena pregunta. Gastón, sí, entonces Chomsky dice que todas las lenguas del planeta tienen las mismas características y todos los humanos las aprendemos todas, todos, cuando eres bebé las adquieres, hasta los 7 años que os digo que se pone de manera convencional, sin embargo cuando tú vas al colegio, vas a una academia a aprender otro idioma porque siempre decimos los niños son esponjas y lo absorben todo y los mayores no, no, no, lo que es es tu capacidad de aceptar las cosas y de inferir de usar este sesgo cognitivo, estas distribuciones bayesianas a priori, que los humanos también lo hacemos Entonces, si yo voy a clase, ahora me dicen, te voy a enseñar el plural, ¿vale? o el pasado del verbo comer, pero en la lengua chirifú, depende si eres hombre o mujer; el verbo es diferente. Entonces yo tengo dos opciones: aceptarlo y decir, vale, dámelo, dámelo, que es lo que hacen los niños nuestros, los…
María Ribes reflexiona sobre las dificultades del aprendizaje de idiomas en contraste con la facilidad con la que los bebés adquieren múltiples lenguas simultáneamente.
Habla: María RibesSignificado #3adquisición de lenguas en bebéslenguaje humano como proceso cognitivo socialapp lingüística chomskygastón sobre teoría chomsky…si eres hombre o mujer; el verbo es diferente. Entonces yo tengo dos opciones: aceptarlo y decir, vale, dámelo, dámelo, que es lo que hacen los niños nuestros, los niños humanos; obtengo la opción de decir qué clase de broma es esta, qué basura es esta, por ¿Qué no lo haces igual que yo? Entonces me cierro en redondo y ya no lo aprendo, o sea, ese es el problema de aprender una lengua, pero adquirirla todavía no sabemos cómo lo hacemos; es un misterio. O sea, un bebito tú le sometes, le pones a escuchar español, ruso, inglés, catalán, lo que sea y lo va a adquirir todo, porque de alguna manera, como decía Gastón, esto decía Chomsky antiguamente, que tenemos como una app en el centro de la lengua, y tú la vas rellenando con lengua. El bebé humano, eso creo que lo hemos hablado aquí, hace estadísticas y escucha un montón de cosas; puede pronunciar todos los sonidos del mundo pero los va desterrando, los va desechando y solo se queda con los que usa la persona que le está hablando.…
María Ribes explica que el aprendizaje de una lengua requiere la interacción visual y relacional con otra persona, aunque esta interacción no sea estrictamente necesaria para el proceso.
Habla: María RibesSignificado #11aprendizaje de lengua interacción visualadquisición de lengua requiere relaciónmaria ribes aprendizaje de lengua…durante tantísimo tiempo las lenguas como arma política para denostar a alguien, para decirle que tu lengua es peor que la mía, o tu lengua es un dialecto, no es bastante buena, o hay que prohibir tu lengua, etc. Pero tiene que estar viendo al otro humano. Si no, no hay aprendizaje que valga. No adquiere nunca la lengua si no está viendo a otra persona. Pero evidentemente cuando yo le muestro las cosas, lo aprende más rápido. Pero no es sine qua non. Lo que es completamente indispensable es que vea y que se relacione con esa otra persona. Ok, gracias. Un placer. Entonces, lo que querían hacer ellos es: vamos a entrenar a un gran modelo de lenguaje porque, por ejemplo, el chat GPT, ya sabéis que se entrena con millones de datos, millones de datos y aparte de la contaminación, como decía…
María Ribes explica un método para facilitar la adquisición lingüística en niños, sugiriendo que se repitan las frases correctamente para permitir la deducción y aprendizaje.
Habla: María RibesPalabras #3adquisición lingüística en niñosfrases correctamente para deducciónred neuronal y lengua completa…niño dice he ponido, he ponido los libros en la mesa, su madre le dice has puesto, que yo he puesto, ¿no? Nunca le decimos a un niño: eso no se dice, eso está mal. Vamos hablando de manera bien, que es como se intenta enseñar lenguas hoy en día. Hacerlo de. Más fácil a la adquisición lingüística. Tú lo que haces es, para corregir el error, lo repites bien para que el otro lo deduzca. Que no lo deduces, tengo que explicar, vale, tardaremos más. Pero por lo menos es el primer intento. Entonces, cada tarea de esta red neuronal es una lengua completa. Un lenguaje formal entero. Sobre todo es muy matemático, por ejemplo la simetría; ahí en el paper te da ejemplos formales. El término es ABBA, como si fuera un soneto Abba, Abba, C, D, C, D, D, ¿no? Entonces eso en una lengua real sería frases como, a ver, si yo te digo Pepito está…
María Ribes explica que el objetivo de ciertos modelos no es explicar cómo se adquiere el lenguaje humano, sino emularlo proporcionándoles pocos datos para que infieran y aprendan una lengua natural por sí mismos.
Habla: María RibesSignificado #20modelo de lenguaje emula adquisición humanainferencia de lenguas naturales con datoslenguajes matemáticos para aprender idiomasmaria ribes explica modelos de lenguaje…Entonces el objetivo es que con esos sesgos cognitivos, metiendo esos sesgos cognitivos bayesianos, que esta red neuronal sea capaz de aprender una lengua natural, una lengua real, cuando se la introduces sacando sus propias deducciones sin que yo le enseñe. Me explico entonces, a mí me parece muy interesante. A ver, también explican ellos insisten mucho en que no pretenden llegar a explicar cómo se está este proceso de adquisición humano. No lo pretenden llegar a explicar ni lo explican, pero sí intentar emularlo, dándoles pocos datos para que lo infieran con esos lenguajes matemáticos y después que pueda aprender a adquirir ella sola la lengua natural. Y la verdad es que los resultados son muy buenos. No sé si habéis llegado a leer el artículo, pero los resultados son de una gran mejora y sobre todo con muchísimos menos datos. Entonces sería una primera manera, como estos autores estudian el proceso cognitivo humano, sería como un primer paso para emular o…
Héctor Socas continúa la conversación sobre la capacidad de los modelos de lenguaje para aprender nuevas habilidades, retomando un comentario previo sobre cómo el aprendizaje del lenguaje puede ampliar las capacidades cognitivas.
Habla: Héctor SocasSignificado #6modelo lenguaje sin inglés previocódigos matemáticos para aprender lenguascapacidad cognitiva y modelos lenguajeexperimento maria ribes sobre lenguasaprendizaje del lenguaje amplía capacidades cognitivasmodelos de lenguaje aprenden nuevas habilidadesinglés como lengua madre de eptcorpus en inglés y otros idiomasmodelos de lenguaje adquieren corpussupremacía de un idioma por corpusembeddings como primera capa…de las redes neuronales modernas aunque aprenden muy bien para que adquieran cualquier otra lengua no necesariamente desde el inglés porque se dice siempre de broma que Chao GPT su lengua madre su lengua 1 es el inglés y a partir de ahí ha aprendido todas las demás lenguas entonces quiere hacer ese experimento de que no vaya aprendiendo otra ya sabiendo inglés sino que aprenda una lengua cualquiera sin haber aprendido otra natural antes solamente con esos códigos matemáticos, que sería, conforme lo que estabas diciendo, sería una manera de agrandar, si cabe, esa capacidad cognitiva, ¿no? Si es capaz de aprender una lengua natural sin saber otra antes, pues puede llegar luego a aprender muchas más cosas, como estabas contando. A mí me gusta mucho esa frase que dices siempre de que aprendiendo el lenguaje, la capacidad del lenguaje, puede aprender más cosas. ¿Sabemos que eso es así? Quiero decir que no sé hasta qué punto eso es información pública o que se pueda saber; yo no la he encontrado, o sea, ¿sabemos que EPT u otros modelos tienen una lengua madre que es el inglés? Pues sí, un poco asumido un poco es que hay más corpus en inglés, pero que se le echa todo corpus en un montón de idiomas como que los aprende de forma, los adquiere, como tú estabas diciendo, no aprender sino adquirir simultáneamente del corpus que recibe porque tiene libros en inglés, en español, en francés, en alemán y tal lo que pasa es que evidentemente hay un corpus mucho mayor en internet de inglés entonces no sé hasta qué punto eso puede establecer una especie de supremacía de un idioma frente a otros en su forma de funcionar. Pues sí. Pero no sé si funciona traduciendo, yo me extrañaría que eso fuera así, de hecho. No, no funciona traduciendo. Hay una primera capa que son embeddings. Pero ahora os diré una cosa. Vale, sé que hay una primera parte del modelo que son los embeddings, que todavía no es parte de la red neuronal en sí; que es una especie de abstracción del lenguaje a conceptos, que es lo que luego se tokeniza. Pero bueno, no sé, me parece…
Francis Villatoro explica cómo el gallego comparte una situación similar al vasco, donde históricamente eran idiomas locales con variantes dialectales que luego requirieron la creación de un idioma estandarizado para fines educativos.
Habla: Francis VillatoroPalabras #16galego vasco idioma estandarizadogallego consenso entre gallegosprofesores de lengua gallega oficialpaís vasco similar a argentina…O sea, cosas así. No es que lo hagan todos, pero tienden a cosas así. Y luego las pronunciaciones son muy diferentes también. Lo de las lenguas es una movida, que es complicado. Claro. al gallego le pasa lo mismo que al vasco, históricamente en el siglo XIX, principios del siglo XX eran idiomas extremadamente locales en pueblos, en cada pueblo hablaba un idioma dialecto o variante o como quieras llamarle, variante de idioma común y de repente cuando se convierte en comunidad autónoma y hay que formalizar la educación en gallego, hay que inventarse un gallego porque hay que inventarse un gallego de consenso entre todos los gallegos y se inventa ese idioma y entonces los profesores de lengua gallega en los 80 tuvieron que aprender gallego porque hablaban un gallego con su familia, con sus amigos completamente diferente al que tenían que enseñar pero tenían que enseñar el oficial y eso pasó también en el País Vasco Al principio en los 80 no se parecía a nada Eso pasa en Argentina también Eso pasa en Argentina En Argentina nos enseñan Yo, Tú, él, nosotros, vosotros, ellos. ¿Quién usa el tú? Qué vergüenza y el vosotros en Argentina nadie. Solamente para entender una película, pero eso pasa en todas las lenguas. Elige la variante normativa, que es la que se toma como estándar, y las demás no son…