Búsqueda · 28 momentos en 10 episodios
María RibesBorja TosarGastón GiribetFrancis VillatoroHéctor Socasaprendizaje del lenguaje en bebés humanosproceso cognitivo social con otros humanosvídeo de la madre ignorado por el bebélenguaje humano afectividadlenguas arma políticadenostar con la lenguaaprendizaje de lengua interacción visualadquisición de lengua requiere relaciónmaria ribes aprendizaje de lenguaMaría RibesNoam ChomskyNature CommunicationsEPTHéctor SocasTomas VilaFrancis VillatoroGrandes modelos de lenguajeRedes neuronalesArtículosBebés
Aprendizaje del lenguaje en Humanos
Con
0:000:301:001:302:002:303:003:33
María Ribes explica que el aprendizaje del lenguaje en bebés humanos requiere interacción con otros seres humanos y es un proceso social y cognitivo.
…vacía, oscura, no viera nada, no tocara nada, sino solamente escuchara sonidos, no aprendería a hablar, supongo, tiene que contextualizar Si viera solo a su madre o su padre o la persona que lo está criando, sí que lo aprendería todo sin tener el osito Porque el bebé humano solo aprende con otro humano. El lenguaje humano es una actividad social, es un proceso cognitivo social. Si tú le pones al bebé un vídeo, aunque sea su madre, en un vídeo, su madre hablando, diciéndole: Este es un osito, este es un tal, el bebé lo ignora; lo ignora, no lo considera apropiado, no lo considera necesario, tiene que ser otro humano el que le está hablando. entonces si está en habitación oscura y solo oye el sonido probablemente no lo va a aprender como dices tú, porque es una cosa también afectiva; el lenguaje humano, la capacidad lingüística tiene mucha afectividad. Por eso se ha usado durante tantísimo tiempo las lenguas como arma política para denostar a alguien, para decirle que tu lengua es peor que la mía, o tu lengua es un dialecto, no es bastante buena, o hay que prohibir tu lengua, etc. Pero tiene que estar viendo al otro humano. Si no, no hay aprendizaje que valga. No adquiere nunca la lengua si no está viendo a otra persona. Pero evidentemente cuando yo le muestro las cosas, lo aprende más rápido. Pero no es sine qua non. Lo que es completamente indispensable es que vea y que se relacione con esa otra persona. Ok, gracias. Un placer. Entonces, lo que querían hacer ellos es: vamos a entrenar a un gran modelo de lenguaje porque, por ejemplo, el chat GPT, ya sabéis que se entrena con millones de datos, millones de datos y aparte de la contaminación, como decía…
Significado #1 · Palabras #1
Héctor Socas y María Ribes comentan un artículo publicado en Nature Communications sobre modelos de aprendizaje rápido del lenguaje.
Habla: María RibesPalabras #8aprendizaje rápido del lenguajeartículo nature communicationsmodelado de aprendizaje rápidoforo interno héctor socas…artificial y bueno, tú nos propusiste aquí un artículo que salió en Nature Communications de Tomas y Tomas. Sí, ellos firman como Tom, Tom y Tom. ¿Ah sí? Firman así, no como Tom y Jerry, pero no nuestro Tomas Vila, sino estos son otros Tomas diferentes. Hay muchos, los Tomas o los Dejas; quiero decir que están… ¡Ostras! Total, que el artículo se titula… Bueno, nada, tú que no se titula ahí, cuéntanos. Oye, esto me ha costado mucho a mí traducirlo, ¿vale? Se llama… Os lo voy a decir cómo lo he traducido yo en mi foro interno, ¿vale? Yo diría modelado de aprendizaje rápido del lenguaje, no de. Lenguas e idiomas o de una lengua, sino lo que es el lenguaje. Mediante la destilación de, y ahora esto, los priors, Bayesian priors, yo lo traduzco como distribuciones a priori, pero eso lo tendréis que confirmar o corregir, Francis y Héctor. Decís prior, un…
María Ribes explica cómo ha elegido un artículo sobre aprendizaje rápido del lenguaje para analizar, destacando su relación con la inteligencia artificial y el procesamiento del lenguaje natural, áreas de interés para ella.
Habla: María RibesPalabras #6aprendizaje rápido del lenguajedestilación de priores bayesianasprocesamiento del lenguaje natural maria ribespublicación en nature communications…a priori, pero eso lo tendréis que confirmar o corregir, Francis y Héctor. Decís prior, un prior bayesiano, un prior, sí hay muchas cosas que no se traducen, yo suelo decir distribución a priori. Sí, puedes decir los a priori. Los a priori. Bueno, entonces es modelado del aprendizaje rápido del lenguaje mediante la destilación de priores o distribuciones a priori bayesianas en redes neuronales artificiales. Y ha sido un poco complicado de leer y lo he elegido porque tiene que ver con la IA, con los modelos de lenguaje, con el procesamiento del lenguaje natural, que es lo que a mí me interesa, lo que yo estudio. Y también publicado en Nature, Nature Communications, ¿vale? No el Nature Nature, pero tampoco está mal, ¿verdad? Todo bueno esta semana, ¿eh? Salió en mayo; en realidad el artículo es del año pasado, pero enviado, submitted y aceptado y publicado en mayo. Y los autores, creo que deberíamos hablar un poquillo de los autores, como ha dicho Héctor. Tomás y Tomás, Tom y Tom son Thomas McCoy, The Real…
María Ribes explica cómo el artículo que está analizando busca emular el proceso de adquisición de lenguas por parte de niños, diferenciando entre aprender y adquirir un idioma.
Habla: María RibesSignificado #11adquisición de lenguas por niñosproceso de adquisición de lenguaslenguaje como habilidad innatabebés y los primeros años infancia…encontrar la base matemática de la cognición humana y sobre todo con neurociencia, conecta neurociencia con ciencia de datos. No sé cómo os suena esto. ¿Os suena bien, mal, Francis? Conecta neurociencia con ciencia de datos. A mí me parece muy interesante. Porque de lo que trata este paper es de intentar emular o simular el proceso de adquisición de lenguas que hacen los niños humanos. Y ahora os lo voy a explicar: No es aprender una lengua, sino adquirir. Todos sabéis que el lenguaje es la capacidad humana para comunicarnos y es como una habilidad innata que tenemos todos los niños humanos, todos los niños como nosotros, para aprender una lengua. Lo que pasa es que cuando tú eres un bebito, hasta se ha puesto convencionalmente la barrera en los siete años, pero no es exacta. Hay un momento desde que eres bebé hasta durante los primeros años de la infancia en el que tú no aprendes una lengua. sino que la adquieres ¿Qué diferencia hay? Pues que cuando la adquieres no te das cuenta Cuando tu madre, tu padre o tu tutor te está hablando cosas y te dice aquí tienes un perrito y ahora tienes otro, son dos Entonces, perritos, ¿no? Pero tu madre o tu…
María Ribes introduce un tema relacionado con el aprendizaje del lenguaje infantil y la investigación sobre cómo los niños adquieren habilidades lingüísticas con una cantidad limitada de información previa.
Habla: María RibesSignificado #16 · Palabras #4aprendizaje del lenguaje infantilhabilidades lingüísticas con poca informacióninvestigación chomsky sobre el lenguaje…de la cuestión. De todas maneras, debería ir rápido, ¿no, Héctor? Para no enrollarme mucho. Nada, tú enróllate todo lo que quieras que hace tiempo que no vienes y ya, si no, lo hace más que se fastidien. Y ahora Francis dice, jope. Hoy tienes el micrófono. Bueno, ahora entraré en ese aprendizaje de las lenguas. Porque quiero empezar con la introducción del artículo; que precisamente de lo que como empieza introduciendo esta investigación es cómo es posible que los niños humanos puedan aprender a hablar con tan poca información anterior y esto ellos mismos están mencionando problemas de los que hablaba Chomsky, todos conocéis a. Chomsky, Chomsky se le fue un poco la cabeza, no, pero la dirección y se metió en política, etc. Pero Chomsky fue el impulsor de lo que es la gramática generativa o los universales lingüísticos, que se plantea este problema que ellos llaman el problema de…
María Ribes explica que el aprendizaje del lenguaje en bebés humanos requiere interacción con otros seres humanos y es un proceso social y cognitivo.
Habla: María RibesSignificado #1 · Palabras #1aprendizaje del lenguaje en bebés humanosproceso cognitivo social con otros humanosvídeo de la madre ignorado por el bebélenguaje humano afectividadlenguas arma políticadenostar con la lenguaaprendizaje de lengua interacción visualadquisición de lengua requiere relaciónmaria ribes aprendizaje de lengua…vacía, oscura, no viera nada, no tocara nada, sino solamente escuchara sonidos, no aprendería a hablar, supongo, tiene que contextualizar Si viera solo a su madre o su padre o la persona que lo está criando, sí que lo aprendería todo sin tener el osito Porque el bebé humano solo aprende con otro humano. El lenguaje humano es una actividad social, es un proceso cognitivo social. Si tú le pones al bebé un vídeo, aunque sea su madre, en un vídeo, su madre hablando, diciéndole: Este es un osito, este es un tal, el bebé lo ignora; lo ignora, no lo considera apropiado, no lo considera necesario, tiene que ser otro humano el que le está hablando. entonces si está en habitación oscura y solo oye el sonido probablemente no lo va a aprender como dices tú, porque es una cosa también afectiva; el lenguaje humano, la capacidad lingüística tiene mucha afectividad. Por eso se ha usado durante tantísimo tiempo las lenguas como arma política para denostar a alguien, para decirle que tu lengua es peor que la mía, o tu lengua es un dialecto, no es bastante buena, o hay que prohibir tu lengua, etc. Pero tiene que estar viendo al otro humano. Si no, no hay aprendizaje que valga. No adquiere nunca la lengua si no está viendo a otra persona. Pero evidentemente cuando yo le muestro las cosas, lo aprende más rápido. Pero no es sine qua non. Lo que es completamente indispensable es que vea y que se relacione con esa otra persona. Ok, gracias. Un placer. Entonces, lo que querían hacer ellos es: vamos a entrenar a un gran modelo de lenguaje porque, por ejemplo, el chat GPT, ya sabéis que se entrena con millones de datos, millones de datos y aparte de la contaminación, como decía…
María Ribes comenta sobre una frase encontrada que explica la necesidad de separar las representaciones de los sesgos inductivos para el aprendizaje rápido en lenguas reales, relacionándolo con cómo los humanos aprenden y generalizan.
Habla: María RibesPalabras #18sesgos inductivos para aprendizaje rápidorepresentaciones separadas en lenguas realesaprendizaje de patrones y representacionescodificación de frases en redes neuronalesgeneralización humana guiada por intuiciones…puedo obtener para las mismas entradas las mismas salidas, pero no tengo una manera sencilla de conectarlos. Al menos ahora mismo no sabemos cómo hacer esa conexión y esa representación sin ver la entrada y la salida; no sé realmente qué está pasando dentro. Eso es, he encontrado la frase; dice literalmente nosotros sostenemos que para explicar el aprendizaje rápido a partir de los datos naturales de las lenguas reales, es necesario separar las representaciones de los sesgos inductivos, o sea que no solamente tiene que aprender patrones, sino esas representaciones, lo que estabas explicando, cómo se codifica una frase, un concepto en la red, separado de las intuiciones previas que guían ese aprendizaje y la generalización, que es lo que hacemos los humanos; y eso es lo que querían enseñarle a la red. Neuronal, generalización léxica, hablando de perro. Enseño a un pequeño, a un niño: mira, aparece, no sé, un labrador; le digo perro, un perro, pero luego ve un, bueno un chihuahua quizás, no, mi guagua quizás diga ratón, pero luego ve un golden retriever y…
Héctor Socas continúa reflexionando sobre la capacidad de los grandes modelos de lenguaje para aprender, comparándolos con las redes neuronales y destacando su potencial como una vía prometedora para el aprendizaje general.
Habla: Héctor SocasPalabras #11aprendizaje infantil versus redes neuronalesfewshot learning en modelos de lenguajegrandes modelos de lenguaje buenos aprendedoresredes neuronales y modelos lenguajeaprendizaje general con modelos lenguaje…una de las cosas que además hay artículos sobre eso, recuerdo haber leído alguno cuando he estado, bueno, también hace algo de tiempo así que no recuerdo los detalles pero una de las cosas que se ha investigado y que resulta un poco sorprendente es que los Grandes modelos de lenguaje con respecto a otras redes neuronales presentan una característica justamente de eso, de ser buenos aprendedores, de ser, o sea, muestran few-shot learning, justamente esta capacidad de la que hablan en el artículo. Entonces, bueno, no sé si en el artículo se refieren a que el bebé manifieste una capacidad de aprendizaje rápido comparado con lo que son en general las redes neuronales o en particular con los grandes modelos de lenguaje que hasta donde tengo entendido sí que son buenos aprendedores en ese sentido y eso a su vez me lleva a. Algo que a mí siempre me ha fascinado mucho y es que justamente los grandes modelos de lenguaje parecen ser una excelente, o sea, pensando de forma agnóstica simplemente en redes neuronales parecen ser una avenida fantástica para el aprendizaje general hasta el punto de que muchos se usan luego para. Otras cosas, se puede coger un gran modelo de lenguaje y reentrenarlo para otras aplicaciones que no son el lenguaje y funcionan mejor incluso que aplicaciones, que redes neuronales entrenadas específicamente para ese propósito. Lo cual parece dar a entender,…
Héctor Socas continúa la conversación sobre la capacidad de los modelos de lenguaje para aprender nuevas habilidades, retomando un comentario previo sobre cómo el aprendizaje del lenguaje puede ampliar las capacidades cognitivas.
Habla: Héctor SocasSignificado #6aprendizaje del lenguaje amplía capacidades cognitivasmodelos de lenguaje aprenden nuevas habilidadesinglés como lengua madre de ept…otra ya sabiendo inglés sino que aprenda una lengua cualquiera sin haber aprendido otra natural antes solamente con esos códigos matemáticos, que sería, conforme lo que estabas diciendo, sería una manera de agrandar, si cabe, esa capacidad cognitiva, ¿no? Si es capaz de aprender una lengua natural sin saber otra antes, pues puede llegar luego a aprender muchas más cosas, como estabas contando. A mí me gusta mucho esa frase que dices siempre de que aprendiendo el lenguaje, la capacidad del lenguaje, puede aprender más cosas. ¿Sabemos que eso es así? Quiero decir que no sé hasta qué punto eso es información pública o que se pueda saber; yo no la he encontrado, o sea, ¿sabemos que EPT u otros modelos tienen una lengua madre que es el inglés? Pues sí, un poco asumido un poco es que hay más corpus en inglés, pero que se le echa todo corpus en un montón de idiomas como que los aprende de forma, los adquiere, como tú estabas diciendo, no aprender sino adquirir simultáneamente del corpus que recibe…
María Ribes plantea una pregunta sobre el origen del lenguaje humano, comparándolo con la necesidad de crear un sistema comunicativo desde cero en una comunidad sin lenguaje.
Habla: María RibesSignificado #15origen del lenguaje humanosistema comunicativo sin lenguajecapacidad de hablar ribeslengua primitiva evolución…de conceptos base para desarrollar un lenguaje abstracto? Joder, perdón. ¿O qué esto parte de la idea de que hay seres humanos adultos que no han desarrollado lenguaje y de repente se encuentran en comunidad y dicen, vale, cómo vamos a empezar a hablar ahora? Esa es la pregunta, eso es igual que decir, ¿cómo empezamos a hablar? Porque no lo sabemos, no sabemos ni cómo hablamos, o sea, ¿por qué tenemos esta capacidad y cuándo empezamos a hacerlo? Porque es muy buena pregunta; la cuestión que siempre se debate es un debate yermo, porque no se puede hacer más que hipótesis: es, ¿había una lengua primitiva y fue evolucionando a cosas más complejas? Es decir, primero, pero no solamente, no me refiero solo a hacer gruñidos y hacer o cantar, sino a palabras. Primero decíamos piedra, ¿no? Pero claro, la piedra hace cosas y yo hago cosas en relación con la piedra. Entonces yo tengo que decirte: coge esa…
Francis Villatoro responde a una pregunta sobre el origen del lenguaje humano, mencionando la hipótesis del innatismo propuesta por Noam Chomsky y sus críticas.
Habla: Francis VillatoroPalabras #9hipótesis del innatismo chomskysistemas cognitivos en genomacríticas al toque divino chomsky…ninguna lengua más primitiva que otras, como hablábamos antes con Gastón; no hay ninguna lengua que sea solo piedra, tú, aquí y yo, ¿no? Todas las lenguas pueden decir todas las mismas cosas y no sabemos cómo sería ese eslabón perdido, igual que del hombre. Es muy buena pregunta, pero no tengo la respuesta. Hablando de Chomsky, Chomsky propuso la hipótesis del innatismo: hay sistemas cognitivos que están en nuestro genoma y que hacen que las conexiones de base de nuestro encéfalo tengan una estructura en ciertas regiones que facilita de manera innata el aprendizaje del lenguaje. Pero es una hipótesis; todavía nadie ha sido capaz de encontrar esas regiones. Es una hipótesis que se le critica por el toque divino que tiene. Una anécdota personal, esto obviamente entiendo que la pregunta no. es la misma que una respuesta de Tomás Porque él dice que cuando nadie tiene un lenguaje, pero cuando yo era chico, con mi hermano, decidí inventar un lenguaje Decidimos inventar un lenguaje, un lenguaje que solo él y yo pudiésemos hablar Entonces dije,…
Francis Villatoro reflexiona sobre el potencial de las inteligencias artificiales para analizar grandes cantidades de datos escritos y establecer relaciones entre lenguas, superando las limitaciones cognitivas humanas.
Habla: Francis VillatoroSignificado #19inteligencia artificial relaciones filogenéticaslimitaciones cognitivas humanas lenguasinferencia a lo largo del tiempo inteligencia artificialanálisis de datos escritos francis villatoro…las relaciones que tienen, la lingüística histórica. El problema es si esas lenguas, si solo tienes una escritura y no sabes qué lengua hay ahí debajo, no tienes con qué compararlo porque una escritura con otra no tiene relación; ¿sabes lo que quiero decir? Bueno, no lo sé, yo lo que imagino es que en algún momento una inteligencia artificial conocerá todo lo escrito y todo lo conocido y podrá generar relaciones de inferencia a lo largo del tiempo y relaciones filogenéticas entre las lenguas que ningún humano es capaz de ver porque los humanos tenemos la posibilidad de enfocarnos solamente en siete cosas y estamos muy limitados a la hora de ver a gran escala y quizás una inteligencia artificial pueda hacer cosas que ahora mismo nos parecen imposibles con muy poco dato. Otra cosa es lo creíble que sean los resultados, pero lo mismo al final resulta que montan una película, un guión de película que es coherente con lo que sabemos de la historia, y entonces decimos: bueno pues parece coherente porque con el boinich no, porque…