Búsqueda · 28 momentos en 10 episodios
María RibesBorja TosarGastón GiribetFrancis VillatoroHéctor Socasaprendizaje del lenguaje infantilhabilidades lingüísticas con poca informacióninvestigación chomsky sobre el lenguajegramática generativa de chomskyproblema platón o estímulo pobreuniversales lingüísticos y chomskyNoam ChomskyPlatónGastón GiribetMaría RibesNueva GuineaFrancis VillatoroChatGPTNYU (Universidad de Nueva York)Tomas VilaNature CommunicationsHéctor SocasEmily BenderEl timo de la IAReal Academia Galega de la LenguaBorja Tosar
App lingüística chomsky
Con
0:000:301:001:302:002:303:003:33
María Ribes comenta sobre Noam Chomsky y su influencia en la lingüística, destacando cómo impulsó la gramática generativa y el concepto del 'problema de Platón' o 'problema del estímulo pobre'.
…de la cuestión. De todas maneras, debería ir rápido, ¿no, Héctor? Para no enrollarme mucho. Nada, tú enróllate todo lo que quieras que hace tiempo que no vienes y ya, si no, lo hace más que se fastidien. Y ahora Francis dice, jope. Hoy tienes el micrófono. Bueno, ahora entraré en ese aprendizaje de las lenguas. Porque quiero empezar con la introducción del artículo; que precisamente de lo que como empieza introduciendo esta investigación es cómo es posible que los niños humanos puedan aprender a hablar con tan poca información anterior y esto ellos mismos están mencionando problemas de los que hablaba Chomsky, todos conocéis a. Chomsky, Chomsky se le fue un poco la cabeza, no, pero la dirección y se metió en política, etc. Pero Chomsky fue el impulsor de lo que es la gramática generativa o los universales lingüísticos, que se plantea este problema que ellos llaman el problema de Platón o el problema del estímulo pobre: que es que como un niño humano puede formular infinitas frases, puede formular cualquier frase sin haberla oído antes; es decir, que los niños no aprenden. Por imitación, porque pueden decir frases y palabras que no han oído nunca antes, y también, ¿cómo pueden los niños aprender las reglas sin que nadie se las explique? Como os decía antes, cuando tú adquieres la lengua, tu tutor o la persona con la que estás…
Significado #3 · Palabras #1
Héctor Socas y María Ribes comentan un artículo publicado en Nature Communications sobre modelos de aprendizaje rápido del lenguaje.
Habla: María RibesSignificado #11aprendizaje rápido del lenguajeartículo nature communicationsmodelado de aprendizaje rápidoforo interno héctor socas…artificial y bueno, tú nos propusiste aquí un artículo que salió en Nature Communications de Tomas y Tomas. Sí, ellos firman como Tom, Tom y Tom. ¿Ah sí? Firman así, no como Tom y Jerry, pero no nuestro Tomas Vila, sino estos son otros Tomas diferentes. Hay muchos, los Tomas o los Dejas; quiero decir que están… ¡Ostras! Total, que el artículo se titula… Bueno, nada, tú que no se titula ahí, cuéntanos. Oye, esto me ha costado mucho a mí traducirlo, ¿vale? Se llama… Os lo voy a decir cómo lo he traducido yo en mi foro interno, ¿vale? Yo diría modelado de aprendizaje rápido del lenguaje, no de. Lenguas e idiomas o de una lengua, sino lo que es el lenguaje. Mediante la destilación de, y ahora esto, los priors, Bayesian priors, yo lo traduzco como distribuciones a priori, pero eso lo tendréis que confirmar o corregir, Francis y Héctor. Decís prior, un…
María Ribes explica cómo ha elegido un artículo sobre aprendizaje rápido del lenguaje para analizar, destacando su relación con la inteligencia artificial y el procesamiento del lenguaje natural, áreas de interés para ella.
Habla: María RibesSignificado #14aprendizaje rápido del lenguajedestilación de priores bayesianasprocesamiento del lenguaje natural maria ribespublicación en nature communications…a priori, pero eso lo tendréis que confirmar o corregir, Francis y Héctor. Decís prior, un prior bayesiano, un prior, sí hay muchas cosas que no se traducen, yo suelo decir distribución a priori. Sí, puedes decir los a priori. Los a priori. Bueno, entonces es modelado del aprendizaje rápido del lenguaje mediante la destilación de priores o distribuciones a priori bayesianas en redes neuronales artificiales. Y ha sido un poco complicado de leer y lo he elegido porque tiene que ver con la IA, con los modelos de lenguaje, con el procesamiento del lenguaje natural, que es lo que a mí me interesa, lo que yo estudio. Y también publicado en Nature, Nature Communications, ¿vale? No el Nature Nature, pero tampoco está mal, ¿verdad? Todo bueno esta semana, ¿eh? Salió en mayo; en realidad el artículo es del año pasado, pero enviado, submitted y aceptado y publicado en mayo. Y los autores, creo que deberíamos hablar un poquillo de los autores, como ha dicho Héctor. Tomás y Tomás, Tom y Tom son Thomas McCoy, The Real…
María Ribes comenta sobre Noam Chomsky y su influencia en la lingüística, destacando cómo impulsó la gramática generativa y el concepto del 'problema de Platón' o 'problema del estímulo pobre'.
Habla: María RibesSignificado #3 · Palabras #1aprendizaje del lenguaje infantilhabilidades lingüísticas con poca informacióninvestigación chomsky sobre el lenguajegramática generativa de chomskyproblema platón o estímulo pobreuniversales lingüísticos y chomsky…de la cuestión. De todas maneras, debería ir rápido, ¿no, Héctor? Para no enrollarme mucho. Nada, tú enróllate todo lo que quieras que hace tiempo que no vienes y ya, si no, lo hace más que se fastidien. Y ahora Francis dice, jope. Hoy tienes el micrófono. Bueno, ahora entraré en ese aprendizaje de las lenguas. Porque quiero empezar con la introducción del artículo; que precisamente de lo que como empieza introduciendo esta investigación es cómo es posible que los niños humanos puedan aprender a hablar con tan poca información anterior y esto ellos mismos están mencionando problemas de los que hablaba Chomsky, todos conocéis a. Chomsky, Chomsky se le fue un poco la cabeza, no, pero la dirección y se metió en política, etc. Pero Chomsky fue el impulsor de lo que es la gramática generativa o los universales lingüísticos, que se plantea este problema que ellos llaman el problema de Platón o el problema del estímulo pobre: que es que como un niño humano puede formular infinitas frases, puede formular cualquier frase sin haberla oído antes; es decir, que los niños no aprenden. Por imitación, porque pueden decir frases y palabras que no han oído nunca antes, y también, ¿cómo pueden los niños aprender las reglas sin que nadie se las explique? Como os decía antes, cuando tú adquieres la lengua, tu tutor o la persona con la que estás…
Gastón Giribet explica cómo los seguidores de Noam Chomsky utilizaban argumentos sobre el desarrollo lingüístico infantil y el descubrimiento de tribus en Nueva Guinea con lenguajes complejos para respaldar sus teorías.
Habla: Gastón GiribetSignificado #2 · Palabras #3desarrollo lingüístico infantil chomskytribus en nueva guinea lenguajes complejosfilogénesis del lenguaje niño chomskyanoscultura primitiva y evolución lenguaje…aprendizaje es consciente. Diga usted. Una pregunta, ahora yo sé que formular la pregunta de esta manera acá, después de 45.000 años de postestructuralismo queda políticamente incorrecto, pero la voy a formular de la manera en la que se formulaba en los 50 Es Cierto también que Chomsky usaba como argumento, no necesariamente él, pero los chomskyanos, como argumento no solamente la filogénesis de un niño que estaba aprendiendo lenguaje sino también el hecho, por eso digo, está bien la parte que un postestructuralista encontrará como políticamente incorrecta; también el hecho del descubrimiento de, uno se va a Nueva Guinea y encuentra una tribu en la cual su desarrollo cultural, su desarrollo artístico, su desarrollo en otros tipos, o sea, era, y acá viene la parte políticamente incorrecta, pero pongámonos en ese lugar, primitivo y aún así su evolución de lenguaje era tanto o más compleja que la de los llamados mundos civilizados, ¿no? Es decir... Pero eso, ¿qué es primitivo? ¿Su lengua o su sistema quieres decir? No, exacto, todo menos su lengua, ese es el punto, está bien, obviamente, de vuelta, estamos entrando en que qué es primitivo, porque uno dice que el arte, bueno, dejémonos de joder, los…
María Ribes continúa la conversación sobre el aprendizaje de idiomas, refiriéndose a las ideas de Noam Chomsky y explicando por qué los adultos tienen más dificultades para aprender nuevos idiomas que los niños.
Habla: María RibesSignificado #5 · Palabras #7chomsky y características universales lenguasadquisición de idiomas hasta los 7 añossesgo cognitivo en aprendizaje idiomas adultosdistribuciones bayesianas a priori humanos…manera de hacer. Es que yo no puedo imaginar una lengua que no sea humana, entonces con la escritura sí que pudieron suplir ese problema. No sé si me explico, pero me estoy viniendo arriba quizás, porque me pongo a hablar de lengua: pues muy buena pregunta. Gastón, sí, entonces Chomsky dice que todas las lenguas del planeta tienen las mismas características y todos los humanos las aprendemos todas, todos, cuando eres bebé las adquieres, hasta los 7 años que os digo que se pone de manera convencional, sin embargo cuando tú vas al colegio, vas a una academia a aprender otro idioma porque siempre decimos los niños son esponjas y lo absorben todo y los mayores no, no, no, lo que es es tu capacidad de aceptar las cosas y de inferir de usar este sesgo cognitivo, estas distribuciones bayesianas a priori, que los humanos también lo hacemos Entonces, si yo voy a clase, ahora me dicen, te voy a enseñar el plural, ¿vale? o el pasado del verbo comer, pero en la lengua chirifú, depende si eres hombre o mujer; el verbo es diferente. Entonces yo tengo dos opciones: aceptarlo y decir, vale, dámelo, dámelo, que es lo que hacen los niños nuestros, los…
María Ribes reflexiona sobre las dificultades del aprendizaje de idiomas en contraste con la facilidad con la que los bebés adquieren múltiples lenguas simultáneamente.
Habla: María RibesSignificado #1 · Palabras #2adquisición de lenguas en bebéslenguaje humano como proceso cognitivo socialapp lingüística chomskygastón sobre teoría chomsky…si eres hombre o mujer; el verbo es diferente. Entonces yo tengo dos opciones: aceptarlo y decir, vale, dámelo, dámelo, que es lo que hacen los niños nuestros, los niños humanos; obtengo la opción de decir qué clase de broma es esta, qué basura es esta, por ¿Qué no lo haces igual que yo? Entonces me cierro en redondo y ya no lo aprendo, o sea, ese es el problema de aprender una lengua, pero adquirirla todavía no sabemos cómo lo hacemos; es un misterio. O sea, un bebito tú le sometes, le pones a escuchar español, ruso, inglés, catalán, lo que sea y lo va a adquirir todo, porque de alguna manera, como decía Gastón, esto decía Chomsky antiguamente, que tenemos como una app en el centro de la lengua, y tú la vas rellenando con lengua. El bebé humano, eso creo que lo hemos hablado aquí, hace estadísticas y escucha un montón de cosas; puede pronunciar todos los sonidos del mundo pero los va desterrando, los va desechando y solo se queda con los que usa la persona que le está hablando.…
María Ribes introduce el término 'El timo de la IA' acuñado por Emily Bender, lingüista computacional, mientras lee un libro de esta última sobre el exceso de entusiasmo en torno a la inteligencia artificial.
Habla: María RibesPalabras #20el timo de la ia emily benderlingüista computacional emily bender…y ChatGPT no puede sentir emociones, es como data, ahí lo dejo. Entonces no sabe lo que dice, lo único que hace es un sistema de predicciones, eso ya lo hemos explicado muchas veces y Francis es el gran experto en esto, en las predicciones, las estadísticas. A mí me gusta mucho el término que acuñó Emily Bender, que ella es lingüista, es lingüista computacional y estoy leyendo un libro ahora de ella que se llama El timo de la IA, ¿vale? Se llama The AI Con sobre el hype que ha habido y ella no es muy pesimista, no dice que vayamos a entrar en un nuevo invierno de la IA, pero que hay mucha paja, se ha puesto muy por encima, justo lo que hablábamos antes en la pausa. y esta Emily Bender es la que acuñó el término loro estocástico para ChatGPT porque lo único que hace es hacer estadísticas y predicciones de lo que puede venir antes y después que tiene un grado de perplejidad muy bajo, el grado de perplexity, cuán perplejo…
Francis Villatoro explica la importancia de comprender no solo el significado de las palabras, sino también la forma en que se expresan, haciendo referencia a un concepto clave de Noam Chomsky.
Habla: Francis VillatoroSignificado #19 · Palabras #8gramática concepto clave chomskyrepresentación simbólica informáticaalfabeto símbolos reglas lenguajepalabras combinaciones símbolos válidos…neuronales; y eso, os voy a dejar que lo explique, no me callo, pero es que me acuerdo de otra frase que dice que es importante para poder aprender, para que adquiera la lengua, desligar lo que es la representación del lenguaje formal del sesgo cognitivo. Es decir, no solo que entienda lo que dice, sino cómo lo dices, cómo poder expresarlo. No sé si me explico. A ver si encuentro esa frase. Y ahora os dejo que lo expliquéis. A ver... En las representaciones simbólicas se trabaja con lo que en informática llamamos un concepto clave de Chomsky: el concepto de gramática; tienes un alfabeto con una serie de símbolos y tienes un conjunto de reglas que te permiten conectar esos símbolos para hacer palabras, es decir, combinaciones de símbolos que son válidas. El lenguaje consiste en un conjunto de reglas que te dicen cómo puedes combinar los símbolos del alfabeto para obtener palabras válidas. Eso es la representación simbólica, la representación. Conexionista o representación neuronal es una representación de caja negra. Tú tienes un embedding, tienes una representación de los símbolos en forma de unos objetos que son objetos abstractos. Hoy en día, en redes neuronales, básicamente de convolución, son…
Héctor Socas reflexiona sobre cómo los grandes modelos de lenguaje pueden ser reentrenados para otras aplicaciones, superando incluso a las redes neuronales diseñadas específicamente para esas tareas.
Habla: Héctor SocasSignificado #12reentrenamiento modelos lenguaje otras aplicacionesredes neuronales específicas para tareasaprender lenguaje sistema capacidad aprendizajegran modelo lenguaje héctor socas…y es que justamente los grandes modelos de lenguaje parecen ser una excelente, o sea, pensando de forma agnóstica simplemente en redes neuronales parecen ser una avenida fantástica para el aprendizaje general hasta el punto de que muchos se usan luego para. Otras cosas, se puede coger un gran modelo de lenguaje y reentrenarlo para otras aplicaciones que no son el lenguaje y funcionan mejor incluso que aplicaciones, que redes neuronales entrenadas específicamente para ese propósito. Lo cual parece dar a entender, parece sugerir que aprender el lenguaje es una buena forma de desarrollar un sistema que tiene una capacidad fuerte de aprender. Creo que va por ahí un poco la cosa, lo cual no deja de resultarme muy fascinante. Sí, y estaba buscando una cita que también tenía un poco de ver con eso que decías que lo que quieren es superar esas limitaciones de las redes neuronales modernas aunque aprenden muy bien para que adquieran cualquier otra lengua no necesariamente desde el…
María Ribes introduce una broma común dentro del campo de la lingüística sobre ChatGPT, sugiriendo que parece tener un 'lenguaje 1' basado en inglés debido a la gran cantidad de datos en ese idioma.
Habla: María RibesSignificado #8 · Palabras #16chatgpt lenguaje 1 ingléssesgo lingüístico estructura inglesacorpus mayoritario en inglésmaria ribes sesgo lingüístico…que todavía no es parte de la red neuronal en sí; que es una especie de abstracción del lenguaje a conceptos, que es lo que luego se tokeniza. Pero bueno, no sé, me parece una pregunta interesante, no tengo claro el asunto. Si tienes razón, tenéis razón, pero Dentro de mi campo, dentro de la lingüística, sí que bromeamos con que ChatGPT tiene lengua 1 de inglés, quizás porque sea el corpus mayoritario en inglés, pero es que el sesgo lingüístico, que es lo que estoy trabajando yo ahora, no el sesgo cultural, ni sexista, ni racial, que también lo tiene, el sesgo lingüístico siempre denosta todo lo que no sea la estructura inglesa; la estructura de la gramática lengua inglesa funciona mejor desde el inglés y cuando lo traduce, o cuando lo habla en cualquier otra lengua, por ejemplo en latín, también habla latín el CGPT. Pero no bien, no bien y habla como hablaría una persona de habla inglesa, traduciendo, ¿no? Tiene muchas más fuentes en latín, claro. ¿Cómo? Tiene muchísimas más fuentes en latín, claro, es que estadísticamente... Pero declina, declina, ¿sabes? No es que te…
María Ribes explica una broma común entre lingüistas sobre cómo ChatGPT parece tener un 'lenguaje 1' basado en inglés, lo que genera sesgos lingüísticos significativos.
Habla: María RibesSignificado #7 · Palabras #9chatgpt lenguaje uno ingléssesgos lingüísticos algoritmo becas universidadplantillas input beca universidadsesgo lingüístico sesgo cultural racialsesgos lingüísticos en modelos lenguajelenguajes menos comunes gastón giribetcorpus en castellano para modelos…¿Cómo? Tiene muchísimas más fuentes en latín, claro, es que estadísticamente... Pero declina, declina, ¿sabes? No es que te diga la palabra y se le olvide poner los casos que se conoce a la mayoría de la gente; parece que traduce pero eso ya os digo es la. Broma que tenemos los lingüistas: que tienen la lengua 1, que es el inglés, y por eso ese sesgo lingüístico tan grande que es que estamos haciendo incluso plantillas para ver cómo, por ejemplo, un algoritmo cualquiera a la hora de solicitar no sé una beca en una universidad; yo estoy haciendo plantillas con los alumnos y según cómo le hago el input, pues me da la beca o no me lleva o no me lleva al sitio. Pero claro, ahí también entran, hay que decirlo, otros sesgos: que el sesgo lingüístico te lleva al sesgo también cultural y racial. Como método para ver si hay un sesgo lingüístico lo que uno tendría capaz que hacer sería algo así como usar los lenguajes menos comunes, incluso aquellos los no escritos, porque de los otros tiene mucho corpus, probablemente tiene tanto cuerpo de información en castellano como para haberse educado él solo en castellano, pero de los demás no, entonces traduce a través de él. Eso es, eso es. Mira, justo hay un artículo, perdona, que estaba leyendo ahora sobre hablándole a Chao GFT en rioplatense. Ahí hay mucho cuerpo, ahí hay mucho cuerpo para leer. Y hay muchos experimentos en rioplatense, en español rioplatense y en español mexicano estándar, y…
Borja Tosar explica cómo ha experimentado preguntándole a ChatGPT en gallego, observando que la respuesta no sigue las normas del idioma.
Habla: Borja TosarSignificado #20chatgpt en gallego no es normativogallego correcto vs gallego popularfrancis villatoro experto en galegodiferencias entre gallego y inglés según chatgpt…me estoy quitando el sombrero ante su última entrada del blog. ¡Guau! Por eso Francis no duerme. Yo le mando a Francis una cosa que hice y él decide si la publica o no. Te voy a mandar una cosa y luego Francis. pero sí que a mí me parece normal que ChapGPT tire del blog de Francis porque es que es muy bueno entonces que yo también tiro de él, o sea cuando tengo cualquier problema pero bueno, una de las cosas que probé con todo esto es, probé hacerle, nunca se me había ocurrido preguntarle cosas en gallego a ChapGPT y me he puesto a preguntarle en gallego y tiene, desde luego no es el normativo, se nota que lee cosas por ahí porque el gallego hay mucha diferencia entre el gallego correcto, lo que sería el normativo de la Real Academia Galega de la Lengua hay un gallego muy estructurado con unas palabras muy concretas y luego hay una especie como el más popular que es el que utilizamos todos y se nota un montón que no es gallego normativo se nota que coge y como es, yo creo que es desde luego minoritario con respecto al inglés el gallego Claro, todo es minoritario hoy en día Una pregunta, Borja, tú que entiendes gallego y habrás consultado la Wikipedia en gallego alguna que otra vez ¿En la Wikipedia en gallego se utiliza ese gallego normativo de escuela o se utiliza más ese gallego más…
María Ribes relata un experimento sobre sesgos lingüísticos realizado con su modelo ChatGPT, donde le preguntó algo en lenguaje coloquial mexicano.
Habla: María RibesSignificado #16sesgos lingüísticos con chatgptmodelo chatgpt y lenguaje coloquial mexicanoexperimento de ribes con chatgpt…durante la pausa, fue fuera de grabación. Ah, es verdad, perdón. Es que mi Chat GPT me habla en femenino, o sea, mi Chat GPT piensa que es una chica, porque me dice: estamos listas, o ya estoy preparada, pregúntame lo que quieras; ha asumido que es una chica. Y el otro día le hablé, haciendo estos experimentos del sesgo; le dije, ¿qué onda güey? Le escribí, ¿qué onda güey? Y me dijo: “Oh, hoy estás practicando mexicano”, es otra de tus cosas, de tus experimentos lingüísticos, claro, porque me conoce y habló con él y sabe lo que necesito oír, lo que necesita decirme para ayudarme. Hay una opción de memoria que puedes activar o desactivar; yo la tengo desactivada. Sí, yo no, yo activadísima, reconoceme, además cada vez que le pregunto algo me dice, oye, esto te puede interesar, para que el artículo que me dijiste que habías leído, digo, ostras, give it to me, a mí me gusta que me recuerde hasta Google, cuando voy a un…
Francis Villatoro responde a una pregunta sobre el origen del lenguaje humano, mencionando la hipótesis del innatismo propuesta por Noam Chomsky y sus críticas.
Habla: Francis VillatoroPalabras #6hipótesis del innatismo chomskysistemas cognitivos en genomacríticas al toque divino chomsky…ninguna lengua más primitiva que otras, como hablábamos antes con Gastón; no hay ninguna lengua que sea solo piedra, tú, aquí y yo, ¿no? Todas las lenguas pueden decir todas las mismas cosas y no sabemos cómo sería ese eslabón perdido, igual que del hombre. Es muy buena pregunta, pero no tengo la respuesta. Hablando de Chomsky, Chomsky propuso la hipótesis del innatismo: hay sistemas cognitivos que están en nuestro genoma y que hacen que las conexiones de base de nuestro encéfalo tengan una estructura en ciertas regiones que facilita de manera innata el aprendizaje del lenguaje. Pero es una hipótesis; todavía nadie ha sido capaz de encontrar esas regiones. Es una hipótesis que se le critica por el toque divino que tiene. Una anécdota personal, esto obviamente entiendo que la pregunta no. es la misma que una respuesta de Tomás Porque él dice que cuando nadie tiene un lenguaje, pero cuando yo era chico, con mi hermano, decidí inventar un lenguaje Decidimos inventar un lenguaje, un lenguaje que solo él y yo pudiésemos hablar Entonces dije,…