Búsqueda · 34 momentos en 21 episodios
María RibesBorja TosarGastón GiribetFrancis VillatoroHéctor Socasbaby llm challenge imitación humanathomas mccoy instituto woodsidelaboratorio ciencia cognitiva computacional princetonMaría RibesThomas McCoyInstituto WoodsideThomas GriffithsUniversidad de PrincetonLaboratorio de Ciencia Cognitiva y ComputacionalBaby LM ChallengeNoam ChomskyHéctor SocasYangPiantadosi
Baby LLM Challenge imitación humana
Con
0:000:301:001:302:002:303:003:33
María Ribes introduce el Baby LLM Challenge y explica que el artículo analizado trata sobre cómo grandes modelos de lenguaje imitan la adquisición del lenguaje humano. Menciona a Thomas McCoy, director del Instituto Woodside, y a Thomas Griffiths, profesor en la Universidad de Princeton.
…ese episodio, pues ya nunca lo hace bien, como yo que me perdí el de izquierda y derecha. Y no he conseguido arreglarlo, Borja tampoco, ¿eh? Sí, y tiene implicaciones muy peligrosas en mi caso. Bueno, entonces, lo que quiere este artículo, ¿os acordáis que hablamos aquí en Coffee Break del Baby LLM Challenge? Que era entrenar grandes modelos de lenguaje con poquitos datos para imitar la adquisición de los humanos, ¿no? Pues esto es de lo que trata este artículo y lo que estudia el Thomas McCoy, dirige el Instituto Woodside, es precisamente eso, cómo funciona la cognición humana y Griffiths, él está en el departamento de Psicología y Ciencias de la Computación de la Universidad de Princeton o sea que él tiene doble grado en Psicología y en Ciencias de la Computación entonces él dirige el laboratorio de allí de Princeton que se llama Laboratorio de Ciencia Cognitiva y Computacional no solo eso sino también el Laboratorio de Inteligencia Artificial de Princeton y él lo que trabaja es la ciencia cognitiva computacional Perdón María, la otra vez que conté una anécdota sobre que me sometí a un experimento dentro de un resonador, era en su laboratorio de hecho ¿En serio? Guau, ¿y te tocó él? No, no, mi amigo Greg Duke, que era su postdoc. No, no, conforme lo, perdón, no digáis nada, conforme lo decía lo he sentido, que no era el lugar para decir esta expresión, fue él quien trabajó contigo. Yo fui solamente un cobayo, yo no…
Significado #1 · Palabras #1
María Ribes introduce el Baby LLM Challenge y explica que el artículo analizado trata sobre cómo grandes modelos de lenguaje imitan la adquisición del lenguaje humano. Menciona a Thomas McCoy, director del Instituto Woodside, y a Thomas Griffiths, profesor en la Universidad de Princeton.
Habla: María RibesSignificado #1 · Palabras #1baby llm challenge imitación humanathomas mccoy instituto woodsidelaboratorio ciencia cognitiva computacional princeton…ese episodio, pues ya nunca lo hace bien, como yo que me perdí el de izquierda y derecha. Y no he conseguido arreglarlo, Borja tampoco, ¿eh? Sí, y tiene implicaciones muy peligrosas en mi caso. Bueno, entonces, lo que quiere este artículo, ¿os acordáis que hablamos aquí en Coffee Break del Baby LLM Challenge? Que era entrenar grandes modelos de lenguaje con poquitos datos para imitar la adquisición de los humanos, ¿no? Pues esto es de lo que trata este artículo y lo que estudia el Thomas McCoy, dirige el Instituto Woodside, es precisamente eso, cómo funciona la cognición humana y Griffiths, él está en el departamento de Psicología y Ciencias de la Computación de la Universidad de Princeton o sea que él tiene doble grado en Psicología y en Ciencias de la Computación entonces él dirige el laboratorio de allí de Princeton que se llama Laboratorio de Ciencia Cognitiva y Computacional no solo eso sino también el Laboratorio de Inteligencia Artificial de Princeton y él lo que trabaja es la ciencia cognitiva computacional Perdón María, la otra vez que conté una anécdota sobre que me sometí a un experimento dentro de un resonador, era en su laboratorio de hecho ¿En serio? Guau, ¿y te tocó él? No, no, mi amigo Greg Duke, que era su postdoc. No, no, conforme lo, perdón, no digáis nada, conforme lo decía lo he sentido, que no era el lugar para decir esta expresión, fue él quien trabajó contigo. Yo fui solamente un cobayo, yo no…
María Ribes explica cómo los bebés humanos aprenden idiomas, destacando que realizan análisis estadísticos del habla y eliminan sonidos no utilizados en su entorno.
Habla: María RibesSignificado #2 · Palabras #2bebés humanos análisis estadísticos hablababy lm challenge modelos de lenguajeentrenamiento modelos lenguaje grandesadquisición del lenguaje en bebéssonidos asociados a experiencias infantilespeluche como asociación de sonidos…le pones a escuchar español, ruso, inglés, catalán, lo que sea y lo va a adquirir todo, porque de alguna manera, como decía Gastón, esto decía Chomsky antiguamente, que tenemos como una app en el centro de la lengua, y tú la vas rellenando con lengua. El bebé humano, eso creo que lo hemos hablado aquí, hace estadísticas y escucha un montón de cosas; puede pronunciar todos los sonidos del mundo pero los va desterrando, los va desechando y solo se queda con los que usa la persona que le está hablando. Entonces estos autores, igual que el Baby LM Challenge, quieren buscar: ¿podemos entrenar de alguna manera a un gran modelo de lenguaje? ¿A qué brinda a hablar? Bueno, perdón que te interrumpa. Estaba esperando que llegaras a un punto adecuado, pero nada, ya que te paraste. Ah, vale, perdón. No, quería preguntarte por lo que dijiste, de que el bebé está expuesto a escuchar estos sonidos y entonces así va adquiriendo el lenguaje o la lengua o las dos cosas. Pero yo supongo que eso debe estar relacionado también con el resto de experiencias que absorbe, o sea que si le dices osito y le enseñas el peluche, asocia ese sonido con ese objeto que él quiere agarrar y que eso es parte del aprendizaje, no solamente escuchar sin un contexto O sea que si estuviera en una habitación vacía, oscura, no viera nada, no tocara nada, sino solamente escuchara sonidos, no aprendería a hablar,…
María Ribes explica que el aprendizaje del lenguaje en bebés humanos requiere interacción con otros seres humanos y es un proceso social y cognitivo.
Habla: María RibesSignificado #3aprendizaje del lenguaje en bebés humanosproceso cognitivo social con otros humanosvídeo de la madre ignorado por el bebé…vacía, oscura, no viera nada, no tocara nada, sino solamente escuchara sonidos, no aprendería a hablar, supongo, tiene que contextualizar Si viera solo a su madre o su padre o la persona que lo está criando, sí que lo aprendería todo sin tener el osito Porque el bebé humano solo aprende con otro humano. El lenguaje humano es una actividad social, es un proceso cognitivo social. Si tú le pones al bebé un vídeo, aunque sea su madre, en un vídeo, su madre hablando, diciéndole: Este es un osito, este es un tal, el bebé lo ignora; lo ignora, no lo considera apropiado, no lo considera necesario, tiene que ser otro humano el que le está hablando. entonces si está en habitación oscura y solo oye el sonido probablemente no lo va a aprender como dices tú, porque es una cosa también afectiva; el lenguaje humano, la capacidad lingüística tiene mucha afectividad. Por eso se ha usado durante tantísimo tiempo…
María Ribes explica que el objetivo de ciertos modelos no es explicar cómo se adquiere el lenguaje humano, sino emularlo proporcionándoles pocos datos para que infieran y aprendan una lengua natural por sí mismos.
Habla: María RibesSignificado #10modelo de lenguaje emula adquisición humanainferencia de lenguas naturales con datoslenguajes matemáticos para aprender idiomasmaria ribes explica modelos de lenguaje…Entonces el objetivo es que con esos sesgos cognitivos, metiendo esos sesgos cognitivos bayesianos, que esta red neuronal sea capaz de aprender una lengua natural, una lengua real, cuando se la introduces sacando sus propias deducciones sin que yo le enseñe. Me explico entonces, a mí me parece muy interesante. A ver, también explican ellos insisten mucho en que no pretenden llegar a explicar cómo se está este proceso de adquisición humano. No lo pretenden llegar a explicar ni lo explican, pero sí intentar emularlo, dándoles pocos datos para que lo infieran con esos lenguajes matemáticos y después que pueda aprender a adquirir ella sola la lengua natural. Y la verdad es que los resultados son muy buenos. No sé si habéis llegado a leer el artículo, pero los resultados son de una gran mejora y sobre todo con muchísimos menos datos. Entonces sería una primera manera, como estos autores estudian el proceso cognitivo humano, sería como un primer paso para emular o…
Héctor Socas reflexiona sobre el artículo de Yang y Piantadosi, destacando su intento de mejorar la capacidad de las redes neuronales para aprender con pocos ejemplos, similar a cómo lo hacen los bebés.
Habla: Héctor SocasSignificado #11redes neuronales aprendizaje con pocos ejemplosbebés aprendiendo con poca informaciónartículo yang y piantadosi redes neuronales…Me he encontrado los autores que os decía: el trabajo es de Yang y Piantadosi, y es de 2022, en el que ellos se basaban. Así que pues yo lo he entendido mejor ahora. Bueno, no sé. Estos modelos son prepandémicos; son anteriores a la pandemia, 2015, 2017. A mí la duda que me queda un poco cuando mire un poco así por encima el resumen del artículo y demás es que hablan de que una de las cosas en las que intentan mejorar es la capacidad de las redes neuronales de hacer eso que llaman a lo que tú te referías de aprendizaje con pocos ejemplos, que es lo que hacen los bebés, con poca información son capaces de aprender mucho más de lo que parecería que uno esperaría y me sorprende porque una de las cosas que además hay artículos sobre eso, recuerdo haber leído alguno cuando he estado, bueno, también hace algo de tiempo así que no recuerdo los detalles pero una de las cosas que se ha investigado y que resulta un poco sorprendente es que los Grandes modelos de lenguaje con respecto a otras redes neuronales presentan una característica justamente de eso, de ser buenos aprendedores, de ser, o sea, muestran few-shot learning, justamente esta capacidad de la que hablan en el artículo. Entonces,…