Búsqueda · 33 momentos en 18 episodios
María RibesBorja TosarGastón GiribetFrancis VillatoroHéctor Socaslenguaje sintético como artificiallingüística sintético aglutina clustersmétodos bayesianos para lenguajes formalesred con 25000 lenguajes formalesAlto ValirioMaría RibesFrancis VillatoroNature CommunicationsHéctor SocasKlingonDothrakiNueva YorkGastón GiribetChatGPT
Lenguaje sintético como artificial
Con
0:000:301:001:302:002:303:003:33
María Ribes aclara el significado de la palabra 'sintético' tal como se utiliza en un artículo sobre lenguajes formales y lingüística.
…muy interesante Yo no lo he leído, te confieso, cuando lo vi dije, ostras, qué paper tan complicado, no, ostras, María, digo, espero que me lo cuente porque esto se sale de mí De mí también un poco, ¿eh? La parte lingüística es la que he entendido un poco Mejor también quería decir que habla mucho de lenguas sintéticas, ¿eh? Y aquí utiliza la palabra sintética en dos sentidos: sintética como artificial, que son estos lenguajes formales que yo digo que no es como el Alto Valirio, sino símbolos. Pero también en lingüística hablamos de sintético en el sentido de que aglutina, ¿no? Y de que va formando clusters, o sea que se refiere a ese concepto, ya está. Y ya está, son 25.000 lenguajes formales creados con métodos bayesianos, los que le dieron a la red. Y después el corpus natural, el Childes y destiló todo ese sesgo, que la palabra sesgo está negativa, pero en este caso es buena. Este es un sesgo lingüístico bueno porque es un sesgo cognitivo que te ayuda a predecir; es esa distribución a priori que es cómo…
Significado #1 · Palabras #1
María Ribes explica cómo ha elegido un artículo sobre aprendizaje rápido del lenguaje para analizar, destacando su relación con la inteligencia artificial y el procesamiento del lenguaje natural, áreas de interés para ella.
Habla: María RibesPalabras #7aprendizaje rápido del lenguajedestilación de priores bayesianasprocesamiento del lenguaje natural maria ribespublicación en nature communications…a priori, pero eso lo tendréis que confirmar o corregir, Francis y Héctor. Decís prior, un prior bayesiano, un prior, sí hay muchas cosas que no se traducen, yo suelo decir distribución a priori. Sí, puedes decir los a priori. Los a priori. Bueno, entonces es modelado del aprendizaje rápido del lenguaje mediante la destilación de priores o distribuciones a priori bayesianas en redes neuronales artificiales. Y ha sido un poco complicado de leer y lo he elegido porque tiene que ver con la IA, con los modelos de lenguaje, con el procesamiento del lenguaje natural, que es lo que a mí me interesa, lo que yo estudio. Y también publicado en Nature, Nature Communications, ¿vale? No el Nature Nature, pero tampoco está mal, ¿verdad? Todo bueno esta semana, ¿eh? Salió en mayo; en realidad el artículo es del año pasado, pero enviado, submitted y aceptado y publicado en mayo. Y los autores, creo que deberíamos hablar un poquillo de los autores, como ha dicho Héctor. Tomás y Tomás, Tom y Tom son Thomas McCoy, The Real…
María Ribes señala similitudes entre los experimentos de resonancia magnética cerebral realizados por Gastón Giribet en Nueva York y el entrenamiento de redes neuronales, comparando las tareas como 'lenguajes formales' artificiales.
Habla: María RibesSignificado #8 · Palabras #10redes neuronales como lenguajes formalestareas de videojuego como lenguaje formallenguaje artificial bayesianosklingon y dothraki como lenguas artificiales…eso, Gastón? Y habrá sido circa 2009, por ahí. ¿2009? Claro, y ahí se desarrolló tu cerebro más, ¿no? Y por eso empezaste a escribir esos agujeros. No, no, mi cerebro no. Pero está bien ya. Sí, sí, sí. Esto es muy íntimo, hablar del cerebro de una persona. Oye, eso es muy interesante porque justamente eso es lo que hacen con las redes neuronales las entrenan, cada videojuego tuyo que te están poniendo para que tú infieras esas reglas con la red neuronal son lenguajes formales o sea cada tarea es un lenguaje formal y digo un lenguaje porque no es una lengua, no es una lengua natural sino una lengua artificial pero no una lengua artificial como el Klingon o el Dothraki, están creados como de los bayesianos entonces son cadenas de caracteres y lo que tienen esas lenguas, pero creo que me estoy adelantando porque me emociona y me meto en el medio de la cuestión. De todas maneras, debería ir rápido, ¿no, Héctor? Para no enrollarme mucho. Nada, tú enróllate todo lo que quieras que hace tiempo que no vienes y ya, si no, lo hace más que se fastidien. Y ahora Francis dice, jope. Hoy tienes el micrófono. Bueno, ahora entraré en ese aprendizaje de las lenguas. Porque quiero empezar con la introducción del artículo; que precisamente de lo que como empieza introduciendo esta investigación es cómo es posible que los niños humanos puedan aprender a hablar con tan…
María Ribes aclara el significado de la palabra 'sintético' tal como se utiliza en un artículo sobre lenguajes formales y lingüística.
Habla: María RibesSignificado #1 · Palabras #1lenguaje sintético como artificiallingüística sintético aglutina clustersmétodos bayesianos para lenguajes formalesred con 25000 lenguajes formales…muy interesante Yo no lo he leído, te confieso, cuando lo vi dije, ostras, qué paper tan complicado, no, ostras, María, digo, espero que me lo cuente porque esto se sale de mí De mí también un poco, ¿eh? La parte lingüística es la que he entendido un poco Mejor también quería decir que habla mucho de lenguas sintéticas, ¿eh? Y aquí utiliza la palabra sintética en dos sentidos: sintética como artificial, que son estos lenguajes formales que yo digo que no es como el Alto Valirio, sino símbolos. Pero también en lingüística hablamos de sintético en el sentido de que aglutina, ¿no? Y de que va formando clusters, o sea que se refiere a ese concepto, ya está. Y ya está, son 25.000 lenguajes formales creados con métodos bayesianos, los que le dieron a la red. Y después el corpus natural, el Childes y destiló todo ese sesgo, que la palabra sesgo está negativa, pero en este caso es buena. Este es un sesgo lingüístico bueno porque es un sesgo cognitivo que te ayuda a predecir; es esa distribución a priori que es cómo…
Héctor Socas reflexiona sobre cómo los grandes modelos de lenguaje pueden ser reentrenados para otras aplicaciones, superando incluso a las redes neuronales diseñadas específicamente para esas tareas.
Habla: Héctor SocasSignificado #15reentrenamiento modelos lenguaje otras aplicacionesredes neuronales específicas para tareasaprender lenguaje sistema capacidad aprendizajegran modelo lenguaje héctor socas…y es que justamente los grandes modelos de lenguaje parecen ser una excelente, o sea, pensando de forma agnóstica simplemente en redes neuronales parecen ser una avenida fantástica para el aprendizaje general hasta el punto de que muchos se usan luego para. Otras cosas, se puede coger un gran modelo de lenguaje y reentrenarlo para otras aplicaciones que no son el lenguaje y funcionan mejor incluso que aplicaciones, que redes neuronales entrenadas específicamente para ese propósito. Lo cual parece dar a entender, parece sugerir que aprender el lenguaje es una buena forma de desarrollar un sistema que tiene una capacidad fuerte de aprender. Creo que va por ahí un poco la cosa, lo cual no deja de resultarme muy fascinante. Sí, y estaba buscando una cita que también tenía un poco de ver con eso que decías que lo que quieren es superar esas limitaciones de las redes neuronales modernas aunque aprenden muy bien para que adquieran cualquier otra lengua no necesariamente desde el…
Gastón Giribet propone un método para detectar sesgos lingüísticos en modelos de lenguaje, sugiriendo el uso de lenguajes menos comunes o incluso aquellos que no están escritos.
Habla: Gastón GiribetSignificado #16sesgos lingüísticos en modelos lenguajelenguajes menos comunes gastón giribetcorpus en castellano para modelos…haciendo plantillas con los alumnos y según cómo le hago el input, pues me da la beca o no me lleva o no me lleva al sitio. Pero claro, ahí también entran, hay que decirlo, otros sesgos: que el sesgo lingüístico te lleva al sesgo también cultural y racial. Como método para ver si hay un sesgo lingüístico lo que uno tendría capaz que hacer sería algo así como usar los lenguajes menos comunes, incluso aquellos los no escritos, porque de los otros tiene mucho corpus, probablemente tiene tanto cuerpo de información en castellano como para haberse educado él solo en castellano, pero de los demás no, entonces traduce a través de él. Eso es, eso es. Mira, justo hay un artículo, perdona, que estaba leyendo ahora sobre hablándole a Chao GFT en rioplatense. Ahí hay mucho cuerpo, ahí hay mucho cuerpo para leer. Y hay muchos experimentos en rioplatense, en español rioplatense y en español mexicano estándar, y…
Francis Villatoro responde a una pregunta sobre la posibilidad de que las inteligencias artificiales puedan reconstruir la evolución de los lenguajes y descifrar escrituras antiguas.
Habla: Francis VillatoroSignificado #10 · Palabras #6inteligencias artificiales reconstruyen evoluciónlenguajes actuales inferir ancestrocorpus limitado descifrar escrituras antiguasfrancis villatoro y la evolución de lenguajes…es como si fuera el paso previo a la Lineal B. La Lineal B es lineal y la Lineal A tiene todavía un poco de restos pictográficos y supuestamente puede ser un estadio anterior en la evolución, pero que yo sepa todavía no se ha llegado a esa epifanía, pero muy Buena pregunta, y está además ahora candente en el mundo lingüístico. Sí, quizás, no lo sé; en un futuro las inteligencias artificiales sean capaces de llevar hacia atrás la evolución de los lenguajes y entonces a partir de lenguajes actuales inferir relaciones de ancestro, de parentesco entre lenguajes y a partir de ahí inferir y descifrar de manera aproximada con un corpus muy limitado pero usando el corpus de dónde ha derivado ese lenguaje en el futuro. Es decir, si hubiera, que no lo sé, si el lineal A precede a B y B a C y hubiera corpus en C suficiente, se podría llevar hacia el B y hacia el A y reconstruir. Bueno, lo que pasa ahí primero tenemos que especificar que son lenguas, que no son tipos de…