Búsqueda · 24 momentos en 12 episodios
Jorge SánchezNacho TrujilloLuisa AchaerandioIsabel CorderoJosé EdelsteinJuan Carlos GilIgnacio CrespoFrancis VillatoroHéctor SocasGastón Giribetmodelo lenguaje lava cocheexperimento mental nacho trujillodistancia 50 metros modelomodelo de lenguaje lava cochefalta de contexto modelo truilloexperimento mental con modelosmodelos lenguaje fallaron lavar cochesimulación comprensión contextual modelos lenguajesofisticación modelo lenguaje apariencia entendimientohabitación china y modelos lenguajeinteligencia artificial en 1980nacho trujillo y experimento mentalNacho TrujilloJuan CarlosElon MuskHéctor SocasHabitación ChinaModelos del LenguajeConcienciaIgnacio CrespoLeCunGastón GiribetSellarsSerl
Falta de contexto modelo truillo
Con
0:000:301:001:302:002:303:003:303:56
Nacho Trujillo relata un experimento mental reciente donde se le plantea a un modelo de lenguaje la tarea de ir a lavar el coche y este sugiere ir andando, demostrando una falta de comprensión del contexto.
…en pie o andando. Creo que lo comentaron aquí, ¿no? No, yo creo que Juan Carlos hizo referencia al problema clásico de la barca: que tienes que cruzar un río con una oveja, la lechuga y el lobo o algo así, ¿no? Este es un problema; no, este ha sido famoso en. los últimos meses que es algo así, que se le planteaba al modelo del lenguaje Tengo que ir a lavar mi coche, el sitio de lavado está a 50 metros, ¿cómo voy? ¿Voy en coche o voy andando? Y el modelo del lenguaje te decía, no, vete andando porque estás muy cerca, no sé, claro, sin darse cuenta que lo que querías era lavar tu coche, que era una forma evidente de decir, está respondiendo de forma, no Está respondiendo como un ser humano porque obviamente tienes que llevar tu coche para lavar. Creo que era poner gasolina igual; bueno, la variante del mismo tema, la cuestión era que se identificaba claramente que no estaba entendiendo, o sea, ningún ser humano caería en eso, si tienes que llevar el coche, tienes que llevar el coche. Entonces, claro, eso ahora fallaron durante dos o tres días hasta que incorporaron eso dentro del modelo del lenguaje y ya no fallaban, pero es decir que de alguna manera esto es siempre como que se va sofisticando cada vez más el modelo del lenguaje para incorporar todas aquellas cosas que demuestran que no entienden y dar apariencia de entendimiento. Pero bueno, sin querer entrar más, que me parece que Lo que estabas describiendo era una forma pretérita de describir esta habitación china; probablemente sería una buena... bueno, cuando lo cuentas me parece una descripción de lo que hace un modelo del lenguaje. Es de 1980, por esa época el ejemplo de la habitación china. Por eso lo mencionaba la semana pasada, porque hay que ponerlo en su contexto, o sea, en el contexto de lo que se entendía por inteligencia artificial en aquella época, que es muy diferente a lo que podemos entender ahora. Por eso a mí me gusta acompañarlo, también por el respeto histórico y porque es interesante; pero acompañarlo de esa idea de tú puedes hacer todos los análisis estadísticos que quieras, no es que te hayan dado instrucciones, es que solamente vas a tener…
Significado #11 · Palabras #1
Nacho Trujillo plantea la posibilidad de que los agujeros negros supermasivos no se formen directamente como objetos masivos desde el principio, sino a partir del colapso de materia oscura o procesos similares.
Habla: Nacho TrujilloPalabras #18agujeros negros supermasivos materia oscuracolapso agujeros negros primordialesmodelos agujeros negros nacen…en X, una cosa es explicar los métodos, lo que podría estar pasando y vos no ves, pero otra cosa es lo que ves, y lo que ves es que eso sí es un síntoma muy directo de que haya crecido muy muy violenta ahí. No estoy diciendo demasiado de tu respuesta. Yo estaba pensando también en otras conjeturas que se han hecho: si los agujeros negros supermasivos no nacen ya casi siendo con esa masa a partir de agujeros negros primordiales por el colapso incluso de materia oscura o algo así. Sí, y bueno, hay modelos que sobreviven incluso a las observaciones. Quizá No son los modelos más homologados, o mejor dicho, homologados por mayor cantidad de gente que tienen escenarios más convencionales que son estos a partir de nubes de hidrógeno primordiales no del todo fragmentadas, pero sí, o sea, desde hace mucho tiempo hay…
Nacho Trujillo y Ignacio Crespo continúan discutiendo el salto entre sintaxis y semántica, haciendo referencia al trabajo previo de Sellars y planteando la cuestión de si los modelos del lenguaje son conscientes.
Habla: Nacho TrujilloPalabras #19salto sintaxis semántica sellarsmodelos lenguaje conciencia test…y normalmente se relaciona con que aparezca esta en la posición tanto. Cuestiones mucho más complejas, pero que da igual, creo que es intuitivo para todos nosotros, que parece muy raro que solamente con eso podamos llegar a saber qué significan las palabras. Eso es el salto entre la sintaxis y la semántica, que ya hablaba Sellars en su momento, antes de Serl, y que las cosas como son no tiene una respuesta clara; sigue siendo un salto, no se sabe cómo podemos pasar de una cosa a la otra. Y llega, dime: No, pero digo que a día de hoy, a día de hoy creo que la mayoría estaría de acuerdo que los modelos del lenguaje no son conscientes porque se les hacen test a veces, ¿no? Cada vez más sofisticados o más complicados. Pero bueno, la gente siempre encuentra alguna forma de plantearle a los modelos del lenguaje algunas situaciones; creo que recordarán hace poco, no. Sé si lo comentaron aquí aquella en la que decía que tenía que ir a lavar el coche; se iba en pie o andando. Creo que lo comentaron aquí, ¿no? No, yo creo que Juan Carlos hizo referencia al problema clásico de la barca: que tienes que cruzar un río con una…
Nacho Trujillo relata un experimento mental reciente donde se le plantea a un modelo de lenguaje la tarea de ir a lavar el coche y este sugiere ir andando, demostrando una falta de comprensión del contexto.
Habla: Nacho TrujilloSignificado #11 · Palabras #1modelo lenguaje lava cocheexperimento mental nacho trujillodistancia 50 metros modelomodelo de lenguaje lava cochefalta de contexto modelo truilloexperimento mental con modelosmodelos lenguaje fallaron lavar cochesimulación comprensión contextual modelos lenguajesofisticación modelo lenguaje apariencia entendimientohabitación china y modelos lenguajeinteligencia artificial en 1980nacho trujillo y experimento mental…en pie o andando. Creo que lo comentaron aquí, ¿no? No, yo creo que Juan Carlos hizo referencia al problema clásico de la barca: que tienes que cruzar un río con una oveja, la lechuga y el lobo o algo así, ¿no? Este es un problema; no, este ha sido famoso en. los últimos meses que es algo así, que se le planteaba al modelo del lenguaje Tengo que ir a lavar mi coche, el sitio de lavado está a 50 metros, ¿cómo voy? ¿Voy en coche o voy andando? Y el modelo del lenguaje te decía, no, vete andando porque estás muy cerca, no sé, claro, sin darse cuenta que lo que querías era lavar tu coche, que era una forma evidente de decir, está respondiendo de forma, no Está respondiendo como un ser humano porque obviamente tienes que llevar tu coche para lavar. Creo que era poner gasolina igual; bueno, la variante del mismo tema, la cuestión era que se identificaba claramente que no estaba entendiendo, o sea, ningún ser humano caería en eso, si tienes que llevar el coche, tienes que llevar el coche. Entonces, claro, eso ahora fallaron durante dos o tres días hasta que incorporaron eso dentro del modelo del lenguaje y ya no fallaban, pero es decir que de alguna manera esto es siempre como que se va sofisticando cada vez más el modelo del lenguaje para incorporar todas aquellas cosas que demuestran que no entienden y dar apariencia de entendimiento. Pero bueno, sin querer entrar más, que me parece que Lo que estabas describiendo era una forma pretérita de describir esta habitación china; probablemente sería una buena... bueno, cuando lo cuentas me parece una descripción de lo que hace un modelo del lenguaje. Es de 1980, por esa época el ejemplo de la habitación china. Por eso lo mencionaba la semana pasada, porque hay que ponerlo en su contexto, o sea, en el contexto de lo que se entendía por inteligencia artificial en aquella época, que es muy diferente a lo que podemos entender ahora. Por eso a mí me gusta acompañarlo, también por el respeto histórico y porque es interesante; pero acompañarlo de esa idea de tú puedes hacer todos los análisis estadísticos que quieras, no es que te hayan dado instrucciones, es que solamente vas a tener…
Nacho Trujillo introduce una nota adicional sobre la relación entre el experimento mental de la habitación china y los modelos de lenguaje, señalando que estos últimos se centran únicamente en el lenguaje.
Habla: Nacho TrujilloPalabras #9habitación china y modelos lenguajemodelos lenguaje se centran lenguajeexperimento mental habitación china…es que solamente vas a tener relaciones entre textos. No vas a poder extraer, desde luego, la percepción de qué es un color, pero eso es otro tema. La cuestión es que no puedes dotar de significado, solamente a través de las relaciones; pero hay algo más, hay Un extra. Y aquí, por añadir otra pequeña nota que creo que es muy interesante: todo el rato que estamos queriendo, por lo menos en este caso de la habitación china y en los modelos del lenguaje, estamos hablando solo del lenguaje. Mientras que pareciera que la conciencia a lo mejor necesita De la corporeidad, de vivir en un mundo físico, más allá de unas reglas gramaticales. Es decir, que a lo mejor sí llegaríamos a esa inteligencia más parecida a la humana cuando estas inteligencias artificiales se les incorporen en un cuerpo. Uno de los…
Ignacio Crespo, retomando la discusión iniciada por Nacho Trujillo, explica cómo se construyen modelos del mundo a través de la semántica y las percepciones externas.
Habla: Ignacio CrespoPalabras #10modelos del mundo y percepciones externassemántica en modelos de lenguajeontologías informáticas para semánticasmecanismo de atención sin ontología…la sintaxis no es suficiente, que era necesario una semántica; y por semántica se entendía lo que hoy en día ha popularizado LeCun, la inteligencia artificial, que es un modelo del mundo. Tú tenías que tener una ontología que representara un modelo del mundo. Es lo que Ignacio, perdón, Nacho, ha estado comentando con el tema de que necesitamos los sentidos. Necesitamos percepciones del exterior para obtener ese modelo del mundo. pero ese modelo del mundo era la semántica y lo que han demostrado los modelos de lenguaje en los que yo no introdujo de manera explícita una semántica sabemos los informáticos introducir semánticas mediante un concepto que los informáticos llamamos ontologías no hay una ontología en estos modelos de lenguaje basados en el mecanismo de atención Lo que decía Ignacio Del ejemplo este de ir al lavacoches en la estación de servicio. Bueno, esa pregunta depende de cómo la escribieras, literalmente, cambiar a veces una única preposición, un único verbo de lugar. Hacía que la inteligencia artificial, la mayoría de ellas, la…