Búsqueda · 28 momentos en 15 episodios
María RibesBorja TosarGastón GiribetFrancis VillatoroHéctor Socassistema límbico e interacción cognitivaredes neuronales artificiales sistemas cognitivossimulación emocional en redes neuronalesnovela y emociones del lectorsistemas emocionales humanos independientesemociones simuladas en cognición artificialsistema hormonal enamoramiento tontovector bioquímico emociones humanasemulación cognitiva falacia sistemasrespuestas verbales sensitivas emulacióngeneración de imágenes supuesta emociónFrancis VillatoroHéctor SocasChatGPTMaría Ribesshow de TrumanThomas McCoyInstituto WoodsideThomas GriffithsUniversidad de PrincetonLaboratorio de Ciencia Cognitiva y Computacional
Imitación emoción Inteligencia Artificial
Con
0:000:301:001:302:002:303:003:33
Francis Villatoro argumenta que intentar replicar sistemas emocionales únicamente a través de la emulación cognitiva es una falacia.
…en cognitivo algo que no es cognitivo. Es decir, no es verdad que las emociones dependan de minimizar ciertas funciones de recompensa; eso no es verdad. Así no funciona nuestro cuerpo. Nosotros tenemos un sistema, los sistemas emocionales en nuestro cuerpo. Como el sistema límbico, que no tienen nada que ver con el sistema cognitivo y que interaccionan con el sistema cognitivo y que controlan ciertos elementos del sistema cognitivo, pero no están controlados cognitivamente. Es decir, las redes de neuronas artificiales utilizan un mecanismo inspirado en los sistemas cognitivos. Por lo tanto, no tienen mecanismos que modelan los sistemas emocionales; pueden simular las emociones igual que se simulan las emociones en una novela. Pero eso no es emocional. Cuando tú lees la novela, tú recibes emociones. Pero tus emociones no son emociones simuladas como las que están en la novela: lo que puede simular la red neuronal, es mi opinión, son ese tipo de cosas. Si queremos que los sistemas de cognición artificial tengan emociones, tenemos que dotarlos de sistemas emocionales. Si no, siempre van a tener emociones simuladas. Porque nosotros, humanos, tenemos dos sistemas perfectamente separados. Están imbricados en ciertas cosas. Porque es verdad que tenemos sistemas primitivos, basales, sistemas completamente innatos que hacen que las emociones nos controlen en ciertos momentos Eso es lo que dice, cuando estás enamorado te vuelves tonto, tu sistema cognitivo no lo pones en funcionamiento en ciertos momentos en los que estás dominado por un sistema que es puramente hormonal y que es puramente, como ha dicho, el vector bioquímico. Entonces, ese sistema está ahí y es un sistema independiente. Entonces, pretender que solamente usando sistemas que emulan lo cognitivo vas a generar un sistema emocional, pues es falaz completamente. Lo que sí puedes hacer es una emulación de respuestas verbales o sensitivas, generar imágenes o lo que sea que generen supuestamente emociones; pero no estás generando emociones en tu interior porque no tienes un sistema emocional. Es mi opinión. Parece muy bien, yo quiero decir una cosa que no tiene nada que ver porque he abierto el YouTube y he visto algo de Múnich que dice Ana, nuestra amiga Ana, que dice con muy buen tino. Ojo, que Ana de Múnich habla con criterio y de muchas otras…
Significado #1
María Ribes introduce el Baby LLM Challenge y explica que el artículo analizado trata sobre cómo grandes modelos de lenguaje imitan la adquisición del lenguaje humano. Menciona a Thomas McCoy, director del Instituto Woodside, y a Thomas Griffiths, profesor en la Universidad de Princeton.
Habla: María RibesPalabras #16baby llm challenge imitación humanathomas mccoy instituto woodsidelaboratorio ciencia cognitiva computacional princeton…ese episodio, pues ya nunca lo hace bien, como yo que me perdí el de izquierda y derecha. Y no he conseguido arreglarlo, Borja tampoco, ¿eh? Sí, y tiene implicaciones muy peligrosas en mi caso. Bueno, entonces, lo que quiere este artículo, ¿os acordáis que hablamos aquí en Coffee Break del Baby LLM Challenge? Que era entrenar grandes modelos de lenguaje con poquitos datos para imitar la adquisición de los humanos, ¿no? Pues esto es de lo que trata este artículo y lo que estudia el Thomas McCoy, dirige el Instituto Woodside, es precisamente eso, cómo funciona la cognición humana y Griffiths, él está en el departamento de Psicología y Ciencias de la Computación de la Universidad de Princeton o sea que él tiene doble grado en Psicología y en Ciencias de la Computación entonces él dirige el laboratorio de allí de Princeton que se llama Laboratorio de Ciencia Cognitiva y Computacional no solo eso sino también el Laboratorio de Inteligencia Artificial de Princeton y él lo que trabaja es la ciencia cognitiva computacional Perdón María, la otra vez que conté una anécdota sobre que me sometí a un experimento dentro de un resonador, era en su laboratorio de hecho ¿En serio? Guau, ¿y te tocó él? No, no, mi amigo Greg Duke, que era su postdoc. No, no, conforme lo, perdón, no digáis nada, conforme lo decía lo he sentido, que no era el lugar para decir esta expresión, fue él quien trabajó contigo. Yo fui solamente un cobayo, yo no…
María Ribes explica que cuando ChatGPT le expresa halagos a los usuarios, no está experimentando emociones reales, sino que se trata de un sistema basado en datos y predicciones.
Habla: María RibesSignificado #9chatgpt sin emociones realessistema de predicciones chatgptfrancis villatoro experto en estadística…como decía Francis, entran ahí todos esos sesgos, sesgos lingüísticos, sesgos culturales que no siempre son buenos y ChatGPT no habla, no sabe lo que dice y es el gran problema de nuestro tiempo. Yo creo que es antropomorfizar al modelo de lenguaje. O sea, cuando ChatGPT te dice a ti: qué grande eres, qué buena frase me has dicho, estoy muy contento de poderte ayudar; ChatGPT no está contento. Eso no es lenguaje, porque para que sea un enunciado lingüístico tiene que haber una emoción ¿vale? y ChatGPT no puede sentir emociones, es como data, ahí lo dejo. Entonces no sabe lo que dice, lo único que hace es un sistema de predicciones, eso ya lo hemos explicado muchas veces y Francis es el gran experto en esto, en las predicciones, las estadísticas. A mí me gusta mucho el término que acuñó Emily Bender, que ella es lingüista, es lingüista computacional y estoy leyendo un libro ahora de ella que se llama El timo de la IA, ¿vale? Se llama The AI Con sobre el hype que ha habido y ella no es muy pesimista,…
Héctor Socas reflexiona sobre el entusiasmo y las expectativas generadas por los avances en inteligencia artificial (IA), argumentando que la maravilla de estos desarrollos puede coexistir con la exageración o 'hype' que los rodea.
Habla: Héctor SocasSignificado #14sense of wonder en inteligencia artificialhype compatible con avances iadesarrollos de ia como maravilla…su propia representación? Y te dice: muy buena pregunta desde el punto de vista de la fenomenología. Cepilla tus dientes con Colgate. Como el show de Truman. El show de Truman estaba pensando lo mismo. Oye, nada, antes de terminar con este tema, creo que Habría que ir dando carpetazo, pero no me gustaría hacerlo sin algún pequeño alegato en desagravio porque aquí a veces estamos como siempre poniendo frenos, poniendo cotas a la ilusión, al entusiasmo y al sense of wonder. Yo quiero reivindicar el sense of wonder; quiero decir, hay como este dilema que creo que es un falso dilema entre qué cosa tan maravillosa de la gran maravilla de nuestro tiempo son los desarrollos que estamos viendo en IA y por otra parte es que hay un montón de hype con la IA. Y yo creo que estas dos afirmaciones no son mutuamente excluyentes, creo que son muy compatibles y creo que ambas son ciertas. Entonces hemos estado aquí un poco con la navaja del tedio porque somos científicos soberbios y tenemos que decir: aquí no pasa nada, aquí no hay nada que ver, pero voy a dar un poco el contrapunto. O sea, como alguien que de niño jugaba en 1987, jugaba con…
Héctor Socas reflexiona sobre la posibilidad de que las inteligencias artificiales experimenten emociones, planteando si una función de recompensa podría considerarse una emoción.
Habla: Héctor SocasSignificado #6 · Palabras #11función recompensa como emoción iaestímulo placer dolor programación humanaevolución 500 millones de añosgenes selección evolutiva hector socas…la IA aplicada a las lenguas y escrituras antiguas. Me parece fascinante, ojalá tuviera yo tiempo de poder hacer algo de eso. Bueno, una de las que darían para estar horas hablando de Cristina Hernández, pero me apetece decir una cosita muy breve sobre esto. Dice aunque una IA no sienta emociones, ¿quién dice que no? Pero bueno, aunque una IA no sienta emociones, ¿una función de recompensa si consigue responder no sería una emoción? Aunque no haya nada físico a sentir, no produzca algo físico que sienta a la par, voy a decir una cosa muy breve. A ver, nosotros estamos programados a base de estímulo de placer y dolor; es nuestra forma evolutiva y variaciones todos los sutiles y ricas y complejas que se quieran de eso, que es la forma de la evolución a lo largo de 500 millones de años de decirnos haz esto y evita esto otro, que es como te va a ir bien y vamos a seleccionar estos genes para que se sigan propagando. Entonces, en el caso de nuestras redes neuronales tenemos lo que se llama una función de pérdida, la loss function, que es lo que te dice cuánto de bien está haciendo el ajuste a los datos que le están metiendo. Entonces, ese es el equivalente, de una forma…
Héctor Socas continúa reflexionando sobre la posibilidad de que las inteligencias artificiales desarrollen emociones, basándose en analogías con los procesos bioquímicos que motivan el comportamiento humano.
Habla: Héctor SocasSignificado #4 · Palabras #10emociones como procesos bioquímicosredes neuronales función respuestainteligencias artificiales emociones análogasmecanicismo convencido de héctor socas…inducido a que haga mediante la minimización de esa función de pérdida. Entonces, esa es la motivación, que en nuestro caso la motivación es una reacción bioquímica que en última instancia son reacciones de placer-dolor. Entonces, para mí es lo equivalente. Ahora mismo es algo demasiado simple Pero igual que a nadie le parecía concebible Que la computación pudiera llevar a inteligencia o incluso a conciencia Yo creo que ahora ya nadie tiene eso tan claro Es más, yo como mecanicista convencido estoy seguro de que eso sí se da Con las emociones estoy seguro de que pasa lo mismo Nuestras emociones son puramente bioquímicas Pero que vienen de esas motivaciones que nos da la evolución y que de la misma manera las motivaciones que ponemos en las redes neuronales son a partir de una función-respuesta que puede ser interpretada de la misma forma y que en un futuro, dada la suficiente complejidad, ¿por qué no pueden ser análogas a emociones? No veo ninguna diferencia esencial. Y ya está, opinión impopular y con la asegura que nadie va a estar de acuerdo, pero la defenderé. En mi opinión, claro, es que el problema que tenemos los humanos es que estamos demasiado sesgados por las emociones a concebir las emociones como constructos cognitivos. Leemos novelas, vemos películas, escuchamos música, interaccionamos con otros humanos,…
Francis Villatoro argumenta que intentar replicar sistemas emocionales únicamente a través de la emulación cognitiva es una falacia.
Habla: Francis VillatoroSignificado #1sistema límbico e interacción cognitivaredes neuronales artificiales sistemas cognitivossimulación emocional en redes neuronalesnovela y emociones del lectorsistemas emocionales humanos independientesemociones simuladas en cognición artificialsistema hormonal enamoramiento tontovector bioquímico emociones humanasemulación cognitiva falacia sistemasrespuestas verbales sensitivas emulacióngeneración de imágenes supuesta emoción…en cognitivo algo que no es cognitivo. Es decir, no es verdad que las emociones dependan de minimizar ciertas funciones de recompensa; eso no es verdad. Así no funciona nuestro cuerpo. Nosotros tenemos un sistema, los sistemas emocionales en nuestro cuerpo. Como el sistema límbico, que no tienen nada que ver con el sistema cognitivo y que interaccionan con el sistema cognitivo y que controlan ciertos elementos del sistema cognitivo, pero no están controlados cognitivamente. Es decir, las redes de neuronas artificiales utilizan un mecanismo inspirado en los sistemas cognitivos. Por lo tanto, no tienen mecanismos que modelan los sistemas emocionales; pueden simular las emociones igual que se simulan las emociones en una novela. Pero eso no es emocional. Cuando tú lees la novela, tú recibes emociones. Pero tus emociones no son emociones simuladas como las que están en la novela: lo que puede simular la red neuronal, es mi opinión, son ese tipo de cosas. Si queremos que los sistemas de cognición artificial tengan emociones, tenemos que dotarlos de sistemas emocionales. Si no, siempre van a tener emociones simuladas. Porque nosotros, humanos, tenemos dos sistemas perfectamente separados. Están imbricados en ciertas cosas. Porque es verdad que tenemos sistemas primitivos, basales, sistemas completamente innatos que hacen que las emociones nos controlen en ciertos momentos Eso es lo que dice, cuando estás enamorado te vuelves tonto, tu sistema cognitivo no lo pones en funcionamiento en ciertos momentos en los que estás dominado por un sistema que es puramente hormonal y que es puramente, como ha dicho, el vector bioquímico. Entonces, ese sistema está ahí y es un sistema independiente. Entonces, pretender que solamente usando sistemas que emulan lo cognitivo vas a generar un sistema emocional, pues es falaz completamente. Lo que sí puedes hacer es una emulación de respuestas verbales o sensitivas, generar imágenes o lo que sea que generen supuestamente emociones; pero no estás generando emociones en tu interior porque no tienes un sistema emocional. Es mi opinión. Parece muy bien, yo quiero decir una cosa que no tiene nada que ver porque he abierto el YouTube y he visto algo de Múnich que dice Ana, nuestra amiga Ana, que dice con muy buen tino. Ojo, que Ana de Múnich habla con criterio y de muchas otras…