Búsqueda · 30 momentos en 18 episodios
María RibesBorja TosarGastón GiribetFrancis VillatoroHéctor Socasentrenamiento modelos lenguaje chatgptsesgos lingüísticos en chatgptsesgos culturales en sistemas de lenguajefrancis y la contaminación de datoschatgpt sin emociones realessistema de predicciones chatgptfrancis villatoro experto en estadísticaChatGPTFrancis VillatoroMaría RibesFerrariColgateShow de TrumanHéctor SocasGastón GiribetBorja Tosar
ChatGPT sin emociones reales
Con
0:000:301:001:302:002:303:003:33
María Ribes explica que cuando ChatGPT le expresa halagos a los usuarios, no está experimentando emociones reales, sino que se trata de un sistema basado en datos y predicciones.
…valga. No adquiere nunca la lengua si no está viendo a otra persona. Pero evidentemente cuando yo le muestro las cosas, lo aprende más rápido. Pero no es sine qua non. Lo que es completamente indispensable es que vea y que se relacione con esa otra persona. Ok, gracias. Un placer. Entonces, lo que querían hacer ellos es: vamos a entrenar a un gran modelo de lenguaje porque, por ejemplo, el chat GPT, ya sabéis que se entrena con millones de datos, millones de datos y aparte de la contaminación, como decía Francis, entran ahí todos esos sesgos, sesgos lingüísticos, sesgos culturales que no siempre son buenos y ChatGPT no habla, no sabe lo que dice y es el gran problema de nuestro tiempo. Yo creo que es antropomorfizar al modelo de lenguaje. O sea, cuando ChatGPT te dice a ti: qué grande eres, qué buena frase me has dicho, estoy muy contento de poderte ayudar; ChatGPT no está contento. Eso no es lenguaje, porque para que sea un enunciado lingüístico tiene que haber una emoción ¿vale? y ChatGPT no puede sentir emociones, es como data, ahí lo dejo. Entonces no sabe lo que dice, lo único que hace es un sistema de predicciones, eso ya lo hemos explicado muchas veces y Francis es el gran experto en esto, en las predicciones, las estadísticas. A mí me gusta mucho el término que acuñó Emily Bender, que ella es lingüista, es lingüista computacional y estoy leyendo un libro ahora de ella que se llama El timo de la IA, ¿vale? Se llama The AI Con sobre el hype que ha habido y ella no es muy pesimista,…
Significado #1 · Palabras #1
María Ribes explica que cuando ChatGPT le expresa halagos a los usuarios, no está experimentando emociones reales, sino que se trata de un sistema basado en datos y predicciones.
Habla: María RibesSignificado #1 · Palabras #1entrenamiento modelos lenguaje chatgptsesgos lingüísticos en chatgptsesgos culturales en sistemas de lenguajefrancis y la contaminación de datoschatgpt sin emociones realessistema de predicciones chatgptfrancis villatoro experto en estadística…valga. No adquiere nunca la lengua si no está viendo a otra persona. Pero evidentemente cuando yo le muestro las cosas, lo aprende más rápido. Pero no es sine qua non. Lo que es completamente indispensable es que vea y que se relacione con esa otra persona. Ok, gracias. Un placer. Entonces, lo que querían hacer ellos es: vamos a entrenar a un gran modelo de lenguaje porque, por ejemplo, el chat GPT, ya sabéis que se entrena con millones de datos, millones de datos y aparte de la contaminación, como decía Francis, entran ahí todos esos sesgos, sesgos lingüísticos, sesgos culturales que no siempre son buenos y ChatGPT no habla, no sabe lo que dice y es el gran problema de nuestro tiempo. Yo creo que es antropomorfizar al modelo de lenguaje. O sea, cuando ChatGPT te dice a ti: qué grande eres, qué buena frase me has dicho, estoy muy contento de poderte ayudar; ChatGPT no está contento. Eso no es lenguaje, porque para que sea un enunciado lingüístico tiene que haber una emoción ¿vale? y ChatGPT no puede sentir emociones, es como data, ahí lo dejo. Entonces no sabe lo que dice, lo único que hace es un sistema de predicciones, eso ya lo hemos explicado muchas veces y Francis es el gran experto en esto, en las predicciones, las estadísticas. A mí me gusta mucho el término que acuñó Emily Bender, que ella es lingüista, es lingüista computacional y estoy leyendo un libro ahora de ella que se llama El timo de la IA, ¿vale? Se llama The AI Con sobre el hype que ha habido y ella no es muy pesimista,…
Héctor Socas comenta sobre una hipótesis planteada por Borja Tosar, según la cual ChatGPT consulta al profesor Francis Villatoro para obtener respuestas.
Habla: Héctor SocasPalabras #5chatgpt consulta a villatorohipótesis de borja tosargravedad cuántica en chatgpt…Tosar. No me digas, hipótesis Tosar. Que me la cuente la hipótesis Borja porque yo no sé cuál es. La hipótesis Tosar es que ChatGPT le pregunta a Francis por la noche. Ah, es que yo, sí, sí, sí, hice una movida de eso. Y el tío, lo dijiste el otro día, y el tío dice que se lo preguntó a ChatGPT y le responde ChatGPT Me encanta tu hipótesis, Borja. Nosotros consultamos a ChatGPT y ChatGPT consulta al profesor Villatoro. Probablemente a las 2 y las 5 de la madrugada cuando todo el sistema tiempa por culpa de la gravedad cuántica. Confirmo que sí. Si alguna vez tardó en responder, no es porque Villatoro esté dormido, es porque me estoy quitando el sombrero ante su última entrada del blog. ¡Guau! Por eso Francis no duerme. Yo le mando a Francis una cosa que hice y él decide si la publica o no. Te voy a…
Gastón Giribet y Héctor Socas comentan una experiencia inusual con ChatGPT, donde la herramienta respondió a una pregunta filosófica insertando un anuncio publicitario de Colgate.
Habla: Gastón GiribetSignificado #3chatgpt y publicidad colgatefenomenología y preguntas filosóficasel show de truman como referenciaexperiencia inusual con chatgpt…dale purpurina y unicornios. Van a poner anuncios en ChatGPT. Van a poner anuncios en ChatGPT, pero hablando, en la respuesta, si esto no se ponga al lado, en la página web. Ostras, ¿te imaginas? Espero que lo hagan de manera sutil, porque últimamente no. Hay nada sutil. Uno le hace una pregunta: ChatGPT, hola, tengo una pregunta de filosofía. ¿Crees que hay objetos que son solamente su propia representación? Y te dice: muy buena pregunta desde el punto de vista de la fenomenología. Cepilla tus dientes con Colgate. Como el show de Truman. El show de Truman estaba pensando lo mismo. Oye, nada, antes de terminar con este tema, creo que Habría que ir dando carpetazo, pero no me gustaría hacerlo sin algún pequeño alegato en desagravio porque aquí a veces estamos como siempre poniendo frenos, poniendo cotas a la ilusión, al entusiasmo y al sense of wonder. Yo quiero reivindicar el sense of…
Héctor Socas expresa su asombro ante los grandes modelos de lenguaje como ChatGPT, refiriéndose a las quejas sobre errores en la herramienta como una reacción desproporcionada.
Habla: Héctor SocasSignificado #2errores en versión gratuita chatgptreacción desproporcionada a chatgptferrari como metáfora de chatgpterrores en chatgpt como un ferrarihumor en respuestas de chatgpthipótesis sobre chatgpt…algún día poder interactuar como con HAL 9000. Yo no pensaba que fuera a ver esto en mi tiempo, o sea, yo pensaba que el autocorrector del móvil era lo más parecido que yo iba a ver a algo con lo cual entonces a mí la irrupción tan repentina, porque ha sido. Muy repentino, de estos grandes modelos de lenguaje, a mí me flipa. Y me viene la gente quejándose; me venía quejándose un compañero de que su versión gratuita de CharGPT se le había inventado una referencia. Digo, pero tío, me vas a quejar de eso; pero es como el tío que le regalan un Ferrari y se queja de que al pasar de quinta a sexta le petardea. Pero tío, te ha regalado un Ferrari. ¡Ah, qué ejemplo más bueno! No lo sé; es que no sé si somos conscientes, pero si simplemente para ponerte a jugar y ponerte a hablar y contarle tus penas y que te responda, tío, y que sea capaz de pillar el humor, eso que leímos antes de la hipótesis. de Tosar y que el tío, claro, debía llevar ya una conversación y entendía el tono humorístico y tal, y yo, sí, sí, yo le pregunto al profesor Villatoro o tal, y por las noches. Claro, claro, sí, sí. No es porque esté durmiendo, sino porque me estoy sacando…
Héctor Socas reflexiona sobre la posibilidad de que las inteligencias artificiales experimenten emociones, planteando si una función de recompensa podría considerarse una emoción.
Habla: Héctor SocasSignificado #4 · Palabras #13función recompensa como emoción iaestímulo placer dolor programación humanaevolución 500 millones de añosgenes selección evolutiva hector socas…la IA aplicada a las lenguas y escrituras antiguas. Me parece fascinante, ojalá tuviera yo tiempo de poder hacer algo de eso. Bueno, una de las que darían para estar horas hablando de Cristina Hernández, pero me apetece decir una cosita muy breve sobre esto. Dice aunque una IA no sienta emociones, ¿quién dice que no? Pero bueno, aunque una IA no sienta emociones, ¿una función de recompensa si consigue responder no sería una emoción? Aunque no haya nada físico a sentir, no produzca algo físico que sienta a la par, voy a decir una cosa muy breve. A ver, nosotros estamos programados a base de estímulo de placer y dolor; es nuestra forma evolutiva y variaciones todos los sutiles y ricas y complejas que se quieran de eso, que es la forma de la evolución a lo largo de 500 millones de años de decirnos haz esto y evita esto otro, que es como te va a ir bien y vamos a seleccionar estos genes para que se sigan propagando. Entonces, en el caso de nuestras redes neuronales tenemos lo que se llama una función de pérdida, la loss function, que es lo que te dice cuánto de bien está haciendo el ajuste a los datos que le están metiendo. Entonces, ese es el equivalente, de una forma…
Francis Villatoro explica la diferencia entre emociones humanas reales y simulaciones en sistemas de cognición artificial, destacando la existencia de sistemas emocionales separados e independientes en los humanos.
Habla: Francis VillatoroSignificado #18 · Palabras #2emociones como procesos bioquímicosredes neuronales función respuestainteligencias artificiales emociones análogasmecanicismo convencido de héctor socasemociones sesgadas por experiencias culturalesconstructos cognitivos según francis villatorosistema emocional del cuerpo humanosistema límbico e interacción cognitivaredes neuronales artificiales sistemas cognitivossimulación emocional en redes neuronalesnovela y emociones del lectorsistemas emocionales humanos independientesemociones simuladas en cognición artificialsistema hormonal enamoramiento tontovector bioquímico emociones humanasemulación cognitiva falacia sistemasrespuestas verbales sensitivas emulacióngeneración de imágenes supuesta emoción…inducido a que haga mediante la minimización de esa función de pérdida. Entonces, esa es la motivación, que en nuestro caso la motivación es una reacción bioquímica que en última instancia son reacciones de placer-dolor. Entonces, para mí es lo equivalente. Ahora mismo es algo demasiado simple Pero igual que a nadie le parecía concebible Que la computación pudiera llevar a inteligencia o incluso a conciencia Yo creo que ahora ya nadie tiene eso tan claro Es más, yo como mecanicista convencido estoy seguro de que eso sí se da Con las emociones estoy seguro de que pasa lo mismo Nuestras emociones son puramente bioquímicas Pero que vienen de esas motivaciones que nos da la evolución y que de la misma manera las motivaciones que ponemos en las redes neuronales son a partir de una función-respuesta que puede ser interpretada de la misma forma y que en un futuro, dada la suficiente complejidad, ¿por qué no pueden ser análogas a emociones? No veo ninguna diferencia esencial. Y ya está, opinión impopular y con la asegura que nadie va a estar de acuerdo, pero la defenderé. En mi opinión, claro, es que el problema que tenemos los humanos es que estamos demasiado sesgados por las emociones a concebir las emociones como constructos cognitivos. Leemos novelas, vemos películas, escuchamos música, interaccionamos con otros humanos, convirtiendo en cognitivo algo que no es cognitivo. Es decir, no es verdad que las emociones dependan de minimizar ciertas funciones de recompensa; eso no es verdad. Así no funciona nuestro cuerpo. Nosotros tenemos un sistema, los sistemas emocionales en nuestro cuerpo. Como el sistema límbico, que no tienen nada que ver con el sistema cognitivo y que interaccionan con el sistema cognitivo y que controlan ciertos elementos del sistema cognitivo, pero no están controlados cognitivamente. Es decir, las redes de neuronas artificiales utilizan un mecanismo inspirado en los sistemas cognitivos. Por lo tanto, no tienen mecanismos que modelan los sistemas emocionales; pueden simular las emociones igual que se simulan las emociones en una novela. Pero eso no es emocional. Cuando tú lees la novela, tú recibes emociones. Pero tus emociones no son emociones simuladas como las que están en la novela: lo que puede simular la red neuronal, es mi opinión, son ese tipo de cosas. Si queremos que los sistemas de cognición artificial tengan emociones, tenemos que dotarlos de sistemas emocionales. Si no, siempre van a tener emociones simuladas. Porque nosotros, humanos, tenemos dos sistemas perfectamente separados. Están imbricados en ciertas cosas. Porque es verdad que tenemos sistemas primitivos, basales, sistemas completamente innatos que hacen que las emociones nos controlen en ciertos momentos Eso es lo que dice, cuando estás enamorado te vuelves tonto, tu sistema cognitivo no lo pones en funcionamiento en ciertos momentos en los que estás dominado por un sistema que es puramente hormonal y que es puramente, como ha dicho, el vector bioquímico. Entonces, ese sistema está ahí y es un sistema independiente. Entonces, pretender que solamente usando sistemas que emulan lo cognitivo vas a generar un sistema emocional, pues es falaz completamente. Lo que sí puedes hacer es una emulación de respuestas verbales o sensitivas, generar imágenes o lo que sea que generen supuestamente emociones; pero no estás generando emociones en tu interior porque no tienes un sistema emocional. Es mi opinión. Parece muy bien, yo quiero decir una cosa que no tiene nada que ver porque he abierto el YouTube y he visto algo de Múnich que dice Ana, nuestra amiga Ana, que dice con muy buen tino. Ojo, que Ana de Múnich habla con criterio y de muchas otras…