Búsqueda · 31 momentos en 19 episodios
Juan Carlos GilSilvana TapiaLuisa AchaerandioGastón GiribetFrancis VillatoroHéctor SocasIgnacio Crespogoogle como acceso directo a datoswikipedia como conocimiento enciclopédicoalucinaciones de la inteligencia artificialrevolución francesa en googleGoogleWikipediaRevolución FrancesaHéctor SocasMovimientos 37El PrincipitoChat GPTCloudDeep SeekDeepMindJuan CarlosAlpha GoMeta
Revolución Francesa en Google
Con
0:000:301:001:302:002:303:003:303:45
Héctor Socas explica por qué se critica a la inteligencia artificial por generar alucinaciones, argumentando que su función principal ya la cumplen otras herramientas como Google y Wikipedia.
…las empresas de desarrollo de modelos en reducirlo y ahora vamos a hablar un poco de qué se hace para reducir las alucinaciones, pero antes de empezar a comentar lo del paper que vamos a tratar yo primero quiero decir un par de cosas generales. ¿Por qué nos quejamos de que la inteligencia artificial alucine? Es que ese es el comportamiento inteligente, es decir, nosotros antes teníamos máquinas que eran muy buenas en darnos datos, o sea, tenemos conocimiento enciclopédico con todos los datos, veraces, factuales y tal, tenemos compilaciones de datos; teníamos antes enciclopedias en libros, ahora las tenemos en páginas web. Y desde que hubo la revolución de los buscadores, sobre todo en la de Google, tenemos un acceso muy directo a todos esos datos. Entonces, si yo quiero saber cuándo la revolución francesa, yo lo pongo en Google, me salga la Wikipedia o cualquier cosa y yo voy y miro el dato. Yo no quiero una inteligencia artificial para que me diga datos. Eso está en las enciclopedias. Como decía un amigo mío, bueno, un amigo mío, Carlos González, que hace tiempo que no viene, dice: “Eso está en los libros”. ¿Vale? Oye, Carlos, ¿cuándo das?. Eso está en los libros, no me preguntes por eso. Cuando yo quiero, o sea, cuando tenemos la…
Significado #1 · Palabras #2
Héctor Socas intenta recordar la fecha exacta del enfrentamiento entre Alpha Go y el campeón mundial de Go, corrigiendo su información inicial.
Habla: Héctor SocasSignificado #18alpha go contra campeón mundialmovimiento 37 inteligencia artificial googlelaboratorio deepmind de googlecreación alpha go…mucho más complejo que el ajedrez, en el cual por primera vez una máquina, en este caso el sistema de inteligencia artificial de Alpha Go, derrotó al mejor jugador humano y además haciéndolo de una forma; ese día en concreto, la serie duró varios días. ¿Cuándo fue? ¿El 11 de marzo? ¿Me recuerdan, Juan Carlos? ¿El 10 de marzo? ¿El 11 de marzo? O el 9 de marzo. Pero fue el 11. No, no, el día, el día, perdón. El 10 de marzo. La partida número 2, el 10 de marzo. Vale, pues ahí es donde se produjo ese famoso movimiento 37, que fue tan... del que se ha hablado tanto, porque ahí se demostró una gran creatividad por parte de la inteligencia artificial esta de Google, que de hecho los comentaristas inicialmente consideraron que era un error, que se había equivocado, hasta que luego se dieron cuenta de que no era un error, era una genialidad que no se conocía de antes. Así que hay una serie de actos que está haciendo Google, y esto ha abierto el laboratorio de DeepMind de Google; AlphaGo ha sido un primer paso evidentemente a otros muchos desarrollos. Aquí hemos hablado bastante de Alfa Folk, que llegó a ganar el premio Nobel de Química en 2024 y que hemos hablado como una de las grandes revoluciones en el campo de la bioquímica para entender mejor la estructura de las proteínas. Entonces hay una serie de…
Héctor Socas continúa discutiendo sobre las alucinaciones en modelos de lenguaje, ejemplificando con la invención de referencias bibliográficas y fechas incorrectas.
Habla: Héctor SocasSignificado #4 · Palabras #6modelo lenguaje invención referenciasrevolución francesa fecha incorrectaalucinaciones modelos lenguaje…que es como, que si es que agarra un poquito de acá, un poquito de acá, una mezcolanza que más o menos tiene sentido, y la lanzo de manera casi, no te digo aleatoria, porque tiene sentido, pero esto me suena un poquito, un poquito, no sé bien de lo que hablo Pues ese, bueno, eso es de lo que estamos hablando, ¿no? O sea, de una información que es falsa, yo que sé, cuando un modelo de lenguaje se inventa una referencia bibliográfica, por ejemplo, ¿no? Se inventa una fecha, le preguntas una fecha, ¿cuándo fue la Revolución Francesa? Y te dice, pues, 1826, no sé. En ese tipo de noticias, de cosas que vienen de la Wikipedia es difícil que se equivoque, pero si le preguntas cuándo nació Héctor Socas, pues lo mismo se lo inventa, dice, pues Héctor Socas tiene más o menos tantos años, pues le pongo una fecha aleatoria del…
Héctor Socas explica por qué se critica a la inteligencia artificial por generar alucinaciones, argumentando que su función principal ya la cumplen otras herramientas como Google y Wikipedia.
Habla: Héctor SocasSignificado #1 · Palabras #2google como acceso directo a datoswikipedia como conocimiento enciclopédicoalucinaciones de la inteligencia artificialrevolución francesa en google…las empresas de desarrollo de modelos en reducirlo y ahora vamos a hablar un poco de qué se hace para reducir las alucinaciones, pero antes de empezar a comentar lo del paper que vamos a tratar yo primero quiero decir un par de cosas generales. ¿Por qué nos quejamos de que la inteligencia artificial alucine? Es que ese es el comportamiento inteligente, es decir, nosotros antes teníamos máquinas que eran muy buenas en darnos datos, o sea, tenemos conocimiento enciclopédico con todos los datos, veraces, factuales y tal, tenemos compilaciones de datos; teníamos antes enciclopedias en libros, ahora las tenemos en páginas web. Y desde que hubo la revolución de los buscadores, sobre todo en la de Google, tenemos un acceso muy directo a todos esos datos. Entonces, si yo quiero saber cuándo la revolución francesa, yo lo pongo en Google, me salga la Wikipedia o cualquier cosa y yo voy y miro el dato. Yo no quiero una inteligencia artificial para que me diga datos. Eso está en las enciclopedias. Como decía un amigo mío, bueno, un amigo mío, Carlos González, que hace tiempo que no viene, dice: “Eso está en los libros”. ¿Vale? Oye, Carlos, ¿cuándo das?. Eso está en los libros, no me preguntes por eso. Cuando yo quiero, o sea, cuando tenemos la…
Héctor Socas explica la diferencia entre conocimiento enciclopédico y datos, comparando la situación con una escena del libro 'El Principito' para ilustrar lo absurdo de usar modelos de lenguaje como sustitutos de buscadores como Google.
Habla: Héctor SocasSignificado #3 · Palabras #3el principito y el reymodelos lenguaje como googlechat gpt sustituto de googlecloud deep seek modelos lenguaje…presiono. Digo: no, no, Francis, te voy a presionar. Dime una referencia bibliográfica. Pues Francis me dirá: yo qué sé, Nature Communication, número 540, página 1223, ¿vale? Y luego yo voy, miro y esa referencia es incorrecta y me quejo, digo: qué tío más. Entonces, bueno, hay que distinguir lo que es conocimiento enciclopédico de datos de lo que es inteligencia. Entonces, yo creo que lo que es absurdo, esto es como en el Principito, si yo no recuerdo mal, había una parte en la que le decía, o sea, decía que cuando el rey le pide al general que se convierta en gaviota y el general no le obedece, la culpa no es del general, la culpa es del rey, que le ha pedido algo que no puede cumplir el general. Entonces, lo que es absurdo es que nosotros tengamos algo tan alucinante como un gran modelo de lenguaje, llámese un Cloud, un Deep Seek, un Chat GPT, y le preguntemos la fecha de la revolución francesa. Es que lo estamos usando como Google, o mucha gente lo está usando como un sustituto de Google, y eso es absurdo; no es un sustituto de Google. en Google y vas a una fuente enciclopédica. Entonces, lo que se está viendo es que existe una tensión fundamental entre creatividad y precisión de las respuestas. Es normal. Si yo estoy desarrollando una máquina cuya capacidad es de inventar cosas, pues que…
Héctor Socas discute sobre la tokenización de texto en modelos de lenguaje, mencionando ejemplos de empresas como Google y Meta.
Habla: Héctor SocasSignificado #19tokenización de texto googleconjunto público de tokens metaespacio vectorial de tokens…fundamentos, no sé cómo se dice eso en lingüística, pero... ¿o NEMAS? No, es que no son fonemas. Puede haber a lo mejor la raíz de una palabra y luego los diferentes sufijos o prefijos son diferentes tokens, etc. Y no hay una forma única; hay muchas formas de Tokenizar, cada empresa tiene la suya; hay algunas que son públicas. La de Google creo que es pública; creo que Meta tiene también un conjunto público de tokens también, pero que luego eso se convierta en números que estén, con eso que yo digo, que palabras relacionadas estén cerca en ese espacio y otras menos relacionadas más lejos. Bueno. No sé; eso es complicadísimo. Porque es un espacio de dimensión muy grande, ¿no? Sí, no sé tampoco qué dimensión tiene, supongo que también será arbitrario dependiendo de, cada uno tendrá su propia dimensión. Lo llaman base de datos vectorial, creo recordar, para ver el rango de esos…
Héctor Socas explica que los modelos de lenguaje no deben reemplazar herramientas de búsqueda como Google o Wikipedia para obtener información factual.
Habla: Héctor SocasSignificado #2 · Palabras #1google wikipedia para información factualmodelos lenguaje no sustituyen googlerevolución francesa en wikipedia…a mí me funciona bastante bien, la verdad; le digo que cuando me dé una explicación, luego mañana al final, de qué está seguro y de qué tiene dudas, y eso me parece útil. Pero bueno, en general la recomendación siempre es no usen esto como fuente de datos. O sea, un gran modelo de lenguaje no es para sustituir a Google ni a la Wikipedia. Si quieren saber en qué año fue la Revolución Francesa, búsquenlo en la Wikipedia, busquen en Google los datos que necesiten y el gran modelo de lenguaje, pónganlo, yo qué sé, a hacer poesía. Y Movimientos 37. Y Movimientos 37, exactamente. A cosas que estén más relacionadas con la inteligencia que con el conocimiento enciclopédico. Tu modelo de lenguaje trivial que responde siempre no lo sé, un bucle infinito C out no lo sé, se codifica en una línea; me ha…