Búsqueda · 32 momentos en 16 episodios
Juan Carlos GilSilvana TapiaLuisa AchaerandioGastón GiribetFrancis VillatoroHéctor SocasIgnacio Crespogoogle wikipedia para información factualmodelos lenguaje no sustituyen googlerevolución francesa en wikipediaGoogleWikipediaRevolución FrancesaMovimientos 37Héctor SocasEl PrincipitoChat GPTCloudDeep SeekMeta
Inteligencia Artificial Google lenguaje
Con
0:000:301:001:302:002:303:003:303:45
Héctor Socas explica que los modelos de lenguaje no deben reemplazar herramientas de búsqueda como Google o Wikipedia para obtener información factual.
…a mí me funciona bastante bien, la verdad; le digo que cuando me dé una explicación, luego mañana al final, de qué está seguro y de qué tiene dudas, y eso me parece útil. Pero bueno, en general la recomendación siempre es no usen esto como fuente de datos. O sea, un gran modelo de lenguaje no es para sustituir a Google ni a la Wikipedia. Si quieren saber en qué año fue la Revolución Francesa, búsquenlo en la Wikipedia, busquen en Google los datos que necesiten y el gran modelo de lenguaje, pónganlo, yo qué sé, a hacer poesía. Y Movimientos 37. Y Movimientos 37, exactamente. A cosas que estén más relacionadas con la inteligencia que con el conocimiento enciclopédico. Tu modelo de lenguaje trivial que responde siempre no lo sé, un bucle infinito C out no lo sé, se codifica en una línea; me ha…
Significado #1 · Palabras #14
Héctor Socas introduce una crítica general a la forma en que se perciben las 'alucinaciones' en los modelos de lenguaje de inteligencia artificial.
Habla: Héctor SocasPalabras #13alucinaciones en modelos lenguajeinteligencia artificial y la industriaamenaza alucinaciones inteligencia artificialindustria siglo xxialucinaciones en modelos de lenguajemodelos de lenguaje generan datos incorrectosinteligencia artificial y plausibilidad…cimientos del país. Fernando Arrabal, dice José Edelstein en el chat. ¿Cómo que José? ¿Está José Edelstein en el chat? Está ahí en el chat, sí, sí. ¿Pero qué hace José Edelstein en el chat? O alguien que le ha clonado muy bien el nombre y tal. Bueno, venga. vamos, decía yo que íbamos a hablar de las alucinaciones en los grandes modelos de lenguaje que parece que es el gran problema hoy en día en la inteligencia artificial y lo que tiene en vilo a toda esta gran industria que puede ser la gran industria del siglo XXI y está todo ahí un poco cogido con pinzas porque está la sombra de la amenaza de las alucinaciones que puede hacer que todo el castillo se caiga abajo, ¿no? Entonces, a ver, yo quizás me gustaría empezar antes de hablar del paper Que vamos a comentar, haciendo una observación que no sé si es una obviedad o una provocación, según para quién, pero yo creo que estamos criticando en general socialmente a los modelos de lenguaje por hacer exactamente lo que tienen que hacer. Cuando hablamos de alucinaciones en inteligencia artificial, estamos hablando de esos momentos en los que un modelo genera algo que suena plausible, que suena como algo que podría pasar, pero que no es verdadero, que no ha ocurrido realmente o que no es un dato correcto. O sea, No es como la alucinación en el sentido de neurociencia de que ves algo totalmente fuera de la realidad: ves un dragón rosado en tu casa. Es el concepto de alucinación digamos coloquial, pero aquí en esta jerga técnica se habla de lo que Ignacio Crespo nos…
Héctor Socas explica por qué se critica a la inteligencia artificial por generar alucinaciones, argumentando que su función principal ya la cumplen otras herramientas como Google y Wikipedia.
Habla: Héctor SocasPalabras #2google como acceso directo a datoswikipedia como conocimiento enciclopédicoalucinaciones de la inteligencia artificialrevolución francesa en google…las empresas de desarrollo de modelos en reducirlo y ahora vamos a hablar un poco de qué se hace para reducir las alucinaciones, pero antes de empezar a comentar lo del paper que vamos a tratar yo primero quiero decir un par de cosas generales. ¿Por qué nos quejamos de que la inteligencia artificial alucine? Es que ese es el comportamiento inteligente, es decir, nosotros antes teníamos máquinas que eran muy buenas en darnos datos, o sea, tenemos conocimiento enciclopédico con todos los datos, veraces, factuales y tal, tenemos compilaciones de datos; teníamos antes enciclopedias en libros, ahora las tenemos en páginas web. Y desde que hubo la revolución de los buscadores, sobre todo en la de Google, tenemos un acceso muy directo a todos esos datos. Entonces, si yo quiero saber cuándo la revolución francesa, yo lo pongo en Google, me salga la Wikipedia o cualquier cosa y yo voy y miro el dato. Yo no quiero una inteligencia artificial para que me diga datos. Eso está en las enciclopedias. Como decía un amigo mío, bueno, un amigo mío, Carlos González, que hace tiempo que no viene, dice: “Eso está en los libros”. ¿Vale? Oye, Carlos, ¿cuándo das?. Eso está en los libros, no me preguntes por eso. Cuando yo quiero, o sea, cuando tenemos la…
Héctor Socas explica la diferencia entre conocimiento enciclopédico y datos, comparando la situación con una escena del libro 'El Principito' para ilustrar lo absurdo de usar modelos de lenguaje como sustitutos de buscadores como Google.
Habla: Héctor SocasSignificado #4 · Palabras #11el principito y el reymodelos lenguaje como googlechat gpt sustituto de googlecloud deep seek modelos lenguaje…presiono. Digo: no, no, Francis, te voy a presionar. Dime una referencia bibliográfica. Pues Francis me dirá: yo qué sé, Nature Communication, número 540, página 1223, ¿vale? Y luego yo voy, miro y esa referencia es incorrecta y me quejo, digo: qué tío más. Entonces, bueno, hay que distinguir lo que es conocimiento enciclopédico de datos de lo que es inteligencia. Entonces, yo creo que lo que es absurdo, esto es como en el Principito, si yo no recuerdo mal, había una parte en la que le decía, o sea, decía que cuando el rey le pide al general que se convierta en gaviota y el general no le obedece, la culpa no es del general, la culpa es del rey, que le ha pedido algo que no puede cumplir el general. Entonces, lo que es absurdo es que nosotros tengamos algo tan alucinante como un gran modelo de lenguaje, llámese un Cloud, un Deep Seek, un Chat GPT, y le preguntemos la fecha de la revolución francesa. Es que lo estamos usando como Google, o mucha gente lo está usando como un sustituto de Google, y eso es absurdo; no es un sustituto de Google. en Google y vas a una fuente enciclopédica. Entonces, lo que se está viendo es que existe una tensión fundamental entre creatividad y precisión de las respuestas. Es normal. Si yo estoy desarrollando una máquina cuya capacidad es de inventar cosas, pues que…
Héctor Socas discute sobre la tokenización de texto en modelos de lenguaje, mencionando ejemplos de empresas como Google y Meta.
Habla: Héctor SocasSignificado #11tokenización de texto googleconjunto público de tokens metaespacio vectorial de tokens…fundamentos, no sé cómo se dice eso en lingüística, pero... ¿o NEMAS? No, es que no son fonemas. Puede haber a lo mejor la raíz de una palabra y luego los diferentes sufijos o prefijos son diferentes tokens, etc. Y no hay una forma única; hay muchas formas de Tokenizar, cada empresa tiene la suya; hay algunas que son públicas. La de Google creo que es pública; creo que Meta tiene también un conjunto público de tokens también, pero que luego eso se convierta en números que estén, con eso que yo digo, que palabras relacionadas estén cerca en ese espacio y otras menos relacionadas más lejos. Bueno. No sé; eso es complicadísimo. Porque es un espacio de dimensión muy grande, ¿no? Sí, no sé tampoco qué dimensión tiene, supongo que también será arbitrario dependiendo de, cada uno tendrá su propia dimensión. Lo llaman base de datos vectorial, creo recordar, para ver el rango de esos…
Héctor Socas explica que los modelos de lenguaje no deben reemplazar herramientas de búsqueda como Google o Wikipedia para obtener información factual.
Habla: Héctor SocasSignificado #1 · Palabras #14google wikipedia para información factualmodelos lenguaje no sustituyen googlerevolución francesa en wikipedia…a mí me funciona bastante bien, la verdad; le digo que cuando me dé una explicación, luego mañana al final, de qué está seguro y de qué tiene dudas, y eso me parece útil. Pero bueno, en general la recomendación siempre es no usen esto como fuente de datos. O sea, un gran modelo de lenguaje no es para sustituir a Google ni a la Wikipedia. Si quieren saber en qué año fue la Revolución Francesa, búsquenlo en la Wikipedia, busquen en Google los datos que necesiten y el gran modelo de lenguaje, pónganlo, yo qué sé, a hacer poesía. Y Movimientos 37. Y Movimientos 37, exactamente. A cosas que estén más relacionadas con la inteligencia que con el conocimiento enciclopédico. Tu modelo de lenguaje trivial que responde siempre no lo sé, un bucle infinito C out no lo sé, se codifica en una línea; me ha…