Búsqueda · 32 momentos en 19 episodios
Juan Carlos GilSilvana TapiaLuisa AchaerandioGastón GiribetFrancis VillatoroHéctor SocasIgnacio Crespocreatividad y precisión en modelos lenguajemáquinas inventando cosas googletensión inherente creatividad precisiónGoogleHéctor SocasWikipediaRevolución FrancesaMovimientos 37
Máquinas inventando cosas Google
Con
0:000:301:001:302:002:303:003:303:45
Héctor Socas explica la tensión inherente entre creatividad y precisión en los modelos de lenguaje, argumentando que es natural que estos generen información incorrecta si se les pide ser creativos.
…de lenguaje, llámese un Cloud, un Deep Seek, un Chat GPT, y le preguntemos la fecha de la revolución francesa. Es que lo estamos usando como Google, o mucha gente lo está usando como un sustituto de Google, y eso es absurdo; no es un sustituto de Google. en Google y vas a una fuente enciclopédica. Entonces, lo que se está viendo es que existe una tensión fundamental entre creatividad y precisión de las respuestas. Es normal. Si yo estoy desarrollando una máquina cuya capacidad es de inventar cosas, pues que no me queje luego si algunas de las respuestas tienen cosas inventadas, porque eso es lo que le estoy pidiendo, que tenga esa creatividad. Y entre los mismos humanos pues también ya digo que a veces uno está muy convencido de recordar algo, yo estoy seguro de que ayer yo puse las gafas en este estuche y resulta que cuando voy a mirar las gafas no están en el estuche, yo estoy segurísimo, eso nos…
Significado #1 · Palabras #1
Héctor Socas explica por qué se critica a la inteligencia artificial por generar alucinaciones, argumentando que su función principal ya la cumplen otras herramientas como Google y Wikipedia.
Habla: Héctor SocasPalabras #4google como acceso directo a datoswikipedia como conocimiento enciclopédicoalucinaciones de la inteligencia artificialrevolución francesa en google…las empresas de desarrollo de modelos en reducirlo y ahora vamos a hablar un poco de qué se hace para reducir las alucinaciones, pero antes de empezar a comentar lo del paper que vamos a tratar yo primero quiero decir un par de cosas generales. ¿Por qué nos quejamos de que la inteligencia artificial alucine? Es que ese es el comportamiento inteligente, es decir, nosotros antes teníamos máquinas que eran muy buenas en darnos datos, o sea, tenemos conocimiento enciclopédico con todos los datos, veraces, factuales y tal, tenemos compilaciones de datos; teníamos antes enciclopedias en libros, ahora las tenemos en páginas web. Y desde que hubo la revolución de los buscadores, sobre todo en la de Google, tenemos un acceso muy directo a todos esos datos. Entonces, si yo quiero saber cuándo la revolución francesa, yo lo pongo en Google, me salga la Wikipedia o cualquier cosa y yo voy y miro el dato. Yo no quiero una inteligencia artificial para que me diga datos. Eso está en las enciclopedias. Como decía un amigo mío, bueno, un amigo mío, Carlos González, que hace tiempo que no viene, dice: “Eso está en los libros”. ¿Vale? Oye, Carlos, ¿cuándo das?. Eso está en los libros, no me preguntes por eso. Cuando yo quiero, o sea, cuando tenemos la…
Héctor Socas explica la tensión inherente entre creatividad y precisión en los modelos de lenguaje, argumentando que es natural que estos generen información incorrecta si se les pide ser creativos.
Habla: Héctor SocasSignificado #1 · Palabras #1creatividad y precisión en modelos lenguajemáquinas inventando cosas googletensión inherente creatividad precisión…de lenguaje, llámese un Cloud, un Deep Seek, un Chat GPT, y le preguntemos la fecha de la revolución francesa. Es que lo estamos usando como Google, o mucha gente lo está usando como un sustituto de Google, y eso es absurdo; no es un sustituto de Google. en Google y vas a una fuente enciclopédica. Entonces, lo que se está viendo es que existe una tensión fundamental entre creatividad y precisión de las respuestas. Es normal. Si yo estoy desarrollando una máquina cuya capacidad es de inventar cosas, pues que no me queje luego si algunas de las respuestas tienen cosas inventadas, porque eso es lo que le estoy pidiendo, que tenga esa creatividad. Y entre los mismos humanos pues también ya digo que a veces uno está muy convencido de recordar algo, yo estoy seguro de que ayer yo puse las gafas en este estuche y resulta que cuando voy a mirar las gafas no están en el estuche, yo estoy segurísimo, eso nos…
Héctor Socas explica que los modelos de lenguaje no deben reemplazar herramientas de búsqueda como Google o Wikipedia para obtener información factual.
Habla: Héctor SocasSignificado #15google wikipedia para información factualmodelos lenguaje no sustituyen googlerevolución francesa en wikipedia…a mí me funciona bastante bien, la verdad; le digo que cuando me dé una explicación, luego mañana al final, de qué está seguro y de qué tiene dudas, y eso me parece útil. Pero bueno, en general la recomendación siempre es no usen esto como fuente de datos. O sea, un gran modelo de lenguaje no es para sustituir a Google ni a la Wikipedia. Si quieren saber en qué año fue la Revolución Francesa, búsquenlo en la Wikipedia, busquen en Google los datos que necesiten y el gran modelo de lenguaje, pónganlo, yo qué sé, a hacer poesía. Y Movimientos 37. Y Movimientos 37, exactamente. A cosas que estén más relacionadas con la inteligencia que con el conocimiento enciclopédico. Tu modelo de lenguaje trivial que responde siempre no lo sé, un bucle infinito C out no lo sé, se codifica en una línea; me ha…