Búsqueda · 22 momentos en 14 episodios
Juan Carlos GilSilvana TapiaLuisa AchaerandioGastón GiribetFrancis VillatoroHéctor SocasIgnacio Crespogoogle wikipedia para información factualmodelos lenguaje no sustituyen googlerevolución francesa en wikipediaGoogleWikipediaRevolución FrancesaMovimientos 37Héctor Socasteoría de los cinturones de ClarkPlaneta 9ColoradoChatGPTEl PrincipitoChat GPTCloudDeep SeekGastón GiribetJosé Edelsteinteoría de Liubirteoría de LovelockJuan Carlos Gil
Revolución Francesa en Wikipedia
Ep549: Agujeros Negros; IAlucinaciones; Engranajes; Materia Oscura; Doom Neuronal
12 de marzo de 20266 momentos
Con
0:000:301:001:302:002:303:003:303:45
Héctor Socas explica que los modelos de lenguaje no deben reemplazar herramientas de búsqueda como Google o Wikipedia para obtener información factual.
…a mí me funciona bastante bien, la verdad; le digo que cuando me dé una explicación, luego mañana al final, de qué está seguro y de qué tiene dudas, y eso me parece útil. Pero bueno, en general la recomendación siempre es no usen esto como fuente de datos. O sea, un gran modelo de lenguaje no es para sustituir a Google ni a la Wikipedia. Si quieren saber en qué año fue la Revolución Francesa, búsquenlo en la Wikipedia, busquen en Google los datos que necesiten y el gran modelo de lenguaje, pónganlo, yo qué sé, a hacer poesía. Y Movimientos 37. Y Movimientos 37, exactamente. A cosas que estén más relacionadas con la inteligencia que con el conocimiento enciclopédico. Tu modelo de lenguaje trivial que responde siempre no lo sé, un bucle infinito C out no lo sé, se codifica en una línea; me ha…
Significado #1 · Palabras #1
Héctor Socas continúa discutiendo sobre las alucinaciones en modelos de lenguaje, ejemplificando con la invención de referencias bibliográficas y fechas incorrectas.
Habla: Héctor SocasSignificado #3 · Palabras #5modelo lenguaje invención referenciasrevolución francesa fecha incorrectaalucinaciones modelos lenguaje…que es como, que si es que agarra un poquito de acá, un poquito de acá, una mezcolanza que más o menos tiene sentido, y la lanzo de manera casi, no te digo aleatoria, porque tiene sentido, pero esto me suena un poquito, un poquito, no sé bien de lo que hablo Pues ese, bueno, eso es de lo que estamos hablando, ¿no? O sea, de una información que es falsa, yo que sé, cuando un modelo de lenguaje se inventa una referencia bibliográfica, por ejemplo, ¿no? Se inventa una fecha, le preguntas una fecha, ¿cuándo fue la Revolución Francesa? Y te dice, pues, 1826, no sé. En ese tipo de noticias, de cosas que vienen de la Wikipedia es difícil que se equivoque, pero si le preguntas cuándo nació Héctor Socas, pues lo mismo se lo inventa, dice, pues Héctor Socas tiene más o menos tantos años, pues le pongo una fecha aleatoria del…
Héctor Socas explica por qué se critica a la inteligencia artificial por generar alucinaciones, argumentando que su función principal ya la cumplen otras herramientas como Google y Wikipedia.
Habla: Héctor SocasSignificado #6 · Palabras #2google como acceso directo a datoswikipedia como conocimiento enciclopédicoalucinaciones de la inteligencia artificialrevolución francesa en google…las empresas de desarrollo de modelos en reducirlo y ahora vamos a hablar un poco de qué se hace para reducir las alucinaciones, pero antes de empezar a comentar lo del paper que vamos a tratar yo primero quiero decir un par de cosas generales. ¿Por qué nos quejamos de que la inteligencia artificial alucine? Es que ese es el comportamiento inteligente, es decir, nosotros antes teníamos máquinas que eran muy buenas en darnos datos, o sea, tenemos conocimiento enciclopédico con todos los datos, veraces, factuales y tal, tenemos compilaciones de datos; teníamos antes enciclopedias en libros, ahora las tenemos en páginas web. Y desde que hubo la revolución de los buscadores, sobre todo en la de Google, tenemos un acceso muy directo a todos esos datos. Entonces, si yo quiero saber cuándo la revolución francesa, yo lo pongo en Google, me salga la Wikipedia o cualquier cosa y yo voy y miro el dato. Yo no quiero una inteligencia artificial para que me diga datos. Eso está en las enciclopedias. Como decía un amigo mío, bueno, un amigo mío, Carlos González, que hace tiempo que no viene, dice: “Eso está en los libros”. ¿Vale? Oye, Carlos, ¿cuándo das?. Eso está en los libros, no me preguntes por eso. Cuando yo quiero, o sea, cuando tenemos la…
Héctor Socas explica la diferencia entre conocimiento enciclopédico y datos, comparando la situación con una escena del libro 'El Principito' para ilustrar lo absurdo de usar modelos de lenguaje como sustitutos de buscadores como Google.
Habla: Héctor SocasSignificado #15 · Palabras #10el principito y el reymodelos lenguaje como googlechat gpt sustituto de googlecloud deep seek modelos lenguaje…presiono. Digo: no, no, Francis, te voy a presionar. Dime una referencia bibliográfica. Pues Francis me dirá: yo qué sé, Nature Communication, número 540, página 1223, ¿vale? Y luego yo voy, miro y esa referencia es incorrecta y me quejo, digo: qué tío más. Entonces, bueno, hay que distinguir lo que es conocimiento enciclopédico de datos de lo que es inteligencia. Entonces, yo creo que lo que es absurdo, esto es como en el Principito, si yo no recuerdo mal, había una parte en la que le decía, o sea, decía que cuando el rey le pide al general que se convierta en gaviota y el general no le obedece, la culpa no es del general, la culpa es del rey, que le ha pedido algo que no puede cumplir el general. Entonces, lo que es absurdo es que nosotros tengamos algo tan alucinante como un gran modelo de lenguaje, llámese un Cloud, un Deep Seek, un Chat GPT, y le preguntemos la fecha de la revolución francesa. Es que lo estamos usando como Google, o mucha gente lo está usando como un sustituto de Google, y eso es absurdo; no es un sustituto de Google. en Google y vas a una fuente enciclopédica. Entonces, lo que se está viendo es que existe una tensión fundamental entre creatividad y precisión de las respuestas. Es normal. Si yo estoy desarrollando una máquina cuya capacidad es de inventar cosas, pues que…
Héctor Socas explica que los modelos de lenguaje no deben reemplazar herramientas de búsqueda como Google o Wikipedia para obtener información factual.
Habla: Héctor SocasSignificado #1 · Palabras #1google wikipedia para información factualmodelos lenguaje no sustituyen googlerevolución francesa en wikipedia…a mí me funciona bastante bien, la verdad; le digo que cuando me dé una explicación, luego mañana al final, de qué está seguro y de qué tiene dudas, y eso me parece útil. Pero bueno, en general la recomendación siempre es no usen esto como fuente de datos. O sea, un gran modelo de lenguaje no es para sustituir a Google ni a la Wikipedia. Si quieren saber en qué año fue la Revolución Francesa, búsquenlo en la Wikipedia, busquen en Google los datos que necesiten y el gran modelo de lenguaje, pónganlo, yo qué sé, a hacer poesía. Y Movimientos 37. Y Movimientos 37, exactamente. A cosas que estén más relacionadas con la inteligencia que con el conocimiento enciclopédico. Tu modelo de lenguaje trivial que responde siempre no lo sé, un bucle infinito C out no lo sé, se codifica en una línea; me ha…
Héctor Socas explica una posible razón por la cual ChatGPT le atribuyó información falsa sobre su tesis doctoral: podría ser que haya sido citado en Wikipedia y tenga entradas vinculadas.
Habla: Luisa AchaerandioSignificado #8 · Palabras #6chatgpt atribuye tesis a héctor socasreferencias falsas de wikipedia a chatgptwikipedia y teoría cinturones clarkplaneta 9 citado en wikipediahector socas mencionado en wikipedialibro como base wikipedia gastón giribetprofesores universidad arman página wikipediawikipedia para gastón giribetpágina de wikipedia por oyentestirar el guante a los oyentesartículos de física en wikipediateoría de liubir en wikipediateoría de lovelock en wikipedia…Todo el título, la fecha, los directores y una breve explicación, vamos; que si quiero que me dé los errores también, dice: Si quieres te lo mejora, ¿no? ¿Es que te ayude a pulir el inglés? Este documento es muy grande, ¿quieres un resumen? Ostras, espérate, es mejor todavía porque, o sea, les dije que había buscado en internet ¿no? Entonces te pone la referencia y no lo ha encontrado, pincho, o sea, miro la referencia y me pone que es de la Wikipedia ¿cómo que es de la Wikipedia? Si yo no estoy en la Wikipedia, entonces pincho y me sale una página que dice Héctor Socas Navarro y pone Wikipedia todavía no tiene una página llamada Héctor Socas Navarro, consulta la lista de artículos, no sé qué, tal, tal, tal, no entiendo nada. Porque a lo mejor alguien te ha citado en algún momento en Wikipedia, puede ser, y tienes una página enlazada donde pones tu nombre o un artículo tuyo y apareces en Wikipedia pero no como con una página, sino como… Hombre, tu teoría de los cinturones de Clark sí está en la Wikipedia. Sí, yo estoy mencionado un par de veces, también con lo del Planeta 9 estoy citado. Entonces seguro que ahí tienen el enlace, cuando ponen tu nombre, el enlace para que algún editor de Wikipedia lo rellene cuando pueda. Estás en Colorado, estás en rojo, no estás en… El podcast sí está en la Wikipedia. Otra manera de tenerlo. Está pasando lo que entró. Empezamos a diferentes versiones de las enciclopedias. Algo raro. Solo te falta tu libro. Cuando tengas tu libro, algún editor de Wikipedia te va a poner la página de Wikipedia para que aparezca ahí tu libro y tienes ahí como el apoyo firme, el pie bien asentado en el suelo de tener un libro. Yo no tengo página de Wikipedia acá, nos sugirieron a todos los profesores que armemos una y muchos lo armaron, pero a mí me da vergüenza. Nunca hice el día que haga algo importante lo voy a hacer, pero por ahora falta mucho. Bueno, pero tienes ya varios libros. Tienes que hacerlo otra persona por ti, Gastón, y así eso te resuelve también el problema, pero Wikipedia requiere que no sea el... No yo ni siquiera intenté. Que recuerden los oyentes que les estamos tirando el guante ¿vale? O sea, que entre nuestros oyentes esto hay que resolverlo, ¿vale? Algún argentino tiene que hacer la de Gastón y la de José, y algún canario tiene que hacer la de Héctor. Yo soy editor, algún pequeño de Luisa y Silvana, y... Yo sí escribí artículos. Voy a tener que empezar. Escribí artículos para Wikipedia, para… Algunos sobre física, algunos de la teoría de Liubir, algunos sobre la teoría de Lovelock y cosas así. Hace mucho tiempo, cuando no tenía nada que hacer, escribía para Wikipedia. Está bueno que contribuiera eso. Déjenme retomar un poco mi perplejidad. Les explico, o sea, la situación ha sido la siguiente: Me ha dado toda esa información sobre mi tesis doctoral. Le pedí el título, me dio la fecha, los directores, un resumen de la tesis, todo. Cuando, digo, bueno,…
Héctor Socas y Juan Carlos Gil discuten una situación peculiar con ChatGPT: el modelo proporcionó información sobre la tesis doctoral de Héctor, pero las referencias que ofreció eran enlaces a páginas de Wikipedia vacías o inexistentes.
Habla: Héctor SocasSignificado #17chatgpt y referencias inexistentestesis doctoral de héctor socaswikipedia vacía sin información…la siguiente: Me ha dado toda esa información sobre mi tesis doctoral. Le pedí el título, me dio la fecha, los directores, un resumen de la tesis, todo. Cuando, digo, bueno, claro, lo ha visto en internet. Pero es que cuando le pincho en el enlace me manda. Una página Que es una página de Wikipedia vacía, donde no está nada de esa información. Sí, Héctor, pero es que se equivoca con las referencias. Muchas veces te da buena información, pero luego las referencias no existen. No la tiene guardada el enlace, sí, es curioso. Vale, dices que a lo mejor encontró en internet la información, pero no en esta referencia, sino en otro sitio. Efectivamente. Pero ha perdido el hilo de dónde lo encontró. Sin embargo, a chat GPT 5.3 le he dicho, puedes buscar en internet y en unos segundos me ha dicho, la he encontrado en Dialnet y me la ha puesto O sea que si le forzas, busca en internet Claro, si busca en internet, evidentemente esa es la forma de resolver…