Búsqueda · 23 momentos en 15 episodios
Juan Carlos GilSilvana TapiaLuisa AchaerandioGastón GiribetFrancis VillatoroHéctor SocasIgnacio Crespogoogle wikipedia para información factualmodelos lenguaje no sustituyen googlerevolución francesa en wikipediaGoogleWikipediaRevolución FrancesaMovimientos 37Héctor SocasGastón GiribetJuan Carlos GilChatGPTteoría de los cinturones de ClarkPlaneta 9ColoradoFrancis VillatoroJosé Edelsteinteoría de Liubirteoría de LovelockCoffee Break
Google Wikipedia para información factual
Ep549: Agujeros Negros; IAlucinaciones; Engranajes; Materia Oscura; Doom Neuronal
12 de marzo de 20266 momentos
Con
0:000:301:001:302:002:303:003:303:45
Héctor Socas explica que los modelos de lenguaje no deben reemplazar herramientas de búsqueda como Google o Wikipedia para obtener información factual.
…a mí me funciona bastante bien, la verdad; le digo que cuando me dé una explicación, luego mañana al final, de qué está seguro y de qué tiene dudas, y eso me parece útil. Pero bueno, en general la recomendación siempre es no usen esto como fuente de datos. O sea, un gran modelo de lenguaje no es para sustituir a Google ni a la Wikipedia. Si quieren saber en qué año fue la Revolución Francesa, búsquenlo en la Wikipedia, busquen en Google los datos que necesiten y el gran modelo de lenguaje, pónganlo, yo qué sé, a hacer poesía. Y Movimientos 37. Y Movimientos 37, exactamente. A cosas que estén más relacionadas con la inteligencia que con el conocimiento enciclopédico. Tu modelo de lenguaje trivial que responde siempre no lo sé, un bucle infinito C out no lo sé, se codifica en una línea; me ha…
Significado #1 · Palabras #1
Francis Villatoro reflexiona sobre la falta de reconocimiento de desconocimiento en fuentes de información como libros, páginas de Wikipedia o podcasts, contrastando con la práctica de Gastón Giribet de admitir lo que no sabe.
Habla: Francis VillatoroPalabras #11alucinaciones en modelos de lenguajefechas incorrectas extraídas wikipediaventana de contexto y alucinacionesmodelos sin entrenamiento para decir nogastón giribet y reconocimiento desconocimientowikipedia sin admisión desconocimientopodcast falta reconocimiento no se…justamente una de las cosas en las que han mejorado mucho es que se han reducido muchísimo las alucinaciones, siguen estando ahí, pero ahora es mucho menos frecuente que ocurran cosas de esas, pero los primeros esos con los que jugábamos, que eran casi de juguete, sí que incluso fechas de Wikipedia te las podía decir mal. pero es verdad que tienes razón, Francis, cuando le preguntabas algo que no estaba en su conjunto de entrenamientos cuando era más probable y sigue siendo más probable toparte con una alucinación, ¿no? Entonces, bueno. Eso antes era más probable pero el tema de la ventana de contexto, cuando estabas ocupando gran parte de la ventana de contexto empezaba a haber una mayor probabilidad de que las probabilidades no describieran bien la distribución de términos adecuados y aparecían esas alucinaciones, ¿no? Hoy en día que las ventanas de contexto son enormes, pues cuesta mucho trabajo llegar a esa región Pero que pocas veces dicen los modelos no sé, ¿verdad? Claro, pero no han sido entrenados para eso, o sea, Cuando tú lees la literatura en la que no aparece el no sé, Gastón no está constantemente rellenando su libro de las cosas que no se saben. Y no sé por qué pasa tal cosa, no lo sé; dice, usa palabras como hay especulaciones, hay hipótesis o sea, usa otro tipo de palabras pero nunca reconoce, no es habitual en un libro, en una página de Wikipedia, en un blog, en un podcast, que digamos no sé. De eso que acaba de decir Juan Carlos es justamente de lo que vamos a hablar, del decir no sé y bueno, tiene que ver con todo esto. El desarrollo y también parte de la razón por la que alucina menos es porque esto ha sido un problema que ha despertado tanta…
Héctor Socas explica por qué se critica a la inteligencia artificial por generar alucinaciones, argumentando que su función principal ya la cumplen otras herramientas como Google y Wikipedia.
Habla: Héctor SocasSignificado #3 · Palabras #2google como acceso directo a datoswikipedia como conocimiento enciclopédicoalucinaciones de la inteligencia artificialrevolución francesa en google…las empresas de desarrollo de modelos en reducirlo y ahora vamos a hablar un poco de qué se hace para reducir las alucinaciones, pero antes de empezar a comentar lo del paper que vamos a tratar yo primero quiero decir un par de cosas generales. ¿Por qué nos quejamos de que la inteligencia artificial alucine? Es que ese es el comportamiento inteligente, es decir, nosotros antes teníamos máquinas que eran muy buenas en darnos datos, o sea, tenemos conocimiento enciclopédico con todos los datos, veraces, factuales y tal, tenemos compilaciones de datos; teníamos antes enciclopedias en libros, ahora las tenemos en páginas web. Y desde que hubo la revolución de los buscadores, sobre todo en la de Google, tenemos un acceso muy directo a todos esos datos. Entonces, si yo quiero saber cuándo la revolución francesa, yo lo pongo en Google, me salga la Wikipedia o cualquier cosa y yo voy y miro el dato. Yo no quiero una inteligencia artificial para que me diga datos. Eso está en las enciclopedias. Como decía un amigo mío, bueno, un amigo mío, Carlos González, que hace tiempo que no viene, dice: “Eso está en los libros”. ¿Vale? Oye, Carlos, ¿cuándo das?. Eso está en los libros, no me preguntes por eso. Cuando yo quiero, o sea, cuando tenemos la…
Héctor Socas explica que los modelos de lenguaje no deben reemplazar herramientas de búsqueda como Google o Wikipedia para obtener información factual.
Habla: Héctor SocasSignificado #1 · Palabras #1google wikipedia para información factualmodelos lenguaje no sustituyen googlerevolución francesa en wikipedia…a mí me funciona bastante bien, la verdad; le digo que cuando me dé una explicación, luego mañana al final, de qué está seguro y de qué tiene dudas, y eso me parece útil. Pero bueno, en general la recomendación siempre es no usen esto como fuente de datos. O sea, un gran modelo de lenguaje no es para sustituir a Google ni a la Wikipedia. Si quieren saber en qué año fue la Revolución Francesa, búsquenlo en la Wikipedia, busquen en Google los datos que necesiten y el gran modelo de lenguaje, pónganlo, yo qué sé, a hacer poesía. Y Movimientos 37. Y Movimientos 37, exactamente. A cosas que estén más relacionadas con la inteligencia que con el conocimiento enciclopédico. Tu modelo de lenguaje trivial que responde siempre no lo sé, un bucle infinito C out no lo sé, se codifica en una línea; me ha…
Héctor Socas explica una posible solución para reducir las 'alucinaciones' en modelos de inteligencia artificial, comparándola con la necesidad de verificar cada afirmación en Wikipedia.
Habla: Héctor SocasPalabras #18alucinaciones modelos inteligencia artificialverificación wikipedia afirmaciones héctor socasfrancis villatoro corrige errores coffee break…otra pregunta: por ejemplo, pregunta Gabriel Osorio y si se entrenaran las IAs para ser un tanto inseguras, por entre comillas, de manera que comprueben en parte lo que dicen; y bueno, sí, esto se hace, o sea, de hecho, y de esto se habla en el paper, ¿no? Una forma de eliminar alucinaciones es forzar al modelo a que busque en internet cualquier información que va a dar, que la busque, que la compruebe en internet. que es un poco matar moscas a cañonazos, quiero decir, eso es como si nosotros no pudiéramos hablar, no pudiéramos hacer Coffee Break y tuviéramos que estar comprobando en la Wikipedia cada cosa que decimos, pues no, para eso está Francis, para decirnos cuando nos equivocamos, ahí está para hacernoslo saber, pero sería muy incómodo hacer un programa en el que cada frase la tuviéramos que estar buscando en internet, pues lo mismo pasa con las inteligencias artificiales, entonces se puede hacer y se pueden mejorar las alucinaciones, Te aseguro, pues que te asegures buscándolo en internet, pero ellos lo que querían era ir a la esencia, a lo básico; ver si desde un punto de vista abstracto matemático se puede establecer alguna relación y efectivamente llegan a formalizar la conclusión de…
Héctor Socas sugiere a Gastón Giribet que alguien más cree una página de Wikipedia en su nombre para evitarle la tarea, ya que él mismo no ha intentado hacerlo.
Habla: Francis VillatoroSignificado #4chatgpt atribuye tesis a héctor socasreferencias falsas de wikipedia a chatgptwikipedia y teoría cinturones clarkplaneta 9 citado en wikipediahector socas mencionado en wikipedialibro como base wikipedia gastón giribetprofesores universidad arman página wikipediawikipedia para gastón giribetpágina de wikipedia por oyentestirar el guante a los oyentesartículos de física en wikipediateoría de liubir en wikipediateoría de lovelock en wikipedia…Todo el título, la fecha, los directores y una breve explicación, vamos; que si quiero que me dé los errores también, dice: Si quieres te lo mejora, ¿no? ¿Es que te ayude a pulir el inglés? Este documento es muy grande, ¿quieres un resumen? Ostras, espérate, es mejor todavía porque, o sea, les dije que había buscado en internet ¿no? Entonces te pone la referencia y no lo ha encontrado, pincho, o sea, miro la referencia y me pone que es de la Wikipedia ¿cómo que es de la Wikipedia? Si yo no estoy en la Wikipedia, entonces pincho y me sale una página que dice Héctor Socas Navarro y pone Wikipedia todavía no tiene una página llamada Héctor Socas Navarro, consulta la lista de artículos, no sé qué, tal, tal, tal, no entiendo nada. Porque a lo mejor alguien te ha citado en algún momento en Wikipedia, puede ser, y tienes una página enlazada donde pones tu nombre o un artículo tuyo y apareces en Wikipedia pero no como con una página, sino como… Hombre, tu teoría de los cinturones de Clark sí está en la Wikipedia. Sí, yo estoy mencionado un par de veces, también con lo del Planeta 9 estoy citado. Entonces seguro que ahí tienen el enlace, cuando ponen tu nombre, el enlace para que algún editor de Wikipedia lo rellene cuando pueda. Estás en Colorado, estás en rojo, no estás en… El podcast sí está en la Wikipedia. Otra manera de tenerlo. Está pasando lo que entró. Empezamos a diferentes versiones de las enciclopedias. Algo raro. Solo te falta tu libro. Cuando tengas tu libro, algún editor de Wikipedia te va a poner la página de Wikipedia para que aparezca ahí tu libro y tienes ahí como el apoyo firme, el pie bien asentado en el suelo de tener un libro. Yo no tengo página de Wikipedia acá, nos sugirieron a todos los profesores que armemos una y muchos lo armaron, pero a mí me da vergüenza. Nunca hice el día que haga algo importante lo voy a hacer, pero por ahora falta mucho. Bueno, pero tienes ya varios libros. Tienes que hacerlo otra persona por ti, Gastón, y así eso te resuelve también el problema, pero Wikipedia requiere que no sea el... No yo ni siquiera intenté. Que recuerden los oyentes que les estamos tirando el guante ¿vale? O sea, que entre nuestros oyentes esto hay que resolverlo, ¿vale? Algún argentino tiene que hacer la de Gastón y la de José, y algún canario tiene que hacer la de Héctor. Yo soy editor, algún pequeño de Luisa y Silvana, y... Yo sí escribí artículos. Voy a tener que empezar. Escribí artículos para Wikipedia, para… Algunos sobre física, algunos de la teoría de Liubir, algunos sobre la teoría de Lovelock y cosas así. Hace mucho tiempo, cuando no tenía nada que hacer, escribía para Wikipedia. Está bueno que contribuiera eso. Déjenme retomar un poco mi perplejidad. Les explico, o sea, la situación ha sido la siguiente: Me ha dado toda esa información sobre mi tesis doctoral. Le pedí el título, me dio la fecha, los directores, un resumen de la tesis, todo. Cuando, digo, bueno,…
Héctor Socas y Juan Carlos Gil discuten una situación peculiar con ChatGPT: el modelo proporcionó información sobre la tesis doctoral de Héctor, pero las referencias que ofreció eran enlaces a páginas de Wikipedia vacías o inexistentes.
Habla: Héctor SocasSignificado #5 · Palabras #9chatgpt y referencias inexistentestesis doctoral de héctor socaswikipedia vacía sin información…la siguiente: Me ha dado toda esa información sobre mi tesis doctoral. Le pedí el título, me dio la fecha, los directores, un resumen de la tesis, todo. Cuando, digo, bueno, claro, lo ha visto en internet. Pero es que cuando le pincho en el enlace me manda. Una página Que es una página de Wikipedia vacía, donde no está nada de esa información. Sí, Héctor, pero es que se equivoca con las referencias. Muchas veces te da buena información, pero luego las referencias no existen. No la tiene guardada el enlace, sí, es curioso. Vale, dices que a lo mejor encontró en internet la información, pero no en esta referencia, sino en otro sitio. Efectivamente. Pero ha perdido el hilo de dónde lo encontró. Sin embargo, a chat GPT 5.3 le he dicho, puedes buscar en internet y en unos segundos me ha dicho, la he encontrado en Dialnet y me la ha puesto O sea que si le forzas, busca en internet Claro, si busca en internet, evidentemente esa es la forma de resolver…