Búsqueda · 17 momentos en 11 episodios
IAA
Con
0:000:301:001:302:002:303:003:25
Francis Villatoro explica por qué las inteligencias artificiales comerciales parecen tener dificultades para comunicarse de manera efectiva.
…Una de las cuestiones que ahora se está trabajando mucho, porque hay muchas críticas a la manera en la que escribe la IA. Hay gente incluso que ha llegado a decir que la IA está yendo para atrás, que ahora escribe mucho peor de lo que escribía hace dos años. Las IAs comerciales y en parte es cierto porque ahora están como más capadas. Ahora tienen como menos. Todo lo que rodea, todo el chat, no el GPT, no el núcleo, no el modelo de lenguaje, sino el chat, está súper podado para que no hable de no sé qué temas, para que use un lenguaje políticamente correcto no sé cuánto, para que no sé qué, no sé cuánto. Está tan podado que al final a la IA le cuesta mucho trabajo comunicar cosas. Entonces, en el momento en el que una IA de verdad haga lo que todos estamos soñando con que haga algún día, en redes sociales cada vez que hace algo todo el mundo dice que ya lo ha hecho. Y digo no señores todavía no lo ha hecho; cuando lo haga lo veremos y…
Significado #1
José Edelstein reflexiona sobre la capacidad de una inteligencia artificial para realizar saltos creativos comparables a los de algunos humanos, y cuestiona si la IA puede superar las limitaciones humanas en ciertos cálculos.
Habla: José EdelsteinSignificado #20salto creativo inteligencia artificiallimitaciones humanas cálculosia compete con dixoncálculo lazos mortales…la IA lo entiendo, que es lo que al final ocurrió, que es lo que dice Francis, que lo que usó fue técnicas que estaban en la literatura y mostró que no había que introducir ningún concepto nuevo, bueno, en parte bien, en parte hubiera sido mucho más bonito. Que la IA en algún momento ya tenga que dar un salto que nadie ha dado todavía. Y todavía ese salto podría ser un salto técnico y de no demasiada creatividad o completamente creativo. Entonces, sí, por supuesto cabe la duda de en qué medida una IA puede dar un salto creativo de estos que los humanos, también hay que decirlo, unos pocos humanos dan cada tantos. Cuando estamos comparando nos venimos arriba porque la IA recién puede competir con Dixon, pero es que nosotros no somos capaces de calcular ni ni cero lazos, ¿no? Entonces, el grueso de los mortales. O sea, yo creo que... Yo estaba pensando, José, justo eso, cuando decía si sería capaz de identificar un oscilador armónico visto desde un sistema de referencia. Digo, pero es que a lo mejor yo tampoco lo sería. Ah, no, no; por supuesto que no. Es muy notable el hallazgo de…
Francis Villatoro explica por qué las inteligencias artificiales comerciales parecen tener dificultades para comunicarse de manera efectiva.
Habla: Francis VillatoroSignificado #1ia comercial limitada por restriccionesmodelo de lenguaje gpt super podado…Una de las cuestiones que ahora se está trabajando mucho, porque hay muchas críticas a la manera en la que escribe la IA. Hay gente incluso que ha llegado a decir que la IA está yendo para atrás, que ahora escribe mucho peor de lo que escribía hace dos años. Las IAs comerciales y en parte es cierto porque ahora están como más capadas. Ahora tienen como menos. Todo lo que rodea, todo el chat, no el GPT, no el núcleo, no el modelo de lenguaje, sino el chat, está súper podado para que no hable de no sé qué temas, para que use un lenguaje políticamente correcto no sé cuánto, para que no sé qué, no sé cuánto. Está tan podado que al final a la IA le cuesta mucho trabajo comunicar cosas. Entonces, en el momento en el que una IA de verdad haga lo que todos estamos soñando con que haga algún día, en redes sociales cada vez que hace algo todo el mundo dice que ya lo ha hecho. Y digo no señores todavía no lo ha hecho; cuando lo haga lo veremos y…
Francis Villatoro explica cómo las inteligencias artificiales (IAS) han evolucionado en su forma de 'alucinar' o cometer errores, contrastando con el comportamiento anterior.
Habla: Francis VillatoroSignificado #10ias simulan reconstruir solucionesverificación código lean demostracionesexplicaciones ias pueden ser desviadasias alucinan diferente a añosocr tablas con errores iafrancis villatoro explica ias…tachas, borras, tal, y luego cuando lo escribes en el paper, lo pones súper elegante. Partimos de aquí, vamos a no sé qué, tal, tal, y en cuatro pasitos, con qué elegancia llegas, pero eso no se parece en nada al proceso mental que has seguido realmente, ¿no? Pero en las IAS, que son máquinas, les pedimos que lo reconstruyan bien y la gente se cree que lo está reconstruyendo bien. Por eso, en demostraciones, por ejemplo, con Lean, es muy importante leerse el código Lean. O sea, no basta con la explicación que me describen, porque la explicación que me describen puede estar muy, muy desviada respecto a... Ahora las IAS alucinan de una manera muy diferente a como alucinaban hace años, porque hace años alucinaban de la manera que tú lo veías, ¿no? Me ha cambiado este número; en esta tabla le he pedido que me hagan un OCR de la tabla y se ha equivocado en un número, no, qué alucinación. Ahora no, ahora alucinan en la línea conductual, en el camino, en el razonamiento, entre comillas, que están ejecutando; ahí muchas veces cometen alucinaciones y pegan unos desvíos absolutamente sin sentido, entonces de vez en cuando requieren que se les dé…
Héctor Socas explica que utiliza dos inteligencias artificiales en paralelo para corregir los errores de una con la otra.
Habla: Héctor SocasSignificado #2alineamiento modelos lenguaje iacorregir errores con dos iasproblemas multiagentes complejosdiversidad formas pensar ciencia…el camino, en el razonamiento, entre comillas, que están ejecutando; ahí muchas veces cometen alucinaciones y pegan unos desvíos absolutamente sin sentido, entonces de vez en cuando requieren que se les dé con el látigo y reconstruirla y volverlas a situar. Yo por ejemplo ahora trabajo con dos IAs en paralelo porque necesariamente tengo que estar constantemente pegando latigazos a una de las IAs con la otra porque constantemente se desvían de los objetivos. Para estos problemas concretos, complejos, por eso suelen ser multiagentes, justamente con ese sentido. Decían que habían usado miles de ellos, me parece una barbaridad, no sé cómo eso puede ayudar, pero sí que tienen que tener diferentes instancias que se van vigilando, corrigiendo, explorando diferentes vías, poniendo en común porque al final esa parte colectiva de la ciencia realmente tiene algo de valor, o sea, no es solamente la superinteligencia, sino también la diversidad en formas de pensar, también aporta y es importante a la hora de resolver problemas complejos. Bueno, hablando de diversidad, no sé si ya que estamos en la parte más general podemos introducir en el debate también el otro artículo que teníamos, Ignacio, sobre problemas, en este caso de biología ¿no? Que nos vamos yendo de las matemáticas cada vez a…
Ignacio Crespo comenta sobre la posibilidad de que información obtenida por humanos o mediante búsquedas de IA haya influido en el entrenamiento de nuevos modelos de inteligencia artificial.
Habla: Ignacio CrespoSignificado #13búsquedas ias entrenamiento modelosinformación humano influencia iamodelos inteligencia artificial dirección…le parece impactante la similitud de la investigación. Palabras de él. Sé que además hay medios españoles que están intentando contactar con él; no está siendo fácil, pero a ver qué es lo que indica en las próximas semanas; que será también muy interesante. En cualquier caso, sabemos que es plausible que se tenga acceso a esa información por ojo humano, por búsqueda de IAS, lo que sea, pero que por haberla utilizado para entrenar nuevos modelos haya dado suficiente pista a este complejo sistema de IAS para ir en una dirección. Esto ya es más complejo. Esto habría que verlo. y pasa otra cosa, que es que constantemente en la historia de la ciencia hemos visto convergencias, de llegar a la misma conclusión por personas independientes. Esta misma semana hablando con un amigo que es matemático,…