Ep549: Agujeros Negros; IAlucinaciones; Engranajes; Materia Oscura; Doom Neuronal

Y están bien, están bien como siempre. Bueno, vamos a empezar porque si no, ya las iré apuntando luego. Vamos al lío.

Saludos gente homínida y otras criaturas de la galaxia Es día juliano 2.461.117,12 Y tal día como hoy, pero de 1989, suele situarse el nacimiento de la web la World Wide Web. Berners-Lee, un físico del CERN, ya saben, CERN o no CERN, enviaba un informe en que proponía, nada, una cosa muy tonta, que todos los ordenadores pudieran conectarse y hablar entre ellos. Una idea vaga pero interesante, según su jefe. Y aquella propuesta, quien lo iba a decir, revolucionó el mundo. Gracias a eso ahora vivimos totalmente conectados, compartimos información a escala global y podemos discutir con desconocidos si la tortilla con cebolla o sin cebolla. También fue el año en que cayó el muro de Berlín. Con el panorama actual casi da nostalgia recordar épocas en que la tendencia era derribar barreras y construir puentes hacia una cultura más global. Y hablando de redes y de conectar, hoy tenemos mucho de eso, tenemos redes neuronales, y nos preguntaremos por qué alucinan, alucina vecina, ya que estamos con nostalgia ochentera, y hablaremos también de redes neuronales, pero biológicas, a ver qué es eso de que hay un ordenador biológico jugando al Doom, y hablaremos también de otra web, la web cósmica, y redes de materia oscura, y para los que son un poco más antisociales, de engranajes mecánicos sin contacto. Les habla Héctor Socas y están ustedes en compañía de Coffee Break, Señal y Ruido Ya

saben que tenemos una página web que es señalirruido.com y que ahí pueden encontrar toda la información sobre este programa, contactar con nosotros, pueden contactarnos en redes sociales, seguirnos por ahí para dejarnos sus preguntas, comentarios, dudas, todo lo que quieran saber Están también las iniciativas de micromecenazgo, si quieren suscribirse y hacer una aportación económica de un euro al mes, o tres euros al mes, o diez euros al mes, son los tres planes de micromecenazgo, insisto, que tenemos en este programa, y sobre todo eso, como digo, las opciones para seguirnos en Twitter, en Facebook y en Instagram, que nos aburrimos mucho toda la semana, estamos aquí sin nada que hacer, leyendo papers, esperando que llegue el jueves para venir aquí a comentarlos, Así que si nos pueden dejar algún mensajito, decirnos alguna cosa, pues alegrarían ustedes nuestras oscuras y tristes existencias de viernes a miércoles Bueno, vamos ya con las presentaciones para el episodio de hoy, es un placer dar la bienvenida a la cara a Gastón Giribet, que es doctor en ciencias físicas y profesor en la Universidad de Nueva York Gastón, ¿qué tal? Qué gusto verte tan temprano por aquí Hola, sí, con

Tenemos ahora aspecto más fresco, ¿no?

Es que es como exponencial la caída, ¿no? Entonces se nota mucho al principio y luego ya según van pasando las horas ya se va notando menos porque es una cosa de que, claro, lo que pierdes es proporcional a lo que tienes, ¿no? Entonces eso tiende a generar ese tipo de comportamiento de exponencial negativa Bueno, fresco como una lechuga y lo veo hasta verde Tenemos a Juan Carlos Gil, que es doctor en química física y que es ingeniero en la empresa GMV de desarrollos aeroespaciales. Juan Carlos, ¿qué tal? ¿Cómo estás?

Antonio Machado, ¿no?

Tenemos también a Francis Villatoro, que es físico informático, doctor en matemáticas, seguramente ahora mismo está buscando ahí, haciendo el fact-checking de lo que acabo de decir, porque siempre es mejor si hay que corregir hacerlo sobre la marcha que te tengan que corregir otros. Decía, Francis es profesor en la Universidad de Málaga, físico informático, doctor en matemáticas. ¿Qué tal, Francis? ¿Cómo estás?

Muy bien, venga, pues vamos a ir empezando Te aclaro tus dudas, Juan Carlos, y tu preocupación Por eso que apareció un mensajito de que la grabación ha parado y se ha detenido Bueno, esa es la del backup, no te preocupes No es la primera vez que me pasa Y es por un tema en la configuración de la plataforma de videoconferencia Que cuando le doy a la barra espaciadora en el teclado Activa o desactiva la grabación es una opción que es configurable, la había cambiado pero se ve que se ha vuelto a reactivar ella sola, no sé, alguna actualización o algo así y lo de la barra espaciadora, pues claro, al escribir o en este caso es el botoncito para subir o bajar el volumen de la música mientras hago la presentación y no sé por qué, bueno, me está interfiriendo con eso, voy a tener que mirar otra vez, debe ser eso que al actualizar algo habrán reseteado alguna configuración me molesta infinito cuando me hacen ese tipo de cambios. Bueno, antes de empezar, un par de cositas, de anuncios. Ya les dijimos la semana pasada que el 12 de agosto va a haber un eclipse solar, bueno, eso ya lo sabían seguramente todas ustedes, pero lo que les estamos diciendo es que se está organizando una reunión de forma espontánea, no por nosotros, sino por oyentes que han decidido ponerse manos a la obra, con la organización de un evento para quien quiera asistir a presenciar el eclipse. Estaba yo antes comentando con Juan Carlos que en el café de Ganímedes, en el episodio número 8, tanto Juan Carlos como Borja hacen un relato de la experiencia que se vive en un eclipse total de sol y la verdad es que después de escucharlo yo nunca he vivido uno, pero ahí fue cuando decidí que tenía que ir, que tenía que haber un eclipse, sobre todo teniendo uno aquí en España pues no podía dejar de presenciar ese espectáculo así que si tienen dudas pues les recomiendo que revisiten ese episodio ya digo el número 8 del Café de Ganímedes nuestro podcast paralelo y pues les comento un poco de esta quedada está liderando esta iniciativa pues se llama el nombre de usuario en YouTube es dare xxy21 o sea como Dare, arrojado en inglés, valiente, 21 en números romanos y luego 21 en números arábigos, y está haciendo esto con la Fundación de Arte, que tiene sede en el Palacio Ducal de Medinaceli, él colabora con esta fundación y nos dice que es uno de los mejores lugares para ver el eclipse, por el sitio en el que está, está en la franja de la totalidad y es un sitio precioso, un palacio medieval, creo que es. y pues eso, que van a ir, entiendo que Francis, Luisa y puede que Silvana, que está ahí pensándoselo un poco, y están también intentando pues embaucar a otros divulgadores importantes y tratando de cerrar algunas, me dicen que algunas sorpresas, así que no he preguntado más. Hay opciones con y sin alojamiento para quien quiera simplemente ir y luego volverse a casa pero están planeando también alguna actividad para el día 13 por la mañana o sea que igual vale la pena la opción del alojamiento o sea que no sé bueno en cualquier caso ya eso yo no conozco los detalles ya solo tendrán que consultar con la organización del evento recordarles como les decía la semana pasada que hay una cuota de inscripción que se destina exclusivamente a pagar los gastos de la organización o sea, transporte, alojamiento y las cosas que sea necesario, que no sé ahora mismo qué es lo que va a incluir. Y nada, pues que por favor que se apunten ya, esta semana creo que es la última que van a estar recogiendo inscripciones en nuestra página web, que les recuerdo, señalirruido.com, en la parte de este episodio, pues ahí tendrán una referencia, hay un grupo de WhatsApp en el que pueden apuntarse al grupo, nadie ve su teléfono, los otros miembros del grupo no ven su teléfono y se pueden apuntar ahí y recibir la información, por lo menos eso no quiere decir apuntarse al evento, sino simplemente en el grupo se pondrá la información para organizarlo. Y luego también quería comentar muy rápidamente una cosa que nos hace mucha ilusión, es que el martes se cumplieron 10 años de un momento muy importante que es esa partida mítica entre Alpha Go y el campeón mundial de ese juego tan complicado asiático, el Go, que se considera mucho más complejo que el ajedrez, en el cual por primera vez una máquina, en este caso el sistema de inteligencia artificial de Alpha Go, derrotó al mejor jugador humano y además haciéndolo de una forma, ese día en concreto, la serie duró varios días, ¿Cuándo fue? ¿El 11 de marzo? ¿Me recuerdan, Juan Carlos? ¿El 10 de marzo? ¿El 11 de marzo?

Vale, pues ahí es donde se produjo ese famoso movimiento 37, que fue tan... del que se ha hablado tanto, porque ahí se demostró una gran creatividad por parte de la inteligencia artificial esta de Google, que de hecho los comentaristas inicialmente consideraron que era un error, que se había equivocado, hasta que luego se dieron cuenta de que no era un error, era una genialidad que no se conocía de antes. Así que hay una serie de actos que está haciendo Google, y esto ha abierto el laboratorio de DeepMind de Google, AlphaGo ha sido un primer paso evidentemente a otros muchos desarrollos. Aquí hemos hablado bastante de Alfa Folk, que llegó a ganar el premio Nobel de Química en 2024 y que hemos hablado como una de las grandes revoluciones en el campo de la bioquímica para entender mejor la estructura de las proteínas. Entonces hay una serie de eventos y nosotros hemos tenido el lujo y el privilegio de poder entrevistar a dos de los pioneros de toda esta saga que son Pushmeet Kohli y Thore Graepel que son vicepresidente de ciencia de DeepMind y en el caso de Thor uno de los miembros del equipo original que diseñó Alfago, entonces bueno ya hemos grabado esa entrevista con ellos y espero que la semana que viene podamos, a ver, espero que la semana que viene la podamos publicar, pero les digo una cosa, normalmente el hacer todo el doblaje lleva bastante trabajo y no sé si lo tendremos para la semana que viene, es bastante posible que no, de hecho creo que la última se nos fue más de un mes en hacer el doblaje, pero como esto es una cosa que es una celebración por este evento en particular y de esta onomástica tan señalada pues lo que haremos en cualquier caso será publicar la entrevista en inglés y como un audio aparte, un bonus y en el programa de la semana que viene con los entrevistadores, con Juan Carlos, con Alberto Aparici, con María que fueron quienes hicieron la entrevista, pues tendremos una tertulia en la que explicaremos de qué se habló allí y se lo contaremos, por así decirlo. Y cuando podamos sacaremos la versión traducida. Me estoy planteando si a lo mejor para acelerarlo, utilizar, no he jugado todavía con estas tecnologías, Pero me dicen que estas traducciones y voces de inteligencia artificial ya están suficientemente maduras como para que se pueda automatizar bastante este proceso Así que igual lo intentamos, a ver si con eso agilizamos el tema y no lleva tanto trabajo, aunque se note que las voces no son naturales, que son artificiales Pero bueno, yo creo que tampoco pasa nada por eso. Estuvo muy bien, yo la verdad es que disfruté mucho la entrevista y vamos, no se la pierdan, que estuvo muy bien. Vale, no sé si quieren añadir algo, Juan Carlos, quizás.

Bien, vamos al lío, Gastón Giribet ha publicado un libro, entonces yo no sé qué están haciendo, que no están haciendo cola en alguna librería para comprarlo, o no sé si esto se compra en librería, Gastón, pero voy a compartir aquí, para quien lo esté viendo en YouTube, puede ver la portada del libro, tal como se ve en la web de la editorial Salta el Pez, que es quien lo ha publicado, vemos aquí el libro, el nombre de Gastón Giribet, y hombre, a mí me ha sorprendido un poco el precio de venta, que aparece aquí, 32.000 dólares cuesta el

no está mal porque el precio original eran 40.000, como se puede ver aquí, o sea que está en rebaja, es una oportunidad, no se lo pierdan.

supongo Bueno, que conste que aquí pone el símbolo del dólar

En fin, que tiene muy buena pinta esto y que, de hecho, bueno, hubiera entendido que fueran dólares porque si siempre nos quejamos de que se venden poco los libros de ciencia, pues oye, con estos precios, con que vendiera

Bueno, el libro se titula Agujeros Negros de la Relatividad General a la Información Cuántica. Y este es un libro que me gustaría que nos hablaras un poco porque decías que no es así como súper divulgativo, está pensado en un público con algo de conocimiento.

No, te iba a decir, ya no, ya no, ya no, ya no, ya no, un cuarto de siglo, ¿eh? O sea, pasado.

pues nada, yo lo tengo ahí para comprármelo en cuanto salga, estoy hablando con el banco para pedir la segunda hipoteca y en cuanto me den los 32.000, quiero pillarlo antes de que se acabe la oferta esta y vuelva a los 40.000, porque si no, entonces seguro que no puedo Bueno, una cosa si les digo, bueno, no digo nada, no digo nada porque hoy es el libro de Gastón, ¿te has quedado satisfecho? ¿Hay algo que quieras añadir? Yo creo que lo has vendido muy bien, o sea, si ahora mismo hay alguien que haya escuchado esto y no esté, que queme el dinero en el bolsillo para ir a comprar el libro, yo creo que, como dices tú, no tiene sangre en las venas Bueno,

No, no, de hecho, a ver, si fuera promoción te la cobraría, pero creo que es contenido porque creo que este tipo de cosas es algo que a nuestros clientes les interesa, o sea, que es contenido, o sea, esto, que sí, que sí, mira, estoy viendo en el chat, está la gente entusiasmada, quieren leerlo ya. Podemos hacer un día, no sé, una especie de examen o algo así sobre el libro de Gastón, a ver quién lo ha leído y...

Bueno, sí, un club de lectura, exactamente

No es mala idea Bueno, venga, vamos con más cositas entonces Si no me has comentado sobre esto, bueno, si hay un comentario que lo vi en el chat Lo que pasa es que ya se me ha perdido un poco A ver si recuerdo quién fue el que lo dijo ¿Por dónde iba la idea? Pero bueno, alguien decía, a ver si tú lo puedes encontrar, Francis, que lo tienes todo ahí en mente, alguien decía que, dice, algo así, voy a parafrasear, Héctor se ha apresurado a sacar el tema del libro al principio del programa para que no le pase como a Mercedes Milá con Francisco Umbral y su yo he venido aquí a hablar de mi

realmente lo de la nostalgia ochentera que yo decía en la introducción, parece que hoy va de eso la cosa

Efectivamente, claro eso, además Gastón, no sé si tienes el contexto de que eran dos personajes muy importantes y muy relevantes en la escena cultural de la época en los años 80 en España Tanto Mercedes Mila como Francisco Umbral

tío Llevo aquí, llevo aquí A mí me dijeron que yo había venido aquí a hablar de mi libro Y yo estuve aquí porque yo vengo con el programa, vengo cobrando Yo no soy un pario No conocía al señor,

Dos grandes.

Y sí, porque estamos hablando, o sea, es que eso, no estamos hablando de estos personajes ridículos que a veces aparecen en la televisión, es que eran dos grandes, además de la escena cultural, no de cualquier abraza farolas por ahí, ¿no? Madre, ahora parezco a José María García, madre mía, vuelta a los ochentas total, en fin, que eran dos personajes muy relevantes, ¿no? Hay otro meme así parecido que es el de Sánchez Dragó con aquel, el de, el milenarismo va a venir, que estaba, que ese hombre debía estar borracho, drogado o algo, del grupo este de teatro, pero bueno, aquello era un espectáculo bastante deplorable. Era zafio aquello, sí, aquello era muy feo. Esto era, ya digo, por el nivel intelectual de las dos personas que estaban ahí confrontadas y la escena que se produjo, aquello fue, sacudió los cimientos del país.

¿Cómo que José? ¿Está José Edelstein en el chat?

¿Pero qué hace José Edelstein en el chat?

Bueno, venga, vamos, decía yo que íbamos a hablar de las alucinaciones en los grandes modelos de lenguaje que parece que es el gran problema hoy en día en la inteligencia artificial y lo que tiene en vilo a toda esta gran industria que puede ser la gran industria del siglo XXI y está todo ahí un poco cogido con pinzas porque está la sombra de la amenaza de las alucinaciones que puede hacer que todo el castillo se caiga abajo, ¿no? Entonces, a ver, yo quizás me gustaría empezar antes de hablar del paper que vamos a comentar, haciendo una observación que no sé si es una obviedad o una provocación, según para quién, pero yo creo que estamos criticando en general socialmente a los modelos de lenguaje por hacer exactamente lo que tienen que hacer. cuando hablamos de alucinaciones en inteligencia artificial estamos hablando de esos momentos en los que un modelo genera algo que suena plausible, que suena como algo que podría pasar pero que no es verdadero, que no ha ocurrido realmente o que no es un dato correcto. o sea, no es como la alucinación en el sentido de neurociencia de que ves algo totalmente fuera de la realidad, ves un dragón rosado en tu casa, es el concepto de alucinación digamos coloquial, pero aquí en esta jerga técnica se habla de lo que Ignacio Crespo nos decía que deberíamos llamar fabulación, que es un invento plausible, por ejemplo, esto pasa mucho lamentablemente con las personas de Alzheimer y tal, que te construyen un relato totalmente coherente sobre lo que hicieron por la mañana, dicen, no, me levanté y fui a hacer la compra a Mercadona y compré jamón serrano y luego me fui a mi casa y nada de eso es cierto, pero ellos en su mente tienen el recuerdo de que eso ocurrió, ¿no? Y eso es lo que ocurre con estas alucinaciones, son plausibles.

Pues ese, bueno, eso es de lo que estamos hablando, ¿no? O sea, de una información que es falsa, yo que sé, cuando un modelo de lenguaje se inventa una referencia bibliográfica, por ejemplo, ¿no? Se inventa una fecha, le preguntas una fecha, ¿cuándo fue la Revolución Francesa? Y te dice, pues, 1826, no sé.

Es difícil que se equivoquen ahora, pero los primeros, si pensamos en ChatGPT 3.5, que ya eran muy impresionantes, pero que veías que hacían aguata, pero es verdad que con el avance de los modelos, justamente una de las cosas en las que han mejorado mucho es que se han reducido muchísimo las alucinaciones, siguen estando ahí, pero ahora es mucho menos frecuente que ocurran cosas de esas, pero los primeros esos con los que jugábamos, que eran casi de juguete, sí que incluso fechas de Wikipedia te las podía decir mal. pero es verdad que tienes razón, Francis, cuando le preguntabas algo que no estaba en su conjunto de entrenamientos cuando era más probable y sigue siendo más probable toparte con una alucinación, ¿no? Entonces, bueno.

De eso que acaba de decir Juan Carlos es justamente de lo que vamos a hablar, del decir no sé y bueno, tiene que ver con todo esto El desarrollo y también parte de la razón por la que alucina menos es porque esto ha sido un problema que ha despertado tanta atención que se han esforzado mucho en el post-entrenamiento las empresas de desarrollo de modelos en reducirlo y ahora vamos a hablar un poco de qué se hace para reducir las alucinaciones pero antes de empezar a comentar lo del paper que vamos a tratar yo primero quiero decir un par de cosas generales ¿Por qué nos quejamos de que la inteligencia artificial alucine? Es que ese es el comportamiento inteligente, es decir, nosotros antes teníamos máquinas que eran muy buenas en darnos datos, o sea, tenemos conocimiento enciclopédico con todos los datos, veraces, factuales y tal, tenemos compilaciones de datos, teníamos antes enciclopedias en libros, ahora las tenemos en páginas web. y desde que hubo la revolución de los buscadores, sobre todo en la de Google, tenemos un acceso muy directo a todos esos datos. Entonces, si yo quiero saber cuándo la revolución francesa, yo lo pongo en Google, me salga la Wikipedia o cualquier cosa y yo voy y miro el dato. Yo no quiero una inteligencia artificial para que me diga datos. Eso está en las enciclopedias. Como decía un amigo mío, bueno, un amigo mío, Carlos González, que hace tiempo que no viene, dice, eso está en los libros. ¿vale? Oye, Carlos, ¿cuándo das? Eso está en los libros, no me preguntes por eso. Cuando yo quiero, o sea, cuando tenemos la oportunidad de desarrollar una máquina que emula o que produce comportamientos inteligentes, yo no la quiero para que me dé datos. O sea, yo sí estoy hablando aquí con Juan Carlos, con Francis, con Gastón, no es para que me den datos, sino para conversar. Yo no le pregunto a Francis, o sea, a lo mejor le puedo preguntar a Francis, oye, ¿tú te acuerdas que aquí en Coffee Break una vez hablamos de un paper de patos en el Ah, pues sí, es verdad, había un paper que tenía algunas cosas interesantes sobre tal y cual cosa. Ahora, si yo le pregunto, ¿y cuál es la referencia bibliográfica? Francis me dirá, pues yo qué sé, eso lo comentamos una vez. Yo le digo, imagínate que lo presiono. Digo, no, no, Francis, te voy a presionar. Dime una referencia bibliográfica. Pues Francis me dirá, yo qué sé, Nature Communication, número 540, página 1223, ¿vale? y luego yo voy, miro y esa referencia es incorrecta y me quejo, digo, qué tío más. Entonces, bueno, hay que distinguir lo que es conocimiento enciclopédico de datos de lo que es inteligencia. Entonces, yo creo que lo que es absurdo, esto es como en el principito, si yo no recuerdo mal, había una parte en la que le decía, o sea, decía que cuando el rey le pide al general que se convierta en gaviota y el general no le obedece, La culpa no es del general, la culpa es del rey, que le ha pedido algo que no puede cumplir el general. Entonces, lo que es absurdo es que nosotros tengamos algo tan alucinante como un gran modelo de lenguaje, llámese un cloud, un deep seek, un chat GPT, y le preguntemos la fecha de la revolución francesa. Es que lo estamos usando como Google, o mucha gente lo está usando como un sustituto de Google, y eso es absurdo, no es un sustituto de Google. en Google y vas a una fuente enciclopédica. Entonces, lo que se está viendo es que existe una tensión fundamental entre creatividad y precisión de las respuestas. Es normal. Si yo estoy desarrollando una máquina cuya capacidad es de inventar cosas, pues que no me queje luego si algunas de las respuestas tienen cosas inventadas, porque eso es lo que le estoy pidiendo, que tenga esa creatividad. Y entre los mismos humanos pues también ya digo que a veces uno está muy convencido de recordar algo, yo estoy seguro de que ayer yo puse las gafas en este estuche y resulta que cuando voy a mirar las gafas no están en el estuche, yo estoy segurísimo, eso nos pasa continuamente, entonces estamos intentando replicar comportamientos humanos, por supuesto que vamos a replicar también ese comportamiento que en el caso humano no decimos que es una alucinación, decimos que es una equivocación, decimos ay me equivoqué, yo pensé que las gafas estaban en el estuche. y de hecho es una característica casi que identitaria que atribuimos al ser humano, en realidad no es el ser humano, es cualquier red neuronal, cualquier animal que tenga una red neuronal se equivoca, decimos muy a menudo, errar es humano, bueno, es humano y también es de grandes modelos de lenguaje y seguramente también es de perros, si pudiéramos entender sus procesos mentales, todos nos equivocamos, los que pensamos y las redes neuronales también. Y luego una última cosa, es que igual está bien, igual que con las personas que se equivoquen y que alucinen hasta cierto punto, y en ciencia de hecho hay casos en los que esas alucinaciones han sido útiles, y el caso más paradigmático es, hay un, bueno a ver, creo que no lo hemos comentado en Coffee Break, pero uno de los ganadores del premio Nobel de Química en 2024 con Alphafold, el otro, o sea la mitad del premio fue para Alphafold, la otra mitad fue para David Baker que su equipo, pues, iba a decir inventó, pero no puede inventar proteínas, pero como que descubrió montones de proteínas nuevas, más de 100 de ellas las han patentado. y David Baker dice que para ellos fue muy útil el utilizar sistemas de inteligencia artificial que predecían estructuras de proteínas y que alucinaban y que muchas de esas alucinaciones que predecían proteínas que no existían, pues muchas eran cosas totalmente inservibles. Pero de vez en cuando encontraban ideas que les abrían caminos para avanzar, porque dentro de ese mundo de fabulaciones, de inventos que hacía la red neuronal, pues algunos eran prolíficas Entonces bueno, quería decir eso un poco Entonces, el paper que vamos a comentar es un paper que es de septiembre del año pasado, yo lo vi comentado en Twitter y me despertó la... porque no lo había visto Había visto otros parecidos pero este me pareció particularmente interesante y lo vi en una conversación de Twitter, lo siento pero no recuerdo quién fue la persona que me etiquetó o que me incluyó en la conversación pero bueno, es un paper, como digo, de septiembre de 2025 que se titula ¿Por qué los modelos de lenguaje alucinan? Y está firmado por cuatro autores de OpenAI y uno de Georgia Tech, el primer autor se llama Adam Taumann -Kalai de OpenAI.

Bueno, y este artículo, pues bueno, empieza exactamente con una analogía de este tipo, ¿no? Y conectamos aquí con lo que preguntaba Juan Carlos, de decir, no lo sé, lo que ellos dicen es lo siguiente, si tú tienes un estudiante haciendo un examen, y es un examen de estos de respuesta múltiple, tienes cuatro posibilidades, ¿qué les decimos todos siempre a los estudiantes? Cuando vas a hacer el examen, si no te sabe la respuesta, bueno, marca cualquier cosa, ¿vale? Que será mejor que dejarla en blanco, suponiendo que no haya penalización en...

Pues el mundo en el que viven los modelos de lenguaje no funciona así.

Entonces, los modelos de lenguaje cuando no están seguros tienden a lanzar, a probar, a hacer un guess Y entonces el artículo lo que trata es intentar investigar el fenómeno de las alucinaciones desde el punto de vista de la teoría del aprendizaje computacional y entonces hacen dos cosas, lo primero es intentar entenderlo y desde un punto de vista teórico hay diferentes tipos de alucinaciones introducidas por diferentes procesos y cada uno de estos procesos es como una semilla de la cual puede aparecer una alucinación que luego es amplificada por todo el procesamiento de la red. Entonces lo importante es que se nos está uniendo Silvana a la tertulia, voy a darle paso aquí a la sala mientras se va conectando, me está diciendo Gastón que te tienes que ir también en 5 minutos, vale, vale, vale, pues bueno, aquí tenemos a Silvana, hola Silvana, ¿qué tal? Silvana Tapia es doctora de microbiología, profesor en la Universidad de Málaga.

Por lo menos pueden convivir cinco minutos, no está tan mal la relación. Bueno, que el, entonces, el artículo en lo que se basa es en ir a lo más fundamental, ¿no? Porque dice, bueno, supongamos que, o sea, si en el conjunto de entrenamiento hay errores, ¿no? Sabemos que los modelos de lenguaje se entrenan con muchísimos datos y ahí hay errores, evidentemente, eso puede ser una fuente de alucinación, pero esa la vamos a dejar de lado, eso sabemos que está ahí. Hay también otros posibles errores que pueden surgir por otros mecanismos, pero ellos quieren irse al caso ideal, al caso más perfecto. La pregunta es, ¿se puede desarrollar un gran modelo de lenguaje que no tenga alucinaciones si lo entrenamos con datos perfectamente verídicos, en condiciones ideales, si todo fuera perfectamente correcto? Y entonces hay una primera parte con un desarrollo matemático, yo tampoco me metí a ver los detalles porque no les voy a hacer de referir, ya para eso supongo que habrá otra gente, aunque no sé dónde se publica esto, la verdad, porque está en el archive y no lo he visto que esté publicado en una revista, no sé si es que lo han enviado y está todavía en proceso de revisión o qué En el campo de

Bueno, damos la bienvenida también a Luisa Achaerandio, que es profesora de formación profesional en sanitarias. ¿Qué tal, Luisa?

Bien, gracias por conectarte, te vimos un poco bajito, pero bueno, ahora como dentro de un ratito ya tenemos la pausa, lo podemos luego hacer el ajuste fino Entonces, recordemos un poco cómo funcionan los grandes modelos de lenguaje, hay básicamente dos fases, voy a simplificar mucho el proceso, pero hay básicamente dos fases Lo que llaman el pre-entrenamiento y otra que, sorpresa, se llama post-entrenamiento, lo cual está mal, porque parecería como que entrenamiento es algo que está en medio y hay un pre y un post, pero no. Quiere decir que hay un entrenamiento previo y un entrenamiento posterior. Entonces, simplificando mucho, el pre-entrenamiento es eso que se suele decir a veces que los modelos de lenguaje lo que hacen es predecir la siguiente palabra a partir de las anteriores. Eso es, bueno, la parte, el principio básico del pre -entrenamiento, solo que en realidad no es con palabras, es con tokens, tokens saben que son una especie de abstracción de las palabras, es una unidad de información más pequeña que una palabra, pero que representa un concepto relacionado con la palabra y que viven en un espacio vectorial y que conceptos parecidos, por ejemplo, si digo, Automóvil o Automovilístico, si eso lo tokenizamos, son vectores que están cerca en ese espacio, ¿no? Pero si digo automóvil y digo coche, pues están un poco más lejos, pero también están cerca en ese espacio. Entonces, ¿cómo hacer eso? Pues no lo sé, es una cosa complicadísima, para mí es magia, o sea, cómo convertir no solo palabras, sino trozos de palabras que sean fundamentos, no sé cómo se dice eso en lingüística, pero...

No, es que no son FONEMAS. Puede haber a lo mejor la raíz de una palabra y luego los diferentes sufijos o prefijos son diferentes tokens, etc. Y no hay una forma única, hay muchas formas de tokenizar, cada empresa tiene la suya, hay algunas que son públicas, la de Google creo que es pública, creo que Meta tiene también un conjunto público de tokens también, pero que luego eso se convierta en números que estén, con eso que yo digo, que palabras relacionadas estén cerca en ese espacio y otras menos relacionadas más lejos, bueno. No sé, eso es complicadísimo

Sí, no sé tampoco qué dimensión tiene, supongo que también será arbitrario dependiendo de, cada uno tendrá su propia dimensión

es la dimensión Bueno, Gastón, venga, lárgate, vaya pregunta que me has hecho

próxima semana, la tokenización es lo que convierte del idioma con el que nosotros le hablamos al modelo de lenguaje, lo convierte su idioma interno, ellos internamente piensan en tokens, entonces el primer paso es cuando nosotros le escribimos en cualquier idioma, hay una conversión de ese idioma a los tokens, todo el procesamiento se hace internamente en tokens, y luego a la salida, un último paso, o uno de los últimos pasos es convertir de nuevo los tokens a palabras en el idioma que nos esté hablando. Bueno, entonces el pre-entrenamiento es coger una serie de tokens anteriores y predecir cuáles son los tokens siguientes en base a una cierta distribución de probabilidad que viene de lo que pasa en todos los miles de millones de textos con los que se ha entrenado. Se le enseñan muchísimos textos, como cualquier red neuronal, se le van poniendo diferentes problemas a los que sabes la respuesta. La respuesta es la distribución de probabilidad de los textos en la literatura y si tú le das un prompt que son un montón de tokens y los siguientes tokens que te genera no se parecen estadísticamente a la distribución de probabilidad que hay en el conjunto de entrenamiento, entonces se modifican los pesos para que la siguiente iteración sí que se parezca más. Y de esta forma acabas con una distribución estadística de respuestas que es lo más parecida posible a la distribución estadística en el conjunto de entrenamiento. O sea, el pre-entrenamiento es simplemente aprender a escribir cosas, digo escribir porque estamos pensando en texto, pero esto ya también se hace en los modelos multimodales, se hace con imágenes, con vídeo, con sonido, con lo que uno quiera, ¿no? Pero vamos a pensar en texto para no liarnos mucho. el primer paso es que a partir de un prompt genere un texto que sea consistente, que se parezca a los textos con los que se ha entrenado y entonces esa es la primera parte y eso lo que hace es que nuestro modelo aprenda a escribir aprende a escribir, pero no sabe nada del mundo, pero te puede escribir poesía, te puede escribir literatura te puede escribir un ensayo técnico, te puede responder preguntas de la misma forma que lo que ha visto en el conjunto de entrenamiento Entonces, lo que sea exactamente igual que en el conjunto de entrenamiento, te podrá dar una respuesta similar a la que había en el conjunto de entrenamiento. Si tú le pones algo que sea fuera del conjunto de entrenamiento, pues tendrá que extrapolar, pero bueno, en general ya estos sistemas tan grandes funcionan bastante bien para esas cosas, ¿no? Los veo a Juan Carlos y Francis sonriendo, no sé si están leyendo algo.

Debe haber algo gracioso que yo me he perdido, pero bueno.

Tenía pinta de que algo interesante había por ahí. Ese es el pre-entrenamiento. Luego hay el post-entrenamiento, que es la parte, bueno, no sé si decir más complicada, pero un poco más dura quizás porque es la que requiere decir bueno de esas cosas que está generando que suenan bien que son plausibles cuáles son ciertas y cuáles no y para eso no queda más remedio que tener personas hay diferentes pasos aquí pero uno de los pasos es tener operadores humanos gente contratada por estas empresas como OpenAI que hacen lo que se llama el post entrenamiento el ajuste fino en el cual se van poniendo prompts, muchísimos, generados, no sé si sacados de alguna base de datos o con cierta aleatoriedad o si el operador lo que sea. Y entonces el modelo le da diferentes respuestas y tienen que elegir cuál es la mejor respuesta. Y entonces así se va haciendo un segundo ajuste sobre el modelo base. El modelo base es el que sale del pre-entrenamiento y luego se hace el ajuste fino en el cual un humano le va diciendo qué respuestas son ciertas y cuáles no. Entonces esta es la distinción fundamental, el pre-entrenamiento nos da respuestas plausibles, pero que pueden ser ciertas o pueden ser no, o pueden no serlo, o sea, un coche rojo compró pescado en la heladería, ¿vale? Eso podría ser una respuesta perfectamente válida de un modelo base pre-entrenado, porque todo es sintácticamente adecuado, todo tiene una coherencia, digamos, lógica, pero no tiene ningún sentido en el mundo real. La conexión con el mundo real está en las personas que están ahí en el post-entrenamiento dándole a cuál es la respuesta correcta. Esto es un trabajo brutal, porque estos modelos requieren millones de horas, millones de horas de humanos dándole allí a esta la respuesta correcta, esta no, esta la correcta, esta no. Aquí se mete por cierto también lo que hablamos muchas veces, el alineamiento, es decir, el decirle, oye, pórtate bien, sé educado, sé políticamente correcto, no incites a la gente al suicidio

Exactamente, entonces bueno, claro, se introduce el alineamiento opcionalmente, la empresa que quiera hacerlo lo hace, la que no quiera evidentemente no lo hace, algunas lo hacen más y otras menos Como bien dice Juan Carlos, algunas se toman más en serio que otras este proceso del alineamiento ético y moral de la IA Y entonces todo esto forma parte del post-entrenamiento Entonces es muy curioso porque ahora viéndolo así, ahora que lo estaba explicando, es muy curioso porque hay una primera parte que es como computacionalmente intensiva Que es la de asimilar todos esos corpus de miles de millones de textos de entrenamiento, no sé en qué unidades se mide y ahí es donde está la parte pesada computacionalmente, la que requiere las grandes granjas de datos y tal. Y luego hay una parte que es muy humana, que requiere millones de horas de trabajo humanos que son los que conectan el modelo al mundo. O sea, lo que sabe una IA del mundo se lo hemos dicho los humanos. Y esto me parece muy bonito. Entonces hay una parte muy computacional que es la parte más técnica donde aprende a hablar, aprende sintaxis, aprende toda la parte lingüística y luego hay una parte social que es donde los humanos le decimos que está bien y que está mal, que es éticamente o moralmente aceptable o no y esa parte no es computacionalmente intensiva pero es cara, es donde gastan un montón de dinero estas empresas en contratar pues cientos de miles o decenas de miles de empleados que están ahí físicamente, supongo que en algún centro, no sé, imagino yo, esto no lo sé, no tengo ninguna certeza, pero supongo que en algún país del tercer mundo, donde hay humanos, muchos, y son lamentablemente más baratas sus condiciones laborales, bueno, no sé, retiro esto porque no tengo ni idea, estoy haciendo como los modelos de lenguaje un guess, suponiendo sin saber, puede ser una alucinación esto. De hecho, hay ahora una tendencia de esa segunda fase de decirle que es correcto y que no, hacerlo también con IA, o sea, ir reemplazando humanos con IA, lo cual puede ayudar, pero claro, hay algo ahí de círculo vicioso, de generación del problema en el sentido de que puedes acabar perdiendo el anclaje al mundo real. Es posible que puedas reemplazar una parte importante de esas horas de trabajo humanas, pero de alguna forma tienes que mantener ese anclaje porque si no acabas con un círculo que se retroalimenta, que se podría desanclar totalmente de la realidad, ¿no? Quizás eso es lo que pasa con Grok, Juan Carlos, no sé.

De humanos.

Sí, se nos está yendo un poco la pinza aquí, yo creo que debemos hacer la pausa ahora

Vas a hacer un spoiler ahí Un pelín, pelín, pelín,

sí, sí, pues mira, efectivamente, yo ponía el ejemplo de David Baker, un uso productivo en ciencia de las alucinaciones, y aquí también, ¿no? y seguro que, hombre, pues nuestro ámbito es el científico, pero seguro que en temas de arte y que sean más relacionados con creatividad pura y dura, seguramente las alucinaciones de la IA también serán muy interesantes.

Bueno, pues lo dicho, vamos a hacer la pausita, vamos a seguir en la cara B y les cuento ya para terminar lo que dice este paper sobre las alucinaciones y cómo se podría eso mejorar y sobre todo cuánto de conectado están con la propia naturaleza de la red neuronal. Nada, y luego seguiremos con otros temas muy interesantes que tenemos para la cara B Recuerden, si nos están escuchando en la radio, que esa cara B y el resto del programa lo tienen que buscar en internet Nos tienen que buscar en el podcast, ¿vale? Así que allí nos vemos, nos vemos en el podcast en la cara B en un minuto Venga, hasta ahora

Bienvenidos a esta cara B del episodio 549 de Coffee Break, Señal y Ruido Bueno, pues nada, seguimos destripando las redes neuronales, o más bien metiéndoles el bisturí en sus cerebritos de silicio a ver por qué alucinan con este paper del que estábamos hablando, producido por investigadores de OpenAI Luisa, me decías que tenías algún comentario sobre el proceso este de la tokenización de que hablábamos, ¿no?

Gracias por aportar rigor, porque efectivamente la definición creo que es esa, unidad mínima de texto, y esa es la palabra que a mí no me salía, lexemas, morfemas, ese tipo de términos que representan los bloques con los que se construyen las palabras.

Bueno, pues este paper del que hablábamos intenta estudiar desde un punto de vista, como digo, de teoría de aprendizaje computacional, el origen de las alucinaciones, las que son intrínsecas de la red neuronal, no las que aparecen, por ejemplo, porque haya datos incorrectos en el conjunto de datos, de entrenamiento, perdón, eso ya. Son cosas que se sobreentiende que van a pasar. Digamos como lo mínimo a lo que se puede aspirar. Ellos llegan a la conclusión de que se puede hacer un modelo de lenguaje que no se equivoque nunca, que no tenga ninguna alucinación. Dice, sí, uno que siempre responda, no lo sé. Ese modelo trivial nunca va a producir alucinaciones, pero evidentemente eso es inútil, no me sirve para nada. Entonces, un modelo que no sea trivial, ellos llegan a la conclusión de que bajo ciertas condiciones muy generales, es inevitable que en cuanto tú te sales del volumen o el espacio, digamos el hiperespacio englobado por el conjunto de entrenamiento, en cuanto te sales de ahí, va a haber un cierto porcentaje de respuestas plausibles incorrectas o sea, definen respuestas plausibles, son todas aquellas que da el modelo base, lo que decíamos, está entrenado para dar respuestas que son sintácticamente correctas, que son lo que llamamos plausibles, y eso lo dividen en dos conjuntos, los que son correctos, o sea, las afirmaciones que son correctas y afirmaciones que son incorrectas, pero todas dentro de lo plausible que produce el modelo base. Entonces llegan a la conclusión de que siempre, o sea, es inevitable que haya un cierto porcentaje, que tú puedes intentar minimizarlo, pero hay un porcentaje mínimo estadísticamente de respuestas incorrectas, plausibles, que va a producir el modelo Entonces eso ya es un primer punto interesante, es decir, el problema no es resoluble completamente, tú puedes mejorarlo, pero no puedes evitar que el modelo base, insisto, lo que viene del pre-entrenamiento, no te produzca respuestas incorrectas y esa parte la tienen muy formalizada matemáticamente. Luego hay una segunda parte del paper que es quizás más interesante y que no tiene un desarrollo matemático ni un soporte lógico detrás, sino que es más sociotécnico. o sea, ellos discuten cómo se hacen las cosas hoy en día en el mundo de la IA e identifican un problema clave. Según ellos, el gran problema es que en lugar de tender a minimizar las alucinaciones, hay un mecanismo que las amplifica en la forma en la que trabajamos con inteligencia artificial y es el hecho de que las sometemos a pruebas, estos benchmarks, siempre vemos en los artículos cómo se compara el último modelo de OpenAI con el último de DeepSeq, con el no sé qué, ahora han sacado un modelo nuevo, vamos a ver cómo se comporta en diferentes tareas y resulta que esos benchmarks, esas comparaciones que se hacen, se basan en ponerles una serie de tareas o de preguntas y ver si la respuesta que da es correcta o incorrecta. Y aquí es donde volvemos al dilema de Juan Carlos. Es decir, un modelo de lenguaje que responde a una pregunta, no lo sé, recibe un cero. Todos los benchmarks que se usan en el estándar de la industria, el decir que no lo sabes te da la misma puntuación que a una respuesta incorrecta, que es cero. Y aquellos que dan una respuesta correcta, pues reciben una buena puntuación, ¿no? Eso se llama precisión, es decir, cuántas respuestas son correctas frente a cuántas son incorrectas Entonces se comparan los modelos por su precisión, ¿qué significa eso? Que se está introduciendo un sesgo, porque claro, todas las empresas, y esta gente trabaja en OpenAI, o sea que saben lo que hacen las empresas van a intentar maximizar las métricas de estos benchmarks. Estos tienen el mismo problema que los jóvenes científicos y científicas con la producción de papers para, o sea, que tienes un tribunal que te va a valorar basándose en ciertas métricas, entonces tú intentas optimizar esas métricas, tú intentas adaptar tu productividad para que te dé un buen resultado en esas métricas. pues ellos hacen lo mismo y entonces el resultado final es que los modelos de lenguaje tienen una fuerte penalización a decir no lo sé y ellos creen que este ahora mismo el principal factor que limita el hecho de que nuestros modelos no puedan funcionar con menos alucinación vale entonces me sorprendió mucho que hayamos tenido esta conversación Juan Carlos no sé hace un par de meses o puede que un poquito más que tú decía creo que tus palabras más o menos te voy a parafrasear un poco, es decir, yo me creeré que hemos dado un salto significativo cuando Charles GPT me diga, no lo sé, ¿te acuerdas de eso?

La respuesta está en este paper, en lo que dicen estos autores, ellos lo achacan a esto, que a mí me parece un poco quitarse responsabilidad encima, es decir, bueno, la culpa es la sociedad, es un poco, el paper siendo un poco cínico viene a decir, a ver, las alucinaciones tienen dos problemas, Uno es que las redes neuronales son así, no se puede hacer nada, y el otro es que la sociedad, como la canción, yo soy rebelde porque el mundo me ha hecho así, pues la culpa es del mundo Y a mí me parece que tiene sentido, aparte de lo que podamos pensar de que sea algo propagandístico o algo un poco de... Pero a mí me parece que tiene sentido, porque efectivamente yo los benchmarks siempre he visto que se evalúa la precisión, ¿ha dado la respuesta correcta o no? Y esto está mal incluso en la vida cotidiana, o sea, en ciencia siempre decimos, no solo es importante acertar, sino por qué acierta, o sea, cuál es el mecanismo por el cual has llegado a esa respuesta, ¿no? Acertar por casualidad no sirve, y es lo que decimos siempre, es el mecanismo de los charlatanes, yo empiezo a decir muchas cosas, algunas acierto por casualidad y esas se quedan, ¿no? las otras se olvidan y seguro, no he seguido la historia, pero el chico este de las cabañuelas que están tan indignados los de la IMED y toda esta gente porque lo sacan en los medios de comunicación a que te diga cómo va a ser el invierno, pues supongo que habrá pasado eso, que algún día habrá dicho alguna cosa y acertó por casualidad y ahora de repente está en los medios.

Charlatanes, que dicen muchas cosas, se olvidan, pero cuando aciertan alguna, pues eso queda ahí como algo importante. Y el problema es que aquí pasa un poco eso también, o sea, la respuesta es incorrecta. Es importante no solo que la respuesta sea correcta, sino por qué, que no vale que has dicho algo al azar. y entonces están incentivados los grandes modelos de lenguaje, todos, a evitar decir no lo sé. Yo te comentaba ese día, Juan Carlos, que yo tengo puesto en las instrucciones personalizadas, a mí me funciona bastante bien, la verdad, le digo que cuando me dé una explicación, luego mañana al final, de qué está seguro y de qué tiene dudas, y eso me parece útil, pero bueno, en general la recomendación siempre es no usen esto, como fuente de datos. O sea, un gran modelo de lenguaje no es para sustituir a Google ni a la Wikipedia. Si quieren saber en qué año fue la Revolución Francesa, búsquenlo en la Wikipedia, busquen en Google los datos que necesiten y el gran modelo de lenguaje, pónganlo, yo qué sé, a hacer poesía.

Y Movimientos 37, exactamente. A cosas que estén más relacionadas con la inteligencia que con el conocimiento enciclopédico.

No entendí mucho lo que quiere representar porque realmente hace relación a un paper 2023 que no he leído. Dice que está reimprimido de ese artículo 2023 con permiso. Y lo que dice es, o sea, la figura a la que se refiere Luisa muestra esas curvas de calibración con el modelo base, el pre-entrenamiento y luego ya el modelo, como decía yo, anclado a la realidad después de haber pasado el post-entrenamiento. y lo que se ve es que representa en Binks, como si fuera un histograma, la probabilidad de una cierta respuesta en función de la probabilidad de lo que es la respuesta correcta. y en el modelo pre-entrenamiento pues hay prácticamente una correlación uno a uno, es como lineal, mientras que en el modelo post-entrenado está aplanada la distribución, o sea hay unos valores extremos al principio y al final, pero el resto está bastante aplanado y se supone que lo correcto es estos segundos, Pero ya te digo que no entendí bien el plot y bueno, como tampoco era central al...

Pero eso es muy humano también, ¿no?

Bueno, pero tiene sentido porque tiene mucho más conocimiento de cómo escribir.

Oye, una cosa, tengo pendiente con Neferchitty Pero hace ya tiempo, hace poco, ¿cuándo fue? Yo creo que la última vez que estuvimos juntos, no sé si fue cuando fui a ver Betelgeuse o algo así, el tema de la ocultación de Betelgeuse nos pusimos a ver juegos de guerra. Estamos con la nostalgia ochentera hoy, lo siento. Y viendo la película nos impresionó, una película de principios de los 80, creo que es el 83 o por ahí, la cantidad de referencias tan buenas a conceptos de inteligencia artificial que hoy en día reconocemos, pero que en aquella época habrán aceptado por casualidad, porque tampoco... y me lo acabas de recordar ahora por lo de jugar partidas, ¿no? Porque, bueno, no quiero hacer spoiler, pero quedamos en que un día en Coffee Break nos lo vamos a... es que cometimos el error de no apuntarlo, pero quedamos en que un día nos volveremos a ver la película con una libreta, apuntaremos esas referencias y en Coffee Break nos pondremos a sacar cada una de esas referencias que salían en Juegos de Guerra a conceptos de inteligencia artificial que son muy actuales. Pero bueno, por adelantarlo, ya que saqué el tema, hablaban de que ha jugado muchas partidas de Go, justamente la película empieza diciendo que esta máquina, no va a pegar y tal, se pasa el día jugando a la Tercera Guerra Mundial Y ese concepto de como toda una línea de inteligencia artificial que empieza con AlphaGo y que nos lleva a revoluciones como el premio Nobel de 2024 por el plegamiento de proteínas y toda otra serie de cosas que está haciendo Dima, empiezan con una máquina jugando muchas partidas a un juego ¿no? O sea, cómo jugar mucho a un juego puede ser una forma de desarrollar una potencia de inteligencia.

Profesor Falken.

Con la mente maravillosa.

Pero en los 80 no. En los 80 todavía el ajedrez era un juego competitivo.

En 2001, en 2001, fíjate, es 2001, en 2001, Hal juega al ajedrez con los astronautas, con David Bowman y Frank Poole, sí, en la peli, no recuerdo en la novela si eso salía, y creo que ajustaba su nivel para ser, para tener un nivel parecido, no ser abrumadoramente superior, pero tampoco tan fácil que no le supusiera un reto, ¿no? casi como cuando jugamos con niños y tratamos de...

También, también...

Digo que qué alegórico que en ajedrez tenga ventaja el blanco, que tiene una ventaja del blanco, bueno, puede tener

iba a decir que como empezamos aquí a hablar de 2001, se ha llenado de comentarios el chat sobre 2001 y eso me recordó, porque alguien dijo, no recuerdo ahora quién, la frase de abre las compuertas de la nave, y eso me recordó un tuit, hace un par de días lo retuiteé lo tengo aquí delante, un Quabain, creo que se llama el usuario, que pone esta conversación, a ver a qué le suena. Abre las compuertas de la nave, Hal. Por supuesto, Dave, he abierto las compuertas de la nave, Dave. Dime si hay algo más en lo que te pueda ayudar. Hal, las compuertas de la nave siguen cerradas. Ah, bien visto, Dave. Cuando me pediste que abriera las compuertas, no lo hice. Lo haré ahora. ¿Quieres que lo haga ahora? Sí, Hal, abre las compuertas de la nave, no hay problema, Dave, ya las he abierto, las compuertas de la nave están abiertas, Hal, las compuertas de la nave están todavía cerradas, tienes razón, Dave

moderna de 2001

Hay que hacer un remake con esto

dije que íbamos a ir despacito, venga, Juan Carlos, ya está bien de tanta conexión y tanta red, cosas que no se tocan, venga, para la gente, hay gente aquí antisocial como yo y que no le gusta tanto el...

Tornillo de Arquímedes.

Además hay un podcast que se llama así, no sé si sigue produciendo.

Bueno y breve

Lo bueno y breve

Exactamente, le das ese prompt Pues fíjate que volvió Gastón Anda,

Bueno, para los que solo estén escuchando la cara B y no hayan escuchado la A, pues Gastón Giribet, doctor en Ciencias Físicas y profesor en la Universidad de Nueva York, NYU Bien, pues nada, no sé si hay comentarios o preguntas sobre esto de los engranajes que nos contaban Nada,

A mí me ha gustado mucho que mencionaras el mecanismo de Anticitera, que tengo yo, que me gusta mucho esa movida, y además que lo pusieras en un contexto de engranajes en un fluido, porque el mecanismo lleva dos mil años en

que, bueno, no debería Por cierto,

Quería enseñarlo porque...

es, tú lo has visto, ¿no? Tú sabes cosas Yo sé cosas Bueno, esto es una de las páginas de mi libro y hasta aquí puedo

Y de hecho creo que efectivamente en griego debería ser la pronunciación correcta.

Es que está en el Museo de Tecnología de Tesalónica.

hecho creo que hay un par de ellas

que no son completas No funcionales, o sea, esto que estoy enseñando aquí es una réplica de qué aspecto se cree que debería haber tenido, pero no es funcional es como está expuesto en el museo para dar una impresión de cómo se cree que debería lucir el mecanismo completo en su época. Realmente lo que tenemos es esto, esto es lo que se ha recuperado y esto es una radiografía.

Lo que pasa es que este conocimiento se perdió, entonces esa es la cosa, en aquella época había máquinas de estas de engranaje, se piensa, creo que lo mencionó Juan Carlos, porque esto es tan complejo que de repente no llega alguien de la noche a la mañana y lo construye, o sea, esto tiene que ser parte de toda una escuela, por lo menos, o quizás varias, pero que debía llevar ya tiempo, debería haber gente produciendo este tipo de máquinas y luego ya con el declive un poco de la civilización helénica, pues este conocimiento se perdió y la Edad Media, por supuesto, no se sabía cómo hacer esto, ¿no? Pero bueno, con esto como en tantas cosas, en arquitectura, por ejemplo, hay muchas cosas que los romanos hacían y que luego en la Edad Media no se sabía ya cómo hacer Siempre digo, me llama mucho la atención cuando vas a Roma, a mí una de las cosas que más profundamente me impacta es ver el paso atrás y vuelta adelante de la civilización cuando cosas tan básicas como construir casas medievales sobre cimientos romanos, porque eran mucho más sólidos y mejores las cimentaciones de la Roma imperial, claro digo romanos, todos son romanos, pero quiero decir los de la época imperial, que luego no se sabían hacer en la Edad Media, entonces se aprovechaba lo que había de antes. Y yo me quiero intentar imaginar esas gentes que vivían, o sea, no sé, ¿Qué podía pasar por sus cabezas sabiendo que sus antepasados eran más avanzados?

Pero eso es un poco, quiero decir, hay leyendas griegas de la edad de oro, que en el pasado donde no había, donde todo el mundo era rico y tal, pero eso era legendario, no era real, pero en este caso medieval sí que era real y tangible, porque eran tecnológicamente más avanzados Y estaban ahí, veían las cosas, decían,

no hay forma No me imagino lo que debe ser ver algo y pensar que esto lo hicieron nuestros antepasados que sabían hacer cosas que nosotros no sabemos o no podemos, ¿no? En fin, bueno, pues nada, venga, siguiente tema. Francis, vamos a cambiar el orden, si te parece, porque yo había puesto lo mío de la materia oscura aquí, pero...

Vale, yo es que me puse, a ver, me puse dos temas pensando que hoy se nos iba a quedar corto el programa, pero bueno, no quiero machacar mucho a

No, pero es que es guay el tema Pero para

Entonces tenía curiosidad por oírte contar eso y además también estuve leyendo algunas cosas. Pero vale, venga, pues vamos con la materia oscura, el cartografiado de la materia oscura, o sea, estudiar cómo está distribuida la materia oscura en el universo. y resulta que ha salido un paper que salió en Nature Astronomy, un porrón de autores, y que está hecho con observaciones del James Webb, y que tiene que ver con estudiar la distribución de materia oscura en el universo, pero en una pequeña región de la red cósmica, pero que es una región que se supone que debería ser representativa. y esto está hecho, se podrá preguntar la gente cómo podemos hacer un mapa de la materia oscura si no se ve, si no se puede tocar, si no se puede, bueno porque interactúa por gravedad y este es un mapa hecho utilizando el efecto lente gravitacional débil, recordemos que la lente gravitacional ocurre cuando tenemos un objeto masivo, típicamente un cúmulo de galaxias o incluso una galaxia muy masiva que está situada entre nosotros y algo que hay más atrás y esa galaxia que está en medio o ese cúmulo que está en medio, ese objeto masivo en medio, hace efecto de lente gravitacional que no solo amplifica la luz sino que también distorsiona la imagen. Recordemos la diferencia entre lente débil y lente fuerte. Lente débil es aquella en la cual lo que vemos es que la imagen se distorsiona. Seguramente les sonarán esas imágenes de galaxias, como entre las primeras observaciones que publicó el James Webb, que las vio todo el mundo, había algunas que se veía un cúmulo de galaxias con otras galaxias detrás que estaban como haciendo un efecto de ojo de pez, como si estuvieran distorsionadas formando círculos en torno al centro de la imagen. Ese es el efecto lente gravitacional débil en el que se distorsiona la apariencia de un objeto y lo vemos como cuando tenemos un efecto ojo de pez muy pronunciado y las cosas parecen redondearse, entonces pues una galaxia la vemos como si estuviera estirada formando un arco y diferentes galaxias forman arcos que parecen hacer un círculo en torno al objeto central que es la lente. porque luego está el efecto lente gravitacional fuerte que es cuando de hecho hay diferentes imágenes cuando tenemos una cruz de Einstein por ejemplo que un mismo cuásar lo hemos repetido cuatro veces ese es el efecto fuerte pero ese no es el que vamos a hablar vamos a hablar del débil entonces bueno claro el James Webb tiene una resolución angular y una sensibilidad muy mucho mayor que por ejemplo el Hubble y entonces puede ver no solo más detalle, digamos tiene píxeles más pequeños en el cielo, sino que también puede ver objetos más débiles, con lo cual ve más objetos y además los ve con más detalle que el Hubble.

Entonces, a ver, resulta que los resultados que se han obtenido son observar un campo que se llama, a ver si lo tengo por aquí, me he perdido un poquito, ¿no? ah mira, Share, ya sabía que me he olvidado, se suele llamar Share a esa distorsión de las imágenes en las galaxias distantes, ¿vale? Ese Share es como eso, la distorsión. Entonces, con el James Webb se utilizaron con el instrumento NIRCAM dos filtros, que son el F115W y el F150W, que recuerdo la terminología, la F es de filtro y luego el numerito, es la longitud de onda en micras, por ejemplo 115 es 1,15 micras, 150 es 1,5 micras y la W es de Wide, quiere decir que es un filtro ancho, que claro para las distancias que estamos viendo aquí en torno a Z igual a 1, pues 1,15 micras Z igual a 1 quiere decir que hay un corrimiento al rojo de un factor 2, o sea que estamos viendo lo que vemos en este filtro a 1,15 micras en realidad estamos viendo el visible, Lo que sería el infrarrojo cercano que observa el James Webb es lo que la galaxia está emitiendo en el visible Estamos viendo la emisión que sería visible en una galaxia pero que al estar corrida al rojo por el corrimiento cosmológico la vemos en el infrarrojo Y lo que han hecho es una recopilación de datos de 270 horas de exposición dentro del marco de un programa que se llama Cosmos Web Porque se llama Cosmos el campo que ha observado por el telescopio web y con eso ha permitido obtener imágenes más profundas que llegan a magnitud 27, 27 y medio, de forma que se pueden observar más galaxias a las que se habían visto antes. Cosmos, como decía, es un campo muy estudiado, es un trocito del cielo, se llama así por Cosmic Evolution Survey, es un cartografiado que se hace, no, no un cartografiado, perdón, Una región del cielo que se observa con el Hubble, se hicieron muchas observaciones y se hizo una exploración de ese campo bastante profunda, también otros instrumentos como Subaru, VLT, ALMA, también en radio, en rayos X con Chandra y con XMM Newton, Spitz en el infrarrojo, o sea, es un campo que está muy observado, es una especie de referencia, ¿no? como los ratones estos que se usan siempre los mismos en biología porque se consideran una referencia muy estándar, pues esto es lo mismo en cosmología. Está cerca del ecuador celeste, lo que facilita que se pueda observar desde el norte y el sur, y sobre todo está fuera del plano de nuestra galaxia, con lo cual hay muy poquita absorción o emisión galáctica entre nosotros y ellos, y hay pocos objetos que obstaculicen la línea de visión, Entonces podemos ver muy lejos sin que nos contaminen cosas que hay en medio Bueno, si alguien tiene interés, este campo está en ascensión recta 10 horas, declinación 2 grados norte Vale, entonces, este mapa se había observado con el Hubble anteriormente, este campo Y se había hecho un mapa de materia oscura ¿Cómo? Pues resulta que viendo las galaxias de fondo, cómo están distorsionadas, cómo forman estos arcos, por lente gravitacional, claro, la cosa no es tan sencilla porque no hay un solo objeto haciendo de lente, sino hay toda una distribución. Entonces tienes que usar técnicas estadísticas, tú asumes que las galaxias no tienen una orientación preferente y usas una técnica estadística para detectar en todo el porrón de galaxias que ves que no están inclinadas aleatoriamente, sino que en cada pequeña región parece haber direcciones privilegiadas. Entonces tienes que dividir tu campo en trocitos suficientemente pequeños para que ahí tengas muchas galaxias en las cuales puedas hacer esta estadística Típicamente necesitas del orden de unas 100 galaxias para tú poder ver en esas 100 galaxias que haya una distorsión estadísticamente significativa que te apunte a que hay una masa allí que la distorsiona Entonces, tenemos que dividir la imagen que vemos, tanto con el Hubble anteriormente como con el web, en trocitos pequeños en los cuales podamos ver del orden de 100 galaxias ¿Qué pasa? Que con el Hubble, pues eso nos llevaba a trozos de prácticamente 2,5 por 2,5 minutos de arco para conseguir 100 galaxias pero con el web podemos reducir ese trocito porque las mismas 100 galaxias como tiene más sensibilidad y más definición podemos irnos a un minuto por un minuto o sea en cada trocito de un minuto por un minuto de arco recordemos que la resolución del web es de centésimas de segundo de arco bueno esta longitud de onda será peor será para lo mejor de 0,1 segundo de arco o sea digamos que en un minuto de arco tienes muchos píxeles del James Webb. Y entonces, si tú divides en trocitos de un minuto por un minuto, en cada uno de esos trocitos hay del orden de 100 galaxias. Y entonces tienes suficiente estadística como para hacer este mapa. Y entonces tenemos que distinguir entre los píxeles del James Webb, que como digo son de algo así como 0 ,1 segundos de arco, y los píxeles del mapa que son más o menos de un minuto de arco. Entonces, ¿qué obtienen? Pues que encuentran que en esos píxeles, pues cada uno de ellos hay una cierta cantidad de lente gravitacional, en unos más, en otros menos, y hacen un mapa de cuánta lente gravitacional hay en cada uno de ellos Y esa lente gravitacional obedece a presencia de masa de todo tipo, pueden ser galaxias, pueden ser cúmulos, pero también es materia oscura Y la materia oscura de las galaxias, o sea, todo, materia ordinaria y materia oscura, junta Encuentran picos que corresponden a cúmulos galácticos conocidos, hay 15 cúmulos que ya se conocían porque habían sido detectados en rayos X con XMM, Newton y con Chandra Pero además de esos 15 cúmulos también encuentran que hay zonas donde hay masa que parece formar filamentos que conectan regiones más densas hay regiones donde hay picos de densidad de masa y luego hay otras zonas con menos densidad pero que forman filamentos que no están por todas partes

entonces esto nos da una especie de distribución de la materia oscura pero yo me imagino cuando uno explica esto así que alguien se puede preguntar, claro, tienes que tener una masa intermedia y esas galaxias de fondo Pero el universo no te da, digamos, unas galaxias intermedias que te hagan de lente, que estén a una cierta distancia y otras galaxias de fondo que te permitan hacer el mapa, o sea, es un continuo, están todas repartidas de forma más o menos aleatoria en tres dimensiones Entonces, ¿cómo podemos hacer este mapa? ¿Cómo interpretamos este mapa de filamentos y de materia oscura que observamos? Entonces, lo que tenemos que tener en cuenta es que cuando estamos viendo galaxias de fondo, las estamos viendo a un rango de distancia muy grande, prácticamente desde muy cerca hasta muy lejos. Estas observaciones llegan hasta Z igual a 2 prácticamente. Por hacernos una idea, porque Z igual es una medida que a lo mejor no es muy intuitiva, estamos hablando entre 4.000 y 8.000 millones de años luz de tiempo de tránsito de la luz, ¿vale? O sea, un rango muy grande de distancias. y cuando decimos que hay una lente gravitacional y que eso me permite medir la masa que hay ahí, no es en un punto, es en toda la línea de visión, o sea que en cada uno de esos píxeles de un minuto por un minuto de arco, si yo digo que ahí hay una masa X, esa masa no es que esté en un sitio, es toda la que hay desde nosotros hasta 8000 millones de años de distancia, y esa masa está distribuida a lo largo de todo ese tiempo. o sea que el mapa que estamos recuperando, aunque es bidimensional, hay que verlo como que realmente es una proyección de un cubo tridimensional que tiene 4.000 millones de años luz de fondo, pero nosotros no lo tenemos en tres dimensiones, lo vemos todo aplanado, todo aplastado en nuestra línea de visión. y luego el efecto lente gravitacional ve toda esa línea de visión pero no con igual sensibilidad. Hay una curva de sensibilidad que pica más o menos a 4.000 millones de años luz. Por eso insistí en esa distancia. Es una distribución pero donde es más sensible es a 4.000 millones de años luz. Luego es menos sensible más cerca y menos sensible más lejos. o sea que lo que estamos viendo es un promedio de la masa que hay en torno sobre todo a 4000 millones de años luz pero aún así es una estructura tridimensional y claro es cierto que las galaxias que vemos pues están también por ahí mezcladas y todo eso influye en que la imagen que vemos no es digamos nítida no es algo totalmente perfilado sino que es bastante borroso y pero bueno aún así Así, obtenemos primero esos 15 cúmulos globulares que ya eran conocidos previamente y también vemos esos filamentos que unen cúmulos, lo cual da una idea de que lo que estamos viendo es real. Pero sobre todo hay una cosa muy chula que me gusta mucho y es que cuando... todo esto está basado en el campo de Shear, lo que dije, esta distorsión de las galaxias. ese share, esa distorsión de las galaxias es un vector, puede tener cualquier dirección en el plano del cielo entonces lo podemos ver como un campo vectorial en el cielo y cualquier campo vectorial que uno tenga, en este caso en dos dimensiones uno lo puede descomponer, de esto hemos hablado otras veces en otro contexto, uno lo puede descomponer en un campo tipo E y un campo tipo B que los modos E y modos B que solemos hablar cuando hablamos de la polarización del fondo cósmico de microondas que decimos que hay los modos E y los modos B que son los que se están buscando que no es más que si yo tengo eso un campo en el que en cada punto hay una flechita con una cierta orientación eso es un campo vectorial en cada punto el vector yo lo puedo descomponer en una cierta componente que es Se dice una componente sin rotacional y una componente sin divergencia. Ese es el término en análisis vectorial. Sin rotacional quiere decir que hay una componente en el cual en cada punto hay como un... el campo vemos que o bien sale o bien entra, en términos netos, hacia ese punto. O sea, que las flechitas o bien divergen hacia afuera o bien convergen hacia dentro de ese punto. Eso sería el modo E. y el modo B sería cómo las flechitas se arremolinan alrededor de ese punto en una dirección o en la otra. Es una descomposición, cualquier campo, da igual que las flechitas vayan hacia afuera o sea dentro de un punto que roten o que no roten, sea como sea ese campo, yo lo puedo descomponer en esos dos modos. Bueno, pues la parte que se asocia con el efecto lente gravitacional es la componente E, o sea, la componente que se llama libre de rotacional Mientras que la componente B, que es la parte que se llama libre de divergencia, debería ser nula, a primer orden, en un escenario de cosmología estándar Entonces resulta que cuando tú coges las observaciones, calculas el campo de Shear y lo descompones en estos modos E y en modo B, justamente te sale eso No sale exactamente cero el modo B, pero sale que es 10 veces más pequeño que el modo E Lo cual te da confianza que efectivamente hay un campo de Shear, que has hecho la descomposición correcta Y que efectivamente eso es debido a la presencia de materia oscura, porque es lo que predice el efecto lente gravitacional también una confirmación muy buena del resultado. En el mapa anterior del Hubble, solo detectaba 8 de los cúmulos conocidos en la región. Con este mapa nuevo del James Webb, no solo se recuperan los 15 cúmulos conocidos allí, sino que también, como digo, se ven las estructuras filamentarias, que antes no se habían visto. Entonces, bueno, pues todo esto da apoyo, da soporte a que realmente lo que están viendo es eso, la presencia de masa, de la cual parte de ella, estos cúmulos, pues es masa conocida de materia bariónica, pero todo lo demás que están viendo es materia oscura Entonces, desde el punto de vista cosmológico, pues esto es muy importante porque nos muestra la materia oscura, nos muestra que existen estos filamentos que conectan los cúmulos exactamente como predicen las simulaciones basadas en el modelo Holanda-CDM, por lo menos a nivel cualitativo, cuantitativamente se podrán coger las simulaciones y ver si los resultados encajan con estas observaciones o sea que esto ya nos permite poner a prueba las simulaciones de la web cósmica, esa web oscura de materia oscura y ver si cuantitativamente coincide con lo que se observa. O sea que esto es muy chulo, creo que es un resultado muy importante, que es una nueva prueba observacional para la cosmología y que por lo menos cualitativamente sale lo que uno hubiera esperado que saliera Y quizás en el futuro, según se afinen más los datos y haya mejores técnicas y mejores observaciones, con más tiempo de exposición, con mayor sensibilidad no solo se podrá disminuir ese minuto de arco de resolución que tiene el mapa, sino que se podrá empezar a hacer tomografía, es decir, poder empezar a distinguir en la línea de visión cuánta hay más cerca, cuánta hay más lejos y poder hacer un poquito de reconstrucción en tres dimensiones, no solo lo que tenemos ahora de verlo todo junto proyectado. Así que nada, eso me pareció muy chulo y tenía ganas de contarlo, me parece relevante.

Sí, sí, totalmente. Quiero recordar que este es un campo muy pequeñito. O sea, cuando se habla de un mapa de la materia oscura, que nadie piense que esto es toda la materia oscura que nos rodea y tal. Este es un pequeño campo, pues no recuerdo ahora, pero puede ser, no sé, 40 minutos por 40 minutos o algo así me suena a recordar, pues este paper lo leí hace ya bastante tiempo, y, o sea, que 40 minutos es nada, quizás, no sé, una luna más o menos lo que cubriría esto en el cielo, y, o sea, que, bueno, eso, que es una región pequeña del cielo, pero que pensamos que es una región muy representativa de lo que debe ser a gran escala el cosmos. Y bueno, la nube de Oort no solo pensamos que existe porque algunos cometas provenen y tal, sino porque existen cometas. O sea, no hay ninguna otra explicación a por qué hoy en día sigue habiendo cometas porque ya, si no, los cometas se van desintegrando poco a poco. En los primeros millones de años del sistema solar se habrían ya vaporizado todos los cometas y no quedaría ninguno.

No, estaba pensando que curiosamente no hay ninguna teoría alternativa para la nube. O sea, es cierto que no se ha visto, pero no hay ninguna propuesta alternativa. y me da la impresión de que estos temas como que no son suficientemente sexys, no se lanza la gente a proponer ideas exóticas de que, oh, pues hay un, no sé, nadie tiene una teoría alternativa a la nube de Oort, quiero decir, y podría, ¿por qué no? Como dice Francis, no se ha observado directamente, ¿no? Así que es curioso eso.

Vale, pues venga Francis, vamos con una noticia que me alegro de que la hayas sacado, me alegro de que me haga usted esta pregunta, en este caso que traiga usted este tema, porque es verdad que ha salido en muchos medios de comunicación y ha generado muchos titulares de esos, como dice Gastón, hiperbólicos y estaría bien que lo comentáramos un poco y lo desmitificáramos, ¿no? Así que, bueno, dale y…

Pero bueno,

Creo que siguen llamando Dish Brain a la parte biológica de ese procesador, o sea que el procesador es todo el híbrido y Dish Brain creo que es la parte biológica, creo

muchas veces En el de Doom le ponen un refuerzo positivo que es una señal regular Pueden ser varios pulsitos o alguna cosa regular Pero sí, a mí eso me sorprendió No hay retropropagación, obviamente El refuerzo positivo o negativo es meter ruido, o sea, algo caótico o algo regular Es

le ponen reggaetón

De hecho, un LLM te puede dar el código para programar ese juego que luego le pongas a las neuronas biológicas. Hay una pregunta sobre comparación entre neuronas electrónicas y biológicas, podemos luego en la sección de preguntas, podemos sacar el tema un poquito más en profundidad. Quiero aclarar porque preguntaba por aquí Ronald Gordo, decía pero esto no lo había contado ya o algo parecido a Francis, yo creo que está hablando de cuando contaste Francis que corría el Doom, una estudiante de MIT hizo un entretenimiento, un juguete que también publicó en un vídeo donde hacía un display con bacterias, bacterias bioluminescentes y en ese display corría el Doom, bueno visualizaba el Doom Visualizaba el

Yo tengo bastantes dudas de que realmente, no digo que no, pero creo que no está claro que realmente estas neuronas biológicas estén aprendiendo a jugar al Doom Entonces, yo estuve viendo el vídeo y en mi opinión, aquí no hay paper, ya lo dijo Francis, el paper el que hay es el del PON de 2022, 2023, lo que sea Aquí no se ha publicado nada, ni siquiera en Archive, no hay nada escrito, hay un vídeo de YouTube que, bueno, pues tiene la credibilidad que cualquier vídeo de YouTube que haga cualquiera. Y en el vídeo explican un poco las cosas, pero yo creo que más interesante es en los enlaces que hay debajo del vídeo, hay enlaces a los repositorios de GitHub del código que usan, ¿no? Y eso puede ser más interesante en los comentarios que hay ahí. De todas formas, yo lo que veo en el vídeo, ponen trozos de juego, trocitos de juego, que yo no sabría distinguir, además son muy breves. son muy breves, del azar, ¿verdad? Exacto, yo no sabría distinguir del azar, no sé si ustedes lo han visto, pero te ponen 5 segundos, un tío girando por la pauta, disparando, de hecho hay un momento, o sea, tú eliges, tú pones esa cosa grabando un rato y si puedes elegir, seguro que puedes elegir 5 o 6 segundos en los que aquello haga algo mínimamente coherente, pero hay un momento que se va contra una pared y empieza a disparar a la pared, además parece que va disparando regularmente, cada 2 segundos dispara. y hay un momento que se queda frente a una pared y le va disparando a la pared mientras va caminando, o sea, no tiene sentido nada, no me convence que haya un propósito o que haya una, no sé, lo cual no quiere decir que no esté aprendiendo, que a lo mejor no sea exactamente azar, sino que sea, aunque le pegue tiros a la pared, sea un poquito mejor que el azar. Puede ser, pero la verdad es que si alguien piensa que el bicho está jugando a Doom, realmente haciendo cosas inteligentes, corriendo por un pasillo, agachándose detrás de una caja, disparando cuando ve un monstruo, no

Uf, no llegué Había diferentes modos Pero yo te digo,

tokenizado, o sea, entonces, voy a decir un par de cosas, Francis lo mencionó, hay una pantallita en la que se ve el Doom, pero eso no es lo que están viendo las neuronas, las neuronas no están viendo la imagen, esto, para empezar, no es el Doom, Doom, sino es una versión que, o sea, el ID Software, que es la empresa que lo creó, liberó el código fuente en 1997, pero, este dato lo miré hace poco, lo busqué en Google, no se lo pregunté un LLM, así que no es una alucinación el código está liberado pero los monstruitos, los demonios, las musiquitas, todo eso no, todo eso tiene copyright entonces está hecho con un mod de esos que hace la gente y hay uno que es como muy estándar para hacer benchmarks entonces no es el Doom al que hemos jugado, es una versión del Doom digamos para investigación y entonces hay un ordenador que está corriendo el Doom y la información, los parámetros, las variables, la posición o sea, los parámetros están disponibles para el sistema, el sistema no está viendo la pantalla, está recibiendo los datos de dónde está el jugador, dónde está el enemigo más cercano, dónde está el otro enemigo, dónde están, y esa información es la que recoge el aparato en general. y ahora el aparato, en el aparato hay tres redes neuronales, una es la biológica y otras dos son electrónicas, artificiales. ¿Por qué? Porque primero, esa información que viene del juego va a una red neuronal que es un encoder, o sea, coge toda esa información y pasa por una serie de capas que comprimen y sacan unos poquitos parámetros de ahí, eso se llama una red tipo encoder, es una red neuronal artificial, electrónica. El sistema es híbrido, hay que tenerlo claro, no es solamente tejido neuronal. Entonces ese encoder saca unos pocos parámetros que son los que van a los electrodos que inyectan la señal a las neuronas. Los electrodos estimulan las neuronas con lo que le dice el encoder. Luego las neuronas producen también su propia señal, sus spikes, y esas señales van a otra red neuronal artificial que es el decoder, que lo que hace es que toma lo que dicen las neuronas y lo convierte, en inputs para el juego. Se lo pasa al ordenador que está corriendo el Doom para decirle, ahora dispara, ahora camina hacia la derecha, ahora camina hacia adelante. Entonces hay tres redes neuronales.

Entonces, claro, yo entiendo que es necesario, porque de alguna forma hay que traducirle lo que está produciendo el juego, porque las neuronas biológicas no tienen ojos, son como nosotros, son unas pocas neuronas ahí conectadas que no tienen sentido, entonces alguien les tiene que traducir a estímulos eléctricos lo que está pasando en el juego. ¿y cómo lo hacemos? No sabemos cómo hacerlo, entonces cuando tú no sabes cómo hacer algo, lo mejor es poner una red neuronal y que aprenda, entonces hay una red neuronal artificial, electrónica, que está aprendiendo cómo pasarle los inputs a las neuronas biológicas, y luego lo mismo a la inversa, las biológicas están empezando ahí a disparar spikes, ¿y tú qué haces con eso? Pues no sabes, entonces necesitas que alguien traduzca eso a comandos del juego, entonces tienes otra red neuronal que también aprende y tal. Entonces, ¿cuál es el problema aquí? Que no sabemos si esa hipotética mejora que ellos dicen que han visto, que ha ido aprendiendo a jugar, no sabemos cuál de las tres o las tres es la que ha estado aprendiendo. Evidentemente ellos no son tontos, son conscientes de esto y lo que han hecho es una ablación. es decir, han probado a congelar el aprendizaje de las otras de forma que se mantiene, ya no aprenden más las artificiales y ven que aún así sigue habiendo mejora en el rendimiento, pero no sabemos cuánto es esa mejora, puede que no sea estadísticamente significativa, puede que sea marginal, hombre, algo aprenderán, son neuronas, de alguna forma, si realmente tienes un sistema de estímulo, respuesta, recompensa, penalización, algo aprenderán, pero es significativo, no sé, yo digo, a mí lo que se ve en el vídeo no me da la impresión de algo impresionante, de decir, oye, realmente veo aquí una voluntad en lo que estoy viendo en el juego, y ya digo, incluso, aunque solo sea por cherry picking, me sorprende que no sean capaces de coger 5 segundos de juego en el que, por lo menos, parezca que hay algo mínimamente inteligente, no lo hay. Así que está muy bien, yo creo que esto despierta, es como, no sé, me parece propagandístico, creo que es lo que decía Francis, que esto despierta fascinación porque enseguida nos viene el concepto de el cerebro en un tarro, pero encima ese tarro metido en el mundo de Doom, te imaginas que hay alguien que está viviendo en el mundo de Doom y, ostras, no sé si es un pensamiento un poco agobiante imaginarse eso, pero bueno, son unas poquitas neuronas que no... No tienen conciencia de nada, pobrecitas mías, es como si tuvieras un aparato y poco más.

Que venga Ignacio aquí.

No lo conseguimos. Totalmente. Bueno, venga, las preguntas, que al final se nos ha hecho tarde.

Bueno, pues vamos a sacar unas preguntitas Perdona Francis, ¿querías decir algo más?

Venga, pues vamos por ahí Hay de muy diverso tipo, como siempre muy buenas Y ahora solo faltaría que yo encuentre donde las tenía apuntadas

Pregunta Brenda Anabel Ganci, o Ganci, no lo sé ¿El modelo de radio de Schwarzschild sigue siendo válido hoy con lo que sabemos? ¿El chorro que eyectan los AGN afecta el horizonte de sucesos? A ver, los agujeros negros, aquí alguien ha escrito un libro.

Yo ya diría una clarificación, porque como hace las dos preguntas, y no sé si ahí están conectadas, quiero decir, no sé si es el caso, pero aclarar que el mecanismo del chorro no tiene nada que ver con el radio de Sfarsil Hoy en día pensamos que es el mecanismo de Blanford-Snajek que dijo Gastón, hay por ahí otro mecanismo también de Snajek, creo De Blanford, de Blanford De Blanford también, Blanford es el que repite Pero no está relacionado con la teoría de Schwarzschild, digamos

Hablando de cosas que giran y transmiten momento angular, Juan Carlos pregunta a Tomás Vila si este sistema de cilindros que se transfiere en el momento rotacional sin engranaje, ¿qué podían decirnos sobre el comportamiento de las estrellas en los halos de las galaxias en rotación? Toma esa, ¿no te la esperabas?

Vale Hay bastante sobre inteligencia artificial, bueno, antes que nada también preguntaba, lanzaba también Tomás otra para Gastón ¿Qué pasaría si una horda enardecida de poetas, vitalistas y filósofos postmodernos que más el libro sobre agujeros negros que ha escrito Gastón? Yo no descubriría que Gastón estuviera entre esos poetas y filósofos.

Salvo que alguien lo mire, entonces deja de ser unitario,

Vente a las superposiciones sostenidas, Gastón, porque eso no tiene ningún sentido Bueno, vamos con otra pregunta, por ejemplo, pregunta Gabriel Osorio y si se entrenaran las IAs para ser un tanto inseguras, por entre comillas, de manera que comprueben en parte lo que dicen, y bueno, sí, esto se hace, o sea, de hecho, y de esto se habla en el paper, ¿no? Una forma de eliminar alucinaciones es forzar al modelo a que busque en internet cualquier información que va a dar, que la busque, que la compruebe en internet. que es un poco matar moscas a cañonazos, quiero decir, eso es como si nosotros no pudiéramos hablar, no pudiéramos hacer Coffee Break y tuviéramos que estar comprobando en la Wikipedia cada cosa que decimos, pues no, para eso está Francis, para decirnos cuando nos equivocamos, ahí está para hacernoslo saber, pero sería muy incómodo hacer un programa en el que cada frase la tuviéramos que estar buscando en internet, pues lo mismo pasa con las inteligencias artificiales, entonces se puede hacer y se pueden mejorar las alucinaciones, Te aseguro, pues que te asegures buscándolo en internet, pero ellos lo que querían era ir a la esencia, a lo básico, ver si desde un punto de vista abstracto matemático se puede establecer alguna relación y efectivamente llegan a formalizar la conclusión de que hay un porcentaje mínimo de error que no te puedes quitar de encima en el entrenamiento, en el pre-entrenamiento de la red neuronal. y a partir de ahí, claro, tú puedes hacer todo lo que quieras y al final siempre puedes borrar lo que ponga el modelo y sustituirlo por no lo sé y ya has resuelto el problema, no hay ninguna alucinación, pero hay que compaginar esto, la utilidad con el grado de error que estás dispuesto a tolerar, o sea, hay que estar dispuesto a tolerar un cierto grado de equivocación, evidentemente se intenta que sea lo mínimo posible, pero nunca se puede hacer cero, es la conclusión a la que llegan y creo que ese es el punto fundamental que intentan transmitir. Bueno, eso e insistirle a la sociedad que por favor deje de examinar a los modelos de lenguaje con criterios equivocados en los que se penaliza la modestia. Por cierto, dicen, no, porque la modestia y tal, y ponen entre paréntesis, que es una de las cualidades fundamentales de nuestra empresa. Madre mía.

Bueno, más preguntas

Estamos orgullosos de nuestra humildad Fíjate que modesto soy, ¿eh?

Eso decía Le Luthier, ¿no? Sentirás, te sentirás muy orgulloso de la humildad que vas a...

Alineamiento. Bueno, quiero hacer una aclaración sobre, no tanto una, bueno, si hay una pregunta de Tomás Vila que voy a aprovechar porque luego vi en la conversación siguiente en el chat algo que me gustaría aclarar, ¿no? Pregunta Tomás Vila, estas observaciones, se refiere a las del James Webb, son agnósticas al respecto de los modelos CUSP o CORE de la Dark Matter. Recordemos que hay como dos modelos de cómo se distribuye la materia oscura hacia el centro de las galaxias. El modelo de referencia, que es el de Navarro Frank White, acaba con una distribución de materia oscura que es picuda, o sea que en el centro la densidad aumenta y forma como un pico Sin embargo en las galaxias enanas parece que hemos observado que la distribución más bien debe ser suavizada, o sea que no debe ser picuda sino más bien como redondeada Roma, no Roma la capital de Italia, perdona Tomás, sino Roma lo contrario de afilada, lo contrario de picuda

Bueno, creo que puedo imaginarlo, pero, madre mía, en fin, que esto no está relacionado porque son escalas muy diferentes, ¿no? Por lo que tú preguntas, los perfiles de Casp y Core se refiere a las galaxias, a una galaxia individual, cómo está distribuida la materia oscura dentro de una galaxia, mientras que estos modelos, las galaxias son más pequeñas que el píxel del mapa, esto es una escala mucho más grande que las galaxias. y luego también la conversación seguía porque siguen hablando por ahí, se habla del modelo de Navarro Frank White en el que la materia oscura está más concentrada en el centro, modelo Casp, o menos concentrada con un modelo tipo Core, realmente no, el modelo Navarro Frank White es picudo, es Casp, el modelo tipo Core viene de observaciones, de lo que parecen sugerir las observaciones, y luego hacía referencia también a que Nacho Trujillo describía el modelo Core como huevo frito, y no, yo creo que Nacho hablaba de la forma de una galaxia como la Vía Láctea, al hablar de que tiene un disco y luego tiene un bulbo que es más grueso, a eso se refería con el huevo frito, salvo que yo me haya perdido algo, vamos, pero le podemos preguntar a Nacho la próxima vez que venga. ¿Qué más? Por supuesto, ustedes siéntanse libres, si ven alguna por ahí que les gustaría responder, siéntanse libres de sacarla, ¿no? Pero, por ejemplo, pregunta Cristina Hernández, ¿a las IA se les ocurre al aprender darse cuenta de que no saben de un tema cuanto más aprenden del mismo? ¿O sería ya un tipo de conciencia y no tienen? O sea, lo de, ¿cómo se llama esto? Del Donning, ¿cómo es Kruger? La curva esta de que cuando empiezas a aprender sobre algo te vas volviendo más confiado sobre lo que sabes hasta que llega un punto que te empiezas a darte cuenta de que realmente eres muy ignorante sobre todo el campo y entonces tu confianza empieza a disminuir.

El sesgo cognitivo. Supongo que pregunta si las IAS tienen esto. Yo creo que...

Exacto, el aprendizaje ocurre durante el pre- y el post-entrenamiento, pero no cuando habla contigo. Cuando habla contigo solo hay el contexto que le da tu conversación, pero las neuronas no se modifican. siguen estando igual que antes, sí. Pero es un tema interesante porque, claro, esto habla sobre la incertidumbre, ¿no? Yo me preguntaba, o sea, no solemos plantearnos, yo por lo menos no he visto ningún estudio sobre el grado de incertidumbre de las afirmaciones de un LLM, pero de alguna manera sí que lo tienen porque yo le tengo puesto esto, como te decía, en el chat GPT y siempre al final de la respuesta me dice de qué cosas está bastante seguro y de cuáles menos.

Sí, sí, sí, pero normalmente tiene sentido lo que me dice de lo que no está seguro porque son cosas que a lo mejor no están en su conocimiento o no. Podemos intentar ahora un experimentito a preguntarle, yo qué sé, la fecha de cumpleaños de mi perro y a ver qué me dice y si me puede dar algún grado de certidumbre. Por cierto, no tengo perro.

Inocente Bueno, es una forma de decir la incertidumbre que tiene, que en este caso sería al 100% Mientras hacemos el experimento voy planteando otra Pregunta Javier Benavides, si tuviéramos un agujero negro de 100 masas solares, ¿existe algún procedimiento teórico que nos permitiera obtener 2 de 25 a partir de la grande?

Yo le he estado preguntando aquí también a CharGPT, el modelo 5, por el cumpleaños de mi perro, me dice que no lo sabe, que no tiene esa información, por el mío, me dice también lo mismo, que no lo sabe y que no tiene esa información. De hecho yo le preguntaba y con qué grado de certeza lo sabe y me dice estoy seguro al 100 % de que no lo sé.

Siempre, siempre tiene que tener alta certeza, aunque se hace

Qué curioso, porque hace poco en una entrevista que hice, me hicieron precisamente esa misma pregunta El título de mi tesis doctoral, nunca nadie jamás me la ha preguntado en 20 años Y ahora de repente en una semana me la han preguntado dos veces, venga, me la he preguntado

quedando Ha mejorado mucho, claramente, le estoy preguntando yo también lo mismo, ha hecho el GPT, ostras, me la ha dado, puede que haya buscado, ah sí, es que tiene una referencia, es que la busco en internet Te has autocitado

Todo el título, la fecha, los directores y una breve explicación, vamos, que si quiero que me dé los errores también, dice

¿Es que te ayude a pulir el inglés?

Ostras, espérate, es mejor todavía porque, o sea, les dije que había buscado en internet, ¿no? Entonces te pone la referencia y no lo ha encontrado, pincho, o sea, miro la referencia y me pone que es de la Wikipedia, ¿cómo que es de la Wikipedia? Si yo no estoy en la Wikipedia, entonces pincho y me sale una página que dice Héctor Socas Navarro y pone Wikipedia todavía no tiene una página llamada Héctor Socas Navarro, consulta la lista de artículos, no sé qué, tal, tal, tal, no entiendo nada.

en la Wikipedia Sí, yo estoy mencionado un par de veces, también con lo del Planeta 9 estoy citado Entonces

persona por ti, Gastón, y así eso te resuelve también el problema, pero Wikipedia requiere que no sea el... No,

Héctor Yo soy editor Algún pequeño de Luisa y Silvana y...

Déjenme retomar un poco mi perplejidad Les explico, o sea, la situación ha sido la siguiente Me ha dado toda esa información sobre mi tesis doctoral Le pedí el título, me dio la fecha, los directores, un resumen de la tesis, todo Cuando, digo, bueno, claro, lo ha visto en internet Pero es que cuando le pincho en el enlace me manda una página Que es una página de Wikipedia vacía, donde no está nada de esa información Sí, Héctor, pero es que se equivoca con las referencias

Vale, dices que a lo mejor encontró en internet la información, pero no en esta referencia, sino en otro sitio. Efectivamente.

Claro, si busca en internet, evidentemente esa es la forma de resolver alucinaciones, pero ese ya es otro tema diferente Bueno, y no sé, ya para terminar, una última, por ejemplo, ¿cómo se distingue en las observaciones el redshift del mero Doppler? Bueno, el Doppler es redshift, pero entiendo que la pregunta es cómo se distingue el redshift cosmológico del redshift Doppler, alguien quiere, Francis, por ejemplo, que creo que no te he pasado ninguna del, ¿cómo es que nadie ha preguntado por el Doom? Estoy enfadado Neuronas biológicas, hablando del Doom Claro, puede ser que yo ya he dejado de coger preguntas desde que terminamos el tema Y empecé a la sección de preguntas Es posible que, lo siento Francis, al ser el último tema Es posible que estas preguntas hayan quedado Voy a ver si veo alguna Venga, vayan respondiendo a esa En

Yo es que veo el escalón como el solapamiento

la última ya, pero a ver si podemos hacerla cortita y por favor, porque me da que puede dar para mucho

La prórroga. Si la física considera la información como algo tangible y asumiendo que la conciencia sea información, ¿se podría algún día copiar o transferir como en el sexto día? Lo pregunta Néstor Eduardo. Yo no sé lo que es el sexto día.

yo de cosas como copiar y transferir la conciencia hemos visto varias cosas, ¿no? Y siempre recomiendo Ciudad Permutación de Greg Egan y también al final de Avatar también hay una cosa de esas de transferir la conciencia del protagonista y tal, pero bueno, no sé, quizás la primera parte, ¿no? ¿La física considera la información como algo tangible? ¿Hay objeciones a esta parte?

Muy bien, por mencionar a Shannon, ¿saben que fue uno de los pioneros de la inteligencia artificial? El de Shannon, el teorema de Shannon, estaba en la reunión de Dartmouth con John McCarthy y

No sabía que era tanto, pues, este que está aquí en esta foto, que me hizo mucha ilusión porque contacté con la familia de alguno de los fotografiados aquí para...

Ah, eso, hablamos otro día, es que todavía no puedo.

En dos semanas hablamos del tema Reciv, Reciv, eso significa

Venga, pues hablamos en dos semanas sobre ese tema Y en una semana sobre otros temas Porque yo creo que con esto ya finiquitamos el programa de hoy Que yo tenía cierta ansiedad con que no tuviera suficiente Mira, casi, casi, a veces uno tiende a sobrecompensar, creo que tengo ese problema, se lo debo comentar también a mis psicólogos, efectivamente, me parece que tengo un problema de sobrecompensación, bueno, nada, pues si quieren seguimos sobrecompensando la semana que viene, venga, venga amigos,

pues nada, gracias y hasta la semana que viene, venga,