Búsqueda · 29 momentos en 14 episodios
Juan Carlos GilSilvana TapiaLuisa AchaerandioGastón GiribetFrancis VillatoroHéctor SocasIgnacio Cresporefuerzo positivo en sistema neuronaljuego pong y doomfalta de retropropagación doomseñal regular en juego doomsistema neuronal jugando pongalicia hurtado y reggaetóndiagrama temporal artículo electrodosregión de ruido en electrodoselectrodo neuronal para jugar ponginteracción de juego en 5 minutospaleta enorme en sistema neuronalelectrodo codifica posición vertical pongregión sensitiva para juego pongocho electrodos posición verticalentrenamiento sistema neuronal juega pongAlicia HurtadoPong1024 electrodosFrancis VillatoroGPUsTPUsDoomSinkholeTPUGPUHéctor SocasJuan Carlos GilGoogle
Pong y entrenamiento de ia
Con
0:000:301:001:302:002:303:003:303:45
Francis Villatoro explica que el sistema neuronal cultivado para jugar Pong fue sencillo de implementar, mencionando un comentario de Alicia Hurtado sobre el uso de reggaetón y describiendo un diagrama del artículo que muestra la región de ruido.
…un pequeño intervalo de tiempo y eso resulta que es la señal digamos de castigo si lo has hecho mal te castigo pensé que a lo mejor le quitaban la comida un rato la señal digamos de recompensa es no castigar vale si yo no pongo ruido no estoy castigando es Que el sistema está funcionando bien. Entonces yo voy jugando muchas veces. En el de Doom le ponen un refuerzo positivo que es una señal regular. Pueden ser varios pulsitos o alguna cosa regular. Pero sí, a mí eso me sorprendió. No hay retropropagación, obviamente. El refuerzo positivo o negativo es Meter ruido, o sea, algo caótico o algo regular. Es curioso eso. Es curioso. En el caso del Pong era sencillo porque era fácil de implementar. Dice Alicia Hurtado que le ponen reggaetón. Hay una figura en el artículo, un diagrama temporal; en vertical tienes todos los electrodos, los 1024 electrodos y después tienes la región de ruido. Se ve perfectamente porque se excitan muchos de ellos, más o menos aleatoriamente. En cada momento solo puedes excitar hasta 32, pero puedes elegir cuáles excitan. Entonces, de esa manera, en unos 5 minutos puedes proponer hasta 200 veces la interacción de juego: lo que es mover la bola hasta ver si choca con la pared o choca con la paleta. Recordad que la paleta es enorme. Pues en unos 5 minutos de entrenamiento, unas 300 etapas de entrenamiento, aparentemente el sistema neuronal aprende a jugar al juego. ¿Cómo codifico la posición? Fijaros que la bola tiene una posición horizontal y una posición vertical. La posición vertical la codifico con 8 electrodos en esa región sensitiva, en esa región de entrada. En esa región de entrada, que es una especie de rectángulo, yo elijo ocho electrodos, que son los ocho en los que voy a codificar la posición vertical. Entonces dependiendo de, solo voy a excitar uno de esos electrodos y es el que corresponda a, si eso está en horizontal lo pongo en vertical, a la posición vertical aproximada de la Bola, ¿y cómo codifico la posición horizontal con una frecuencia? La señal eléctrica que yo meto en ese electrodo, que tiene una pequeña duración, tiene una frecuencia. Si la frecuencia es de 4 hercios, es que la bola está en la pared opuesta a donde está la…
Significado #1
Héctor Socas comenta sobre una tendencia reciente en el entrenamiento de modelos de lenguaje: reemplazar a los humanos en la fase de validación y corrección con inteligencia artificial.
Habla: Héctor SocasPalabras #18entrenamiento modelos lenguaje iareemplazo humanos validación iacírculo vicioso generación problemaanclaje al mundo real…mundo, donde hay humanos, muchos, y son lamentablemente más baratas sus condiciones laborales; bueno, no sé, retiro esto porque no tengo ni idea, estoy haciendo como los modelos de lenguaje un guess, suponiendo sin saber, puede ser una alucinación esto. De hecho, hay ahora una tendencia de esa segunda fase de decirle que es correcto y que no, hacerlo también con IA, o sea, ir reemplazando humanos con IA, lo cual puede ayudar, pero claro, hay algo ahí de círculo vicioso, de generación del problema en el sentido de que puedes acabar perdiendo el anclaje al mundo real. Es posible que puedas reemplazar una parte importante de esas horas de trabajo humanas, pero de alguna forma tienes que mantener ese anclaje porque si no acabas con un círculo que se retroalimenta, que se podría desanclar totalmente de la realidad, ¿no? Quizás eso es lo que pasa con Grok, Juan Carlos; no sé. No, no, Grok tuvo instrucciones precisas de Elon Musk; de humanos. Sí, bueno, o de semi-humano, me estoy pasando. Sí, se nos está yendo un poco la pinza aquí; yo creo que debemos hacer la pausa ahora.…
Francis Villatoro explica que el sistema neuronal biológico ha aprendido a jugar al Doom, comparándolo con la forma en que aprendió a jugar al Pong. Menciona un software desarrollado por alguien de Sinkhole y cómo este utiliza las entradas.
Habla: Francis VillatoroSignificado #5sistema neuronal biológico doomsoftware sinkhole entradaspong como aprendizaje inicial…un niño al Doom, un niño ciego al Doom; un niño ciego al Doom jugando al Doom, o sea, no ve la pantalla, no ve lo que pasa, lo que hace es disparar aleatoriamente y rotar aleatoriamente y mata por casualidad y solo funciona en cierto trocillo del juego Doom. estamos hablando de una cosa de juguete absolutamente y después por supuesto también de las críticas ha aprendido ese sistema neuronal biológico cómo se juega el Doom porque lo que vendían con el Pong y es lo que voy a contar ahora en el artículo era que aprendía sola a jugar al juego del Pong ha aprendido a jugar al Doom o en realidad lo que aprende es ese software que ha desarrollado este muchacho del Sinkhole y en realidad, bueno, sí, usa las entradas del sistema neuronal y emite señales al sistema neuronal, pero eso es como un ruido de fondo y lo que tú aprendes es de manera independiente. Pues no está demostrado que no, ¿vale? O sea, es posible que el software de este muchacho sea realmente el que…
Francis Villatoro explica cómo se pretende reproducir el juego Pong utilizando un sistema neuronal cultivado, describiendo la mecánica básica del juego original.
Habla: Francis VillatoroSignificado #4juego pong reproducido sistema neuronalpalitas pong izquierda derechabola pong rebotando paredespalita grande sistema neuronalpared como paleta ponghumano no falla en pong…100.000, ¿no? Puede haber un factor de 1 a 4 en lo que he perdido. Entonces lo que yo tengo son ahí unas neuronas que están vivas, que puedo sostener vivas durante meses, unos 6 meses, y a las que yo puedo, en algunos electrodos, inyectar señales eléctricas. Entonces yo ahora, de toda la distribución de los electrodos, lo que se hizo para reproducir el juego del Pong es, bueno, yo quiero una versión, juguete del Pong; el Pong, acordaros que era, era una pantalla negra con dos palitas a ambos lados, izquierda y derecha, paquillas pequeñitas, que yo podía mover hacia arriba y hacia abajo. Dos jugadores con un mando, uno controla una palita y otro controla la otra palita y una pequeña bola que va rebotando en las paredes y que tú tienes que hacer que rebote en tu palita. Bueno, pues aquí Héctor se ha simplificado un poquito, ¿vale? No hay dos palitas, solo hay una, solo hay una palita. Esa palita es prácticamente como la mitad de la pared, ¿vale? No es una palita pequeña, es una pared grande, no, no, no, es una palita enorme, una pared; tú dices, este pon, no falla ni, un humano no falla nunca, ¿vale? Es una pala enorme, la pala es como dos veces y media, la pala es el tamaño del lado, entonces una bola que sale del lado opuesto, de la pared opuesta y esa bola se mueve, puede chocar con la pared y puede chocar con la paleta. entonces supuestamente el sistema neuronal, este circuito, esto que llaman inteligencia biológica sintética. Este circuito que en su momento original se llamó Dish Brain, cerebro en una placa de Petri, pero que ahora pues llaman CL1, el primer procesador de…
Francis Villatoro explica que el sistema neuronal cultivado para jugar Pong fue sencillo de implementar, mencionando un comentario de Alicia Hurtado sobre el uso de reggaetón y describiendo un diagrama del artículo que muestra la región de ruido.
Habla: Francis VillatoroSignificado #1refuerzo positivo en sistema neuronaljuego pong y doomfalta de retropropagación doomseñal regular en juego doomsistema neuronal jugando pongalicia hurtado y reggaetóndiagrama temporal artículo electrodosregión de ruido en electrodoselectrodo neuronal para jugar ponginteracción de juego en 5 minutospaleta enorme en sistema neuronalelectrodo codifica posición vertical pongregión sensitiva para juego pongocho electrodos posición verticalentrenamiento sistema neuronal juega pong…un pequeño intervalo de tiempo y eso resulta que es la señal digamos de castigo si lo has hecho mal te castigo pensé que a lo mejor le quitaban la comida un rato la señal digamos de recompensa es no castigar vale si yo no pongo ruido no estoy castigando es Que el sistema está funcionando bien. Entonces yo voy jugando muchas veces. En el de Doom le ponen un refuerzo positivo que es una señal regular. Pueden ser varios pulsitos o alguna cosa regular. Pero sí, a mí eso me sorprendió. No hay retropropagación, obviamente. El refuerzo positivo o negativo es Meter ruido, o sea, algo caótico o algo regular. Es curioso eso. Es curioso. En el caso del Pong era sencillo porque era fácil de implementar. Dice Alicia Hurtado que le ponen reggaetón. Hay una figura en el artículo, un diagrama temporal; en vertical tienes todos los electrodos, los 1024 electrodos y después tienes la región de ruido. Se ve perfectamente porque se excitan muchos de ellos, más o menos aleatoriamente. En cada momento solo puedes excitar hasta 32, pero puedes elegir cuáles excitan. Entonces, de esa manera, en unos 5 minutos puedes proponer hasta 200 veces la interacción de juego: lo que es mover la bola hasta ver si choca con la pared o choca con la paleta. Recordad que la paleta es enorme. Pues en unos 5 minutos de entrenamiento, unas 300 etapas de entrenamiento, aparentemente el sistema neuronal aprende a jugar al juego. ¿Cómo codifico la posición? Fijaros que la bola tiene una posición horizontal y una posición vertical. La posición vertical la codifico con 8 electrodos en esa región sensitiva, en esa región de entrada. En esa región de entrada, que es una especie de rectángulo, yo elijo ocho electrodos, que son los ocho en los que voy a codificar la posición vertical. Entonces dependiendo de, solo voy a excitar uno de esos electrodos y es el que corresponda a, si eso está en horizontal lo pongo en vertical, a la posición vertical aproximada de la Bola, ¿y cómo codifico la posición horizontal con una frecuencia? La señal eléctrica que yo meto en ese electrodo, que tiene una pequeña duración, tiene una frecuencia. Si la frecuencia es de 4 hercios, es que la bola está en la pared opuesta a donde está la…
Francis Villatoro explica cómo codifica la posición horizontal de la bola en Pong utilizando la posición física del electrodo y la vertical con otros electrodos. Además, describe cómo se genera ruido cuando la bola impacta contra la pared sin ser interceptada por la pala.
Habla: Francis VillatoroSignificado #9posición horizontal con electrodo pongruido al impactar bola pared pongimpacto pala pong sin ruido…frecuencia. Si la frecuencia es de 4 hercios, es que la bola está en la pared opuesta a donde está la pala y la frecuencia crece linealmente conforme la bola se va acercando hasta una frecuencia máxima de 40 hercios en la pared en la que se encuentra la pala. entonces con frecuencia codifico la posición horizontal con posición física del electrodo, codifico la posición en vertical y si la bola cuando llega a la pala choca contra la pala pues no hay ruido y cuando llega a la pared porque la pala no la ha chocado pues genera el ruido que se supone que debe de molestar a ese sistema neuronal. Y así se consiguió, de una manera muy muy sencillita, que más o menos jugara el juego, el juego del Pong, es una cosa muy simplificada, entonces eso es lo que tenemos y eso no ha mejorado significativamente hasta 2026. Al menos lo que se ofrece en el cloud, en el sistema este de servicio o en la nube para acceder a este tipo de equipos, lo que se ofrece.…
Francis Villatoro explica que el sistema neuronal cultivado es muy elemental, con pocas entradas que pueden interpretarse como binarias o un entero corto. Está comparando este sistema con los necesarios para entrenar una IA y resolver el juego Pong.
Habla: Francis VillatoroSignificado #2 · Palabras #2sistema neuronal cultivado elementalpong y entrenamiento de iabolas de neuronas con astrocitosgasto energético sistemas neuronalestpu y gpu para pongaprendizaje más rápido en tpuspong versión juguete sistema neuronalestudiante programa pong simplificadotpus y gpus implementaciones completas…que están ahí, ¿no? Eso energéticamente es mucho más barato que tener una nave de CPUs o de GPUs o de TPUs que me está ejecutando mi software. Entonces tienen un artículo 2024 en el que comparan los costes, los costes en energía de su sistema biológico, que Digo hace una chorrada, porque esto, la verdad es que es una chorrada, porque estamos hablando de ocho entradas y que tú la puedes interpretar casi como entradas binarias o poco más, tienen muy poca codificación. Y una consideración de entero corto, un poco más. Es algo muy elemental. Entonces, comparar eso con un sistema de entrenamiento real para resolver el juego del Pong y hacen esa comparación y sacan que energéticamente esto es mucho más favorable y que va a haber un futuro maravilloso en el que, en lugar de GPUs y TPUs, pues todo el mundo utilizará este tipo de sistemas orgánicos, tanto en 2D sobre electrodos como en 3D, que es el tema en el que están trabajando ahora mucho, de quedar esas bolas, bolas de neuronas con astrocitos para que las alimenten y por fuera en la superficie con electrodos hacer pues toda la entrada y salida con esas bolas, ¿no? Pero no comparan el gasto energético no lo hacen por teraflop, ¿no? Porque si no, no, no, no, no, lo hacen por esto me ha gastado tanto y esto tanto para jugar al Pong, por aprendizaje, ¿vale? Dicen que esto aprende mucho más rápido, pero claro es que a las TPUs o a las GPUs les dan de verdad un juego del Pong, no les dan una. chorrada como esta, que esto es una estantería, ¿vale? El juego que han metido es una versión súper simplificada, muy de juguete, ¿vale? O sea, que se programa en cuatro líneas, bueno, en cuatro líneas de código no, pero en muy poquitas líneas de código un estudiante del programa, porque es un juego extremadamente simplificado. De hecho, un LLM te puede dar el código para programar ese juego que luego le pongas a las neuronas biológicas. Hay una pregunta sobre comparación entre neuronas electrónicas y biológicas, podemos luego en la sección de preguntas; podemos sacar el tema un…
Héctor Socas explica cómo los participantes en una discusión buscan verificar información abstracta y matemática, similar a como se verifica en internet, y concluye sobre un porcentaje mínimo de error inevitable en el entrenamiento de redes neuronales.
Habla: Héctor SocasPalabras #20error inevitable en redes neuronalespre-entrenamiento de red neuronalalucinación modelo sustituibleutilidad versus grado de error…buscándolo en internet, pero ellos lo que querían era ir a la esencia, a lo básico; ver si desde un punto de vista abstracto matemático se puede establecer alguna relación y efectivamente llegan a formalizar la conclusión de que hay un porcentaje mínimo de. error que no te puedes quitar de encima en el entrenamiento, en el pre-entrenamiento de la red neuronal. y a partir de ahí, claro, tú puedes hacer todo lo que quieras y al final siempre puedes borrar lo que ponga el modelo y sustituirlo por no lo sé y ya has resuelto el problema, no hay ninguna alucinación, pero hay que compaginar esto, la utilidad con el grado de error que estás dispuesto a tolerar, o sea, hay que estar dispuesto a tolerar un cierto grado de equivocación, evidentemente se intenta que sea lo mínimo posible, pero nunca se puede hacer cero, es la conclusión a la que llegan y creo que ese es el punto fundamental que intentan transmitir. Bueno, eso e insistirle a la sociedad que por favor deje de examinar a los modelos de lenguaje con criterios equivocados en los que se penaliza la modestia. Por cierto, dicen, no, porque la modestia y tal, y ponen entre paréntesis, que es una de las…