Búsqueda · 31 momentos en 15 episodios
Luisa AchaerandioIgnacio CrespoJuan Carlos GilJosé EdelsteinFrancis VillatoroHéctor SocasGastón Giribetauditoría de algoritmos según gastónregulación de herramientas tecnológicasimpacto creciente de algoritmosla última pregunta isaac asimovmultivac supercomputadora giganteauditoría y regulación de iainteligencia artificial impregna todoIsaac AsimovLa última preguntaMultivacGastón GiribetLuisa AchaerandioNuria OliverOpenAIAnthropicChinaIgnacio CrespoHéctor SocasFrancis VillatoroFefermanNavier StokesDiego CórdobaEuropaEstados democráticosCiudadanosSiglo XXISwitchemos
Auditoría y regulación de ia
Con
0:000:301:001:302:002:303:003:31
Luisa Achaerandio menciona el cuento 'La última pregunta' de Isaac Asimov, relacionándolo con la inteligencia artificial y la necesidad de auditoría y regulación para evitar respuestas inesperadas.
…comentario? Pues simplemente como este tipo de cosas, este tipo de herramientas están impregnando todas las áreas de nuestra vida y al final es poder y al final está relacionado con decisiones que tomamos, pues creo que iniciativas como las de Nuria Oliver, Que básicamente se basa en la auditoría de algoritmos y crear esa entidad que nos está hablando Gastón, pues son muy relevantes. En este contexto porque ya que va a impregnar realmente va a estar a todos los niveles y nos va a influir en todo momento y tiene que ver con eso con el rédito que algunas personas van a poder obtener de ello, pues es muy importante que esa regulación exista y hace mucho tiempo que me llamaba la atención ese conjunto de palabras auditoría de algoritmos que antes decía. Pero bueno es que es posible que esto se haga, pues sí realmente puede existir y es muy necesario y luego simplemente que me he acordado, no sé si ¿Conocéis el cuento de Isaac Asimov, La última pregunta?, que está relacionado con dos técnicos borrachos que le hacen la pregunta por primera vez a la Multivac, que es una supercomputadora gigante y al final pues tiene como un final inesperado. No lo digo porque es muy cortito, pero es muy relevante y también tiene que ver con eso, con la IA a todos los niveles; está impregnando todo. Queremos hacerle unas preguntas relevantes, y al final, pues quizás tengamos unas respuestas inesperadas si, digamos, no controlamos partes del proceso tan básicas como es la auditoría y la regulación. Me dejas ahora con la intriga: voy a tener que buscar esa historia, pero me recordaste un poco a la guía del autoestopista galáctico, que la Tierra en realidad es un gran superordenador diseñado para responder a las preguntas últimas y tal, y después de correrla durante mucho tiempo sacaron la respuesta que era 42 o creo que era eso, ¿no? Y entonces se…
Significado #1 · Palabras #1
Héctor Socas comenta sobre la posibilidad de presentar temas científicos de forma sensacionalista, mencionando ejemplos como 'una inteligencia artificial ha resuelto uno de los problemas del milenio' y 'OpenAI acusada de plagio'.
Habla: Héctor SocasSignificado #10inteligencia artificial resuelve problema milenioopenai acusada de plagio…que ha generado mucha polémica, mucha controversia en redes sociales, mucho salseo, cosas aquí que no nos gustan. A nosotros estas cosas no nos van, no nos gusta meternos en situaciones, en fin, entrar ahí al lodo, pero bueno, a veces no queda más remedio. El tema ya lo habrán visto; hay diferentes titulares que se pueden, hay diferentes formas en las que se puede presentar esto de forma un poco sensacionalista, llamativa. Por ejemplo, una inteligencia artificial ha resuelto uno de los problemas del milenio. Podemos empezar por ahí; esa puede ser un titular. Otro titular puede ser OpenAI acusada de plagio; también hay quien va por ese camino. Vamos a intentar poner un poco de orden y un poco de sensatez en todo esto; vamos a empezar por el principio. De hecho, incluso hemos tenido una pequeña conversación ahora en la pausa sobre cómo íbamos a estructurar esta conversación. Algo que no solemos…
Francis Villatoro explica cómo, en el año 2000, la mayoría de los expertos en ecuaciones de Navier-Stokes creían que un flujo con una condición inicial regular se mantendría regular indefinidamente.
Habla: Francis VillatoroPalabras #14ecuaciones navier stokes condición inicialflujo regular navidad stokescondición a fefferman problemasproblema valores iniciales infinito…los dos problemas que ha comentado Gastón, de los cuatro problemas, de las cuatro variedades, esto es una cosa que puso Feferman; Feferman fue el director de la tesis doctoral del padre de Diego Córdoba y fue el director de la tesis doctoral de Diego Córdoba. En su momento, en el año 2000, todo el mundo pensaba, bueno, todo el mundo, gran parte, la mayoría de los expertos en la matemática de las ecuaciones de Navidad-Stokes pensaba que si yo parto de una condición inicial regular, que no tiene singularidades, el flujo se va a mantener regular eternamente entonces ese es el problema que se formula como lo que Gastón ha dicho, la condición A, la formulación A y la formulación B la formulación A, el problema de valores iniciales en infinito, en un sistema abierto y la formulación B en un problema con condiciones de contorno periódicas que el fluido que sale por una pared reentra por la otra pared, que eso simula también condiciones iniciales pero Feferman pensaba que ese problema era tan difícil que lo mismo había que darle una pequeña vidilla a los que querían atacar el problema del milenio entonces decidió incluir algo que se sacó de la manga y que en aquel momento nadie entendió, dijo la gente, pero Feferman que…
Francis Villatoro explica que la demostración anterior no aporta información útil y expresa su escepticismo sobre el límite regular del forzamiento, sugiriendo que podría generar puntos singulares.
Habla: Francis VillatoroPalabras #16límite regular del forzamientopuntos singulares con el forzamientoforzamiento igual a ceroserie de deltas de ira…de que no es lo que a uno le gustaría, pues no te aporta nada. No te aporta nada para el problema A, o sea, dada una solución inicial regular de las ocasiones de nave y estoques, ¿con el tiempo aparecerán singularidades o se mantendrá siempre como regular? Lo que se acaba de demostrar ahora no nos dice absolutamente nada. De hecho, cuando tú intentas llevar la idea es el forzamiento, que se aplica infinitas veces, el límite en infinito del forzamiento, el forzamiento es de muy baja amplitud, es extremadamente pequeño, un forzamiento muy, muy pequeño; pero no está nada claro y yo apostaría que no tiene límite regular aunque el forzamiento sea regular en todo punto. Cuando yo lo lleve al límite, forzamiento igual a cero, no va a aparecer un forzamiento regular que daría lugar a que apareciera la solución cero, forzamiento cero; sino que va a aparecer una serie de deltas de ira, una serie de puntos singulares cuando se lleve ese límite porque está todo como muy anquilosado, o sea, está como todo muy metido ahí como en calzador de tal manera que los límites ahí están muy muy poco claros entonces sobre lo que a todo. El mundo le interesa. Se origina la turbulencia con las ecuaciones de Nobel Stocks. Las ecuaciones de Nobel Stocks ¿describen la turbulencia? Este problema no me dice absolutamente nada; eso es una de las cosas que todo el mundo pensaba que la solución del…
Gastón Giribet reflexiona sobre un problema ético complejo relacionado con el avance de la inteligencia artificial y cómo controlar a grandes empresas en este campo.
Habla: Gastón GiribetSignificado #20ética e inteligencia artificialcontrol de empresas en españabien común y switchemos…están luchando contra un simple trabajador de la academia que en su vida va a ahorrar la plata que le da este premio y que aún así se ve en una reunión de Zoom con un tipo que encima tiene una cara idiota que se cae diciéndole podés arruinar tu carrera. A mí me parece que ese, no es por una cuestión de hablar de estos detalles de alcoba, de la situación, pero me parece que sí nos deja ante un problema ético muy complejo. Nosotros queremos que esto avance, no somos el romántico, vulgar, oscurantista que dice Switchemos la inteligencia artificial off porque nos va a matar a todos. No, nos va a curar a todos, nos va a salvar a todos probablemente. Pero hay que hacerlo con los corsets propios que encaucen el comportamiento de estos monstruos económicos de una manera como herederos de la ilustración, de una dirección del bien común. Hay un pequeño detalle importante. El problema de estas empresas es que lo tienen todo automatizado con IA ¿lo tienen? Todo automatizado con IA. Es decir, ellas pulsan también la IA. Bueno, más o menos. Hay un momento donde no. Hay un momento donde estas…
Francis Villatoro explica cómo las inteligencias artificiales de OpenAI almacenaron fragmentos de conversaciones de matemáticos, lo que plantea un problema ético debido a la falta de control en el proceso de entrenamiento.
Habla: Francis VillatoroSignificado #11conversaciones de matemáticos openaientrenamiento inteligencia artificial openaiproblema ético openaiautomatización entrenamiento openai…una decisión humana de gente que se enteró por un rumor; más humano que escuchar un rumor y cambiar de dirección no hay. Eso es así, hubo ese cambio de dirección, pero lo que coinciden en OpenAI es que ellos no vieron el chat de estos matemáticos; es decir, Lo que ocurrió fue que las inteligencias artificiales que almacenan ciertos chaps y ciertos trozos de chaps, almacenaron trozos de los chaps de estos que se utilizaron en el entrenamiento de la nueva inteligencia artificial y por eso el problema ético es no trivial, porque la reacción que yo quería decir, el problema no es nada trivial porque todo está muy automatizado y no hay un control en OpenAI le. Llamaban superalignment, el superalineamiento, el tema de controlar realmente qué aprende, qué no aprende, cómo lo aprende la inteligencia artificial. Pero hoy en día, en el que son inteligencias artificiales las que deciden lo que las inteligencias…
Héctor Socas expresa su acuerdo con el argumento anterior sobre la necesidad de regulación en diversos campos, incluyendo el tecnológico, enfatizando la importancia de que los ciudadanos ejerzan una responsabilidad proactiva.
Habla: Héctor SocasSignificado #18regulación en diversos camposciudadanos ejerciendo responsabilidad proactivaestados democráticos controlando normassociedad en el sillón del mundo…fuertes que controlen esto. No quiere decir que los estados son geniales, los políticos son geniales, en absoluto, pero es siempre mejor que estemos todos nosotros decidiendo cada cuatro años quiénes son esos, que cuatro tipos que se conocen entre los primos. Estoy muy de acuerdo con tu alegato, pero no solo en este campo, en todos los campos en general tiene que haber una regulación de todo y un cierto control de las normas. Estados democráticos que controlen esto, tiene que haber estados fuertes. O sea, como sociedad tenemos que estar en el sillón del mundo. Y esto, por cierto, es uno de mis grandes alegatos: de que como ciudadanos del siglo XXI tenemos que nosotros ejercer proactivamente esa responsabilidad. No dejar las manos de otros, no dejar las manos de los estados y. Para eso lo primero es tener cultura científica. Para mí la divulgación científica ya no es solo placer intelectual, es una obligación del ciudadano del siglo XXI. Tenemos que tener cultura científica para poder estar al volante de todo lo que está pasando.…
Luisa Achaerandio menciona el cuento 'La última pregunta' de Isaac Asimov, relacionándolo con la inteligencia artificial y la necesidad de auditoría y regulación para evitar respuestas inesperadas.
Habla: Luisa AchaerandioSignificado #1 · Palabras #1auditoría de algoritmos según gastónregulación de herramientas tecnológicasimpacto creciente de algoritmosla última pregunta isaac asimovmultivac supercomputadora giganteauditoría y regulación de iainteligencia artificial impregna todo…comentario? Pues simplemente como este tipo de cosas, este tipo de herramientas están impregnando todas las áreas de nuestra vida y al final es poder y al final está relacionado con decisiones que tomamos, pues creo que iniciativas como las de Nuria Oliver, Que básicamente se basa en la auditoría de algoritmos y crear esa entidad que nos está hablando Gastón, pues son muy relevantes. En este contexto porque ya que va a impregnar realmente va a estar a todos los niveles y nos va a influir en todo momento y tiene que ver con eso con el rédito que algunas personas van a poder obtener de ello, pues es muy importante que esa regulación exista y hace mucho tiempo que me llamaba la atención ese conjunto de palabras auditoría de algoritmos que antes decía. Pero bueno es que es posible que esto se haga, pues sí realmente puede existir y es muy necesario y luego simplemente que me he acordado, no sé si ¿Conocéis el cuento de Isaac Asimov, La última pregunta?, que está relacionado con dos técnicos borrachos que le hacen la pregunta por primera vez a la Multivac, que es una supercomputadora gigante y al final pues tiene como un final inesperado. No lo digo porque es muy cortito, pero es muy relevante y también tiene que ver con eso, con la IA a todos los niveles; está impregnando todo. Queremos hacerle unas preguntas relevantes, y al final, pues quizás tengamos unas respuestas inesperadas si, digamos, no controlamos partes del proceso tan básicas como es la auditoría y la regulación. Me dejas ahora con la intriga: voy a tener que buscar esa historia, pero me recordaste un poco a la guía del autoestopista galáctico, que la Tierra en realidad es un gran superordenador diseñado para responder a las preguntas últimas y tal, y después de correrla durante mucho tiempo sacaron la respuesta que era 42 o creo que era eso, ¿no? Y entonces se…
Ignacio Crespo interviene en la tertulia para señalar que la discusión sobre la ética de las acciones recientes de OpenAI es limitada, considerando la larga lista de controversias previas asociadas a OpenAI y Anthropic.
Habla: Ignacio CrespoSignificado #13ética de acciones recientes openaicontroversias previas openai anthropiclista de situaciones controvertidas openaigestión de datos openaidatos confidenciales sistemas gobiernolegislación inteligencia artificialcontribución altruista científica openaidudas gestión grandes inteligencias artificiales…es un gran superordenador diseñado para responder a las preguntas últimas y tal, y después de correrla durante mucho tiempo sacaron la respuesta que era 42 o creo que era eso, ¿no? Y entonces se dieron cuenta que no sabían cuál era la pregunta. Bueno, Ignacio, tu comentario. Yo creo que hay un tema importante que estamos dándole vueltas porque fijémonos qué hemos hecho: hemos estado dedicando aquí unos cuantos minutos a hablar sobre si es ético o no es ético lo que ha hecho OpenAI sobre este caso concreto, como si fuera lo peor que ha hecho. Como si no tuviéramos ya una larguísima lista por parte de OpenAI y de Anthropic de situaciones mucho más controvertidas. Y en parte es por lo que estaba diciendo Francis, porque como todo esto viene con el envoltorio de la contribución altruista científica, llama más la atención. Olvidamos todo lo demás; olvidamos que ya había dudas importantes sobre cómo se gestionan los datos por parte de las grandes inteligencias artificiales, porque no hace falta que los guarden, que es sobre lo que está muchas veces la legislación para que tomen beneficios de ellos, y que para su contribución con datos que son confidenciales de sistemas, por ejemplo, gobiernos, esté suponiendo un problema. ¿Cómo se tiene que legislar eso? Y tenemos una situación complicada que no se sabe por dónde avanzar, porque sí, la legislación es necesaria; estoy totalmente de acuerdo. Me preocupa que, por mucho que sea necesaria, idealmente, ¿cuál es el ejemplo que tenemos?: Europa. ¡Qué fantástica…
Ignacio Crespo plantea una interpretación conspiranoica sobre las filtraciones negativas relacionadas con OpenAI y Anthropic, sugiriendo que podrían ser un intento de forzar la legislación para beneficiar a estas empresas.
Habla: Ignacio CrespoSignificado #7filtraciones openai anthropiclegislación para beneficiar openaiinteligencias artificiales destrucción humanidadseguridad empresas openai anthropiccompetencia china inteligencia artificial…legislando todo! Por supuesto que sí, pero ¿dónde está Europa en esa carrera? ¿Y cuáles son los países que realmente lideran la carrera y su relación con la legislación? ¿Dónde está Estados Unidos y sobre todo dónde está China? ¿Y qué es lo que va a ocurrir? Había, por ejemplo, una interpretación que creo que es algo conspiranoica, pero bueno, está bien lanzarla; y es que todos estos comentarios que se filtran sobre lo terribles que son estas inteligencias artificiales y cómo van a destruir a la humanidad, que vienen en principio desde dentro, podrían ser un intento de forzar que se legislara, que se legislara para que salgan beneficiadas precisamente estas grandes empresas OpenAI y Anthropic; que a pesar de ser muy opacas en su forma de gestionar la seguridad son tal vez mejores que la competencia que está ofreciendo China y que cada vez está más cerca de pisar los talones por algunos motivos. Creo que no hay que llegar tampoco a estas reflexiones para entender que puede haber un beneficio en soltarlo. Ya decíamos lo de la bolsa y pensémoslo. De nuevo, es una simplificación muy grande, pero si mañana tuviéramos que poner nuestro dinero en una u…