Búsqueda · 31 momentos en 14 episodios
Luisa AchaerandioIgnacio CrespoJuan Carlos GilJosé EdelsteinFrancis VillatoroHéctor SocasGastón Giribetmemoria de trabajo artificial ramprincipios éticos para ramproblemas complejos con ramRAMIgnacio CrespoOpenAIGastón GiribetFrancis VillatoroSwitchemos
Principios éticos para RAM
Con
0:000:301:001:302:002:303:003:31
Ignacio Crespo reflexiona sobre cómo las capacidades de memoria de trabajo artificiales, como una RAM, podrían transformar el enfoque a problemas complejos y plantea la necesidad de establecer principios éticos para su uso.
…proceso deductivo la memoria de trabajo es importantísima y se ve como a medida que hay un declive de la misma también hay una reducción de las contribuciones del investigador. Ojo, ¿quién tiene una memoria de trabajo absolutamente más potente que la nuestra? Una RAM. y eso va a ser va a ser relevante a la hora de tener una visión de conjunto de una nueva forma de aproximar estos problemas. Entonces, si tenemos una fuerza tan bestia, ¿cómo cambia la forma en la que trabajamos? Y sobre todo, ¿cuáles son los principios éticos para poderla utilizar? Hay un tema sobre eso que es, y si cambia qué, ¿no? Yo lo que no entiendo es esa visión medio nostálgica de, esto nos va a dejar sin trabajo, ¿y qué me importa? Es decir, mi trabajo se reconfigurará, tendré que hacer otra cosa, pero como científico, no es que…
Significado #1 · Palabras #1
Francis Villatoro describe una experiencia personal en la resolución de ecuaciones, donde un método numérico se desvía al no detectar una transición entre diferentes ramas o soluciones autosemejantes.
Habla: Francis VillatoroPalabras #12ecuación con varias ramas autosemejantesmétodo numérico y transición de ramasblow up en ecuacionesinteligencia artificial y transiciones…la IA son dos ecuaciones diferenciales acopladas con dos parámetros, eso con absoluta seguridad tiene muchas soluciones; un matemático humano nunca continuaría la demostración sin analizar en detalle esas soluciones y sin clasificarlas, y Francis tampoco. parece muy natural porque yo me he encontrado en alguno de los problemas que yo he estudiado por ejemplo tengo una ecuación que tiene varias ramas o sea varias soluciones autosemejantes y me he encontrado que cuando se aproxima la solución al blow up va por una rama y ocurre una transición y pasa a una rama diferente y si tu método numérico se queda en la rama sin acoplar la transición a la otra rama resulta que el método numérico se desvía y te da un resultado incorrecto que depende mucho de cómo haya llegado a ese punto porque no ha visto esa transición entre ramas, esas transiciones ocurren, me ha ocurrido el método numérico y es una cosa que cuando yo hago cosas con inteligencia artificial pues a veces le tienes que decir, cuidado que te puede pasar esto, mira a ver si te está pasando. porque a veces pues a uno se alegra cuando acierta, ¿eh? Otras veces uno no acierta y no se alegra, pero se alegra cuando no acierta. Pues eso, con toda seguridad, puede estar pasando en este problema, pero como eso es irrelevante para el desarrollo de la…
Gastón Giribet argumenta que las grandes empresas como OpenAI no permitirán la entrada de competidores directos en el ámbito del conocimiento. Además, señala la importancia de cumplir con los principios éticos profesionales.
Habla: Gastón GiribetPalabras #3ética profesional openaiconocimiento sin competencia directaempresas como openai…diciendo eso, estoy diciendo que es frecuente encontrarse ese tipo de cuestiones, sobre todo cuando está mediada la publicidad. Si se moviliza por motivos publicitarios tantos recursos para adelantarse y apuntarse el tanto, es evidente que una empresa tan Mastodóntica no va a permitir que se cuele justo la competencia. No, por supuesto, por supuesto, por supuesto, pero bueno, hay una cuestión de ética profesional que hay que cumplir, y si estas empresas no están cumpliéndolas, estas empresas no tienen que estar en el juego del conocimiento, esa es mi opinión Ahora, aquí hay dos cosas Permite que haya un Estado fuerte que controle el comportamiento ético de estas empresas Ahora, aquí hay dos cosas, si realmente la versión oficial es esta y aquí no ha habido ese espionaje, sino que, oye, pues por la razón…
Gastón Giribet reflexiona sobre un problema ético complejo relacionado con el avance de la inteligencia artificial y cómo controlar a grandes empresas en este campo.
Habla: Gastón GiribetSignificado #16ética e inteligencia artificialcontrol de empresas en españabien común y switchemos…están luchando contra un simple trabajador de la academia que en su vida va a ahorrar la plata que le da este premio y que aún así se ve en una reunión de Zoom con un tipo que encima tiene una cara idiota que se cae diciéndole podés arruinar tu carrera. A mí me parece que ese, no es por una cuestión de hablar de estos detalles de alcoba, de la situación, pero me parece que sí nos deja ante un problema ético muy complejo. Nosotros queremos que esto avance, no somos el romántico, vulgar, oscurantista que dice Switchemos la inteligencia artificial off porque nos va a matar a todos. No, nos va a curar a todos, nos va a salvar a todos probablemente. Pero hay que hacerlo con los corsets propios que encaucen el comportamiento de estos monstruos económicos de una manera como herederos de la ilustración, de una dirección del bien común. Hay un pequeño detalle importante. El problema de estas empresas es que lo tienen todo automatizado con IA ¿lo tienen? Todo automatizado con IA. Es decir, ellas pulsan también la IA. Bueno, más o menos. Hay un momento donde no. Hay un momento donde estas…
Francis Villatoro explica cómo las inteligencias artificiales de OpenAI almacenaron fragmentos de conversaciones de matemáticos, lo que plantea un problema ético debido a la falta de control en el proceso de entrenamiento.
Habla: Francis VillatoroSignificado #10conversaciones de matemáticos openaientrenamiento inteligencia artificial openaiproblema ético openaiautomatización entrenamiento openai…una decisión humana de gente que se enteró por un rumor; más humano que escuchar un rumor y cambiar de dirección no hay. Eso es así, hubo ese cambio de dirección, pero lo que coinciden en OpenAI es que ellos no vieron el chat de estos matemáticos; es decir, Lo que ocurrió fue que las inteligencias artificiales que almacenan ciertos chaps y ciertos trozos de chaps, almacenaron trozos de los chaps de estos que se utilizaron en el entrenamiento de la nueva inteligencia artificial y por eso el problema ético es no trivial, porque la reacción que yo quería decir, el problema no es nada trivial porque todo está muy automatizado y no hay un control en OpenAI le. Llamaban superalignment, el superalineamiento, el tema de controlar realmente qué aprende, qué no aprende, cómo lo aprende la inteligencia artificial. Pero hoy en día, en el que son inteligencias artificiales las que deciden lo que las inteligencias…
Ignacio Crespo reflexiona sobre cómo las capacidades de memoria de trabajo artificiales, como una RAM, podrían transformar el enfoque a problemas complejos y plantea la necesidad de establecer principios éticos para su uso.
Habla: Ignacio CrespoSignificado #1 · Palabras #1memoria de trabajo artificial ramprincipios éticos para ramproblemas complejos con ram…proceso deductivo la memoria de trabajo es importantísima y se ve como a medida que hay un declive de la misma también hay una reducción de las contribuciones del investigador. Ojo, ¿quién tiene una memoria de trabajo absolutamente más potente que la nuestra? Una RAM. y eso va a ser va a ser relevante a la hora de tener una visión de conjunto de una nueva forma de aproximar estos problemas. Entonces, si tenemos una fuerza tan bestia, ¿cómo cambia la forma en la que trabajamos? Y sobre todo, ¿cuáles son los principios éticos para poderla utilizar? Hay un tema sobre eso que es, y si cambia qué, ¿no? Yo lo que no entiendo es esa visión medio nostálgica de, esto nos va a dejar sin trabajo, ¿y qué me importa? Es decir, mi trabajo se reconfigurará, tendré que hacer otra cosa, pero como científico, no es que…