Búsqueda · 32 momentos en 17 episodios
José EdelsteinIgnacio CrespoFrancis VillatoroHéctor SocasBorja Tosarcontroles y contrapesos podersuperconvicción borja llegada momentobalancear sistema concentraciones podersuperconvicción idea inteligencia artificialignacio crea términos nuevos iaia ignacio superconvicciónIgnacio CrespoSuperconvicciónBorja TosarHéctor SocasRamanujanAntropic
Superconvicción idea Inteligencia Artificial
Con
0:000:301:001:302:002:303:003:25
Ignacio Crespo interrumpe la conversación para disculparse por haberse olvidado de intervenir previamente y menciona un término llamado 'Superconvicción', aludiendo a una idea relacionada con la inteligencia artificial.
…con base de calfón. A mí no me gusta la idea de una IA dirigiendo un país, el problema es que me gusta menos cualquier humano haciendo eso mismo. Bueno, hay humanos y humanos; yo tengo algo de confianza. Sí, sí, y luego queremos comparar uno a uno, podemos. Hablar de repartir el poder, de que esté, además, tripartito, podemos hablar de muchas cosas ahí. La clave es eso: los controles, los contrapesos y la forma de balancear el sistema de forma que no haya concentraciones de poder. Lo que decía Borja llegará el momento en el que sea muy convincente; esto se habla, si la gente quiere buscar al respecto, es la super convicción. Superconvicción, ya me he olvidado cómo era. Bueno, pues fantástico. ¿Cómo iba a intervenir antes? Me he olvidado en esta rata. Bueno, Superconvicción, lo llamamos y ya está. No, pero luego si me acuerdo lo vuelvo a decir. Es que Ignacio no quiere inventar términos nuevos, es una IA. Es un poco IA, ¿eh? Pero está planteado, está planteado... Yo nunca lo vi en el mundo real, yo no estoy seguro de este... Está planteado esto porque precisamente ya tiene un sesgo de decirnos lo que queremos escuchar. Y si entendemos que hay relaciones entre inputs y outputs, si estudiamos la psicología, sobre todo de una manera conductista, ahí hay teclas que se pueden pulsar…
Significado #1 · Palabras #1
Francis Villatoro describe cómo, a finales de agosto o principios de septiembre, alguien en Antropic tuvo una idea para resolver problemas científicos.
Habla: Francis VillatoroPalabras #6idea científica antropet agosto septiembreinteligencia artificial antropet no privadauso general inteligencia artificial…cuatro supersimetrías y después también propuso como cosa alternativa para la teoría con ocho supersimetrías calcular a, que son seis lazos, porque estaba solo calculado hasta cinco Entonces propuso esos dos problemas y los dejó caer, porque no quiere la cosa Y de repente, a finales de agosto, a principios de septiembre, a alguien en Anthropet, pues se le ocurre la idea desde la compañía Pero no usando una inteligencia artificial privada de la compañía, no una inteligencia artificial que está en desarrollo Sino usando lo que cualquiera de nosotros podría haber usado Lo único que pasa es que con una cuenta bancaria ilimitada en dinero. La idea de Von Hippel, de Matt, era que se gastara el menos dinero posible; el problema que él proponía es que se van a gastar millones de euros. Con esas reglas se decidió utilizar las…
Ignacio Crespo sugiere que sería interesante e incluso frustrante si la inteligencia artificial, al resolver problemas matemáticos complejos, mejorara su capacidad para explicar sus procesos, comparándola con el genio de Ramanujan.
Habla: Ignacio CrespoSignificado #3ia ramanujan explicación procesosinteligencia artificial caja negraintuición matemática inteligencia artificialjustificación razonamientos inteligencia artificial…eso, incluso nos va a costar entender qué hizo exactamente; o sea, nosotros podemos verificar el resultado y quizás no entendemos lo que hizo, y ojalá que la IA sea, se le pueda explicarlo de manera comprensible, que sea buena en divulgación también la IA. Una cosa, perdonad, pero ahora que ha salido el tema, ¿no? Y creo que no lo sacamos cuando hablamos de la aplicación de la inteligencia artificial a las matemáticas. Me parecería muy interesante descubrir que a medida que vaya avanzando y sea capaz de resolver cosas, no aumente su capacidad para explicarnos lo que está haciendo. Imagínate que el tipo de genio en el que se convierte la inteligencia artificial es un Ramanujan, que no te demuestra las cosas, que es a través de una especie de intuición, porque es una caja negra, porque nosotros justificamos a posteriori nuestros razonamientos a veces sin tener nada que ver con los verdaderos motivos y vaya por ese camino. Me parece que sería muy interesante y muy frustrante. Yo creo que va a pasar eso, con algunos problemas va a pasar eso. La IA va a llegar a una solución que podremos saber que es correcta, podremos constatarla por medio de constatación; no es lo mismo eso que llegar a algo que ver los pasos intermedios. Entonces yo creo que eso va a pasar con, no sé, me sorprendería mucho…
Ignacio Crespo describe cómo Antropic identificó un caso particular durante su proceso de cribado genético, destacando que la inteligencia artificial involucrada pudo identificar detalles relevantes dentro de una cadena de razonamientos.
Habla: Ignacio CrespoSignificado #14cribado genético antropicinteligencia artificial cadena razonamientosdetalle relevante antropic…Unas 21 horas y media duró todo este proceso; proceso en el cual utilizaron muchas inteligencias artificiales, como decíamos, a través de lo que llaman un harness, para actuar como trabajadores, como supervisores, otras que actuaban con una memoria. compartida de trabajo sobre la cual ir haciendo este cribado. Y se quedaron con este caso, se quedaron con uno que llamaba la atención y me parece muy interesante porque Antropic ha compartido la línea en la cual la inteligencia artificial en esta cadena de razonamientos que tiene, porque todavía son legibles en principio, se dio cuenta del detalle y ellos lo cuentan como si fuera maravilloso. Dicen que aquí la inteligencia artificial dijo, es espectacular, puedo ver a simple vista, que eso ya tiene su gracia, ¿no? Una repetición en tándem que es como CRISPR, puntos suspensivos, una repetición en tándem, ¿no? O sea, algo así dice, Repet the Ray,…
Ignacio Crespo, continuando una conversación sobre investigaciones y posibles plagios relacionados con la inteligencia artificial, plantea la posibilidad de conflictos futuros entre grupos humanos debido a la apropiación de ideas por parte de la IA.
Habla: Ignacio CrespoSignificado #10apropiación ideas ia grupos humanosconflicto humano inteligencia artificialprioridad robo ideas ia…Han llegado no solo uno, sino otros dos equipos, los dos de la misma forma entre sí, distinto a ellos. Cuando no había ninguna pista de que justo ahora, por ningún motivo debía haber más gente intentando resolver esto que llevaba mucho tiempo planteado. Y ha pasado constantemente. Entonces no me extrañaría que fuera un poco en esta línea. Tenemos que contemplarlo también. Vamos a llegar un momento en que los grupos humanos van a pelearse por la prioridad de quién fue al que la IA le robó la idea. Este es el tema. Sí que diré también una cosa: que se ha indicado que había cosas muy parecidas descubiertas, sí publicadas en paper, porque no es el caso de Mario Rodríguez Mestre; no tenían esta investigación pública de ninguna manera, ni en preprint ni nada, pero sí…
Borja Tosar plantea la posibilidad de que un partido político minoritario basado en inteligencia artificial pueda llegar a ser más efectivo que los humanos para persuadir a votantes y obtener apoyo, basándose en el éxito de la IA en otros campos como el ajedrez y la resolución de problemas matemáticos.
Habla: Borja TosarSignificado #16partido minoritario ia persuasiónia ajedrez resolución matemáticaéxito ia redes sociales…que no, pero de repente dije: ¿me permiten hacer una variante de la pregunta? Un escaño, un diputado, que fue una IA. Y ahí ya fue más repartidas. Volvió a ganar el no, pero ya ganó el no, 70-30, 60-40. Me gustaría hacer la pregunta de vuelta hoy, tres años. Después. Un partido minoritario de IA y quizás la IA sea mejor persuadiendo en algún momento en redes sociales y utilizando habilidades igual, de la misma manera que ha demostrado ser mejor que los humanos jugando partidas de ajedrez. Ahora está resolviendo problemas matemáticos complicados, en algún momento que es mejor política a nivel convencer para traer votos que un ser humano. No solo eso. perdón, ya me callo, pero tenemos una democracia, y hablo de España, que funciona mucho mejor, me van a matar mis compatriotas, pero los sistemas europeos en general, que son parlamentarios, funcionan mucho mejor que los sistemas presidencialistas de todos…
Ignacio Crespo interrumpe la conversación para disculparse por haberse olvidado de intervenir previamente y menciona un término llamado 'Superconvicción', aludiendo a una idea relacionada con la inteligencia artificial.
Habla: Ignacio CrespoSignificado #1 · Palabras #1controles y contrapesos podersuperconvicción borja llegada momentobalancear sistema concentraciones podersuperconvicción idea inteligencia artificialignacio crea términos nuevos iaia ignacio superconvicción…con base de calfón. A mí no me gusta la idea de una IA dirigiendo un país, el problema es que me gusta menos cualquier humano haciendo eso mismo. Bueno, hay humanos y humanos; yo tengo algo de confianza. Sí, sí, y luego queremos comparar uno a uno, podemos. Hablar de repartir el poder, de que esté, además, tripartito, podemos hablar de muchas cosas ahí. La clave es eso: los controles, los contrapesos y la forma de balancear el sistema de forma que no haya concentraciones de poder. Lo que decía Borja llegará el momento en el que sea muy convincente; esto se habla, si la gente quiere buscar al respecto, es la super convicción. Superconvicción, ya me he olvidado cómo era. Bueno, pues fantástico. ¿Cómo iba a intervenir antes? Me he olvidado en esta rata. Bueno, Superconvicción, lo llamamos y ya está. No, pero luego si me acuerdo lo vuelvo a decir. Es que Ignacio no quiere inventar términos nuevos, es una IA. Es un poco IA, ¿eh? Pero está planteado, está planteado... Yo nunca lo vi en el mundo real, yo no estoy seguro de este... Está planteado esto porque precisamente ya tiene un sesgo de decirnos lo que queremos escuchar. Y si entendemos que hay relaciones entre inputs y outputs, si estudiamos la psicología, sobre todo de una manera conductista, ahí hay teclas que se pueden pulsar…