Héctor Socas explica su impresión inicial sobre PodGPT, asumiendo que estaría relacionado con podcasts, redes neuronales y modelos de lenguaje grandes, aunque resulta ser un podcast médico.
…sea, qué sé yo, no sé, no tengo ni idea. Si Francis está solo, pues muy bien; yo creo que contestaría con exactitud todas las cosas. Si hubiera más de una pregunta a la vez, Francis diría: pues no, está mal. Te empezaría a decir cosas como: Wikipedia miente. Es que es un artículo muy chulo, por eso no quería que dijera el título antes de hacer esta pregunta, porque se llama PodGPT. El artículo se llama PodGPT, se llama Cuando me dijiste lo de PodGPT ya asumí, porque parezca que no, pero tengo ciertas luces, o sea, yo tengo cierta capacidad aquí. Dentro y claro, yo PodGPT pensé: esto va a ser algo de podcast y de redes neuronales y grandes modelos de lenguaje. Es podcast de ciencia, además. Así es, pero son podcasts médicos. El título es, vamos a ver una traducción, que hagamos así: un modelo de lenguaje de gran escala, potenciado con audio para la investigación y la educación. Así se llama todo el título. Y bueno, antes de entrar en materia, quería hablaros de los autores, porque los primeros firmantes son unos estudiantes de doctorado y luego está el investigador principal y son de todo el mundo. El primer firmante es Xu Yue Chia, que es de Hong Kong, es graduado en Ciencias de la Computación por la Universidad de Hong Kong, pero ahora trabaja en Boston; la Universidad de Boston es la afiliación principal de este paper y el investigador principal es Indio. dime, dime ¿Te puedo interrumpir un momento? Es que estoy leyendo los comentarios en el chat cuando preguntaste cómo sería una IA entrenada. Ah, ¿qué has dicho? Hay gente diciendo, bueno, de todo. A ver, miedo me da. Hay quien dice, haría muchos chistes…
Héctor Socas explica su impresión inicial sobre PodGPT, asumiendo que estaría relacionado con podcasts, redes neuronales y modelos de lenguaje grandes, aunque resulta ser un podcast médico.
Habla: María RibesSignificado #2 · Palabras #1artículo podgpt hector socaspodgpt artículo interesantepodgpt podcast ciencia médicaredes neuronales modelos lenguaje grandespodcast potenciado audio investigaciónestudiantes doctorado podgptinvestigador principal indioxu yue chia hong konguniversidad boston afiliación paper…sea, qué sé yo, no sé, no tengo ni idea. Si Francis está solo, pues muy bien; yo creo que contestaría con exactitud todas las cosas. Si hubiera más de una pregunta a la vez, Francis diría: pues no, está mal. Te empezaría a decir cosas como: Wikipedia miente. Es que es un artículo muy chulo, por eso no quería que dijera el título antes de hacer esta pregunta, porque se llama PodGPT. El artículo se llama PodGPT, se llama Cuando me dijiste lo de PodGPT ya asumí, porque parezca que no, pero tengo ciertas luces, o sea, yo tengo cierta capacidad aquí. Dentro y claro, yo PodGPT pensé: esto va a ser algo de podcast y de redes neuronales y grandes modelos de lenguaje. Es podcast de ciencia, además. Así es, pero son podcasts médicos. El título es, vamos a ver una traducción, que hagamos así: un modelo de lenguaje de gran escala, potenciado con audio para la investigación y la educación. Así se llama todo el título. Y bueno, antes de entrar en materia, quería hablaros de los autores, porque los primeros firmantes son unos estudiantes de doctorado y luego está el investigador principal y son de todo el mundo. El primer firmante es Xu Yue Chia, que es de Hong Kong, es graduado en Ciencias de la Computación por la Universidad de Hong Kong, pero ahora trabaja en Boston; la Universidad de Boston es la afiliación principal de este paper y el investigador principal es Indio. dime, dime ¿Te puedo interrumpir un momento? Es que estoy leyendo los comentarios en el chat cuando preguntaste cómo sería una IA entrenada. Ah, ¿qué has dicho? Hay gente diciendo, bueno, de todo. A ver, miedo me da. Hay quien dice, haría muchos chistes…
María Ribes continúa describiendo a los autores del artículo PodGPT, detallando sus formaciones académicas y áreas de investigación. Menciona a Indio Vijaya Kolachalama como ingeniero aeroespacial y a Rhoda Au, una investigadora en neurociencia.
Habla: María RibesSignificado #1 · Palabras #2indio vijaya kolachalama ingeniero aeroespacialrhoda au investiga demencia envejecimiento cerebralframingham heart study factores riesgo cardiovascularpodgpt entrenado con podcast ciencia medicina…Ok, lo que os decía: la afiliación principal es la Universidad de Boston y el investigador principal es Indio Vijaya Kolachalama, que he investigado un poco, como hace Héctor, una investigación exhaustiva en Google y es ingeniero aeroespacial. ¿Qué os parece? Ingeniero aeroespacial por la Universidad Bengala Occidental, así como doctor en ingeniería mecánica por Southampton en Estados Unidos Pero hoy se dedica a crear software para mejorar el diagnóstico clínico y sobre todo crear grandes modelos neuronales para interactuar y procesar la información clínica Y también quería mencionar a una autora que es una mujer que es Rhoda Au y es una figura conocida en neurociencia, investiga demencia, envejecimiento cerebral y trabaja en una especie de fundación de estudios que se llama Framingham Heart Study que lo que hacen es estudiar los factores de riesgo cardiovascular o sea que toda esta gente se ha unido para crear este PODGPT al que han alimentado, han entrenado solo con podcast como dices tú Héctor, con podcast de ciencia pero principalmente medicina Yo, fíjate, no había caído, acabo de darme cuenta ahora, De la relación entre Bengala, esa región, y el tema pirotécnico hasta que me hablaste de un ingeniero aeroespacial. Y ahora se explica todo; yo estaba escuchando así atentamente, digo, ¿qué nos va a revelar? Pues sí, de ahí viene, y ya está; eso es lo que…
María Ribes explica cómo los autores de PodGPT han creado una base de datos vectorial para recuperar y contrastar información, utilizando fuentes como el New England Journal of Medicine (NEHM) y MedPub.
Habla: María RibesSignificado #9 · Palabras #10new england journal medicine nehmmedpub jornales importantesluciana descendiente egipcia nehem eternidad…¿vale? De estos de ciencia, tecnología, ingeniería Y son dos M's, porque solamente hay una M, que es matemáticas, pero aquí he añadido dos M's que son medicina que es medicina, ¿vale? Entonces, han entrenado al sistema escuchando todos esos podcasts, pero También han creado una base de datos, una base de datos vectorial, para recuperar información y contrastar información, un RAG y lo han sacado del NEHM, que es el New England Journal of Medicine y el MedPub, que son unos jornales bastante importantes. ¿Te está riendo algo del podcast? No, qué va, qué va, lo del Nehem, que me hizo gracia porque me vino a la mente, yo qué sé, alguna palabra árabe o algo así. Pero es que, es que en egipcio antiguo, Nehem es eternidad, porque tenemos una oyente, pues que es Luciana, que ella también es medio egipcia, Nehem significa la eternidad, ¿vale? Ahí lo dejo. Ok. Todas esas horas de audio han dado 42 millones de tokens de texto, ¿de acuerdo? Y han transcrito con el Whisper, con el Whisper Large V3 y lo que pretenden entrenar no solamente que aprenda cuestiones de medicina, de diagnóstico, sino que el objetivo de…
María Ribes explica que PodGPT incluye una prueba estándar para evaluar su rendimiento, similar a un 'megatest', y menciona específicamente la prueba MMLU (Multitask Linguistic Usefulness) para medir su comprensión del contenido médico.
Habla: María RibesPalabras #3dolor rodilla síntomas infartosistema podgpt aprende chats podcastsbase datos fuentes síntomas médicosprueba estándar podgptmegatest rendimiento podgptprueba mmlu comprensión médicabenchmark médico medexpqa…grandes modelos, como sabéis, pero contesta con las técnicas que ha aprendido de los tertulianos. También a veces se enfada o tiene algún tipo de contestación así, que es lo que nos gustaría a todos que nos dijeran: pues cállate, pues búscalo tú. Pero sobre Todo lo que hace es buscar en esa base de datos, entonces te lo confirma; es decir, me duele la rodilla o cuáles son los síntomas de un infarto. Esto podría ser un síntoma, me duele el dedo, ¿qué me pasa? Entonces el sistema te da lo que he aprendido con esos chats, con esos podcasts, pero aparte te buscan la base de datos y te da la fuente para que Tú puedas comprobar que es verdad. Entonces tiene un benchmark, no sé cómo traducir esto, una prueba estándar, un megatest, ¿cómo lo traducís eso? ¿O no lo traducís? Yo no lo traduzco, pero sería una prueba estándar, me gusta. No sé, tiene una prueba MMLU de Multitask Linguistic Usefulness, o sea, para que entienda no solamente del contenido, del contenido médico que también tiene un benchmark que es, ahora os digo cómo se llama el benchmark médico. Bueno, se llama con unas siglas MedExpQA, ¿vale? Como pregunta-respuesta. Tiene el benchmark de contenido medicinal científico exacto y el benchmark lingüístico porque, Como el investigador principal es indio, pues le ha metido también otras lenguas, entre ellas el español, ¿vale? Las lenguas que tienes: el inglés, el español, el francés, el hindi y el mandarín. Pues tenemos que hacerle llegar Coffee Break; ahí tendrá un…
María Ribes interrumpe la conversación sobre el modelo Whisper para señalar la importancia de la protección de datos y la ética clínica en relación con los podcasts y los historiales clínicos.
Habla: María RibesSignificado #11protección datos ética clínicahistoriales clínicos personas podcastinformación clínica datos personales…es que el rendimiento es igual en todas las lenguas o que a partir del inglés se transfiere a las otras lenguas pero como hay muchas palabras que son iguales, que tienen prefijos griegos, latinos, me pregunto yo, no sé si eso influirá en que suba esa mejora. No, simplemente termina porque lo que yo voy a decir creo que es un poco independiente del tema que estás contando, así que prefiero que termines y luego el comentario. Bueno, pues que al final hay una parte de protección de datos y ética clínica, que tienen mucho cuidado de no difundir información clínica ni datos personales de los podcasts que han escuchado o de los historiales clínicos de las personas. Y otra cosa que también, como está en progreso, no es que funcione perfectamente; tiene entrenamiento continuo, con todas las transcripciones, o sea, cada vez que le metes un nuevo podcast hay un pre-entrenamiento humano y un fine tuning anotado por humanos…