Búsqueda · 31 momentos en 19 episodios
Isabel CorderoBorja TosarJosé EdelsteinFrancis VillatoroHéctor SocasMaría RibesGastón Giribetmodelo whisper comprobación humanatérminos técnicos prefijos griegosconfusión términos modelo whispertérminos médicos raíces griegasrendimiento modelo whisper idiomasinfluencia prefijos latinos traducciónwhisper y lenguas equivalentesprotección datos ética clínicahistoriales clínicos personas podcastinformación clínica datos personalespre-entrenamiento humano podcastfine tuning anotado humanoswhisper transcribe podcastherramienta jose miguel robles cbWhisperGriegosMaría RibesGriegasLatínInglésGoogle DeepMindWhisper Large V3PodGPTNew England Journal of Medicine (NEHM)MedPubSheldon CooperKripkeWest of WandsGemmaGeminiJosé Miguel RoblesCoffee Break
Confusión términos modelo Whisper
Ep524: ¿Biomarcador Marciano?; Gravitondas y Teorema del Área; PodGPT
18 de septiembre de 20253 momentos
Con
0:000:301:001:302:002:303:003:28
María Ribes menciona que el modelo Whisper incluye una comprobación humana para resolver confusiones en términos técnicos, especialmente aquellos con prefijos de origen griego.
…que más han mejorado; entonces tú te lo puedes aplicar a tu universidad y no tienes que gastarte mucho dinero. Puedes tener un modelo pequeñito con no muchos subsets de Benchmark MMLU y mejora bastante, pero no lo he podido probar; está todavía en progreso. Y tiene una cosa que también te quería decir: que el whisper tiene una comprobación humana, porque hay muchos términos aquí al final del archivo. Especifican todos los términos que dan lugar a confusión, confunde los prefijos, sobre todo los griegos; que eso también me pregunto yo. Esto me lo estoy preguntando yo. Que en el mundo, en el contexto médico o clínico hay muchas palabras griegas y latinas que eso se transfiere muy bien a otras lenguas porque una cosa que dicen es que el rendimiento es igual en todas las lenguas o que a partir del inglés se transfiere a las otras lenguas pero como hay muchas palabras que son iguales, que tienen prefijos griegos, latinos, me pregunto yo, no sé si eso influirá en que suba esa mejora. No, simplemente termina porque lo que yo voy a decir creo que es un poco independiente del tema que estás contando, así que prefiero que termines y luego el comentario. Bueno, pues que al final hay una parte de protección de datos y ética clínica, que tienen mucho cuidado de no difundir información clínica ni datos personales de los podcasts que han escuchado o de los historiales clínicos de las personas. Y otra cosa que también, como está en progreso, no es que funcione perfectamente; tiene entrenamiento continuo, con todas las transcripciones, o sea, cada vez que le metes un nuevo podcast hay un pre-entrenamiento humano y un fine tuning anotado por humanos en última instancia. Pero bueno, el Gema que ha superado 12 puntos me ha parecido muy chulo, 12 puntos, ok. Lo que iba a decir es que recuerda mucho, además con el uso de Whisper para transcribir y todo, a la herramienta esta que se curró nuestro amigo José Miguel Robles; no quiero equivocarme con el apellido, para hacer consultas en la bibliografía de Coffee Break, que les recuerdo, tiene puesta una página web que es cb.cb, como de Coffee Break. Y también tiene una base de datos vectorial para hacer búsquedas que además son elásticas y la verdad que si no la han probado les recomiendo que se entretengan jugando un poquito con esa herramienta porque la verdad que es divertida. ¿Sí que lo has probado,…
Significado #1 · Palabras #1
María Ribes explica cómo se han generado 42 millones de tokens de texto a partir de más de 3.700 horas de audio, utilizando el Whisper Large V3 para la transcripción.
Habla: María RibesSignificado #3 · Palabras #3whisper large v3 transcripción audiotokens de texto medicina diagnósticotertulia preguntas respuestas reexplicacioneshector socas habla solo tertulia…vino a la mente, yo qué sé, alguna palabra árabe o algo así. Pero es que, es que en egipcio antiguo, Nehem es eternidad, porque tenemos una oyente, pues que es Luciana, que ella también es medio egipcia, Nehem significa la eternidad, ¿vale? Ahí lo dejo. Ok. Todas esas horas de audio han dado 42 millones de tokens de texto, ¿de acuerdo? Y han transcrito con el Whisper, con el Whisper Large V3 y lo que pretenden entrenar no solamente que aprenda cuestiones de medicina, de diagnóstico, sino que el objetivo de entrenarlo con audios es porque cuando hablamos en la tertulia, como hacemos aquí ahora mismo, porque estoy hablando solo yo, pero cuando hablamos y uno pregunta ¿y eso qué es? y otro contesta, otro contesta y otro reexplica y también cuando estamos en tertulia y nos vemos, lo que hacemos. Es respetar los turnos de conversación, tú sabes, por la forma que tiene uno de terminar la frase, no solo físicamente, me refiero a lingüísticamente, por el audio, por la forma que tiene uno de terminar la frase o de empezarla, sabes; se te va a dar pie a…
María Ribes continúa hablando sobre el modelo Gemma de Google DeepMind y su dificultad para entenderle, comparándolo con un personaje de la serie 'The Big Bang Theory'.
Habla: María RibesSignificado #5gemma de google deepmindidioma influencia modelos geminihablar inglés gemini maria ribesgemma google deepmindproblemas entendimiento gemma…dos gemas, ese es el de Google, el de DeepMind, tiene uno de, creo que son 2.000 millones de parámetros y otro tiene como 7.000 millones, o sea, son billones suyos que son millones nuestros, ¿no? Millones de millones, mil millones Miles de millones, sí Eso Es, miles de millones. Entonces el Gema, es Gemma, pero yo digo Gemma, ¿vale? Porque soy española, ¿qué pasa? Igual que digo Gemini, o decís Gemini, o decís Wi-Fi cuando habláis español, a ver. No, no, lo peor es mi caso, que yo aún hablando inglés digo Gemini. Eso explica un poco mi vida social también. Ok. el Gema. Sí, Gemini, no sé qué. ¿Te entiende? No, no me entiende la mierda. Es como el amigo de Sheldon, el jefe de Sheldon, Kripke, que no le iba a decir una mierda, no entiende. Porque decía, sí güey, oye, sí güey, West of Wands, ¿os acordáis de aquel episodio? Sí, no me entiende, porque no pronunciaba bien. Entonces, el Gema ha mejorado un y pico puntos en el MMLU pero ha mejorado hasta 12 puntos en la acribia científica médica clínica, hasta 12 puntos. Los enormes modelos, el Llama, el Llama de Meta creo que tiene 70.000 millones de parámetros, ese ha mejorado…
María Ribes menciona que el modelo Whisper incluye una comprobación humana para resolver confusiones en términos técnicos, especialmente aquellos con prefijos de origen griego.
Habla: María RibesSignificado #1 · Palabras #1modelo whisper comprobación humanatérminos técnicos prefijos griegosconfusión términos modelo whispertérminos médicos raíces griegasrendimiento modelo whisper idiomasinfluencia prefijos latinos traducciónwhisper y lenguas equivalentesprotección datos ética clínicahistoriales clínicos personas podcastinformación clínica datos personalespre-entrenamiento humano podcastfine tuning anotado humanoswhisper transcribe podcastherramienta jose miguel robles cb…que más han mejorado; entonces tú te lo puedes aplicar a tu universidad y no tienes que gastarte mucho dinero. Puedes tener un modelo pequeñito con no muchos subsets de Benchmark MMLU y mejora bastante, pero no lo he podido probar; está todavía en progreso. Y tiene una cosa que también te quería decir: que el whisper tiene una comprobación humana, porque hay muchos términos aquí al final del archivo. Especifican todos los términos que dan lugar a confusión, confunde los prefijos, sobre todo los griegos; que eso también me pregunto yo. Esto me lo estoy preguntando yo. Que en el mundo, en el contexto médico o clínico hay muchas palabras griegas y latinas que eso se transfiere muy bien a otras lenguas porque una cosa que dicen es que el rendimiento es igual en todas las lenguas o que a partir del inglés se transfiere a las otras lenguas pero como hay muchas palabras que son iguales, que tienen prefijos griegos, latinos, me pregunto yo, no sé si eso influirá en que suba esa mejora. No, simplemente termina porque lo que yo voy a decir creo que es un poco independiente del tema que estás contando, así que prefiero que termines y luego el comentario. Bueno, pues que al final hay una parte de protección de datos y ética clínica, que tienen mucho cuidado de no difundir información clínica ni datos personales de los podcasts que han escuchado o de los historiales clínicos de las personas. Y otra cosa que también, como está en progreso, no es que funcione perfectamente; tiene entrenamiento continuo, con todas las transcripciones, o sea, cada vez que le metes un nuevo podcast hay un pre-entrenamiento humano y un fine tuning anotado por humanos en última instancia. Pero bueno, el Gema que ha superado 12 puntos me ha parecido muy chulo, 12 puntos, ok. Lo que iba a decir es que recuerda mucho, además con el uso de Whisper para transcribir y todo, a la herramienta esta que se curró nuestro amigo José Miguel Robles; no quiero equivocarme con el apellido, para hacer consultas en la bibliografía de Coffee Break, que les recuerdo, tiene puesta una página web que es cb.cb, como de Coffee Break. Y también tiene una base de datos vectorial para hacer búsquedas que además son elásticas y la verdad que si no la han probado les recomiendo que se entretengan jugando un poquito con esa herramienta porque la verdad que es divertida. ¿Sí que lo has probado,…