Sara Robisco explica la necesidad de un equipo de científicos de datos que preparen el paquete de datos para los geólogos, permitiéndoles enfocarse en el análisis con su conocimiento especializado.
…muy claras: tienen que ser rápidas de consultar, o sea, te tienen que dar esa respuesta muy rápido. No puedo tener algo que para lanzo una query y a los minutos me responde, no; y te tiene que ofrecer herramientas de análisis estadístico, generación. De informes, pero sin que la persona que trabaja con ellos tenga que programar. ¿Por qué? Porque un físico o un biólogo va a tener que saber programar para analizar sus datos. ¿Por qué un geólogo va a tener que perder tiempo en programar? Deja que haya un equipo de análisis de datos, de Diseño de datos: un grupo de científicos de datos que le preparen el paquete que vas a usar, toma, esto es lo que vas a usar y cómo se va a actualizar y todas estas cosas para que ellos simplemente dediquen su esfuerzo en lo que realmente importa para ellos, que es analizar su dato con sus conocimientos. Las herramientas o lab, que son los cubos, pues se Les ayuda un montón. ¿A qué? A estudiar series temporales, a adjudicar costes, a ver cambios en la distribución climática, todo lo que quieras. Porque tú piensas que cuando tienes una tabla de datos, tú preguntas: bueno, ¿qué y a quién? Por ejemplo, una compra, ¿qué? ¿Qué se ha comprado y a quién? Vale, pero es que en un cubo de datos podemos preguntar: ¿por qué? ¿Qué pasa si podemos hacer cálculos de datos y añadir nuevos elementos y preguntar qué pasaría si podemos extrapolar si aplicamos herramientas como son Machine Learning a nuestro cubo? Entonces da una potencia muy buena sin tener que estar perdiendo tiempo. Estos cubos también, una vez los tenemos construidos, se comparten muy fácilmente porque tú no compartes el dato en crudo, tú compartes, cuelgas en internet y la persona pues tiene su cubo y dice: no quiero hacer esta pregunta de dato y sin tener que lanzar una query, pregunta y obtiene su respuesta. Muchas veces os veréis los cubos que los compartimos en forma de visualización de datos, esas visualizaciones de datos que veis tan bonitas que pues sobre modelos climáticos, sobre los mapas coloreados, todo eso viene de estos cubos, o sea se está haciendo ya y luego esta información se puede guardar y no se…
Héctor Socas bromea sobre haber revelado información sobre un artículo relacionado con SETI, anticipando que esto podría disuadir a algunos oyentes de sintonizar el próximo episodio. Luego introduce el tema de los 'cubos de datos' en relación con la Tierra, haciendo una comparación humorística con elementos de Star Trek.
Habla: Héctor SocasSignificado #5seti y próximos episodioshipercubos de la tierra borgdatos en cubos científicos…sin tiempo Entonces el otro paper que había de SETI, que era más normal, lo vamos a dejar para la semana que viene No se preocupen que no han detectado ninguna civilización extraterrestre todavía, así que no pasa nada si lo contamos la semana que viene Ya hice el spoiler, no debería haber dicho eso porque ahora ya nadie va a escuchar la semana que viene. Van a decir: “Mierda, si no hay extraterrestres, no escucho”. Yo espero al siguiente, a ver si ya han encontrado alguno. Y vamos entonces, Sara, con los hipercubos de la Tierra, que suena un poco a cosas de Borg y Star Trek, pero no, cubos de datos. Es cubos de datos. Cubos de datos, no que traigas un montón de datos así en cubos, ¿no? Ya sabéis que a los científicos de datos siempre nos ha gustado el cubo y la pala. La pala, exacto. El cubo y la pala, somos el cubo y pala. Pues cuéntanos este trabajo que nos proponías, que hablaban del análisis de datos de geosciencias en este caso Exacto, en el tema de las geosciencias tenemos un problemilla y es que tenemos múltiples datos, una enorme cantidad de datos, tenemos una enorme…
Sara Robisco explica la necesidad de un equipo de científicos de datos que preparen el paquete de datos para los geólogos, permitiéndoles enfocarse en el análisis con su conocimiento especializado.
Habla: Sara RobiscoSignificado #1 · Palabras #1análisis de datos para físicosprogramación para biólogosgeólogos sin programacióncientíficos de datos preparan paquetesgeólogos analizan dato especializadoherramientas lab para análisiscubos de datos para series temporalesmachine learning en cubos de datosextrapolación con machine learninganálisis de distribución climática robiscocubos de datos para científicosintercambio de información sara robiscoacceso a datos sin queryrespuestas sin consultas complejas…muy claras: tienen que ser rápidas de consultar, o sea, te tienen que dar esa respuesta muy rápido. No puedo tener algo que para lanzo una query y a los minutos me responde, no; y te tiene que ofrecer herramientas de análisis estadístico, generación. De informes, pero sin que la persona que trabaja con ellos tenga que programar. ¿Por qué? Porque un físico o un biólogo va a tener que saber programar para analizar sus datos. ¿Por qué un geólogo va a tener que perder tiempo en programar? Deja que haya un equipo de análisis de datos, de Diseño de datos: un grupo de científicos de datos que le preparen el paquete que vas a usar, toma, esto es lo que vas a usar y cómo se va a actualizar y todas estas cosas para que ellos simplemente dediquen su esfuerzo en lo que realmente importa para ellos, que es analizar su dato con sus conocimientos. Las herramientas o lab, que son los cubos, pues se Les ayuda un montón. ¿A qué? A estudiar series temporales, a adjudicar costes, a ver cambios en la distribución climática, todo lo que quieras. Porque tú piensas que cuando tienes una tabla de datos, tú preguntas: bueno, ¿qué y a quién? Por ejemplo, una compra, ¿qué? ¿Qué se ha comprado y a quién? Vale, pero es que en un cubo de datos podemos preguntar: ¿por qué? ¿Qué pasa si podemos hacer cálculos de datos y añadir nuevos elementos y preguntar qué pasaría si podemos extrapolar si aplicamos herramientas como son Machine Learning a nuestro cubo? Entonces da una potencia muy buena sin tener que estar perdiendo tiempo. Estos cubos también, una vez los tenemos construidos, se comparten muy fácilmente porque tú no compartes el dato en crudo, tú compartes, cuelgas en internet y la persona pues tiene su cubo y dice: no quiero hacer esta pregunta de dato y sin tener que lanzar una query, pregunta y obtiene su respuesta. Muchas veces os veréis los cubos que los compartimos en forma de visualización de datos, esas visualizaciones de datos que veis tan bonitas que pues sobre modelos climáticos, sobre los mapas coloreados, todo eso viene de estos cubos, o sea se está haciendo ya y luego esta información se puede guardar y no se…
Sara Robisco explica cómo los cubos de datos permiten a los científicos evitar programar código innecesario para el análisis de datos, destacando la importancia de la multidimensionalidad en su estructura.
Habla: Sara RobiscoSignificado #8cubos de datos para científicosmultidimensionalidad en cubos de datossatélite y hechos climatológicos…cubo en el que obtienes tus imágenes escaneadas de satelitales por ejemplo y sus metadatos asociados como dimensiones, entonces que te da mucha más información para la persona que tiene que trabajar con ese dato. Al final la idea de iCubo como que pega, para Hacer ciencia viene muy bien sobre todo si queremos que la gente que hace ciencia no esté picando código que para ellos sinceramente no les aporta valor añadido. Entonces, otra, aparte de estas características que he anunciado, pues la multidimensionalidad nos viene, es la más principal, ¿no? Y es que puedes hacer, pues eso, preguntas ad hoc, o sea, en el momento; ¿y cómo organizas el cubo? Pues muy fácil, imagínate tú tienes en cada eje una dimensión. Me vas a decir, bueno, entonces, ¿es tridimensional? No. La visualización nosotros lo llamamos cubo por simplificar, pero puede tener muchísimas dimensiones y una forma muy extraña. Pero vamos a situarnos en tres dimensiones. Tendrías las dimensiones en los ejes y te quedaría un cubo. Cada celda de ese cubo se corresponde con un hecho en concreto. Imaginaos que tenemos un satélite pasando por la Tierra que está viendo hechos climatológicos, de tiempo, metrológicos y los va almacenando. Entonces esto, a diferencia de las hojas de cálculo, por ejemplo una tabla o un Excel en el que cada columna está numerada y nos da igual la columna; aquí cada columna aporta un valor, porque cada eje, creo que sería la columna o la fila, lo que nos está…
Sara Robisco discute sobre el proceso de creación de cubos de datos, específicamente abordando la propuesta de curación y tratamiento inicial de los datos para unificar unidades de medida como millas y kilómetros.
Habla: Sara RobiscoPalabras #7satélites miden en millas kilómetroscuración tratamiento inicial datoscubo de datos dimensionesarmonización elimina valores nulos…una pregunta y ya te lo da. Pero claro, dices: “Ostras, lo ves muy bonito, pero ¿qué problemas tenemos?”. Pues lo primero es el ciclo de vida. ¿Por qué? Porque nosotros el ciclo de vida de estos cubos es el ciclo de vida de datos un poquito adaptado, ¿no? La recopilación de datos, ellos proponen una curación, un tratamiento de datos para unificar porque puedes tener satélites que midan en millas, otros en kilómetros; tienes que hacer ese tratamiento de unificación, crear un cubo, luego otro tratamiento de armonización y yo por ejemplo no estoy de acuerdo con esto. Yo digo primero cura el dato, luego armoniza, elimina valores nulos, rellena huecos, etc., y luego hace el cubo. Ya preparas tus dimensiones y qué quieres preguntar; tú configuras porque el cubo me vas a decir: bueno, ¿y qué quieres preguntar? Pues tú las dimensiones; bueno que tiene el cubo es que le puedes girar, puedes cambiar preguntas y luego además puedes cambiar la Resolución. Podemos hacer preguntas sobre todo el cubo o sobre pequeños segmentos del cubo; podemos quitar dimensiones, podemos agregar dimensiones, podemos hacer lo que queramos, súper versátil. Una vez hacemos esto, podemos aplicar Machine Learning para…
Sara Robisco explica cómo los científicos de datos pueden desarrollar sistemas automatizados para actualizar cubos de datos, utilizando APIs o técnicas de scrapping para capturar nuevas versiones de datos como los proporcionados por iSentinel.
Habla: Sara RobiscoSignificado #3reutilización de cubos de datosactualización constante de datosisentinel y nuevas versionesciencia de la tierra mecanismo vivocientífico de datos y cubos de datosactualización automatizada con api isentinelscrapping para nuevas versiones de datos…da. Entonces tú ya tendrías tu pequeño cubo con esas situaciones que a ti te interesan. Una vez tienes esto, pues tú ya haces tus análisis, tu visualización de datos si quieres mostrarlo al mundo, mostrarlo a alguien o tomar decisiones y luego está una parte. Que quizás es la más complicada cuando hablamos de cubos, que es la reutilización, porque aquí tenemos dos opciones: dejar este cubo ya estático, se quedó ahí, o en ciencias de la tierra esto no vale ¿Por qué? Porque la Tierra es un mecanismo, está viva, va evolucionando, entonces lo que tienes que hacer es volver a ir generando datos; entonces lo que tienes que hacer es desarrollar herramientas que cuando haya nuevas release de datos, de satelitales o de tu origen, por ejemplo, iSentinel, cuando iSentinel envíe una nueva versión de sus datos, pues tener sistemas automáticos que lo capten, actualicen iQ, y al científico que está estudiando ese dato ya le llegue hecho. Pues esto lo podríamos hacer mediante APIs, mediante se me iba a decir un scrapping, pues eso, el científico de datos lo que te hace es que te lo desarrolla, mira, se va a actualizar así, puedes hacer lo que se actualice cada X tiempo directamente cuando salte la API, está escuchando y cuando vea un cambio, ¡fun! Y hasta aquí un pie. ¿Qué pasa? Que esto también tiene retos de almacenamiento de datos porque estamos hablando de que, por ejemplo, en datos de imágenes, imágenes más metadatos, estamos hablando de que puede que tengamos cubos de datos muy pequeños pero puede que a cosas se desmadre. Ya…
Sara Robisco explica que los científicos de datos deberían encargarse de preparar el código necesario para el análisis de datos, utilizando lenguajes como Python.
Habla: Sara RobiscoSignificado #2código para análisis de datos pythoncientíficos de datos y preparación códigokaggle como herramienta online…esto usa esta herramienta; si quieres hacer aquello usa esta herramienta, y te va poniendo qué retos hay y qué herramientas te pueden ayudar en cuanto a almacenamiento o potencia de cálculo. Puedes hacer tener un análisis de datos que puedes hacer desde tu portátil sí pero vas a tener otros que necesites soluciones online como un Kaggle como Google Collab, cosas así, pero bueno, a día de hoy no pasaría nada, pero claro, como yo digo, al final, esa herramienta de análisis, ese picara el código, la idea es que no lo tenga que hacer el científico dárselo, entonces tendría su conjunto de científicos de datos que diría, vale, pues yo te lo preparo, normalmente lo más usado que es Python, pero yo por ejemplo los que he usado, Los que he hecho han sido con SQL Server porque una base de datos reaccional normal te lo traga si no estás tratando con imágenes, si son datos normales pues te lo traga y luego hacer el cubo lo haces en Visual Studio,…
Sara Robisco, junto con Francis Villatoro, discuten sobre la necesidad de un consultor informático para los geofísicos al acceder a información jerarquizada en cubos de datos.
Habla: Sara RobiscoSignificado #6geofísicos y consultor informáticocubos de datos para científicospython o visa de estudiodesarrollo del cubo por expertos…los expertos en ciencias de la tierra usen este tipo de herramientas sin tener un conocimiento informático de programación, etcétera, de que haya una serie de software que les habiliten a acceder a este tipo de información jerarquizada en forma de cubos. Pero por otro lado, a veces comentas como que es muy fácil acceder a esa información con un pequeño código de Python, con un no sé qué, y dices, pero claro, el geofísico tiene que tener un consultor informático. Claro, la persona que elabora ese cubo para que la gente pueda beber de él, es la que te va a hacer el código o bien en Python o en Visa de Estudio, porque claro, aquí lo que te están hablando es tanto de aparte para la persona científico como para la persona que desarrolla el cubo. Entonces ellos te están diciendo cómo lo vas a desarrollar y cómo lo vas a publicar para que tu científico solo mueva datos y visualice. O sea, digamos que tenía que haber una comunidad mixta de informáticos y de científicos y geofísicos; y los geofísicos de vez en cuando plantean cuestiones que quieren resolver. Pues mira, con este tipo de información me gustaría poder hacer esto, pero yo no…