Búsqueda · 24 momentos en 16 episodios
Sara RobiscoJuan Carlos GilFrancis VillatoroHéctor Socasrepositorio público para cubos de datosgrupos de investigación comparten códigoeficiencia en la gestión de datosevitar duplicidad en bases de datosdatos sentinel de varios observatoriosequipo especializado en gestión de datosapi para datos sentinel procesadospublicación de datos para todo el mundodatos satelitales y herramientas específicascubos incompletos sentinel y órbitasgestión de cubos con valores vacíosorígenes de datos distintos y mezcla de cubosherramientas para gestionar cubos de datosciclo de vida continuo de tecnologíadatos y nuevos instrumentosSara RobiscoSentinel31 páginasFrancis VillatoroAPIiSentinelHéctor SocasEuropaSuizaMachine LearningDavid MonteroUniversidad de LeithpigLeipzigFTP
Eficiencia en la gestión de datos
Con
0:000:301:001:302:002:303:003:21
Sara Robisco explica la ventaja de centralizar el código para generar cubos de datos en un repositorio público, permitiendo a varios grupos de investigación acceder y utilizarlo sin tener que desarrollar sus propias soluciones.
…que les resuelve ese problema y genera un código público que el geofísico puede utilizar: público o a nivel de su organización, pero la idea es trabajar solo una vez. Quiero decir, yo te hago el cubo, se actualiza periódicamente y ya no tengo que hacer más. En cambio, tú imagínate que hay varios grupos de investigación que quieren datos, entonces a lo mejor están todos haciendo el mismo código o código distinto para hacer lo mismo. Si tú lo tienes en un repositorio, oye, esto está aquí y todos pueden consultar; has trabajado una vez. Entonces, lo que habla es eso de hacer todo un poquito más eficiente, ser un poquito más eficientes y no tener N grupos de personas que tienen que conocer bases de datos, que conocer metadatos, que conocer programación. ¿Por qué? Cuando puedes tener un pequeño equipo que depende de cuando surge una nueva necesidad, te lo cubre, te lo hace y ¡pum! Y ese trabajo te puede valer pues o bien para todo un centro de investigación o para varios, porque es el mismo De hecho, ellos proponen, una de las cosas que se proponen es, jolín, si tú tienes datos de Sentinel, por ejemplo, pero claro, de varios observatorios, agruparlos, de un equipo que los agrupe y te los publique para todo el mundo que quiera consultar a tu equipo, tener una API, pues, por ejemplo, que Sentinel tenga una API que te dé datos ya procesadito y listo para trabajar o sea sí es que se ahorraría mucho tiempo y la verdad es que articula malo montón por eso porque te está explicando ejemplos de datos satelitales que ya usan este tipo de herramientas que son muy buenos ellos le dan también una vuelta descubren pues eso que hay hay cubos incompletos por ejemplo tenemos los datos de Sentinel sobre todo trabajan mucho con él que claro te cubren una fracción de la tierra pero su cubo no es perfecto tiene huecos porque hay zonas de la Tierra que no ve debido a su a su órbita entonces claro que haces ahí no entonces tienes los cubos tienen que ser en este caso un poquito raros porque tienen que tener permitir huecos pues eso valores vacíos y ya está entonces tienes que tener muchas cosas en cuenta dependiendo de tus orígenes de datos orígenes de datos distintos mezclarlos para un cubo es un trabajo pero solo se hace una vez La idea es currar una vez para que todo el mundo ya pueda trabajar. Esa es la filosofía esencial de las 31 páginas, pero la verdad es que plantea eso muchísimos problemas, ¿no? Sí, claro que esto sobre el papel y así contado parece una maravilla porque si fuera gratis absolutamente todo, pero construir todo este tipo de tecnología, el adaptarla, el hacer que tenga un ciclo de vida continuo, porque claro, los problemas que se quieren resolver, el tipo de datos, puede aparecer nuevos instrumentos que te ofrezcan nuevos tipos de datos, ¿Cómo se pegan esos datos a los datos ya existentes? Pues no es una cosa nada ideal, eso requiere un trabajo de muchísima gente durante mucho tiempo. Y tienes un problema también, porque en ciencias de la tierra tienes el problema de que alguien te puede…
Significado #1 · Palabras #1
Sara Robisco explica las características esenciales de un cubo de datos o base de datos analítica, enfatizando la necesidad de rapidez en las consultas y la oferta de herramientas para el análisis estadístico.
Habla: Sara RobiscoSignificado #2datos geociencias escalas diferentesartículo robisco sobre orígenes datosbuenas prácticas para no informáticoscubos de datos para geocienciasftp y almacenamiento antiguotablas de base de datos relacionalesrepositorio de imágenes sara robiscobase de datos relacional y hechoshechos y dimensiones en análisis de datosventa como hecho con objetoscubo de datos rapidez en consultasbase de datos analítica herramientas estadisticasquery respuesta rápidaanálisis de datos para físicosprogramación para biólogosgeólogos sin programación…este artículo que tiene gente, hay gente española en él, o sea David Montero que es de la Universidad de Leithpig Son casi todos, vienen de Leipzig y tal, pero hay gente española en esta investigación. Bueno, realmente no es una investigación. ¿Qué proponen? Ante esta dificultad de orígenes de datos, este batiburrillo de datos de diferentes escalas, diferentes tipos, que cada uno pone los datos como quiere, diferentes medidas, datos incompletos, tenemos un batiburrillo que no veas, y claro, ellos dicen, oye, ¿hay alguna forma? de modelar estos datos y hacer unas buenas prácticas o hacer un muñeco, algo que alguien que no tiene ni idea de programación, que no tiene ni idea de bases de datos, alguien que no es informático pueda tratar y este artículo de 31 páginas es eso, son buenas prácticas y es una propuesta muy interesante, Pero vamos a empezar un poco explicando lo que son los cubos de datos porque ellos proponen tomar, hacer una recopilación de datos y usar cubos, lo que viene siendo bases de datos analíticas, cubos de datos. Así que antes de tener estos cubos de datos lo que proponen es que antiguamente estos datos recopilados se guardaban en, accedíamos a ellos como por FTP y que ahora hay formas seguras de compartirlos; hemos evolucionado bastante. Pero no hemos evolucionado en cómo los almacenamos y cómo se visualizan, que eso es importante. Actualmente tenemos las tablas, siguen siendo las tablas de base de datos relacionales que se usaban y se siguen usando. Las imágenes, pues pum, imágenes todas en un repositorio. Entonces esto no, a la hora de hacer un análisis de datos, no es efectivo, no es fácil de manejar. Y claro ellos buscan una forma sencilla y el cubo de datos es, consiste en cambiar un poco la visión del dato. Y nosotros en una base de datos relacional, una base de datos normal que tenemos datos y relaciones entre datos, en un cubo de datos, en una base de datos analítica lo que nosotros estudiamos son hechos y esto es un hecho y las dimensiones que describen ese hecho. Entonces, un hecho puede ser una venta, una venta puede ser, tiene como dimensiones el objeto o los objetos. ¿Qué se han vendido?, la persona que los ha comprado, la tienda donde los ha comprado, la persona que ha atendido a esa persona. Puedes tener tantas dimensiones como tú quieras analizar porque al final esto, un cubo de datos, una base de datos analítica tiene que tener unas características muy claras: tienen que ser rápidas de consultar, o sea, te tienen que dar esa respuesta muy rápido. No puedo tener algo que para lanzo una query y a los minutos me responde, no; y te tiene que ofrecer herramientas de análisis estadístico, generación. De informes, pero sin que la persona que trabaja con ellos tenga que programar. ¿Por qué? Porque un físico o un biólogo va a tener que saber programar para analizar sus datos. ¿Por qué un geólogo va a tener que perder tiempo en programar? Deja que haya un equipo de análisis de datos, de Diseño de datos: un grupo de científicos de datos que le preparen el paquete que vas a usar, toma, esto es lo que vas a usar y cómo se va a actualizar y todas estas cosas para que ellos simplemente dediquen su esfuerzo en lo que realmente importa para ellos,…
Sara Robisco explica cómo los cubos de datos facilitan el estudio de series temporales, la adjudicación de costes y el análisis de cambios en la distribución climática.
Habla: Sara RobiscoSignificado #13cubos de datos para series temporalesmachine learning en cubos de datosextrapolación con machine learninganálisis de distribución climática robiscocubos de datos para científicosintercambio de información sara robiscoacceso a datos sin queryrespuestas sin consultas complejas…esto es lo que vas a usar y cómo se va a actualizar y todas estas cosas para que ellos simplemente dediquen su esfuerzo en lo que realmente importa para ellos, que es analizar su dato con sus conocimientos. Las herramientas o lab, que son los cubos, pues se Les ayuda un montón. ¿A qué? A estudiar series temporales, a adjudicar costes, a ver cambios en la distribución climática, todo lo que quieras. Porque tú piensas que cuando tienes una tabla de datos, tú preguntas: bueno, ¿qué y a quién? Por ejemplo, una compra, ¿qué? ¿Qué se ha comprado y a quién? Vale, pero es que en un cubo de datos podemos preguntar: ¿por qué? ¿Qué pasa si podemos hacer cálculos de datos y añadir nuevos elementos y preguntar qué pasaría si podemos extrapolar si aplicamos herramientas como son Machine Learning a nuestro cubo? Entonces da una potencia muy buena sin tener que estar perdiendo tiempo. Estos cubos también, una vez los tenemos construidos, se comparten muy fácilmente porque tú no compartes el dato en crudo, tú compartes, cuelgas en internet y la persona pues tiene su cubo y dice: no quiero hacer esta pregunta de dato y sin tener que lanzar una query, pregunta y obtiene su respuesta. Muchas veces os veréis los cubos que los compartimos en forma de visualización de datos, esas visualizaciones de datos que veis tan bonitas que pues sobre modelos climáticos, sobre los mapas coloreados, todo eso viene de estos cubos, o sea se está haciendo ya y luego esta información se puede guardar y no se…
Sara Robisco explica que la implementación de pequeños repositorios con cubos orientados a cada grupo científico simplifica el acceso y análisis de datos, ya que los usuarios pueden obtener respuestas directamente sin necesidad de realizar consultas complejas.
Habla: Sara RobiscoSignificado #16cubos orientados a cada grupo científicociclo de vida de datos adaptadorepositorios con cubos científicos…ciencias de la Tierra, no; lo que ellos proponen también, el uso de cubos, lo que propone, lo esencial es no tener una base de datos global con todo un repositorio global, sino tener pequeños repositorios con pequeños cubos orientados a cada grupo científico. Esto simplifica mucho porque tú vas a tiro hecho. Entonces accedes, tienes tu cubo ya preparado y haces una pregunta y ya te lo da. Pero claro, dices: “Ostras, lo ves muy bonito, pero ¿qué problemas tenemos?”. Pues lo primero es el ciclo de vida. ¿Por qué? Porque nosotros el ciclo de vida de estos cubos es el ciclo de vida de datos un poquito adaptado, ¿no? La recopilación de datos, ellos proponen una curación, un tratamiento de datos para unificar porque puedes tener satélites que midan en millas, otros en kilómetros; tienes que hacer ese tratamiento de unificación, crear un cubo, luego otro tratamiento de…
Sara Robisco explica cómo los científicos de datos pueden desarrollar sistemas automatizados para actualizar cubos de datos, utilizando APIs o técnicas de scrapping para capturar nuevas versiones de datos como los proporcionados por iSentinel.
Habla: Sara RobiscoSignificado #8científico de datos y cubos de datosactualización automatizada con api isentinelscrapping para nuevas versiones de datosalmacenamiento de datos imágenescubos de datos muy pequeñossoluciones en la nube bases datos…release de datos, de satelitales o de tu origen, por ejemplo, iSentinel, cuando iSentinel envíe una nueva versión de sus datos, pues tener sistemas automáticos que lo capten, actualicen iQ, y al científico que está estudiando ese dato ya le llegue hecho. Pues esto lo podríamos hacer mediante APIs, mediante se me iba a decir un scrapping, pues eso, el científico de datos lo que te hace es que te lo desarrolla, mira, se va a actualizar así, puedes hacer lo que se actualice cada X tiempo directamente cuando salte la API, está escuchando y cuando vea un cambio, ¡fun! Y hasta aquí un pie. ¿Qué pasa? Que esto también tiene retos de almacenamiento de datos porque estamos hablando de que, por ejemplo, en datos de imágenes, imágenes más metadatos, estamos hablando de que puede que tengamos cubos de datos muy pequeños pero puede que a cosas se desmadre. Ya tenemos soluciones en la nube adaptadas para este tipo de bases de datos analíticas. entonces ellos te muestran ejemplos que se podrían usar, digamos que el paper lo que te está dando es: oye, si quieres hacer esto usa esta herramienta; si quieres hacer aquello usa esta herramienta, y te va poniendo qué retos hay y qué herramientas te pueden…
Sara Robisco explica la ventaja de centralizar el código para generar cubos de datos en un repositorio público, permitiendo a varios grupos de investigación acceder y utilizarlo sin tener que desarrollar sus propias soluciones.
Habla: Sara RobiscoSignificado #1 · Palabras #1repositorio público para cubos de datosgrupos de investigación comparten códigoeficiencia en la gestión de datosevitar duplicidad en bases de datosdatos sentinel de varios observatoriosequipo especializado en gestión de datosapi para datos sentinel procesadospublicación de datos para todo el mundodatos satelitales y herramientas específicascubos incompletos sentinel y órbitasgestión de cubos con valores vacíosorígenes de datos distintos y mezcla de cubosherramientas para gestionar cubos de datosciclo de vida continuo de tecnologíadatos y nuevos instrumentos…que les resuelve ese problema y genera un código público que el geofísico puede utilizar: público o a nivel de su organización, pero la idea es trabajar solo una vez. Quiero decir, yo te hago el cubo, se actualiza periódicamente y ya no tengo que hacer más. En cambio, tú imagínate que hay varios grupos de investigación que quieren datos, entonces a lo mejor están todos haciendo el mismo código o código distinto para hacer lo mismo. Si tú lo tienes en un repositorio, oye, esto está aquí y todos pueden consultar; has trabajado una vez. Entonces, lo que habla es eso de hacer todo un poquito más eficiente, ser un poquito más eficientes y no tener N grupos de personas que tienen que conocer bases de datos, que conocer metadatos, que conocer programación. ¿Por qué? Cuando puedes tener un pequeño equipo que depende de cuando surge una nueva necesidad, te lo cubre, te lo hace y ¡pum! Y ese trabajo te puede valer pues o bien para todo un centro de investigación o para varios, porque es el mismo De hecho, ellos proponen, una de las cosas que se proponen es, jolín, si tú tienes datos de Sentinel, por ejemplo, pero claro, de varios observatorios, agruparlos, de un equipo que los agrupe y te los publique para todo el mundo que quiera consultar a tu equipo, tener una API, pues, por ejemplo, que Sentinel tenga una API que te dé datos ya procesadito y listo para trabajar o sea sí es que se ahorraría mucho tiempo y la verdad es que articula malo montón por eso porque te está explicando ejemplos de datos satelitales que ya usan este tipo de herramientas que son muy buenos ellos le dan también una vuelta descubren pues eso que hay hay cubos incompletos por ejemplo tenemos los datos de Sentinel sobre todo trabajan mucho con él que claro te cubren una fracción de la tierra pero su cubo no es perfecto tiene huecos porque hay zonas de la Tierra que no ve debido a su a su órbita entonces claro que haces ahí no entonces tienes los cubos tienen que ser en este caso un poquito raros porque tienen que tener permitir huecos pues eso valores vacíos y ya está entonces tienes que tener muchas cosas en cuenta dependiendo de tus orígenes de datos orígenes de datos distintos mezclarlos para un cubo es un trabajo pero solo se hace una vez La idea es currar una vez para que todo el mundo ya pueda trabajar. Esa es la filosofía esencial de las 31 páginas, pero la verdad es que plantea eso muchísimos problemas, ¿no? Sí, claro que esto sobre el papel y así contado parece una maravilla porque si fuera gratis absolutamente todo, pero construir todo este tipo de tecnología, el adaptarla, el hacer que tenga un ciclo de vida continuo, porque claro, los problemas que se quieren resolver, el tipo de datos, puede aparecer nuevos instrumentos que te ofrezcan nuevos tipos de datos, ¿Cómo se pegan esos datos a los datos ya existentes? Pues no es una cosa nada ideal, eso requiere un trabajo de muchísima gente durante mucho tiempo. Y tienes un problema también, porque en ciencias de la tierra tienes el problema de que alguien te puede…
Sara Robisco, con la participación de Héctor Socas, argumenta sobre la necesidad de un organismo centralizado para estandarizar el manejo de datos científicos.
Habla: Sara RobiscoSignificado #9organización centralizada para datos científicosdatos científicos de diferentes fuentesreglas para el manejo de datosunificación de datos por un organismounificación datos científicoscoste infraestructura datosactualización datos iteracióninstalaciones europeas suiza…que no todo el mundo se adhiere al estándar estricto o hay quien empieza a desarrollar un nuevo estándar, pero le voy a añadir no sé qué cosa y ya empezamos a liarla, porque todo eso siempre con muy buena voluntad, pero al final acaba generando un caos. Al final tiene que haber una organización central dictatorial que diga: estas son las reglas y lo que no sea esto no cumple o alguien que unifique, porque claro, tiene que haber un organismo que unifique esos datos porque claro, si tienes una fuente que te hace unas cosas de una manera, otra que te hace los datos de otra, otra que te los hace de otra y tienes que unir sus Datos, pues tienes que hacer un trabajo de unificación y todo y decir: bueno, señores, trabajamos a partir de aquí con esto ya, pero claro, eso implica mucho cálculo, muchas horas y tal. Y claro, significa que cuando te viene una actualización de datos, se hagan todos esos cálculos, una iteración y se genere de nuevo. Sí, es un mundo ideal, maravilloso; si todo fuera coste cero sería maravilloso, pero el coste de ese tipo de infraestructura es enorme y con los conflictos geopolíticos que tenemos, etc. Habrá instalaciones de ese tipo europeas, habrá una suiza, habrá Una estadounidense habrá una japonesa, habrá una australiana, habrá una china y ahí has dado, Francis, si tienes una China que no comparte o si tienes un país que no tiene acceso a los datos porque le han vetado. Sí, o China aprovecha lo que los demás…