2024-10-01
2024-10-01
📍 Magdeburg
👨🏽🔬 wissenschaftlicher Mitarbeiter
🏫 Institut für Biometrie und Medizinische Informatik (IBMI), Med. Fakultät Universitätsklinikum Magdeburg A. ö. R.
Verwendung von Dagster als Workflow-Orchestrator für ETL-Prozesse
Datenbasierte Workflows mit Assets: Vorstellung der zentralen Rolle von Assets in Dagster, mit Fokus auf die bessere Transparenz und Wartbarkeit von Pipelines
Zusammenarbeit zwischen Teams durch klare Rollenaufteilung: Erklären, wie Dagster die Zusammenarbeit zwischen Daten-Teams und Infrastruktur-Teams unterstützt, indem es Rollen und Verantwortlichkeiten klar trennt.
Die TeilnehmerInnen kennen...
Dagster als Werkzeug zur Orchestrierung von ETL-Pipelines.
Grundlagen von Dagster: Verstehen der Kernkonzepte wie Assets, Pipelines und Graphen, sowie ihre Rolle in der Strukturierung von Workflows.
Nachvollziehbarkeit und Datenabhängigkeiten: Erkennen, wie Dagster den Überblick über Datenabhängigkeiten verbessert und durch Asset-basierte Workflows die Transparenz über Datenflüsse erhöht.