Data Engineer
Summary
Designs and maintains ETL pipelines and data flows to integrate and share data between systems, using SQL, Kafka, and REST APIs in a collaborative environment.
Dołącz do projektu realizowanego w międzynarodowym środowisku, którego celem jest rozwój nowoczesnych rozwiązań do integracji i udostępniania danych. Osoba na tym stanowisku będzie uczestniczyć w budowie oraz rozwoju procesów ETL, projektowaniu przepływów danych oraz tworzeniu fundamentów dla nowoczesnej architektury data sharing.
Zakres obowiązków
Projektowanie, rozwój i utrzymanie procesów ETL oraz pipeline'ów danych.
Integracja danych pomiędzy różnymi systemami i aplikacjami.
Tworzenie przepływów danych w modelu batch oraz streaming.
Współpraca z zespołami odpowiedzialnymi za architekturę danych.
Rozwijanie rozwiązań wspierających udostępnianie i wymianę danych.
Udział w tworzeniu i wdrażaniu standardów integracji oraz jakości danych.
Wymagania
Doświadczenie w projektowaniu i budowie procesów ETL.
Bardzo dobra znajomość SQL.
Doświadczenie w programowaniu baz danych (PL/SQL lub równoważne rozwiązania).
Praktyczna znajomość Apache Kafka.
Doświadczenie w integracji systemów z wykorzystaniem REST API.
Umiejętność projektowania i optymalizacji przepływów danych.
Komunikatywna znajomość języka angielskiego.
Mile widziane:
Znajomość DB2.
Doświadczenie z Snowflake.
Znajomość rozwiązań Amazon S3 lub innych obiektowych magazynów danych.