HSBCJP00058857 Lead Software Engineer
NewBe an early applicantSummary
Lead Software Engineer on HSBC's data/analytics platform in Kraków (hybrid, 6 days/month on-site), designing and optimizing PySpark data pipelines on Apache Iceberg, running Iceberg maintenance/automation, promoting CI/CD and code quality, and mentoring engineers. B2B contract via Antal; strong English required.
Lokalizacja: Kraków
Model hybrydowy: 6 dni w miesiącu z biura
Współpraca w modelu B2B Contracting przez Antal
Zakres obowiązków:
- Analiza i zbieranie wymagań funkcjonalnych oraz niefunkcjonalnych dla bieżących wdrożeń i długoterminowego rozwoju platformy.
- Prowadzenie projektowania oraz wdrażania procesów przetwarzania danych i zarządzania tabelami z wykorzystaniem PySpark oraz Apache Iceberg.
- Optymalizacja wydajności i kosztów związanych z wykorzystaniem Apache Iceberg, w tym strategii partycjonowania, rozmiaru plików, klastrowania danych oraz efektywności zapytań.
- Odpowiedzialność za utrzymanie i rozwój operacji administracyjnych w Apache Iceberg (m.in. kompakcja danych, zarządzanie snapshotami i metadanymi, usuwanie osieroconych plików) oraz automatyzację tych procesów.
- Wykorzystywanie dogłębnej znajomości architektury wewnętrznej Apache Iceberg (metadane, manifesty, snapshoty, specyfikacje partycjonowania, ewolucja schematów) do rozwiązywania problemów i usprawniania działania platformy.
- Promowanie wysokich standardów inżynierskich poprzez code review, automatyzację testów, praktyki CI/CD, rozwój monitoringu i gotowości produkcyjnej.
- Wsparcie dla usług i zbiorów danych utrzymywanych przez zespół, w tym udział w dyżurach produkcyjnych (jeśli wymagane).
- Mentoring i wsparcie mniej doświadczonych inżynierów, aktywny udział w dyskusjach technicznych oraz podejmowaniu decyzji projektowych.
- Współpraca z zespołami architektonicznymi, platformowymi oraz obszarem governance w celu zapewnienia bezpiecznych, skalowalnych i zgodnych z wymaganiami rozwiązań.
Wymagania:
- Bardzo dobra praktyczna znajomość PySpark, w szczególności:
- DataFrame API,
- optymalizacji wydajności,
- debugowania,
- optymalizacji zadań Spark.
- Praktyczne doświadczenie z Apache Iceberg, obejmujące:
- techniki optymalizacji (partycjonowanie, organizacja i rozmiar plików, wydajność operacji odczytu i zapisu),
- znajomość architektury wewnętrznej (snapshoty, manifesty, pliki metadanych, ewolucja schematów i partycji),
- realizację i automatyzację operacji utrzymaniowych w środowiskach produkcyjnych (kompakcja danych, usuwanie przestarzałych snapshotów, czyszczenie metadanych, usuwanie osieroconych plików).
- Silne podstawy inżynierii oprogramowania: projektowanie niezawodnych i łatwych w utrzymaniu systemów, pisanie czytelnego i testowalnego kodu oraz rozwinięte umiejętności rozwiązywania problemów.
- Doświadczenie w utrzymaniu produkcyjnych środowisk przetwarzania danych oraz odpowiedzialne podejście właścicielskie (obsługa incydentów, analiza przyczyn źródłowych, działania stabilizujące).
- Umiejętność efektywnej pracy zespołowej, bardzo dobre zdolności komunikacyjne oraz umiejętność wpływania na decyzje w międzynarodowym środowisku.
- Samodzielność, inicjatywa, odpowiedzialność za pełny cykl dostarczania rozwiązań oraz dobra organizacja pracy.
- Bardzo dobra znajomość języka angielskiego w mowie i piśmie.
Oferujemy:
- Pracę w międzynarodowym środowisku jednej z największych instytucji finansowych na świecie.
- Udział w strategicznych projektach związanych z platformami danych, analityką i nowoczesnymi technologiami Big Data.
- Współpracę z globalnymi zespołami ekspertów z Polski, Wielkiej Brytanii, Indii i Chin.
- Realny wpływ na architekturę, rozwój oraz kierunek technologiczny platform wykorzystywanych przez biznes naszego Klienta.
- Możliwość pracy z nowoczesnym stosem technologicznym, w tym Apache Iceberg, PySpark i rozwiązaniami chmurowymi.
- Kulturę opartą na współpracy, wymianie wiedzy i wysokich standardach inżynierskich.
- Elastyczny model pracy hybrydowej.
- Bogaty pakiet benefitów, w tym prywatną opiekę medyczną, ubezpieczenie na życie, kartę sportową.
- Konkurencyjne wynagrodzenie i stabilne zatrudnienie w globalnej organizacji.