Data Engineer - Databricks (IT) / Freelance
Posted Updated
Summary
Freelance data engineer embedded in a client's IT department in Paris, building and maintaining Databricks-based ETL pipelines, Delta Lake data models, and APIs that expose customer consumption data on digital channels. Core stack: Python, SQL, Spark/PySpark, Databricks (Unity Catalog), Airflow, FastAPI, AWS, and CI/CD.
Positionné au sein de la DSI de l'entreprise, le Data Engineer intègrera l'équipe Conso Data qui traite les données de consommation des clients afin de les exposer sur les canaux digitaux.
Il devra :
- Être force de proposition et participer à la conception des solutions techniques en collaboration avec les membres de l'équipe.
- Comprendre les enjeux métiers afin de concevoir des solutions répondant aux besoins fonctionnels.
- Participer aux cérémonies Agile SAFe (PI Planning, macro-chiffrage, refinements, rétrospectives, etc.).
- Concevoir et faire évoluer les architectures de données basées sur l'approche Databricks Medallion Architecture (Bronze, Silver, Gold).
- Garantir la qualité, la fiabilité et la performance des traitements de données en production. (Jobs Databricks et APIs)
- Contribuer à l'amélioration continue de la plateforme en proposant des optimisations techniques, des bonnes pratiques et des innovations.
Il sera notamment amené à :
- Concevoir, développer et maintenir des pipelines de données (ETL) pour les flux d'intégration et les flux métiers.
- Mettre en œuvre et orchestrer les traitements de données à l'aide des outils Databricks.
- Modéliser les données dans les tables Delta Lake en appliquant les bonnes pratiques de partitionnement, indexation, optimisation et gouvernance.
- Optimiser les performances des traitements Databricks (Spark, Delta Lake, gestion des coûts et du temps d'exécution).
- Assurer le développement, les tests et le déploiement des composants techniques via des processus CI/CD.
- Concevoir, développer et maintenir des APIs permettant l'exposition et la consommation des données.
- Mettre en place des mécanismes de contrôle qualité des données (Data Quality), de monitoring et d'alerting.
- Identifier, analyser et résoudre les incidents de production tout en assurant le suivi des actions correctives.
- Rédiger et maintenir la documentation technique des solutions mises en œuvre.
- Accompagner les équipes dans l'adoption des bonnes pratiques Data Engineering
Environnement Technique :
- Python, SQL
- Spark, PySpark, DBUtils
- FastApi, Pytest
- Databricks, Unity Catalog
- Ariflow (migration vers Databricks Workflow)
- AWS (Lambda, secrect manager, Bucket S3, ECS)
- Git et gestion du versioning
- Déploiement pipeline CI/CD