Data Engineer Senior - Databricks / PySpark (H/F) - Freelance
Posted Updated
Description
Taux journalier (TJM): 450CONTEXTE DE LA MISSIONNous recherchons un Data Engineer expérimenté spécialisé dans l'écosystème Databricks, capable de concevoir, développer et industrialiser des pipelines de données performants dans un environnement Cloud.Le consultant interviendra sur des projets Data à forte valeur ajoutée, avec des enjeux de performance, de gouvernance, de qualité et de fiabilité des données.RESPONSABILITÉS * Concevoir et développer des pipelines de données complexes en PySpark et Spark SQL, en mode batch et streaming. * Implémenter et maintenir une architecture Medallion (Bronze / Silver / Gold) basée sur Delta Lake. * Orchestrer et superviser les traitements via Databricks Workflows, Azure Data Factory ou Airflow. * Optimiser les performances et les coûts des traitements Spark : partitionnement, Z-Order, gestion des clusters et Photon. * Mettre en œuvre la gouvernance des données avec Unity Catalog : gestion des accès, data lineage et qualité des données. * Industrialiser les développements et déploiements à travers des pipelines CI/CD et des pratiques DevOps. * Participer à la mise en place de l'Infrastructure as Code avec Terraform et à la gestion des Databricks Asset Bundles. * Collaborer avec les équipes Data Analysts et Data Scientists pour fournir des datasets fiables, documentés et exploitables.PROFIL RECHERCHÉ - MUST HAVE * Minimum 3 à 5 ans d'expérience en Data Engineering, dont au moins 2 ans d'expérience concrète sur Databricks. * Excellente maîtrise de Python, PySpark et Spark SQL. * Expérience significative dans la conception et l'industrialisation de pipelines ETL/ELT sur Databricks. * Bonne maîtrise de Delta Lake et de l'architecture Medallion. * Expérience pratique de Unity Catalog et des mécanismes de gouvernance des données. * Solide compréhension des mécanismes d'optimisation Spark et de gestion des performances. * Expérience sur un environnement Cloud : Azure (ADLS, Azure Data Factory) idéalement, ou AWS / GCP. * Maîtrise de Git, des pratiques CI/CD et des tests automatisés appliqués aux pipelines Data.ATOUTS * Certification Databricks Data Engineer Associate ou Professional. * Expérience en streaming avec Kafka et/ou Spark Structured Streaming. * Connaissance de dbt et/ou MLflow. * Expérience dans le secteur bancaire ou dans un environnement réglementé.ENVIRONNEMENT TECHNIQUEDatabricks, PySpark, Python, Spark SQL, Delta Lake, Medallion Architecture, Unity Catalog, Databricks Workflows, Azure Data Factory, ADLS, Airflow, Spark Optimization, Z-Order, Photon, Git, CI/CD, Azure DevOps, GitHub Actions, GitLab CI, Databricks Asset Bundles, Terraform, Kafka, Structured Streaming, dbt, MLflow.
Skills
- Airflow
- AWS
- Azure
- Azure Data Factory
- Azure DevOps
- CI/CD
- Cloud
- Data Engineering
- Data Governance
- Data Lineage
- Data Pipelines
- Databricks
- dbt
- Delta Lake
- DevOps
- ELT
- ETL
- GCP
- Git
- GitHub
- GitHub Actions
- GitLab
- Infrastructure as Code
- Kafka
- Medallion Architecture
- MLflow
- PySpark
- Python
- Spark
- SQL
- Terraform
- Test Automation
- Unity
- Unity Catalog
Sign in to read and join the discussion.