Data Engineer Senior - Nantes - F/H
Summary
Senior Data Engineer building and maintaining scalable data pipelines for a banking client, using Kafka, Spark, and Python/SQL to collect, transform, and store data in a modern data lakehouse architecture.
Depuis 2012, nous mettons notre expertise au service des secteurs de l’IT et l’Ingénierie pour accompagner nos clients dans des projets ambitieux et innovants.
Notre force ?Un management de proximité qui valorise vos aspirations, des opportunités de carrière concrètes et un engagement sincère pour le bien-être et l'épanouissement de nos collaborateurs.
Rejoignez-nous sur des projets à fort impact au sein d’une entreprise où chaque talent compte !
Avanista recrute !
Toujours en recherche de nouveaux talents, nous souhaiterions intégrer un Data Engineer Senior (H/F) au sein de nos équipes pour l’un de nos clients du secteur bancaire.
Le contexte ?
La transformation des SI de nos Clients vers des architectures modulaires, type micro-services, l’essor de nos infrastructures et l’évolution des technologies associées, ou encore l’automatisation accrue sur nos socles et applications, génèrent une quantité massive de données devenues très hétérogènes, dispersées et silotées (équipes applicatives et socles multiples et dispersées).
Prenant en compte ce cadre, vos missions seront plus spécifiquement :
- Maîtriser l'ensemble des techniques et technologies composant la Data Platform
- Accompagner les besoins et projets sur la collecte, transformation, stockage et mise à disposition des données, provenant de sources diverses en adéquation avec la Data Platform
- Concevoir et mettre à disposition les outils et processus (CI/CD) permettant d’automatiser les pipelines d’ingestion de données prenant en compte les besoins de fréquences (batch, temps réel, …)
- Développer et déployer des mécanismes de contrôle qualité ainsi que des routines de vérification pour garantir l'intégrité et la fiabilité des données
Vos missions ?
Participer à la conception des solutions techniques et fonctionnelles
Être en relation avec les équipes opérationnelles de l’entreprise pour prise en compte des flux de données
Assurer le support technique et fonctionnel, notamment analyse et résolution des incidents ou problèmes
Mettre en œuvre en mode DevOps (CI/CD)
Automatiser les installations des socles techniques
Rédiger les documents fonctionnels et techniques, d’exploitation, en veillant au respect des normes existantes
Gérer les données de l’entreprise (flux : collecte, traitement, stockage et leur cycle de vie)
L'environnement technique ?
- Base de données de type Sql/NoSql
- Kafka
- Dataiku
- Scripting Python/SQL/Java
- Suite Elastic
- Suite de type Data Lakehouse (Spark, MinIO, Stockage s3, Iceberg, Trino)