Skip to content
Search jobs inside your AI agent. Claude, ChatGPT, Claude Code, Codex, Gemini, Cursor and Grok
Connect

Octopus Group

NewBe an early applicant

Lead Data Engineer | Kafka | Flink | AWS | Real-Time Data Platform (H/F)

Posted Updated
Discussion

Summary

Lead/Senior Data Engineer joining a group-wide real-time data platform team: designing event-driven streaming pipelines with Kafka and Flink on AWS (MSK, Kinesis, Lambda, ECS/EKS), building REST APIs, plus CI/CD, observability, and technically mentoring less experienced engineers.

Contexte :

Dans le cadre du développement de sa plateforme de données groupe, notre client recherche un Senior Data Engineer expérimenté pour rejoindre une équipe en charge de la conception et de la mise en œuvre de produits de données temps réel à forte valeur ajoutée.

Vous interviendrez sur des architectures modernes orientées événements et participerez à la construction de solutions robustes, scalables et industrialisées permettant l'exploitation de données en temps réel à l'échelle du groupe.

Vous serez également un référent technique auprès de l'équipe et contribuerez à la définition des bonnes pratiques de développement et d'exploitation.

Vos missions :
  • Concevoir et développer des pipelines de données temps réel basés sur Apache Kafka et Apache Flink

  • Mettre en place des architectures orientées événements (Event-Driven Architecture)

  • Développer et maintenir des APIs REST et microservices à destination des consommateurs de données

  • Concevoir des pipelines d'ingestion, de transformation et de diffusion de données en streaming et batch

  • Garantir la qualité, la fiabilité et la gouvernance des données

  • Mettre en œuvre les bonnes pratiques CI/CD et DevOps

  • Assurer le monitoring, l'observabilité et le support en production

  • Participer aux choix d'architecture et aux revues de code

  • Encadrer techniquement les membres moins expérimentés de l'équipe

  • Produire la documentation technique et les procédures d'exploitation

Environnement technique : Data & Streaming
  • Apache Kafka

  • Apache Flink

  • Event-Driven Architecture

  • Data Modeling

  • API Design

  • OpenAPI

Cloud AWS
  • Amazon MSK

  • Kinesis

  • Amazon Managed Service for Apache Flink

  • AWS Lambda

  • API Gateway

  • ECS / EKS

  • Amazon S3

  • IAM

DevOps & Observabilité
  • GitLab CI / GitHub Actions

  • CloudWatch

  • OpenTelemetry

  • Prometheus

  • Grafana

Sécurité
  • OAuth2

  • OpenID Connect (OIDC)

  • Secrets Management

  • Encryption

  • IAM & Least Privilege

Profil recherché

Profil recherché :
  • Minimum 7 ans d'expérience en Data Engineering

  • Expérience significative sur des projets de données temps réel en production

  • Maîtrise de Kafka et Flink

  • Expérience solide sur AWS

  • Bonne compréhension des architectures distribuées et microservices

  • Expérience des environnements critiques avec fortes exigences de disponibilité

  • Capacité à challenger des besoins métiers et les traduire en solutions techniques

  • Expérience du mentorat technique et des revues de code

  • Anglais professionnel indispensable

Les plus :
  • Expérience dans les secteurs Finance, Trading ou Market Data

  • Connaissance des problématiques de faible latence et de haute disponibilité

  • Certification AWS appréciée

Skills

What Senior Data Engineering jobs ask for — and how much of it you have →
Apply

See also

Data Engineering jobs by country — openings, pay and top skills →