Skip to content
Search jobs inside your AI agent. Claude, ChatGPT, Claude Code, Codex, Gemini, Cursor and Grok
Connect

Bluecoders

Open 15d

Ingénieur Inférence / GPU H/F

Posted

Description

Au sein de la founding team en construction, tu prends en charge la couche matérielle et d'inférence :
- Optimisation des moteurs d'exécution (vLLM, SGLang, TensorRT-LLM),
- Tuning GPU,
- Quantisation,
- Gestion de la mémoire et du cache.

Tu travailles sur des clusters GPU NVIDIA (ou AMD) en environnement Kubernetes, avec une maîtrise fine de Linux et des stacks réseau bas niveau (x86, InfiniBand, RDMA), dans un contexte de très haute performance et de souveraineté (SecNumCloud, ISO 27001).

Tu interagis avec le CTO sur les choix d'architecture et contribues à faire tourner la plateforme en production pour les premiers clients.

Stack technique : vLLM, SGLang, CUDA, Triton, Python, Kubernetes GPU, Linux, RDMA/InfiniBand/NCCL, quantisation (GPTQ, AWQ, FP8).

Localisation : Paris (présence physique requise, notamment pour interventions sur les serveurs).

Indispensables :
- Expérience concrète en serving de modèles open source à l'échelle en production (vLLM, TGI, SGLang, TensorRT ou équivalent)
- Maîtrise de CUDA, Triton ou des kernels GPU bas niveau
- Capacité à identifier un goulot d'étranglement mémoire/cache et à y remédier
- Python solide, à l'aise avec Kubernetes GPU et Linux
- Bonne connaissance du matériel x86, GPU NVIDIA (AMD ou autre fournisseur accepté)
- Curiosité sur les architectures hardware (choix de GPU, mémoire HBM, NVLink, InfiniBand)

Un plus :
- Expérience HPC (RDMA, InfiniBand, RoCE, MPI, NCCL, IO path)
- Contributions open source (vLLM, SGLang, PyTorch, Triton…)
- Sensibilité au contexte souverain / SecNumCloud

Ce qui fait la différence : quelqu'un capable de nommer une brique qu'il a écrite ou modifiée lui-même en production, pas uniquement opérée.

Skills

Apply

See also