Développeur IA et Python H/F
Summary
Senior Python/AI developer mission (via Aleysia, embedded at a client in legal/professional services) to evaluate, optimize and industrialize LLM usage: structured extraction (function calling), LLM-as-a-Judge evaluation, model comparison (Mistral, AWS Bedrock EU) and production-grade Python deployment.
Le contexte
Dans le cadre d'un projet d'évolution et de fiabilisation de solutions basées sur l'intelligence artificielle générative, nous recherchons un Développeur IA Senior Python H/F afin d'accompagner l'un de nos clients sur des enjeux d'évaluation, d'optimisation et d'industrialisation des modèles de langage (LLM).
Tu interviendras au sein d'une équipe et d'un projet déjà constitués, avec pour objectif d'apporter ton expertise technique, d'améliorer les usages existants des LLM et de faire évoluer l'architecture sur la base de résultats mesurables.
Quelques éléments pour mieux comprendre l'environnement :
Secteur d'activité : ⚖️ Juridique et services aux professionnels
Organisation : Intégration au sein d'une équipe et d'un projet déjà constitués, en lien avec les équipes techniques et métiers.
Enjeux : Fiabiliser les usages actuels des LLM, améliorer les méthodes d'évaluation, optimiser le choix des modèles et faire évoluer l'architecture existante.
Ce que tu feras concrètement
Dans le cadre de cette mission, tu seras notamment amené(e) à :
➞ Concevoir des chaînes d'extraction d'informations structurées à partir de textes libres, en définissant les approches adaptées : Function Calling, sorties structurées, validation et réparation des résultats.
➞ Construire et maintenir des jeux de cas d'évaluation, mener des expérimentations et comparer les prompts, les modèles et les différentes méthodes à partir de critères mesurables.
➞ Évaluer la fiabilité des juges LLM (LLM-as-a-Judge) en comparant leurs résultats avec des évaluations humaines et en identifiant leurs biais et leur variabilité.
➞ Comparer et sélectionner les modèles en arbitrant entre qualité, coût et latence, dans un environnement souverain (Mistral, AWS Bedrock en région UE).
➞ Industrialiser les approches validées pour leur mise en production : code testé, observabilité, gestion des pannes et suivi des dérives.
➞ Transmettre ton expertise et expliquer tes choix techniques aux équipes et aux interlocuteurs métiers afin de faire monter l'équipe en compétences sur les méthodes d'évaluation.
Ton environnement
Technologies : Python, LLM, RAG, Mistral.
Outils et plateformes : AWS Bedrock.
Méthodologies : Expérimentation, évaluation comparative, tests et industrialisation des solutions IA.
Profil recherché
Le profil que nous recherchons
Tu justifies d'au moins 5 ans d'expérience en développement, dont au moins 2 ans sur des produits LLM en production.
Tu maîtrises Python avancé et tu es à l'aise avec le développement de code testé.
Tu as une expérience concrète de l'évaluation des LLM : constitution de jeux de cas, définition de métriques, LLM-as-a-Judge, analyse des biais et de la variance entre exécutions.
Tu maîtrises les mécanismes d'extraction d'informations structurées depuis du texte libre : sorties structurées, Function Calling et validation de schémas.
Tu es capable de comparer plusieurs approches, de prendre des décisions techniques à partir de résultats mesurables et de les expliquer simplement.
Tu sais accompagner une équipe et transmettre tes connaissances.