AI Engineer Python / LLM – Développement d’une calculatrice de consommation de tokens
Craftman data AI Engineer Python / LLM – Développement d’une calculatrice de consommation de tokens
Summary
On-site consultant role in Paris building a Python tool that estimates LLM token consumption and its costs for a client's generative/agentic AI projects: gathering requirements, modeling pricing across LLMs (including agent-to-agent calls), testing calculations, and writing technical/functional documentation.
Contexte de la mission
Dans le cadre du développement de ses projets d’intelligence artificielle générative et agentique, notre client souhaite mettre en place un outil permettant d’estimer la consommation de tokens et les coûts associés à l’utilisation des modèles LLM.
L’objectif est de permettre aux équipes projet d’anticiper leurs dépenses en fonction de leurs besoins, des volumes d’utilisation prévus et des modèles d’IA utilisés.
Pour cela, nous recherchons un AI Engineer capable de participer au cadrage du besoin et au développement d’une calculatrice de prévision de consommation de tokens.
Missions
Le consultant interviendra sur les différentes étapes du projet :
Recueillir les besoins des équipes et définir les principales fonctionnalités de l’outil.
Identifier les paramètres à prendre en compte pour estimer la consommation de tokens selon les cas d’usage.
Développer en Python une calculatrice permettant de simuler les volumes de consommation et les coûts associés.
Prendre en compte les spécificités des différents modèles LLM et leurs modalités de tarification.
Intégrer les particularités des projets agentiques, notamment les appels successifs aux modèles et les interactions entre agents.
Tester et fiabiliser les calculs afin de fournir des estimations cohérentes.
Rédiger la documentation technique et fonctionnelle de la solution.
Compétences recherchées
Bonne maîtrise de Python.
Connaissance des LLM et des mécanismes de tokenisation.
Expérience dans l’utilisation d’API de modèles d’IA générative.
Compréhension des coûts associés à la consommation de tokens.
Capacité à cadrer un besoin et à proposer une solution technique adaptée.
Une expérience sur des projets d’IA générative, des architectures agentiques ou des sujets LLMOps constituera un réel atout.
Livrable attendu
Développement d’une calculatrice de prévision de consommation de tokens, accompagnée de sa documentation.
Profil recherché
Nous recherchons un profil technique et pragmatique, capable de comprendre les besoins des équipes, de les traduire en fonctionnalités concrètes et de développer un outil fiable et facilement utilisable.