QA IA
Summary
QA engineer specialized in AI: builds agents that generate test cases and automated test scripts, and defines evaluation/qualification strategies for LLM, RAG and agent solutions (quality metrics, prompt regression, security) for a large audit & consulting firm's internal products. Core stack: test automation frameworks, C#/Python/TypeScript, Azure OpenAI/AI Foundry, CI/CD.
Notre client est un grand cabinet d’audit et de conseil. Il développe et opère en interne une quinzaine de produits applicatifs en C# .NET / Vue.js sur Microsoft Azure, destinés à ses métiers Audit, Advisory et à ses fonctions support.
Vos missions
Concevoir, développer et améliorer des agents IA de conception et de scripting de tests : génération de cas de test, de scénarios et de scripts automatisés
Définir et mettre en œuvre la stratégie de qualification des solutions IA (LLM, RAG, agents)
Mettre en place des méthodes d’évaluation adaptées à l’IA générative :
jeux de tests de référence
métriques de qualité (pertinence, fidélité, hallucinations)
non-régression des prompts et des modèles
Sécuriser le passage du POC au produit : critères d’acceptation, robustesse, sécurité (injection de prompt, fuite de données), performance et maîtrise des coûts
Intégrer les tests dans les chaînes CI/CD (Azure DevOps / GitHub)
Accompagner les équipes produit sur les bonnes pratiques qualité appliquées à l’IA
Profil recherché
Expérience confirmée en QA / ingénierie de la qualité, niveau Senior / Expert
Indispensable : une solide expérience en automatisation des tests, avec conception et maintenance de frameworks automatisés en production (Playwright, Selenium, Cypress, SpecFlow ou équivalent) et intégration dans les chaînes CI/CD
Indispensable : la maîtrise d’au moins un langage d’automatisation (C#, Python ou TypeScript), avec du code de test écrit au quotidien
Indispensable : une expérience concrète et démontrable de développement assisté par IA et de mise en production d’applications à base de LLM (Azure OpenAI / AI Foundry ou équivalent)
Indispensable : une réalisation IA à présenter en entretien, sous forme d’agent, d’application LLM en production, de dépôt de code ou de démonstration
Pratique des briques IA générative : prompt engineering, RAG, frameworks d’agents (Semantic Kernel, LangChain, AutoGen ou équivalent)
Seraient un plus :
connaissance des outils d’évaluation LLM (Azure AI Foundry evaluation, Promptfoo, DeepEval, Ragas…)
environnement Azure : Azure OpenAI, AI Search, Azure DevOps