Formateur RAG et Fine Tuning d'un LLM

Eluv recherche un formateur ou une formatrice indépendant(e) pour animer la formation « RAG et Fine Tuning d'un LLM ».

Dates : 02/12/2026, 03/12/2026 (2 jours, 14 heures)
Lieu : à distance (classe virtuelle)

Programme de la formation :
Objectifs pédagogiques
- Comprendre les principes de l'architecture RAG
- Identifier les cas d'usage pertinents pour l'approche RAG
- Maîtriser le fine-tuning de LLM en environnement Python
- Intégrer une base documentaire dans une pipeline RAG
- Déployer un système RAG avec les outils Python : LangChain, LlamaIndex, HuggingFace

Programme

Jour 1 – Introduction aux LLM et concepts RAG
- Fonctionnement des LLM open-source, Deep Learning et Transformer
- Les principaux LLM à disposition, forces et faiblesses d'un LLM
- Écosystème Python pour LLM : HuggingFace, LangChain, FAISS
- Que sont le RAG et le Fine Tuning ?
- Avantages et inconvénients des approches
- Travaux pratiques :
- Setup d'un environnement Conda, test d'un modèle via Transformers
- Identification des types de questions échouant sans retrieval

Création d'un RAG simple avec Python
- Les concepts clés du RAG : embedding, base de données vectorielles
- Indexation de données
- Mécanismes de récupération de données, recherche sémantique
- Génération augmentée
- Cas d'usage et enjeux stratégiques
- Travaux pratiques :
- Extraction de texte, chunking, vectorisation, test d'un assistant LangChain
- Comparaison des stratégies de découpage pour le meilleur rappel

Jour 2 – Intégration dans un pipeline RAG
- Pourquoi utiliser des Tool Chains ?
- Les principaux outils de Pipeline : LangChain, LlamaIndex, Haystack
- Création d'un Pipeline RAG avec LangChain
- Agents LLM et logique ReAct, exemples
- Travaux pratiques :
- Implémentation d'agents LangChain avec la logique ReAct à travers un exemple concret d'application métier

Fine-tuning avec HuggingFace
- Fine Tuning Complet VS Fine Tuning léger (LoRA, QLoRA...)
- Préparation des données : nettoyage, format, annotations
- Augmentation des données
- Mise en œuvre du Fine Tuning, APIs, ressources GPUs
- Évaluation et métriques de performance
- Distillation de modèles
- Travaux pratiques :
- Fine-tuning sur une base client avec datasets personnalisés
- Analyse des logs d'entraînement et évaluation des réponses aux requêtes internes

Jour 3 – Déploiement, bonnes pratiques, optimisation et supervision
- Quantization et compression d'un modèle
- Déploiement d'un modèle fine tuned : Gradio, Streamlit
- Le déploiement en API via FastAPI
- Les logiciels Jan.ai et Ollama
- Supervision avec LangSmith ou MLFlow
- Travaux pratiques :
- Création d'une interface Streamlit, simulation multi-utilisateurs
- Analyse des risques liés à l'exposition du modèle à l'extérieur

Fine Tuning vs RAG
- Comparaison entre les deux techniques
- Critères pour choisir la bonne approche
- Combiner les approches pour améliorer les performances
- Cas d'usage concrets et exemples
- Travaux pratiques :
- Mise en œuvre d'une pipeline combinant un modèle LLM fine tuné avec une approche RAG
- Préparation d'un jeu de données simplifié, intégration dans un pipeline RAG, évaluation comparative des résultats

Public visé :
Développeurs et data scientists souhaitant concevoir, fine-tuner et déployer des systèmes RAG et des LLM avec l'écosystème Python.

Prérequis des apprenants :
Bonne maîtrise du langage Python. Connaissance des concepts de machine learning et expérience pratique avec les bibliothèques Pandas, Transformers ou PyTorch.

Profil recherché :
Formateur ou formatrice expérimenté(e) sur le sujet, avec une pratique professionnelle récente du terrain et, idéalement, une première expérience d'animation de formation. Statut indépendant (freelance, micro-entreprise ou portage salarial).

Comment candidater :
Postulez à cette offre : vous recevrez un mail avec le lien pour créer votre profil formateur sur la plateforme Eluv, y déposer votre CV et réserver un créneau de visio avec notre équipe. Vous pourrez ensuite vous positionner sur cette formation et sur toutes celles que vous pouvez assurer.

À propos d'Eluv :
Eluv est un organisme de formation spécialisé dans l'IT et le digital. Nous concevons et animons des formations pour les entreprises, en présentiel partout en France et à distance, en nous appuyant sur un réseau de formateurs indépendants experts de leur domaine. Nous prenons en charge la relation avec le client, la logistique et l'administratif, pour que le formateur puisse se concentrer sur l'animation de sa session.

Profil recherché

Formateur ou formatrice expérimenté(e) sur le sujet, avec une pratique professionnelle récente du terrain et, idéalement, une première expérience d'animation de formation. Statut indépendant (freelance, micro-entreprise ou portage salarial).