Descriptif
LLM avancés : fine-tuning, alignement et évaluation est une formation de 3 jours (21 heures), de niveau expert, rattachée au domaine « Intelligence artificielle expert ». Adapter, aligner et évaluer des grands modèles de langage. Conçue et animée par des praticiens en activité, elle alterne apports ciblés (30 %) et mises en pratique (70 %) sur des laboratoires cloud individuels, avec des cas inspirés des secteurs banque, assurance et services publics. Disponible en inter-entreprises, en intra sur catalogue et en version sur mesure adaptée au contexte de l'entreprise.
Objectifs pédagogiques
À l'issue de la formation, le participant sera capable de :
- Architectures transformeurs
- Fine-tuning efficace
- Alignement
- Évaluation
- Déploiement
Programme détaillé
| N° | Contenus et activités | Durée |
|---|---|---|
| Jour 1 | ||
| 1 | Cadrage : attentes, cartographie des cas d'usage de chacun, accès aux GPU et aux modèles ouverts du laboratoire | 0,5 h |
| 2 | Lecture d'articles commentée : attention, encodage rotatif des positions, attention par groupes de requêtes et mélange d'experts — ce qui change dans les architectures récentes | 1,5 h |
| 3 | Travaux pratiques : disséquer un modèle Hugging Face Transformers — tokenisation, cache clé-valeur, génération pas à pas, température et échantillonnage nucleus | 2,5 h |
| 4 | Laboratoire : construire un jeu d'instructions fictif de 3 000 exemples, dédoublonner, formater en modèle de conversation et contrôler la longueur des séquences | 2,5 h |
| Jour 2 | ||
| 5 | Travaux pratiques : fine-tuning LoRA puis QLoRA avec PEFT et bitsandbytes sur un modèle Mistral ouvert, suivi de la perte et de la perplexité de validation | 3 h |
| 6 | Laboratoire : arbitrer entre consignes, RAG et fine-tuning sur trois tâches imposées, mesurer le coût et le gain de chaque option | 2 h |
| 7 | Atelier : alignement — construire des paires de préférences et entraîner par DPO, observer l'effet sur la verbosité et sur le taux de refus | 2 h |
| Jour 3 | ||
| 8 | Travaux pratiques : évaluation — jeu de test figé, juge LLM calibré, correspondance exacte, ROUGE, BERTScore et taux d'hallucination mesuré sur un référentiel fictif | 2,5 h |
| 9 | Laboratoire : servir le modèle affiné avec vLLM — traitement continu par lots, PagedAttention, mesure du débit en jetons par seconde et de la latence du premier jeton | 2 h |
| 10 | Atelier : troubleshooting d'un fine-tuning raté — oubli catastrophique, surapprentissage, contamination du jeu de test, rang LoRA mal choisi | 1,5 h |
| 11 | Synthèse : soutenance des résultats, évaluation des acquis et feuille de route d'industrialisation | 1 h |
Méthodes pédagogiques
- Pédagogie active : 86 % du temps en pratique encadrée — laboratoires cloud provisionnés par participant, travaux pratiques guidés, fil rouge applicatif —, le reste en apports structurés, démonstrations commentées, cadrage et évaluation
- répartition calculée sur le déroulé détaillé de cette formation, et non annoncée de façon uniforme
- classe inversée avec prérequis sur le LMS
- apprentissage adaptatif selon le positionnement initial
- travaux en binômes
- classe virtuelle en séquences de 3 h 30 maximum sur Microsoft Teams
- support clair, complet et paginé remis à chaque participant
Technologies et outils mobilisés
Hugging Face Transformers, PEFT et LoRA, bitsandbytes, vLLM, Mistral fine-tuning
Modalités d'évaluation et de validation
- Positionnement initial en ligne
- quiz de validation à chaque séquence
- évaluation finale des acquis (QCM et mise en situation)
- satisfaction à chaud
- questionnaire de transfert à 30 jours
- attestation de fin de formation
Plateforme, laboratoires et ressources
- LMS DATAROCKSTARS : parcours, supports numériques, quiz, évaluations, émargement par demi-journée
- laboratoires cloud individuels accessibles depuis un navigateur, sans installation, données fictives, détruits en fin de session
- bibliothèque O'Reilly (plus de 60 000 ressources)
- accès aux supports pendant 6 mois