Descriptif

Intégration des LLM : API, embeddings et fine-tuning est une formation de 3 jours (21 heures), de niveau expert, rattachée au domaine « Intelligence artificielle pour l'IT ». Choisir entre consignes, RAG et fine-tuning et les mettre en œuvre. Conçue et animée par des praticiens en activité, elle alterne apports ciblés (30 %) et mises en pratique (70 %) sur des laboratoires cloud individuels, avec des cas inspirés des secteurs banque, assurance et services publics. Disponible en inter-entreprises, en intra sur catalogue et en version sur mesure adaptée au contexte de l'entreprise.

Objectifs pédagogiques

À l'issue de la formation, le participant sera capable de :

API et paramètres
Embeddings
Fine-tuning supervisé et LoRA
Évaluation
Coûts et hébergement

Programme détaillé

N°	Contenus et activités	Durée
Jour 1
1	Cadrage : cas d'usage apportés par les participants et arbre de décision consigne, RAG ou fine-tuning	0,5 h
2	API de modèles : paramètres d'échantillonnage, fenêtre, jetons, appels d'outils, comparaison des fournisseurs	1,5 h
3	Travaux pratiques : construire une collection Postman d'appels de modèles et l'automatiser avec Newman	2 h
4	Travaux pratiques : tester l'intégration d'un service de génération avec REST Assured et figer des cas de non-régression	3 h
Jour 2
5	Plongements : entraînement contrastif, choix du modèle, normalisation, réduction, mise en cache	1,5 h
6	Travaux pratiques : indexer et classer des tickets fictifs par similarité, puis mesurer la qualité du classement	2,5 h
7	Fine-tuning supervisé et adaptation LoRA : constitution du jeu, format des exemples, hyperparamètres, pièges courants	1,5 h
8	Travaux pratiques : préparer un jeu d'entraînement fictif de 500 exemples et lancer une adaptation LoRA avec PEFT	1,5 h
Jour 3
9	Travaux pratiques : entraîner, comparer et versionner deux adaptations — modèle ouvert Hugging Face et fine-tuning Mistral	2,5 h
10	Travaux pratiques : évaluer les modèles adaptés sur un jeu de test tenu à l'écart et détecter l'oubli catastrophique	2 h
11	Travaux pratiques : servir le modèle adapté avec vLLM et mesurer débit, latence et coût par million de jetons	1,5 h
12	Bilan : grille de décision coût, hébergement et souveraineté, puis plan d'action individuel	1 h

Méthodes pédagogiques

Pédagogie active : 71 % du temps en pratique encadrée — laboratoires cloud provisionnés par participant, travaux pratiques guidés, fil rouge applicatif —, le reste en apports structurés, démonstrations commentées, cadrage et évaluation
répartition calculée sur le déroulé détaillé de cette formation, et non annoncée de façon uniforme
classe inversée avec prérequis sur le LMS
apprentissage adaptatif selon le positionnement initial
travaux en binômes
classe virtuelle en séquences de 3 h 30 maximum sur Microsoft Teams
support clair, complet et paginé remis à chaque participant

Technologies et outils mobilisés

Hugging Face Transformers, PEFT et LoRA, Mistral fine-tuning, vLLM, Postman, Newman, REST Assured

Modalités d'évaluation et de validation

Positionnement initial en ligne
quiz de validation à chaque séquence
évaluation finale des acquis (QCM et mise en situation)
satisfaction à chaud
questionnaire de transfert à 30 jours
attestation de fin de formation

Plateforme, laboratoires et ressources

LMS DATAROCKSTARS : parcours, supports numériques, quiz, évaluations, émargement par demi-journée
laboratoires cloud individuels accessibles depuis un navigateur, sans installation, données fictives, détruits en fin de session
bibliothèque O'Reilly (plus de 60 000 ressources)
accès aux supports pendant 6 mois