Descriptif
Industrialiser les applications d'IA : CI/CD, monitoring et passage à l'échelle est une formation de 3 jours (21 heures), de niveau expert, rattachée au domaine « Intelligence artificielle pour l'IT ». Mettre en production et exploiter des applications d'IA de façon fiable. Conçue et animée par des praticiens en activité, elle alterne apports ciblés (30 %) et mises en pratique (70 %) sur des laboratoires cloud individuels, avec des cas inspirés des secteurs banque, assurance et services publics. Disponible en inter-entreprises, en intra sur catalogue et en version sur mesure adaptée au contexte de l'entreprise.
Objectifs pédagogiques
À l'issue de la formation, le participant sera capable de :
- Chaîne CI/CD pour l'IA
- Évaluation continue
- Observabilité des LLM
- Passage à l'échelle
- Gestion des coûts
Programme détaillé
| N° | Contenus et activités | Durée |
|---|---|---|
| Jour 1 | ||
| 1 | Cadrage : maturité DevOps des participants, présentation de l'application d'IA fil rouge et de son dépôt | 0,5 h |
| 2 | Ce qu'une chaîne CI/CD d'IA a de particulier : artefacts, consignes versionnées, jeux d'évaluation, dépendances de modèles | 1,5 h |
| 3 | Travaux pratiques : construire un pipeline GitLab CI — tests, image conteneur, publication d'artefacts, environnements | 3 h |
| 4 | Travaux pratiques : porter la même chaîne sur GitHub Actions puis Jenkins et comparer les compromis | 2 h |
| Jour 2 | ||
| 5 | Évaluation continue : jeux de référence, seuils de qualité bloquants, non-régression des consignes | 1,5 h |
| 6 | Travaux pratiques : insérer une étape d'évaluation automatisée au pipeline et bloquer une livraison dégradée | 2,5 h |
| 7 | Travaux pratiques : instrumenter traces, jetons et coûts avec Langfuse et exposer les métriques à Prometheus | 2 h |
| 8 | Atelier : définir les tableaux de bord et les alertes réellement utiles à l'exploitation | 1 h |
| Jour 3 | ||
| 9 | Passage à l'échelle : mise en lots, cache de préfixes, quantification, dimensionnement GPU | 1,5 h |
| 10 | Travaux pratiques : déployer un modèle ouvert avec vLLM sur Kubernetes et le comparer à Triton Inference Server | 2,5 h |
| 11 | Travaux pratiques : tests de charge, autoscaling, dégradation contrôlée et bascule vers un fournisseur de repli | 2 h |
| 12 | Synthèse : maîtrise des coûts (quotas, routage vers un modèle plus petit, cache) et plan d'industrialisation | 1 h |
Méthodes pédagogiques
- Pédagogie active : 71 % du temps en pratique encadrée — laboratoires cloud provisionnés par participant, travaux pratiques guidés, fil rouge applicatif —, le reste en apports structurés, démonstrations commentées, cadrage et évaluation
- répartition calculée sur le déroulé détaillé de cette formation, et non annoncée de façon uniforme
- classe inversée avec prérequis sur le LMS
- apprentissage adaptatif selon le positionnement initial
- travaux en binômes
- classe virtuelle en séquences de 3 h 30 maximum sur Microsoft Teams
- support clair, complet et paginé remis à chaque participant
Technologies et outils mobilisés
GitLab CI, GitHub Actions, Jenkins, Kubernetes, vLLM, Triton Inference Server, Langfuse, Prometheus
Modalités d'évaluation et de validation
- Positionnement initial en ligne
- quiz de validation à chaque séquence
- évaluation finale des acquis (QCM et mise en situation)
- satisfaction à chaud
- questionnaire de transfert à 30 jours
- attestation de fin de formation
Plateforme, laboratoires et ressources
- LMS DATAROCKSTARS : parcours, supports numériques, quiz, évaluations, émargement par demi-journée
- laboratoires cloud individuels accessibles depuis un navigateur, sans installation, données fictives, détruits en fin de session
- bibliothèque O'Reilly (plus de 60 000 ressources)
- accès aux supports pendant 6 mois