Descriptif
Guardrails, sécurité des prompts et FinOps de l'IA est une formation de 2 jours (14 heures), de niveau expert, rattachée au domaine « Intelligence artificielle expert ». Encadrer les usages des LLM par des garde-fous et maîtriser leurs coûts. Conçue et animée par des praticiens en activité, elle alterne apports ciblés (30 %) et mises en pratique (70 %) sur des laboratoires cloud individuels, avec des cas inspirés des secteurs banque, assurance et services publics. Disponible en inter-entreprises, en intra sur catalogue et en version sur mesure adaptée au contexte de l'entreprise.
Objectifs pédagogiques
À l'issue de la formation, le participant sera capable de :
- Garde-fous
- Filtrage
- Données personnelles
- FinOps
- Pilotage
Programme détaillé
| N° | Contenus et activités | Durée |
|---|---|---|
| Jour 1 | ||
| 1 | Ouverture : inventaire des applications LLM des participants, accès au bac à sable et au modèle cible du laboratoire | 0,5 h |
| 2 | Travaux pratiques : exploiter l'OWASP Top 10 LLM sur une application RAG fictive — injection directe et indirecte, exfiltration par document piégé, détournement d'un outil appelé par le modèle | 3 h |
| 3 | Laboratoire : campagne automatisée de tests d'attaque avec Garak, lecture des rapports et classement des vulnérabilités par gravité | 1,5 h |
| 4 | Atelier : poser des garde-fous avec NeMo Guardrails et Llama Guard — filtrage d'entrée et de sortie, liste d'outils autorisés, mesure du taux de faux positifs | 2 h |
| Jour 2 | ||
| 5 | Travaux pratiques : écrire une batterie de non-régression avec Promptfoo — jeux d'assertions, seuils de réussite et intégration dans la chaîne d'intégration continue | 2,5 h |
| 6 | Laboratoire : données personnelles — détecter et masquer les identifiants dans les consignes et les journaux, fixer durées de conservation et base légale RGPD | 1,5 h |
| 7 | Atelier FinOps : instrumenter les appels pour journaliser les jetons consommés, décomposer le coût par cas d'usage et par utilisateur, simuler mise en cache, routage vers un modèle plus petit et réduction du contexte | 2 h |
| 8 | Cas pratique : construire le tableau de bord de pilotage (coût, latence, taux de blocage, incidents) et le présenter au comité | 1 h |
Méthodes pédagogiques
- Pédagogie active : 96 % du temps en pratique encadrée — laboratoires cloud provisionnés par participant, travaux pratiques guidés, fil rouge applicatif —, le reste en apports structurés, démonstrations commentées, cadrage et évaluation
- répartition calculée sur le déroulé détaillé de cette formation, et non annoncée de façon uniforme
- classe inversée avec prérequis sur le LMS
- apprentissage adaptatif selon le positionnement initial
- travaux en binômes
- classe virtuelle en séquences de 3 h 30 maximum sur Microsoft Teams
- support clair, complet et paginé remis à chaque participant
Technologies et outils mobilisés
OWASP Top 10 LLM, Garak, Promptfoo, NeMo Guardrails, Llama Guard, RGPD
Modalités d'évaluation et de validation
- Positionnement initial en ligne
- quiz de validation à chaque séquence
- évaluation finale des acquis (QCM et mise en situation)
- satisfaction à chaud
- questionnaire de transfert à 30 jours
- attestation de fin de formation
Plateforme, laboratoires et ressources
- LMS DATAROCKSTARS : parcours, supports numériques, quiz, évaluations, émargement par demi-journée
- laboratoires cloud individuels accessibles depuis un navigateur, sans installation, données fictives, détruits en fin de session
- bibliothèque O'Reilly (plus de 60 000 ressources)
- accès aux supports pendant 6 mois