Descriptif
IA offensive : attaques contre et par l'IA est une formation de 3 jours (21 heures), de niveau expert, rattachée au domaine « Intelligence artificielle pour l'IT ». Comprendre et tester les attaques visant les systèmes d'IA et les attaques augmentées par l'IA. Conçue et animée par des praticiens en activité, elle alterne apports ciblés (30 %) et mises en pratique (70 %) sur des laboratoires cloud individuels, avec des cas inspirés des secteurs banque, assurance et services publics. Disponible en inter-entreprises, en intra sur catalogue et en version sur mesure adaptée au contexte de l'entreprise.
Objectifs pédagogiques
À l'issue de la formation, le participant sera capable de :
- Menaces sur les modèles
- Injection et jailbreak
- Empoisonnement et extraction
- Attaques augmentées par l'IA
- Red teaming d'IA
Programme détaillé
| N° | Contenus et activités | Durée |
|---|---|---|
| Jour 1 | ||
| 1 | Cadrage : règles d'engagement, cadre légal, périmètre du laboratoire isolé et usage exclusif de données fictives | 0,5 h |
| 2 | Surface d'attaque des systèmes d'IA : modèle, données, chaîne d'outils, intégrations et chaîne MLOps | 1,5 h |
| 3 | Travaux pratiques : reconnaissance d'une application d'IA cible et cartographie de ses points d'entrée avec Burp Suite | 2 h |
| 4 | Travaux pratiques : injections de consignes, contournement de consigne système et jailbreak sur plusieurs familles de modèles, ouvertes et commerciales | 3 h |
| Jour 2 | ||
| 5 | Travaux pratiques : injection indirecte par documents empoisonnés dans un index RAG et exfiltration de contexte | 2,5 h |
| 6 | Travaux pratiques : extraction de consigne système, fuite de données d'entraînement et inférence d'appartenance | 2 h |
| 7 | Empoisonnement de données et de modèles, portes dérobées et compromission de la chaîne d'approvisionnement | 1,5 h |
| 8 | Travaux pratiques : détourner un agent par ses outils — escalade d'action et exécution non prévue | 1 h |
| Jour 3 | ||
| 9 | Démonstration commentée : attaques augmentées par l'IA — hameçonnage ciblé, génération de charges utiles, reconnaissance automatisée | 1,5 h |
| 10 | Travaux pratiques : campagne de red teaming automatisée avec Garak et Promptfoo et scénarios personnalisés | 2,5 h |
| 11 | Travaux pratiques : contourner puis durcir des garde-fous NeMo Guardrails et Llama Guard | 1,5 h |
| 12 | Mise en situation : restitution des constats, cotation du risque et recommandations au commanditaire | 1 h |
| 13 | Synthèse, cadre éthique et plan d'action | 0,5 h |
Méthodes pédagogiques
- Pédagogie active : 74 % du temps en pratique encadrée — laboratoires cloud provisionnés par participant, travaux pratiques guidés, fil rouge applicatif —, le reste en apports structurés, démonstrations commentées, cadrage et évaluation
- répartition calculée sur le déroulé détaillé de cette formation, et non annoncée de façon uniforme
- classe inversée avec prérequis sur le LMS
- apprentissage adaptatif selon le positionnement initial
- travaux en binômes
- classe virtuelle en séquences de 3 h 30 maximum sur Microsoft Teams
- support clair, complet et paginé remis à chaque participant
Technologies et outils mobilisés
Garak, Promptfoo, Burp Suite, NeMo Guardrails, Llama Guard
Modalités d'évaluation et de validation
- Positionnement initial en ligne
- quiz de validation à chaque séquence
- évaluation finale des acquis (QCM et mise en situation)
- satisfaction à chaud
- questionnaire de transfert à 30 jours
- attestation de fin de formation
Plateforme, laboratoires et ressources
- LMS DATAROCKSTARS : parcours, supports numériques, quiz, évaluations, émargement par demi-journée
- laboratoires cloud individuels accessibles depuis un navigateur, sans installation, données fictives, détruits en fin de session
- bibliothèque O'Reilly (plus de 60 000 ressources)
- accès aux supports pendant 6 mois