Descriptif
Réseaux de neurones profonds : architectures et entraînement est une formation de 3 jours (21 heures), de niveau expert, rattachée au domaine « Intelligence artificielle expert ». Concevoir et entraîner des réseaux de neurones profonds. Conçue et animée par des praticiens en activité, elle alterne apports ciblés (30 %) et mises en pratique (70 %) sur des laboratoires cloud individuels, avec des cas inspirés des secteurs banque, assurance et services publics. Disponible en inter-entreprises, en intra sur catalogue et en version sur mesure adaptée au contexte de l'entreprise.
Objectifs pédagogiques
À l'issue de la formation, le participant sera capable de :
- Perceptrons multicouches
- Convolutions
- Récurrents et transformeurs
- Régularisation
- Entraînement
Programme détaillé
| N° | Contenus et activités | Durée |
|---|---|---|
| Jour 1 | ||
| 1 | Ouverture : recueil des attentes, état des pratiques d'entraînement de chacun, prise en main des GPU et du dépôt de travaux pratiques | 0,5 h |
| 2 | Rétropropagation et graphes de calcul : dérivation puis lecture du fonctionnement d'autograd en PyTorch | 1,5 h |
| 3 | Travaux pratiques : réimplémenter un perceptron multicouche et sa rétropropagation en NumPy, confronter les gradients à ceux de PyTorch | 2,5 h |
| 4 | Laboratoire : initialisations Xavier et He, fonctions d'activation et normalisation par lots sur un jeu tabulaire fictif — mesurer l'impact sur la vitesse de convergence | 2,5 h |
| Jour 2 | ||
| 5 | Convolutions, champs réceptifs et connexions résiduelles : lecture commentée de l'article ResNet et transposition en code | 1,5 h |
| 6 | Travaux pratiques : construire un ResNet réduit en PyTorch sur un corpus d'images fictif, suivre exactitude et F1 macro dans TensorBoard | 2,5 h |
| 7 | Atelier : de la récurrence à l'attention — implémenter l'attention multi-têtes et vérifier les dimensions à chaque étage | 2 h |
| 8 | Laboratoire : comparer perceptron multicouche, XGBoost et réseau tabulaire sur le même jeu fictif, arbitrer avec l'AUC-PR et le temps d'entraînement | 1 h |
| Jour 3 | ||
| 9 | Travaux pratiques : dropout, weight decay, lissage des étiquettes et augmentation — plan d'expériences et mesure du surapprentissage | 2,5 h |
| 10 | Laboratoire : entraînement qui ne converge pas — écrêtage de gradient, planification du taux d'apprentissage, précision mixte, taille de lot effective | 2 h |
| 11 | Atelier : arbitrer une architecture sous contraintes imposées (latence, mémoire GPU, volume d'annotations) et défendre le choix devant le groupe | 1,5 h |
| 12 | Synthèse : revue croisée des carnets d'expériences, évaluation des acquis et plan d'action | 1 h |
Méthodes pédagogiques
- Pédagogie active : 79 % du temps en pratique encadrée — laboratoires cloud provisionnés par participant, travaux pratiques guidés, fil rouge applicatif —, le reste en apports structurés, démonstrations commentées, cadrage et évaluation
- répartition calculée sur le déroulé détaillé de cette formation, et non annoncée de façon uniforme
- classe inversée avec prérequis sur le LMS
- apprentissage adaptatif selon le positionnement initial
- travaux en binômes
- classe virtuelle en séquences de 3 h 30 maximum sur Microsoft Teams
- support clair, complet et paginé remis à chaque participant
Technologies et outils mobilisés
PyTorch, scikit-learn, XGBoost
Modalités d'évaluation et de validation
- Positionnement initial en ligne
- quiz de validation à chaque séquence
- évaluation finale des acquis (QCM et mise en situation)
- satisfaction à chaud
- questionnaire de transfert à 30 jours
- attestation de fin de formation
Plateforme, laboratoires et ressources
- LMS DATAROCKSTARS : parcours, supports numériques, quiz, évaluations, émargement par demi-journée
- laboratoires cloud individuels accessibles depuis un navigateur, sans installation, données fictives, détruits en fin de session
- bibliothèque O'Reilly (plus de 60 000 ressources)
- accès aux supports pendant 6 mois