Module du parcours
Fondamentaux avancés : mathématiques pour l'IA, architectures de modèles, apprentissage automatique avancé
Public visé
Data scientists, ingénieurs en apprentissage automatique, architectes techniques amenés à évaluer ou concevoir des modèles plutôt qu'à les consommer.
Prérequis
Bases en algèbre linéaire et en probabilités. Pratique du développement, Python de préférence. Une première expérience de manipulation de modèles est attendue.
Objectifs pédagogiques
À l'issue de la formation, le participant est capable de :
- expliquer les mécanismes mathématiques qui gouvernent l'entraînement d'un réseau de neurones profond ;
- comparer les grandes familles d'architectures et justifier un choix au regard d'une tâche donnée ;
- diagnostiquer un problème d'apprentissage à partir des courbes d'entraînement et des métriques ;
- mettre en œuvre les techniques d'apprentissage avancées adaptées à un jeu de données contraint ;
- évaluer rigoureusement un modèle, au-delà de la précision globale.
Programme
Dépliez chaque séquence pour consulter son contenu et ses ateliers.
01Jour 1. Socle mathématique appliqué
Matin : algèbre linéaire utile, représentations vectorielles, notions de distance et de similarité dans les espaces de grande dimension. Ce que la dimensionnalité change aux intuitions.
Après-midi : optimisation. Descente de gradient et ses variantes, taux d'apprentissage, fonctions de perte et ce qu'elles encodent réellement. Rétropropagation expliquée pas à pas. Régularisation, surapprentissage, compromis biais-variance.
02Jour 2. Architectures de modèles
Matin : du perceptron aux réseaux profonds. Réseaux convolutifs, récurrents, mécanisme d'attention, architecture transformeur. Ce que chaque famille capture et à quel coût.
Après-midi : anatomie détaillée d'un transformeur. Attention multi-tête, encodage positionnel, normalisation. Variantes et évolutions récentes. Travaux pratiques d'implémentation d'un bloc d'attention.
03Jour 3. Apprentissage automatique avancé
Matin : apprentissage par transfert, apprentissage auto-supervisé, apprentissage à faible nombre d'exemples. Techniques applicables quand les données annotées manquent, ce qui est la situation la plus fréquente en entreprise.
Après-midi : évaluation rigoureuse. Protocoles, fuites de données, jeux de test représentatifs, métriques au-delà de la précision globale. Diagnostic d'un entraînement qui échoue. Étude de cas complète sur un jeu de données réel.
Méthodes pédagogiques
Comment vous apprenez
Alternance d'apports théoriques et de travaux pratiques en environnement de calcul fourni. Notebooks remis aux participants. Les démonstrations mathématiques sont conduites au niveau de détail nécessaire à la compréhension opérationnelle, sans formalisme gratuit.
Modalités d'évaluation
Comment vos acquis sont validés
Questionnaire de positionnement en amont, permettant d'ajuster le niveau du socle mathématique. Évaluation continue par les travaux pratiques. Étude de cas finale évaluée. Évaluation de satisfaction à chaud, transmise dans les quinze jours. Évaluation à froid à trois mois.
