Apprentissage profond pour données numériques
Master InformatiqueParcours Sciences des données et systèmes complexes (SDSC)
ComposanteUFR de mathématique et d'informatique
Description
Ce cours présente les principes fondamentaux de l'apprentissage profond, de la théorie des réseaux neuronaux convolutifs à leur mise en œuvre pour résoudre des problèmes du monde réel. Il sera divisé en quatre modules :
- Apprentissage profond et réseaux neuronaux convolutifs
- Apprentissage profond non supervisé
- Transformateurs
- Pipeline et défis de l'IA
Compétences requises
À l'entrée de cet enseignement, un étudiant devrait savoir :
- Programmation python
- Principes fondamentaux de l'apprentissage automatique
- Principes fondamentaux des réseaux neuronaux
- Évaluer les algorithmes d'apprentissage automatique
Compétences visées
À l'issue de cet enseignement un étudiant saura :
- Expliquer la notion de représentation latente dans le contexte des réseaux convolutifs,
- Mobiliser différentes approches pour interpréter les prédictions d’un modèle d’apprentissage automatique,
- Développe un modèle d'apprentissage profond non supervisé et visualise sa sortie,
- Comprendre la fonction des réseaux neuronaux récurrents et des transformateurs,
- Effectuer un clustering à l'aide d'un modèle d'apprentissage profond,
- Mettre en œuvre un pipeline d'IA pour résoudre un problème pratique.
Disciplines
- Informatique
Syllabus
Les principales étapes de l'élaboration d'un modèle d'apprentissage profond sont étudiées :
- Visualisation et étude des représentations latentes de réseaux convolutifs, explicabilité et apprentissage automatique,
- Apprentissage profond non supervise : autoencodeurs, apprentissage auto-supervisé, deep clustering,
- Visualisation : t-SNE, divergence KL,
- Introduction aux modèles génératifs,
- Apprentissage profond sur des données dynamiques : Réseaux récurrents (RNN, LSTM), modèles d’attention, transformers,
- Réalisation d’un pipeline d'apprentissage profond pour s'attaquer à un problème pratique dans le cadre d’un projet par équipe.
Bibliographie
- I. Goodfellow, Y. Bengio, A. Courville, Deep Learning, The MIT Press, 2016
- C. Bishop, H. Bishop, Deep Learning: Foundations and Concepts, Springer, 2023