Deep Learning avec TensorFlow par Human Coders

Jour 1: les bases des réseaux de neurones
Présentation du Deep Learning et de ses possibilités
Concepts de base
Formalisation des problèmes d'apprentissage supervisé : classification et régression
Exemples d'utilisation
Régressions linéaire et logistique
Révision des bases de Python ; configuration et utilisation de notebooks Jupyter
Modèles linéaires et mesures de performance : MSE (régression) et log
- loss (classification)
Apprentissage des paramètres d'un modèle via la méthode de descente de gradient stochastique ("SGD")
Formulation en termes de réseau neuronal à une couche, et implémentation
Préparation des données
Visualisations et interprétation
Réseaux de neurones multi
- couches
Fonctionnement des réseaux à plusieurs couches entièrement connectées ("Multi
- Layered Perceptron"), et apprentissage via rétro
- propagation ("back
- propagation")
Illustration avec TensorFlow Playground
Implémentation avec Keras ; suivi de l'apprentissage avec TensorBoard
Deep Learning (DL) automatisé avec la librairie Auto
- Keras et l'outil BigML
Export des modèles en vue de leur déploiement.
Jour 2: optimisation de vos réseaux de neurones, Transfer Learning, et CNNs
Evaluation, optimisation et comparaisons des modèles
Procédure d'évaluation
Inspection des courbes d'apprentissage
Phénomène de sur
- apprentissage ("overfitting") : détection et solutions
Optimisation des "hyper
- paramètres" (taux d'apprentissage, nombre de neurones, stratégie d'initialisation, etc.) via la procédure de grid
- search
Comparaison de réseaux profonds à d'autres approches état de l'art (ex: XGBoost) sur divers datasets de classification et régression
Réduction du temps d'apprentissage via utilisation efficace de GPU.
Réseaux convolutifs et application à l'imagerie
Fonctionnement des Convolutional Neural Networks,: couches de convolution, de pooling, et régularisation par "dropout"
Mise en pratique et visualisation sur MNIST (reconnaissance de chiffres manuscrits).
Introduction au Transfer Learning
Principe de réutilisation de modèles existants, pour extraire des représentations haut
- niveau et créer de nouveaux modèles sur de nouveaux problèmes plus rapidement
Mise en pratique sur un challenge Kaggle de classification d'images
Aller plus loin avec le Deep Learning
Récapitulatif
Limites du Deep Learning
Conseils pratiques pour la mise en place du DL dans vos applications
Autres structures de réseaux de neurones
Ressources pour aller plus loin

Comprendre le fonctionnement de l'apprentissage de réseaux de neurones à une puis plusieurs couches.
Comprendre les avantages et limites de l'apprentissage de réseaux de neurones profonds ("Deep Learning").
Créer et optimiser des réseaux de neurones sur données structurées, avec l'API Keras de TensorFlow.
Traiter les problèmes de reconnaissance d'images, grâce aux structures convolutives.
Savoir réutiliser un réseau profond déjà appris, pour cibler de nouveaux problèmes via ré-apprentissage peu profond ("Transfer Learning").