Les chercheurs de l'Institut des algorithmes d'apprentissage de Montréal ou Montreal Institute for Learning Algorithms (MILA) ont développés une expertise en réseaux profonds (autant discriminants que génératifs( et leurs applications en vision, parole, langauge. Le MILA est reconnu mondialement pour ses nombreuses percées dans le développement de nouveaux algorithmes d'apprentissage des réseaux profonds et leurs applications à de nombreux domaines. Ses domaines sont entre autres, la modélisation du langage, la traduction automatique, la reconnaissance d'objets, la modélisation de modèles génératifs avec sorties structurées, le reconnaissance du langage naturel.

Nos principaux champs de recherches sont:

• Théorie de l'apprentissage profond: avantages théoriques et compréhension de l'apprentissage profond, découvrir comment entraîner des architectures profondes
• Défis de l'optimisation des réseaux profonds: comment mieux entraîner des réseaux profonds
• Apprentissage profond grande échelle: comment implémenter et entraîner de plus gros modèels, comment entraîner des modèles plus rapidement
• Traitement du langage naturel: traduction automatique, reconnaissance de parole, modèles de langage naturel, entraînemenet d'Un bout à l'autre de la chaîne de traitement
• Vision: applications à al reconnaissance d'objets, classificaiton d'émotions reconnaissance d'activités, détection de visages
• Modèles génératifs non-supervisés: alternatives aux machines de Boltzmann, apprentissage de caractéristiques, modèles génératifs, désambiguïsation de variations, auto-encodeurs, apprentissage de variétés
• Réseaux récurrents: modèles bidirectionnels, modèles d'attention, prise en compte des dépendances à long terme, modèles multi-échelles hiérarchiques

De nombreuses innovations ayant conduites à la très grande vague de popularité de l’apprentissage profond dans les médias ont été inventées ou co-inventées au MILA. Citons notamment des contributions importantes au pré-entraînement de réseaux non supervisés couche par couche, aux réseaux rectifieurs profonds supervisés, aux réseaux neuronaux génératifs, à la théorie et aux avancées sur les réseaux récurrents, à l’ajustement automatique d’hyper-paramètres, à la traduction automatique et à l’analyse théorique des réseaux neuronaux.

• Les publications du MILA sont disponibles ici : https://mila.quebec/publications/