Passer au contenu

/ La recherche

Rechercher

Sciences pures Sciences appliquées Sciences naturelles et génie Génie Technologies de l’information et des communications

Yoshua Bengio Modifier son profil

Algorithmes d'apprentissages et intelligence artificielle

Professeur titulaire

Faculté des arts et des sciences - Département d'informatique et de recherche opérationnelle

Pavillon André-Aisenstadt local 3243

514 343-6804

yoshua.bengio@umontreal.ca

Autre numéro : 514 343-5834 (Télécopieur)
Autre courriel : bengioy@iro.umontreal.ca (Travail)

Médias

Capsule science #7 : Qu'est-ce que l'intelligence artificielle ?

Yoshua Bengio, professeur au Département d'informatique et de recherche opérationnelle de l'Université de Montréal, nous parle de l'intelligence artificielle.

L'Intelligence Artificielle avec la sommité mondiale Yoshua Bengio à Tout Le Monde En Parle

Sommité mondiale en matière d’intelligence artificielle, le chercheur Yoshua Bengio veut apprendre aux ordinateurs… à apprendre! C’est d’abord en étudiant l’intelligence humaine qu’on pourra mettre au point des ordinateurs qui pourront, un jour, égaler le cerveau humain.

The Rise of Artificial Intelligence through Deep Learning | Yoshua Bengio | TEDxMontreal

A revolution in AI is occurring thanks to progress in deep learning. How far are we towards the goal of achieving human-level AI? What are some of the main challenges ahead?

Portrait

Expertise de recherche

Mon but à long terme est de comprendre l'intelligence; comprendre ses principes sous-jacents nous donnerait accès à l'intelligence artificielle (IA), et je crois que les algorithmes d'apprentissage sont essentiels dans cette quête. Les algorithmes d'apprentissage pourraient donner aux ordinateurs la capacité de capter des connaissances opérationnelles (pas nécessairement sous forme symbolique/verbale) à partir d'exemples. Une machine ayant appris de telles connaissances pourrait ainsi faire des prédictions ou des classifications correctes sur de nouveaux cas, généraliser à de nouvelles situations. La recherche dans ce domaine a été couronnée de nombreux succès au cours des trois dernières décades, et elle est maintenant appliquée dans de nombreux domaines de la science et de la technologie.

Parmi les applications les plus connues on inclut les engins de recherche, le traitement du langage naturel, la traduction automatique, la reconnaissance de la parole, la vision par ordinateur, et la fouille de données. Mes recherches à long terme portent sur l'apprentissage de représentations, afin de dépasser des limites théoriques et pratiques des algorithmes (linéaires ou à noyau) qui ont dominé l'apprentissage machine jusqu'à récemment. Pour contourner ces limitations, une nouvelle approche appelée apprentissage profond a été développée ici et dans quelques laboratoires depuis 2006 et a connu des succès fracassants au cours des dernières années.

Champs d'expertise

  • Science des données
  • Apprentissage automatique
  • Apprentissage de représentations
  • Apprentissage profond
  • Réseaux de neurones
  • Modèles probabilistes
  • Vision par ordinateur
  • Traitement de la langue naturelle
  • Données temporelles

Biographie

Yoshua Bengio est un chercheur canadien spécialiste en intelligence artificielle, et pionnier de l’apprentissage profond. Il est né en France en 1964, a fait ses études à Montréal, a obtenu son doctorat en informatique de l’université McGill en 1991 et a effectué des études post-doctorales au MIT.

Depuis 1993, il est professeur au Département d’informatique et de recherche opérationnelle de l’université de Montréal. Il est aussi directeur de l’Institut de Montréal des Algorithmes d’Apprentissage et titulaire de la Chaire de Recherche du Canada sur les algorithmes d’apprentissage statistique.

En octobre 2009, il reçoit le prix Urgel-Archambault pour ses recherches en intelligence artificielle. Il co-dirige le programme de l’ICRA sur l’apprentissage automatique et l’apprentissage biologique. Son ambition est de comprendre les principes de l’apprentissage menant à l’intelligence.

Il enseigne un cours gradué (IFT6266) et supervise un large groupe d’étudiants et stagiaires post-doctoraux. Ses travaux sont fortement cités (plus de 40000 citations par Google Scholar en juin 2016, avec un H-index de plus de 80 qui croît rapidement).

Formation

  • 1988 — Maîtrise — InformatiqueUniversité McGill
  • 1991 — Doctorat — InformatiqueUniversité McGill

Pour en savoir plus…

Enseignement et encadrement Ce professeur recrute

Recrutement en recherche Ce professeur recrute

Le MILA est toujours à la recherche de bons candidats de tous les niveaux : stagiaires (temps partiel ou temps plein), étudiants à la maîtrise, étudiants au doctorat (incluant les visiteurs) et post-doctorants. Voir aussi pourquoi étudier à MILA et FAQ .

Il est attendu des doctorants et post-doctorants qu’ils possèdent une bonne connaissance de l’apprentissage machine et, si possible, de l’apprentissage profond. Au niveau post-doctoral, la plupart des candidats ont déjà un bon dossier de publication en apprentissage profond. Finalement, les candidats à tous les niveaux devraient avoir un fort bagage mathématique (probabilités, algèbre linéaire, optimisations numériques, statistiques) et informatique (analyse numérique, développement de logiciels à code source ouvert).

Pour en savoir plus sur les postes offerts, consultez la page sur le site du MILA ­­­­­­>>>

Encadrement

Thèses et mémoires dirigés (dépôt institutionnel Papyrus)

2018

Exploring Attention Based Model for Captioning Images

Diplômé(e) : Xu, Kelvin
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2018

Feedforward deep architectures for classification and synthesis

Diplômé(e) : Warde-Farley, David
Cycle : Doctorat
Diplôme obtenu : Ph. D.
2018

Learning visual representations with neural networks for video captioning and image generation

Diplômé(e) : Yao, Li
Cycle : Doctorat
Diplôme obtenu : Ph. D.
2017

Towards deep semi supervised learning

Diplômé(e) : Pezeshki, Mohammad
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2017

Sequential modeling, generative recurrent neural networks, and their applications to audio

Diplômé(e) : Mehri, Soroush
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2017

Structured prediction and generative modeling using neural networks

Diplômé(e) : Kastner, Kyle
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2017

Speech synthesis using recurrent neural networks

Diplômé(e) : Rodríguez Sotelo, José Manuel
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2016

Bidirectional Helmholtz Machines

Diplômé(e) : Shabanian, Samira
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2016

Designing Regularizers and Architectures for Recurrent Neural Networks

Diplômé(e) : Krueger, David
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2015

Leveraging noisy side information for disentangling of factors of variation in a supervised setting

Diplômé(e) : Carrier, Pierre Luc
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2015

Deep learning of representations and its application to computer vision

Diplômé(e) : Goodfellow, Ian
Cycle : Doctorat
Diplôme obtenu : Ph. D.
2015

Distributed conditional computation

Diplômé(e) : Léonard, Nicholas
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2015

Apprentissage des réseaux de neurones profonds et applications en traitement automatique de la langue naturelle

Diplômé(e) : Glorot, Xavier
Cycle : Doctorat
Diplôme obtenu : Ph. D.
2015

On Recurrent and Deep Neural Networks

Diplômé(e) : Pascanu, Razvan
Cycle : Doctorat
Diplôme obtenu : Ph. D.
2015

Apprentissage d'espaces sémantiques

Diplômé(e) : Mesnil, Grégoire
Cycle : Doctorat
Diplôme obtenu : Ph. D.
2014

Improving sampling, optimization and feature extraction in Boltzmann machines

Diplômé(e) : Desjardins, Guillaume
Cycle : Doctorat
Diplôme obtenu : Ph. D.
2014

Modeling High-Dimensional Audio Sequences with Recurrent Neural Networks

Diplômé(e) : Boulanger-Lewandowski, Nicolas
Cycle : Doctorat
Diplôme obtenu : Ph. D.
2014

Algorithmes d’apprentissage profonds supervisés et non-supervisés: applications et résultats théoriques

Diplômé(e) : Thibodeau-Laufer, Eric
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2013

Algorithmes d'apprentissage pour la recommandation

Diplômé(e) : Bisson, Valentin
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2012

Apprentissage de représentations musicales à l'aide d'architectures profondes et multiéchelles

Diplômé(e) : Hamel, Philippe
Cycle : Doctorat
Diplôme obtenu : Ph. D.
2012

Apprentissage machine efficace : théorie et pratique

Diplômé(e) : Delalleau, Olivier
Cycle : Doctorat
Diplôme obtenu : Ph. D.
2012

Réseaux de neurones à relaxation entraînés par critère d'autoencodeur débruitant

Diplômé(e) : Savard, François
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2011

Understanding deep architectures and the effect of unsupervised pre-training

Diplômé(e) : Erhan, Dumitru
Cycle : Doctorat
Diplôme obtenu : Ph. D.
2011

Incorporating complex cells into neural networks for pattern classification

Diplômé(e) : Bergstra, James
Cycle : Doctorat
Diplôme obtenu : Ph. D.
2011

Prédiction de l'attrition en date de renouvellement en assurance automobile avec processus gaussiens

Diplômé(e) : Pannetier Lebeuf, Sylvain
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2010

Sequential Machine learning Approaches for Portfolio Management

Diplômé(e) : Chapados, Nicolas
Cycle : Doctorat
Diplôme obtenu : Ph. D.
2010

Échantillonnage dynamique de champs markoviens

Diplômé(e) : Breuleux, Olivier
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2010

Training deep convolutional architectures for vision

Diplômé(e) : Desjardins, Guillaume
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2008

Modèles Pareto hybrides pour distributions asymétriques et à queues lourdes

Diplômé(e) : Carreau, Julie
Cycle : Doctorat
Diplôme obtenu : Ph. D.
2008

Avancées théoriques sur la représentation et l'optimisation des réseaux de neurones

Diplômé(e) : Le Roux, Nicolas
Cycle : Doctorat
Diplôme obtenu : Ph. D.
2008

TONGA : un algorithme de gradient naturel pour les problèmes de grande taille

Diplômé(e) : Manzagol, Pierre-Antoine
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2007

Boosting hierarchique et construction de filtres

Diplômé(e) : LaBarre, Marc-Olivier
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2006

Collaborative filtering techniques for drug discovery

Diplômé(e) : Erhan, Dumitru
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2006

Algorithms for classifying recorded music by genre

Diplômé(e) : Bergstra, James
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2005

Réducation de dimensionnalité non linéaire et vorace

Diplômé(e) : Ouimet, Marie
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2005

Réduction de dimension pour modèles graphiques probabilistes appliqués à la désambiguïsation sémantique

Diplômé(e) : Boisvert, Maryse
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2005

Extraction d'information à partir de transcription de conversations téléphoniques spécialisées

Diplômé(e) : Boufaden, Narjès
Cycle : Doctorat
Diplôme obtenu : Ph. D.
2004

Généralisation d'algorithmes de réduction de dimension

Diplômé(e) : Paiement, Jean-François
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2004

Modèles à noyaux à structure locale

Diplômé(e) : Vincent, Pascal
Cycle : Doctorat
Diplôme obtenu : Ph. D.
2004

Méthodes à noyaux appliquées à la gestion de portefeuille

Diplômé(e) : Dorion, Christian
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2004

Segmentation hiérarchique du domaine sémantique pour l'accélération d'un modèle de langage

Diplômé(e) : Morin, Frédéric
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2003

Accélérer l'entraînement d'un modèle non-paramétrique de densité non normalisée par échantillonnage aléatoire

Diplômé(e) : Senécal, Jean-Sébastien
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2003

Quelques modèles de langage statistiques et graphiques lissés avec WordNet

Diplômé(e) : Jauvin, Christian
Cycle : Maîtrise
Diplôme obtenu : M. Sc.
2003

Les algorithmes d'apprentissage appliqués aux risques financiers

Diplômé(e) : Dugas, Charles
Cycle : Doctorat
Diplôme obtenu : Ph. D.

Projets

Projets de recherche

2017 - 2024

Subvention accordée au projet Apogée Données au service des Canadiens : apprentissage profond et optimisation aux fins de la révolution du savoir.

Chercheur principal : Marie-Josée Hébert
Sources de financement : FRQSC/Fonds de recherche du Québec - Société et culture (FQRSC)
Programmes de subvention : PVXXXXXX-Subvention générale et projets spéciaux (non partageable au prorata)
2016 - 2024

FI - Data Serving Canadians : Strategy for a Data-Driven Innovation Ecosystem

Chercheur principal : Marie-Josée Hébert
Sources de financement : SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Programmes de subvention : PVXXXXXX-Fonds d'excellence en recherche Apogée Canada
2016 - 2024

FD - Data Serving Canadians : Strategy for a Data-Driven Innovation Ecosystem

Chercheur principal : Marie-Josée Hébert
Sources de financement : SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Programmes de subvention : PVXXXXXX-Fonds d'excellence en recherche Apogée Canada
2015 - 2022

CENTRE DE RECHERCHES MATHEMATIQUES (CRM)

Chercheur principal : Luc Vinet
Co-chercheurs : Pavel Winternitz , Alfred Michel Grundland , Christiane Rousseau , Sabin Lessard , François Perron , Sylvie Hamel , Marlène Frigon , Karim Jerbi , Jacques Bélair , François Lalonde , Robert Gwyn Owens , Gilles Brassard , Alain Vinet , Michel Delfour , Yvan Saint Aubin , Manuel Morales , Paul M Gauthier , Manu Paranjape , Véronique Hussin , Fahima Nekka , Yoshua Bengio , Pierre Duchesne , Jiri Patera , Nadia El-Mabrouk , Louis-Pierre Arguin , Andrew Granville , Iosif Polterovich , Octavian Cornea , Matilde Lalin , Dimitrios Koukoulopoulos , Hélène Cossette , Christian Genest , Frédéric Gourdeau , Claude Levesque , Étienne Marceau , Pierre Mathieu , Thomas Joseph Ransford , Louis-Paul Rivest , Jean-Marie De Koninck , Javad Mashreghi , Thierry Duchesne , José Manuel Urquiza , Hugo Chapdelaine , Michael Lau , Alexandre Girouard , Antonio Lei , Pengfei Guan , Xiaowen Chang , Michael C. Mackey , John A Toth , Henri Darmon , Karl Peter Russell , Niky Kamran , Jacques Claude Hurtubise , Adrian Iovita , Peter Bartello , Eyal Goren , Dmitry Jakobson , Vojkan Jaksic , Daniel Tzvi Wise , Anthony Raymond Humphries , Frederic Guichard , Erik P. Cook , Robert Brandenberger , Adrian Vetta , Erica Moodie , Keshav Dasgupta , Christophe Grova , Bruce Shepherd , David Stephens , Gantumur Tsogtgerel , Johanna Neslehova , Jean-Christophe Nave , Johannes Walcher , Paul François , Anmar Khadra , Adam M. Oberman , Michael Yves Michel Pichot , Frédéric Lesage , Jean-Marc Lina , Alexander Maloney , Dana Louigi Addario-Berry , André Fortin , André Garon , Dominique Pelletier , Éric P. Marchand , Debbie Janice Dupuis , Syed Ali , Yogendra Chaubey , Christopher Cummins , Chantal David , Eusebius Jacobus Doedel , José Garrido , Pawel Gora , Richard Hall , John P. Harnad , Hershy Kisilevsky , Galia Dafni , D. Korotkin , Benoit Larose , Marco Bertola , Alexei Kokotov , Wei Sun , Alina Stancu , Patrice Gaillardetz , Lea Popovic , André Dieter Bandrauk , Ibrahim Assem , Tomasz Kaczynski , Shiping Liu , Virginie Charette , Vasilisa Shramchenko , Maxime Descoteaux , Anne Bergeron , François Bergeron , Steven P. Boyer , Srecko Brlek , Christophe Reutenauer , Jean-François Renaud , Vestislav Apostolov , Steven Lu , Pedro Peres-Neto , Christophe Hohlweg , Mathieu Boudreault , FRANCO SALIOLA , Alexandre Roch , Frédéric Rochon , Mark Powell , Bruno L. Rémillard , Alexandre Blondin-Massé , Thomas Brüstle , Richard Fournier , Linan Chen , Jal Choksi , Clement Hyvrier , Payman Kassaei , Piotr Przytycki , Hélène Cossette , Christian Genest , Frédéric Gourdeau , Claude Levesque , Étienne Marceau , Pierre Mathieu , Thomas Joseph Ransford , Louis-Paul Rivest , Jean-Marie De Koninck , Javad Mashreghi , Thierry Duchesne , José Manuel Urquiza , Hugo Chapdelaine , Michael Lau , Alexandre Girouard , Antonio Lei , André Fortin , Anne Bergeron , François Bergeron , Steven P. Boyer , Srecko Brlek , Christophe Reutenauer , Jean-François Renaud , Vestislav Apostolov , Steven Lu , Pedro Peres-Neto , Christophe Hohlweg , Mathieu Boudreault , FRANCO SALIOLA , Alexandre Roch , Frédéric Rochon , Mark Powell , Alexandre Blondin-Massé , Clement Hyvrier
Sources de financement : FRQNT/Fonds de recherche du Québec - Nature et technologies (FQRNT)
Programmes de subvention : PVXXXXXX-Programme de Regroupements Stratégiques
2018 - 2020

Matching MHC 1-associated peptide spectra to sequencing reads using deep neural networks

Chercheur principal : Pierre Thibault
Co-chercheurs : Claude Perreault , Yoshua Bengio , Sébastien Lemieux
Sources de financement : SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Programmes de subvention : PVXXXXXX-Fonds d'excellence en recherche Apogée Canada/Projet de recherche
2018 - 2020

Predictive model of colorectal cancer liver metastases response to chemotherapy

Chercheur principal : An Tang
Sources de financement : SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Programmes de subvention : PVXXXXXX-Fonds d'excellence en recherche Apogée Canada/Projet de recherche
2018 - 2020

Deep learning for precision medicine by joint analysis of gene expression profiles measured through RNA-Seq and microarrays

Chercheur principal : Sébastien Lemieux
Co-chercheurs : Yoshua Bengio , Guy Sauvageau
Sources de financement : SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Programmes de subvention : PVXXXXXX-Fonds d'excellence en recherche Apogée Canada/Projet de recherche
2014 - 2020

DEEP LEARNING OF REPRESENTATIONS

Chercheur principal : Yoshua Bengio
Sources de financement : CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Programmes de subvention : PVX20965-Programme de subvention à la découverte individuelle ou de groupe
2018 - 2019

Data-driven Transplantation Science

Chercheur principal : Yoshua Bengio
Co-chercheurs : Héloïse Cardinal , Andrea Lodi
Sources de financement : SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Programmes de subvention : PVXXXXXX-Fonds d'excellence en recherche Apogée Canada/Projet de recherche
2015 - 2019

Multimodal Multilingual Continuous Representation for Human Language Understanding (M2CR)

Chercheur principal : Yoshua Bengio
Sources de financement : FRQNT/Fonds de recherche du Québec - Nature et technologies (FQRNT)
Programmes de subvention : PVXXXXXX-ERA-NET CHIST-ERA (Recherche Européenne coordonnée)
2015 - 2019

Apprentissage non-supervisé d'architectures profondes pour le changement d'expressions faciales

Chercheur principal : Pascal Vincent
Co-chercheurs : Aaron Courville , Yoshua Bengio , Roland Memisevic
Sources de financement : FRQNT/Fonds de recherche du Québec - Nature et technologies (FQRNT)
Programmes de subvention : PV113724-Projets de recherche en équipe (et possibilité d'équipement la première année)
2013 - 2019

CHAIRE DE RECHERCHE DU CANADA EN ALGORITHMES D'APPRENTISSAGE STATISTIQUE

Chercheur principal : Yoshua Bengio
Sources de financement : SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Programmes de subvention : PVX50399-Chaires de recherche du Canada
2002 - 2019

SUBVENTION D'INFRASTRUCTURE DU FRSQ POUR LE GRSNC(GROUPE DE RECHERCHE SUR LE SYSTÈME NERVEUX CENTRAL)

Sources de financement : FRQS/Fonds de recherche du Québec - Santé (FRSQ)
Programmes de subvention : PVXXXXXX-Subvention de groupe de recherche
2017 - 2018

Apogée Canada fonds d'excellence en recherche / Compte pour le paiement des salaires et portion recherche des quatre post-doc liée au MILA. Candidats: Devansh Arpit, Devon Hjelm, Joseph Paul Cohen et Jason Jo.

Chercheur principal : Yoshua Bengio
Co-chercheurs : Marie-Josée Hébert
Sources de financement : SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Programmes de subvention : PVXXXXXX-Fonds d'excellence en recherche Apogée Canada
2017 - 2018

Apogée Canada fonds d'excellence en recherche / Fonds de soutien à la recherche de l'étudiant Devon Hjelm.

Chercheur principal : Yoshua Bengio
Co-chercheurs : Marie-Josée Hébert
Sources de financement : SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Programmes de subvention : PVXXXXXX-Fonds d'excellence en recherche Apogée Canada
2017 - 2018

Longitudinal Weak Labeling for lung cancer prognosis and treatment response prediction

Chercheur principal : Yoshua Bengio
Sources de financement : MITACS Inc.
Programmes de subvention : PVXXXXXX-Stage Accélération Québec - MITACS
2017 - 2018

Apogée Canada fonds d'excellence en recherche / Fonds de soutien à la recherche de l'étudiant Devansh Arpit

Chercheur principal : Yoshua Bengio
Co-chercheurs : Marie-Josée Hébert
Sources de financement : SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Programmes de subvention : PVXXXXXX-Fonds d'excellence en recherche Apogée Canada
2016 - 2018

Highperformance computing environment to leverage deep learning technology for large biomedical and neuroimaging data

Chercheur principal : Yoshua Bengio
Sources de financement : CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Programmes de subvention : PVXXXXXX-(OIR) Outils et d'instruments de recherche (OIR) -1 -(de 7 001 $ à 150 000 $)
2016 - 2018

Deep Learning for Cognitive Computing

Chercheur principal : Yoshua Bengio
Sources de financement : CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG) , IBM Canada Ltée , IBM Canada Ltée
Programmes de subvention : PVX20973-Partenariat de recherche --(RDC/CRD) Subvention de recherche et développement coopérative , ,
2016 - 2018

Software infrastructure for Deep Learning

Chercheur principal : Yoshua Bengio
Sources de financement : FCI/Fondation canadienne pour l'innovation
Programmes de subvention : PVXXXXXX-Initiative sur la cyberinfrastructure
2015 - 2018

Leveraging Unlabelled, Off-Task Data to improve ASR for Low-Ressource Languages Based on the Transferability of Acoustic Features Learned by Deep Neural Networks

Chercheur principal : Marc Schoenwiesner
Co-chercheurs : Yoshua Bengio
Sources de financement : MITACS Inc. , Ministère de l'Économie, de la Science et de l'Innovation
Programmes de subvention : PVXXXXXX-Stage Accélération Québec - MITACS , PVXXXXXX-Prog. soutien rech (PSR v1B): Soutien à des projets rech. (Mitacs)
2015 - 2018

Leveraging Unlabelled, Off-Task Data to improve ASR for Low-Resource Languages Based on the Transferability of Acoustic Features Learned by Deep Neural Networks

Chercheur principal : Marc Schoenwiesner
Co-chercheurs : Yoshua Bengio
2014 - 2018

RESEARCH ON DEEP STRUCTURED OUTPUT MODELS

Chercheur principal : Yoshua Bengio
Sources de financement : Nuance Foundation
Programmes de subvention :
2013 - 2016

ADIABATIC QUANTUM COMPUTING FOR DEEP LEARNING WITH BOLTZMANN MACHINES

Chercheur principal : Yoshua Bengio
Co-chercheurs : Aaron Courville
Sources de financement : CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG) , D-Wave Systems Inc.
Programmes de subvention : PVX20967-(SPS/SPG) Subventions de projets stratégiques ,
2013 - 2016

LARGE-SCALE DEEP LEARNING FOR CONTENT-BASED RECOMMENDATION SYSTEMS

Chercheur principal : Yoshua Bengio
Sources de financement : CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG) , Ubi Soft Divertissements Inc.
Programmes de subvention : PVX20967-(SPS/SPG) Subventions de projets stratégiques ,
2013 - 2016

LEARNING REPRESENTATIONS OF PLAYERS EMOTIONS AND STATE FOR NEXT GENERATION GAMING

Chercheur principal : Pascal Vincent
Co-chercheurs : Yoshua Bengio , Christopher Pal
Sources de financement : CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG) , Ubi Soft Divertissements Inc.
Programmes de subvention : PVX20973-Partenariat de recherche --(RDC/CRD) Subvention de recherche et développement coopérative ,
2011 - 2016

REGROUPEMENT STRATEGIQUES - CALCUL QUEBEC

Chercheur principal : Normand Mousseau
Sources de financement : FRQNT/Fonds de recherche du Québec - Nature et technologies (FQRNT)
Programmes de subvention : PVXXXXXX-Programme de Regroupements Stratégiques
2008 - 2016

CENTRE DE RECHERCHES MATHEMATIQUES (CRM)

Chercheur principal : Luc Vinet
Co-chercheurs : Pavel Winternitz , Christiane Rousseau , Sabin Lessard , François Perron , Sylvie Hamel , Gena Hahn , Marlène Frigon , Jacques Bélair , François Lalonde , Robert Gwyn Owens , Gilles Brassard , Michel Delfour , Yvan Saint Aubin , Manuel Morales , Jonathan Taylor , Paul M Gauthier , Manu Paranjape , Véronique Hussin , Fahima Nekka , Christian Léger , Jean-François Angers , Yoshua Bengio , Pierre Duchesne , Anne Bourlioux , Abraham Broer , Jiri Patera , Nadia El-Mabrouk , Andrew Granville , Iosif Polterovich , Octavian Cornea , Line Baribeau , Christian Genest , Frédéric Gourdeau , Robert Guénette , Claude Levesque , Pierre Mathieu , Thomas Joseph Ransford , Louis-Paul Rivest , Jean-Marie De Koninck , Javad Mashreghi , Thierry Duchesne , Pengfei Guan , David Avis , Michael C. Mackey , James Owen Ramsay , John A Toth , Sherwin A Maslowe , Henri Darmon , David B Wolfson , Karl Peter Russell , Olga Kharlampovich , Niky Kamran , Jacques Claude Hurtubise , Adrian Iovita , Peter Bartello , Eyal Goren , Dmitry Jakobson , Alain C. Vandal , Vojkan Jaksic , Daniel Tzvi Wise , Anthony Raymond Humphries , Alexei Miasnikov , Erica Moodie , Thomas Wihler , Robert Seiringer , Johannes Walcher , Frédéric Lesage , Jean-Marc Lina , André Fortin , André Garon , John Mullins , Éric P. Marchand , Debbie Janice Dupuis , Syed Ali , Yogendra Chaubey , Christopher Cummins , Chantal David , Pawel Gora , John P. Harnad , Hershy Kisilevsky , John McKay , Galia Dafni , D. Korotkin , Benoit Larose , Marco Bertola , Vasek Chvatal , Alexander Shnirelman , Alina Stancu , Lea Popovic , André Dieter Bandrauk , Ibrahim Assem , Tomasz Kaczynski , Shiping Liu , Virginie Charette , Vasilisa Shramchenko , Maxime Descoteaux , François Bergeron , Steven P. Boyer , Srecko Brlek , André Joyal , Brenda MacGibbon , Christophe Reutenauer , Vestislav Apostolov , Olivier Collin , Steven Lu , Bruno L. Rémillard , Elisa Shahbazia Ohannessian , Yinannis Petridis , David Sankoff , Thomas Brüstle , Habib Benali , Nantel Bergeron , Simon Chauve , Francis Clarke , Richard Fournier , Martin Jakob Gander , Nadia Ghazzali , Alfred Michel Grundland , Line Baribeau , Christian Genest , Frédéric Gourdeau , Robert Guénette , Claude Levesque , Pierre Mathieu , Thomas Joseph Ransford , Louis-Paul Rivest , Jean-Marie De Koninck , Javad Mashreghi , Thierry Duchesne , André Fortin , François Bergeron , Steven P. Boyer , Srecko Brlek , André Joyal , Brenda MacGibbon , Christophe Reutenauer , Vestislav Apostolov , Olivier Collin , Steven Lu , Elisa Shahbazia Ohannessian
Sources de financement : FRQNT/Fonds de recherche du Québec - Nature et technologies (FQRNT)
Programmes de subvention : PVXXXXXX-Programme de Regroupements Stratégiques
2006 - 2015

PORTION RECHERCHE - NSERC-UBISOFT INDUSTRIAL RESEARCH CHAIR ON LEARNING REPRESENTATIONS FOR IMMERSIVE VIDEO GAMES

Chercheur principal : Yoshua Bengio
Sources de financement : Ubi Soft Divertissements Inc. , CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Programmes de subvention : , PVX20971-(PCI) Professeurs-chercheurs industriels-Chaire de recherche industrielle
1994 - 2015

LEARNING DEEP ARCHITECTURES FOR AI

Chercheur principal : Yoshua Bengio
Sources de financement : CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Programmes de subvention : PVX20965-Programme de subvention à la découverte individuelle ou de groupe
2011 - 2014

APPRENTISSAGE DISTRIBUTE D'ARCHITECTURES PROFONDES SUR D'IMMENSES ENSEMBLES DE DONNEES

Chercheur principal : Yoshua Bengio
Co-chercheurs : Michael Rabbat
Sources de financement : FRQNT/Fonds de recherche du Québec - Nature et technologies (FQRNT)
Programmes de subvention : PV113724-Projets de recherche en équipe (et possibilité d'équipement la première année)
2011 - 2014

DEEP LEARNING FOR IMAGE UNDERSTANDING

Chercheur principal : Yoshua Bengio
Co-chercheurs : Pascal Vincent , Christopher Pal
Sources de financement : Ubi Soft Divertissements Inc. , CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Programmes de subvention : , PVX20973-Partenariat de recherche --(RDC/CRD) Subvention de recherche et développement coopérative
2004 - 2014

SUPPORT OF RESEARCH FOR THE ACADEMIC YEAR 2004-2005 TO 2012-2013

Chercheur principal : Yoshua Bengio
Sources de financement : ICRA/Institut canadien des recherches avancées
Programmes de subvention :
2013

DEEP LEARNING FOR SPAM FILTERING

Chercheur principal : Yoshua Bengio
Sources de financement : CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Programmes de subvention : PV128974-Programme de subvention d'engagement partenarial
2013

IMPLEMENTING BOLTZMANN MACHINES ON QUANTUM COMPUTING HARDWARE

Chercheur principal : Yoshua Bengio
Sources de financement : CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Programmes de subvention : PV128974-Programme de subvention d'engagement partenarial
2012 - 2013

DEEP LEARNING FOR ADAPTIVE REAL-TIME BIDDING

Chercheur principal : Yoshua Bengio
Sources de financement : CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Programmes de subvention : PVX81211-(I2IP)Programme De l'idée à l'innovation
2010 - 2013

MACHINE LEARNING ALGORITHMS FOR AUTOMATED ANALYSIS OF PLAYER BEHAVIOR IN NEXT-GENERATION VIDEO GAMES

Chercheur principal : Yoshua Bengio
Sources de financement : Ubi Soft Divertissements Inc.
Programmes de subvention :

Rayonnement

En vedette

Mise en valeur d’une recherche

1988

Apprendre aux machines à penser

Des machines qui pensent comme des humains? Voilà un concept qui relève encore de la science-fiction. Ce qui n'empêche pas les chercheurs de s'attaquer à cette question et d'obtenir des résultats intéressants. Yoshua Bengio est professeur titulaire au Département d'informatique et de recherche opérationnelle à l'Université de Montréal et titulaire de la Chaire de recherche du Canada en algorithmes d'apprentissage statistiques. Spécialiste de renommée internationale des réseaux de neurones et de l'apprentissage machine, il se penche sur des problèmes que les ordinateurs doivent résoudre pour « apprendre » à partir des données reçues.
Avec ses douze étudiants et stagiaires postdoctoraux, Yoshua Bengio étudie deux grandes questions : l'élaboration d'algorithmes et de techniques d'apprentissage afin de traiter de nombreuses variables, ainsi que la création d'algorithmes de plus en plus performants pour traiter des dizaines ou des centaines de millions d'éléments d'information.
Apprendre de manière statistique
« Les animaux et les humains apprennent de manière statistique ¹, rappelle M. Bengio. Les événements ne se produisent pas tous de la même manière et chaque situation est nouvelle ou aléatoire. Pour la reconnaître, le cerveau doit, avant de conclure, généraliser ce qu'il a acquis. Et il doit le faire correctement, pour pouvoir prendre les bonnes décisions.
Mais comment un ordinateur peut-il généraliser correctement quand des centaines, des milliers ou des dizaines de milliers de variables sont en jeu? Yoshua Bengio travaille, par exemple, avec des industriels du domaine pharmaceutique pour identifier les molécules les plus prometteuses pour le développement de nouveaux médicaments. Autre exemple, en télécommunications : ses travaux permettent d'effectuer des analyses de clientèle chez Bell dans le but de diminuer les coûts de marketing. Et les algorithmes d'apprentissage qu'il conçoit contribuent aussi à réduire certains risques dans le domaine de la finance. Un groupe de ses étudiants a même fondé une entreprise qui aide les assureurs à évaluer le coût d'une police de manière beaucoup plus précise qu'avec les procédures classiques. Les nouvelles méthodes de calcul en jeu visent trois grands objectifs : résoudre des problèmes, économiser de l'argent et prendre de bonnes décisions.
Modéliser le langage
Dans Internet, les moteurs de recherche comme Google fonctionnent aussi à partir d'algorithmes d'apprentissage statistiques. Par exemple, pour reconnaître le sens du mot Java, le moteur doit analyser suffisamment d'informations pour décider s'il s'agit de l'île, du café ou du langage de programmation. Yoshua Bengio s'intéresse justement à la modélisation du langage. Il tente notamment de modéliser des séquences de mots : « Les machines analysent des centaines de millions de mots et tentent de prévoir le prochain mot à partir de ceux qui précèdent. Nous laissons rouler les ordinateurs pendant des mois. Mais nous sommes encore loin de l'intelligence artificielle telle que présentée dans les films », précise-t-il.
Des algorithmes gourmands
Ces algorithmes d'apprentissage sont extrêmement gourmands en termes de temps de calcul et d'espace de mémoire. Les processeurs de Altix 3700 sont beaucoup plus rapides que ceux auxquels M. Bengio avait accès jusqu'à maintenant et offrent un autre avantage : « Nous pouvons déjà décomposer nos algorithmes de manière à ce que plusieurs processeurs de calcul travaillent parallèlement sur des processeurs différents et qu'ils puissent communiquer entre eux. Il faudrait des mois pour exécuter une telle opération avec un ordinateur normal alors qu'avec Altix 3700, elle s'effectue jusqu'à 100 fois plus vite », explique Yoshua Bengio.

Publications et communications

Publications

Disciplines

  • Informatique
  • Statistiques
  • Mathématiques fondamentales
  • Mathématiques appliquées

Champ d’expertise

  • Apprentissage automatique
  • Apprentissage de représentations
  • Apprentissage profond
  • Base de données temporelle
  • Intelligence artificielle
  • Modèles probabilistes
  • Modèles statistiques
  • Réseaux de neurones
  • Vision par ordinateur
  • Science des données
  • Traitement automatique du langage naturel (TALN)