Passer au contenu

/ Research

Rechercher

Fundamental Sciences; Applied Sciences; Natural Sciences and Engineering; Engineering; Information and Communication Technologies

Yoshua Bengio

Learning Algorithms and Artificial Intelligence

Professeur titulaire

Faculté des arts et des sciences - Département d'informatique et de recherche opérationnelle

André-Aisenstadt, room 3243

514 343-6804

yoshua.bengio@umontreal.ca

Secondary number: 514 343-5834 (Télécopieur)
Secondary email: bengioy@iro.umontreal.ca (Travail)

Media

Capsule science #7 : Qu'est-ce que l'intelligence artificielle ?

Yoshua Bengio, professeur au Département d'informatique et de recherche opérationnelle de l'Université de Montréal, nous parle de l'intelligence artificielle.

L'Intelligence Artificielle avec la sommité mondiale Yoshua Bengio à Tout Le Monde En Parle

Sommité mondiale en matière d’intelligence artificielle, le chercheur Yoshua Bengio veut apprendre aux ordinateurs… à apprendre! C’est d’abord en étudiant l’intelligence humaine qu’on pourra mettre au point des ordinateurs qui pourront, un jour, égaler le cerveau humain.

The Rise of Artificial Intelligence through Deep Learning | Yoshua Bengio | TEDxMontreal

A revolution in AI is occurring thanks to progress in deep learning. How far are we towards the goal of achieving human-level AI? What are some of the main challenges ahead?

| FRQ | Yoshua Bengio et les impacts de l'IA | Conférence de Montréal 2018

Est-ce possible d'encadrer la manière d'utiliser l'intelligence artificielle ?

Profile

Research expertise

My long-term goal is to understand intelligence; understanding its underlying principles would give us access to artificial intelligence (AI), and I believe that learning algorithms are essential in this quest. Learning algorithms could give computers the ability to capture operational knowledge (not necessarily in symbolic / verbal form) from examples.

Biography

Understanding intelligence and its implications at all levels to unlock artificial intelligence (AI) is Yoshua Bengio’s long-term goal. Scientific Director at IVADO, a full professor in the Department of Computer Science and Operations Research (DIRO) at Université de Montréal, the director of the Montréal Institute for Learning Algorithms (MILA) and Canada Research Chair in Statistical Learning Algorithms, Professor Bengio aims to reveal the mathematical and computational mechanisms from which intelligence emerges.

Through their work on learning algorithms, Yoshua Bengio and his team are attempting to provide computers with the capacity to acquire operational knowledge by learning from examples. A machine that has acquired knowledge could then accurately generate predictions, categorize new cases and generalize findings to new situations. Professor Bengio seeks to give impetus to the development of more intelligent machines that understand the world around us, make decisions accordingly and are ultimately of service to society.

Research in the field drives a number of scientific and technological sectors, most notably research engines, natural language processing, automatic translation, artificial vision and datamining.

Professor Bengio earned a PhD in computer science from McGill University (1991) and is the co-director of the Neural Computation & Adaptive Perception program of the Canadian Institute for Advanced Research. He also holds the NSERC/Ubisoft Industrial Research Chair on Learning Representations for Immersive Video Games and works as the editor of the Journal of Machine Learning Research and the associate editor of Neural Computation and Foundations and Trends in Machine Learning.

Awards and recognitions

  • Prix Urgel-Archambault 2009 - Association francophone pour le savoir (Acfas)

education

  • 1988 — Maîtrise — InformatiqueUniversité McGill
  • 1991 — Doctorat — InformatiqueUniversité McGill

For more information…

Teaching and supervision Currently recruiting

Recruitment in research Currently recruiting

Mila is always looking for good candidates at all levels: interns (part-time or full-time), master’s students, PhD students (including visitors) and post-docs.

Mila is proud to award scholarships aiming to promote equality and diversity within the scientific community in artificial intelligence. Students who are members of under-represented groups in our field of research and who apply to MILA are eligible for such scholarships. See also “Equality and diversity : Mila’s core values” for more information.

For all other information please visit: “why study at Mila and FAQ.

Students at PhD and postdoc levels are expected to already have strong exposure to machine learning, and preferably to deep learning. A strong background in mathematics (probability, linear algebra, numerical optimization, statistics) and computer science (numerical computation, open source software development) is expected at all levels. Postdoc levels candidates typically already have a strong track record in deep learning itself.

To find out more about the positions available, visit the page on the MILA website >>>

Student supervision

Theses and dissertation supervision (Papyrus Institutional Repository)

2019

Improved training of generative models

Graduate : Goyal, Anirudh
Cycle : Master's
Grade : M. Sc.
2019

Learning and time : on using memory and curricula for language understanding

Graduate : Gulcehre, Caglar
Cycle : Doctoral
Grade : Ph. D.
2019

On Deep Multiscale Recurrent Neural Networks

Graduate : Chung, Junyoung
Cycle : Doctoral
Grade : Ph. D.
2019

Analyzing the benefits of communication channels between deep learning models

Graduate : Lacaille, Philippe
Cycle : Master's
Grade : M. Sc.
2018

Exploring Attention Based Model for Captioning Images

Graduate : Xu, Kelvin
Cycle : Master's
Grade : M. Sc.
2018

Feedforward deep architectures for classification and synthesis

Graduate : Warde-Farley, David
Cycle : Doctoral
Grade : Ph. D.
2018

Representation Learning for Visual Data

Graduate : Dumoulin, Vincent
Cycle : Doctoral
Grade : Ph. D.
2018

Reparametrization in deep learning

Graduate : Dinh, Laurent
Cycle : Doctoral
Grade : Ph. D.
2018

Difference target propagation

Graduate : Lee, Dong-Hyun
Cycle : Master's
Grade : M. Sc.
2017

Speech synthesis using recurrent neural networks

Graduate : Rodríguez Sotelo, José Manuel
Cycle : Master's
Grade : M. Sc.
2017

Towards deep semi supervised learning

Graduate : Pezeshki, Mohammad
Cycle : Master's
Grade : M. Sc.
2017

Sequential modeling, generative recurrent neural networks, and their applications to audio

Graduate : Mehri, Soroush
Cycle : Master's
Grade : M. Sc.
2017

Structured prediction and generative modeling using neural networks

Graduate : Kastner, Kyle
Cycle : Master's
Grade : M. Sc.
2016

Bidirectional Helmholtz Machines

Graduate : Shabanian, Samira
Cycle : Master's
Grade : M. Sc.
2016

Designing Regularizers and Architectures for Recurrent Neural Networks

Graduate : Krueger, David
Cycle : Master's
Grade : M. Sc.
2016

Advances in scaling deep learning algorithms

Graduate : Dauphin, Yann
Cycle : Doctoral
Grade : Ph. D.
2015

Apprentissage d'espaces sémantiques

Graduate : Mesnil, Grégoire
Cycle : Doctoral
Grade : Ph. D.
2015

Distributed conditional computation

Graduate : Léonard, Nicholas
Cycle : Master's
Grade : M. Sc.
2015

On Recurrent and Deep Neural Networks

Graduate : Pascanu, Razvan
Cycle : Doctoral
Grade : Ph. D.
2015

Leveraging noisy side information for disentangling of factors of variation in a supervised setting

Graduate : Carrier, Pierre Luc
Cycle : Master's
Grade : M. Sc.
2015

Deep learning of representations and its application to computer vision

Graduate : Goodfellow, Ian
Cycle : Doctoral
Grade : Ph. D.
2014

Algorithmes d’apprentissage profonds supervisés et non-supervisés: applications et résultats théoriques

Graduate : Thibodeau-Laufer, Eric
Cycle : Master's
Grade : M. Sc.
2014

Modeling High-Dimensional Audio Sequences with Recurrent Neural Networks

Graduate : Boulanger-Lewandowski, Nicolas
Cycle : Doctoral
Grade : Ph. D.
2014

Improving sampling, optimization and feature extraction in Boltzmann machines

Graduate : Desjardins, Guillaume
Cycle : Doctoral
Grade : Ph. D.
2013

Algorithmes d'apprentissage pour la recommandation

Graduate : Bisson, Valentin
Cycle : Master's
Grade : M. Sc.
2012

Apprentissage de représentations musicales à l'aide d'architectures profondes et multiéchelles

Graduate : Hamel, Philippe
Cycle : Doctoral
Grade : Ph. D.
2012

Réseaux de neurones à relaxation entraînés par critère d'autoencodeur débruitant

Graduate : Savard, François
Cycle : Master's
Grade : M. Sc.
2012

Apprentissage machine efficace : théorie et pratique

Graduate : Delalleau, Olivier
Cycle : Doctoral
Grade : Ph. D.
2011

Prédiction de l'attrition en date de renouvellement en assurance automobile avec processus gaussiens

Graduate : Pannetier Lebeuf, Sylvain
Cycle : Master's
Grade : M. Sc.
2011

Incorporating complex cells into neural networks for pattern classification

Graduate : Bergstra, James
Cycle : Doctoral
Grade : Ph. D.
2011

Understanding deep architectures and the effect of unsupervised pre-training

Graduate : Erhan, Dumitru
Cycle : Doctoral
Grade : Ph. D.
2010

Échantillonnage dynamique de champs markoviens

Graduate : Breuleux, Olivier
Cycle : Master's
Grade : M. Sc.
2010

Sequential Machine learning Approaches for Portfolio Management

Graduate : Chapados, Nicolas
Cycle : Doctoral
Grade : Ph. D.
2010

Training deep convolutional architectures for vision

Graduate : Desjardins, Guillaume
Cycle : Master's
Grade : M. Sc.
2008

Modèles Pareto hybrides pour distributions asymétriques et à queues lourdes

Graduate : Carreau, Julie
Cycle : Doctoral
Grade : Ph. D.
2008

Avancées théoriques sur la représentation et l'optimisation des réseaux de neurones

Graduate : Le Roux, Nicolas
Cycle : Doctoral
Grade : Ph. D.
2008

TONGA : un algorithme de gradient naturel pour les problèmes de grande taille

Graduate : Manzagol, Pierre-Antoine
Cycle : Master's
Grade : M. Sc.
2007

Boosting hierarchique et construction de filtres

Graduate : LaBarre, Marc-Olivier
Cycle : Master's
Grade : M. Sc.
2006

Algorithms for classifying recorded music by genre

Graduate : Bergstra, James
Cycle : Master's
Grade : M. Sc.
2006

Collaborative filtering techniques for drug discovery

Graduate : Erhan, Dumitru
Cycle : Master's
Grade : M. Sc.
2005

Réducation de dimensionnalité non linéaire et vorace

Graduate : Ouimet, Marie
Cycle : Master's
Grade : M. Sc.
2005

Extraction d'information à partir de transcription de conversations téléphoniques spécialisées

Graduate : Boufaden, Narjès
Cycle : Doctoral
Grade : Ph. D.
2004

Généralisation d'algorithmes de réduction de dimension

Graduate : Paiement, Jean-François
Cycle : Master's
Grade : M. Sc.
2004

Segmentation hiérarchique du domaine sémantique pour l'accélération d'un modèle de langage

Graduate : Morin, Frédéric
Cycle : Master's
Grade : M. Sc.
2004

Modèles à noyaux à structure locale

Graduate : Vincent, Pascal
Cycle : Doctoral
Grade : Ph. D.
2004

Méthodes à noyaux appliquées à la gestion de portefeuille

Graduate : Dorion, Christian
Cycle : Master's
Grade : M. Sc.
2003

Quelques modèles de langage statistiques et graphiques lissés avec WordNet

Graduate : Jauvin, Christian
Cycle : Master's
Grade : M. Sc.
2003

Les algorithmes d'apprentissage appliqués aux risques financiers

Graduate : Dugas, Charles
Cycle : Doctoral
Grade : Ph. D.

Projects

Research projects

2019 - 2025

Autonomous Deep Learning for AI

Lead researcher : Yoshua Bengio
Funding sources: CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Grant programs: PVX20965-(RGP) Programme de subvention à la découverte individuelle ou de groupe
2018 - 2024

NSERC CREATE Program on Machine Learning in Quantitative Finance and Business Analytics

Lead researcher : Manuel Morales
Funding sources: CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Grant programs: PV118026-FONCER : Prog. formation orientée nouveauté, la collaboration et l'expérience en recherche
2017 - 2024

Subvention accordée au projet Apogée Données au service des Canadiens : apprentissage profond et optimisation aux fins de la révolution du savoir.

Lead researcher : Marie-Josée Hébert
Funding sources: FRQSC/Fonds de recherche du Québec - Société et culture (FQRSC)
Grant programs: PVXXXXXX-Subvention générale et projets spéciaux (non partageable au prorata)
2016 - 2024

FD - Data Serving Canadians : Strategy for a Data-Driven Innovation Ecosystem

Lead researcher : Marie-Josée Hébert
Funding sources: SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Grant programs: PVXXXXXX-Fonds d'excellence en recherche Apogée Canada
2016 - 2024

FI - Data Serving Canadians : Strategy for a Data-Driven Innovation Ecosystem

Lead researcher : Marie-Josée Hébert
Funding sources: SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Grant programs: PVXXXXXX-Fonds d'excellence en recherche Apogée Canada
2019 - 2022

Union Neurosciences et Intelligence Artificielle Québec (UNIQUE) / Regroupements stratégiques

Lead researcher : Karim Jerbi
Funding sources: FRQNT/Fonds de recherche du Québec - Nature et technologies (FQRNT)
Grant programs: PVXXXXXX-(RS) Programme de regroupements stratégiques
2018 - 2022

Collaboration IRIC / universités / industrie : découverte accélérée de thérapies de l'économie pour un impact durable - FACS

Lead researcher : Michel Bouvier
Funding sources: Ministère Économie et Innovation , Ministère Économie et Innovation , Ministère Économie et Innovation
Grant programs: PVXXXXXX-Fonds d'accélération des collaborations en santé , PVXXXXXX-Fonds d'accélération des collaborations en santé , PVXXXXXX-Fonds d'accélération des collaborations en santé
2015 - 2022

CENTRE DE RECHERCHES MATHEMATIQUES (CRM)

Lead researcher : Luc Vinet
Co-researchers : Pavel Winternitz , Alfred Michel Grundland , Christiane Rousseau , Sabin Lessard , François Perron , Sylvie Hamel , Marlène Frigon , Karim Jerbi , Jacques Bélair , François Lalonde , Robert Gwyn Owens , Gilles Brassard , Alain Vinet , Michel Delfour , Yvan Saint Aubin , Manuel Morales , Paul M Gauthier , Manu Paranjape , Véronique Hussin , Fahima Nekka , Yoshua Bengio , Pierre Duchesne , Jiri Patera , Nadia El-Mabrouk , Louis-Pierre Arguin , Andrew Granville , Iosif Polterovich , Octavian Cornea , Matilde Lalin , Dimitrios Koukoulopoulos , Hélène Cossette , Christian Genest , Frédéric Gourdeau , Claude Levesque , Étienne Marceau , Pierre Mathieu , Thomas Joseph Ransford , Louis-Paul Rivest , Jean-Marie De Koninck , Javad Mashreghi , Thierry Duchesne , José Manuel Urquiza , Hugo Chapdelaine , Michael Lau , Alexandre Girouard , Antonio Lei , Pengfei Guan , Xiaowen Chang , Michael C. Mackey , John A Toth , Henri Darmon , Karl Peter Russell , Niky Kamran , Jacques Claude Hurtubise , Adrian Iovita , Peter Bartello , Eyal Goren , Dmitry Jakobson , Vojkan Jaksic , Daniel Tzvi Wise , Anthony Raymond Humphries , Frederic Guichard , Erik P. Cook , Robert Brandenberger , Adrian Vetta , Erica Moodie , Keshav Dasgupta , Christophe Grova , Bruce Shepherd , David Stephens , Gantumur Tsogtgerel , Johanna Neslehova , Jean-Christophe Nave , Johannes Walcher , Paul François , Anmar Khadra , Adam M. Oberman , Michael Yves Michel Pichot , Frédéric Lesage , Jean-Marc Lina , Alexander Maloney , Dana Louigi Addario-Berry , André Fortin , André Garon , Dominique Pelletier , Éric P. Marchand , Debbie Janice Dupuis , Syed Ali , Yogendra Chaubey , Christopher Cummins , Chantal David , Eusebius Jacobus Doedel , José Garrido , Pawel Gora , Richard Hall , John P. Harnad , Hershy Kisilevsky , Galia Dafni , D. Korotkin , Benoit Larose , Marco Bertola , Alexei Kokotov , Wei Sun , Alina Stancu , Patrice Gaillardetz , Lea Popovic , André Dieter Bandrauk , Ibrahim Assem , Tomasz Kaczynski , Shiping Liu , Virginie Charette , Vasilisa Shramchenko , Maxime Descoteaux , Anne Bergeron , François Bergeron , Steven P. Boyer , Srecko Brlek , Christophe Reutenauer , Jean-François Renaud , Vestislav Apostolov , Steven Lu , Pedro Peres-Neto , Christophe Hohlweg , Mathieu Boudreault , FRANCO SALIOLA , Alexandre Roch , Frédéric Rochon , Mark Powell , Bruno L. Rémillard , Alexandre Blondin-Massé , Thomas Brüstle , Richard Fournier , Linan Chen , Jal Choksi , Clement Hyvrier , Payman Kassaei , Piotr Przytycki , Hélène Cossette , Christian Genest , Frédéric Gourdeau , Claude Levesque , Étienne Marceau , Pierre Mathieu , Thomas Joseph Ransford , Louis-Paul Rivest , Jean-Marie De Koninck , Javad Mashreghi , Thierry Duchesne , José Manuel Urquiza , Hugo Chapdelaine , Michael Lau , Alexandre Girouard , Antonio Lei , André Fortin , Anne Bergeron , François Bergeron , Steven P. Boyer , Srecko Brlek , Christophe Reutenauer , Jean-François Renaud , Vestislav Apostolov , Steven Lu , Pedro Peres-Neto , Christophe Hohlweg , Mathieu Boudreault , FRANCO SALIOLA , Alexandre Roch , Frédéric Rochon , Mark Powell , Alexandre Blondin-Massé , Clement Hyvrier , Maciej Augustyniak , Jun Li , William Witczak-Krempa , M'Hamed Lajmi Lakhal Chaieb , Khader Khadraoui , Prakash Panangaden , Hamed Hatami , Roger Villemaire , Geneviève Lefebvre , Karim Oualkacha , Denis Talbot , Jean-François Coeurjolly , Frédéric Godin , Marcin Sabok , Yi Yang , Anne Mackay , Paramita Saha Chaudhuri , Jérôme Vétois , Ting-Huei Chen , Gena Hahn , Mireille Schnitzer , Alexander Fribergh , Benjamin Seamone , Egor Shelukhin , Alejandro Murua , Mylène Bédard , Alain Tapp , Laurent Charlin , Christian Genest , Alexandre Bureau , Nicolas Doyon , R Platt , Bruce Alan Reed , Russell Steele , Vladimir Makarenkov , Vahid Partovi Nia , Xiaowen Zhou , Cody Hyndman , Taoufik Bouezmani , Sorana Froda , Simon Guillotte , Aurélie Labbe , Mélina Mailhot , Alexandra Schmidt , Simon Philippe Caron-Huot
Funding sources: FRQNT/Fonds de recherche du Québec - Nature et technologies (FQRNT)
Grant programs: PVXXXXXX-(RS) Programme de regroupements stratégiques
2019 - 2021

Subvention accordée au projet Apogée Données au service des Canadiens : apprentissage profond et optimisation aux fins de la révolution du savoir. / Bourse postdoc, Candidat Simon Verret.

Lead researcher : Yoshua Bengio
Funding sources: FRQSC/Fonds de recherche du Québec - Société et culture (FQRSC)
Grant programs: PVXXXXXX-Fonds d'excellence en recherche Apogée Canada/Bourse
2019 - 2021

Apogée Canada fonds d'excellence en recherche / Bourse d'excellence IVADO à la maitrise Bhargav Kanuparthi

Lead researcher : Yoshua Bengio
Funding sources: SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Grant programs: PVXXXXXX-Fonds d'excellence en recherche Apogée Canada/Bourse
2018 - 2021

Apogée Canada fonds d'excellence en recherche / Stages Postdoctoraux IVADO Jonathan Binas

Lead researcher : Yoshua Bengio
Funding sources: SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Grant programs: PVXXXXXX-Fonds d'excellence en recherche Apogée Canada/Bourse
2016 - 2021

NSERC COHESA: Computing Hardware for Emerging Intelligent Sensory Applications

Lead researcher : Yoshua Bengio
Co-researchers : Andreas Moshovos
Funding sources: CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Grant programs: PVX20967-(SPS/SPG) Subventions de projets stratégiques
2019 - 2020

Simplification of long sentences

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2019 - 2020

Power Network Transfer Capability

Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2019 - 2020

Evaluation of monitoring data for predictive maintenance of energy production assets

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2019 - 2020

Low Data Drug Discovery

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2019 - 2020

Readmission AI: a predictive tool to assess patient risk of hospital readmission

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2019 - 2020

Real-time visual detection for robotic inspection

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2019 - 2020

Real-time object recognition on wearable devices

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2019 - 2020

Low data drug modeling

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2019 - 2020

Link predicting in court

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2019 - 2020

Time-series forecasting

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2019 - 2020

Super resolution for MRI scans

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2019 - 2020

Speaker Diarization

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2018 - 2020

Predictive model of colorectal cancer liver metastases response to chemotherapy

Lead researcher : An Tang
Funding sources: SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Grant programs: PVXXXXXX-Fonds d'excellence en recherche Apogée Canada/Projet de recherche
2018 - 2020

Deep learning for precision medicine by joint analysis of gene expression profiles measured through RNA-Seq and microarrays

Lead researcher : Sébastien Lemieux
Co-researchers : Yoshua Bengio , Guy Sauvageau
Funding sources: SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Grant programs: PVXXXXXX-Fonds d'excellence en recherche Apogée Canada/Projet de recherche
2018 - 2020

Matching MHC 1-associated peptide spectra to sequencing reads using deep neural networks

Lead researcher : Pierre Thibault
Co-researchers : Claude Perreault , Yoshua Bengio , Sébastien Lemieux
Funding sources: SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Grant programs: PVXXXXXX-Fonds d'excellence en recherche Apogée Canada/Projet de recherche
2017 - 2020

Canadian Open Neuroscience Platform_CONP

Lead researcher : Julien Doyon
Funding sources: Fondation Brain Canada
Grant programs:
2016 - 2020

Software infrastructure for Deep Learning

Lead researcher : Yoshua Bengio
Funding sources: FCI/Fondation canadienne pour l'innovation
Grant programs: PVXXXXXX-Initiative sur la cyberinfrastructure
2014 - 2020

DEEP LEARNING OF REPRESENTATIONS

Lead researcher : Yoshua Bengio
Funding sources: CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Grant programs: PVX20965-(RGP) Programme de subvention à la découverte individuelle ou de groupe
2002 - 2020

SUBVENTION D'INFRASTRUCTURE DU FRSQ POUR LE GRSNC(GROUPE DE RECHERCHE SUR LE SYSTÈME NERVEUX CENTRAL)

Funding sources: FRQS/Fonds de recherche du Québec - Santé (FRSQ)
Grant programs: PVXXXXXX-Subvention de groupe de recherche
2019

Electrical Load Forecasting

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2019

Satellite Solar Radiation Nowcasting

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2019

Optimizing Transfer Learning using Bidirectional Encoder Representations from Transformers

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2019

OPTIMIZATION FOR BUSINESS SYSTEMS AND CONVERSATIONAL ANALYTICS (Retail Personal Store Manager)

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2019

Reinforcement Learning for Aviation Training

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2019

AI to predict emergency visits

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2019

Cross Domain Recommendation System for the food industry

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2018 - 2019

Longitudinal Weak Labeling for Lung Cancer Prognosis and Treatment Response Prediction

Lead researcher : Yoshua Bengio
Co-researchers : Pascal Vincent
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2018 - 2019

Data-driven Transplantation Science

Lead researcher : Yoshua Bengio
Co-researchers : Héloïse Cardinal , Andrea Lodi
Funding sources: SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Grant programs: PVXXXXXX-Fonds d'excellence en recherche Apogée Canada/Projet de recherche
2017 - 2019

Longitudinal Weak Labeling for lung cancer prognosis and treatment response prediction

Lead researcher : Yoshua Bengio
Funding sources: MITACS Inc.
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS
2015 - 2019

Multimodal Multilingual Continuous Representation for Human Language Understanding (M2CR)

Lead researcher : Yoshua Bengio
Funding sources: FRQNT/Fonds de recherche du Québec - Nature et technologies (FQRNT)
Grant programs: PVXXXXXX-ERA-NET CHIST-ERA (Recherche Européenne coordonnée)
2015 - 2019

Apprentissage non-supervisé d'architectures profondes pour le changement d'expressions faciales

Lead researcher : Pascal Vincent
Co-researchers : Aaron Courville , Yoshua Bengio , Roland Memisevic
Funding sources: FRQNT/Fonds de recherche du Québec - Nature et technologies (FQRNT)
Grant programs: PV113724-(PR) Projets de recherche en équipe (et possibilité d'équipement la première année)
2013 - 2019

CHAIRE DE RECHERCHE DU CANADA EN ALGORITHMES D'APPRENTISSAGE STATISTIQUE

Lead researcher : Yoshua Bengio
Funding sources: SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Grant programs: PVX50399-Chaires de recherche du Canada
2017 - 2018

Apogée Canada fonds d'excellence en recherche / Fonds de soutien à la recherche de l'étudiant Devon Hjelm.

Lead researcher : Yoshua Bengio
Co-researchers : Marie-Josée Hébert
Funding sources: SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Grant programs: PVXXXXXX-Fonds d'excellence en recherche Apogée Canada
2017 - 2018

Apogée Canada fonds d'excellence en recherche / Fonds de soutien à la recherche de l'étudiant Devansh Arpit

Lead researcher : Yoshua Bengio
Co-researchers : Marie-Josée Hébert
Funding sources: SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Grant programs: PVXXXXXX-Fonds d'excellence en recherche Apogée Canada
2017 - 2018

Apogée Canada fonds d'excellence en recherche / Compte pour le paiement des salaires et portion recherche des quatre post-doc liée au MILA. Candidats: Devansh Arpit, Devon Hjelm, Joseph Paul Cohen et Jason Jo.

Lead researcher : Yoshua Bengio
Co-researchers : Marie-Josée Hébert
Funding sources: SPIIE/Secrétariat des programmes interorganismes à l’intention des établissements
Grant programs: PVXXXXXX-Fonds d'excellence en recherche Apogée Canada
2016 - 2018

Deep Learning for Cognitive Computing

Lead researcher : Yoshua Bengio
Funding sources: CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG) , IBM Canada Ltée , IBM Canada Ltée
Grant programs: PVX20973-(RDC-CRD) Partenariat de recherche / Subvention de recherche et développement coopérative , ,
2016 - 2018

Highperformance computing environment to leverage deep learning technology for large biomedical and neuroimaging data

Lead researcher : Yoshua Bengio
Funding sources: CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Grant programs: PVXXXXXX-(OIR) Outils et d'instruments de recherche (OIR) -1 -(de 7 001 $ à 150 000 $)
2015 - 2018

Leveraging Unlabelled, Off-Task Data to improve ASR for Low-Resource Languages Based on the Transferability of Acoustic Features Learned by Deep Neural Networks

Lead researcher : Marc Schoenwiesner
Co-researchers : Yoshua Bengio
2015 - 2018

Leveraging Unlabelled, Off-Task Data to improve ASR for Low-Resource Languages Based on the Transferability of Acoustic Features Learned by Deep Neural Networks

Lead researcher : Marc Schoenwiesner
Co-researchers : Yoshua Bengio
Funding sources: MITACS Inc. , Ministère Économie et Innovation
Grant programs: PVXXXXXX-Stage Accélération Québec - MITACS , PVXXXXXX-Prog. soutien rech (PSR v1B): Soutien à des projets rech. (Mitacs)
2014 - 2018

RESEARCH ON DEEP STRUCTURED OUTPUT MODELS

Lead researcher : Yoshua Bengio
Funding sources: Nuance Foundation
Grant programs:
2013 - 2016

ADIABATIC QUANTUM COMPUTING FOR DEEP LEARNING WITH BOLTZMANN MACHINES

Lead researcher : Yoshua Bengio
Co-researchers : Aaron Courville
Funding sources: CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG) , D-Wave Systems Inc.
Grant programs: PVX20967-(SPS/SPG) Subventions de projets stratégiques ,
2013 - 2016

LARGE-SCALE DEEP LEARNING FOR CONTENT-BASED RECOMMENDATION SYSTEMS

Lead researcher : Yoshua Bengio
Funding sources: CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG) , Ubi Soft Divertissements Inc.
Grant programs: PVX20967-(SPS/SPG) Subventions de projets stratégiques ,
2013 - 2016

LEARNING REPRESENTATIONS OF PLAYERS EMOTIONS AND STATE FOR NEXT GENERATION GAMING

Lead researcher : Pascal Vincent
Co-researchers : Yoshua Bengio , Christopher Pal
Funding sources: CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG) , Ubi Soft Divertissements Inc.
Grant programs: PVX20973-(RDC-CRD) Partenariat de recherche / Subvention de recherche et développement coopérative ,
2011 - 2016

REGROUPEMENT STRATEGIQUES - CALCUL QUEBEC

Lead researcher : Normand Mousseau
Funding sources: FRQNT/Fonds de recherche du Québec - Nature et technologies (FQRNT)
Grant programs: PVXXXXXX-(RS) Programme de regroupements stratégiques
2008 - 2016

CENTRE DE RECHERCHES MATHEMATIQUES (CRM)

Lead researcher : Luc Vinet
Co-researchers : Pavel Winternitz , Christiane Rousseau , Sabin Lessard , François Perron , Sylvie Hamel , Gena Hahn , Marlène Frigon , Jacques Bélair , François Lalonde , Robert Gwyn Owens , Gilles Brassard , Michel Delfour , Yvan Saint Aubin , Manuel Morales , Jonathan Taylor , Paul M Gauthier , Manu Paranjape , Véronique Hussin , Fahima Nekka , Christian Léger , Jean-François Angers , Yoshua Bengio , Pierre Duchesne , Anne Bourlioux , Abraham Broer , Jiri Patera , Nadia El-Mabrouk , Andrew Granville , Iosif Polterovich , Octavian Cornea , Line Baribeau , Christian Genest , Frédéric Gourdeau , Robert Guénette , Claude Levesque , Pierre Mathieu , Thomas Joseph Ransford , Louis-Paul Rivest , Jean-Marie De Koninck , Javad Mashreghi , Thierry Duchesne , Pengfei Guan , David Avis , Michael C. Mackey , James Owen Ramsay , John A Toth , Sherwin A Maslowe , Henri Darmon , David B Wolfson , Karl Peter Russell , Olga Kharlampovich , Niky Kamran , Jacques Claude Hurtubise , Adrian Iovita , Peter Bartello , Eyal Goren , Dmitry Jakobson , Alain C. Vandal , Vojkan Jaksic , Daniel Tzvi Wise , Anthony Raymond Humphries , Alexei Miasnikov , Erica Moodie , Thomas Wihler , Robert Seiringer , Johannes Walcher , Frédéric Lesage , Jean-Marc Lina , André Fortin , André Garon , John Mullins , Éric P. Marchand , Debbie Janice Dupuis , Syed Ali , Yogendra Chaubey , Christopher Cummins , Chantal David , Pawel Gora , John P. Harnad , Hershy Kisilevsky , John McKay , Galia Dafni , D. Korotkin , Benoit Larose , Marco Bertola , Vasek Chvatal , Alexander Shnirelman , Alina Stancu , Lea Popovic , André Dieter Bandrauk , Ibrahim Assem , Tomasz Kaczynski , Shiping Liu , Virginie Charette , Vasilisa Shramchenko , Maxime Descoteaux , François Bergeron , Steven P. Boyer , Srecko Brlek , André Joyal , Brenda MacGibbon , Christophe Reutenauer , Vestislav Apostolov , Olivier Collin , Steven Lu , Bruno L. Rémillard , Elisa Shahbazia Ohannessian , Yinannis Petridis , David Sankoff , Thomas Brüstle , Habib Benali , Nantel Bergeron , Simon Chauve , Francis Clarke , Richard Fournier , Martin Jakob Gander , Nadia Ghazzali , Alfred Michel Grundland , Line Baribeau , Christian Genest , Frédéric Gourdeau , Robert Guénette , Claude Levesque , Pierre Mathieu , Thomas Joseph Ransford , Louis-Paul Rivest , Jean-Marie De Koninck , Javad Mashreghi , Thierry Duchesne , André Fortin , François Bergeron , Steven P. Boyer , Srecko Brlek , André Joyal , Brenda MacGibbon , Christophe Reutenauer , Vestislav Apostolov , Olivier Collin , Steven Lu , Elisa Shahbazia Ohannessian
Funding sources: FRQNT/Fonds de recherche du Québec - Nature et technologies (FQRNT)
Grant programs: PVXXXXXX-(RS) Programme de regroupements stratégiques
2006 - 2015

PORTION RECHERCHE - NSERC-UBISOFT INDUSTRIAL RESEARCH CHAIR ON LEARNING REPRESENTATIONS FOR IMMERSIVE VIDEO GAMES

Lead researcher : Yoshua Bengio
Funding sources: Ubi Soft Divertissements Inc. , CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Grant programs: , PVX20971-(PCI) Professeurs-chercheurs industriels-Chaire de recherche industrielle
1994 - 2015

LEARNING DEEP ARCHITECTURES FOR AI

Lead researcher : Yoshua Bengio
Funding sources: CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Grant programs: PVX20965-(RGP) Programme de subvention à la découverte individuelle ou de groupe
2011 - 2014

DEEP LEARNING FOR IMAGE UNDERSTANDING

Lead researcher : Yoshua Bengio
Co-researchers : Pascal Vincent , Christopher Pal
Funding sources: Ubi Soft Divertissements Inc. , CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Grant programs: , PVX20973-(RDC-CRD) Partenariat de recherche / Subvention de recherche et développement coopérative
2011 - 2014

APPRENTISSAGE DISTRIBUTE D'ARCHITECTURES PROFONDES SUR D'IMMENSES ENSEMBLES DE DONNEES

Lead researcher : Yoshua Bengio
Co-researchers : Michael Rabbat
Funding sources: FRQNT/Fonds de recherche du Québec - Nature et technologies (FQRNT)
Grant programs: PV113724-(PR) Projets de recherche en équipe (et possibilité d'équipement la première année)
2004 - 2014

SUPPORT OF RESEARCH FOR THE ACADEMIC YEAR 2004-2005 TO 2012-2013

Lead researcher : Yoshua Bengio
Funding sources: ICRA/Institut canadien des recherches avancées
Grant programs:
2013

IMPLEMENTING BOLTZMANN MACHINES ON QUANTUM COMPUTING HARDWARE

Lead researcher : Yoshua Bengio
Funding sources: CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Grant programs: PV128974-(EGP) Programme de subvention d'engagement partenarial
2013

DEEP LEARNING FOR SPAM FILTERING

Lead researcher : Yoshua Bengio
Funding sources: CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Grant programs: PV128974-(EGP) Programme de subvention d'engagement partenarial
2012 - 2013

DEEP LEARNING FOR ADAPTIVE REAL-TIME BIDDING

Lead researcher : Yoshua Bengio
Funding sources: CRSNG/Conseil de recherches en sciences naturelles et génie du Canada (CRSNG)
Grant programs: PVX81211-(I2IP) Programme De l'idée à l'innovation
2010 - 2013

MACHINE LEARNING ALGORITHMS FOR AUTOMATED ANALYSIS OF PLAYER BEHAVIOR IN NEXT-GENERATION VIDEO GAMES

Lead researcher : Yoshua Bengio
Funding sources: Ubi Soft Divertissements Inc.
Grant programs:

Outreach

Highlights

Mise en valeur d’une recherche

1988

Apprendre aux machines à penser

Des machines qui pensent comme des humains? Voilà un concept qui relève encore de la science-fiction. Ce qui n'empêche pas les chercheurs de s'attaquer à cette question et d'obtenir des résultats intéressants. Yoshua Bengio est professeur titulaire au Département d'informatique et de recherche opérationnelle à l'Université de Montréal et titulaire de la Chaire de recherche du Canada en algorithmes d'apprentissage statistiques. Spécialiste de renommée internationale des réseaux de neurones et de l'apprentissage machine, il se penche sur des problèmes que les ordinateurs doivent résoudre pour « apprendre » à partir des données reçues.
Avec ses douze étudiants et stagiaires postdoctoraux, Yoshua Bengio étudie deux grandes questions : l'élaboration d'algorithmes et de techniques d'apprentissage afin de traiter de nombreuses variables, ainsi que la création d'algorithmes de plus en plus performants pour traiter des dizaines ou des centaines de millions d'éléments d'information.
Apprendre de manière statistique
« Les animaux et les humains apprennent de manière statistique ¹, rappelle M. Bengio. Les événements ne se produisent pas tous de la même manière et chaque situation est nouvelle ou aléatoire. Pour la reconnaître, le cerveau doit, avant de conclure, généraliser ce qu'il a acquis. Et il doit le faire correctement, pour pouvoir prendre les bonnes décisions.
Mais comment un ordinateur peut-il généraliser correctement quand des centaines, des milliers ou des dizaines de milliers de variables sont en jeu? Yoshua Bengio travaille, par exemple, avec des industriels du domaine pharmaceutique pour identifier les molécules les plus prometteuses pour le développement de nouveaux médicaments. Autre exemple, en télécommunications : ses travaux permettent d'effectuer des analyses de clientèle chez Bell dans le but de diminuer les coûts de marketing. Et les algorithmes d'apprentissage qu'il conçoit contribuent aussi à réduire certains risques dans le domaine de la finance. Un groupe de ses étudiants a même fondé une entreprise qui aide les assureurs à évaluer le coût d'une police de manière beaucoup plus précise qu'avec les procédures classiques. Les nouvelles méthodes de calcul en jeu visent trois grands objectifs : résoudre des problèmes, économiser de l'argent et prendre de bonnes décisions.
Modéliser le langage
Dans Internet, les moteurs de recherche comme Google fonctionnent aussi à partir d'algorithmes d'apprentissage statistiques. Par exemple, pour reconnaître le sens du mot Java, le moteur doit analyser suffisamment d'informations pour décider s'il s'agit de l'île, du café ou du langage de programmation. Yoshua Bengio s'intéresse justement à la modélisation du langage. Il tente notamment de modéliser des séquences de mots : « Les machines analysent des centaines de millions de mots et tentent de prévoir le prochain mot à partir de ceux qui précèdent. Nous laissons rouler les ordinateurs pendant des mois. Mais nous sommes encore loin de l'intelligence artificielle telle que présentée dans les films », précise-t-il.
Des algorithmes gourmands
Ces algorithmes d'apprentissage sont extrêmement gourmands en termes de temps de calcul et d'espace de mémoire. Les processeurs de Altix 3700 sont beaucoup plus rapides que ceux auxquels M. Bengio avait accès jusqu'à maintenant et offrent un autre avantage : « Nous pouvons déjà décomposer nos algorithmes de manière à ce que plusieurs processeurs de calcul travaillent parallèlement sur des processeurs différents et qu'ils puissent communiquer entre eux. Il faudrait des mois pour exécuter une telle opération avec un ordinateur normal alors qu'avec Altix 3700, elle s'effectue jusqu'à 100 fois plus vite », explique Yoshua Bengio.

Publications and presentations

Publications

Publications Pertinentes

Goodfellow, I.J., Y. Bengio et A. Courville. Deep Learning. Cambridge, MA: MIT Press, 2016.
LeCun, Y., Y. Bengio et G. Hinton. « Deep learning. » Nature 521, no 7553 (2015): 436–44.

Bahdanau, D., K. Cho et Y. Bengio. « Neural machine translation by jointly learning to align and translate. » ICLR, 2015. arXiv:1409.0473.

D'autres prublicaitons du professeur Yoshua Bengio, sont disponibles ici : http://www.iro.umontreal.ca/~lisa/publications2/index.php/authors/show/1

Disciplines

  • Computer Science
  • Statistics
  • Pure Mathematics
  • Applied Mathematics
  • Computer Engineering and Software Engineering

Areas of expertise

  • Machine learning
  • Representation learning
  • Deep learning
  • Temporal database
  • Artificial intelligence
  • Probabilistic models
  • Statistical models
  • Neural Networks
  • Computer vision
  • Data science
  • Natural-language processing (NLP)