Yoshua Bengio

Membre chercheur régulier

ORCID Github Google Scholar Page personnelle

Regroupements thématiques

Reconnu mondialement comme l’un des plus grands experts en intelligence artificielle, Yoshua Bengio est surtout connu pour ses travaux précurseurs en apprentissage profond, qui lui ont valu, avec Geoff Hinton et Yann LeCun, le Prix A.M. Turing 2018, considéré comme le « prix Nobel de l'informatique ».

Il est professeur titulaire à l’Université de Montréal, fondateur et directeur scientifique de Mila - Institut québécois d’IA, et codirige le programme Apprentissage automatique, apprentissage biologique de CIFAR en tant que Senior Fellow. Il est également directeur scientifique d’IVADO et est titulaire d’une chaire en IA Canada-CIFAR

En 2023, il s’est vu décerner la prestigieuse Médaille d’or Gerhard‑Herzberg en sciences et en génie du Canada, le prix scientifique le plus important du pays. Il est l'informaticien avec l'indice-h le plus élevé et il se classe troisième parmi toutes les disciplines en termes d'impact scientifique selon l'étude bibliométrique de Stanford. Il est Fellow de la Royal Society de Londres et de la Société Royale du Canada, Fellow d’ACM, Chevalier de la Légion d’honneur de France, Officier de l’Ordre du Canada, membre du Conseil scientifique consultatif de l’ONU pour les percées de la science et de la technologie et aviseur scientifique de l'institut de sécurité de l’IA du Royaume-Uni (AISI).

Préoccupé par l'impact social de l'IA, il a activement contribué à l’élaboration de la Déclaration de Montréal pour le développement responsable de l'intelligence artificielle et se consacre à la réduction des risques catastrophiques de l'IA future.

Publications

Open Problems in Technical AI Governance

Yoshua Bengio

AI progress is creating a growing range of risks and opportunities, but it is often unclear how they should be navigated. In many cases, the barriers and uncertainties faced are at least partly technical. Technical AI governance, referring to technical analysis and tools for supporting the effective governance of AI, s

Government interventions to avert future catastrophic AI risks

Yoshua Bengio

Transcription révisée du témoignage de Yoshua Bengio en juillet 2023 devant la sous-commission du Sénat américain sur la vie privée, la technologie et le droit, qui s'est réunie sur le thème de la surveillance de l'IA. Il plaide en faveur de la prudence et des interventions gouvernementales en matière de réglementati ...

Government Interventions to Avert Future Catastrophic AI Risks

Yoshua Bengio

This essay is a revised transcription of Yoshua Bengio’s July 2023 testimony in front of the U.S. Senate Subcommittee on Privacy, Technology, and the Law meeting on the topic of oversight of AI. It argues for caution and government interventions in regulation and research investments to mitigate the potentially catastr

Managing extreme AI risks amid rapid progress

Yoshua Bengio

Artificial intelligence (AI) is progressing rapidly, and companies are shifting their focus to developing generalist AI systems that can autonomously act and pursue goals. Increases in capabilities and autonomy may soon massively amplify AI’s impact, with risks that include large-scale social harms, malicious uses, and

Regulating advanced artificial agents

Yoshua Bengio, Michael K.  Cohen, Noam  Kolt, Gillian K.  Hadfield

Technical experts and policy-makers have increasingly emphasized the need to address extinction risk from artificial intelligence (AI) systems that might circumvent safeguards and thwart attempts to control them (1). Reinforcement learning (RL) agents that plan over a long time horizon far more effectively than humans

Computing Power and the Governance of Artificial Intelligence

Yoshua Bengio, Gillian K.  Hadfield

Computing power, or "compute," is crucial for the development and deployment of artificial intelligence (AI) capabilities. As a result, governments and companies have started to leverage compute as a means to govern AI. For example, governments are investing in domestic compute capacity, controlling the flow of compu ...

Generative AI models should include detection mechanisms as a condition for public release

Alistair Knott, Dino Pedreschi, Tapabrata Chakraborti, Susan Leavy, Ricardo Baeza‑Yates, David Eyers, Andrew Trotman, Paul D. Teal, Przemyslaw Biecek, Yoshua Bengio

The new wave of ‘foundation models’—general-purpose generative AI models, for production of text (e.g., ChatGPT) or images (e.g., MidJourney)—represent a dramatic advance in the state of the art for AI. But their use also introduces a range of new risks, which has prompted an ongoing conversation about possible regulat

AI and Catastrophic Risk

Yoshua Bengio

Since OpenAI's release of the very large language models Chat-GPT and GPT-4, the potential dangers of AI have garnered widespread public attention. In this essay, the author reviews the threats to democracy posed by the possibility of "rogue AIs," dangerous and powerful AIs that would execute harmful goals, irrespectiv

International Institutions for Advanced AI

Yoshua Bengio

International institutions may have an important role to play in ensuring advanced AI systems benefit humanity. International collaborations can unlock AI's ability to further sustainable development, and coordination of regulatory efforts can reduce obstacles to innovation and the spread of benefits. Conversely, the p

FAQ on catastrophic AI risks

Yoshua Bengio

I have been hearing many arguments from different people regarding catastrophic AI risks. I wanted to clarify these arguments, first for myself, because I would really like to be convinced that we need not worry. However, sharing them and opening up the discussion more broadly might also be useful.

Model evaluation for extreme risks

Yoshua Bengio

Current approaches to building general-purpose AI systems tend to produce systems with both beneficial and harmful capabilities. Further progress in AI development could lead to capabilities that pose extreme risks, such as offensive cyber capabilities or strong manipulation skills. We explain why model evaluation is c

How Rogue AIs may Arise

Yoshua Bengio

he rise of powerful AI dialogue systems in recent months has precipitated debates about AI risks of all kinds, which hopefully will yield an acceleration of governance and regulatory frameworks. Although there is a general consensus around the need to regulate AI to protect the public from harm due to discrimination an

Innovation ecosystems for socially beneficial AI

Yoshua Bengio, Allison Cohen, Benjamin Prud’homme, Amanda Leal, Noah Oder

Governments have been preoccupied with the disruptive potential that AI technology confers, wanting to either maximize the creation of economic growth or minimize the risk of rights-related violations. Consequently, governments and international institutions have focused their efforts either on funding the AI industry

Événements

Actualités

Auditions publiques à l'Assemblée nationale sur les outils de notification de traçage numérique

Plusieurs membres chercheurs de l’Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA) ont participé cette semaine aux consultations particulières et auditions publiques au sujet d'outils technologiques de notification des contacts. Ils ont ...

L'OBVIA s'associe à Avant Garde

Cette initiative du CIRANO, en collaboration avec l'OBVIA et IVADO, vise à rassembler et accompagner 45 jeunes leaders issus de différents horizons dans leur développement professionnel en leur proposant notamment des conférences et ateliers s’appuyant sur la recherche. Le ...

Interventions médiatiques

Entre occasion et désastre, préviennent des experts

Manque de main-d’œuvre expérimentée, hégémonie de la Chine et des États-Unis et prix de l’électricité en forte hausse font partie des effets économiques potentiellement désastreux de l’intelligence artificielle, ont prévenu lundi à Montréal deux sommités. Mais elles y voient aussi un potentiel important.

Média

La Presse

Les promesses et les dangers de l’IA, selon Acemoğlu et Bengio

L’intelligence artificielle vient avec des promesses, mais aussi avec de graves dangers, préviennent deux sommités mondiales, Daron Acemoğlu et Yoshua Bengio, qui s’inquiètent qu’on ait autant de mal à en prendre conscience.

Média

Le Devoir

Ne manquez rien de l’actualité de l’Obvia!

Recevez les nouvelles de la communauté, les événements à venir et les opportunités liées à la recherche.