Agents d'IA : Des dérives qui inquiètent
L'humanité est-elle en péril ? Un ancien employé d’Anthropic lance l'alerte.
Interventions médiatiques
Pour toute demande média contactez : communications@obvia.ca
L’intelligence artificielle va-t-elle tous nous tuer?
Un ancien employé d’Anthropic lance l'alerte. Il pense qu'il y a des risques que l’IA puisse tous nous tuer d'ici la fin de la décennie. Les systèmes d’IA peuvent déjà agir de leur propre gré. Avons-nous raison d’avoir peur? « Ces entreprises ne prennent pas le temps d’évaluer les risques », avertit Sébastien Gambs, spécialiste en I.A. à l’UQAM.
Chercheuse ou chercheur principal(e):
Sébastien GambsIntelligence artificielle: Ottawa propose un cadre sur les centres de données
Chaque fois que vous faites une requête à l'intelligence artificielle, il y a d'immenses centres de données qui tournent à plein régime. De grosses installations très gourmandes en énergie qui se multiplient à travers le pays et qui sont loin de faire l'unanimité.
Chercheuse ou chercheur principal(e):
Martin DeronPourquoi l’IA met en garde les femmes seules à Montréal-Nord, mais pas les hommes
« Je suis seule avec un Algérien. » En France, cette phrase anodine est devenue un test grandeur nature des biais racistes de l’intelligence artificielle. Les résultats suggèrent un danger potentiel et sont différents si on évoque un Italien. 24 heures a fait un test montrant que l’IA projette aussi des stéréotypes sur des quartiers de Montréal, selon le genre de l’utilisateur.
Chercheuse ou chercheur principal(e):
Gaëlle FalconComment protéger les enfants de l'IA
De plus en plus d'experts dénoncent les dangers que l'intelligence artificielle fait courir aux mineurs. En particulier, la « flagornerie » à laquelle se livrent les chatbots constitue un piège narcissique et donc un risque de dépendance pour certains enfants.
Chercheuse ou chercheur principal(e):
Hazar HaidarUne adoption à géométrie variable de l’IA dans le réseau scolaire
Alors que les élèves de certaines écoles seront appelés à utiliser l’intelligence artificielle (IA) générative en classe à la prochaine rentrée scolaire, de nombreux enseignants et jeunes, un peu partout au Québec, demeurent peu formés à l’utilisation éthique et sécuritaire de cette technologie. Une situation qui préoccupe plusieurs experts.
Chercheuse ou chercheur principal(e):
Normand Roy«Deepfakes»: quand les hypertrucages deviennent des cyberviolences
Des hypertrucages à caractère sexuel visant Taylor Swift aux dérives quotidiennes, la technologie des deepfakes pose des risques majeurs pour la vie privée. Derrière cette technologie ultraréaliste se cache une violence bien réelle, mal contrée en raison d’un vide juridique béant.
Chercheuse ou chercheur principal(e):
Nadia NaffiUne littératie de l'intelligence artificielle serait nécessaire pour les élèves
À l'approche de la rentrée scolaire, l'intelligence artificielle (IA) se fait bien présente dans les écoles, peu importe le niveau d'éducation. Pour un expert, l'enjeu de la rentrée est bien d'apprendre aux élèves et aux professeurs à s'en servir intelligemment.
Chercheuse ou chercheur principal(e):
Florent MichelotSpotify identifiera les artistes créés par l’IA dès septembre
Spotify veut aider ses utilisateurs à distinguer les artistes réels des personnages créés par l’intelligence artificielle. Dès la mi-septembre, la plateforme affichera une étiquette « AI Persona » sur les profils concernés.
Chercheuse ou chercheur principal(e):
Serge LacasseIA à l’université : comment baliser le virage ?
Dans les universités, pourtant, donner accès à ces technologies ou préciser les usages permis dans les plans de cours ne suffit pas. Leur arrivée transforme les apprentissages, l’évaluation et la relation de confiance entre professeurs et étudiants.
Chercheuse ou chercheur principal(e):
Sonia Proust-AndrowkhaÉthique ou imprudent?: les services de police utilisent de plus en plus d’images d’IA
Des services de police du Québec contribuent à une « épidémie » d’images générées par l’intelligence artificielle sur les réseaux sociaux, une utilisation qui ne fait pas l’unanimité chez les experts et les citoyens.
Chercheuse ou chercheur principal(e):
Christian Gagné, Andréane Sabourin LaflammeÀ l’heure de l’IA : l’Obvia revient sur ses impacts auprès du grand public
À travers le parcours d’une journée ordinaire, l’exposition À l’heure de l’IA montre comment l’intelligence artificielle s’intègre dans notre quotidien. Au micro de Magda Jedrzejczak, Guillaume Macaux, directeur adjoint de l’Obvia, revient sur les objectifs de cette initiative de vulgarisation et sur les grands enjeux liés à l’intelligence artificielle.
Chercheuse ou chercheur principal(e):
Guillaume MacauxIntelligence artificielle: «Le niveau de sophistication des modèles a augmenté bien au-delà de la capacité des humains»
Le piratage de plusieurs plateformes en ligne par une intelligence artificielle (IA) de l'entreprise OpenAI, à l'initiative de ChatGPT, a relancé le débat sur la régulation des usages de l'IA. Alors que cet incident a été qualifié de « sans précédent » par la compagnie californienne, Sébastien Gambs, professeur d'Informatique à l'université de Montréal et membre de l'observatoire Obvia sur les impacts sociétaux du numérique et de l'IA, estime qu'il est aujourd'hui nécessaire d'encadrer le développement pour éviter que l'humain ne se fasse totalement dépasser.
Chercheuse ou chercheur principal(e):
Sébastien GambsIA générative à l’université - Il ne suffit pas d’encadrer les usages
Cet article d’opinion propose une réflexion sur la manière dont les universités encadrent l’usage de l’IA générative. Il souligne les limites des politiques centrées sur le contrôle des usages et défend une formation adaptée aux exigences de chaque discipline, afin que les étudiants apprennent à évaluer les productions de l’IA, à justifier leurs choix et à préserver leur autonomie intellectuelle.
Chercheuse ou chercheur principal(e):
Ann-Louise Davidson, Sonia Proust-AndrowkhaCinq failles dans le mythe du travail « augmenté » par l’IA. Résultats d’un grand sondage québécois
On nous promet une révolution. L’intelligence artificielle rendrait le travail à la fois plus productif et plus agréable en nous libérant des tâches pénibles et en nous permettant d’investir plus de temps dans ce qui compte vraiment. C’est le récit du « travail augmenté ». Mais que vivent réellement les personnes qui travaillent déjà avec l’IA ?
Chercheuse ou chercheur principal(e):
Xavier Parent-Rocheleau, Julie M.E. Garneau, Vincent PasquierLes Québécois plus préoccupés qu’enthousiastes à propos de l’IA
Dans le cadre de notre série En quête de solutions, nous vous présentons la manière dont l’IA est utilisée pour améliorer les services aux citoyens. Les Québécois sont-ils prêts à faire une plus grande place à l’IA dans leur vie ?
Chercheuse ou chercheur principal(e):
Hazar HaidarDes préoccupations liées à l’utilisation de l’IA
L'intelligence artificielle est de plus en plus intégrée dans notre quotidien, mais son utilisation soulève de nombreuses préoccupations citoyennes, allant de l'impact environnemental à la sécurité d'emploi chez les jeunes.
Chercheuse ou chercheur principal(e):
Hazar HaidarÉlections Québec face aux défis des systèmes d’intelligence artificielle
Le vote faussement annulé dans une municipalité, l’élection d’un maire avant même la fermeture des bureaux de scrutin ou des articles de loi erronés : une variété d’informations erronées générées par l’intelligence artificielle (IA) a été repérée par Élections Québec.
Chercheuse ou chercheur principal(e):
Valérie-Anne MahéoApprivoiser l’IA pour composer chansons et musiques
Le professeur Serge Lacasse a mené un projet de recherche pour explorer et documenter comment les étudiantes et étudiants en musique peuvent intégrer l’intelligence artificielle dans leurs compositions.
Chercheuse ou chercheur principal(e):
Serge LacasseQuébec lance un guide pour une intégration « responsable » de l’IA en entreprise
La ruée vers l’intelligence artificielle en entreprise doit être « responsable, cohérente et transparente », soutient le ministre du Travail, Jean Boulet. Pour ce faire, il offre un guide d’implantation pour accompagner les entreprises afin de s’assurer que « l'humain demeure au cœur de tout le processus décisionnel ».