Enjeux éthiques et gouvernance de l'IA dans l'inspection au sein d'un ordre professionnel

L’intelligence artificielle (IA) transforme radicalement les pratiques d’inspection, notamment dans l’évaluation de la qualité des services professionnels dans le secteur public. Ces nouvelles méthodes offrent aux gestionnaires et inspecteurs des moyens rapides et précis pour traiter de vastes volumes de données, détecter des anomalies, et évaluer le risque en temps réel. Dans des contextes comme le Québec, l’intégration de l’IA est explorée pour soutenir les ordres professionnels dans leur mission de protection du public, en dépit des contraintes de ressources humaines.

Cependant, l’adoption de l’IA soulève des défis éthiques importants. Les biais dans les données d’entraînement peuvent entraîner des discriminations, et l’IA expose à des risques de confidentialité, notamment via des attaques d’inférence qui permettent de reconstituer des informations sensibles. De plus, la complexité des algorithmes limite leur transparence et rend difficile l’interprétation des résultats par les inspecteurs, ce qui peut freiner l’adoption et l’acceptabilité de la technologie. Pour pallier ces défis, des principes d’éthique et de gouvernance ont été proposés, mais leur application concrète reste complexe.

Ce projet de recherche vise à explorer les moyens concrets d'intégrer l'IA de manière éthique et responsable dans les processus d’inspection des membres d'un ordre professionnel et de concevoir un cadre d’éthique et de gouvernance de l’IA adapté à cet ordre. Une méthodologie rigoureuse sera employée pour analyser les pratiques actuelles, identifier les enjeux et formuler des solutions adaptées. En particulier, du point de vue technique, nous étudierons les approches de quantification et d’amélioration de l’équité qui visent à mesurer et à réduire les biais considérés comme étant indésirables. Au niveau des aspects éthiques et de gouvernance, nous mobiliserons une approche qualitative afin d’explorer les enjeux éthiques et solutions potentielles, ainsi que pour développer et évaluer un cadre d’éthique et de gouvernance adapté.