Comprendre les enjeux éthiques et juridiques de l'IA

L’IA n’est pas nouvelle. Ses prémisses remontent aux travaux d’Alan Turing dans les années 1950.

De nos jours, les technologies des IA sont très nombreuses et se sont fortement enrichies ces dernières années.

D’une manière générale, les IA sont des technologies informatiques capables de reproduire des comportements et des capacités intellectuelles généralement associés à l'intelligence humaine, comme le raisonnement, l'apprentissage, la créativité, la résolution de problèmes, la reconnaissance vocale et faciale, la prise de décision et la compréhension du langage naturel.  Pour arriver à de tels résultats, l’IA applique des algorithmes complexes pour simuler ou reproduire les capacités de raisonnement et d'apprentissage humains. Cela peut aller de simples règles codifiées à des systèmes sophistiqués capables d'apprendre de l'expérience (apprentissage machine).

En savoir plus – IA, solutions d’IA, systèmes d’IA : quelle distinction?

Dans la littérature comme en pratique, on rencontre fréquemment les expressions de solutions ou de systèmes d’IA. De manière similaire, ces deux expressions désignent l'application et la mise en œuvre de technologies d’IA pour obtenir des résultats tangibles et résoudre des problèmes spécifiques. 

Autrement dit, si l'IA est le concept et la technologie de base, l’expression de « solutions (ou systèmes) d’IA » désigne l'intégration de l'IA dans des produits, des services ou des systèmes pour résoudre des problèmes spécifiques ou pour améliorer les processus existants. 

Les solutions d'IA sont donc les applications concrètes de l'intelligence artificielle dans des contextes réels.

Le diagnostic assisté par l’IA, les systèmes de prédiction des maladies ou de remplissage des services d’urgence ainsi que la robotique chirurgicale sont des exemples de solutions d’IA déployées dans le contexte de la santé. Dans le domaine de l’éducation, les solutions d’IA sont toutes aussi diverses et incluent l’analyse prédictive de décrochage scolaire, l’automatisation des évaluations, la mise en place de tutorats adaptatifs et personnalisés, des outils de traduction automatique

Parler de de l’IA au singulier et de façon générique ne rend pas compte de la diversité et de la puissance technologique de l’IA. Il existe plusieurs types d'IA, chacun ayant ses propres caractéristiques et ses applications.

Leurs distinctions sont importantes pour mesurer et classifier les risques spécifiques qu’ils comportent, et donc adapter leur encadrement.

Elles constituent des technologies innovantes qui présentent des avantages considérables, mais les impacts des IA sur la société et l'humanité suscitent également des préoccupations.

Identifier ces préoccupations et discerner les caractéristiques des IA sont nécessaires afin de développer des systèmes d’IA éthiques et responsables qui bénéficient à la société dans son ensemble (voir lettre ouverte de l'Observatoire sur les impacts sociétaux de l'IA et du numérique du 23 avril 2023)

En savoir plus – Quels sont les principaux types d’IA? 

Au cœur de l'IA moderne, on trouve des algorithmes qui permettent aux systèmes d'IA d'analyser des données, d'apprendre de celles-ci, de faire des prédictions ou de prendre des décisions sans être explicitement programmés pour chaque tâche spécifique.

L'IA utilise aussi des algorithmes de traitement du langage pour comprendre et générer le langage humain, permettant des interactions comme la traduction automatique, la génération de texte et la reconnaissance vocale.

Les algorithmes d'optimisation sont utilisés pour améliorer la performance des modèles d'IA, en ajustant les paramètres du modèle pour obtenir les meilleurs résultats possibles.

Les algorithmes d'IA évoluent constamment, et plusieurs facteurs contribuent à cette dynamique dont:

• L'amélioration de la puissance de calcul permet de traiter des modèles d'IA plus complexes et plus grands;
• L'explosion de la quantité de données disponibles pour l'entraînement ce qui rend les algorithmes d'IA plus performants, car ces derniers peuvent apprendre à partir de jeux de données plus vastes et plus variés;
• La recherche universitaire et industrielle ainsi que le mouvement d’open source qui repoussent continuellement les frontières de ce qui est possible avec l'IA;
• La nécessité d'une IA plus éthique et transparente qui conduit au développement d'algorithmes qui peuvent être davantage expliqués et audités;
• La tendance à la création de systèmes capables de traiter et d'intégrer plusieurs types de données (texte, image, son) pour une compréhension plus complète et des applications plus riches;
• Etc..

Ces avancées illustrent l'effort continu pour rendre l'IA plus puissante, plus efficace, plus accessible et plus utile dans une variété d'applications.

En savoir plus – IA et algorithmes

Les IA sont utilisées par des organisations privées et publiques dans de nombreux domaines et pour différentes fins. En voici quelques exemples :

• La santé : Aider les médecins à diagnostiquer des maladies telles que le cancer, les maladies cardiaques et le diabète en analysant des images médicales, des scans, et des données de patients, personnaliser des traitements, assister les chirurgiens lors d’opérations, accélérer la découverte de médicaments en analysant de vastes bases de données de composés chimiques et en prédisant leur efficacité.
• Les transports : Mesurer l’affluence selon les jours et l’heure, identifier un problème de circulation, adapter la signalisation, respecter les limites de vitesse, géolocaliser un individu ou un camion de livraison, obtenir des directions, conduire un véhicule de façon autonome.
• Les finances : Analyser la capacité d’emprunt, déterminer les taux d’intérêt et évaluer les octrois de financement.
• La consommation : Envoyer de la publicité ciblée, effectuer des analyses et des prédictions d’achats, fournir des biens ou des services personnalisés, recommander des produits ou des contenus en fonction de l’historique de navigation et du comportement en ligne d’un utilisateur, analyse des sentiments pour détecter la satisfaction des clients vis-à-vis d’un produit ou d’un service.
• La sécurité : Détecter les fraudes ou les vols d’identité, assurer la sécurité nationale, prévenir des infractions, porter assistance dans certaines situations d’urgence, lutter contre les cyberattaques ou les cybercrimes.
• Le travail : Optimiser les processus industriels, sélectionner un candidat pour un emploi, mesurer la productivité, automatiser des tâches, évaluer la performance, faire de l’espionnage industriel, freiner ou stimuler la concurrence, etc…

Oui. Le risque varie selon le degré d’autonomie fonctionnelle de la technologie utilisée par l’IA. Plus l’IA a la capacité d’apprendre avec autonomie et d’effectuer des tâches sans intervention humaine, plus le risque est élevé. Le risque peut être un déséquilibre ou une atteinte à des droits sur les plans sociaux, éthiques, économiques ou politiques.

L’exemple de la « boite noire » ou du manque de transparence de l’IA

De nombreux systèmes d'IA, en particulier ceux basés sur l'apprentissage profond, peuvent être considérés comme des « boites noires ». 

Ceci réfère à un système d’IA qui effectue des tâches complexes, mais dont le fonctionnement interne est difficile à comprendre. Il devient alors difficile d’en justifier le résultat. Par exemple, un système bâti sur l’apprentissage profond en vision par ordinateur peut reconnaître des objets dans des images, mais il est difficile de dire comment il a « pensé » pour prendre cette décision. Or, ce degré d’opacité est particulièrement problématique dans certaines situations, comme en matière de santé, de crédit bancaire ou encore de recrutement, où il est nécessaire de comprendre pourquoi une IA a pris une décision particulière. 

Les IA qualifiés de « boite noire » sont souvent très puissantes parce qu'elles sont capables de résoudre des problèmes complexes de manière efficace. Elles posent des problèmes en termes de responsabilité, d'éthique et de transparence parce que leur fonctionnement interne est difficile à comprendre. C’est pourquoi il est important de développer des méthodes pour rendre ces systèmes plus transparents, surtout lorsqu'ils prennent des décisions qui affectent la vie des individus. L'explicabilité de l'IA est un domaine de recherche important, visant à rendre ces systèmes plus compréhensibles sans sacrifier leur puissance.

L‘exemple d’une cyber-attaque visant des renseignements personnels d’une IA

Le type d’IA influe également sur le risque de cybersécurité. Par exemple, plus une IA est gourmande en renseignements personnels, plus grands sont les risques en matière d’atteinte à la vie privée à l’issue d’une cyber-attaque. Ainsi, comprendre les risques liés à la sécurité des systèmes d'IA est crucial pour développer des mécanismes de défense appropriés. 

L‘exemple de l’empreinte environnemental d’une IA

Certaines IA sont gourmandes en énergie et ont avoir un plus grand impact négatif sur l'environnement. Par exemple, l’apprentissage profond présente davantage le risque d’augmenter la demande d'électricité ainsi que les rejets de CO2, notamment en raison de sa complexité. Cela dit, il existe des efforts pour rendre l'IA plus éco-responsable, y compris l’apprentissage profond. Cela passe par l'utilisation de matériel informatique plus efficace sur le plan énergétique, le recours aux énergies renouvelables pour alimenter les centres de données, et la recherche de technologies qui nécessitent moins de puissance de calcul. 

Prêter attention aux systèmes d’IA qui sont développées et utilisées est important pour naviguer de manière informée et consciente dans un monde de plus en plus influencé par ces technologies. 
 

Les applications de l’IA n’ont de limite que sa technologie. Plus les technologies évoluent, plus les applications de l’IA seront étendues.

L’IA peut s’intégrer dans l’ensemble des activités humaines, voire remplacer l’humain dans certaines activités. Elle promet des avancées économiques et sociales importantes, par son efficacité, sa performance, sa fiabilité et la réduction des couts pour les organisations qui l’utilisent. Ses avancées soulèvent diverses questions éthiques et sociales, notamment sur l'impact de l'automatisation sur l'emploi, la vie privée, la prise de décision et la responsabilité en cas d'erreurs.

La capacité de l'IA à traiter et analyser d'immenses quantités de données plus rapidement que les humains peuvent entraîner des changements profonds dans des secteurs tels que la santé, la finance et la sécurité. En outre, la montée de l'IA suscite des discussions sur la nécessité de formation et de reconversion professionnelle pour préparer la main-d'œuvre à un avenir où la coexistence et la collaboration entre humains et machines a vocation à devenir systématique.

En effet, ces dernières années ont mis en lumière une intensification des effets négatifs de l’IA tels que transformation du marché de l’emploi, augmentation des risques de discrimination, de désinformation, de la cybercriminalité et des atteintes au droit fondamentaux.

Autrement dit, l’intégration de l’IA dans notre société nécessite une réflexion approfondie sur les règles de gouvernance. La nécessité de son encadrement ne semble plus faire de doute.

En savoir plus – Éthique ou droit pour encadrer l’IA ?

Depuis quelques années, l’éthique de l’IA s’est beaucoup développée, sans pour réussir à canaliser les effets négatifs de l’IA. Ceci s’explique de différentes manières en commençant par le fait les normes éthiques ne sont pas obligatoire pour les acteurs de l’IA. Elles sont également nombreuses et varient beaucoup en contenu en fonction de l’organisation qui les édictent. 

Face à cela, certains appellent, en parallèle des normes éthiques, à la constitution d’un droit pour « mieux » encadrer l’IA. C’est-à-dire pour doter l’IA d’un encadrement contraignant au sein duquel les conditions dans lesquelles les IA peuvent être développées et utilisées sont plus rigoureusement établies et qui s’appliqua à l’ensemble des acteurs de l’IA soumis à l’autorité de la loi en question. 

Encadrer juridiquement les IA permet d’établir un équilibre socialement acceptable entre les bénéfices de l’exploitation des IA, leur développement et la protection des droits et des intérêts des citoyens.

Ultimement, le respect des lois et des règlements favorise les IA digne de confiance : c’est-à-dire celles dont le développement et l’utilisation se veulent socialement et économiquement bénéfiques.

Encadrer les IA au moyen de lois et de règlements présente ainsi les avantages suivants :

• Imposer des règles qui encadrent le développement et l’utilisation des IA en tenant compte des risques qu’ils suscitent;
• Bannir des usages de l’IA socialement non souhaités;
• Définir des normes communes sur les pratiques et les usages considérés acceptables dans une société;
• Traduire des principes éthiques comme le bien commun, la responsabilité sociale et environnementale, la transparence et l’inclusion en obligations légales;
• Contraindre les développeurs, distributeurs et utilisateurs des IA à se conformer à la réglementation en vigueur;
• Sévir contre les comportements et les pratiques non conformes;
• Renforcer la confiance des citoyens dans les systèmes d’IA en exigeant plus de transparence, de responsabilité et de conformité;
• Établir des modes de surveillances et des voies de recours adaptés afin que des personnes puissent faire valoir leurs droits ou dénoncer des usages de l’IA qui leur porteraient préjudice;
• Harmoniser les règles pour favoriser le commerce international et maintenir la compétitivité des entreprises québécoises vis-à-vis des entreprises étrangères. 

Plusieurs États dans le monde s’interrogent sur l’opportunité d’adopter des lois spécifiques aux IA. Pour certains, l’adoption de lois ou de règlements sur l’IA constitue une menace pour l’innovation tandis que pour d’autres, le recours à la loi permet de sécuriser l’écosystème de l’IA en sécurisant l’innovation et les investissements et en promouvant le développement d’une innovation responsable.

Une fois ce débat tranché, il reste qu’encadrer juridiquement les IA pose des nombreux défis pour les législateurs qui doivent à la fois :

• Considérer la variété des systèmes d’IA et des technologies qu’ils utilisent pour mesurer les risques qu’ils comportent; 
• Envisager les multiples applications des IA dans nos société pour en distinguer les usages selon les situations;
• S’adapter continuellement aux avancées extrêmement rapides de la technologie; 
• Ou encore intégrer la dimension internationale de cette technologie. 

En effet, l’IA transcende les frontières nationales, régionales et culturelles, favorisant une intégration et une interconnexion globales. Son utilisation ne se limite pas aux frontières géographiques, ce qui peut rendre difficile la détermination de la juridiction applicable et la mise en place d'une réglementation cohérente à l'échelle mondiale. 

À cela, il faut ajouter que le développement et l’utilisation des IA soulèvent des enjeux jusque-là inégalés : 
transformation du marché de l’emploi et disparition de certains métiers;

• atteintes aux droits des personnes (atteinte à la vie privée, discriminations, atteinte à la liberté d’expression, surveillance de masse; droits linguistiques, etc.);
• risque de désinformation et de manipulation de l’opinion; 
• sécurité et cyber-attaque;
• impact sur la créativité et la culture;
• préservation de la diversité des expressions culturelles;
• dépendance technologique;
• accessibilité inégale à la technologie, etc… 
   

Il n’existe pas, au Québec, de loi particulière qui encadre spécifiquement le développement et l’utilisation de l’IA. Cela ne va pas dire que les solutions d’IA échappent au droit. Les lois générales, comme le Code civil du Québec, s’appliquent même dans un contexte d’IA. Toutefois, l’application de ces lois à des cas incluant des IA soulève des défis d’interprétation en pratique et ne se sont pas encore soulevés devant les tribunaux.

Actuellement, la question de l’adoption d’une loi qui viendrait encadrer le développement de l’intelligence artificielle et clarifier l’interprétation du droit existant fait l’objet de débats.

Cette question se pose actuellement face aux limites de l’éthique de l’IA.

Le Québec est au stade de réflexions. Les consultations publiques sur l’encadrement de l’intelligence artificielle mises en place au Québec représentent un premier pas vers l'établissement d'un plan d'action pour encadrer les solutions d’IA.

L'IA et les données numériques sont intrinsèquement liées, car les données sont le socle sur lequel de nombreux systèmes d'IA sont construits et s'améliorent. Pour fonctionner efficacement, certaines solutions d’IA ont besoin d’utiliser un grand volume de données numériques pour apprendre, généraliser et produire des résultats plus précis et utiles. Plus les données sont nombreuses, plus les IA ont d'opportunités d'analyser et de comprendre différents modèles, ce qui peut conduire à de meilleurs résultats.

Par exemple, dans la reconnaissance d'images, un modèle d'IA ayant accès à une grande variété d'images peut développer une meilleure capacité à identifier différents objets et contextes. De même, les modèles d'IA conçus pour le traitement du langage naturel, tels que la génération automatique de texte, nécessitent une énorme quantité de données textuelles pour apprendre la structure, la grammaire et le contexte linguistique.

Quand la collecte et l’utilisation de données porte sur des renseignements personnels, celle-ci soulève des défis éthiques et juridiques importants concernant la vie privée, la sécurité des données et le potentiel de biais discriminatoires dans les systèmes d'IA. Ces enjeux sont accentués par le caractère massif de la collecte et de l’utilisation des renseignements personnels.

La collecte et l’utilisation massive des renseignements personnels n’échappent pas aux les lois sur la protection des renseignements personnels qui encadrent rigoureusement la manière dont ceux-ci peuvent être collectés (finalités, consentement, volume, durée de conservation) et sur les droits des individus (ex : le droit d'accéder, droit de rectification).

Il est donc crucial de garantir que la collecte massive des données respecte les normes éthiques et légales, et que les systèmes d'IA résultants soient conçus et utilisés sans être socialement préjudiciable.

L’utilisation des renseignements personnels pour alimenter des intelligences artificielles est très courante. Les préférences, les habitudes et les comportements des individus sont particulièrement utiles pour développer des systèmes d'IA capables d’établir de la publicité ciblée et fournir des biens et services personnalisés.

Toutefois, les renseignements personnels constituent une composante de la vie privée des personnes et c’est en cela qu’ils font l’objet de lois particulières qui en assure la protection.

La collecte et l’utilisation de renseignements personnels par les IA doit respecter les règles posées dans les lois sur la protection des renseignements personnels qui encadrent rigoureusement la manière dont les renseignements personnels peuvent être collectés (finalités, consentement, volume, durée de conservation) sans porter atteinte aux droits des individus, notamment :

• la vie privée,
• la sécurité des données,
• la manière dont les données sont utilisées et conservées,
• l’accès aux données et leur rectification,
• la liberté d’expression.

Ces éléments feront l’objet de précisions dans la seconde partie de la boite à questions (à venir).