Conférence
Cette conférence est présentée dans le cadre des Conférences de Montréal en éthique de l’intelligence artificielle
Et si la capacité des technologies à forte intensité de données à modeler les habitudes avec une précision sans précédent était également capable de déclencher un handicap de masse aux conséquences profondes? Et si nous devenions incapables de changer ou de modifier les habitudes profondément ancrées qui découlent de notre dépendance technologique accrue?
Dans cette conférence, la professeure Delacroix soutient que les effets délétères de l'optimisation du contenu des utilisateurs en fonction de leur profil sont mieux compris comme une forme d'aliénation. Ce qui est compromis, c'est notre «mobilité intérieure»: notre capacité à transformer continuellement les habitudes qui façonnent notre intelligence pré-réflexive. Pour contrer ce danger, deux interventions concrètes sont envisagées. Elles sont toutes deux destinées à raviver le champ de l'expérimentation normative au sein d'infrastructures reposant sur des données.
Les caractéristiques de «contestabilité d'ensemble» doivent permettre un engagement collectif et critique vis-à-vis des outils d'optimisation. Cet engagement critique est rendu possible par la mise en évidence des résultats des systèmes d'optimisation «fantômes», formés différemment, et par l'introduction de moyens permettant aux utilisateurs d'évaluer de manière interactive ces résultats contrefactuels.
Les «fiducies de données ascendantes» sont conçues pour permettre aux groupes de reprendre le contrôle des données qui rendent ces outils d'optimisation possibles. Non seulement ces données personnelles peuvent ainsi devenir un levier pour le changement social et politique, mais la conception «ascendante» des data trusts ouvre la porte au développement d'une variété d'habitudes de participation qui sont loin de la passivité généralisée encouragée par les approches descendantes de la gouvernance des données.
Conférencière invitée
Sylvie Delacroix
Professor in Law and Ethics, University of Birmingham, Fellow, Alan Turing Institute & Mozilla and Co-Chair, datatrusts.uk
Les recherches de la professeure Delacroix se concentrent sur l'intersection entre le droit et l'éthique, avec un intérêt particulier pour les habitudes et l'infrastructure qui façonne nos habitudes (les outils reposant sur les données constituent une partie de plus en plus importante de cette infrastructure). Elle étudie le potentiel inhérent aux fiducies de données ascendantes comme moyen d'inverser l'approche descendante et pompière de la gouvernance des données. Elle copréside l'initiative Data Trust. Financée par la Fondation McGovern, cette initiative est en train de sélectionner sa première série de projets pilotes de fiducies de données. La professeure Delacroix a siégé à la Commission de politique publique sur l'utilisation des algorithmes dans le système judiciaire (Law Society of England and Wales) et au Data Trusts Policy group (sous les auspices du UK AI Council). Elle est également membre de l'Alan Turing Institute et membre de Mozilla. Ses travaux ont été financés par le Wellcome Trust, le NHS et le Leverhulme Trust, dont elle a reçu le prix Leverhulme. Cette conférence est basée sur le dernier chapitre de son livre à paraître "Habitual Ethics?" (2022, Bloomsbury/Hart Publishing).
L’événement se déroulera en anglais seulement.
