Comment savoir si les systèmes d’intelligence artificielle (IA) sont aussi performants et conçus de manière aussi responsable que le prétendent les entreprises spécialisées dans l’IA ? Dans un climat d’innovation marqué par la course à la performance, où un développement réactif nécessite du temps et des ressources, les développeurs et les fournisseurs d’IA peuvent être tentés de présenter de manière trompeuse les performances de leurs systèmes ou d’exagérer leur engagement envers les principes d’une IA responsable. Ce type de contournement est d’autant plus facilité par l’accès limité des parties prenantes externes aux composants et aux informations du système, une restriction généralement justifiée par la protection des secrets commerciaux, des considérations de confidentialité et de sécurité, entre autres. En réponse, une communauté croissante de chercheurs a mis au point des solutions cryptographiques et statistiques visant à permettre une vérification rigoureuse d’allégations spécifiques dans un contexte d’accès restreint. Cependant, la conception de ces solutions repose sur un ensemble d’hypothèses partagées, mais non examinées, nécessaires pour abstraire les défis complexes de la gouvernance du monde réel en représentations computationnelles. Dans cet article, nous examinons la validité de ces hypothèses. Après avoir détaillé le fondement conceptuel et le cadre analytique que nous avons utilisés pour interroger ces processus d’abstraction, nous montrons que les approches techniques existantes visant à développer une IA vérifiable commettent des erreurs systématiques qui compromettent la validité de ces approches. Alors que les processus de vérification techniques existants visent à résoudre des problèmes critiques de gouvernance de l’IA, nous soutenons que ces erreurs créent des failles susceptibles d’être exploitées par des développeurs et des fournisseurs malhonnêtes, et conduisent donc à une confiance mal placée dans ces processus. Enfin, nous discutons de la manière dont le domaine de la vérifiabilité pourrait être réorienté vers une approche plus nuancée et interdisciplinaire afin de développer des processus de vérification rigoureux, tant techniques que non techniques, qui soutiennent une gouvernance efficace de l’IA.
*Cette description est une traduction de l’abstract (résumé) de l’article, réalisée à l’aide de DeepL.
Paris, T., Moon, A & Guo, J. (2026). Don’t Trust the Process: When Verifiability Undermines AI Accountability.
In The 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’26), June 25–28, 2026, Montreal, QC, Canada. ACM, New York, NY, USA, 23 p.