From Kafka’s Courts to AI Tribunals: Bureaucratic Alienation and the Future of Justice

Résumé

Cet article propose un cadre analytique — opacité (épistémique), arbitraire (normatif), aliénation (expérientielle) — permettant d’évaluer la gouvernance médiatisée par l’IA dans les domaines du droit et de l’administration. S'appuyant sur l'herméneutique littéraire, la théorie juridique critique et la jurisprudence normative, cet article applique ce cadre analytique à trois systèmes emblématiques — COMPAS (États-Unis), Chinook (Canada) et le système de crédit social chinois —, montrant comment les procédures de type « boîte noire » supplantent le jugement, renforcent les biais structurels et sapent le respect des garanties procédurales. Il évalue les mesures correctives partielles prévues par la loi européenne sur l’IA, le RGPD et la Recommandation de l’UNESCO sur l’éthique de l’IA, et définit des garanties axées sur la transparence, la contestabilité, la responsabilité et la dignité (TCAD). L’article conclut en mettant en garde contre les risques liés aux grands modèles linguistiques — citations fabriquées de toutes pièces, rédaction sans provenance et propagation des biais — et en présentant des contrôles alignés sur les principes TCAD afin de préserver l’autonomie et la reconnaissance juridique à l’ère de la justice algorithmique.

*Cette description est une traduction de l’abstract (résumé) de l’article,  réalisée à l’aide de DeepL.