Résumé
La question des biais dans les modèles d’apprentissage automatique (ML) constitue un défi majeur pour la communauté des chercheurs en la matière. Des biais issus du monde réel peuvent être intégrés dans les données utilisées pour entraîner les modèles, et des études antérieures ont montré que les modèles d’apprentissage automatique peuvent assimiler, voire amplifier, ces biais. Cela peut entraîner un traitement inéquitable des individus en fonction de leurs caractéristiques intrinsèques ou d’attributs sensibles tels que le genre, l’origine ethnique ou l’âge. Garantir l’équité est crucial compte tenu de l’utilisation croissante des modèles d’apprentissage automatique dans des contextes à enjeux élevés, et cette question a suscité un intérêt considérable de la part des chercheurs ces dernières années. Cependant, le défi consistant à garantir l’équité devient bien plus important lorsque l’hypothèse d’un accès complet aux attributs sensibles ne se vérifie pas. Les contextes dans lesquels cette hypothèse ne se vérifie pas comprennent les cas où (1) seules des informations démographiques limitées ou bruitées sont disponibles ou (2) les informations démographiques sont totalement inobservables en raison de restrictions liées à la protection de la vie privée. Cette étude passe en revue les efforts de recherche récents visant à garantir l’équité lorsque des attributs sensibles font défaut. Nous proposons une taxonomie des travaux existants et, surtout, mettons en évidence les défis actuels et les orientations futures de la recherche afin de stimuler les travaux sur l’équité en apprentissage automatique dans le contexte de l’absence d’attributs sensibles.
*Cette description est une traduction de l’abstract (résumé) de l’article, réalisée à l’aide de DeepL.
Kenfack, P. J., Kahou, S. E., & Aïvodji, U. (2024). A survey on fairness without demographics. Transactions on Machine Learning Research (TMLR).