Résumé
Un modèle hybride repose sur la coopération entre un modèle interprétable et une « boîte noire » complexe. Lors de l’inférence, chaque entrée du modèle hybride est attribuée soit à sa composante interprétable, soit à sa composante complexe, selon un mécanisme de sélection. Le rapport entre les échantillons de données envoyés à la composante interprétable est appelé « transparence du modèle ». Malgré leur fort potentiel, les modèles hybrides interprétables restent peu étudiés dans la littérature consacrée à l’interprétabilité et à l’explicabilité. Dans cet article, nous remédions à cette lacune en présentant une étude approfondie de ces modèles sous trois angles : la théorie, la taxonomie et les méthodes. Tout d’abord, nous mettons en évidence les avantages potentiels en termes de généralisation liés à l’envoi d’échantillons vers une composante interprétable en dérivant une borne de généralisation « probablement approximativement correcte » (PAC). Cette garantie indique un point d’équilibre pour une transparence optimale, ce qui suggère que le fait de rediriger les entrées vers un modèle interprétable peut agir comme une régularisation. Deuxièmement, nous proposons une taxonomie générale des différentes méthodes d’entraînement de ces modèles : les paradigmes « post-boîte noire » et « pré-boîte noire ». Ces approches diffèrent par l’ordre dans lequel les composants interprétables et complexes sont entraînés. Nous montrons où se situent, dans cette taxonomie, les méthodes de pointe « Hybrid-Rule-Set » et « Companion-Rule-List ». Troisièmement, nous implémentons ces deux paradigmes dans une méthode unique : HybridCORELS, qui étend l’algorithme CORELS à la modélisation hybride interprétable. En s’appuyant sur CORELS, HybridCORELS fournit un certificat d’optimalité de sa composante interprétable et un contrôle précis de la transparence. Nous démontrons enfin empiriquement qu’HybridCORELS est compétitif par rapport aux approches existantes et qu’il offre des performances équivalentes (voire supérieures) à celles d’une boîte noire autonome, tout en étant partiellement transparent.
*Cette description est une traduction de l’abstract (résumé) de l’article, réalisée à l’aide de DeepL.
Ferry, J., Laberge, G. & Aïvodji, U. (2024). Learning Hybrid Interpretable Models: Theory, Taxonomy, and Methods. Transactions on Machine Learning Research (TMLR)