Imaginez un médecin à qui une IA dit « ce patient a 87 % de risque de cancer », sans jamais expliquer pourquoi. L'explicabilité de l'IA (XAI, pour eXplainable AI) regroupe l'ensemble des méthodes qui transforment cette boîte noire en raisonnement lisible : elle répond à la question « pourquoi le modèle a-t-il décidé cela ? ».
Pourquoi c'est un enjeu éthique
Les modèles modernes (réseaux de neurones profonds, LLM) atteignent des millions à des milliards de paramètres : leur logique interne échappe à l'intuition humaine. Or, dès qu'une IA intervient dans la santé, le crédit bancaire, la justice ou l'embauche, l'opacité devient un risque. La XAI répond à trois besoins :
- Confiance : un utilisateur n'adopte que ce qu'il comprend.
- Responsabilité : il faut pouvoir justifier une décision, surtout en cas de litige.
- Détection de biais : une explication révèle si le modèle s'appuie sur un critère discriminatoire (sexe, origine).
Comment ça marche
On distingue les modèles intrinsèquement interprétables (arbres de décision, régression linéaire) des méthodes post-hoc qui expliquent un modèle déjà entraîné. Parmi les plus connues :
| Méthode | Principe | Portée |
|---|---|---|
| LIME | Approxime localement par un modèle simple | Locale |
| SHAP | Répartit la contribution de chaque variable | Locale + globale |
| Saliency maps | Mettent en surbrillance les pixels décisifs | Vision |
SHAP s'appuie sur les valeurs de Shapley issues de la théorie des jeux : la prédiction se décompose comme
$$f(x) = \phi_0 + \sum_{i=1}^{M} \phi_i$$
où chaque $\phi_i$ mesure la contribution de la variable $i$.
Une exigence aussi réglementaire
Le RGPD européen et l'AI Act consacrent un droit à l'explication des décisions automatisées. La XAI n'est donc plus un luxe technique, mais une obligation.
Une IA performante mais inexpliquée reste une IA dont on ne peut ni corriger les erreurs, ni assumer les choix.