Un biais algorithmique survient lorsqu'un système d'intelligence artificielle produit des résultats systématiquement injustes envers certains groupes. L'image la plus juste est celle d'un miroir déformant : l'IA ne crée pas le préjugé, elle reflète et amplifie celui qui se cache dans les données qu'on lui donne à apprendre.
D'où vient le biais ?
Le problème naît rarement du code lui-même, mais de la chaîne qui l'alimente :
- Données historiques biaisées : si un historique d'embauche favorisait les hommes, le modèle apprend que « homme = bon candidat ».
- Sous-représentation : un visage peu présent dans le jeu d'entraînement sera moins bien reconnu.
- Choix de conception : la variable optimisée (le « label ») peut elle-même encoder une inégalité.
« Garbage in, garbage out » : un modèle n'est jamais plus équitable que les données qui le nourrissent.
Mesurer l'équité
On formalise souvent l'équité par la parité statistique : la probabilité d'une décision favorable ($\hat{Y}=1$) doit être indépendante de l'attribut sensible $A$ (genre, origine…).
$$ P(\hat{Y}=1 \mid A=a) = P(\hat{Y}=1 \mid A=b) $$
D'autres critères coexistent, et ils sont parfois mathématiquement incompatibles entre eux :
| Critère | Idée centrale |
|---|---|
| Parité statistique | Même taux d'acceptation par groupe |
| Égalité des chances | Même taux de vrais positifs par groupe |
| Calibration | Score fiable quel que soit le groupe |
Comment l'atténuer ?
On agit à trois moments : avant (rééquilibrer les données), pendant (ajouter une contrainte d'équité à l'entraînement) et après (corriger les seuils de décision). Aucune méthode n'efface totalement le biais ; la transparence et l'audit humain restent indispensables.
Un algorithme n'est jamais neutre : il porte les choix de celles et ceux qui le construisent.