La confidentialité différentielle (differential privacy) est une garantie mathématique de protection de la vie privée. Imaginez une foule : si l'on ajoute ou retire une seule personne, la silhouette globale du groupe reste identique. C'est exactement la promesse de cette technique — les résultats d'une analyse de données doivent rester quasi inchangés, qu'un individu donné figure ou non dans le jeu de données. Personne ne peut donc déduire si vos informations ont été utilisées.
Comment ça fonctionne
Le principe repose sur l'injection d'un bruit aléatoire calibré (souvent issu d'une loi de Laplace ou gaussienne) dans les requêtes ou les modèles. Ce bruit masque la contribution de chaque individu tout en préservant les tendances statistiques globales. On accepte une légère perte de précision en échange d'une protection rigoureuse.
La garantie est encadrée par un paramètre ε (epsilon), le « budget de confidentialité » :
$$ \Pr[\mathcal{M}(D_1) \in S] \leq e^{\varepsilon} \cdot \Pr[\mathcal{M}(D_2) \in S] $$
où $D_1$ et $D_2$ sont deux bases différant d'un seul individu. Un ε faible signifie une forte protection (beaucoup de bruit) ; un ε élevé, une protection plus faible.
L'arbitrage central
| Critère | ε faible | ε élevé |
|---|---|---|
| Confidentialité | Forte | Faible |
| Bruit ajouté | Important | Léger |
| Précision | Réduite | Élevée |
- Utilisée par le recensement américain (2020), Apple, Google et Microsoft.
- Pertinente pour l'apprentissage fédéré et l'entraînement de modèles d'IA sur données sensibles.
- Ne supprime pas les données : elle borne ce qu'un attaquant peut apprendre.
La confidentialité différentielle ne cache pas l'arbre, mais empêche de reconnaître la feuille qui vous appartient.