Imaginez un funambule : les garde-fous sont le filet de sécurité tendu sous lui. Ce sont les mécanismes de contrôle qui encadrent un modèle d'IA pour qu'il reste utile, sûr et conforme — sans jamais sortir des limites fixées par ses concepteurs.
Où agissent-ils ?
Les garde-fous opèrent à plusieurs étages de la chaîne d'inférence, pas seulement « dans » le modèle :
| Étage | Exemple de garde-fou |
|---|---|
| Entrée | Filtrage des requêtes malveillantes, détection d'injection de prompt |
| Système | Instructions cadres (« system prompt ») définissant le rôle et les interdits |
| Sortie | Classificateurs de toxicité, vérification factuelle, refus poli |
| Post-traitement | Modération, redaction de données personnelles |
L'idée clé : un garde-fou est une couche externe, distincte des poids du modèle. On peut le mettre à jour sans réentraîner l'IA.
Le compromis fondamental
Trop de garde-fous étouffent l'utilité (sur-refus, réponses fades) ; trop peu exposent à des risques (contenu dangereux, fuites). On cherche donc un équilibre, souvent décrit comme :
$$\text{Score} = \alpha \cdot \text{Utilité} - \beta \cdot \text{Risque}$$
où $\alpha$ et $\beta$ pondèrent la tolérance de l'organisation.
Bonnes pratiques
- Combiner plusieurs couches (défense en profondeur) plutôt qu'un seul filtre.
- Tester par red teaming : tenter activement de contourner les règles.
- Garder un humain dans la boucle pour les décisions sensibles.
Un bon garde-fou ne se voit pas tant qu'il n'a pas servi — comme une ceinture de sécurité, il protège sans gêner.