Imaginez un étudiant qui, en apprenant l'espagnol, effacerait soudain de sa mémoire tout le français qu'il maîtrisait. C'est exactement ce qui arrive aux réseaux de neurones : l'oubli catastrophique (ou interférence catastrophique) désigne la tendance d'un modèle à perdre brutalement les compétences acquises sur des tâches antérieures lorsqu'il est entraîné sur de nouvelles données.
Pourquoi cela se produit
Un réseau encode tout son savoir dans un même ensemble de poids partagés. Lorsqu'on l'entraîne sur une nouvelle tâche, la descente de gradient ajuste ces poids pour minimiser uniquement la nouvelle perte, sans aucune mémoire de l'ancienne. Les paramètres qui codaient la tâche précédente sont écrasés.
Formellement, à l'étape $t$ on ne minimise que :
$$\theta^* = \arg\min_\theta \; \mathcal{L}_{\text{nouvelle}}(\theta)$$
alors qu'on voudrait préserver aussi $\mathcal{L}_{\text{ancienne}}(\theta)$. Sans contrainte, rien ne protège l'ancien savoir.
Comment l'atténuer
Plusieurs familles de stratégies existent en apprentissage continu (continual learning) :
| Approche | Principe |
|---|---|
| Répétition (rehearsal) | Réinjecter d'anciens exemples pendant le nouvel entraînement |
| Régularisation (ex. EWC) | Pénaliser la modification des poids jugés importants |
| Architectures dynamiques | Allouer de nouveaux paramètres par tâche |
- La régularisation ajoute un terme qui « gèle » doucement les poids critiques.
- Le fine-tuning d'un grand modèle de langage en est une victime fréquente : un ajustement trop agressif dégrade les capacités générales d'origine.
Apprendre sans oublier reste l'un des grands défis ouverts de l'IA : l'équilibre entre plasticité (apprendre du neuf) et stabilité (retenir l'ancien).