Imaginez un naturaliste qui n'a jamais croisé de zèbre, mais à qui l'on dit : « c'est un cheval rayé de noir et blanc ». Le jour où il en aperçoit un, il l'identifie sans hésiter. L'apprentissage zero-shot (zero-shot learning) repose exactement sur cette intuition : permettre à un modèle de reconnaître ou d'accomplir une tâche sans aucun exemple d'entraînement pour cette tâche précise.
Le principe : généraliser par la description
Contrairement à l'apprentissage classique qui exige des milliers d'exemples étiquetés par catégorie, le zero-shot s'appuie sur une représentation sémantique partagée. Le modèle apprend à relier des entrées (images, textes) à un espace de connaissances — attributs, descriptions textuelles, vecteurs sémantiques. Une classe jamais vue est alors décrite dans ce même espace, ce qui rend la prédiction possible.
Avec les grands modèles de langage, le zero-shot prend une forme familière : on formule une consigne en langage naturel (« Classe ce message comme positif ou négatif ») sans fournir le moindre exemple. Le modèle exploite les connaissances acquises lors de son pré-entraînement massif.
Zero-shot, one-shot, few-shot
| Approche | Exemples fournis |
|---|---|
| Zero-shot | 0 |
| One-shot | 1 |
| Few-shot | quelques-uns (2 à ~10) |
Formellement, on cherche à prédire une classe issue d'un ensemble inédit $Y_{\text{unseen}}$ disjoint des classes vues à l'entraînement $Y_{\text{seen}}$ :
$$ Y_{\text{seen}} \cap Y_{\text{unseen}} = \varnothing $$
Atouts et limites
- Atout : une flexibilité immédiate, sans réétiquetage coûteux ni réentraînement.
- Limite : la performance dépend fortement de la qualité des descriptions et de la richesse du pré-entraînement ; elle reste souvent inférieure à un modèle spécialisé.
Le zero-shot incarne un glissement profond : on ne programme plus la machine par l'exemple, mais par le sens.