Imaginez un lecteur insatiable qui aurait parcouru une fraction immense du texte humain et qui, à chaque instant, joue à deviner le mot suivant. C'est l'essence d'un GPT — Generative Pre-trained Transformer. Introduit par OpenAI à partir de 2018, ce type de modèle est aujourd'hui le cœur des assistants conversationnels comme ChatGPT.
Décortiquer l'acronyme
Chaque lettre raconte une partie de l'histoire :
- Generative : le modèle produit du texte nouveau, jeton après jeton, plutôt que de seulement classer.
- Pre-trained : il est d'abord entraîné sur d'énormes corpus de manière auto-supervisée, avant tout réglage fin.
- Transformer : l'architecture sous-jacente, introduite en 2017, fondée sur le mécanisme d'attention.
Comment ça apprend
L'objectif d'entraînement est d'une simplicité trompeuse : prédire le prochain jeton sachant les précédents. Le modèle apprend à maximiser la probabilité de la séquence observée :
$$P(x_1, x_2, \dots, x_n) = \prod_{t=1}^{n} P(x_t \mid x_1, \dots, x_{t-1})$$
Cette tâche dite auto-régressive force le réseau à capturer grammaire, faits et raisonnements implicites. Le mécanisme d'attention permet à chaque mot de « regarder » tous les autres pour pondérer leur importance contextuelle.
Du pré-entraînement à l'assistant
Un GPT brut complète du texte ; il devient utile après plusieurs étapes :
| Étape | But |
|---|---|
| Pré-entraînement | Apprendre la langue et le monde |
| Réglage fin supervisé | Suivre des instructions |
| RLHF | S'aligner sur les préférences humaines |
Un GPT ne « comprend » pas comme un humain : il modélise la probabilité du langage avec une finesse telle que l'illusion de compréhension devient remarquablement utile.