Imaginez que vous comptiez le nombre de coups de pinceau qu'un peintre peut donner en une seconde. Les FLOPs font la même chose pour un ordinateur : ils mesurent combien d'opérations en virgule flottante (additions, multiplications sur des nombres à décimales) une machine peut effectuer. C'est l'unité fondamentale de la puissance de calcul en intelligence artificielle.
Deux sens, une seule lettre
Attention au piège : la lettre « s » change tout.
- FLOPs (operations) = le travail total d'un calcul. On dit qu'entraîner un grand modèle a coûté « 10²⁵ FLOPs ».
- FLOP/s (per second) = la vitesse d'une puce. Un GPU moderne atteint des dizaines de PetaFLOP/s (10¹⁵ opérations par seconde).
L'un est une quantité de travail, l'autre un débit — comme distinguer la distance d'un trajet et la vitesse de la voiture.
L'échelle des préfixes
| Préfixe | Notation | Valeur |
|---|---|---|
| Téra | TFLOPs | $10^{12}$ |
| Péta | PFLOPs | $10^{15}$ |
| Exa | EFLOPs | $10^{18}$ |
Pourquoi cela compte pour l'IA
Le coût d'entraînement d'un modèle s'estime simplement. Pour un modèle de $N$ paramètres entraîné sur $D$ tokens :
$$C \approx 6 \times N \times D$$
Cette formule explique pourquoi les modèles de pointe exigent des budgets de calcul colossaux : doubler les paramètres et les données quadruple presque le coût. Les FLOPs sont ainsi devenus une monnaie stratégique, au point que les régulations encadrent désormais les modèles dépassant certains seuils de calcul.
Les FLOPs ne disent pas si une IA est intelligente — seulement combien d'efforts bruts ont été dépensés pour la construire.