Imaginez une chaîne d'usine où chaque poste transforme un peu plus la matière première avant de la passer au suivant : le perceptron multicouche (MLP) fonctionne ainsi. C'est le réseau de neurones le plus classique, composé de couches de neurones entièrement connectées qui transforment progressivement une entrée en une sortie. Il constitue la brique fondatrice de l'apprentissage profond moderne.
Une architecture en couches
Un MLP empile au minimum trois types de couches : une couche d'entrée, une ou plusieurs couches cachées, et une couche de sortie. Chaque neurone calcule une somme pondérée de ses entrées, ajoute un biais, puis applique une fonction d'activation non linéaire :
$$ a = \sigma!\left( \sum_{i=1}^{n} w_i x_i + b \right) $$
Sans cette non-linéarité (comme ReLU, sigmoïde ou tanh), empiler des couches reviendrait à une simple multiplication de matrices — incapable de modéliser des relations complexes.
Apprentissage par rétropropagation
Le MLP apprend en ajustant ses poids pour réduire l'erreur entre sa prédiction et la vérité. L'algorithme de rétropropagation du gradient propage l'erreur de la sortie vers l'entrée, et la descente de gradient met à jour chaque poids.
| Élément | Rôle |
|---|---|
| Poids ($w$) | Force des connexions, apprise |
| Biais ($b$) | Décalage ajustable |
| Activation | Introduit la non-linéarité |
| Rétropropagation | Calcule les gradients |
Forces et limites
- Forces : approximateur universel, simple, polyvalent (régression, classification).
- Limites : ignore la structure spatiale (d'où les CNN pour les images) ou temporelle (d'où les RNN et Transformers).
Le MLP est l'ancêtre direct des réseaux profonds : comprendre ses couches, c'est comprendre le cœur battant de l'IA moderne.