Imaginez un cerveau miniature logé directement dans votre montre, votre voiture ou votre caméra de surveillance : c'est l'idée de l'IA embarquée (Edge AI). Plutôt que d'envoyer les données vers un serveur distant pour les faire analyser, le modèle d'intelligence artificielle s'exécute localement, au plus près du capteur qui produit la donnée — la fameuse « périphérie » (edge) du réseau.
Pourquoi rapprocher l'IA de la donnée
Le calcul dans le cloud impose un aller-retour réseau coûteux. L'IA embarquée supprime ce détour, ce qui apporte trois bénéfices majeurs :
- Latence quasi nulle : la décision est prise sur place, indispensable pour une voiture autonome ou un drone.
- Confidentialité : les données sensibles (voix, visage, santé) ne quittent jamais l'appareil.
- Autonomie réseau : le système fonctionne même sans connexion Internet.
La latence totale se décompose simplement :
$$ T_{\text{total}} = T_{\text{réseau}} + T_{\text{calcul}} $$
En local, $T_{\text{réseau}} \approx 0$, d'où une réactivité immédiate.
Le prix de la contrainte
Faire tenir un modèle dans une puce de quelques milliwatts impose des compromis. On recourt à la quantification (passer de 32 à 8 bits, voire moins), à l'élagage (pruning) et à la distillation pour réduire la taille du réseau.
| Critère | Cloud (datacenter) | IA embarquée (edge) |
|---|---|---|
| Latence | Élevée | Très faible |
| Confidentialité | Données envoyées | Données locales |
| Puissance de calcul | Quasi illimitée | Limitée |
| Énergie | Forte | Faible |
L'IA embarquée, c'est l'intelligence qui se déplace vers la donnée, plutôt que l'inverse.