La résilience en intelligence artificielle désigne la capacité d'un système à se rétablir et à continuer à fonctionner après une perturbation, une erreur ou une attaque.
La résilience (IA) est une propriété qui va au-delà de la robustesse. Alors que la robustesse concerne la résistance immédiate aux perturbations, la résilience englobe la capacité d'un système à s'adapter, à récupérer et à restaurer son fonctionnement normal après un incident. Cette notion est cruciale pour les systèmes d'IA déployés en environnements critiques ou dynamiques : santé, transport, cybersécurité, finance. Un modèle résilient doit être capable de détecter les anomalies, d'isoler les problèmes, de basculer vers des modes dégradés sûrs et de se réentraîner si nécessaire. La résilience repose sur plusieurs piliers : diversité des modèles, redondance, monitoring continu, plans de reprise et mécanismes d'auto‑apprentissage. Elle est au cœur des préoccupations des régulateurs (AI Act) qui imposent une gestion proactive des risques et une documentation claire des stratégies de résilience.
Découvrez tous nos termes et concepts dans le lexique complet