La traçabilité en intelligence artificielle désigne la capacité à suivre, documenter et reconstituer l'ensemble du cycle de vie d'un système IA : données, modèles, décisions et mises à jour.
La traçabilité (IA) est un principe de gouvernance qui vise à garantir que chaque étape du développement, du déploiement et de l'utilisation d'un système d'intelligence artificielle puisse être suivie, documentée et vérifiée. Elle inclut la provenance et la qualité des jeux de données, les paramètres et versions des modèles, les résultats produits, ainsi que l'historique des mises à jour. La traçabilité est essentielle pour comprendre comment une décision automatisée a été prise, pour identifier d'éventuelles erreurs ou biais, et pour permettre des audits et des contrôles réglementaires. Elle se distingue de la transparence (communication externe) et de l'explicabilité (compréhension d'une décision) par sa dimension de suivi interne complet. La traçabilité est une exigence clé du futur AI Act européen, notamment pour les systèmes d'IA à haut risque. Elle représente aussi un atout stratégique pour les entreprises, en renforçant leur responsabilité et leur conformité réglementaire.
Découvrez tous nos termes et concepts dans le lexique complet