Biais (IA)
Un biais en intelligence artificielle correspond à une distorsion systématique dans les données, les modèles ou les résultats, pouvant mener à des décisions injustes ou discriminatoires.
Définition
Un biais désigne une déviation systématique d'un système d'intelligence artificielle par rapport à un traitement équitable. Il peut venir des données : échantillon peu représentatif, historique qui reflète des pratiques discriminatoires, étiquetage subjectif. Il peut venir de la conception : choix des variables, objectif d'optimisation, seuil de décision, variables « substituts » qui reproduisent indirectement un critère protégé, comme un code postal. Il peut aussi apparaître à l'usage, lorsque l'outil est employé hors du contexte pour lequel il a été validé, ou lorsque ses décisions modifient les données futures et renforcent l'écart initial. Les effets sont connus dans le recrutement automatisé, l'octroi de crédit, la reconnaissance faciale ou l'assurance. Pour une PME, le risque se rencontre dès qu'un outil classe, note ou filtre des personnes : tri de candidatures, scoring de prospects, détection de fraude. Le droit pose des limites : certaines discriminations sont interdites, par exemple à l'embauche, le RGPD encadre les décisions entièrement automatisées (article 22), et l'AI Act range parmi les systèmes à haut risque les usages liés à l'emploi et au recrutement, avec des exigences de qualité des données, de documentation et de supervision humaine. Les parades combinent des données plus représentatives, des tests de résultats par groupe avant la mise en service, un suivi dans le temps et une décision finale confiée à une personne. Le biais ne disparaît pas totalement, mais il peut être mesuré, réduit et rendu visible.
Catégorie
Données et vie privée
Synonymes
bias, biais algorithmique, partialité
Avantages
- Prendre en compte les biais permet d'améliorer l'équité des systèmes
- Soulever le débat public favorise la régulation et la transparence
Limites
- Difficile à éliminer totalement car enracinés dans les données
- Peut nécessiter des compromis entre équité et performance prédictive
Exemples concrets
Découvrez comment ce concept s'applique dans la réalité
Reconnaissance faciale moins performante sur certaines ethnies
Algorithme de recrutement favorisant les candidatures masculines
Systèmes de crédit attribuant des notes biaisées par origine socio-économique
Un outil de scoring de prospects entraîné sur les clients passés d'une PME, qui défavorise les profils absents de l'historique (nouvelle zone géographique, nouveau secteur)
Un assistant de rédaction d'annonces d'emploi qui propose spontanément des formulations genrées
Applications pratiques
Où « biais (IA) » sert concrètement
Recrutement : audit d'algorithmes de sélection
Justice : contrôle des outils de justice prédictive
Assurance : détection de discrimination dans la tarification
Sécurité : amélioration des systèmes de reconnaissance faciale
Questions fréquentes
Les questions que posent les entreprises sur « biais (IA) »
Quelles sont les principales sources de biais ?
Les données (échantillon non représentatif, historique discriminatoire, étiquetage subjectif), la conception (choix des variables, objectif, seuils), l'évaluation (tests réalisés sur un public différent du public réel) et l'usage (outil utilisé hors de son cadre ou boucle de rétroaction).
Pouvez-vous donner un exemple de biais en PME ?
Un outil qui trie des CV d'après les recrutements des dix dernières années reproduira les préférences passées, y compris celles qui étaient discriminatoires. Même si l'on retire le genre des données, d'autres éléments (interruptions de carrière, établissements, loisirs) peuvent le laisser deviner.
Comment mesurer l'équité d'un système ?
Avec des métriques comme la parité démographique, l'égalité des chances ou l'impact disproportionné, qui comparent les résultats entre groupes. Elles ne donnent pas toutes la même réponse sur un cas donné : le choix dépend du contexte et du risque. Elles supposent aussi de pouvoir observer le groupe concerné, ce qui peut poser des questions de données sensibles.
Le biais est-il encadré par la loi ?
Oui, de plusieurs façons. Le droit interdit certaines discriminations, notamment dans l'emploi. Le RGPD exige un traitement loyal et encadre les décisions entièrement automatisées. L'AI Act impose aux systèmes à haut risque des données de qualité, de la documentation et une supervision humaine. Utiliser un algorithme ne dégage pas l'entreprise de sa responsabilité.
Peut-on supprimer totalement les biais ?
Non, mais on peut les réduire et les rendre visibles : jeux de données plus représentatifs, tests par groupe avant le déploiement, supervision humaine des décisions importantes, suivi régulier des résultats.
Que demander à un fournisseur avant d'acheter un outil qui classe ou note des personnes ?
Sur quelles données il a été entraîné, quels tests d'équité ont été réalisés, comment une personne peut contester un résultat et si un humain peut corriger la décision. Pour tout ce qui touche à l'emploi, au crédit ou à l'accès à un service, la décision finale doit rester entre les mains d'une personne.
Source et références
Source : CNIL – Glossaire IA
Voir la sourceTermes associés
Notions proches de « biais (IA) »
- Éthique de l'IA
- Transparence (IA)
- Explicabilité (IA)
- Responsabilité algorithmique
- Données sensibles (IA)
Besoin d'aller plus loin sur ce sujet ? Découvrez notre service Maintenance et sécurité.
Guides pour aller plus loin
Comment utiliser l’IA en entreprise : cadrer d’abord
Choisir ses cas d’usage, décider des données autorisées, appliquer le RGPD et l’AI Act, écrire une politique d’usage, évaluer : l’IA en entreprise.
Envie d'approfondir vos connaissances en IA ?
Découvrez tous nos termes et concepts dans le lexique complet
Un projet autour de « biais (IA) » ?
Décrivez-nous votre besoin : nous vous répondons sous 24 h, sans engagement.
Testez gratuitement la visibilité de votre entreprise dans les IA. Lancer le test de visibilité dans les IA