Aller au contenu principal
Retour au lexique IA
Données et vie privée

Biais (IA)

Un biais en intelligence artificielle correspond à une distorsion systématique dans les données, les modèles ou les résultats, pouvant mener à des décisions injustes ou discriminatoires.

Définition

Un biais désigne une déviation systématique d'un système d'intelligence artificielle par rapport à un traitement équitable. Il peut venir des données : échantillon peu représentatif, historique qui reflète des pratiques discriminatoires, étiquetage subjectif. Il peut venir de la conception : choix des variables, objectif d'optimisation, seuil de décision, variables « substituts » qui reproduisent indirectement un critère protégé, comme un code postal. Il peut aussi apparaître à l'usage, lorsque l'outil est employé hors du contexte pour lequel il a été validé, ou lorsque ses décisions modifient les données futures et renforcent l'écart initial. Les effets sont connus dans le recrutement automatisé, l'octroi de crédit, la reconnaissance faciale ou l'assurance. Pour une PME, le risque se rencontre dès qu'un outil classe, note ou filtre des personnes : tri de candidatures, scoring de prospects, détection de fraude. Le droit pose des limites : certaines discriminations sont interdites, par exemple à l'embauche, le RGPD encadre les décisions entièrement automatisées (article 22), et l'AI Act range parmi les systèmes à haut risque les usages liés à l'emploi et au recrutement, avec des exigences de qualité des données, de documentation et de supervision humaine. Les parades combinent des données plus représentatives, des tests de résultats par groupe avant la mise en service, un suivi dans le temps et une décision finale confiée à une personne. Le biais ne disparaît pas totalement, mais il peut être mesuré, réduit et rendu visible.

Catégorie

Données et vie privée

Synonymes

bias, biais algorithmique, partialité

Avantages

  • Prendre en compte les biais permet d'améliorer l'équité des systèmes
  • Soulever le débat public favorise la régulation et la transparence

Limites

  • Difficile à éliminer totalement car enracinés dans les données
  • Peut nécessiter des compromis entre équité et performance prédictive

Exemples concrets

Découvrez comment ce concept s'applique dans la réalité

  1. Reconnaissance faciale moins performante sur certaines ethnies

  2. Algorithme de recrutement favorisant les candidatures masculines

  3. Systèmes de crédit attribuant des notes biaisées par origine socio-économique

  4. Un outil de scoring de prospects entraîné sur les clients passés d'une PME, qui défavorise les profils absents de l'historique (nouvelle zone géographique, nouveau secteur)

  5. Un assistant de rédaction d'annonces d'emploi qui propose spontanément des formulations genrées

Applications pratiques

Où « biais (IA) » sert concrètement

  • Recrutement : audit d'algorithmes de sélection

  • Justice : contrôle des outils de justice prédictive

  • Assurance : détection de discrimination dans la tarification

  • Sécurité : amélioration des systèmes de reconnaissance faciale

Questions fréquentes

Les questions que posent les entreprises sur « biais (IA) »

Quelles sont les principales sources de biais ?

Les données (échantillon non représentatif, historique discriminatoire, étiquetage subjectif), la conception (choix des variables, objectif, seuils), l'évaluation (tests réalisés sur un public différent du public réel) et l'usage (outil utilisé hors de son cadre ou boucle de rétroaction).

Pouvez-vous donner un exemple de biais en PME ?

Un outil qui trie des CV d'après les recrutements des dix dernières années reproduira les préférences passées, y compris celles qui étaient discriminatoires. Même si l'on retire le genre des données, d'autres éléments (interruptions de carrière, établissements, loisirs) peuvent le laisser deviner.

Comment mesurer l'équité d'un système ?

Avec des métriques comme la parité démographique, l'égalité des chances ou l'impact disproportionné, qui comparent les résultats entre groupes. Elles ne donnent pas toutes la même réponse sur un cas donné : le choix dépend du contexte et du risque. Elles supposent aussi de pouvoir observer le groupe concerné, ce qui peut poser des questions de données sensibles.

Le biais est-il encadré par la loi ?

Oui, de plusieurs façons. Le droit interdit certaines discriminations, notamment dans l'emploi. Le RGPD exige un traitement loyal et encadre les décisions entièrement automatisées. L'AI Act impose aux systèmes à haut risque des données de qualité, de la documentation et une supervision humaine. Utiliser un algorithme ne dégage pas l'entreprise de sa responsabilité.

Peut-on supprimer totalement les biais ?

Non, mais on peut les réduire et les rendre visibles : jeux de données plus représentatifs, tests par groupe avant le déploiement, supervision humaine des décisions importantes, suivi régulier des résultats.

Que demander à un fournisseur avant d'acheter un outil qui classe ou note des personnes ?

Sur quelles données il a été entraîné, quels tests d'équité ont été réalisés, comment une personne peut contester un résultat et si un humain peut corriger la décision. Pour tout ce qui touche à l'emploi, au crédit ou à l'accès à un service, la décision finale doit rester entre les mains d'une personne.

Source et références

Source : CNIL – Glossaire IA

Voir la source

Envie d'approfondir vos connaissances en IA ?

Découvrez tous nos termes et concepts dans le lexique complet

Un projet autour de « biais (IA) » ?

Décrivez-nous votre besoin : nous vous répondons sous 24 h, sans engagement.

Testez gratuitement la visibilité de votre entreprise dans les IA. Lancer le test de visibilité dans les IA