Biais algorithmique
Le biais algorithmique, c'est quand un système d'IA produit des résultats injustes pour certains groupes de personnes — plus d'erreurs, de moins bonnes offres, moins de possibilités — généralement à cause de lacunes ou de préjugés dans ses données d'entraînement ou dans la définition de la tâche.
En une ligne, pour un jeune de 12 ans
Le biais algorithmique, c'est quand une IA traite certaines personnes injustement parce qu'elle a appris à partir d'exemples injustes ou incomplets.
Un exemple
Un outil de tri de CV entraîné sur les embauches passées d'une entreprise apprend à déclasser les candidats issus de groupes qu'elle embauchait rarement.
Pourquoi c'est important pour les gens
Les biais de l'IA peuvent priver des gens d'un emploi, d'un prêt, d'un logement ou d'un traitement équitable par la police et les services publics. Les lois canadiennes sur les droits de la personne s'appliquent même quand une machine aide à décider.