Biais de l'IA

Le biais de l'IA apparaît lorsqu'un système produit des résultats systématiquement injustes, déséquilibrés ou discriminatoires envers certains groupes de personnes. La cause réside le plus souvent dans les données d'entraînement : si elles reflètent des préjugés historiques, sont incomplètes ou surreprésentent un groupe, le modèle apprend et reproduit ces distorsions. Des cas ont été documentés dans le recrutement, l'octroi de crédits ou la reconnaissance faciale, qui fonctionnaient moins bien avec certains groupes. Le problème est délicat car l'IA revêt une apparence d'objectivité (« c'est l'algorithme qui le dit ») susceptible de masquer le biais. Le réduire exige des données plus représentatives, des tests d'équité ciblés et une supervision humaine. C'est l'une des questions éthiques centrales de l'usage de l'IA dans des décisions qui touchent des personnes.