L'IA peut renforcer les biais et discriminations existants
Cet argument est utilisé dans le débat L'intelligence artificielle va-t-elle révolutionner la société ?.
Cet argument est un argument « contre » dans le débat L'intelligence artificielle va-t-elle révolutionner la société ?.
Résumé
Les systèmes d’intelligence artificielle apprennent à partir de données qui reflètent les biais présents dans la société. Ainsi, des algorithmes de recrutement peuvent défavoriser les femmes ou les minorités ; des logiciels de reconnaissance faciale sont moins précis pour certaines origines. En reproduisant ces biais, l’IA risque de renforcer les discriminations plutôt que de les corriger.
Citations
Références
Justifications
-
Données biaisées -
Algorithmes biaisés
-
Discriminations observées dans le recrutement
Objections
-
Correction des biais possible
-
IA plus objective que l'humain
Débat parent