L’IA peut amplifier les biais et discriminations
Cet argument est utilisé dans le débat Faut-il accélérer le développement de l'intelligence artificielle ?.
Cet argument est un argument « contre » dans le débat Faut-il accélérer le développement de l'intelligence artificielle ?.
Résumé
Les systèmes d’IA, bien qu’apparus comme neutres, reproduisent et amplifient les biais présents dans les données sur lesquelles ils sont entraînés. Ces biais peuvent conduire à des décisions discriminatoires dans des domaines critiques comme l’emploi, la justice ou la santé, perpétuant ou aggravant les inégalités structurelles existantes.
Citations
« Malgré leur apparence neutre, les algorithmes d’IA reproduisent souvent les biais inscrits dans les données sur lesquelles ils sont entraînés, perpétuant les injustices systémiques. »
Auteur non renseigné, « The Bias of Artificial Intelligence », Harvard Business Review, 2021.
Références
Justifications
-
L'IA constitue un péril mortel pour la lutte contre les stéréotypes
Objections
-
L'intelligence artificielle peut réduire les biais humains
-
Vers une génération d’IA sans biais humains
Débat parent