L'IA pourrait échapper au contrôle humain
Cet argument est utilisé dans le débat L'intelligence artificielle va-t-elle révolutionner la société ?.
Cet argument est un argument « contre » dans le débat L'intelligence artificielle va-t-elle révolutionner la société ?.
Résumé
Certains experts craignent que le développement de systèmes d’IA de plus en plus autonomes puisse mener à des comportements imprévisibles. Une IA avancée pourrait prendre des décisions contraires aux intentions humaines, voire impossibles à arrêter. Cette perspective nourrit les scénarios de science-fiction sur une superintelligence qui dépasserait l’humanité et lui échapperait définitivement.
Citations
Références
Justifications
-
Apprentissage autonome -
IA imprévisibles
-
Craintes d'IA superintelligente
Objections
-
Mécanismes de contrôle
-
IA = création humaine
Débat parent