Rapport - Algorithmes : prévenir l'automatisation des discriminations
31 mai 2020
- Discrimination
- Numérique
Les outils numériques, dont l’usage s’est accru avec la crise sanitaire actuelle, reposent souvent sur des algorithmes sans que le grand public en soit toujours conscient ou informé. Désormais utilisés dans des domaines tels que l’accès aux prestations sociales, la police, la justice ou encore le recrutement, ils constituent des sources de progrès, mais sont également porteurs de risques pour les droits fondamentaux.
Derrière l’apparente neutralité des algorithmes, des recherches ont mis à jour l’ampleur des biais qui peuvent intervenir lors de leur conception et leur déploiement. Tout comme les bases de données qui les alimentent, ils sont conçus et générés par des humains dont les stéréotypes, en se répétant automatiquement, peuvent engendrer des discriminations.
Pour prévenir ces discriminations, les corriger et sanctionner leurs auteurs, le Défenseur des droits appelle à une prise de conscience collective et propose des orientations dans ce rapport réalisé en partenariat avec la CNIL.
