Algorithmisation des services publics

Qu’est-ce que l’algorithmisation des services publics 

Sarah Benichou (Directrice de la promotion de l’égalité et de l’accès aux droits)

Aujourd’hui, de nombreux services publics s’appuient sur des algorithmes et ont un recours croissant à des systèmes d’intelligence artificielle, à tel point que l’on parle d’algorithmisation de l’administration.

Cela permet d’automatiser, d’accélérer et même d’améliorer certaines procédures administratives.

Par exemple, on peut utiliser ces systèmes pour calculer des montants - l’impôt sur le revenu, les prestation sociales - organiser l’accès à l’enseignement supérieur, avec le célèbre Parcoursup, ou encore l’administration peut utiliser l’IA pour cibler les contrôles contre la fraude fiscale.

L’utilisation de ces systèmes peut présenter des avantages, mais elle comporte également des risques.

Les services publics doivent donc faire preuve d’une vigilance particulière, d’autant plus que les usagers n’ont pas d’autre choix que d’y recourir, contrairement à un service privé.

Et les risques de non-respect des droits existent.

Ces systèmes algorithmiques et d’IA peuvent être discriminatoires, par exemple quand les données utilisées pour les entraîner, les tester, sont elles-mêmes biaisées.

Le risque qu’il n’y ait pas de contrôle humain du système utilisé est un autre problème, et que l’administration s’en serve sans vraiment pouvoir maîtriser ces outils ni expliquer les résultats.

Le risque, enfin, pour les usagers, de ne pas pouvoir comprendre comment a été prise une décision et de ne pas pouvoir éventuellement la contester.

Parmi ses différentes missions, le défenseur des droits est chargé de défendre le droit des usagers des services publics.

Défenseur des droits - République française