Le social et médico social

France Inter - Dystopie sociale : quand les robots gèrent les prestations sociales des plus pauvres

il y a 3 semaines, par Info santé sécu social

France Inter, 15 octobre 2019

Le Guardian publie une remarquable enquête sur ces gouvernements qui s’essaient aux algorithmes et aux robots pour gérer les prestations sociales aux plus pauvres. Terrifiant !

Dans la presse britannique ce matin, un article particulièrement terrifiant. Un de ces articles qui font honneur à la presse écrite. Celui-là a été écrit après plus de trois mois d’enquêtes par une équipe de journalistes du Guardian, le grand quotidien londonien de centre gauche, et il mêle algorithme et dystopie.

La dystopie, Sophie en parlait hier, c’est ce qui nourrit le séries les plus réussies du moment, Years and Years ou encore Black Mirror. Ca consiste à décrire un futur proche crédible mais affecté par une technologie encore en gestation aujourd’hui.

Dans le cas de notre article, la technologie c’est l’Intelligence artificielle et la « réalité affectée » par cette technologie, ce sont nos systèmes de santé ou d’allocations sociales : allocations logements, familiales, chômage, minimum vieillesse ou RSA.

Tout le système de redistribution aux plus pauvres concerné
Exactement, l’enquête du Guardian a été réalisée dans plusieurs pays qui tentent d’automatiser la répartition aux plus pauvres des allocations et indemnités.

Ça se passe en Grande-Bretagne, aux Etats-Unis, en Australie et en Inde, où l’enquête a été conduite. Mais aussi chez nous. Partout en fait. Mais, il faudrait que le Monde, Le Nouvel Obs, Radio France, reprenne l’enquête ailleurs qu’en pays anglo-saxon.

L’idée est – à la base – assez généreuse : il s’agit d’éliminer les erreurs humaines, d’économiser de l’argent public – en économisant des fonctionnaires – et d’accélérer les paiements des prestations au travers d’automates alimentés par des données.

Des données collectées par millions…
En ce moment même, des gouvernements locaux ou nationaux dépensent des dizaines de millions en recherche en commençant par amasser des données.

Salaires, utilisation des services de santé, des services sociaux, frais de sécurité, croisement de fichiers fiscaux et sociaux, prestations. Bref, les autorités publiques amassent des informations sur les plus gros consommateurs d’aides, à savoir les plus pauvres.

Et ces nouveaux outils services commencent à être expérimentés grandeur nature. Rappelons qu’il s’agit de robots qui, en gros, ne sentent rien, ne corrigent rien ; mais croisent mathématiquement des données.

Des erreurs littéralement mortelles
En Inde, par exemple, le Guardian a repéré le cas d’au moins un homme mort de faim, tombé d’inanition dans son bidonville. Ses prestations ont été supprimées par erreur par un de ces calculateurs. Ils ont même la date : le 22 mai dernier.

L’Inde s’est lancée dans une expérience grandeur nature appelé Aadhaar consistant à payer des prestations via un numéro unique. Dans l’Illinois, ces robots réclament à des administrés – toujours les plus pauvres – des arriérés sur parfois 30 ans !

Même erreurs et abus en Australie. Des erreurs – ou pas d’ailleurs – très difficiles à redresser : Les quelques fonctionnaires qui sont chargés en bout de course de recevoir le public floué ou lésé ne peuvent agir qu’à la marge. Terrifiant je vous disais !

par Anthony Bellanger