Jamais encore un algorithme de ciblage d’un service public n’avait été contesté devant un tribunal. Conçu pour attribuer à chaque allocataire un score de notation, ce programme de contrôle de la Caisse nationale des allocations familiales (Cnaf) est soupçonné de donner en réalité « des scores de suspicion, accentuant les risques de discrimination et de maltraitance institutionnelle », dénonce le collectif devant le Conseil d’Etat. Malgré la demande réitérée de l’abroger, « la mise sous pression des allocataires et l'intensification des contrôles » perdurent selon les associations. Des procédés que le collectif juge « illégaux et discriminatoires ».
Surveillance de masse : la double peine
L’algorithme analyserait chaque mois les données personnelles de plus de 32 millions d’allocataires. « Bien qu’officiellement présenté comme un outil de lutte contre la fraude, l’algorithme vise en réalité à cibler la recherche de trop-perçus, dont l’immense majorité est le fait d’erreurs, par définition involontaires », dénonce le collectif, qui réunit quinze associations dont La Quadrature du Net, Amnesty International France, APF France handicap, la Fondation Abbé-Pierre, le collectif Changer de Cap, et l’ANAS (Association nationale des assistants de service social).
Selon ces organisations, l'algorithme reposerait même sur des critères socio-économiques qui renforcent la stigmatisation des foyers modestes, en s'appuyant sur des élements intrusifs tels que les faibles revenus, un divorce ou la monoparentalité. « Plus de la moitié des Français serait concernée », avertit Bastien Le Querrec, juriste à La Quadrature du Net. Pour lui, « l'algorithme ne fait que traduire une politique d’acharnement contre les plus pauvres. Parce que vous êtes précaire, vous serez suspecté aux yeux de l’algorithme, et donc contrôlé. C’est une double peine. »
>>> à lire aussi : Algorithme discriminatoire des CAF : un collectif interpelle Matignon
"Coche toutes les cases de la stigmatisation"
« L'algorithme de la Cnaf cible injustement les allocataires en situation de handicap », dénonce pour sa part Pascale Ribes, présidente d'APF France handicap. Selon elle, cet outil accroît les discriminations et « vient cocher toutes les cases de la stigmatisation des bénéficiaires de l'allocation aux adultes handicapés, en particulier ceux avec un taux d’incapacité entre 50 et 80 % ». En raison de la complexité administrative, les erreurs sont en effet fréquentes, ce qui expose davantage les allocataires à des contrôles et donc à des sanctions jugées injustifiées par la présidente d'APF France handicap qui dénone « une véritable maltraitance institutionnelle envers les plus vulnérables ».
>>> à lire aussi : Quand les institutions aggravent la précarité
Les quinze associations appellent à la fin de l'utlisation de l'algorithme de contrôle des CAF, perçu comme « une atteinte grave aux droits humains fondamentaux des personnes vulnérables ». L'enjeu de ce recours ? « Repenser toute la politique sociale et de contrôle de la CAF, mais aussi de l'assurance vieillesse, de France travail, imitant les mêmes procédés algorithmiques et discriminants ».
Le collectif se tient prêt à formuler prochainement un recours auprès de la Cour de justice de l'Union européenne qui interdisait d'ailleurs, dans une jurisprudence récente, le calcul de ce « scoring de risque ».
>>> à lire aussi : Quels sont les dysfonctionnements de l’administration numérique des étrangers en France ?
