Selon une enquête menée par le JDN (Journal du Net), un algorithme utilisé par la Caisse d'Allocations Familiales (CAF) attribue à ses bénéficiaires un score compris entre 0 et 1, permettant ainsi de cibler davantage certains profils. Plusieurs critères sont pris en compte dans l'établissement de ce score, tels que la situation professionnelle, la situation familiale, l'irrégularité des revenus ou encore la mention d'un handicap.
Plus ce score est proche de 1, plus le profil est surveillé par la CAF.
- Jeunes en formation professionnelle
- Personnes porteuses de handicap
- Individus aux revenus mensuels inférieurs à 1000 euros
- Mères célibataires
Quelques chiffres sur ces profils ciblés
L'enquête indique également que ce sont surtout les étudiants en apprentissage, les personnes en situation de handicap, les individus ayant des revenus mensuels inférieurs à 1000 euros et les mères célibataires qui sont les plus surveillés par cet algorithme. Cette méthode de calcul peut donc potentiellement s'avérer discriminatoire pour ces catégories de bénéficiaires.
Une possible discrimination territoriale
Stéphane Troussel, président socialiste du département de la Seine-Saint-Denis, a réagi suite à la publication de cette enquête en adressant un courrier au Défenseur des droits. Il s'interroge ainsi sur le caractère potentiellement discriminatoire des critères utilisés par cet algorithme de la CAF.
Troussel souligne également que ces contrôles sont plus fréquents dans certains territoires comme la Seine-Saint-Denis qu'ailleurs, ce qui pourrait contribuer à une discrimination territoriale. Les résidents de ce département seraient donc davantage susceptibles d'être ciblés et contrôlés par l'organisme.
Des conséquences pour les bénéficiaires
Face à cette situation, il est important de mesurer les conséquences d'une telle surveillance renforcée sur les bénéficiaires concernés. Les profils les plus touchés peuvent ressentir un sentiment d'injustice et de stigmatisation, pouvant ainsi impacter leur accès aux aides auxquelles ils ont droit.
Quel rôle jouent ces algorithmes dans les décisions de la CAF ?
L'utilisation de ces systèmes de scoring peut soulever des interrogations quant à l'influence de ces outils technologiques sur les décisions prises par la CAF. En effet, bien que reposant sur plusieurs critères et variables, ces calculs peuvent être biaisés et mener à des conclusions erronées ou injustes.
- Les erreurs dans les données collectées
- L'omission de certaines informations pertinentes
- La prise en compte de critères subjectifs
Il est donc crucial de veiller à ce que ces algorithmes soient utilisés de manière adéquate et transparente, afin d'éviter toutes formes de discrimination.
Pourquoi la transparence autour des algorithmes est-elle importante ?
Un usage plus transparent permettrait aux bénéficiaires de comprendre les mécanismes de décision qui impactent leur situation et ainsi de mieux défendre leurs droits. Il est important que ces outils automatisés ne créent pas une opacité nuisant au respect des principes d'équité et de justice sociale.
Vers une réforme des systèmes de contrôle de la CAF ?
L'enquête menée par le JDN et l'intervention de Stéphane Troussel pourraient contribuer à ouvrir un débat sur la nécessité de repenser les méthodes de calcul et de contrôle mise en place par la CAF. Les initiatives visant à améliorer la transparence et à prévenir toute forme de discrimination sont essentielles pour garantir un accès équitable aux aides sociales pour l'ensemble des personnes concernées.
Il est donc primordial de revoir l'utilisation des algorithmes dans les procédures administratives, notamment celles qui concernent des milliers de bénéficiaires d'aides sociales, afin de garantir une égalité de traitement et de lutte contre les discriminations.
