Algorithme discriminatoire de notation de la CNAF : 10 nouvelles organisations se joignent à l'affaire devant le Conseil d’État
Autres articles
-
Voeux de fin d’année pour les ASS
-
Compte rendu de l’Assemblée Générale Ordinaire – Juin 2025
-
Réingénierie des diplômes du travail social : Une mascarade de concertation, une confiance trahie, un engagement balayé !
-
Communiqué commun : Engagement de l’ANAS pour défendre la formation des futurs ASS
-
L’ANAS et l’appel des 400 000, le 15 mai 2025.
Le 20 janvier 2026
Il y a un peu plus d'un an, 15 organisations de la société civile ont contesté l'algorithme d'évaluation des risques utilisé par la Caisse nationale d'allocations familiales (CNAF), la branche familiale du système français de protection sociale. Le recours a été porté devant le Conseil d'État au nom du droit de la protection des données personnelles et du principe de non-discrimination. Cet algorithme attribue à chaque allocataire un score de suspicion dont la valeur est utilisée pour sélectionner celles et ceux faisant l’objet d’un contrôle. Chaque mois, l'algorithme analyse les données personnelles de plus de 32 millions de personnes et calcule plus de 13 millions de scores. Parmi les facteurs venant augmenter un score de suspicion on trouve notamment le fait d’avoir de faibles revenus, d’être au chômage, de bénéficier du revenu de solidarité active (RSA) ou de l’allocation adulte handicapé (AAH).
Aujourd'hui, notre coalition est fière d'accueillir 10 nouvelles organisations dans ce litige. Nous sommes désormais 25 à demander l'interdiction de l'algorithme de notation de la CNAF. La diversité de la coalition, qui rassemble des collectifs de personnes concernées, des syndicats ainsi que des ONG françaises et européennes de défense des droits fondamentaux, témoigne de la large opposition à l'algorithme de la CNAF et, plus largement, aux algorithmes discriminatoires visant les personnes vulnérables.
Notre action en justice débutée en octobre 2024 devant le Conseil d'État vise à la fois l'étendue de la surveillance mise en place et la discrimination perpétrée par cet algorithme. Alimenté par les données personnelles de millions de personnes, il cible délibérément les personnes les plus défavorisées. La grave discrimination inhérente à l'algorithme a été confirmée par la Défenseure des droits dans des observations transmises à la justice en octobre dernier.
Enfin, le 15 janvier 2026, la CNAF a publié le code source de son algorithme actuel. Si nous saluons les efforts de transparence — la CNAF avait auparavant refusé de divulguer le code source de l'algorithme utilisé —, la transparence seule ne suffit pas. Cela ne doit pas détourner l'attention sur le fait qu'une étude interne de la CNAF datant de 2025, dont nous avons obtenu copie, a reconnu les effets discriminatoires de l'algorithme. Notre coalition a inclus cette étude dans un nouveau mémoire envoyé à la justice en décembre.
« Notre nouvelle coalition élargie rassemble diverses organisations européennes et françaises issues de domaines variés. Cela montre que le Conseil d'État devrait renvoyer l'affaire devant la Cour de justice de l'Union européenne afin que celle-ci puisse rendre une décision applicable à l'ensemble de l'Europe », déclare Bastien Le Querrec, juriste à La Quadrature du Net.
Le Conseil d'État a informé les plaignants que la phase écrite du contentieux prendra fin à la fin du mois. Nous nous attendons à ce que l'audience publique ait lieu au printemps prochain.
Nouvelles organisations plaignantes :
• Confédération Générale du Travail
• Union Syndicale Solidaires
• Fédération Syndicale Unitaire Travail Emploi Insertion Organismes Sociaux
• Data for Good
• European Digital Rights
• AlgorithmWatch
• European Network Against Racism
• Panoptykon Foundation
• Mouvement des mères isolées
• Féministes contre le cyberharcèlement
Premières organisations requérantes :
• La Quadrature du Net
• Association d’Accès aux Droits des Jeunes et d’Accompagnement vers la Majorité
• Aequitaz
• Amnesty International France
• Association nationale des assistants de service social
• APF France handicap
• Collectif Changer de Cap
• Fondation pour le Logement des Défavorisés
• Groupe d’information et de soutien des immigré·e·s (Gisti)
• Le Mouton numérique
• Ligue des droits de l’Homme
• Mouvement national des chômeurs et précaires
• Mouvement français pour un revenu de base
• Collectif National Droits de l’Homme Romeurope
• Syndicat des avocats de France
Il y a un peu plus d'un an, 15 organisations de la société civile ont contesté l'algorithme d'évaluation des risques utilisé par la Caisse nationale d'allocations familiales (CNAF), la branche familiale du système français de protection sociale. Le recours a été porté devant le Conseil d'État au nom du droit de la protection des données personnelles et du principe de non-discrimination. Cet algorithme attribue à chaque allocataire un score de suspicion dont la valeur est utilisée pour sélectionner celles et ceux faisant l’objet d’un contrôle. Chaque mois, l'algorithme analyse les données personnelles de plus de 32 millions de personnes et calcule plus de 13 millions de scores. Parmi les facteurs venant augmenter un score de suspicion on trouve notamment le fait d’avoir de faibles revenus, d’être au chômage, de bénéficier du revenu de solidarité active (RSA) ou de l’allocation adulte handicapé (AAH).
Aujourd'hui, notre coalition est fière d'accueillir 10 nouvelles organisations dans ce litige. Nous sommes désormais 25 à demander l'interdiction de l'algorithme de notation de la CNAF. La diversité de la coalition, qui rassemble des collectifs de personnes concernées, des syndicats ainsi que des ONG françaises et européennes de défense des droits fondamentaux, témoigne de la large opposition à l'algorithme de la CNAF et, plus largement, aux algorithmes discriminatoires visant les personnes vulnérables.
Notre action en justice débutée en octobre 2024 devant le Conseil d'État vise à la fois l'étendue de la surveillance mise en place et la discrimination perpétrée par cet algorithme. Alimenté par les données personnelles de millions de personnes, il cible délibérément les personnes les plus défavorisées. La grave discrimination inhérente à l'algorithme a été confirmée par la Défenseure des droits dans des observations transmises à la justice en octobre dernier.
Enfin, le 15 janvier 2026, la CNAF a publié le code source de son algorithme actuel. Si nous saluons les efforts de transparence — la CNAF avait auparavant refusé de divulguer le code source de l'algorithme utilisé —, la transparence seule ne suffit pas. Cela ne doit pas détourner l'attention sur le fait qu'une étude interne de la CNAF datant de 2025, dont nous avons obtenu copie, a reconnu les effets discriminatoires de l'algorithme. Notre coalition a inclus cette étude dans un nouveau mémoire envoyé à la justice en décembre.
« Notre nouvelle coalition élargie rassemble diverses organisations européennes et françaises issues de domaines variés. Cela montre que le Conseil d'État devrait renvoyer l'affaire devant la Cour de justice de l'Union européenne afin que celle-ci puisse rendre une décision applicable à l'ensemble de l'Europe », déclare Bastien Le Querrec, juriste à La Quadrature du Net.
Le Conseil d'État a informé les plaignants que la phase écrite du contentieux prendra fin à la fin du mois. Nous nous attendons à ce que l'audience publique ait lieu au printemps prochain.
Nouvelles organisations plaignantes :
• Confédération Générale du Travail
• Union Syndicale Solidaires
• Fédération Syndicale Unitaire Travail Emploi Insertion Organismes Sociaux
• Data for Good
• European Digital Rights
• AlgorithmWatch
• European Network Against Racism
• Panoptykon Foundation
• Mouvement des mères isolées
• Féministes contre le cyberharcèlement
Premières organisations requérantes :
• La Quadrature du Net
• Association d’Accès aux Droits des Jeunes et d’Accompagnement vers la Majorité
• Aequitaz
• Amnesty International France
• Association nationale des assistants de service social
• APF France handicap
• Collectif Changer de Cap
• Fondation pour le Logement des Défavorisés
• Groupe d’information et de soutien des immigré·e·s (Gisti)
• Le Mouton numérique
• Ligue des droits de l’Homme
• Mouvement national des chômeurs et précaires
• Mouvement français pour un revenu de base
• Collectif National Droits de l’Homme Romeurope
• Syndicat des avocats de France
CNAF's discriminatory scoring algorithm: 10 new organisations join the case before the Conseil d'État in France
20 January 2026
Just over a year ago, 15 civil society organisations challenged the risk-scoring algorithm used by the family branch of the French welfare system (CNAF). The legal action was brought before the French Conseil d’État on the grounds of personal data protection and the principle of non-discrimination. This algorithm assigns a suspicion score to each beneficiary and selects those to subject to further checks. Every month, the algorithm analyses the personal data of more than 32 million people and calculates more than 13 million scores. Factors that increase a suspicion score include having a low income, being unemployed, receiving the minimum income benefit or disability benefits.
Today, our coalition is proud to welcome 10 new organisations in this litigation. We are now 25 asking for a ban of the CNAF’s scoring algorithm. The diversity of the coalition – bringing together groups of affected people, unions as well as French and European fundamental rights NGOs – demonstrate the broad resistance to the CNAF’s algorithm and more broadly against discriminatory algorithms targeting vulnerable people.
Our legal action started in October 2024 before the Conseil d’État targets both the extent of the surveillance in place and the discrimination perpetrated by this algorithm. Fuelled by personal data of millions of people, it deliberately targets the most disadvantaged. The serious discrimination at the heart of the algorithm has been confirmed by the Défenseur des Droits – the French Ombudsperson – in an opinion sent to the court in last October.
Finally, on 15 January 2026, the CNAF released the source code of its current algorithm. While we welcome the efforts towards transparency — the CNAF had previously refused to disclose the source code of the algorithm in use — transparency alone is not enough. This should not distract from the fact that a 2025 internal CNAF study we obtained recognised the algorithm's discriminatory effects. Our coalition included this study in a new brief sent to the court in December.
“Our new, expanded coalition brings together a variety of European and French organisations from a range of backgrounds. This shows that the Conseil d'État should refer the case to the Court of Justice of the European Union so that the court can issue a pan-European decision,” says Bastien Le Querrec, legal officer at La Quadrature du Net.
The Conseil d’État informed the plaintiffs that the written phase of the litigation will close at the end of this month. We expect the public hearing to take place next spring.
New plaintiffs:
• Confédération Générale du Travail
• Union Syndicale Solidaires
• Fédération Syndicale Unitaire Travail Emploi Insertion Organismes Sociaux
• Data for Good
• European Digital Rights
• AlgorithmWatch
• European Network Against Racism
• Panoptykon Foundation
• Mouvement des mères isolées
• Féministes contre le cyberharcèlement
First plaintiffs:
• La Quadrature du Net
• Association d’Accès aux Droits des Jeunes et d’Accompagnement vers la Majorité
• Aequitaz
• Amnesty International France
• Association nationale des assistants de service social
• APF France handicap
• Collectif Changer de Cap
• Fondation pour le Logement des Défavorisés
• Groupe d’information et de soutien des immigré·e·s (Gisti)
• Le Mouton numérique
• Ligue des droits de l’Homme
• Mouvement national des chômeurs et précaires
• Mouvement français pour un revenu de base
• Collectif National Droits de l’Homme Romeurope
• Syndicat des avocats de France
Just over a year ago, 15 civil society organisations challenged the risk-scoring algorithm used by the family branch of the French welfare system (CNAF). The legal action was brought before the French Conseil d’État on the grounds of personal data protection and the principle of non-discrimination. This algorithm assigns a suspicion score to each beneficiary and selects those to subject to further checks. Every month, the algorithm analyses the personal data of more than 32 million people and calculates more than 13 million scores. Factors that increase a suspicion score include having a low income, being unemployed, receiving the minimum income benefit or disability benefits.
Today, our coalition is proud to welcome 10 new organisations in this litigation. We are now 25 asking for a ban of the CNAF’s scoring algorithm. The diversity of the coalition – bringing together groups of affected people, unions as well as French and European fundamental rights NGOs – demonstrate the broad resistance to the CNAF’s algorithm and more broadly against discriminatory algorithms targeting vulnerable people.
Our legal action started in October 2024 before the Conseil d’État targets both the extent of the surveillance in place and the discrimination perpetrated by this algorithm. Fuelled by personal data of millions of people, it deliberately targets the most disadvantaged. The serious discrimination at the heart of the algorithm has been confirmed by the Défenseur des Droits – the French Ombudsperson – in an opinion sent to the court in last October.
Finally, on 15 January 2026, the CNAF released the source code of its current algorithm. While we welcome the efforts towards transparency — the CNAF had previously refused to disclose the source code of the algorithm in use — transparency alone is not enough. This should not distract from the fact that a 2025 internal CNAF study we obtained recognised the algorithm's discriminatory effects. Our coalition included this study in a new brief sent to the court in December.
“Our new, expanded coalition brings together a variety of European and French organisations from a range of backgrounds. This shows that the Conseil d'État should refer the case to the Court of Justice of the European Union so that the court can issue a pan-European decision,” says Bastien Le Querrec, legal officer at La Quadrature du Net.
The Conseil d’État informed the plaintiffs that the written phase of the litigation will close at the end of this month. We expect the public hearing to take place next spring.
New plaintiffs:
• Confédération Générale du Travail
• Union Syndicale Solidaires
• Fédération Syndicale Unitaire Travail Emploi Insertion Organismes Sociaux
• Data for Good
• European Digital Rights
• AlgorithmWatch
• European Network Against Racism
• Panoptykon Foundation
• Mouvement des mères isolées
• Féministes contre le cyberharcèlement
First plaintiffs:
• La Quadrature du Net
• Association d’Accès aux Droits des Jeunes et d’Accompagnement vers la Majorité
• Aequitaz
• Amnesty International France
• Association nationale des assistants de service social
• APF France handicap
• Collectif Changer de Cap
• Fondation pour le Logement des Défavorisés
• Groupe d’information et de soutien des immigré·e·s (Gisti)
• Le Mouton numérique
• Ligue des droits de l’Homme
• Mouvement national des chômeurs et précaires
• Mouvement français pour un revenu de base
• Collectif National Droits de l’Homme Romeurope
• Syndicat des avocats de France