language: fr
license: cc-by-4.0
task_categories:
- token-classification
tags:
- pii
- anonymization
- french
- benchmark
size_categories:
- 1K<n<10K
Noirci Bench, mesurer la protection des données personnelles en français
Un benchmark de pseudonymisation française, livré avec son outil de mesure. L'intérêt n'est pas le corpus, c'est la métrique : elle change les conclusions.
Publié par 5000.dev. Code du moteur : 5000dev/noirci.
La métrique : un nom à moitié masqué est une fuite
Les travaux publiés rapportent en général un F1 par token. Masquer « Jean » dans « Jean Dupont » y compte comme un demi-succès. Nous comptons ça comme un échec : le nom de famille est parti chez le fournisseur du modèle, et la personne est identifiable.
Une entité n'est protégée que si 100 % de ses caractères significatifs sont masqués. Le score produit deux nombres, jamais un seul :
- le taux de fuite, la part d'entités non intégralement masquées
- le taux de sur-masquage, la part de texte masqué pour rien
Le second compte autant que le premier. Un outil qui masque tout obtient 0 % de fuite et rend le document inutilisable.
python -m harness.score data/bench_v6.jsonl mes_predictions.jsonl
Les jeux
| Fichier | Documents | Entités | Ce qu'il mesure |
|---|---|---|---|
bench_v0.jsonl |
600 | 3 953 | premier jeu métier, 30 % bruité OCR |
bench_v1.jsonl |
1 500 | 10 010 | gabarits jamais vus, généralisation |
bench_v2.jsonl |
1 500 | 10 158 | formats découverts sur documents réels |
bench_v3.jsonl |
1 500 | 10 460 | v2 étendu |
bench_v6.jsonl |
1 500 | 11 776 | le plus complet, 20 types |
bench_realvals.jsonl |
1 000 | 7 046 | vraies valeurs BODACC et INSEE dans des gabarits |
bench_real_bodacc.jsonl |
60 | 496 | annonces commerciales authentiques |
bench_real_fictif.jsonl |
20 | 161 | documents rédigés à la main |
bench_wikiner.jsonl |
1 700 | 2 703 | hors domaine, contrôle de non-régression |
Format : un objet JSON par ligne.
{"id": "...", "text": "...", "entities": [{"start": 8, "end": 21, "type": "PERSON", "value": "Claire Baudry"}]}
Vingt types : PERSON, COMPANY, ADDRESS, CITY, EMAIL, PHONE, DATE, AMOUNT, IBAN, SIREN, SIRET, TVA, NIR, CARD, PLATE, URL, IP, REF, SECRET, AGE.
Un avertissement qui vaut mieux qu'un chiffre flatteur
Ces jeux synthétiques sont saturés. Notre pipeline y obtient 0,04 % de fuite, et ce nombre ne veut plus rien dire. Un corpus généré finit par mesurer la capacité d'un modèle à reconnaître son propre générateur.
Nos progrès les plus importants ont tous été invisibles ici et bien réels sur de la correspondance authentique. Un exemple : notre détecteur de montants exigeait le symbole euro après le nombre. Il ratait donc les francs suisses, les magnitudes (« 30K€ ») et les fourchettes (« 20 à 30 k€ »), soit 54 % de fuite sur documents réels. Le benchmark synthétique n'en montrait rien, parce que son générateur écrivait toujours les montants de la même façon.
Utilisez ces jeux comme garde-fou anti-régression, pas comme preuve. La mesure qui compte se fait sur vos propres documents annotés.
Ce qui n'est pas ici
Aucune correspondance réelle. Nos mesures de référence portent sur 479 documents professionnels annotés à la main, qui contiennent des données personnelles de tiers et ne seront jamais publiés. Le protocole, lui, est public : le scorer de ce dépôt fonctionne sur n'importe quel jeu au même format.
Rien d'ai4privacy. Nous l'utilisons en comparaison, sa licence interdit la redistribution.
Vérification
Chaque fichier a été contrôlé contre les 597 valeurs identifiantes de nos documents réels (noms complets, adresses électroniques, téléphones, IBAN, URL, sociétés en plusieurs mots). Aucune n'y figure.
Des prénoms isolés comme « Antoine » ou des communes comme « Bordeaux » apparaissent dans les deux, parce que les générateurs puisent dans les mêmes sources publiques INSEE. Ce sont des collisions, pas des copies.
Sources et licence
Jeux sous CC-BY-4.0, code sous MIT.
- BODACC (DILA / data.gouv.fr) et INSEE (SIRENE, prénoms, COG) : Licence Ouverte v2.0
- WikiNER-fr-gold (
danrun/WikiNER-fr-gold) : CC-BY-4.0, attribution requise, y compris pour les modèles entraînés dessus - Wikidata : CC0