5000dev/noirci-bench

Noirci Bench, mesurer la protection des données personnelles en français

Un benchmark de pseudonymisation française, livré avec son outil de mesure. L'intérêt n'est pas le corpus, c'est la métrique : elle change les conclusions.

Publié par 5000.dev. Code du moteur : 5000dev/noirci.

La métrique : un nom à moitié masqué est une fuite

Les travaux publiés rapportent en général un F1 par token. Masquer « Jean » dans « Jean Dupont » y compte comme un demi-succès. Nous comptons ça comme un échec : le nom de famille est parti chez le fournisseur du modèle, et la personne est identifiable.

Une entité n'est protégée que si 100 % de ses caractères significatifs sont masqués. Le score produit deux nombres, jamais un seul :

• le taux de fuite, la part d'entités non intégralement masquées
• le taux de sur-masquage, la part de texte masqué pour rien

Le second compte autant que le premier. Un outil qui masque tout obtient 0 % de fuite et rend le document inutilisable.

python -m harness.score data/bench_v6.jsonl mes_predictions.jsonl

Les jeux

Fichier	Documents	Entités	Ce qu'il mesure
bench_v0.jsonl	600	3 953	premier jeu métier, 30 % bruité OCR
bench_v1.jsonl	1 500	10 010	gabarits jamais vus, généralisation
bench_v2.jsonl	1 500	10 158	formats découverts sur documents réels
bench_v3.jsonl	1 500	10 460	v2 étendu
bench_v6.jsonl	1 500	11 776	le plus complet, 20 types
bench_realvals.jsonl	1 000	7 046	vraies valeurs BODACC et INSEE dans des gabarits
bench_real_bodacc.jsonl	60	496	annonces commerciales authentiques
bench_real_fictif.jsonl	20	161	documents rédigés à la main
bench_wikiner.jsonl	1 700	2 703	hors domaine, contrôle de non-régression

Format : un objet JSON par ligne.

{"id": "...", "text": "...", "entities": [{"start": 8, "end": 21, "type": "PERSON", "value": "Claire Baudry"}]}

Vingt types : PERSON, COMPANY, ADDRESS, CITY, EMAIL, PHONE, DATE, AMOUNT, IBAN, SIREN, SIRET, TVA, NIR, CARD, PLATE, URL, IP, REF, SECRET, AGE.

Un avertissement qui vaut mieux qu'un chiffre flatteur

Ces jeux synthétiques sont saturés. Notre pipeline y obtient 0,04 % de fuite, et ce nombre ne veut plus rien dire. Un corpus généré finit par mesurer la capacité d'un modèle à reconnaître son propre générateur.

Nos progrès les plus importants ont tous été invisibles ici et bien réels sur de la correspondance authentique. Un exemple : notre détecteur de montants exigeait le symbole euro après le nombre. Il ratait donc les francs suisses, les magnitudes (« 30K€ ») et les fourchettes (« 20 à 30 k€ »), soit 54 % de fuite sur documents réels. Le benchmark synthétique n'en montrait rien, parce que son générateur écrivait toujours les montants de la même façon.

Utilisez ces jeux comme garde-fou anti-régression, pas comme preuve. La mesure qui compte se fait sur vos propres documents annotés.

Ce qui n'est pas ici

Aucune correspondance réelle. Nos mesures de référence portent sur 479 documents professionnels annotés à la main, qui contiennent des données personnelles de tiers et ne seront jamais publiés. Le protocole, lui, est public : le scorer de ce dépôt fonctionne sur n'importe quel jeu au même format.

Rien d'ai4privacy. Nous l'utilisons en comparaison, sa licence interdit la redistribution.

Vérification

Chaque fichier a été contrôlé contre les 597 valeurs identifiantes de nos documents réels (noms complets, adresses électroniques, téléphones, IBAN, URL, sociétés en plusieurs mots). Aucune n'y figure.

Des prénoms isolés comme « Antoine » ou des communes comme « Bordeaux » apparaissent dans les deux, parce que les générateurs puisent dans les mêmes sources publiques INSEE. Ce sont des collisions, pas des copies.

Sources et licence

Jeux sous CC-BY-4.0, code sous MIT.

• BODACC (DILA / data.gouv.fr) et INSEE (SIRENE, prénoms, COG) : Licence Ouverte v2.0
• WikiNER-fr-gold (danrun/WikiNER-fr-gold) : CC-BY-4.0, attribution requise, y compris pour les modèles entraînés dessus
• Wikidata : CC0