noirci-bench / README.md
5000.dev
Noirci Bench : benchmark PII francais, avec son outil de mesure
7ba64dc
|
Raw
History Blame Contribute Delete
4.52 kB
metadata
language: fr
license: cc-by-4.0
task_categories:
  - token-classification
tags:
  - pii
  - anonymization
  - french
  - benchmark
size_categories:
  - 1K<n<10K

Noirci Bench, mesurer la protection des données personnelles en français

Un benchmark de pseudonymisation française, livré avec son outil de mesure. L'intérêt n'est pas le corpus, c'est la métrique : elle change les conclusions.

Publié par 5000.dev. Code du moteur : 5000dev/noirci.

La métrique : un nom à moitié masqué est une fuite

Les travaux publiés rapportent en général un F1 par token. Masquer « Jean » dans « Jean Dupont » y compte comme un demi-succès. Nous comptons ça comme un échec : le nom de famille est parti chez le fournisseur du modèle, et la personne est identifiable.

Une entité n'est protégée que si 100 % de ses caractères significatifs sont masqués. Le score produit deux nombres, jamais un seul :

  • le taux de fuite, la part d'entités non intégralement masquées
  • le taux de sur-masquage, la part de texte masqué pour rien

Le second compte autant que le premier. Un outil qui masque tout obtient 0 % de fuite et rend le document inutilisable.

python -m harness.score data/bench_v6.jsonl mes_predictions.jsonl

Les jeux

Fichier Documents Entités Ce qu'il mesure
bench_v0.jsonl 600 3 953 premier jeu métier, 30 % bruité OCR
bench_v1.jsonl 1 500 10 010 gabarits jamais vus, généralisation
bench_v2.jsonl 1 500 10 158 formats découverts sur documents réels
bench_v3.jsonl 1 500 10 460 v2 étendu
bench_v6.jsonl 1 500 11 776 le plus complet, 20 types
bench_realvals.jsonl 1 000 7 046 vraies valeurs BODACC et INSEE dans des gabarits
bench_real_bodacc.jsonl 60 496 annonces commerciales authentiques
bench_real_fictif.jsonl 20 161 documents rédigés à la main
bench_wikiner.jsonl 1 700 2 703 hors domaine, contrôle de non-régression

Format : un objet JSON par ligne.

{"id": "...", "text": "...", "entities": [{"start": 8, "end": 21, "type": "PERSON", "value": "Claire Baudry"}]}

Vingt types : PERSON, COMPANY, ADDRESS, CITY, EMAIL, PHONE, DATE, AMOUNT, IBAN, SIREN, SIRET, TVA, NIR, CARD, PLATE, URL, IP, REF, SECRET, AGE.

Un avertissement qui vaut mieux qu'un chiffre flatteur

Ces jeux synthétiques sont saturés. Notre pipeline y obtient 0,04 % de fuite, et ce nombre ne veut plus rien dire. Un corpus généré finit par mesurer la capacité d'un modèle à reconnaître son propre générateur.

Nos progrès les plus importants ont tous été invisibles ici et bien réels sur de la correspondance authentique. Un exemple : notre détecteur de montants exigeait le symbole euro après le nombre. Il ratait donc les francs suisses, les magnitudes (« 30K€ ») et les fourchettes (« 20 à 30 k€ »), soit 54 % de fuite sur documents réels. Le benchmark synthétique n'en montrait rien, parce que son générateur écrivait toujours les montants de la même façon.

Utilisez ces jeux comme garde-fou anti-régression, pas comme preuve. La mesure qui compte se fait sur vos propres documents annotés.

Ce qui n'est pas ici

Aucune correspondance réelle. Nos mesures de référence portent sur 479 documents professionnels annotés à la main, qui contiennent des données personnelles de tiers et ne seront jamais publiés. Le protocole, lui, est public : le scorer de ce dépôt fonctionne sur n'importe quel jeu au même format.

Rien d'ai4privacy. Nous l'utilisons en comparaison, sa licence interdit la redistribution.

Vérification

Chaque fichier a été contrôlé contre les 597 valeurs identifiantes de nos documents réels (noms complets, adresses électroniques, téléphones, IBAN, URL, sociétés en plusieurs mots). Aucune n'y figure.

Des prénoms isolés comme « Antoine » ou des communes comme « Bordeaux » apparaissent dans les deux, parce que les générateurs puisent dans les mêmes sources publiques INSEE. Ce sont des collisions, pas des copies.

Sources et licence

Jeux sous CC-BY-4.0, code sous MIT.

  • BODACC (DILA / data.gouv.fr) et INSEE (SIRENE, prénoms, COG) : Licence Ouverte v2.0
  • WikiNER-fr-gold (danrun/WikiNER-fr-gold) : CC-BY-4.0, attribution requise, y compris pour les modèles entraînés dessus
  • Wikidata : CC0