README.md

---
language: fr
license: cc-by-4.0
task_categories:
  - token-classification
tags:
  - pii
  - anonymization
  - french
  - benchmark
size_categories:
  - 1K<n<10K
---

# Noirci Bench, mesurer la protection des données personnelles en français

Un benchmark de pseudonymisation française, **livré avec son outil de
mesure**. L'intérêt n'est pas le corpus, c'est la métrique : elle change les
conclusions.

Publié par [5000.dev](https://5000.dev). Code du moteur :
[5000dev/noirci](https://huggingface.co/5000dev/noirci).

## La métrique : un nom à moitié masqué est une fuite

Les travaux publiés rapportent en général un F1 par token. Masquer « Jean »
dans « Jean Dupont » y compte comme un demi-succès. Nous comptons ça comme
un **échec** : le nom de famille est parti chez le fournisseur du modèle, et
la personne est identifiable.

Une entité n'est protégée que si **100 % de ses caractères significatifs**
sont masqués. Le score produit deux nombres, jamais un seul :

- le **taux de fuite**, la part d'entités non intégralement masquées
- le **taux de sur-masquage**, la part de texte masqué pour rien

Le second compte autant que le premier. Un outil qui masque tout obtient 0 %
de fuite et rend le document inutilisable.

```bash
python -m harness.score data/bench_v6.jsonl mes_predictions.jsonl
```

## Les jeux

| Fichier | Documents | Entités | Ce qu'il mesure |
|---|---|---|---|
| `bench_v0.jsonl` | 600 | 3 953 | premier jeu métier, 30 % bruité OCR |
| `bench_v1.jsonl` | 1 500 | 10 010 | gabarits jamais vus, généralisation |
| `bench_v2.jsonl` | 1 500 | 10 158 | formats découverts sur documents réels |
| `bench_v3.jsonl` | 1 500 | 10 460 | v2 étendu |
| `bench_v6.jsonl` | 1 500 | 11 776 | le plus complet, 20 types |
| `bench_realvals.jsonl` | 1 000 | 7 046 | **vraies valeurs** BODACC et INSEE dans des gabarits |
| `bench_real_bodacc.jsonl` | 60 | 496 | annonces commerciales authentiques |
| `bench_real_fictif.jsonl` | 20 | 161 | documents rédigés à la main |
| `bench_wikiner.jsonl` | 1 700 | 2 703 | hors domaine, contrôle de non-régression |

Format : un objet JSON par ligne.

```json
{"id": "...", "text": "...", "entities": [{"start": 8, "end": 21, "type": "PERSON", "value": "Claire Baudry"}]}
```

Vingt types : PERSON, COMPANY, ADDRESS, CITY, EMAIL, PHONE, DATE, AMOUNT,
IBAN, SIREN, SIRET, TVA, NIR, CARD, PLATE, URL, IP, REF, SECRET, AGE.

## Un avertissement qui vaut mieux qu'un chiffre flatteur

**Ces jeux synthétiques sont saturés.** Notre pipeline y obtient 0,04 % de
fuite, et ce nombre ne veut plus rien dire. Un corpus généré finit par
mesurer la capacité d'un modèle à reconnaître son propre générateur.

Nos progrès les plus importants ont tous été **invisibles ici** et bien
réels sur de la correspondance authentique. Un exemple : notre détecteur de
montants exigeait le symbole euro après le nombre. Il ratait donc les francs
suisses, les magnitudes (« 30K€ ») et les fourchettes (« 20 à 30 k€ »), soit
54 % de fuite sur documents réels. Le benchmark synthétique n'en montrait
rien, parce que son générateur écrivait toujours les montants de la même
façon.

Utilisez ces jeux comme garde-fou anti-régression, pas comme preuve. La
mesure qui compte se fait sur vos propres documents annotés.

## Ce qui n'est pas ici

**Aucune correspondance réelle.** Nos mesures de référence portent sur 479
documents professionnels annotés à la main, qui contiennent des données
personnelles de tiers et ne seront jamais publiés. Le protocole, lui, est
public : le scorer de ce dépôt fonctionne sur n'importe quel jeu au même
format.

**Rien d'ai4privacy.** Nous l'utilisons en comparaison, sa licence interdit
la redistribution.

## Vérification

Chaque fichier a été contrôlé contre les 597 valeurs identifiantes de nos
documents réels (noms complets, adresses électroniques, téléphones, IBAN,
URL, sociétés en plusieurs mots). Aucune n'y figure.

Des prénoms isolés comme « Antoine » ou des communes comme « Bordeaux »
apparaissent dans les deux, parce que les générateurs puisent dans les mêmes
sources publiques INSEE. Ce sont des collisions, pas des copies.

## Sources et licence

Jeux sous CC-BY-4.0, code sous MIT.

- **BODACC** (DILA / data.gouv.fr) et **INSEE** (SIRENE, prénoms, COG) :
  Licence Ouverte v2.0
- **WikiNER-fr-gold** (`danrun/WikiNER-fr-gold`) : CC-BY-4.0, attribution
  requise, y compris pour les modèles entraînés dessus
- **Wikidata** : CC0