Noirci v14-base : detection de donnees personnelles en francais

CamemBERT reentraine sur de la correspondance professionnelle francaise,
exporte en ONNX int8 (186 Mo, processeur).

Mesure sur documents reels annotes a la main, pipeline complet : 3,96 % de
fuite sur le jeu de validation tenu a l'ecart, 0,00 % sur 1 037 personnes.
Une entite n'est comptee protegee que si 100 % de ses caracteres
significatifs sont masques : un nom a moitie masque est une fuite, pas un
demi-succes.

Le corpus d'entrainement melange du synthetique metier, du WikiNER francais
et de la prose reelle a VALEURS SUBSTITUEES : la structure vient de vrais
documents, chaque entite a ete remplacee par une autre valeur reelle du
meme type tiree de sources publiques. Aucune donnee client ne subsiste.

Point non evident : la forme de surface des societes a ete realignee sur la
distribution observee. Les pools BODACC et SIRENE stockent les raisons
sociales en capitales, d'ou un corpus a 65 % de majuscules contre 17 % dans
la vraie correspondance. Le modele apprenait qu'une societe est un mot en
capitales. Corriger cette seule distribution a fait passer les societes de
9,7 a 6,7 % de fuite.

.gitattributes

@@ -0,0 +1,2 @@
+*.safetensors filter=lfs diff=lfs merge=lfs -text
+*.onnx filter=lfs diff=lfs merge=lfs -text

LICENSE

@@ -0,0 +1,21 @@
+MIT License
+
+Copyright (c) 2026 5000.dev (Loïc Boutet)
+
+Permission is hereby granted, free of charge, to any person obtaining a copy
+of this software and associated documentation files (the "Software"), to deal
+in the Software without restriction, including without limitation the rights
+to use, copy, modify, merge, publish, distribute, sublicense, and/or sell
+copies of the Software, and to permit persons to whom the Software is
+furnished to do so, subject to the following conditions:
+
+The above copyright notice and this permission notice shall be included in all
+copies or substantial portions of the Software.
+
+THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
+IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
+FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE
+AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
+LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM,
+OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
+SOFTWARE.

NOTICE

@@ -0,0 +1,38 @@
+# Sources tierces et attributions
+
+Ce projet redistribue ou dérive des ressources suivantes.
+
+## Données
+
+- **BODACC** (annonces commerciales, DILA/data.gouv.fr) — Licence Ouverte
+  v2.0. Utilisé pour : jeux d'évaluation réels, pools de valeurs réelles.
+- **INSEE base SIRENE** (StockUniteLegale) — Licence Ouverte v2.0.
+  Utilisé pour : gazetteer des dénominations d'entreprises.
+- **INSEE fichier des prénoms** (nat2022) — Licence Ouverte v2.0.
+- **geo.api.gouv.fr / COG** (communes) — Licence Ouverte v2.0.
+- **WikiNER-fr-gold** (danrun/WikiNER-fr-gold, HuggingFace) —
+  **CC-BY-4.0**. Utilisé pour : jeu d'éval hors domaine et tranche du
+  corpus d'entraînement. Attribution requise, y compris pour les modèles
+  entraînés dessus.
+- **Wikidata** (marques et éditeurs de logiciels) — CC0.
+- **an-array-of-french-words** — MIT. Utilisé pour : filtre lexical du
+  gazetteer.
+- **ai4privacy/pii-masking-200k** — licence restrictive (usage commercial
+  sur accord écrit). Utilisé UNIQUEMENT en évaluation comparative, JAMAIS
+  en entraînement. Non redistribué.
+
+## Modèles
+
+- **cmarkea/distilcamembert-base** — MIT. Socle de nos fine-tunes.
+- **almanach/camembert-base** — MIT. Socle de la variante 110M.
+- **Jean-Baptiste/camembert-ner** — MIT. Moteur PERSON/CITY du pipeline.
+- **Anonym-IA/V2-camembert-ner-pii-french** — MIT. Filet du pipeline
+  serveur.
+
+## Ce qui N'EST PAS publié
+
+- Toute donnée réelle de correspondance (`data/private/`) : données
+  personnelles de tiers, jamais versionnées ni redistribuées.
+- Les fichiers de modèles et gazetteers volumineux : régénérables via les
+  manifests (`data/*.manifest.json`) qui contiennent la commande exacte et
+  le sha256 de contrôle.

README.md

@@ -0,0 +1,106 @@
+---
+language: fr
+license: mit
+library_name: onnx
+tags:
+  - token-classification
+  - pii
+  - anonymization
+  - french
+  - camembert
+base_model: almanach/camembert-base
+---
+
+# Noirci — détection de données personnelles en français
+
+Modèle de reconnaissance d'entités entraîné pour **pseudonymiser de la
+correspondance professionnelle française** avant de l'envoyer à un LLM.
+Exporté en ONNX quantifié int8 : 186 Mo, tourne sur CPU.
+
+Développé par [5000.dev](https://5000.dev). Code et benchmark :
+https://github.com/5000dev/noirci
+
+## La métrique compte autant que le modèle
+
+Une entité n'est protégée que si **100 % de ses caractères significatifs
+sont masqués**. Masquer « Jean » dans « Jean Dupont » est compté comme une
+fuite, pas comme un demi-succès : le nom de famille est parti chez le
+fournisseur du LLM. Les scores F1 par token, usuels dans la littérature,
+récompensent ces demi-succès et surestiment fortement la protection réelle.
+
+On mesure donc deux choses séparément : le **taux de fuite** (l'entité
+a-t-elle été entièrement masquée) et le **taux de sur-masquage** (combien de
+texte inutile a été masqué au passage).
+
+## Résultats
+
+Sur de la correspondance professionnelle française authentique, annotée à la
+main. Le modèle n'est qu'une couche du pipeline complet ; les chiffres
+ci-dessous sont ceux du pipeline `lite2`.
+
+| Jeu | Documents | Entités | Fuite | Sur-masquage |
+|---|---|---|---|---|
+| Validation (tenu à l'écart) | 72 | 555 | 3,96 % | 17,7 % |
+| Entraînement | 407 | 3 576 | 3,30 % | 11,2 % |
+| Aveugle (annoté avant exécution) | 7 | 55 | 5,45 % | 8,0 % |
+
+Par type sur le jeu le plus large : PERSON 0,00 %, URL 0,60 %, CITY 1,47 %,
+ADDRESS 1,74 %, PHONE 2,59 %, DATE 3,58 %, AMOUNT 4,58 %, COMPANY 5,70 %.
+Les identifiants à somme de contrôle (SIREN, SIRET, TVA, IBAN, NIR) sont à
+0,00 % : ils sont traités par la couche déterministe, pas par le modèle.
+
+## Ce que le modèle a appris, et pourquoi
+
+Le corpus d'entraînement mélange du synthétique métier (juridique, compta,
+RH, immobilier, administratif), du WikiNER français, et de la **prose réelle
+à valeurs substituées** : de vrais documents dont chaque entité a été
+remplacée par une autre valeur réelle du même type, tirée de sources
+publiques (BODACC, INSEE). La structure vient du réel, aucune donnée client
+ne subsiste.
+
+Un point non évident : la **forme de surface** des sociétés a été réalignée
+sur la distribution observée. Les pools BODACC et SIRENE stockent les
+raisons sociales en capitales, ce qui donnait un corpus à 65 % de
+majuscules contre 17 % dans la vraie correspondance. Le modèle apprenait
+qu'« une société, c'est un mot en capitales » et ratait 40 % des marques
+écrites normalement, en simple capitale initiale. Corriger cette seule
+distribution a fait passer les sociétés de 9,7 % à 6,7 % de fuite.
+
+## Contenu du dépôt
+
+| Fichier | |
+|---|---|
+| `model.safetensors` | les poids en float32, pour réentraîner ou réexporter |
+| `onnx/model_int8.onnx` | l'export quantifié, 186 Mo, tourne sur processeur |
+| `tokenizer.json` | **sans troncature**. Le fichier sauvé après entraînement en embarquait une, silencieuse, à 192 tokens : la fin de tout document long n'était jamais analysée. Si vous repartez d'un autre export, vérifiez ce point. |
+
+## Utilisation
+
+Le modèle seul n'est pas suffisant. Il est conçu comme une couche d'un
+pipeline qui comprend aussi des regex à checksums, des gazetteers (communes
+INSEE, dénominations SIRENE) et une passe de propagation document entier.
+Voir le dépôt GitHub.
+
+```python
+from bench.detect.run import DETECTORS
+spans = DETECTORS["lite2"]("Bonjour, je suis Claire Baudry de la Verrerie Delaunay.")
+```
+
+## Limites
+
+- **Français uniquement.** Quelques formats anglo-saxons sont couverts parce
+  qu'ils apparaissent dans de la correspondance française, mais ce n'est pas
+  un modèle multilingue.
+- **Le sur-masquage est réel**, entre 8 et 15 %. Environ un mot masqué sur
+  sept l'est inutilement.
+- **Les benchmarks synthétiques sont saturés** (0,04 % de fuite) et ne
+  discriminent plus rien. Ne jugez pas ce modèle dessus.
+- **Le périmètre exclut les plateformes grand public** (Zoom, Excel, Stripe,
+  Figma). Ce sont des noms de produits, pas des données personnelles, et les
+  masquer dégrade la réponse du LLM sans rien protéger.
+
+## Licence et attributions
+
+MIT. Modèle de base : `almanach/camembert-base` (MIT). Données
+d'entraînement dérivées de WikiNER (CC-BY), BODACC et INSEE SIRENE (Licence
+Ouverte), Wikidata (CC0). Voir `NOTICE` dans le dépôt.

config.json

@@ -0,0 +1,143 @@
+{
+  "add_cross_attention": false,
+  "architectures": [
+    "CamembertForTokenClassification"
+  ],
+  "attention_probs_dropout_prob": 0.1,
+  "bos_token_id": 5,
+  "classifier_dropout": null,
+  "dtype": "float32",
+  "eos_token_id": 6,
+  "hidden_act": "gelu",
+  "hidden_dropout_prob": 0.1,
+  "hidden_size": 768,
+  "id2label": {
+    "0": "O",
+    "1": "B-PERSON",
+    "2": "I-PERSON",
+    "3": "B-COMPANY",
+    "4": "I-COMPANY",
+    "5": "B-ADDRESS",
+    "6": "I-ADDRESS",
+    "7": "B-CITY",
+    "8": "I-CITY",
+    "9": "B-EMAIL",
+    "10": "I-EMAIL",
+    "11": "B-PHONE",
+    "12": "I-PHONE",
+    "13": "B-DATE",
+    "14": "I-DATE",
+    "15": "B-DATE_BIRTH",
+    "16": "I-DATE_BIRTH",
+    "17": "B-IBAN",
+    "18": "I-IBAN",
+    "19": "B-NIR",
+    "20": "I-NIR",
+    "21": "B-SIREN",
+    "22": "I-SIREN",
+    "23": "B-SIRET",
+    "24": "I-SIRET",
+    "25": "B-TVA",
+    "26": "I-TVA",
+    "27": "B-CARD",
+    "28": "I-CARD",
+    "29": "B-PLATE",
+    "30": "I-PLATE",
+    "31": "B-RG",
+    "32": "I-RG",
+    "33": "B-CADASTRE",
+    "34": "I-CADASTRE",
+    "35": "B-IP",
+    "36": "I-IP",
+    "37": "B-AMOUNT",
+    "38": "I-AMOUNT",
+    "39": "B-REF",
+    "40": "I-REF",
+    "41": "B-URL",
+    "42": "I-URL",
+    "43": "B-SECRET",
+    "44": "I-SECRET",
+    "45": "B-USERAGENT",
+    "46": "I-USERAGENT",
+    "47": "B-MAC",
+    "48": "I-MAC",
+    "49": "B-IPV6",
+    "50": "I-IPV6",
+    "51": "B-AGE",
+    "52": "I-AGE",
+    "53": "B-ACCOUNT",
+    "54": "I-ACCOUNT"
+  },
+  "initializer_range": 0.02,
+  "intermediate_size": 3072,
+  "is_decoder": false,
+  "label2id": {
+    "B-ACCOUNT": 53,
+    "B-ADDRESS": 5,
+    "B-AGE": 51,
+    "B-AMOUNT": 37,
+    "B-CADASTRE": 33,
+    "B-CARD": 27,
+    "B-CITY": 7,
+    "B-COMPANY": 3,
+    "B-DATE": 13,
+    "B-DATE_BIRTH": 15,
+    "B-EMAIL": 9,
+    "B-IBAN": 17,
+    "B-IP": 35,
+    "B-IPV6": 49,
+    "B-MAC": 47,
+    "B-NIR": 19,
+    "B-PERSON": 1,
+    "B-PHONE": 11,
+    "B-PLATE": 29,
+    "B-REF": 39,
+    "B-RG": 31,
+    "B-SECRET": 43,
+    "B-SIREN": 21,
+    "B-SIRET": 23,
+    "B-TVA": 25,
+    "B-URL": 41,
+    "B-USERAGENT": 45,
+    "I-ACCOUNT": 54,
+    "I-ADDRESS": 6,
+    "I-AGE": 52,
+    "I-AMOUNT": 38,
+    "I-CADASTRE": 34,
+    "I-CARD": 28,
+    "I-CITY": 8,
+    "I-COMPANY": 4,
+    "I-DATE": 14,
+    "I-DATE_BIRTH": 16,
+    "I-EMAIL": 10,
+    "I-IBAN": 18,
+    "I-IP": 36,
+    "I-IPV6": 50,
+    "I-MAC": 48,
+    "I-NIR": 20,
+    "I-PERSON": 2,
+    "I-PHONE": 12,
+    "I-PLATE": 30,
+    "I-REF": 40,
+    "I-RG": 32,
+    "I-SECRET": 44,
+    "I-SIREN": 22,
+    "I-SIRET": 24,
+    "I-TVA": 26,
+    "I-URL": 42,
+    "I-USERAGENT": 46,
+    "O": 0
+  },
+  "layer_norm_eps": 1e-05,
+  "max_position_embeddings": 514,
+  "model_type": "camembert",
+  "num_attention_heads": 12,
+  "num_hidden_layers": 12,
+  "output_past": true,
+  "pad_token_id": 1,
+  "tie_word_embeddings": true,
+  "transformers_version": "5.14.1",
+  "type_vocab_size": 1,
+  "use_cache": true,
+  "vocab_size": 32005
+}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:8722f24722ad4d99f41f86c59a26db61d5231cdfb075d20d6e11f9d8b1b4c866
+size 440318556

onnx/config.json

@@ -0,0 +1,141 @@
+{
+  "architectures": [
+    "CamembertForTokenClassification"
+  ],
+  "attention_probs_dropout_prob": 0.1,
+  "bos_token_id": 5,
+  "classifier_dropout": null,
+  "dtype": "float32",
+  "eos_token_id": 6,
+  "hidden_act": "gelu",
+  "hidden_dropout_prob": 0.1,
+  "hidden_size": 768,
+  "id2label": {
+    "0": "O",
+    "1": "B-PERSON",
+    "2": "I-PERSON",
+    "3": "B-COMPANY",
+    "4": "I-COMPANY",
+    "5": "B-ADDRESS",
+    "6": "I-ADDRESS",
+    "7": "B-CITY",
+    "8": "I-CITY",
+    "9": "B-EMAIL",
+    "10": "I-EMAIL",
+    "11": "B-PHONE",
+    "12": "I-PHONE",
+    "13": "B-DATE",
+    "14": "I-DATE",
+    "15": "B-DATE_BIRTH",
+    "16": "I-DATE_BIRTH",
+    "17": "B-IBAN",
+    "18": "I-IBAN",
+    "19": "B-NIR",
+    "20": "I-NIR",
+    "21": "B-SIREN",
+    "22": "I-SIREN",
+    "23": "B-SIRET",
+    "24": "I-SIRET",
+    "25": "B-TVA",
+    "26": "I-TVA",
+    "27": "B-CARD",
+    "28": "I-CARD",
+    "29": "B-PLATE",
+    "30": "I-PLATE",
+    "31": "B-RG",
+    "32": "I-RG",
+    "33": "B-CADASTRE",
+    "34": "I-CADASTRE",
+    "35": "B-IP",
+    "36": "I-IP",
+    "37": "B-AMOUNT",
+    "38": "I-AMOUNT",
+    "39": "B-REF",
+    "40": "I-REF",
+    "41": "B-URL",
+    "42": "I-URL",
+    "43": "B-SECRET",
+    "44": "I-SECRET",
+    "45": "B-USERAGENT",
+    "46": "I-USERAGENT",
+    "47": "B-MAC",
+    "48": "I-MAC",
+    "49": "B-IPV6",
+    "50": "I-IPV6",
+    "51": "B-AGE",
+    "52": "I-AGE",
+    "53": "B-ACCOUNT",
+    "54": "I-ACCOUNT"
+  },
+  "initializer_range": 0.02,
+  "intermediate_size": 3072,
+  "label2id": {
+    "B-ACCOUNT": 53,
+    "B-ADDRESS": 5,
+    "B-AGE": 51,
+    "B-AMOUNT": 37,
+    "B-CADASTRE": 33,
+    "B-CARD": 27,
+    "B-CITY": 7,
+    "B-COMPANY": 3,
+    "B-DATE": 13,
+    "B-DATE_BIRTH": 15,
+    "B-EMAIL": 9,
+    "B-IBAN": 17,
+    "B-IP": 35,
+    "B-IPV6": 49,
+    "B-MAC": 47,
+    "B-NIR": 19,
+    "B-PERSON": 1,
+    "B-PHONE": 11,
+    "B-PLATE": 29,
+    "B-REF": 39,
+    "B-RG": 31,
+    "B-SECRET": 43,
+    "B-SIREN": 21,
+    "B-SIRET": 23,
+    "B-TVA": 25,
+    "B-URL": 41,
+    "B-USERAGENT": 45,
+    "I-ACCOUNT": 54,
+    "I-ADDRESS": 6,
+    "I-AGE": 52,
+    "I-AMOUNT": 38,
+    "I-CADASTRE": 34,
+    "I-CARD": 28,
+    "I-CITY": 8,
+    "I-COMPANY": 4,
+    "I-DATE": 14,
+    "I-DATE_BIRTH": 16,
+    "I-EMAIL": 10,
+    "I-IBAN": 18,
+    "I-IP": 36,
+    "I-IPV6": 50,
+    "I-MAC": 48,
+    "I-NIR": 20,
+    "I-PERSON": 2,
+    "I-PHONE": 12,
+    "I-PLATE": 30,
+    "I-REF": 40,
+    "I-RG": 32,
+    "I-SECRET": 44,
+    "I-SIREN": 22,
+    "I-SIRET": 24,
+    "I-TVA": 26,
+    "I-URL": 42,
+    "I-USERAGENT": 46,
+    "O": 0
+  },
+  "layer_norm_eps": 1e-05,
+  "max_position_embeddings": 514,
+  "model_type": "camembert",
+  "num_attention_heads": 12,
+  "num_hidden_layers": 12,
+  "output_past": true,
+  "pad_token_id": 1,
+  "position_embedding_type": "absolute",
+  "transformers_version": "4.57.6",
+  "type_vocab_size": 1,
+  "use_cache": true,
+  "vocab_size": 32005
+}

onnx/model_int8.onnx

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f44a1b00155e68c40f9be634f8fa452c016c87226f65fb53318afbda4f754223
+size 186231335

tokenizer_config.json

@@ -0,0 +1,20 @@
+{
+  "add_prefix_space": true,
+  "backend": "tokenizers",
+  "bos_token": "<s>",
+  "cls_token": "<s>",
+  "eos_token": "</s>",
+  "extra_special_tokens": [
+    "<s>NOTUSED",
+    "</s>NOTUSED",
+    "<unk>NOTUSED"
+  ],
+  "is_local": false,
+  "local_files_only": false,
+  "mask_token": "<mask>",
+  "pad_token": "<pad>",
+  "sep_token": "</s>",
+  "tokenizer_class": "CamembertTokenizer",
+  "unk_token": "<unk>",
+  "model_max_length": 512
+}