| """Factory a VALEURS REELLES pour l'eval anti-contamination. |
| |
| Remplace Faker par les pools moissonnes sur BODACC |
| (data/real_values_pool.json, bench/real/harvest.py) pour les types a |
| vocabulaire : personnes, societes, adresses, villes, SIREN (et TVA, dont la |
| cle se calcule sur le SIREN reel, donc valide). Les identifiants purement |
| generes (IBAN, NIR, CB, telephone...) restent ceux de PiiFactory : leurs |
| checksums sont la seule chose qui compte, pas leur vocabulaire. |
| |
| But : mesurer un modele fine-tune sur des VALEURS jamais vues au train |
| (Faker a des listes finies de noms, partagees train/eval — un modele peut |
| les memoriser au lieu d'apprendre la reconnaissance en contexte). |
| """ |
|
|
| import json |
| from pathlib import Path |
|
|
| from bench.pii.generators import Person, PiiFactory |
|
|
| POOL = Path(__file__).resolve().parents[2] / "data" / "real_values_pool.json" |
|
|
|
|
| class RealValuesFactory(PiiFactory): |
| def __post_init__(self): |
| super().__post_init__() |
| pools = json.loads(POOL.read_text(encoding="utf-8")) |
| self._persons = pools["persons"] |
| self._first_names = pools.get("first_names_insee", []) |
| self._companies = pools["companies"] |
| self._addresses = pools["addresses"] |
| self._cities = pools["cities"] |
| self._sirens = pools["sirens"] |
|
|
| def person(self) -> Person: |
| civ = self.rng.choice(["M.", "Mme", "Me", "Dr"]) |
| p = self.rng.choice(self._persons) |
| |
| |
| if self._first_names and self.rng.random() < 0.6: |
| return Person(first=self.rng.choice(self._first_names), |
| last=p["last"], civ=civ) |
| return Person(first=p["first"], last=p["last"], civ=civ) |
|
|
| def company(self) -> str: |
| return self.rng.choice(self._companies) |
|
|
| def address(self) -> str: |
| return self.rng.choice(self._addresses) |
|
|
| def city(self) -> str: |
| return self.rng.choice(self._cities) |
|
|
| def siren(self) -> str: |
| raw = self.rng.choice(self._sirens) |
| if self.rng.random() < 0.5: |
| return f"{raw[:3]} {raw[3:6]} {raw[6:]}" |
| return raw |
|
|
| def tva(self) -> str: |
| from bench.pii.checksums import gen_tva_fr |
|
|
| siren = self.rng.choice(self._sirens) |
| raw = gen_tva_fr(self.rng, siren=siren) |
| if self.rng.random() < 0.4: |
| return f"{raw[:4]} {raw[4:]}" |
| return raw |
|
|
