"""Factory a VALEURS REELLES pour l'eval anti-contamination. Remplace Faker par les pools moissonnes sur BODACC (data/real_values_pool.json, bench/real/harvest.py) pour les types a vocabulaire : personnes, societes, adresses, villes, SIREN (et TVA, dont la cle se calcule sur le SIREN reel, donc valide). Les identifiants purement generes (IBAN, NIR, CB, telephone...) restent ceux de PiiFactory : leurs checksums sont la seule chose qui compte, pas leur vocabulaire. But : mesurer un modele fine-tune sur des VALEURS jamais vues au train (Faker a des listes finies de noms, partagees train/eval — un modele peut les memoriser au lieu d'apprendre la reconnaissance en contexte). """ import json from pathlib import Path from bench.pii.generators import Person, PiiFactory POOL = Path(__file__).resolve().parents[2] / "data" / "real_values_pool.json" class RealValuesFactory(PiiFactory): def __post_init__(self): super().__post_init__() pools = json.loads(POOL.read_text(encoding="utf-8")) self._persons = pools["persons"] self._first_names = pools.get("first_names_insee", []) self._companies = pools["companies"] self._addresses = pools["addresses"] self._cities = pools["cities"] self._sirens = pools["sirens"] def person(self) -> Person: civ = self.rng.choice(["M.", "Mme", "Me", "Dr"]) p = self.rng.choice(self._persons) # croisement prenom INSEE x nom BODACC : demultiplie la variete # reelle (445 personnes moissonnees, 3000 prenoms, produit libre) if self._first_names and self.rng.random() < 0.6: return Person(first=self.rng.choice(self._first_names), last=p["last"], civ=civ) return Person(first=p["first"], last=p["last"], civ=civ) def company(self) -> str: return self.rng.choice(self._companies) def address(self) -> str: return self.rng.choice(self._addresses) def city(self) -> str: return self.rng.choice(self._cities) def siren(self) -> str: raw = self.rng.choice(self._sirens) if self.rng.random() < 0.5: return f"{raw[:3]} {raw[3:6]} {raw[6:]}" return raw def tva(self) -> str: from bench.pii.checksums import gen_tva_fr siren = self.rng.choice(self._sirens) raw = gen_tva_fr(self.rng, siren=siren) if self.rng.random() < 0.4: return f"{raw[:4]} {raw[4:]}" return raw