File size: 2,493 Bytes
7ba64dc | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 | """Factory a VALEURS REELLES pour l'eval anti-contamination.
Remplace Faker par les pools moissonnes sur BODACC
(data/real_values_pool.json, bench/real/harvest.py) pour les types a
vocabulaire : personnes, societes, adresses, villes, SIREN (et TVA, dont la
cle se calcule sur le SIREN reel, donc valide). Les identifiants purement
generes (IBAN, NIR, CB, telephone...) restent ceux de PiiFactory : leurs
checksums sont la seule chose qui compte, pas leur vocabulaire.
But : mesurer un modele fine-tune sur des VALEURS jamais vues au train
(Faker a des listes finies de noms, partagees train/eval — un modele peut
les memoriser au lieu d'apprendre la reconnaissance en contexte).
"""
import json
from pathlib import Path
from bench.pii.generators import Person, PiiFactory
POOL = Path(__file__).resolve().parents[2] / "data" / "real_values_pool.json"
class RealValuesFactory(PiiFactory):
def __post_init__(self):
super().__post_init__()
pools = json.loads(POOL.read_text(encoding="utf-8"))
self._persons = pools["persons"]
self._first_names = pools.get("first_names_insee", [])
self._companies = pools["companies"]
self._addresses = pools["addresses"]
self._cities = pools["cities"]
self._sirens = pools["sirens"]
def person(self) -> Person:
civ = self.rng.choice(["M.", "Mme", "Me", "Dr"])
p = self.rng.choice(self._persons)
# croisement prenom INSEE x nom BODACC : demultiplie la variete
# reelle (445 personnes moissonnees, 3000 prenoms, produit libre)
if self._first_names and self.rng.random() < 0.6:
return Person(first=self.rng.choice(self._first_names),
last=p["last"], civ=civ)
return Person(first=p["first"], last=p["last"], civ=civ)
def company(self) -> str:
return self.rng.choice(self._companies)
def address(self) -> str:
return self.rng.choice(self._addresses)
def city(self) -> str:
return self.rng.choice(self._cities)
def siren(self) -> str:
raw = self.rng.choice(self._sirens)
if self.rng.random() < 0.5:
return f"{raw[:3]} {raw[3:6]} {raw[6:]}"
return raw
def tva(self) -> str:
from bench.pii.checksums import gen_tva_fr
siren = self.rng.choice(self._sirens)
raw = gen_tva_fr(self.rng, siren=siren)
if self.rng.random() < 0.4:
return f"{raw[:4]} {raw[4:]}"
return raw
|