noirci-bench / synth /templates.py
5000.dev
Noirci Bench : benchmark PII francais, avec son outil de mesure
7ba64dc
Raw
History Blame Contribute Delete
18.4 kB
"""Templates metier pour le corpus synthetique.
Syntaxe des slots : {nom_du_slot}. Le prefixe du nom donne le type de PII
(person, company, iban...). Un suffixe numerique identifie l'entite au sein du
segment (person1 reapparait = meme personne). Le suffixe `_v` demande une
variante de surface ("M. Dupont", "DUPONT", "Dupont" seul) de la MEME
personne : c'est le piege n°1 du juridique, il doit etre dans le corpus.
{refN} produit un numero de dossier/facture NON etiquete (distracteur).
Deux pools DISJOINTS :
- TEMPLATES_TRAIN : generation du corpus d'entrainement (fine-tune futur)
- TEMPLATES_EVAL : jeux d'evaluation (bench_v1+). Jamais utilises en train,
sinon l'eval mesure la memorisation des gabarits, pas la generalisation.
NEGATIVES : segments sans aucune PII (mesure des faux positifs).
Types de documents tires de l'inventaire des apps 5000.dev (analyse §4).
"""
TEMPLATES_TRAIN = {
"juridique": [
"Par assignation du {date1}, {person1}, demeurant {address1} à "
"{city1}, a saisi le tribunal judiciaire. L'affaire est enrôlée sous le "
"n° RG {rg1}. {person1_v} sollicite la condamnation de la société "
"{company1} au paiement de {amount1}.",
"Vu les conclusions déposées par Me {person1} pour le compte de "
"{person2}, né le {date_birth1}, la société {company1} (SIREN "
"{siren1}) conteste la créance de {amount1}. {person2_v} demande "
"l'exécution provisoire. Dossier RG n° {rg1}.",
"Le bien situé {address1}, cadastré {cadastre1}, appartient à "
"{person1} et {person2}. Il a été acquis suivant acte reçu par Me "
"{person3}, notaire à {city1}, le {date1}. {person1_v} en "
"détient l'usufruit.",
"TRIBUNAL JUDICIAIRE DE {city1} — Jugement du {date1}, RG "
"{rg1}. Entre : {person1}, comparant en personne, et {company1}, "
"représentée par Me {person2}. Le tribunal condamne {company1} à "
"verser à {person1_v} la somme de {amount1}.",
"Maître, je fais suite à votre courrier concernant le dossier de "
"{person1} contre {company1}. Mon client, joignable au {phone1} ou "
"par mail à {email1}, conteste l'intégralité des demandes. Le "
"véhicule immatriculé {plate1} n'a jamais été impliqué.",
"PROCÈS-VERBAL — Le {date1}, à {city1}, l'agent a constaté que le "
"véhicule {plate1}, appartenant à {person1} ({address1}), était "
"stationné en infraction. Amende forfaitaire : {amount1}. "
"{person1_v} dispose de 45 jours pour contester.",
"Conclusions en défense pour {company1}, SIRET {siret1}, contre "
"{person1}. {person1_v}, qui se domicilie {address1} à {city1}, "
"réclame {amount1} au titre du préjudice. Notre cliente conteste. "
"Affaire RG {rg1}, audience du {date1}.",
"Testament olographe de {person1}, né le {date_birth1} à {city1}. "
"Je lègue à {person2} la parcelle {cadastre1} sise à {city2}, et à "
"{person3} la somme de {amount1} déposée sur le compte {iban1}.",
"Ordonnance de référé du {date1} — Le juge, saisi par Me {person1} "
"pour {company1}, ordonne à {person2} de libérer les lieux sis "
"{address1}. Astreinte : {amount1} par jour de retard. {person2_v} "
"peut faire appel. RG {rg1}.",
"Courrier à Mme la Greffière — Dans le dossier {person1} c/ "
"{person2} (RG {rg1}), je sollicite le renvoi de l'audience du "
"{date1}. Ma cliente, {person1_v}, est convoquée le même jour à "
"{city1}. Contact au cabinet : {phone1}.",
],
"compta": [
"FACTURE n° 2026-{ref1} — {company1}, {address1}, {city1}. SIRET "
"{siret1}, TVA intracommunautaire {tva1}. Total TTC : {amount1}. "
"Règlement par virement sur le compte {iban1}.",
"Bonjour, la facture de {amount1} émise par {company1} reste "
"impayée. Merci de régulariser sous huitaine sur l'IBAN {iban1}. À "
"défaut, le dossier sera transmis à notre conseil, Me {person1} "
"({email1}).",
"Relevé du {date1} — le paiement de {amount1} par carte "
"{card1} a été refusé. Le prélèvement sera représenté sur le compte "
"{iban1}. Contact : {phone1}.",
"La société {company1}, immatriculée sous le SIREN {siren1}, dont le "
"siège est {address1} à {city1}, déclare un chiffre d'affaires de "
"{amount1}. Expert-comptable : {person1}, tél. {phone1}.",
"AVOIR n° {ref1} du {date1} — {company1} (TVA {tva1}) crédite "
"{company2} de {amount1} suite au retour de marchandises. Le "
"remboursement interviendra sur le compte {iban1} sous 30 jours.",
"Note de frais — {person1}, déplacement à {city1} le {date1}. "
"Total : {amount1}, remboursé par virement sur {iban1}. Justificatifs "
"transmis à {email1}.",
"Rapprochement bancaire du {date1} : écart de {amount1} sur le "
"compte {iban1}. Écriture n° {ref1} pointée avec la facture "
"{company1}. Voir avec {person1} au {phone1}.",
"DEVIS n° {ref1} — {company1}, {address1}, {city1}, SIREN {siren1}. "
"À l'attention de {person1}. Montant total : {amount1} TTC, acompte "
"de {amount2} à la commande par carte ou virement ({iban1}). Devis "
"valable jusqu'au {date1}.",
"L'URSSAF réclame à {company1} (SIRET {siret1}) un rappel de "
"cotisations de {amount1} au titre de l'exercice clos. Le gérant, "
"{person1}, conteste ; échéancier demandé le {date1}. Réf. dossier "
"{ref1}.",
# style annonce legale : boilerplate NON etiquete (forme juridique,
# greffe) autour des vraies PII — mesure le sur-masquage (remontee
# reelle BODACC 2026-07-28)
"Greffe du Tribunal de Commerce de {city1}. Immatriculation au RCS. "
"Dénomination : {company1}. Forme : société à responsabilité "
"limitée. Capital : {amount1}. Siège social : {address1}, {city2}. "
"RCS {siren1}. Gérant : {person1_v}.",
],
"rh": [
"CONTRAT DE TRAVAIL — Entre {company1} (SIRET {siret1}) et "
"{person1}, né(e) le {date_birth1} à {city1}, demeurant {address1}, "
"n° de sécurité sociale {nir1}. Rémunération mensuelle brute : "
"{amount1}. {person1_v} prend ses fonctions le {date2}.",
"Bulletin de paie — {person1}, matricule {ref1}, NIR {nir1}. "
"Employeur : {company1}, {city1}. Net à payer : {amount1}, viré sur "
"le compte {iban1}.",
"CV — {person1}, {address1}, {city1}. Tél : {phone1}, email : "
"{email1}. Né le {date_birth1}. Dernier poste chez {company1}.",
"Objet : rupture conventionnelle de {person1}. La DREETS a validé la "
"convention le {date1}. L'indemnité de {amount1} sera versée "
"sur le compte habituel de {person1_v}. Copie à {email1}.",
"Arrêt de travail — {person1}, NIR {nir1}, salarié de {company1}, "
"est arrêté du {date1} au {date2}. Le médecin traitant exerce à "
"{city1}. Subrogation : IJSS versées à l'employeur (SIRET {siret1}).",
"Attestation employeur — {company1} certifie que {person1}, né le "
"{date_birth1}, est employé depuis le {date1} en qualité de cadre. "
"Salaire mensuel : {amount1}. Fait à {city1}, contact RH : "
"{email1}.",
"Convocation à entretien préalable — {person1_v} est convoqué le "
"{date1} à {city1}. {person1} peut se faire assister. Courrier "
"recommandé n° {ref1}, copie au CSE et à {email1}.",
"Solde de tout compte — {person1}, matricule {ref1}, quitte "
"{company1} le {date1}. Indemnités : {amount1}. Virement sur "
"{iban1}. Documents remis en main propre à {person1_v}.",
],
"immobilier": [
"BAIL D'HABITATION — Bailleur : {person1}, {address1}, {city1}. "
"Locataire : {person2}, né le {date_birth1}. Loyer mensuel {amount1} "
"payable par virement à {person1_v} sur l'IBAN {iban1}. Dépôt de "
"garantie : {amount2}.",
"L'état des lieux du bien sis {address1} à {city1} (cadastre "
"{cadastre1}) a été réalisé en présence de {person1} et de l'agence "
"{company1}. Les clés ont été remises à {person1_v}, joignable au "
"{phone1}.",
"COMPROMIS DE VENTE — {person1} et {person2} vendent à {person3} le "
"bien cadastré {cadastre1} à {city1}, au prix de {amount1}. "
"Séquestre de {amount2} versé chez Me {person4}, notaire. Signature "
"de l'acte authentique prévue le {date1}.",
"Assemblée générale du {date1} — copropriété {address1}, {city1}. "
"Le syndic {company1} appelle une provision de {amount1} par lot. "
"Le président de séance, {person1}, est joignable à {email1}.",
"Quittance de loyer — {person1} atteste que {person2} a réglé "
"{amount1} pour le logement situé {address1} à {city1}, période du "
"{date1}. Paiement reçu par virement depuis le compte {iban1}.",
],
"email_client": [
"Bonjour {person1}, votre commande est expédiée à {address1}, "
"{city1}. Pour toute question, répondez à ce mail ou appelez le "
"{phone1}. Votre numéro client reste inchangé.",
"Bonjour, je n'arrive pas à me connecter avec {email1}. Pouvez-vous "
"me rappeler au {phone1} ? Cordialement, {person1}, {company1}.",
"Suite à notre échange, je vous confirme le RIB : {iban1}. La "
"connexion depuis l'adresse IP {ip1} a bien été vérifiée. Bien à "
"vous, {person1}.",
"Madame, Monsieur, je souhaite résilier mon abonnement souscrit le "
"{date1}. Mes références : {person1}, {address1}, {city1}, "
"carte utilisée : {card1}. Merci de confirmer par retour à "
"{email1}.",
"Salut, c'est {person1}. Le livreur est passé au {address1} mais "
"j'étais à {city1}. Tu peux le rappeler au {phone1} ? Sinon mail à "
"{email1}. Merci !",
"Objet : contestation de prélèvement — Un débit de {amount1} du "
"{date1} apparaît sur mon compte {iban1} au profit de {company1}. "
"Je n'ai rien commandé. {person1}, cliente depuis 2019, {phone1}.",
"Bonjour {person1_v}, nous avons bien reçu le dossier de {person1}. "
"Il manque la copie de la carte grise du véhicule {plate1} et un "
"RIB. Vous pouvez les déposer sur votre espace ou les envoyer à "
"{email1}.",
],
"assurance_banque": [
"Déclaration de sinistre — {person1}, contrat n° {ref1}, véhicule "
"{plate1}. Accident survenu le {date1} à {city1} ; tiers identifié : "
"{person2}, assuré chez {company1}. Devis réparation : {amount1}. "
"Contact : {phone1}.",
"Votre crédit immobilier — {person1}, né le {date_birth1}, emprunte "
"{amount1} auprès de {company1}. Mensualité : {amount2}, prélevée "
"sur le compte {iban1} à partir du {date1}. Conseiller : {person2}, "
"{email1}.",
"Résiliation du contrat santé n° {ref1} — Assuré principal : "
"{person1}, NIR {nir1}. La résiliation prend effet le {date1}. Le "
"trop-perçu de {amount1} sera remboursé sur l'IBAN {iban1}.",
"Alerte sécurité — une connexion à votre espace bancaire a été "
"détectée depuis l'IP {ip1} le {date1}. Si vous n'êtes pas à "
"l'origine de cette opération, contactez le {phone1}. Votre carte "
"{card1} a été temporairement bloquée. {company1}.",
],
}
TEMPLATES_EVAL = {
"juridique": [
"SIGNIFICATION D'ACTE — À la requête de {company1} (SIREN {siren1}), "
"j'ai signifié à {person1}, demeurant {address1} à {city1}, une "
"sommation de payer {amount1}. L'huissier, Me {person2}, certifie "
"la remise le {date1}. Dossier RG {rg1}.",
"Requête devant le JAF — {person1} et {person2} sollicitent la "
"fixation de la résidence des enfants. {person1_v}, sans emploi "
"depuis le {date1}, demande une pension de {amount1}. Audience à "
"{city1}, RG n° {rg1}. Avocat : Me {person3}, {phone1}.",
"Le notaire soussigné atteste que la parcelle {cadastre1}, commune "
"de {city1}, a été vendue par {person1} (né le {date_birth1}) à "
"{company1} pour {amount1}. Le prix a transité par le compte "
"séquestre {iban1}. {person1_v} a donné quittance.",
],
"compta": [
"RELANCE 3 — {company1}, votre échéance du {date1} ({amount1}, "
"facture {ref1}) demeure impayée malgré nos courriers. Sans "
"règlement sur {iban1} sous 8 jours, transmission au contentieux. "
"Votre interlocutrice : {person1}, {phone1}.",
"AVIS DE MODIFICATION — Greffe du Tribunal de Commerce de {city1}. "
"{company1}, société par actions simplifiée au capital de "
"{amount1}, RCS {siren1}. Aux termes des décisions du {date1}, "
"{person1_v} a été nommé président en remplacement de {person2}, "
"démissionnaire. Siège : {address1}, {city2}.",
"Écriture d'inventaire — provision de {amount1} sur la créance "
"{company1} (SIRET {siret1}). Le client, représenté par {person1}, "
"est en redressement depuis le {date1}. Dotation validée par "
"{person2_v} le {date2}.",
],
"rh": [
"PROMESSE D'EMBAUCHE — {company1} s'engage à recruter {person1}, "
"domicilié {address1} à {city1}, à compter du {date1}. Salaire "
"annuel brut : {amount1}. Réponse attendue avant le {date2} à "
"{email1}. NIR à fournir : {nir1}.",
"Registre du personnel — entrée n° {ref1} : {person1}, né le "
"{date_birth1} à {city1}, embauché le {date1}. Sortie le {date2}. "
"{person1_v} a été déclaré via la DPAE (SIRET {siret1}).",
],
"immobilier": [
"MANDAT DE GESTION — {person1} confie à l'agence {company1} la "
"gestion du bien sis {address1}, {city1} (cadastre {cadastre1}). "
"Honoraires : {amount1} TTC/an. Les loyers seront reversés sur "
"l'IBAN {iban1}. Fait le {date1}. {person1_v}, propriétaire.",
],
"email_client": [
"Bonjour, je vous écris pour {person1}, ma mère, qui n'a pas "
"internet. Elle habite {address1} à {city1} et son dossier porte le "
"n° {ref1}. Merci de la rappeler au {phone1}. Sa date de naissance "
"est le {date_birth1}. Cordialement, {person2}.",
"URGENT : fuite d'eau au {address1} ! Le plombier demande {amount1} "
"pour intervenir ce soir. Je valide ? Répondez-moi vite au {phone1} "
"ou sur {email1}. {person1_v}.",
],
"assurance_banque": [
"Avenant au contrat {ref1} — À compter du {date1}, le véhicule "
"{plate1} remplace l'ancien véhicule de {person1}. Nouvelle prime "
"annuelle : {amount1}, prélevée sur {iban1}. Signature électronique "
"envoyée à {email1}.",
],
}
# Segments sans AUCUNE PII : mesurent le sur-masquage / les faux positifs.
# {refN} y est autorise (distracteur numerique non etiquete).
NEGATIVES = [
"Le serveur de production a redémarré trois fois cette semaine. Le "
"ticket {ref1} reste ouvert : les sauvegardes nocturnes échouent quand "
"le volume dépasse 80 %. Une intervention est planifiée hors heures "
"ouvrées.",
"Rappel : la salle de réunion du deuxième étage est réservée aux "
"formations jusqu'à la fin du mois. Merci de privilégier les salles du "
"rez-de-chaussée pour les points d'équipe.",
"Le rapport trimestriel montre une hausse de la fréquentation du site "
"et une baisse du taux de rebond. Les pages produit convertissent mieux "
"depuis la refonte. Détail complet dans le tableau de bord interne.",
"Procédure qualité {ref1} : tout lot non conforme doit être isolé en "
"zone rouge, étiqueté, et consigné dans le registre des non-conformités "
"avant décision du responsable de production.",
"La maintenance de l'ascenseur B est reportée. L'accès aux étages se "
"fait par l'escalier nord. Les livraisons volumineuses sont à "
"programmer avec l'accueil.",
"Bonjour à tous, la cantine propose un nouveau menu végétarien le "
"jeudi. Les retours sur le formulaire interne sont bienvenus. Bonne "
"journée !",
]
def _llm_pools() -> dict:
"""Squelettes generes par sous-agents LLM (bench/synth/llm_templates.py),
valides et repartis train/eval par hash. Fichier commite."""
import json
from pathlib import Path
merged = {"train": {}, "eval": {}}
for fn in ("templates_llm.json", "templates_correspondance.json"):
path = Path(__file__).resolve().parent / fn
if not path.exists():
continue
pools = json.loads(path.read_text(encoding="utf-8"))
for split in ("train", "eval"):
for domain, tpls in pools.get(split, {}).items():
merged[split].setdefault(domain, []).extend(tpls)
return merged
def all_templates(split: str) -> dict[str, list[str]]:
"""Pools de templates par split : train / eval / all (disjoints).
Fusionne les templates main et les squelettes LLM."""
llm = _llm_pools()
if split in ("train", "eval"):
hand = TEMPLATES_TRAIN if split == "train" else TEMPLATES_EVAL
merged = {d: list(t) for d, t in hand.items()}
for domain, tpls in llm[split].items():
merged.setdefault(domain, []).extend(tpls)
return merged
if split == "all":
merged = {}
for pool in (all_templates("train"), all_templates("eval")):
for domain, tpls in pool.items():
merged.setdefault(domain, []).extend(tpls)
return merged
raise ValueError(f"split inconnu : {split}")
# retro-compatibilite (bench_v0 a ete genere avec ce nom)
TEMPLATES = TEMPLATES_TRAIN