synth/llm_templates.py

"""Generation de squelettes de documents par sous-agents LLM (Haiku).

Methode GLiNER2-PII (analyse §4) : le LLM ecrit des SQUELETTES a slots, pas
des documents finis. Nos generateurs injectent les valeurs (checksums
valides), donc les offsets gold restent exacts par construction, et la
diversite de prose vient du LLM.

Validation stricte avant d'entrer au pool :
- slots ⊂ inventaire connu, syntaxe exacte, indices numeriques
- remplissage reel via fill_template sur 2 seeds (aucune accolade restante,
  ≥ 2 entites)
- longueur 80-1500 caracteres, dedup par similarite (difflib ≥ 0,88 = rejet)
Repartition train/eval deterministe par hash (≈ 85/15), pools disjoints.

Sortie : bench/synth/templates_llm.json, charge par templates.all_templates.

Usage :
    python -m bench.synth.llm_templates --target 500 --parallel 8
"""

import argparse
import difflib
import hashlib
import json
import random
import re
import subprocess
from concurrent.futures import ThreadPoolExecutor
from pathlib import Path

from bench.pii.generators import PiiFactory
from bench.synth.build import _SLOT_TYPES, fill_template

OUT = Path(__file__).resolve().parent / "templates_llm.json"

DOMAINS_CORRESPONDANCE = {
    "email_signature": "emails professionnels FR se terminant par un bloc de signature complet (prénom+nom, fonction, société, téléphone, site) après un corps long de plusieurs paragraphes",
    "email_tiers": "emails où l'on cite des sociétés TIERCES en pleine prose sans forme juridique : l'éditeur du logiciel, la plateforme utilisée, le prestataire de paiement, un concurrent, le client du client",
    "compte_rendu": "comptes rendus de réunion nominatifs longs : participants prénom+nom en début de paragraphe, sociétés et outils cités plusieurs fois, décisions datées",
    "echange_long": "fils d'emails longs (800-1500 caractères) avec relances, plusieurs interlocuteurs nommés et plusieurs sociétés mentionnées au fil du texte",
    "note_projet": "notes internes de projet citant des outils SaaS, des plateformes et des partenaires par leur marque, plus des identifiants de dossier",
}

DOMAINS = {
    "juridique": "assignations, conclusions, jugements, courriers d'avocat, PV d'huissier, requêtes",
    "compta": "factures, relances, devis, avoirs, notes de frais, courriers URSSAF/impôts, rapprochements",
    "rh": "contrats de travail, bulletins de paie, CV, convocations, attestations, soldes de tout compte, DPAE",
    "immobilier": "baux, états des lieux, quittances, compromis, mandats de gestion, PV d'AG de copropriété",
    "email_client": "emails et messages de clients ou au client : réclamations, résiliations, SAV, relances, WhatsApp/SMS",
    "assurance_banque": "déclarations de sinistre, avis d'échéance, crédits, résiliations, alertes bancaires",
    "sante_social": "certificats médicaux, courriers mutuelle, CPAM, arrêts de travail, dossiers CAF",
    "administratif": "courriers préfecture, cartes grises, impôts locaux, état civil, demandes de documents",
}

STYLES = [
    "courrier formel et long, avec en-tête, objet, formules de politesse",
    "email court et pressé, tutoiement possible, phrases inachevées",
    "formulaire ou fiche : lignes 'Libellé : valeur', sauts de ligne fréquents",
    "acte ou document officiel dense, numérotation d'articles, majuscules d'en-tête",
    "message type WhatsApp/SMS : familier, ponctuation relâchée, urgence",
    "document tabulaire dégradé type OCR : colonnes aplaties, libellés abrégés",
]

SLOTS_DOC = """person1, person2... (personne ; {person1_v} = variante de surface de la MÊME personne : nom seul, initiale, M./Mme + nom)
company1... (société), address1... (adresse postale), city1... (ville)
email1..., phone1..., date1... (date quelconque), date_birth1... (date de NAISSANCE uniquement)
iban1..., nir1... (n° sécu), siren1..., siret1..., tva1... (TVA intracom), card1... (carte bancaire)
plate1... (plaque immat), rg1... (n° RG tribunal, écrire 'RG' à proximité), cadastre1... (référence cadastrale complète, ne pas écrire 'section' avant)
ip1..., amount1... (montant avec devise), ref1... (n° de dossier/facture NON confidentiel)"""

PROMPT = """Tu écris des SQUELETTES de documents français réalistes pour un corpus d'entraînement à la détection de données personnelles. Un squelette = le texte du document où chaque donnée personnelle est remplacée par un slot entre accolades. Nos générateurs rempliront les slots.

Domaine : {domain} ({desc}).
Style imposé : {style}.

Slots autorisés (UNIQUEMENT ceux-là, syntaxe exacte {{nom+numéro}}) :
{slots}

Règles :
- 12 squelettes, très différents entre eux (structures, longueurs 300-900 caractères, tons variés)
- AUCUNE donnée personnelle en clair : tout passe par les slots (pas de nom, ville, montant ou numéro inventé dans le texte)
- Le même numéro = la même entité (réutiliser {{person1}} ou {{person1_v}} pour reparler de la même personne)
- 3 à 8 slots par squelette, mélanger les types, utiliser aussi les types rares (nir, plate, cadastre, tva, card, ip)
- Utiliser \\n pour les sauts de ligne
- Le texte hors slots doit être du français naturel de vrai document, pas générique

Réponds UNIQUEMENT avec un tableau JSON de 12 chaînes, sans commentaire."""

_SLOT_RE = re.compile(r"\{([a-z_]+?)(\d+)(_v)?\}")
_BRACE_RE = re.compile(r"[{}]")


def _valid_slots(tpl: str) -> bool:
    stripped = _SLOT_RE.sub("", tpl)
    if _BRACE_RE.search(stripped):
        return False
    ok = False
    for name, _, variant in _SLOT_RE.findall(tpl):
        if name not in _SLOT_TYPES:
            return False
        if variant and name != "person":
            return False
        ok = True
    return ok


def validate(tpl: str) -> bool:
    if not (80 <= len(tpl) <= 1500) or not _valid_slots(tpl):
        return False
    try:
        for seed in (1, 2):
            seg = fill_template(tpl, PiiFactory(seed=seed), random.Random(seed))
            if "{" in seg["text"] or len(seg["entities"]) < 2:
                return False
    except Exception:
        return False
    return True


def _signature(tpl: str) -> str:
    return re.sub(r"\s+", " ", _SLOT_RE.sub("@", tpl)).lower()


def _too_similar(tpl: str, accepted_sigs: list[str]) -> bool:
    sig = _signature(tpl)
    for other in accepted_sigs:
        if difflib.SequenceMatcher(None, sig, other).quick_ratio() >= 0.88 and \
           difflib.SequenceMatcher(None, sig, other).ratio() >= 0.88:
            return True
    return False


def _ask(job) -> list[str]:
    domain, desc, style, salt = job
    prompt = PROMPT.format(domain=domain, desc=desc, style=style,
                           slots=SLOTS_DOC)
    prompt += f"\n(lot {salt} : évite les scénarios évidents déjà trop vus)"
    try:
        r = subprocess.run(["claude", "-p", prompt, "--model", "haiku"],
                           capture_output=True, text=True, timeout=300)
        m = re.search(r"\[.*\]", r.stdout, re.DOTALL)
        if not m:
            return []
        out = json.loads(m.group(0))
        return [t for t in out if isinstance(t, str)]
    except Exception:
        return []


def main():
    ap = argparse.ArgumentParser()
    ap.add_argument("--target", type=int, default=500)
    ap.add_argument("--parallel", type=int, default=8)
    ap.add_argument("--eval-share", type=float, default=0.15)
    ap.add_argument("--profile", choices=["metier", "correspondance"], default="metier")
    ap.add_argument("--out", default=None)
    args = ap.parse_args()

    jobs = []
    salt = 0
    domains = DOMAINS_CORRESPONDANCE if args.profile == "correspondance" else DOMAINS
    while len(jobs) * 12 < args.target * 1.6:
        for domain, desc in domains.items():
            for style in STYLES:
                jobs.append((domain, desc, style, salt))
        salt += 1
    rng = random.Random(0)
    rng.shuffle(jobs)

    accepted: dict[str, dict[str, list[str]]] = {
        "train": {d: [] for d in domains}, "eval": {d: [] for d in domains}}
    sigs: list[str] = []
    stats = {"recus": 0, "invalides": 0, "doublons": 0}

    with ThreadPoolExecutor(max_workers=args.parallel) as pool:
        for job, result in zip(jobs, pool.map(_ask, jobs)):
            domain = job[0]
            for tpl in result:
                stats["recus"] += 1
                tpl = tpl.strip()
                if not validate(tpl):
                    stats["invalides"] += 1
                    continue
                if _too_similar(tpl, sigs):
                    stats["doublons"] += 1
                    continue
                sigs.append(_signature(tpl))
                h = int(hashlib.sha256(tpl.encode()).hexdigest(), 16)
                split = "eval" if (h % 100) < args.eval_share * 100 else "train"
                accepted[split][domain].append(tpl)
            total = sum(len(lst) for s in accepted.values() for lst in s.values())
            if total >= args.target:
                break

    total = sum(len(lst) for s in accepted.values() for lst in s.values())
    n_eval = sum(len(lst) for lst in accepted["eval"].values())
    out_path = Path(args.out) if args.out else OUT
    out_path.write_text(json.dumps(accepted, ensure_ascii=False, indent=1),
                        encoding="utf-8")
    print(f"{total} squelettes acceptes ({n_eval} eval) -> {out_path}")
    print(stats)


if __name__ == "__main__":
    main()