File size: 2,138 Bytes
7ba64dc | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 | """Vote de typage entre couches (audit reel 2026-07-29).
Constat : ~5 spans PERSON du pipeline sont en realite des societes (et
inversement). Ces cas ne FUIENT pas (la valeur est masquee) mais degradent
la qualite des jetons envoyes au LLM ("PERSON_3" pour un editeur de
logiciel embrouille le modele).
Regle : quand deux sources independantes proposent le meme span (memes
frontieres a la normalisation pres) avec des types differents, on tranche
par priorite de fiabilite mesuree, et non par ordre d'arrivee :
- regex/gazetteer (deterministe) > tout
- camembert-ner generique sur PERSON/CITY (mesure : 0,5 % de fuite)
- fine-tune metier sur COMPANY/ADDRESS (mesure : le meilleur sur ces types)
"""
# fiabilite par (source, type) : plus haut = plus credible
PRIORITY = {
("regex", None): 100,
("gazetteer", "CITY"): 90,
("generic", "PERSON"): 80,
("generic", "CITY"): 70,
("noirci", "COMPANY"): 75,
("noirci", "ADDRESS"): 60,
("noirci", "CADASTRE"): 60,
("generic", "COMPANY"): 40,
("noirci", "PERSON"): 50,
("noirci", "CITY"): 40,
}
DEFAULT = 30
def score(source: str, etype: str) -> int:
return PRIORITY.get((source, etype), PRIORITY.get((source, None), DEFAULT))
def resolve(candidates: list[dict]) -> list[dict]:
"""candidates : spans portant une cle 'source'. Les spans qui se
chevauchent sont regroupes ; le type gagnant est celui de la source la
plus fiable, les frontieres restent celles du span le plus long."""
if not candidates:
return []
ordered = sorted(candidates, key=lambda c: (c["start"], -(c["end"] - c["start"])))
groups: list[list[dict]] = []
for c in ordered:
if groups and c["start"] < groups[-1][0]["end"]:
groups[-1].append(c)
else:
groups.append([c])
out = []
for grp in groups:
longest = max(grp, key=lambda c: c["end"] - c["start"])
best = max(grp, key=lambda c: score(c.get("source", "?"), c["type"]))
out.append({"start": longest["start"], "end": longest["end"],
"type": best["type"], "value": longest["value"]})
return out
|