"""Gazetteer des communes francaises (geo.api.gouv.fr / COG INSEE). Contre-mesure CITY prevue des la matrice v0 : les ~32 700 communes en couche deterministe. Regle de decision : - nom MULTI-token ou avec trait d'union ("Saint-Denis", "Œuf-en-Ternois") : decide seul (collision improbable avec un mot commun) ; - nom MONO-token ("Paris", mais aussi "Baron" ou "Aubin" qui sont des patronymes) : contexte requis a proximite (a, de, commune, ville, greffe, tribunal, code postal a 5 chiffres...). Les variantes "St-"/"Ste-" sont indexees comme "Saint-"/"Sainte-". Donnees : data/gazetteer_communes.txt (regenerer : curl 'https://geo.api.gouv.fr/communes?fields=nom&format=json'). """ import re import unicodedata from functools import lru_cache from pathlib import Path DATA = Path(__file__).resolve().parents[2] / "data" / "gazetteer_communes.txt" # contexte cherche UNIQUEMENT avant le nom : "M. Baron habite à Paris" ne # doit pas valider "Baron" parce qu'un "à" traine apres _CONTEXT = re.compile( r"(?:\bà\b|\bde\b|\bsur\b|commune|ville|mairie|greffe|tribunal|" r"domicili|demeurant|\b\d{5}\b)\s*$", re.IGNORECASE) _WINDOW = 25 # mots capitalises ; continuation en minuscules autorisee UNIQUEMENT par # trait d'union ("Œuf-en-Ternois" oui, "Le tribunal de..." non) _CANDIDATE = re.compile( r"\b[A-ZÀ-ÖØ-ÞŒ][\wÀ-ÿœŒ']*" r"(?:-[\wÀ-ÿœŒ']+|[ ][A-ZÀ-ÖØ-ÞŒ][\wÀ-ÿœŒ']*){0,5}") def _norm(s: str) -> str: s = s.replace("St-", "Saint-").replace("Ste-", "Sainte-") s = s.replace("St ", "Saint ").replace("Ste ", "Sainte ") s = unicodedata.normalize("NFD", s) s = "".join(c for c in s if unicodedata.category(c) != "Mn") return re.sub(r"[- ']+", " ", s).lower().strip() @lru_cache(maxsize=1) def _index() -> tuple[set, set, int]: """(noms multi-token, noms mono-token, longueur max en mots).""" multi, mono = set(), set() max_words = 1 for name in DATA.read_text(encoding="utf-8").splitlines(): key = _norm(name) words = key.split() max_words = max(max_words, len(words)) (multi if len(words) > 1 else mono).add(key) return multi, mono, max_words def detect(text: str) -> list[dict]: multi, mono, max_words = _index() spans = [] for m in _CANDIDATE.finditer(text): words = re.split(r"([- ])", m.group(0)) # essaie du plus long prefixe de mots au plus court tokens = [w for w in words if w not in ("-", " ", "")] for n in range(min(len(tokens), max_words), 0, -1): # reconstruit la surface du prefixe de n mots count, end = 0, m.start() for part in re.finditer(r"[\wÀ-ÿœŒ']+", m.group(0)): count += 1 if count == n: end = m.start() + part.end() break surface = text[m.start():end] key = _norm(surface) if key in multi: spans.append({"start": m.start(), "end": end, "type": "CITY", "value": surface}) break if key in mono: before = text[max(0, m.start() - _WINDOW):m.start()] if _CONTEXT.search(before): spans.append({"start": m.start(), "end": end, "type": "CITY", "value": surface}) break return spans