Spaces:
Runtime error
Runtime error
Commit History
21 days ago
-
feat(embeddings): voyage-4-large remplace EmbeddingGemma (API Voyage, halfvec 1024)
Mesure sur tout le corpus (32 303 morceaux) et le jeu relu de 102 questions : en recherche dense, MRR@20 0,758 contre 0,537 pour EmbeddingGemma en francais, 0,680 contre 0,537 en anglais. Par le chemin du chat lui-meme (mots-cles en plein texte, question entiere vectorisee, 8 extraits envoyes au modele), l'article attendu figure parmi les extraits 92 % du temps en francais contre 61 % avec Gemma (MRR@8 0,504 contre 0,336), et 87 % en anglais contre 56 % (0,538 contre 0,282). Vectoriser la question entiere plutot que ses mots-cles gagne a lui seul +0,087 de MRR@8 en francais [IC 95 % +0,035 ; +0,143] et +0,127 en anglais [+0,067 ; +0,191]. - embedding_service.py : VoyageProvider (httpx, connexion gardee : 0,42 s par question contre 1,14 s avec une connexion neuve). Son corps de requete reproduit les vecteurs deja calcules du corpus : un test voyage_live le prouve, cosinus >= 0,999 sur deux questions et deux documents. Lots de 900 textes et 90 000 jetons estimes, refus definit…57c8117
23 days ago
-
feat(chat): chaque extrait dit sa date et si un texte plus recent l'a change
Le corpus garde chaque texte dans sa version publiee : le Code electoral de 2012 tel quel, et a cote la loi de 2026 qui en reecrit des articles. La recherche remontait souvent l'ancien article, et le chat le citait comme la regle en vigueur (« l'article 38 de la Loi N°2004/004 » pour le constat de la vacance de la presidence, reecrit en 2026). Archiver les textes anciens n'etait pas la reponse : la plupart de leurs articles restent applicables. - app/services/liens_entre_textes.py : 67 liens verifies (texte touche, texte recent, nature, articles, portee), chacun avec sa preuve citee : Constitution, Code electoral, Conseil constitutionnel, Cour supreme, traite OHADA, Code penal, Code civil (etat civil, suretes, vente et bail commerciaux, prescription...), liberte d'association, cybersecurite, foncier, incitations a l'investissement, lois de finances. Releves en base, contre-verifies, relus par une revue adversariale ; les liens ecartes le sont avec leur raison. - app/serv…c193c4e
30 days ago
-
fix(reclassement): la simulation montre tout ce que --force ecrira
Issus de la revue de la branche : - `appliquer --dry-run` sans --force n'inscrivait pas dans changements.csv les categories deja posees que le verdict contredit : sur le corpus, ou toutes les lois en ont une, on relisait un fichier presque vide avant un --force qui les reecrivait toutes. changements.csv liste desormais toute loi dont la categorie changerait, avec sa suite (appliquee, ou gardee faute de --force), et le README recommande `--dry-run --force`. - Une relance `--incertains` apres un arret sur quota repayait les lois deja retentees avec un extrait : elle les saute. - Une ligne de journal coupee par un arret brutal absorbait la ligne suivante : le journal est termine par un saut de ligne avant d'ecrire. - Le journal est indexe par l'identifiant de la loi : chaque verdict porte desormais sa reference, et celui d'une autre loi (base reconstruite) n'est ni repris ni applique. - L'anomalie « Classement indisponible » posee par le pipeline est effacee une foi…f508b99 -
feat(reclassement): reclassement par lots en deux temps, reprenable
scripts/maintenance/reclassify_domains.py est reecrit : - `classer` interroge Groq par lots (40 lois par requete, titres seuls ; puis les incertains avec l'article premier, 15 par requete) et ecrit les verdicts dans data/reclassement/verdicts.jsonl : domaine, secondaires, confiance, modele, version des consignes, jetons. Rien n'est ecrit en base. Une relance saute les lois deja classees ; une ligne tronquee par une coupure est ignoree. Quota epuise : arret propre, code 4, avec l'heure de reprise ; panne : code 3 ; une saturation courte est attendue sur place. - `appliquer` ecrit categorie, confiance et suggestions, par paquets de 200. Un verdict « a revoir » ou sous le seuil (--seuil, 0,6) n'est jamais applique : il part dans a_revoir.csv. Sans --force, une categorie deja posee est gardee. --dry-run n'ecrit rien en base et produit le rapport, changements.csv et a_revoir.csv, a relire avant d'appliquer pour de bon. L'ancienne version rangeait en Droit Administr…43190dd -
fix(imports): un seul choix du fournisseur, et chaque fichier importe ce qu'il utilise
La comparaison et l'explication d'article lisaient settings.LLM_PROVIDER sans importer settings. Rien n'echouait a l'import : le nom n'etait resolu qu'a la construction du service, donc chaque /compare et chaque /explain-article repondait 500 des qu'aucune doublure n'etait injectee — en production, jamais dans les tests. Le choix du fournisseur, recopie trois fois, vit desormais dans app/services/llm.py : get_llm_service() rend Mistral ou Gemini selon LLM_PROVIDER, et les erreurs sont regroupees par nature (ERREURS_QUOTA, ERREURS_SATURATION, ERREURS_LLM), quel que soit le fournisseur. Les messages « Please set up Gemini API » deviennent neutres. ruff rendait 18 signalements (2 noms inconnus, 14 imports inutiles, 2 blocs mal ordonnes) ; il en rend zero. Les __import__("sqlalchemy") et __import__("datetime") deviennent de vrais imports. Garde permanente, tests/test_qualite/test_imports.py : ruff doit sortir a zero sur app, scripts, tests et alembic, et chaque module de app doit s'impo…e77f0a8 -
feat: Mistral pour le chat, Groq pour le routage et le classement, 14 categories
Travail de l'utilisateur, verse tel quel avant les correctifs qui suivent : - MistralService (generation et flux), LLM_PROVIDER=mistral par defaut ; - GroqService : classement d'intention et classement des lois par Groq ; - 14 categories canoniques (migration 013) et script de reclassement ; - alembic/env.py retombe sur settings.DATABASE_URL. Defauts connus, corriges dans les commits suivants : settings non importe dans comparison_service et explanation_service, tests appelant les vraies API, migration 013 sans retour arriere.26dddaf
-
feat(extraction): Docling en local, OCR pleine page, cache reprenable
Docling remplace l'API Gemini, payante, comme extracteur par defaut (PDF_EXTRACTION_ENGINE=docling ; « gemini » reste disponible). - Chaque page est rasterisee (pypdfium2, 216 dpi) et passe par l'OCR pleine page : 42 % des pages n'ont pas de couche texte, et docling-parse rend NOIRES les 59 pages de scans masques (MRC) du corpus. - OCR RapidOCR sur torch, donc sur le GPU : mesure sur 97 pages contre Gemini et LlamaParse, il lit les numeros d'article la ou Tesseract en fausse (« ARTICLE 16 » lu « 13 »), a 3,8-4 s par page. - Conversion par lots de 8 pages, chaque lot mis en cache aussitot, brut : une interruption ne coute que le lot en cours, et ameliorer le nettoyage n'oblige jamais a refaire l'OCR. L'empreinte du cache porte les versions, les revisions des modeles et le rendu ; les lots se relisent quelle que soit leur taille. - Un lot en echec est rejoue ; au bout de TENTATIVES_MAX, il est repris page a page, et seule la page fautive est abandonnee et signalee. - F…69b13a2
-
feat(extraction): remplacer LlamaParse par Gemini multimodal
La cle LlamaParse ayant ete retiree, l'ingestion de tout nouveau PDF levait et marquait le document `refused` — le bon echec, mais l'ingestion etait a l'arret. LE MOTIF DU CHANGEMENT EST LA PAGINATION, PAS LE PRIX. LlamaParse rend le document en un bloc sans signaler ses coupures de page ; `_split_markdown_pages` les reconstruisait en coupant sur les lignes de trois tirets, et sa propre docstring admettait la limite : « la pagination ne devient exacte qu'avec un moteur qui renvoie un numero de page explicite ». Mesure en base : les 710 articles portent tous `page_number = 1`, et sur les 27 lois, 271 pages de PDF ne donnent que 27 pages extraites — couverture moyenne 0,60. Un lien `?article=35` ouvre donc le PDF a la premiere page. MESURE AVANT D'ECRIRE, sur le Code Minier dont la sortie LlamaParse est en base : densite 2352 car/page contre 2405 — equivalent, rien n'est perdu marqueurs de page 1 par page contre 1 pour 69 pages lot pages 21 a 32 numerote 21…ca48b04 -
fix(qualite): ruff devient une vraie barriere, et trouve un schema mort et casse
Ruff tournait sans jeu de regles declare : 1332 signalements, dont 98 faux positifs sur le motif `Depends()` de FastAPI et 615 modernisations de style. Un controle que personne ne peut passer n'est pas un controle. Le jeu retenu ne garde que ce qui signale un defaut reel (F, E4, E7, E9, I, RUF100), avec des exceptions nommees la ou l'ordre des imports EST la protection : env.py doit poser sys.path avant d'importer les modeles, conftest doit surcharger DATABASE_URL avant d'importer l'application. Ce que le controle a alors trouve : - UN SCHEMA MORT ET CASSE. `LawDetailResponse` existait deja, exposant `List[ArticleResponse]`. Il n'etait branche sur aucune route, et il etait doublement inutilisable : ArticleResponse porte le CONTENU integral de chaque article — pour le Code Minier, 166 Ko servis deux fois — et son `number` etait plafonne a 20 caracteres alors que la colonne en fait 64 depuis qu'elle accueille « QUATRE-VINGT-DIX-SEPTIEME ». Le plafond du schema est corrige, et…7435134 -
refactor: retirer 165 Mo de dependances mortes et dix scripts a usage unique
DEPENDANCES scikit-learn et joblib : ZERO occurrence dans tout le depot depuis la suppression du classifieur ML. Avec scipy qu'ils entrainent, ils pesaient 165 Mo dans l'image pour rien. Le classement de domaine est fait par des regles depuis legal_domain_classifier.py. SCRIPTS Sept scripts a usage unique, sans argparse, avec `law_id = 1` code en dur et aucun garde `__main__` — donc executables au simple import. Quatre d'entre eux etaient DESTRUCTIFS sans confirmation : force_clean_extract, reextract_ constitution, reextract_pdfplumber effacaient les articles de la loi 1. reprocess_law.py portait en plus un file_id code en dur ; il figurait dans un plan de suppression precedent et n'avait pas ete supprime. Trois scripts de maintenance des categories (add_category_icons, update_category_icons, cleanup_categories) sont perimes par la migration 007, qui possede desormais les 14 domaines avec leurs icones et le verifie par assertion. Les executer se battrait contre elle. reset_databas…d41abd1 -
feat(recherche): le titre passe devant le corps du texte, et les fautes de frappe passent
Trois demandes utilisateur, quatre causes. 1. Chercher "nomination" remontait des documents sans ce mot dans leur titre, et le moins pertinent sortait premier. `articles.search_vector` ne contenait ni le titre de la loi ni celui de l'article ; `laws.search_vector` collait titre et contenu sans un seul `setweight` ; et la seule branche qui voyait `laws.title` etait gardee derriere `if not chunks:`, donc jamais executee. Mesure avant : le decret SOCADEL (titre sans le mot) sortait a 0,4000 devant cinq documents dont le titre le porte, a 0,2000. Apres ponderation : 2,10 contre 0,20. 2. "article 35 du code minier" ne pouvait pas aboutir : le decoupeur attendait `Article 35` la ou le markdown ecrit `**ARTICLE 1er.**-` et `**Article1er.-**`. 8 lois sur 27 avaient un numero reconnu, contre 27 sur 27 apres correction ; 127 numeros reels contre 599. Le Code Minier passe de 41 a 193 articles. 3. Aucune tolerance aux fautes : `word_similarity` sur titre deplie, s…893a679
-
chore: initial standalone backend for JuriX API (Render)
9cf9a2a