scripts/save_state_to_hf.py

#!/usr/bin/env python3
# -*- coding: utf-8 -*-
"""
save_state_to_hf.py — Script de sauvegarde complète de l'état du projet sur Hugging Face.

Ce script sauvegarde :
  - Tous les scripts de code (scripts/)
  - Les configurations (configs/)
  - Les données brutes et traitées (data/ y compris les embeddings CamemBERT et features)
  - Les modèles entraînés (models/ y compris best_detector_v2.pkl)
  - Les rapports d'évaluation et graphiques (reports/ & output/)

Usage:
  python scripts/save_state_to_hf.py --repo_id "votre-username/nom-du-depot" --token "HF_TOKEN"
"""

import os
import sys
import argparse
import yaml
from huggingface_hub import HfApi

def load_config(config_path="configs/config.yaml"):
    if os.path.exists(config_path):
        with open(config_path, "r", encoding="utf-8") as f:
            return yaml.safe_load(f)
    return {}

def generate_dataset_readme(repo_id):
    """Génère un README.md personnalisé pour le dépôt Hugging Face."""
    readme_content = f"""---
title: Détecteur IA Parlementaire - Sauvegarde Complète
emoji: 🔬
colorFrom: indigo
colorTo: pink
sdk: static
pinned: false
license: mit
---

# 💾 Sauvegarde Complète du Projet — Détecteur d'IA Parlementaire

Ce dépôt contient la sauvegarde complète de l'état du projet de détection de textes parlementaires générés par IA. Il comprend le code source, les configurations, les données pré-traitées (y compris les embeddings CamemBERT d'entraînement et d'inférence), les rapports d'évaluation, les graphiques temporels et les binaires des modèles.

Il permet de reprendre l'entraînement, de re-générer les visualisations ou de relancer l'application Gradio depuis n'importe quelle machine disposant d'un GPU.

## 📁 Structure du Dépôt Sauvegardé

* `scripts/` : Code source complet (entraînement, extraction de features, inférence, Gradio).
* `configs/` : Fichiers de configuration (YAML).
* `data/processed/` : Caractéristiques stylométriques extraites et embeddings CamemBERT pré-calculés.
* `models/` : Fichiers binaires des modèles (`best_detector_v2.pkl` pour XGBoost Hybride v2).
* `reports/` & `output/` : Rapports d'évaluation textuels, courbes de suspicion et graphiques de performance.

## 🚀 Comment Reprendre l'Entraînement ou l'Inférence

### 1. Cloner ce dépôt de sauvegarde
```bash
git lfs install
git clone https://huggingface.co/datasets/{repo_id}
cd {repo_id.split('/')[-1]}
```

### 2. Installer les dépendances
```bash
pip install -r scripts/requirements_sota.txt  # ou installez torch, transformers, xgboost, joblib, pandas, scikit-learn, shap, gradio
```

### 3. Reprendre l'entraînement du modèle v2 sur le corpus Lucie complet
```bash
python scripts/train_on_lucie_historical.py --train_size -1
```

### 4. Lancer l'interface utilisateur Gradio en direct
```bash
python scripts/app.gradio.py
```
"""
    return readme_content

def main():
    parser = argparse.ArgumentParser(description="Sauvegarde complète de l'état du workspace sur Hugging Face.")
    parser.add_argument("--repo_id", required=True, help="ID du dépôt de destination sur HF (ex. 'username/detecteur-ia-backup')")
    parser.add_argument("--token", help="Jeton d'écriture Hugging Face (ou variable d'environnement HF_TOKEN)")
    parser.add_argument("--config", default="configs/config.yaml", help="Chemin du fichier de configuration")
    args = parser.parse_args()
    
    repo_id = args.repo_id.strip()
    token = args.token or os.environ.get("HF_TOKEN")
    if token:
        token = token.strip()
    else:
        print("❌ Erreur : Un jeton d'écriture Hugging Face est requis. Utilisez --token ou définissez la variable HF_TOKEN.")
        sys.exit(1)
        
    api = HfApi(token=token)
    workspace_dir = os.path.dirname(os.path.dirname(os.path.abspath(__file__)))
    
    # 1. Création/Vérification du dépôt de dataset sur HF
    print(f"🔍 Vérification / Création du dépôt Hugging Face '{repo_id}'...")
    try:
        api.create_repo(
            repo_id=repo_id,
            repo_type="dataset",
            exist_ok=True
        )
        print("✅ Dépôt prêt sur Hugging Face.")
    except Exception as e:
        print(f"❌ Erreur lors de l'accès au dépôt : {e}")
        sys.exit(1)
        
    # 2. Écriture d'un README de sauvegarde temporaire pour le dépôt
    temp_readme_path = os.path.join(workspace_dir, "README_HF_BACKUP.md")
    print(f"📝 Génération du fichier README de sauvegarde...")
    with open(temp_readme_path, "w", encoding="utf-8") as f:
        f.write(generate_dataset_readme(repo_id))
        
    # 3. Définition des patterns à ignorer pour l'upload (fichiers temporaires ou locaux uniquement)
    ignore_patterns = [
        "**/.git/**",
        "**/__pycache__/**",
        "**/*.pyc",
        "**/.ipynb_checkpoints/**",
        "**/.gradio/**",
        "models_upload_temp/**",
        "hf_model_upload_*/**",
        "README_HF_BACKUP.md"
    ]
    
    # 4. Upload de tout le dossier de travail
    print(f"\n📤 Début de l'envoi de l'espace de travail local '{workspace_dir}' vers le dépôt '{repo_id}'...")
    print("ℹ️  Note : Les embeddings volumineux et les binaires des modèles (.pkl) sont inclus pour permettre une reprise immédiate.")
    
    try:
        # Upload du README de sauvegarde sous le nom README.md sur Hugging Face
        api.upload_file(
            path_or_fileobj=temp_readme_path,
            path_in_repo="README.md",
            repo_id=repo_id,
            repo_type="dataset"
        )
        
        # Upload de tout le dossier
        api.upload_folder(
            folder_path=workspace_dir,
            repo_id=repo_id,
            repo_type="dataset",
            ignore_patterns=ignore_patterns
        )
        
        # Nettoyage
        if os.path.exists(temp_readme_path):
            os.remove(temp_readme_path)
            
        print("\n🎉 Sauvegarde SOTA v2 réussie !")
        print(f"🔗 Dépôt de sauvegarde : https://huggingface.co/datasets/{repo_id}")
        print("\nPour reprendre le projet sur une autre machine :")
        print(f"  1. git clone https://huggingface.co/datasets/{repo_id}")
        print("  2. python scripts/train_on_lucie_historical.py  (Reprise entraînement)")
        print("  3. python scripts/app.gradio.py                (Lancement Gradio)")
        
    except Exception as e:
        print(f"❌ Erreur pendant le téléversement : {e}")
        if os.path.exists(temp_readme_path):
            os.remove(temp_readme_path)
        sys.exit(1)

if __name__ == "__main__":
    main()