Update app.py

app.py

@@ -56,27 +56,16 @@ print("Whisper pret !")
 # ── Chargement Gemma ──────────────────────────────────────────────
 print("Chargement Gemma...")
 gemma_tokenizer = AutoTokenizer.from_pretrained(GEMMA_BASE, token=HF_TOKEN)
-
-# device_map="auto" place le modèle sur meta device → les poids LoRA
-# ne peuvent pas être copiés (no-op). Fix : charger sans device_map,
-# puis déplacer manuellement après merge.
 gemma_base = AutoModelForCausalLM.from_pretrained(
-    GEMMA_BASE,
-    torch_dtype=torch_dtype,
-    token=HF_TOKEN,
-    low_cpu_mem_usage=True,   # évite la meta device contrairement à device_map
+    GEMMA_BASE, torch_dtype=torch_dtype,
+    device_map="auto", token=HF_TOKEN,
 )
 gemma_adapter = snapshot_download(
     repo_id=GEMMA_REPO, repo_type="dataset",
     token=HF_TOKEN if HF_TOKEN else None,
 )
-# is_trainable=False + pas de device_map = chargement correct des poids LoRA
-gemma_model = PeftModel.from_pretrained(
-    gemma_base, gemma_adapter, is_trainable=False,
-)
+gemma_model = PeftModel.from_pretrained(gemma_base, gemma_adapter)
 gemma_model = gemma_model.merge_and_unload()
-gemma_model = gemma_model.to(device)   # déplacement après merge
-gemma_model.eval()
 print("Gemma pret !")
 
 # ── État global ───────────────────────────────────────────────────
@@ -108,7 +97,6 @@ def process_audio(audio):
 
 def append_and_upload(feedback_file, entry, repo_id):
     api = HfApi(token=HF_TOKEN)
-    # Les repos existent déjà — on ne crée pas, ça évite l'erreur 403
     local = f"/tmp/{repo_id.replace('/', '')}.jsonl"
     try:
         existing = hf_hub_download(
@@ -126,35 +114,14 @@ def append_and_upload(feedback_file, entry, repo_id):
     )
 
 
-# ── Prompt système pour Gemma ─────────────────────────────────────
-# Prompt 100% en arabe/darija — aucun mot français/anglais pour ne pas
-# contaminer la langue de sortie. Exemples positifs pour ancrer le style.
-SYSTEM_PROMPT = """<start_of_turn>user
-أنت مساعد جزائري. دايما تجاوب بالدارجة الجزائرية، ما تكتبش أي كلمة بالفرانساوي أو الإنجليزي.
-إذا ما فهمتش الكلام، قول فقط: "ما فهمتش واش قلت، عاود من فضلك"
-جاوب بجملة واحدة أو جملتين على الأكثر، مباشرة بدون مقدمات.
-
-مثال 1:
-كلام: كيفاش نعمل كسكسي؟
-جواب: تسلقي الكسكسي على البخار وتحضري المرق بالخضرة واللحم، وكي يكون كل شي ناضج تخلطيهم.
-
-مثال 2:
-كلام: شحال الساعة؟
-جواب: ما عنديش ساعة، شوف في تيليفونك.
-
-مثال 3:
-كلام: واش تعرف تعاونني؟
-جواب: إيه، قولي واش تحتاج.
-
-كلام: {text}
-<end_of_turn>
+# ── Prompt Gemma ──────────────────────────────────────────────────
+PROMPT_TEMPLATE = """<start_of_turn>user
+{text}<end_of_turn>
 <start_of_turn>model
-جواب: """
+"""
 
 # ── Troncature sécurisée ──────────────────────────────────────────
 def truncate_gemma_output(text: str) -> str:
-    """Coupe proprement sur stop tokens et longueur max."""
-    # Stop tokens — tout ce qui suit est hors contexte
     stop_tokens = [
         "<end_of_turn>", "<start_of_turn>",
         "\nسؤال:", "\nسوال:", "\nالسؤال:",
@@ -165,17 +132,12 @@ def truncate_gemma_output(text: str) -> str:
         if token in text:
             text = text.split(token)[0].strip()
 
-    # Supprimer les lignes vides en tête + "جواب: " ajouté par le prompt
     text = text.strip()
-    if text.startswith("جواب:"):
-        text = text[len("جواب:"):].strip()
 
-    # Garder seulement les 2 premières phrases (. أو ؟ أو !)
     sentences = re.split(r'(?<=[.!?؟])\s+', text)
     if len(sentences) > 2:
         text = " ".join(sentences[:2]).strip()
 
-    # Limite absolue : 300 caractères
     if len(text) > 300:
         text = text[:300].rsplit(" ", 1)[0].strip() + "..."
 
@@ -184,11 +146,10 @@ def truncate_gemma_output(text: str) -> str:
 
 # ── Génération Gemma avec streaming ───────────────────────────────
 def generate_gemma_response(transcription: str, progress=None):
-    """Génère la réponse Gemma avec streaming."""
     if progress:
         progress(0.6, desc="🤖 Préparation du prompt...")
 
-    prompt = SYSTEM_PROMPT.format(text=transcription)
+    prompt = PROMPT_TEMPLATE.format(text=transcription)
     inputs = gemma_tokenizer(prompt, return_tensors="pt").to(device)
 
     streamer = TextIteratorStreamer(
@@ -198,14 +159,13 @@ def generate_gemma_response(transcription: str, progress=None):
         decode_kwargs={"skip_special_tokens": True},
     )
 
-    # temperature basse = colle à la darija, évite le drift français/anglais
     generation_kwargs = dict(
         **inputs,
-        max_new_tokens=100,          # Court : 1-2 phrases suffisent
+        max_new_tokens=100,
         do_sample=True,
-        temperature=0.3,             # Très bas = déterministe, reste en darija
+        temperature=0.3,
         top_p=0.80,
-        top_k=30,                    # Petit vocab = moins de drift linguistique
+        top_k=30,
         repetition_penalty=1.4,
         no_repeat_ngram_size=4,
         pad_token_id=gemma_tokenizer.eos_token_id,
@@ -232,12 +192,7 @@ def generate_gemma_response(transcription: str, progress=None):
 
 
 # ── ÉTAPE 1 : Transcription Whisper uniquement ────────────────────
-# CORRECTION : whisper et gemma sont maintenant séparés en 2 fonctions.
-# transcribe_only() → retourne la transcription + prépare l'état
-# respond_gemma()   → appelée via .then() après que la transcription est affichée
-
 def transcribe_only(audio, progress=gr.Progress()):
-    """Étape 1 — Whisper uniquement. Gemma ne tourne PAS encore."""
     path = process_audio(audio)
     if path is None:
         return (
@@ -252,7 +207,6 @@ def transcribe_only(audio, progress=gr.Progress()):
         result = whisper_pipe(path, return_timestamps=False)
         text = result["text"].strip()
 
-        # Sauvegarde état
         current_audio["path"] = path
         current_audio["filename"] = generate_audio_name()
         current_exchange["transcription"] = text
@@ -260,7 +214,6 @@ def transcribe_only(audio, progress=gr.Progress()):
 
         progress(1.0, desc="✅ Transcription terminée")
 
-        # Retourne : transcription affichée, feedbacks cachés, bouton transcrire désactivé
         return (
             text,
             gr.update(visible=False),
@@ -277,9 +230,8 @@ def transcribe_only(audio, progress=gr.Progress()):
         )
 
 
-# ── ÉTAPE 2 : Réponse Gemma (déclenchée après transcription) ──────
+# ── ÉTAPE 2 : Réponse Gemma ───────────────────────────────────────
 def respond_gemma(progress=gr.Progress()):
-    """Étape 2 — Gemma génère sa réponse en streaming."""
     transcription = current_exchange.get("transcription")
     if not transcription:
         yield (
@@ -296,7 +248,6 @@ def respond_gemma(progress=gr.Progress()):
         last_partial = ""
         for partial in generate_gemma_response(transcription, progress=progress):
             last_partial = partial
-            # Pendant le streaming : feedbacks pas encore visibles
             yield (
                 partial,
                 gr.update(visible=False),
@@ -304,11 +255,9 @@ def respond_gemma(progress=gr.Progress()):
                 gr.update(interactive=False),
             )
 
-        # Sauvegarde réponse finale
         current_exchange["reponse"] = last_partial
         progress(1.0, desc="✅ Terminé")
 
-        # Fin : afficher les feedbacks, réactiver le bouton
         yield (
             last_partial,
             gr.update(visible=True),
@@ -327,7 +276,6 @@ def respond_gemma(progress=gr.Progress()):
 
 # ── Régénération Gemma seule ──────────────────────────────────────
 def regenerate_gemma_only(progress=gr.Progress()):
-    """Régénère uniquement la réponse Gemma sans re-transcrire."""
     transcription = current_exchange.get("transcription")
     if not transcription:
         yield "", gr.update(visible=False)
@@ -425,11 +373,39 @@ button.danger { background: #dc2626 !important; color: #fff !important; border:
 button.danger:hover { background: #b91c1c !important; }
 button.regenerate { background: #7c3aed !important; color: #fff !important; border: none !important; border-radius: 10px !important; font-weight: 500 !important; padding: 0.5rem 1rem !important; }
 button.regenerate:hover { background: #6d28d9 !important; }
-#transcription-box textarea { background: #0f0f13 !important; border: 1.5px solid #1e1e2a !important; border-radius: 14px !important; color: #e0e0ec !important; font-size: 1rem !important; line-height: 1.7 !important; padding: 1.2rem !important; direction: rtl !important; text-align: right !important; transition: border-color 0.4s, box-shadow 0.4s !important; min-height: 120px !important; }
+#transcription-box textarea { background: #0f0f13 !important; border: 1.5px solid #1e1e2a !important; border-radius: 14px !important; color: #e0e0ec !important; font-size: 1rem !important; line-height: 1.7 !important; padding: 1.2rem !important; direction: rtl !important; text-align: right !important; min-height: 120px !important; }
 #transcription-box.has-text textarea { border-color: #22c97a !important; box-shadow: 0 0 0 3px rgba(34,201,122,0.12) !important; }
-#gemma-box textarea { background: #0f0f13 !important; border: 1.5px solid #1e1e2a !important; border-radius: 14px !important; color: #e0e0ec !important; font-size: 1rem !important; line-height: 1.7 !important; padding: 1.2rem !important; direction: rtl !important; text-align: right !important; transition: border-color 0.4s, box-shadow 0.4s !important; min-height: 120px !important; }
+#gemma-box textarea { background: #0f0f13 !important; border: 1.5px solid #1e1e2a !important; border-radius: 14px !important; color: #e0e0ec !important; font-size: 1rem !important; line-height: 1.7 !important; padding: 1.2rem !important; direction: rtl !important; text-align: right !important; min-height: 120px !important; }
 #gemma-box.has-text textarea { border-color: #a855f7 !important; box-shadow: 0 0 0 3px rgba(168,85,247,0.12) !important; }
 .feedback-panel { background: #16161f; border: 1px solid #1e1e2a; border-radius: 14px; padding: 1.2rem 1.5rem; margin-top: 0.8rem; }
+
+/* ── Fix clignotement mobile sur audio long ─────────────────────── */
+/* Hauteur fixe + suppression des transitions sur le waveform        */
+.gr-audio, [data-testid="audio"], .audio-container {
+    height: 80px !important;
+    min-height: 80px !important;
+    max-height: 80px !important;
+    overflow: hidden !important;
+    contain: layout style !important;
+}
+.gr-audio *, [data-testid="audio"] *, .audio-container * {
+    transition: none !important;
+    animation: none !important;
+}
+/* Empêche le canvas waveform de forcer un reflow de page */
+.gr-audio canvas, [data-testid="audio"] canvas {
+    display: block !important;
+    width: 100% !important;
+    height: 48px !important;
+    max-height: 48px !important;
+}
+/* Stabilise les colonnes audio pendant l'enregistrement */
+.gr-audio .wrap, .audio-recorder {
+    position: relative !important;
+    height: 80px !important;
+    overflow: hidden !important;
+}
+
 footer { display: none !important; }
 """
 
@@ -515,10 +491,6 @@ with gr.Blocks(title="Whisper + Gemma · Darija", css=css, js=js) as demo:
             reset_btn = gr.Button("🔄 Réinitialiser tout", variant="danger")
 
     # ── Callbacks ─────────────────────────────────────────────────
-    # CORRECTION : chaîne en 2 étapes avec .then()
-    # Étape 1 → Whisper : affiche la transcription, Gemma reste vide
-    # Étape 2 → Gemma   : se lance APRÈS que Whisper a fini, en streaming
-
     mic_btn.click(
         fn=transcribe_only,
         inputs=[mic_input],
@@ -539,7 +511,6 @@ with gr.Blocks(title="Whisper + Gemma · Darija", css=css, js=js) as demo:
         outputs=[gemma_out, fb_whisper, fb_gemma, file_btn],
     )
 
-    # Régénération Gemma seule
     regenerate_btn.click(
         fn=regenerate_gemma_only,
         inputs=[],