Update app.py

app.py

@@ -20,6 +20,7 @@ from transformers import (
     TextIteratorStreamer,
     Qwen2VLForConditionalGeneration,
     AutoProcessor,
+    AutoConfig,
 )
 from transformers.image_utils import load_image
 
@@ -48,11 +49,20 @@ def progress_bar_html(label: str) -> str:
 </style>
     '''
 
-# TEXT MODEL - Utiliser Napoleon 4B au lieu de FastThink
+# TEXT MODEL - Utiliser Napoleon 4B avec configuration modifiée
 model_id = "baconnier/Napoleon_4B_V0.0" 
+
+# Charger la configuration
+config = AutoConfig.from_pretrained(model_id)
+
+# Ajouter l'attribut vocab_size manuellement si nécessaire
+if not hasattr(config, "vocab_size"):
+    config.vocab_size = 32000  # Valeur standard pour les modèles basés sur Llama
+
 tokenizer = AutoTokenizer.from_pretrained(model_id)
 model = AutoModelForCausalLM.from_pretrained(
     model_id,
+    config=config,
     device_map="auto",
     torch_dtype=torch.bfloat16,
 )