try different model

app.py

@@ -15,7 +15,7 @@ from transformers import BitsAndBytesConfig, AutoModelForCausalLM
 load_dotenv()
 app = FastAPI()
 
-model_name = "deepseek-ai/DeepSeek-R1"
+model_name = "numind/NuExtract-1.5"
 
 MODEL_CACHE = "/home/user/app/model_cache"
 
@@ -49,7 +49,8 @@ def load_model():
     print("Loading model and tokenizer...", flush=True)
     global model, tokenizer
     model = AutoModelForCausalLM.from_pretrained(
-        MODEL_CACHE,
+        model_name,
+        cache_dir=MODEL_CACHE,
         local_files_only=True,
         torch_dtype=dtype,
         trust_remote_code=True,
@@ -57,7 +58,8 @@ def load_model():
         device_map="auto"
     ).to(device).eval()
     tokenizer = AutoTokenizer.from_pretrained(
-        MODEL_CACHE,
+        model_name,
+        cache_dir=MODEL_CACHE,
         local_files_only=True,
         trust_remote_code=True,
         device_map="auto"
@@ -90,7 +92,7 @@ def predict_NuExtract(texts, template, batch_size=1, max_length=5096, max_new_to
         "Exemple 3 : \n"
         "Texte : \"...mai 2025 – juin 2026...\"\n"
         "Output : \"start_date\": \"05/2025\", \"end_date\": \"06/2026\"\n"
-        "Extraction des dates est *très* importante\n"
+        "Extraction des dates est *très* importante. Ne laisse jamais les dates vides\n"
         "Exemples types de formations :  CAP Boucherie, Licence Pro Métiers de l’Énergétique, Baccalauréat Général\n"
         "Exemples catégories de formations :  Transport, énergie, langues, esthétique\n"
         "Exemples mobilités :  permis B, permis C, permis D. si y'a juste la mention de permis on considère que c'est le permis B. N’inclure que les permis explicitement mentionnés dans le texte. S’il n’y a aucune mention de permis, renvoyer une liste vide.\n"