Update asr_tool.py

asr_tool.py

@@ -1,5 +1,6 @@
 from faster_whisper import WhisperModel
 import os
+import torch # Lägg till import av torch för att kontrollera GPU
 
 # Globalt model för att undvika återladdning
 model = None
@@ -7,7 +8,12 @@ model = None
 def get_model():
     global model
     if model is None:
-        model = WhisperModel("base", device="cpu", compute_type="int8")
+        # Kontrollera om GPU är tillgänglig och använd den
+        device = "cuda" if torch.cuda.is_available() else "cpu"
+        # Använd float16 för att dra nytta av GPU:n, int8_float16 är också ett alternativ
+        compute_type = "float16" if device == "cuda" else "int8" 
+        print(f"Laddar Whisper-modell på {device} med compute_type={compute_type}")
+        model = WhisperModel("base", device=device, compute_type=compute_type)
     return model
 
 def transcribe_audio(audio_path: str) -> str:
@@ -25,3 +31,4 @@ def transcribe_audio(audio_path: str) -> str:
     except Exception as e:
         return f"Error transcribing audio: {str(e)}"
 
+