Update app.py

app.py

@@ -3,21 +3,26 @@ import uvicorn
 from PIL import Image
 from fastapi import FastAPI, UploadFile, File, Response
 from transformers import pipeline
+import torch 
 
 # --- 1. Глобальная загрузка модели (СВЕРХБЫСТРЫЙ СТАРТ) ---
 # Модель загружается только один раз при запуске сервера.
 # Используем пайплайн для простоты и эффективности.
 try:
     print(">>> Загрузка модели LightOnOCR-1B-1025... Это может занять несколько минут при первом запуске.")
-    # Используем torch.bfloat16 для ускорения и уменьшения потребления памяти, если доступно
+    # Этот код теперь будет работать, так как torch импортирован!
+    device_to_use = "cuda" if torch.cuda.is_available() else "cpu"
+    dtype_to_use = torch.bfloat16 if device_to_use == "cuda" else None
+    
     ocr_pipeline = pipeline(
         "image-to-text",
         model="lightonai/LightOnOCR-1B-1025",
-        device="cuda" if torch.cuda.is_available() else "cpu", # Используем GPU, если он доступен
-        torch_dtype=torch.bfloat16 if torch.cuda.is_available() else None,
+        device=device_to_use, 
+        torch_dtype=dtype_to_use,
     )
     print(">>> Модель успешно загружена!")
 except Exception as e:
+    # Ошибка 503 возникает, потому что код попадает сюда.
     print(f"Ошибка при загрузке модели: {e}")
     ocr_pipeline = None