Update app.py

app.py

@@ -8,28 +8,26 @@ model = None
 def load_model():
     global model
     try:
-        # Выводим текущую директорию и список файлов
-        current_dir = os.getcwd()
-        files = os.listdir(current_dir)
-        print(f"Текущая директория: {current_dir}")
-        print(f"Список файлов: {files}")
+        print("Начинаем загрузку модели из Hub...")
         
-        # Проверяем существование файла модели
-        model_path = "Llight.Q8_0.gguf"
-        if not os.path.exists(model_path):
-            raise FileNotFoundError(f"Модель не найдена по пути: {model_path}")
+        # Загружаем файл модели из Hub
+        model_path = hf_hub_download(
+            repo_id="AugustLight/LLight-3.2-3B-Instruct",
+            filename="Llight.Q8_0.gguf",
+            repo_type="model"
+        )
+        
+        print(f"Модель загружена в: {model_path}")
         
-        # Загружаем модель с правильными параметрами
-        print("Начинаем загрузку модели...")
+        # Инициализируем модель
         model = AutoModelForCausalLM.from_pretrained(
             model_path,
             model_type="llama",
             context_length=2048,
             gpu_layers=0,
-            threads=4,
-            batch_size=8
+            threads=4
         )
-        print("Модель успешно загружена!")
+        print("Модель успешно инициализирована!")
         return model
         
     except Exception as e: