Update app.py

app.py

@@ -1,5 +1,5 @@
 import gradio as gr
-from ctransformers import AutoModelForCausalLM, Config
+from ctransformers import AutoModelForCausalLM
 import os
 
 # Глобальная переменная для модели
@@ -19,20 +19,15 @@ def load_model():
         if not os.path.exists(model_path):
             raise FileNotFoundError(f"Модель не найдена по пути: {model_path}")
         
-        # Конфигурация модели
-        config = Config(
-            model_path=model_path,
-            model_type="llama",
-            context_length=2048,
-            gpu_layers=0,
-            threads=4
-        )
-        
-        # Пробуем загрузить модель с конфигурацией
+        # Загружаем модель с правильными параметрами
         print("Начинаем загрузку модели...")
         model = AutoModelForCausalLM.from_pretrained(
             model_path,
-            config=config
+            model_type="llama",
+            context_length=2048,
+            gpu_layers=0,
+            threads=4,
+            batch_size=8
         )
         print("Модель успешно загружена!")
         return model