Yermek68 commited on
Commit
45bd322
·
verified ·
1 Parent(s): 3afb712

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +8 -1
app.py CHANGED
@@ -103,7 +103,14 @@ class Fallback:
103
  self.ready = True
104
 
105
  async def generate(self, text):
106
- await self.load()
 
 
 
 
 
 
 
107
  out = self.pipe(text, max_new_tokens=100)[0]["generated_text"]
108
  return out
109
 
 
103
  self.ready = True
104
 
105
  async def generate(self, text):
106
+ # 💡 Здесь мы вставляем проверку памяти перед загрузкой модели
107
+ import psutil
108
+ if not self.ready and psutil.virtual_memory().percent < 85:
109
+ await self.load()
110
+ elif not self.ready:
111
+ print("⚠️ Недостаточно памяти для загрузки fallback модели.")
112
+ return "⚠️ Fallback model не загружена из-за нехватки памяти."
113
+
114
  out = self.pipe(text, max_new_tokens=100)[0]["generated_text"]
115
  return out
116