Spaces:
Sleeping
Sleeping
Update app.py
Browse files
app.py
CHANGED
|
@@ -103,7 +103,14 @@ class Fallback:
|
|
| 103 |
self.ready = True
|
| 104 |
|
| 105 |
async def generate(self, text):
|
| 106 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 107 |
out = self.pipe(text, max_new_tokens=100)[0]["generated_text"]
|
| 108 |
return out
|
| 109 |
|
|
|
|
| 103 |
self.ready = True
|
| 104 |
|
| 105 |
async def generate(self, text):
|
| 106 |
+
# 💡 Здесь мы вставляем проверку памяти перед загрузкой модели
|
| 107 |
+
import psutil
|
| 108 |
+
if not self.ready and psutil.virtual_memory().percent < 85:
|
| 109 |
+
await self.load()
|
| 110 |
+
elif not self.ready:
|
| 111 |
+
print("⚠️ Недостаточно памяти для загрузки fallback модели.")
|
| 112 |
+
return "⚠️ Fallback model не загружена из-за нехватки памяти."
|
| 113 |
+
|
| 114 |
out = self.pipe(text, max_new_tokens=100)[0]["generated_text"]
|
| 115 |
return out
|
| 116 |
|