Update app.py

app.py

@@ -2,6 +2,7 @@ from fastapi import FastAPI
 from fastapi.responses import PlainTextResponse
 from pydantic import BaseModel
 from transformers import AutoTokenizer, AutoModelForCausalLM, TextIteratorStreamer
+from deep_translator import GoogleTranslator
 import torch
 import uvicorn
 import threading
@@ -26,6 +27,12 @@ class Message(BaseModel):
     message: str
 
 
+# 🔥 РАЗБИВКА ТЕКСТА
+def split_text(text, max_len=25):
+    return "\n".join([text[i:i+max_len] for i in range(0, len(text), max_len)])
+
+
+# 🔥 СТРИМИНГ ГЕНЕРАЦИИ
 def generate_ai_stream(message: str):
     prompt = f"User: {message}\nAssistant: Answer clearly and fully:\n"
 
@@ -49,15 +56,20 @@ def generate_ai_stream(message: str):
 
     partial = ""
 
-    # 🔥 STREAMING
+    # 🔥 ПОТОКОВАЯ ГЕНЕРАЦИЯ
     for text in streamer:
         partial += text
 
         if message in db:
-            db[message]["reply"] = partial
+            db[message]["reply"] = split_text(partial)
+
+    # 🔥 ПЕРЕВОД В КОНЦЕ
+    try:
+        translated = GoogleTranslator(source='en', target='ru').translate(partial.strip())
+    except:
+        translated = partial.strip()  # fallback если перевод упал
 
-    # 🔥 КОНЕЦ ГЕНЕРАЦИИ (ВОТ ТУТ ДЕТЕКТ)
-    final_text = partial.strip() + " full generated"
+    final_text = split_text(translated) + " full generated"
 
     if message in db:
         db[message]["reply"] = final_text
@@ -65,6 +77,7 @@ def generate_ai_stream(message: str):
     return final_text
 
 
+# 🔥 ВОРКЕР
 def worker():
     while True:
         if queue:
@@ -82,6 +95,7 @@ def worker():
             time.sleep(0.01)
 
 
+# 🔥 ЗАПУСК НЕСКОЛЬКИХ ПОТОКОВ
 for _ in range(NUM_WORKERS):
     threading.Thread(target=worker, daemon=True).start()
 
@@ -91,6 +105,7 @@ async def root():
     return PlainTextResponse("AI server работает")
 
 
+# 🔹 ASK
 @app.get("/ask")
 async def ask(message: str):
 
@@ -107,6 +122,7 @@ async def ask(message: str):
     return PlainTextResponse("accepted")
 
 
+# 🔹 GET (стриминг)
 @app.get("/get")
 async def get(message: str):