T5 models switcher. app.py v1.7

app.py

@@ -5,7 +5,40 @@ from itertools import cycle
 from core.utils import generate_first_question
 from core.mbti_analyzer import analyze_mbti
 from core.interviewer import generate_question, session_state
+from transformers import AutoTokenizer, AutoModelForSeq2SeqLM, pipeline
 
+# --------------------------------------------------------------
+# ⚙️ Проверка и автоматический fallback T5 модели
+# --------------------------------------------------------------
+def load_qg_model():
+    """
+    Пытаемся загрузить лёгкую T5-модель для генерации вопросов.
+    Если первая не доступна, переключаемся на запасную.
+    """
+    MODEL_CANDIDATES = [
+        "mrm8488/t5-small-finetuned-question-generation-ap",  # быстрая, но часто недоступна
+        "iarfmoose/t5-base-question-generator",               # качественная, чуть медленнее
+        "google/flan-t5-small"                                # fallback — всегда доступна
+    ]
+    for name in MODEL_CANDIDATES:
+        try:
+            tok = AutoTokenizer.from_pretrained(name)
+            mdl = AutoModelForSeq2SeqLM.from_pretrained(name)
+            print(f"✅ Loaded interviewer model: {name}")
+            return pipeline(
+                "text2text-generation",
+                model=mdl,
+                tokenizer=tok,
+                max_new_tokens=40,
+                num_beams=4,
+                no_repeat_ngram_size=4,
+            )
+        except Exception as e:
+            print(f"⚠️ Failed to load {name}: {e}")
+    raise RuntimeError("❌ No available T5 model for question generation.")
+
+# глобальный экземпляр пайплайна
+QG_PIPE = load_qg_model()
 
 # --------------------------------------------------------------
 # 🌀 Асинхронная анимация "Thinking..."
@@ -16,7 +49,6 @@ async def async_loader(update_fn, delay=0.15):
         update_fn(f"💭 Interviewer is thinking... {frame}")
         await asyncio.sleep(delay)
 
-
 # --------------------------------------------------------------
 # ⚙️ Основная логика
 # --------------------------------------------------------------
@@ -32,28 +64,28 @@ def analyze_and_ask(user_text, prev_count):
         n = 1
     counter = f"{n}/8"
 
-    # 1️⃣ Мгновенная реакция — "анализ начинается"
+    # мгновенный отклик
     yield "⏳ Analyzing personality...", "💭 Interviewer is thinking... ⠋", counter
 
-    # 2️⃣ Анализ MBTI
+    # анализ MBTI (стриминг)
     mbti_gen = analyze_mbti(user_text)
     mbti_text = ""
     for chunk in mbti_gen:
         mbti_text = chunk
-        yield mbti_text, "💭 Interviewer is thinking... ⠹", counter
+        yield mbti_text, "💭 Interviewer is thinking... ⠙", counter
 
-    # 3️⃣ Генерация вопроса
-    question = generate_question(user_id=user_id, user_answer=user_text)
+    # генерация вопроса
+    try:
+        question = generate_question(user_id=user_id, user_answer=user_text, qg_pipe=QG_PIPE)
+    except Exception as e:
+        question = f"⚠️ Question generator error: {e}"
 
-    # 4️⃣ Проверяем завершение сессии
     if question.startswith("✅ All"):
         yield f"{mbti_text}\n\nSession complete.", "🎯 All MBTI axes covered.", "8/8"
         return
 
-    # 5️⃣ Финальный вывод
     yield mbti_text, question, counter
 
-
 # --------------------------------------------------------------
 # 🧱 Интерфейс Gradio
 # --------------------------------------------------------------
@@ -68,29 +100,25 @@ with gr.Blocks(theme=gr.themes.Soft(), title="MBTI Personality Interviewer") as
             inp = gr.Textbox(
                 label="Ваш ответ",
                 placeholder="Например: I enjoy working with people and organizing events.",
-                lines=4
+                lines=4,
             )
             btn = gr.Button("Анализировать и задать новый вопрос", variant="primary")
-
         with gr.Column(scale=1):
             mbti_out = gr.Textbox(label="📊 Анализ MBTI", lines=4)
             interviewer_out = gr.Textbox(label="💬 Следующий вопрос", lines=3)
             progress = gr.Textbox(label="⏳ Прогресс", value="0/8")
 
-    # Асинхронная обработка
     btn.click(
         analyze_and_ask,
         inputs=[inp, progress],
         outputs=[mbti_out, interviewer_out, progress],
-        show_progress=True
+        show_progress=True,
     )
 
-    # Стартовый вопрос при загрузке
     demo.load(
         lambda: ("", generate_first_question(), "0/8"),
         inputs=None,
-        outputs=[mbti_out, interviewer_out, progress]
+        outputs=[mbti_out, interviewer_out, progress],
     )
 
-# Очеред�� нужна для стриминга, но без старого аргумента concurrency_count
 demo.queue(max_size=32).launch(server_name="0.0.0.0", server_port=7860)