inance help

app.py

@@ -8,27 +8,20 @@ import gradio as gr
 
 from smolagents import LiteLLMModel
 
-# (опционально) меньше шума в логах
 warnings.filterwarnings("ignore", category=UserWarning, module="pydantic")
 
-
-# ----------------------------
-# Config (через env)
-# ----------------------------
-MODEL_NAME = os.getenv("MODEL_NAME", "qwen2.5-coder:3b")
+MODEL_NAME = os.getenv("MODEL_NAME", "qwen2.5-coder:1.5b")
 OLLAMA_BASE = os.getenv("OLLAMA_URL", "http://127.0.0.1:11434").rstrip("/")
 
-# CPU-friendly дефолты
-NUM_CTX = int(os.getenv("NUM_CTX", "4096"))
-MAX_TOKENS = int(os.getenv("MAX_TOKENS", "1024"))
+NUM_CTX = int(os.getenv("NUM_CTX", "2048"))
+MAX_TOKENS = int(os.getenv("MAX_TOKENS", "512"))
 LITELLM_TIMEOUT = int(os.getenv("LITELLM_TIMEOUT", "3600"))
 
-# single = 1 вызов модели (рекомендуется на CPU)
-# multi  = 3 вызова модели (triage/actions/writer) — медленнее
 PIPELINE = os.getenv("PIPELINE", "single").strip().lower()
 
 
 def make_model():
+    # ВАЖНО: фикс “string indices must be integers” на некоторых связках smolagents/litellm
     return LiteLLMModel(
         model_id=f"ollama_chat/{MODEL_NAME}",
         api_base=OLLAMA_BASE,
@@ -47,7 +40,6 @@ def llm_text(model: LiteLLMModel, user_prompt: str, system_prompt: str | None =
     messages.append({"role": "user", "content": user_prompt})
 
     resp = model(messages)
-    # smolagents модели иногда возвращают объект с .content, иногда уже строку
     if hasattr(resp, "content"):
         return (resp.content or "").strip()
     return str(resp).strip()
@@ -66,8 +58,7 @@ def _strip_html(raw_html: str) -> str:
 
 def web_search(query: str) -> str:
     """
-    Ищет краткую информацию в интернете по текстовому запросу (DuckDuckGo HTML)
-    и возвращает очищенный текст (без сырого HTML).
+    Поиск через DuckDuckGo HTML.
 
     Args:
         query: Текстовый поисковый запрос.
@@ -82,23 +73,23 @@ def web_search(query: str) -> str:
         headers={"User-Agent": "financial-aid-navigator-demo"},
     )
     resp.raise_for_status()
-    text = _strip_html(resp.text)
-    return text[:4500]
+    return _strip_html(resp.text)[:4500]
 
 
 def _friendly_error(e: Exception) -> str:
     return (
         "### Ошибка\n\n"
-        "Запрос к Ollama/модели не выполнился.\n\n"
-        "На CPU чаще всего помогает:\n"
-        "- Модель поменьше (`qwen2.5-coder:1.5b` или `qwen2.5-coder:3b`)\n"
-        "- `NUM_CTX=2048..4096`\n"
-        "- `MAX_TOKENS=512..1024`\n\n"
+        "Бэкенд получил запрос, но он завершился ошибкой.\n\n"
         "Текст ошибки:\n"
         f"```text\n{repr(e)}\n```"
     )
 
 
+def ping():
+    print("[ping] clicked", flush=True)
+    return "pong ✅ (кнопка работает, бэкенд отвечает)"
+
+
 def build_web_context(region: str, allow_internet: bool) -> str:
     if not allow_internet:
         return ""
@@ -106,56 +97,49 @@ def build_web_context(region: str, allow_internet: bool) -> str:
     q1 = f"emergency financial assistance {region}"
     q2 = "how to avoid financial aid scams"
 
-    try:
-        r1 = web_search(q1)
-    except Exception as e:
-        r1 = f"(web_search ошибка по запросу '{q1}': {repr(e)})"
+    print(f"[web] search 1: {q1}", flush=True)
+    r1 = web_search(q1)
 
-    try:
-        r2 = web_search(q2)
-    except Exception as e:
-        r2 = f"(web_search ошибка по запросу '{q2}': {repr(e)})"
+    print(f"[web] search 2: {q2}", flush=True)
+    r2 = web_search(q2)
 
     return (
-        "## Результаты web_search (для внутреннего использования в ответе)\n"
+        "## Результаты web_search (внутренний контекст)\n"
         f"### Поиск 1: {q1}\n{r1}\n\n"
         f"### Поиск 2: {q2}\n{r2}\n"
     )
 
 
-def run_fin_aid(
-    case_description: str,
-    region: str,
-    urgency: str,
-    allow_internet: bool,
-):
-    model = make_model()
-    web_ctx = build_web_context(region, allow_internet)
-
-    system = (
-        "Ты помощник по финансовой навигации. Всегда отвечай на РУССКОМ.\n"
-        "Правила безопасности:\n"
-        "- НЕ проси и НЕ предлагай вводить чувствительные данные: номера карт, CVV, пароли, коды из SMS, полный паспорт/ID.\n"
-        "- Можно спрашивать безопасные категории: диапазоны сумм, сроки, тип дохода, примерные расходы.\n"
-        "- Никаких инвестсоветов. Фокус: кризисная поддержка, бюджет, варианты помощи.\n"
-    )
+def run_fin_aid(case_description: str, region: str, urgency: str, allow_internet: bool):
+    # ЭТО ДОЛЖНО ПЕЧАТАТЬСЯ СРАЗУ ПРИ КЛИКЕ
+    print("[run] button clicked", flush=True)
+    print(f"[run] region={region!r} urgency={urgency!r} internet={allow_internet}", flush=True)
+
+    try:
+        model = make_model()
+        system = (
+            "Ты помощник по финансовой навигации. Всегда отвечай на РУССКОМ.\n"
+            "Безопасность:\n"
+            "- НЕ проси номера карт, CVV, пароли, SMS-коды, полный паспорт/ID.\n"
+            "- Можно спрашивать безопасные категории: диапазоны сумм, сроки, статус аренды.\n"
+            "- Никаких инвестсоветов. Фокус: кризисная поддержка, бюджет, варианты помощи.\n"
+        )
+
+        web_ctx = build_web_context(region, allow_internet)
+        print("[run] web_ctx ready", flush=True)
 
-    if PIPELINE != "multi":
         prompt = f"""
-Сформируй ГОТОВЫЙ отчёт для человека в Markdown.
+Сформируй ГОТОВЫЙ отчёт в Markdown.
 
 Структура:
 # План финансовой помощи
 ## Важно
-- дисклеймер: не юр/фин совет; при угрозе выселения/насилия/суицида — местные службы
-- не сообщать коды, CVV, пароли; осторожно с предоплатами и "мгновенными списаниями"
 ## Сводка ситуации
 ## Приоритеты
 ### Сегодня (24–72 часа)
 ### На неделе
 ### В течение месяца
 ## Варианты помощи в регионе
-- 5–10 пунктов (гос/НКО/жильё/коммуналка/долги/соцслужбы). Если точных названий нет — категории.
 ## Пошаговый план
 ## Мини-бюджет на 30 дней
 ## Анти-мошенничество
@@ -169,120 +153,60 @@ def run_fin_aid(
 
 {web_ctx}
 """
-        try:
-            return llm_text(model, textwrap.dedent(prompt), system_prompt=system)
-        except Exception as e:
-            return _friendly_error(e)
-
-    # ----------------------------
-    # Multi pipeline (3 вызова модели) — медленнее на CPU
-    # ----------------------------
-    triage_prompt = f"""
-Ты агент Triage. Сформируй структуру:
-- Краткое резюме (2–4 предложения)
-- Допущения (список)
-- Приоритеты по срочности: сегодня / на неделе / в течение месяца
-- Риски (выселение/отключения/штрафы/коллекторы/мошенники/перегрузка)
-- Какие данные подготовить (безопасный список)
-- Вопросы для уточнения (до 8)
+        print("[run] calling model...", flush=True)
+        out = llm_text(model, textwrap.dedent(prompt), system_prompt=system)
+        print("[run] model returned", flush=True)
+        return out
 
-Срочность: {urgency}
-Регион: {region}
-Описание:
-{case_description}
-
-{web_ctx}
-"""
-    actions_prompt = """
-Ты агент Actions.
-На основе Triage дай:
-1) Список конкретных действий по 3 корзинам: urgent / short_term / mid_term.
-2) Список вариантов помощи (resources): government/ngo/debt_counseling/housing/utilities/other.
-Формат — Markdown, без Python-структур.
-"""
-
-    writer_prompt = """
-Ты агент Writer.
-Собери финальный отчёт в Markdown по шаблону:
-
-# План финансовой помощи
-## Важно
-## Сводка ситуации
-## Приоритеты
-### Сегодня (24–72 часа)
-### На неделе
-### В течение месяца
-## Варианты помощи в регионе
-## Пошаговый план
-## Мини-бюджет на 30 дней
-## Анти-мошенничество
-## Что подготовить
-## Вопросы для уточнения (до 8)
-
-НЕ проси чувствительные данные.
-"""
-
-    try:
-        triage = llm_text(model, textwrap.dedent(triage_prompt), system_prompt=system)
-        actions = llm_text(model, actions_prompt + "\n\nВход (Triage):\n" + triage, system_prompt=system)
-        final_report = llm_text(
-            model,
-            writer_prompt + "\n\nВход (Triage):\n" + triage + "\n\nВход (Actions):\n" + actions,
-            system_prompt=system,
-        )
-        return final_report
     except Exception as e:
+        print("[run] ERROR:", repr(e), flush=True)
         return _friendly_error(e)
 
 
-with gr.Blocks(title="Financial Aid Navigator (CPU)") as demo:
-    gr.Markdown("# Financial Aid Navigator (Ollama on CPU)")
+print("[boot] app.py loaded", flush=True)
+
+with gr.Blocks(title="Financial Aid Navigator (CPU debug)") as demo:
+    gr.Markdown("# Financial Aid Navigator (CPU debug)")
     gr.Markdown(
         f"- Model: `{MODEL_NAME}`\n"
         f"- Ollama: `{OLLAMA_BASE}`\n"
-        f"- PIPELINE: `{PIPELINE}` (single рекомендуем на CPU)\n"
-        f"- NUM_CTX: `{NUM_CTX}`, MAX_TOKENS: `{MAX_TOKENS}`, TIMEOUT: `{LITELLM_TIMEOUT}`"
+        f"- NUM_CTX: `{NUM_CTX}`, MAX_TOKENS: `{MAX_TOKENS}`, TIMEOUT: `{LITELLM_TIMEOUT}`\n"
+        f"- PIPELINE: `{PIPELINE}`"
     )
 
-    region = gr.Textbox(
-        label="Регион",
-        placeholder="Например: Нидерланды, Амстердам / Казахстан, Алматы / Польша, Варшава",
-        lines=1,
-    )
+    with gr.Row():
+        ping_btn = gr.Button("Ping (проверка клика)")
+        ping_out = gr.Markdown()
+
+    ping_btn.click(fn=ping, inputs=None, outputs=ping_out, queue=False)
+
+    region = gr.Textbox(label="Регион", lines=1)
     urgency = gr.Dropdown(
         ["срочно (24–72 часа)", "в течение недели", "не срочно (в течение месяца)"],
         value="в течение недели",
         label="Срочность",
     )
-    case_description = gr.Textbox(
-        label="Описание ситуации",
-        lines=9,
-        placeholder=(
-            "Опишите кратко: что случилось, есть ли долги/просрочки, аренда/ипотека, "
-            "примерный уровень доходов/расходов (можно диапазонами), что самое срочное."
-        ),
-    )
-    allow_internet = gr.Checkbox(
-        label="Разрешить поиск в интернете (DuckDuckGo через requests)",
-        value=False,
-    )
+    case_description = gr.Textbox(label="Описание ситуации", lines=8)
+    allow_internet = gr.Checkbox(label="Разрешить поиск в интернете", value=False)
 
     run_btn = gr.Button("Сформировать план помощи")
     output = gr.Markdown()
 
+    # queue=False чтобы исключить зависания очереди на вашей версии gradio
     run_btn.click(
         fn=run_fin_aid,
         inputs=[case_description, region, urgency, allow_internet],
-        outputs=[output],
+        outputs=output,
+        queue=False,
     )
 
-    # В вашей версии Gradio concurrency_count не поддерживается — оставляем совместимо
-    demo.queue(max_size=20)
-
+    # очередь можно включить позже, когда всё заработает
+    # demo.queue(max_size=20)
 
 def main():
-    demo.launch(show_error=True)
-
+    server_name = os.getenv("GRADIO_SERVER_NAME", "0.0.0.0")
+    server_port = int(os.getenv("GRADIO_SERVER_PORT", "7860"))
+    demo.launch(server_name=server_name, server_port=server_port, show_error=True)
 
 if __name__ == "__main__":
     main()