Update app.py

app.py

@@ -1,85 +1,57 @@
-from llama_cpp import Llama
 import gradio as gr
+from llama_cpp import Llama
 import os
 
-# Локальный путь, куда будет скачана модель при запуске
-MODEL_PATH = "unsloth.Q4_K_M.gguf"
-
-# Если модели ещё нет — скачиваем
-if not os.path.exists(MODEL_PATH):
-    import requests
-
-    url = "https://huggingface.co/eliza555beth2002/DeepSeek-R1-Distill-Text2SQL-OneEpoch-GGUF-q4/resolve/main/unsloth.Q4_K_M.gguf"
-    print("📥 Скачиваю модель из Hugging Face...")
-    r = requests.get(url, stream=True)
-    with open(MODEL_PATH, "wb") as f:
-        for chunk in r.iter_content(chunk_size=8192):
-            f.write(chunk)
-    print("Модель скачана успешно!")
-
-# Загружаем модель Llama.cpp
-llm = Llama(
-    model_path=MODEL_PATH,
-    n_ctx=4096,
-    n_threads=4,
-    n_gpu_layers=0,  # если на CPU — ставим 0
-    verbose=False,
+# Загрузка модели (GGUF из HF)
+model_path = "eliza555beth2002/DeepSeek-R1-Distill-Text2SQL-OneEpoch-GGUF-q4"
+llm = Llama.from_pretrained(
+    model_path,
+    n_ctx=2048,  # Контекст для схемы БД
+    n_gpu_layers=-1,  # Использовать GPU, если доступно
+    verbose=False
 )
 
-# Основная функция
-def text2sql(question):
-    schema = """
-    create table Authors(
-        AuthorID integer not null primary key check(AuthorID>0),
-        AuthorFIO varchar(40) not null
-    );
-    create table Books(
-        Cipher integer not null primary key check(Cipher>0),
-        BookName varchar(4000) not null,
-        BookTheme varchar(30) not null
-        check(BookTheme in('Любовь','Дружба','Смерть','Общественные проблемы','Внутренние противоречия')),
-        BookGenre varchar(15) not null
-        check(BookGenre in('Роман','Поэма','Рассказ','Пьеса','Эпопея','Драма'))
-    );
-    create table Wrote(
-        IDAuthor integer not null check(IDAuthor>0),
-        BookCipher integer not null check(BookCipher>0),
-        foreign key(IDAuthor) references Authors(AuthorID),
-        foreign key(BookCipher) references Books(Cipher),
-        primary key(IDAuthor, BookCipher)
-    );
-    """
+def generate_sql(natural_query, db_schema):
+    # Шаблон промпта для Text2SQL (адаптируйте, если у модели другой)
+    prompt = f"""You are a SQL expert. Given the database schema below, generate a valid SQL query for the natural language question.
 
-    prompt = f"""Ты — помощник, который преобразует естественный язык в SQL.
-Используй приведённую схему таблиц.
-Вопрос: {question}
-Контекст базы данных:
-{schema}
+    Database Schema:
+    {db_schema}
 
-Ответь ТОЛЬКО SQL-запросом в формате:
-```sql
-SELECT ...
-```"""
+    Question: {natural_query}
 
-    # Генерация
+    SQL Query:"""
+    
     output = llm(
         prompt,
-        max_tokens=512,
-        temperature=0.2,
-        stop=["```"],
+        max_tokens=150,
+        stop=[";", "\n\n"],
+        echo=False
+    )
+    sql_query = output['choices'][0]['text'].strip()
+    return sql_query
+
+# Gradio интерфейс
+with gr.Blocks(title="Text2SQL Demo") as demo:
+    gr.Markdown("# Text2SQL: Преобразование текста в SQL")
+    with gr.Row():
+        natural_input = gr.Textbox(label="Вопрос на естественном языке", placeholder="Найди всех пользователей старше 30 лет")
+        schema_input = gr.Textbox(label="Схема БД (таблицы и поля)", placeholder="CREATE TABLE users (id INT, name VARCHAR, age INT);")
+    output = gr.Textbox(label="Сгенерированный SQL")
+    submit_btn = gr.Button("Генерировать SQL")
+    
+    submit_btn.click(
+        fn=generate_sql,
+        inputs=[natural_input, schema_input],
+        outputs=output
+    )
+    gr.Examples(
+        examples=[
+            ["Сколько продуктов дороже 100?", "CREATE TABLE products (id INT, name VARCHAR, price DECIMAL);"],
+            ["Пользователи из Москвы", "CREATE TABLE users (id INT, name VARCHAR, city VARCHAR);"]
+        ],
+        inputs=[natural_input, schema_input]
     )
-
-    text = output["choices"][0]["text"].strip()
-    return text
-
-# Интерфейс Gradio
-demo = gr.Interface(
-    fn=text2sql,
-    inputs=gr.Textbox(label="Введите вопрос на естественном языке"),
-    outputs=gr.Textbox(label="Сгенерированный SQL-запрос"),
-    title="🧠 DeepSeek Text2SQL Demo",
-    description="Модель DeepSeek-R1-Distill преобразует текст в SQL-запрос по заданной схеме."
-)
 
 if __name__ == "__main__":
-    demo.launch()
+    demo.launch()