Create app.py

app.py

@@ -0,0 +1,48 @@
+import gradio as gr
+import torch
+from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
+
+# Загрузка модели и токенизатора
+model_name = "data-silence/any-news-sum"
+tokenizer = AutoTokenizer.from_pretrained(model_name)
+model = AutoModelForSeq2SeqLM.from_pretrained(model_name)
+
+device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
+model.to(device)
+
+def generate_summary_with_special_tokens(text, max_length=512):
+    inputs = tokenizer(text, return_tensors="pt", max_length=max_length, truncation=True).to(device)
+    
+    outputs = model.generate(
+        **inputs,
+        max_length=max_length,
+        num_return_sequences=1,
+        no_repeat_ngram_size=4,
+    )
+    
+    generated_text = tokenizer.decode(outputs[0], skip_special_tokens=False)
+    
+    # Разделение на заголовок и резюме
+    parts = generated_text.split('<title_resume_sep>')
+    title = parts[0].replace("<pad> ", "").strip()
+    resume = parts[1].replace("</s>", "").strip() if len(parts) > 1 else ""
+    
+    return title, resume
+
+def summarize(text):
+    title, resume = generate_summary_with_special_tokens(text)
+    return title, resume
+
+# Создание интерфейса Gradio
+iface = gr.Interface(
+    fn=summarize,
+    inputs=gr.Textbox(lines=10, label="Введите текст новости"),
+    outputs=[
+        gr.Textbox(label="Сгенерированный заголовок"),
+        gr.Textbox(label="Сгенерированное резюме")
+    ],
+    title="Генератор заголовков и резюме новостей",
+    description="Введите текст новости, и модель создаст для неё заголовок и краткое резюме."
+)
+
+iface.launch()