Genn9508 commited on
Commit
a9fbd4c
·
verified ·
1 Parent(s): 2c7da7c

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +33 -33
app.py CHANGED
@@ -13,55 +13,55 @@ model = ORTModelForSeq2SeqLM.from_pretrained(
13
  tokenizer = AutoTokenizer.from_pretrained("Genn9508/Sss")
14
 
15
  # Пайплайн
16
- pipe = pipeline("text2text-generation", model=model, tokenizer=tokenizer)
17
 
18
- # Функция генерации
19
- def generate(text, task):
20
- if task == "Сделать кратко":
21
- prompt = f"сделай кратко: {text}"
22
- elif task == "Перевести на английский":
23
- prompt = f"переведи на английский: {text}"
24
- elif task == "Перефразировать":
25
- prompt = f"перефразируй: {text}"
26
- else:
27
- prompt = text
28
-
29
- result = pipe(prompt, max_length=100, min_length=10, do_sample=False, no_repeat_ngram_size=2)
30
- return result[0]['generated_text']
 
 
31
 
32
  # Интерфейс
33
  with gr.Blocks(theme=gr.themes.Soft()) as demo:
34
- gr.Markdown("# 🚀 T5 ONNX INT8Sss by Genn9508")
35
- gr.Markdown("Модель оптимизирована для быстрой генерации: суммаризация, перевод, перефразирование.")
36
-
37
- with gr.Row():
38
- task = gr.Radio(
39
- ["Сделать кратко", "Перевести на английский", "Перефразировать"],
40
- label="Выберите задачу",
41
- value="Сделать кратко"
42
- )
43
 
44
  with gr.Row():
45
  with gr.Column(scale=2):
46
  input_text = gr.Textbox(
47
- label="Введите текст",
48
- placeholder="Например: Искусственный интеллект меняет все сферы жизни...",
49
- lines=5
50
  )
51
- btn = gr.Button("🚀 Обработать", variant="primary")
52
 
53
  with gr.Column(scale=2):
54
- output_text = gr.Textbox(label="Результат", lines=5, interactive=False)
 
 
 
 
55
 
56
- btn.click(fn=generate, inputs=[input_text, task], outputs=output_text)
57
 
58
  gr.Examples(
59
  [
60
- ["Сделай кратко", "Искусственный интеллект развивается быстрыми темпами и влияет на образование, медицину и транспорт."],
61
- ["Перевести на английский", ривет Как дела? Сегодня отличная погода."],
62
- ["Перефразировать", тот фильм очень интересный и захватывающий."]
63
  ],
64
- inputs=[task, input_text]
 
65
  )
66
 
67
  demo.launch()
 
13
  tokenizer = AutoTokenizer.from_pretrained("Genn9508/Sss")
14
 
15
  # Пайплайн
16
+ pipe = pipeline("summarization", model=model, tokenizer=tokenizer)
17
 
18
+ # Функция суммаризации
19
+ def summarize(text):
20
+ if not text.strip():
21
+ return "Введите текст для краткого изложения."
22
+
23
+ # Генерация краткого варианта
24
+ result = pipe(
25
+ text,
26
+ max_length=100, # максимум слов в выводе
27
+ min_length=20, # минимум — чтобы не было слишком коротко
28
+ do_sample=False, # детерминированная генерация
29
+ no_repeat_ngram_size=2,
30
+ truncation=True # если текст длиннее 512 токенов
31
+ )
32
+ return result[0]['summary_text']
33
 
34
  # Интерфейс
35
  with gr.Blocks(theme=gr.themes.Soft()) as demo:
36
+ gr.Markdown("# 📝 ONNX T5Суммаризатор текста")
37
+ gr.Markdown("Модель оптимизирована для **краткого изложения текста**. Просто введите любой текст — и получите краткую версию.")
 
 
 
 
 
 
 
38
 
39
  with gr.Row():
40
  with gr.Column(scale=2):
41
  input_text = gr.Textbox(
42
+ label="Текст для краткого изложения",
43
+ placeholder="Введите текст (статью, отзыв, письмо и т.д.) модель сделает кратко.",
44
+ lines=6
45
  )
46
+ btn = gr.Button(" Сделать кратко", variant="primary")
47
 
48
  with gr.Column(scale=2):
49
+ output_text = gr.Textbox(
50
+ label="Краткое изложение",
51
+ lines=6,
52
+ interactive=False
53
+ )
54
 
55
+ btn.click(fn=summarize, inputs=input_text, outputs=output_text)
56
 
57
  gr.Examples(
58
  [
59
+ ["Искусственный интеллект меняет мир. Он используется в медицине, образовании, транспорте и других сферах. Благодаря ИИ люди могут решать сложные задачи быстрее и точнее."],
60
+ ["Компания запустила новый продукт. Он помогает автоматизировать рутинные задачи. Пользователи уже оставили положительные отзывы."],
61
+ ["На прошлой неделе прошла конференция по искусственному интеллекту. Участники обсудили последние достижения в области генеративных моделей и этики ИИ."]
62
  ],
63
+ inputs=input_text,
64
+ label="Примеры текстов"
65
  )
66
 
67
  demo.launch()