Upload 2 files

app.py

@@ -0,0 +1,77 @@
+import gradio as gr
+from transformers import AutoModelForCausalLM, AutoTokenizer
+import torch
+
+# Загрузка модели SmolLM3-3B
+print("🚀 Загрузка SmolLM3-3B...")
+model_name = "HuggingFaceTB/SmolLM3-3B"
+
+tokenizer = AutoTokenizer.from_pretrained(model_name)
+model = AutoModelForCausalLM.from_pretrained(
+    model_name,
+    torch_dtype=torch.float32,
+    low_cpu_mem_usage=True
+)
+
+print("✅ Модель загружена!")
+
+def chat(message, history):
+    """Обработка сообщений в чате"""
+    # Собираем историю разговора
+    conversation = ""
+    for user_msg, bot_msg in history:
+        conversation += f"User: {user_msg}\nAssistant: {bot_msg}\n"
+    conversation += f"User: {message}\nAssistant:"
+    
+    # Генерируем ответ
+    inputs = tokenizer(conversation, return_tensors="pt", truncation=True, max_length=2048)
+    
+    with torch.no_grad():
+        outputs = model.generate(
+            **inputs,
+            max_new_tokens=300,
+            temperature=0.7,
+            do_sample=True,
+            top_p=0.9,
+            repetition_penalty=1.1
+        )
+    
+    # Декодируем ответ
+    full_response = tokenizer.decode(outputs[0], skip_special_tokens=True)
+    
+    # Извлекаем только новый ответ ассистента
+    if "Assistant:" in full_response:
+        response = full_response.split("Assistant:")[-1].strip()
+    else:
+        response = full_response.strip()
+    
+    return response
+
+# Создаём интерфейс
+demo = gr.ChatInterface(
+    fn=chat,
+    title="🌍 SmolLM3-3B Multilingual Chat",
+    description="""
+    **Мультиязычный AI чат-бот на базе SmolLM3-3B (3 миллиарда параметров)**
+    
+    Поддерживаемые языки:
+    🇬🇧 English | 🇷🇺 Русский | 🇪🇸 Español | 🇫🇷 Français | 🇩🇪 Deutsch | 🇮🇹 Italiano | 🇵🇹 Português
+    
+    Полностью бесплатный и без ограничений! 🚀
+    """,
+    examples=[
+        "Привет! Расскажи о себе",
+        "Hello! Tell me about yourself",
+        "¿Hola! ¿Qué puedes hacer?",
+        "Bonjour! Que peux-tu faire?",
+        "Hallo! Was kannst du tun?",
+    ],
+    cache_examples=False,
+    retry_btn="🔄 Повторить",
+    undo_btn="↩️ Отменить",
+    clear_btn="🗑️ Очистить",
+)
+
+# Запуск
+if __name__ == "__main__":
+    demo.launch()

requirements.txt

@@ -0,0 +1,5 @@
+transformers>=4.35.0
+torch>=2.0.0
+gradio>=4.0.0
+accelerate>=0.24.0
+sentencepiece>=0.1.99