app.py

import gradio as gr
from huggingface_hub import InferenceClient
import os

hf_token = os.getenv("HF_TOKEN")

# Создаём клиент
client = InferenceClient(token=hf_token)

def chat(message, history):
    if not hf_token:
        return "❌ Ошибка: HF_TOKEN не найден"
    
    try:
        # Правильный формат для современных моделей
        messages = [
            {"role": "user", "content": message}
        ]
        
        response = client.chat_completion(
            messages=messages,
            model="mistralai/Mistral-7B-Instruct-v0.3",  # другая модель
            max_tokens=500,
            temperature=0.7
        )
        
        if response and response.choices:
            return response.choices[0].message.content
        else:
            return "⚠️ Нет ответа от модели"
            
    except Exception as e:
        return f"🔥 {str(e)}"

demo = gr.ChatInterface(
    fn=chat,
    title="ЛиА - Диагностика"
)

demo.launch()