Spaces:
Runtime error
Runtime error
File size: 1,130 Bytes
89c59e0 63da6df 89c59e0 63da6df 89c59e0 63da6df 89c59e0 63da6df 89c59e0 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 | import gradio as gr
from huggingface_hub import InferenceClient
client = InferenceClient("mistralai/Mistral-7B-Instruct-v0.3")
def get_relevance(industry: str, article_topic: str) -> str:
if not industry.strip():
return "Bitte gib einen Bereich ein."
prompt = f"""<s>[INST] Du bist ein hilfreicher Assistent. Erkläre in genau 2-3 kurzen, prägnanten Sätzen auf Deutsch, warum das Thema "{article_topic}" für jemanden aus dem Bereich "{industry}" praktisch relevant ist. Sei konkret und nenne einen konkreten Anwendungsfall. [/INST]"""
response = client.text_generation(
prompt,
max_new_tokens=200,
temperature=0.7
)
return response.strip()
demo = gr.Interface(
fn=get_relevance,
inputs=[
gr.Textbox(label="Dein Bereich", placeholder="z.B. Logistik, Maschinenbau, Lehre..."),
gr.Textbox(label="Artikel-Thema", value="Large Language Models in der Praxis", visible=False)
],
outputs=gr.Textbox(label="Relevanz für dich"),
title="",
allow_flagging="never",
api_name="predict" # Wichtig für API-Zugriff!
)
demo.launch() |