Update app.py

app.py

@@ -1,20 +1,15 @@
-import os
-import gradio as gr
-from transformers import pipeline
+# Direktes Laden von Tokenizer und Modell
+from transformers import AutoTokenizer, AutoModel
 
-# Stelle sicher, dass das Hugging Face Token aus den Secrets abgerufen wird
-hf_token = os.getenv('HF_TOKEN')  # Holen des Tokens aus den Secrets
+# Authentifizierung mit deinem Token
+hf_token = "HF_TOKEN"  # Dein Token hier einfügen
 
-# Verwende das Token, wenn du das Modell von Hugging Face laden möchtest
-generator = pipeline('text-generation', model='huggingface/qwen2.5', use_auth_token=hf_token)
+# Lade den Tokenizer und das Modell
+tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen2.5-Math-RM-72B", trust_remote_code=True, use_auth_token=hf_token)
+model = AutoModel.from_pretrained("Qwen/Qwen2.5-Math-RM-72B", trust_remote_code=True, use_auth_token=hf_token)
 
-def generate_text(prompt):
-    """Generiert Text basierend auf der Eingabeaufforderung."""
-    result = generator(prompt, max_length=200)
-    return result[0]['generated_text']
-
-# Gradio UI
-interface = gr.Interface(fn=generate_text, inputs="text", outputs="text", title="Qwen 2.5 Math Modell")
-
-# Starten des Gradio Interfaces
-interface.launch()
+# Beispielhafte Anwendung des Modells auf einen Text
+text = "Hier steht ein Beispielsatz, den du verarbeiten möchtest."
+inputs = tokenizer(text, return_tensors="pt")
+outputs = model(**inputs)
+print(outputs)