Update app.py

app.py

@@ -1,7 +1,34 @@
 from fastapi import FastAPI
+from transformers import AutoTokenizer, AutoModelForCausalLM
+import torch
 
+# Skapa FastAPI-instans
 app = FastAPI()
 
+# Ladda GPT-SW3-126M
+model_name = "AI-Sweden-Models/gpt-sw3-126m"
+tokenizer = AutoTokenizer.from_pretrained(model_name)
+model = AutoModelForCausalLM.from_pretrained(model_name)
+
+# Endpoint för att parsa aritmetiska prompts
+@app.post("/parse")
+async def parse_arithmetic_prompt(prompt: str):
+    if not prompt or len(prompt) > 100:  # Begränsa promptlängd
+        return {"error": "Ogiltig eller för lång prompt"}
+    try:
+        messages = [
+            {"role": "system", "content": "Du är en assistent som omvandlar aritmetiska frågor på svenska till strängar, t.ex. '5+5'. Svara endast med strängen."},
+            {"role": "user", "content": prompt}
+        ]
+        input_ids = tokenizer.apply_chat_template(messages, return_tensors="pt")
+        with torch.no_grad():
+            output = model.generate(input_ids, max_new_tokens=10, do_sample=False)
+        result = tokenizer.decode(output[0], skip_special_tokens=True).strip()
+        return {"result": result}
+    except Exception as e:
+        return {"error": f"Fel vid parsning: {str(e)}"}
+
+# Hälsosida för att verifiera att Space körs
 @app.get("/")
-def greet_json():
-    return {"Hello": "World!"}
+async def root():
+    return {"message": "Arithmetic Parser API is running!"}