Update app.py

app.py

@@ -1,16 +1,14 @@
-import gradio as gr
-from sentence_transformers import SentenceTransformer, util
-from transformers import AutoTokenizer, AutoModelForCausalLM
 import torch
+import gradio as gr
+from transformers import AutoTokenizer, AutoModel
+from sklearn.metrics.pairwise import cosine_similarity
+import numpy as np
 
-# بارگذاری مدل SBERT برای تشابه معنایی
-embedder = SentenceTransformer("myrkur/sentence-transformer-parsbert-fa-2.0")
-
-# بارگذاری مدل زبانی GPT فارسی
-gpt_tokenizer = AutoTokenizer.from_pretrained("HooshvareLab/gpt2-fa")
-gpt_model = AutoModelForCausalLM.from_pretrained("HooshvareLab/gpt2-fa")
+# بارگذاری مدل FarsiBERT
+tokenizer = AutoTokenizer.from_pretrained("HooshvareLab/bert-fa-base-uncased")
+model = AutoModel.from_pretrained("HooshvareLab/bert-fa-base-uncased")
 
-# پایگاه داده سوالات متداول
+# داده‌های پرسش و پاسخ
 faq_dict = {
     "زمان انتخاب واحد": "معمولاً پایان شهریور و بهمن است.",
     "زمان حذف و اضافه": "حدود یک هفته پس از شروع ترم تحصیلی است.",
@@ -20,42 +18,41 @@ faq_dict = {
 }
 
 faq_questions = list(faq_dict.keys())
-faq_embeddings = embedder.encode(faq_questions, convert_to_tensor=True)
 
-# تابع پاسخ‌دهی مدل زبانی Fallback
-def generate_with_farsigpt(question, max_length=80):
-    try:
-        input_ids = gpt_tokenizer.encode(question, return_tensors="pt")
-        output = gpt_model.generate(input_ids, max_length=max_length, pad_token_id=gpt_tokenizer.eos_token_id)
-        response = gpt_tokenizer.decode(output[0], skip_special_tokens=True)
-        return response[len(question):].strip()
-    except Exception as e:
-        return f"❗️خطا در پاسخ‌دهی با مدل زبانی: {str(e)}"
+# تابع استخراج embedding از جمله
+def get_embedding(text):
+    inputs = tokenizer(text, return_tensors="pt", padding=True, truncation=True)
+    with torch.no_grad():
+        outputs = model(**inputs)
+    # میانگین‌گیری از همه توکن‌ها در آخرین لایه
+    embeddings = outputs.last_hidden_state.mean(dim=1)
+    return embeddings[0].cpu().numpy()
+
+# پیش‌محاسبه embedding تمام سوالات FAQ
+faq_embeddings = [get_embedding(q) for q in faq_questions]
 
-# تابع کلی پاسخ‌دهی ایجنت
-def student_bot(question):
+# تابع اصلی ایجنت
+def student_bot(user_question):
     try:
-        question_embedding = embedder.encode(question, convert_to_tensor=True)
-        cos_scores = util.pytorch_cos_sim(question_embedding, faq_embeddings)[0]
-        best_score = cos_scores.max().item()
-        best_idx = cos_scores.argmax().item()
-
-        if best_score >= 0.7:
-            best_q = faq_questions[best_idx]
-            return faq_dict[best_q]
+        user_emb = get_embedding(user_question)
+        sims = [cosine_similarity([user_emb], [emb])[0][0] for emb in faq_embeddings]
+        best_idx = int(np.argmax(sims))
+        best_score = sims[best_idx]
+
+        if best_score > 0.75:
+            return faq_dict[faq_questions[best_idx]]
         else:
-            response = generate_with_farsigpt(question)
-            return f"🤖 پاسخ با مدل زبانی:\n{response}"
+            return "متأسفم، پاسخ این سوال در حال حاضر موجود نیست."
     except Exception as e:
         return f"❗️خطا در سیستم: {str(e)}"
 
-# رابط کاربری Gradio
+# رابط کاربری
 iface = gr.Interface(
     fn=student_bot,
     inputs=gr.Textbox(label="سؤال خود را وارد کنید"),
     outputs=gr.Textbox(label="پاسخ"),
-    title="ایجنت راهنمای دانشجویان با fallback",
-    description="اول از پایگاه دانش، در صورت نبودن، با مدل زبانی پاسخ داده می‌شود."
+    title="ایجنت راهنمای دانشجویان با FarsiBERT",
+    description="پاسخ به پرسش‌های رایج بر اساس تشابه معنایی"
 )
 
 iface.launch()