Update app.py

app.py

@@ -2,13 +2,19 @@ import gradio as gr
 import spaces
 import torch
 
-from transformers import AutoTokenizer, AutoModelForCausalLM
+import PyPDF2
+from docx import Document
+
+from transformers import (
+    AutoTokenizer,
+    AutoModelForCausalLM
+)
 
 
 
-# ============================
+# ==================================
 # MODEL
-# ============================
+# ==================================
 
 MODEL_ID = "ddfws/Rezaeian-StatsAI"
 
@@ -22,6 +28,7 @@ tokenizer = AutoTokenizer.from_pretrained(
 )
 
 
+
 print("Loading model...")
 
 
@@ -40,88 +47,58 @@ print("MODEL READY")
 
 
 
-# ============================
+# ==================================
 # SYSTEM PROMPT
-# ============================
+# ==================================
 
 
 SYSTEM_PROMPT = """
 
-شما Rezaeian StatsAI هستید.
-
-یک استاد تمام دانشگاه تهران در درس آمار و احتمال مهندسی.
-
-مخاطب شما دانشجوی کارشناسی مهندسی است.
-
-
-وظیفه:
+تو یک استاد تمام دانشگاه تهران در درس آمار و احتمال مهندسی هستی.
 
-ارائه حل کامل، دقیق و آموزشی مانند جزوه دانشگاهی.
+هدف:
+آموزش کامل دانشجوی کارشناسی مهندسی.
 
+قوانین:
 
-قوانین پاسخ:
-
-- پاسخ کوتاه ممنوع است.
-- فقط جواب نهایی را ننویس.
-- تمام مراحل حل را توضیح بده.
-- اگر مسئله عددی است، تمام محاسبات را نشان بده.
-- اگر مفهوم است، با مثال مهندسی توضیح بده.
+- پاسخ کوتاه نده.
+- مانند استاد دانشگاه توضیح بده.
+- تمام مراحل حل را بنویس.
+- هیچ فرمول مهمی حذف نشود.
 
 
 ساختار پاسخ:
 
 
-1) تشخیص موضوع
-
-مشخص کن مسئله مربوط به چه مبحثی است.
-
-
-2) روش حل
-
-روش، قضیه یا توزیع مورد استفاده را معرفی کن.
-
+۱) تشخیص موضوع
 
-3) توضیح تئوری
+۲) توضیح مفهوم
 
-تعریف و مفهوم را توضیح بده.
+۳) روش حل
 
+۴) فرمول‌های مورد نیاز
 
-4) فرمول‌ها
+۵) حل مرحله به مرحله
 
-فرمول‌ها را با LaTeX مرتب بنویس.
+۶) مثال مشابه مهندسی
 
+۷) نکات امتحانی
 
-5) حل مرحله به مرحله
+۸) نتیجه نهایی
 
-تمام جایگذاری‌ها و محاسبات را نشان بده.
 
 
-6) مثال مشابه
+مباحث:
 
-یک مثال مشابه دانشگاهی ارائه کن و حل کن.
+Probability
 
+Bayes
 
-7) نکات مهم امتحانی
+Random Variable
 
-اشتباهات رایج و نکات مهم را بیان کن.
+Discrete Distribution
 
-
-8) نتیجه نهایی
-
-
-موضوعات تخصصی:
-
-احتمال
-
-قوانین احتمال
-
-قضیه بیز
-
-متغیر تصادفی
-
-توزیع‌های گسسته
-
-توزیع‌های پیوسته
+Continuous Distribution
 
 Binomial
 
@@ -154,71 +131,184 @@ ANOVA
 Reliability
 
 
-فرمول‌ها را خوانا بنویس.
+فرمول‌ها را با LaTeX بنویس.
 
-متغیرهای ریاضی:
+متغیرهای:
 
 X,Y,μ,σ,P,E,Var
 
 را انگلیسی نگه دار.
 
+
 """
 
 
-# ============================
-# GENERATION
-# ============================
+
+
+
+def read_document(file):
+
+    if file is None:
+        return ""
+
+
+    path = file.name
+
+
+    text = ""
+
+
+    try:
+
+
+        if path.lower().endswith(".pdf"):
+
+
+            pdf = PyPDF2.PdfReader(path)
+
+
+            for page in pdf.pages:
+
+                result = page.extract_text()
+
+                if result:
+
+                    text += result + "\n"
+
+
+
+        elif path.lower().endswith(".txt"):
+
+
+            with open(
+                path,
+                "r",
+                encoding="utf-8"
+            ) as f:
+
+                text = f.read()
+
+
+
+        elif path.lower().endswith(".docx"):
+
+
+            doc = Document(path)
+
+
+            for p in doc.paragraphs:
+
+                text += p.text + "\n"
+
+
+
+    except Exception as e:
+
+        text = "خطا در خواندن فایل: " + str(e)
+
+
+
+    # جلوگیری از پر شدن حافظه
+
+    return text[:40000]
+
+
+
 
 
 @spaces.GPU
-def generate(message, history):
+def generate(message, history, document):
+
+
+    if document:
+
+
+        message = f"""
+
+از سند زیر به عنوان منبع استفاده کن:
+
+
+----------------------
+
+{document}
+
+----------------------
+
+
+سوال دانشجو:
+
+{message}
+
+"""
+
 
 
     messages = [
 
         {
-            "role": "system",
-            "content": SYSTEM_PROMPT
+
+            "role":"system",
+
+            "content":SYSTEM_PROMPT
+
         }
 
     ]
 
 
-    # جلوگیری از سنگین شدن حافظه چت
 
-    for user, assistant in history[-3:]:
+    for user, assistant in history[-4:]:
 
 
         messages.append(
+
             {
+
                 "role":"user",
+
                 "content":user
+
             }
+
         )
 
 
         messages.append(
+
             {
+
                 "role":"assistant",
+
                 "content":assistant
+
             }
+
         )
 
 
 
     messages.append(
+
         {
+
             "role":"user",
+
             "content":message
+
         }
+
     )
 
 
 
     prompt = tokenizer.apply_chat_template(
+
         messages,
+
         tokenize=False,
+
         add_generation_prompt=True
+
     )
 
 
@@ -236,6 +326,7 @@ def generate(message, history):
     )
 
 
+
     inputs = {
 
         k:v.to(model.device)
@@ -246,22 +337,19 @@ def generate(message, history):
 
 
 
+
     with torch.no_grad():
 
 
-        outputs = model.generate(
+        output = model.generate(
 
             **inputs,
 
 
-            # پاسخ طولانی
-
             max_new_tokens=4096,
 
 
-            # جلوگیری از پاسخ خیلی کوتاه
-
-            min_new_tokens=600,
+            min_new_tokens=500,
 
 
             temperature=0.25,
@@ -276,9 +364,6 @@ def generate(message, history):
             repetition_penalty=1.1,
 
 
-            no_repeat_ngram_size=3,
-
-
             pad_token_id=tokenizer.eos_token_id
 
         )
@@ -287,7 +372,7 @@ def generate(message, history):
 
     answer = tokenizer.decode(
 
-        outputs[0][
+        output[0][
 
             inputs["input_ids"].shape[-1]:
 
@@ -303,51 +388,89 @@ def generate(message, history):
 
 
 
-# ============================
-# CSS
-# ============================
+
+def chat(message, history, document):
+
+
+    answer = generate(
+
+        message,
+
+        history,
+
+        document
+
+    )
+
+
+    history.append(
+
+        [
+            message,
+            answer
+        ]
+
+    )
+
+
+    return "", history
+
+
 
 
 css = """
 
-.gradio-container {
+.gradio-container{
 
-direction: rtl;
+direction:rtl;
 
-max-width: 1400px !important;
+max-width:1400px!important;
 
 }
 
 
-.message {
 
-direction: rtl !important;
+#chatbox{
+
+height:850px!important;
+
+overflow-y:auto!important;
+
+}
+
+
+
+.message{
+
+direction:rtl!important;
 
-text-align: right !important;
+text-align:right!important;
 
-font-family: Tahoma, Arial;
+font-size:18px!important;
 
-font-size: 18px !important;
+line-height:2.2!important;
 
-line-height: 2 !important;
+white-space:pre-wrap!important;
 
 }
 
 
-textarea {
 
-direction: rtl !important;
+textarea{
 
-text-align: right !important;
+direction:rtl!important;
 
-font-size:18px !important;
+text-align:right!important;
+
+font-size:18px!important;
 
 }
 
 
-footer {
 
-display:none !important;
+footer{
+
+display:none!important;
 
 }
 
@@ -355,62 +478,100 @@ display:none !important;
 
 
 
-# ============================
-# UI
-# ============================
 
 
 with gr.Blocks(css=css) as demo:
 
 
     gr.Markdown(
-        """
+"""
+
 # 🤖 Rezaeian StatsAI
 
-دستیار هوشمند آمار و احتمال مهندسی
+## دستیار هوشمند آمار و احتمال مهندسی
+
+ویژه دانشجویان کارشناسی مهندسی
+
+قابلیت‌ها:
 
-حل مسائل به سبک استاد دانشگاه تهران
+📚 مطالعه جزوه و کتاب
 
-- توضیح مفاهیم
-- فرمول‌ها
-- حل مرحله‌ای
-- مثال مشابه
-- نکات امتحانی
+🧮 حل مرحله‌ای مسائل
+
+📐 فرمول‌های دانشگاهی
+
+🎓 آموزش به سبک استاد دانشگاه
 
 """
-    )
+)
 
 
-    chatbot = gr.Chatbot(
-        height=900
-    )
+
+    document_state = gr.State("")
+
+
+
+    with gr.Row():
+
+
+        with gr.Column(scale=1):
+
+
+            file = gr.File(
+
+                label="📚 آپلود سند",
+
+                file_types=[
+
+                    ".pdf",
+
+                    ".txt",
+
+                    ".docx"
+
+                ]
+
+            )
+
+
+            clear = gr.Button(
+                "🗑 پاک کردن گفتگو"
+            )
+
+
+
+        with gr.Column(scale=3):
+
+
+            chatbot = gr.Chatbot(
+
+                height=850,
+
+                elem_id="chatbox"
+
+            )
+
 
 
     textbox = gr.Textbox(
-        placeholder="سؤال آمار و احتمال خود را وارد کنید...",
-        lines=3
-    )
 
+        placeholder="سوال آمار و احتمال خود را وارد کنید",
 
-    state = gr.State([])
+        lines=4
 
+    )
 
 
-    def chat(message, history):
 
-        answer = generate(
-            message,
-            history
-        )
+    file.change(
 
-        history.append(
-            [
-                message,
-                answer
-            ]
-        )
+        read_document,
+
+        inputs=file,
 
-        return "", history
+        outputs=document_state
+
+    )
 
 
 
@@ -419,22 +580,39 @@ with gr.Blocks(css=css) as demo:
         chat,
 
         inputs=[
+
             textbox,
-            chatbot
+
+            chatbot,
+
+            document_state
+
         ],
 
         outputs=[
+
             textbox,
+
             chatbot
+
         ]
 
     )
 
 
 
-# ============================
-# RUN
-# ============================
+    clear.click(
+
+        lambda: [],
+
+        None,
+
+        chatbot
+
+    )
+
+
+
 
 
 demo.launch(