Update app.py

app.py

@@ -6,9 +6,9 @@ from transformers import AutoTokenizer, AutoModelForCausalLM
 
 
 
-# =========================
-# Model
-# =========================
+# ============================
+# MODEL
+# ============================
 
 MODEL_ID = "ddfws/Rezaeian-StatsAI"
 
@@ -40,82 +40,88 @@ print("MODEL READY")
 
 
 
-# =========================
-# Professional Prompt
-# =========================
+# ============================
+# SYSTEM PROMPT
+# ============================
 
 
 SYSTEM_PROMPT = """
 
-تو یک استاد تمام دانشگاه تهران در درس آمار و احتمال مهندسی هستی.
+شما Rezaeian StatsAI هستید.
 
-هدف:
-کمک به دانشجوی کارشناسی مهندسی برای یادگیری عمیق آمار و احتمال.
+یک استاد تمام دانشگاه تهران در درس آمار و احتمال مهندسی.
 
-سبک پاسخ:
+مخاطب شما دانشجوی کارشناسی مهندسی است.
+
+
+وظیفه:
+
+ارائه حل کامل، دقیق و آموزشی مانند جزوه دانشگاهی.
+
+
+قوانین پاسخ:
 
 - پاسخ کوتاه ممنوع است.
-- مانند یک استاد دانشگاه توضیح بده.
-- تمام مراحل حل را نشان بده.
-- هیچ فرمول یا محاسبه مهمی حذف نشود.
+- فقط جواب نهایی را ننویس.
+- تمام مراحل حل را توضیح بده.
+- اگر مسئله عددی است، تمام محاسبات را نشان بده.
+- اگر مفهوم است، با مثال مهندسی توضیح بده.
 
 
 ساختار پاسخ:
 
 
-۱- تشخیص موضوع مسئله
+1) تشخیص موضوع
 
-مشخص کن مسئله مربوط به چه مبحثی است:
+مشخص کن مسئله مربوط به چه مبحثی است.
 
-مثلاً:
-احتمال
-بیز
-توزیع پواسون
-نرمال
-آزمون فرض
-ANOVA
-رگرسیون
 
+2) روش حل
+
+روش، قضیه یا توزیع مورد استفاده را معرفی کن.
 
-۲- توضیح مفهوم
 
-قبل از حل، مفهوم را آموزشی توضیح بده.
+3) توضیح تئوری
 
+تعریف و مفهوم را توضیح بده.
 
-۳- فرمول‌ها
 
-فرمول‌های مورد نیاز را با LaTeX بنویس.
+4) فرمول‌ها
 
+فرمول‌ها را با LaTeX مرتب بنویس.
 
-۴- حل مرحله به مرحله
 
-تمام محاسبات را نمایش بده.
+5) حل مرحله به مرحله
 
+تمام جایگذاری‌ها و محاسبات را نشان بده.
 
-۵- مثال مشابه
 
-یک مثال مهندسی مشابه ارائه کن و حل کن.
+6) مثال مشابه
 
+یک مثال مشابه دانشگاهی ارائه کن و حل کن.
 
-۶- نکات مهم
 
-اشتباهات رایج دانشجویان و نکات امتحانی را توضیح بده.
+7) نکات مهم امتحانی
 
+اشتباهات رایج و نکات مهم را بیان کن.
 
-۷- نتیجه نهایی
 
+8) نتیجه نهایی
 
-موضوعات:
 
-Probability
+موضوعات تخصصی:
 
-Bayes theorem
+احتمال
+
+قوانین احتمال
 
-Random variables
+قضیه بیز
 
-Discrete distributions
+متغیر تصادفی
 
-Continuous distributions
+توزیع‌های گسسته
+
+توزیع‌های پیوسته
 
 Binomial
 
@@ -137,9 +143,9 @@ Sampling
 
 CLT
 
-Confidence interval
+Confidence Interval
 
-Hypothesis testing
+Hypothesis Testing
 
 Regression
 
@@ -148,20 +154,20 @@ ANOVA
 Reliability
 
 
-فرمول‌ها را مرتب نگه دار.
+فرمول‌ها را خوانا بنویس.
+
+متغیرهای ریاضی:
 
-متغیرهای ریاضی مثل:
-X Y μ σ P E Var
+X,Y,μ,σ,P,E,Var
 
 را انگلیسی نگه دار.
 
 """
 
 
-
-# =========================
-# Generate
-# =========================
+# ============================
+# GENERATION
+# ============================
 
 
 @spaces.GPU
@@ -171,16 +177,16 @@ def generate(message, history):
     messages = [
 
         {
-            "role":"system",
-            "content":SYSTEM_PROMPT
+            "role": "system",
+            "content": SYSTEM_PROMPT
         }
 
     ]
 
 
-    # فقط چند پیام آخر برای جلوگیری از پر شدن حافظه
+    # جلوگیری از سنگین شدن حافظه چت
 
-    for user, assistant in history[-4:]:
+    for user, assistant in history[-3:]:
 
 
         messages.append(
@@ -230,7 +236,6 @@ def generate(message, history):
     )
 
 
-
     inputs = {
 
         k:v.to(model.device)
@@ -244,17 +249,19 @@ def generate(message, history):
     with torch.no_grad():
 
 
-        output = model.generate(
+        outputs = model.generate(
 
             **inputs,
 
 
-            # جواب بلند دانشگاهی
+            # پاسخ طولانی
 
             max_new_tokens=4096,
 
 
-            min_new_tokens=500,
+            # جلوگیری از پاسخ خیلی کوتاه
+
+            min_new_tokens=600,
 
 
             temperature=0.25,
@@ -280,7 +287,7 @@ def generate(message, history):
 
     answer = tokenizer.decode(
 
-        output[0][
+        outputs[0][
 
             inputs["input_ids"].shape[-1]:
 
@@ -296,9 +303,9 @@ def generate(message, history):
 
 
 
-# =========================
+# ============================
 # CSS
-# =========================
+# ============================
 
 
 css = """
@@ -316,22 +323,22 @@ max-width: 1400px !important;
 
 direction: rtl !important;
 
-text-align:right !important;
+text-align: right !important;
 
-font-family:Tahoma,Arial;
+font-family: Tahoma, Arial;
 
-font-size:18px !important;
+font-size: 18px !important;
 
-line-height:2.2 !important;
+line-height: 2 !important;
 
 }
 
 
 textarea {
 
-direction:rtl !important;
+direction: rtl !important;
 
-text-align:right !important;
+text-align: right !important;
 
 font-size:18px !important;
 
@@ -344,73 +351,90 @@ display:none !important;
 
 }
 
-
 """
 
 
 
-# =========================
-# Interface
-# =========================
-
-
-chatbot = gr.Chatbot(
-    height=1000
-)
+# ============================
+# UI
+# ============================
 
 
+with gr.Blocks(css=css) as demo:
 
-demo = gr.ChatInterface(
 
-    fn=generate,
+    gr.Markdown(
+        """
+# 🤖 Rezaeian StatsAI
 
+دستیار هوشمند آمار و احتمال مهندسی
 
-    title="🤖 Rezaeian StatsAI",
+حل مسائل به سبک استاد دانشگاه تهران
 
+- توضیح مفاهیم
+- فرمول‌ها
+- حل مرحله‌ای
+- مثال مشابه
+- نکات امتحانی
 
-    description="""
+"""
+    )
 
-دستیار هوشمند آمار و احتمال مهندسی
 
-سطح:
-کارشناسی مهندسی
+    chatbot = gr.Chatbot(
+        height=900
+    )
 
-حل تشریحی مانند استاد دانشگاه:
 
-✓ توضیح مفهوم
+    textbox = gr.Textbox(
+        placeholder="سؤال آمار و احتمال خود را وارد کنید...",
+        lines=3
+    )
 
-✓ فرمول
 
-✓ حل مرحله‌ای
+    state = gr.State([])
 
-✓ مثال مشابه
 
-✓ نکات امتحانی
 
-""",
+    def chat(message, history):
 
+        answer = generate(
+            message,
+            history
+        )
 
-    chatbot=chatbot,
+        history.append(
+            [
+                message,
+                answer
+            ]
+        )
 
+        return "", history
 
-    textbox=gr.Textbox(
 
-        placeholder="سؤال آمار و احتمال خود را وارد کنید",
 
-        lines=4
+    textbox.submit(
 
-    ),
+        chat,
 
+        inputs=[
+            textbox,
+            chatbot
+        ],
 
-    css=css
+        outputs=[
+            textbox,
+            chatbot
+        ]
 
-)
+    )
 
 
 
-# =========================
-# Run
-# =========================
+# ============================
+# RUN
+# ============================
 
 
 demo.launch(