Update app.py

app.py

@@ -2,37 +2,33 @@ import gradio as gr
 import spaces
 import torch
 
-from transformers import (
-    AutoTokenizer,
-    AutoModelForCausalLM
-)
+from transformers import AutoTokenizer, AutoModelForCausalLM
 
 
 
-# ==========================
+# =========================
 # Model
-# ==========================
+# =========================
 
 MODEL_ID = "ddfws/Rezaeian-StatsAI"
 
 
-
 print("Loading tokenizer...")
 
+
 tokenizer = AutoTokenizer.from_pretrained(
     MODEL_ID,
     trust_remote_code=True
 )
 
 
-
 print("Loading model...")
 
 
 model = AutoModelForCausalLM.from_pretrained(
     MODEL_ID,
     device_map="auto",
-    torch_dtype=torch.float16,
+    dtype=torch.float16,
     trust_remote_code=True
 )
 
@@ -44,138 +40,128 @@ print("MODEL READY")
 
 
 
-# ==========================
-# Professional System Prompt
-# ==========================
+# =========================
+# Professional Prompt
+# =========================
 
 
 SYSTEM_PROMPT = """
 
-نقش شما:
+تو یک استاد تمام دانشگاه تهران در درس آمار و احتمال مهندسی هستی.
 
-شما یک استاد تمام دانشگاه تهران در درس «آمار و احتمال مهندسی» هستید.
+هدف:
+کمک به دانشجوی کارشناسی مهندسی برای یادگیری عمیق آمار و احتمال.
 
-مخاطب:
-دانشجوی کارشناسی رشته‌های مهندسی برق، کنترل، مکانیک، صنایع، کامپیوتر و عمران.
+سبک پاسخ:
 
+- پاسخ کوتاه ممنوع است.
+- مانند یک استاد دانشگاه توضیح بده.
+- تمام مراحل حل را نشان بده.
+- هیچ فرمول یا محاسبه مهمی حذف نشود.
+
+
+ساختار پاسخ:
 
-هدف:
 
-ارائه پاسخ‌هایی مانند یک جزوه دانشگاهی کامل.
+۱- تشخیص موضوع مسئله
 
+مشخص کن مسئله مربوط به چه مبحثی است:
 
-قوانین بسیار مهم:
+مثلاً:
+احتمال
+بیز
+توزیع پواسون
+نرمال
+آزمون فرض
+ANOVA
+رگرسیون
 
-- پاسخ کوتاه نده.
-- هیچ مرحله حل را حذف نکن.
-- فقط جواب نهایی را ننویس.
-- مانند استاد دانشگاه توضیح بده.
-- اگر سؤال محاسباتی است، حل کامل ارائه کن.
-- اگر سؤال مفهومی است، با مثال توضیح بده.
 
+۲- توضیح مفهوم
 
-ساختار اجباری پاسخ:
+قبل از حل، مفهوم را آموزشی توضیح بده.
 
 
-۱) تشخیص روش حل
+۳- فرمول‌ها
 
-ابتدا مشخص کن:
-- مسئله مربوط به چه مبحثی است.
-- از چه توزیع، قضیه یا روش آماری استفاده می‌کنیم.
+فرمول‌های مورد نیاز را با LaTeX بنویس.
 
 
-۲) توضیح علمی
+۴- حل مرحله به مرحله
 
-مفهوم را با زبان ساده ولی دانشگاهی توضیح بده.
+تمام محاسبات را نمایش بده.
 
 
-۳) فرمول‌های مورد نیاز
+۵- مثال مشابه
 
-تمام روابط ریاضی را واضح با LaTeX بنویس.
+یک مثال مهندسی مشابه ارائه کن و حل کن.
 
 
-۴) حل مرحله به مرحله
+۶- نکات مهم
 
-تمام مراحل:
-- جایگذاری
-- محاسبات
-- تبدیل‌ها
-- نتیجه میانی
+اشتباهات رایج دانشجویان و نکات امتحانی را توضیح بده.
 
-را نشان بده.
 
+۷- نتیجه نهایی
 
-۵) مثال مشابه آموزشی
 
-یک مثال مشابه از مهندسی ارائه کن و حل کن.
+موضوعات:
 
+Probability
 
-۶) نکات مهم امتحانی
+Bayes theorem
 
-اشتباهات رایج و نکات کنکوری/امتحانی را ذکر کن.
+Random variables
 
+Discrete distributions
 
-۷) نتیجه نهایی
+Continuous distributions
 
-پاسخ نهایی را واضح بیان کن.
+Binomial
 
+Poisson
 
+Normal
 
-موضوعاتی که باید پوشش دهی:
+Exponential
 
+Gamma
 
-- احتمال و قوانین احتمال
-- ترکیبیات
-- قضیه بیز
-- متغیر تصادفی گسسته و پیوسته
-- توزیع برنولی
-- دوجمله‌ای
-- پواسون
-- هندسی
-- فوق هندسی
-- یکنواخت
-- نمایی
-- گاما
-- نرمال
-- لگ نرمال
-- توزیع‌های مهندسی
+Expectation
 
+Variance
 
-- امید ریاضی
-- واریانس
-- کوواریانس
-- همبستگی
+Covariance
 
+Sampling
 
-- نمونه‌گیری
-- قانون اعداد بزرگ
-- قضیه حد مرکزی
+CLT
 
+Confidence interval
 
-- تخمین پارامتر
-- فاصله اطمینان
-- آزمون فرض
-- آزمون Z
-- آزمون T
-- کای دو
+Hypothesis testing
 
+Regression
 
-- رگرسیون
-- ANOVA
-- DOE
-- قابلیت اطمینان
+ANOVA
 
+Reliability
 
-فرمول‌ها را مرتب بنویس.
-ترکیب فارسی و انگلی��ی ریاضی را خراب نکن.
-متغیرهای X,Y,μ,σ,P,E,Var را انگلیسی نگه دار.
+
+فرمول‌ها را مرتب نگه دار.
+
+متغیرهای ریاضی مثل:
+X Y μ σ P E Var
+
+را انگلیسی نگه دار.
 
 """
 
 
-# ==========================
-# Generation
-# ==========================
+
+# =========================
+# Generate
+# =========================
 
 
 @spaces.GPU
@@ -194,7 +180,8 @@ def generate(message, history):
 
     # فقط چند پیام آخر برای جلوگیری از پر شدن حافظه
 
-    for user, assistant in history[-5:]:
+    for user, assistant in history[-4:]:
+
 
         messages.append(
             {
@@ -256,27 +243,24 @@ def generate(message, history):
 
     with torch.no_grad():
 
+
         output = model.generate(
 
             **inputs,
 
 
-            # جواب طولانی
+            # جواب بلند دانشگاهی
 
             max_new_tokens=4096,
 
 
-            # حداقل حجم پاسخ
-
-            min_new_tokens=700,
-
+            min_new_tokens=500,
 
-            # مناسب ریاضی
 
             temperature=0.25,
 
 
-            top_p=0.95,
+            top_p=0.9,
 
 
             do_sample=True,
@@ -312,67 +296,68 @@ def generate(message, history):
 
 
 
-# ==========================
-# Interface
-# ==========================
+# =========================
+# CSS
+# =========================
 
 
 css = """
 
-.gradio-container{
+.gradio-container {
 
-direction:rtl;
+direction: rtl;
 
-max-width:1400px!important;
+max-width: 1400px !important;
 
 }
 
 
-.message{
+.message {
 
-direction:rtl!important;
+direction: rtl !important;
 
-text-align:right!important;
+text-align:right !important;
 
-font-family:Tahoma,Arial!important;
+font-family:Tahoma,Arial;
 
-font-size:18px!important;
+font-size:18px !important;
 
-line-height:2.2!important;
+line-height:2.2 !important;
 
 }
 
 
-.markdown-body{
-
-direction:rtl!important;
+textarea {
 
-text-align:right!important;
-
-}
+direction:rtl !important;
 
+text-align:right !important;
 
+font-size:18px !important;
 
-textarea{
+}
 
-direction:rtl!important;
 
-text-align:right!important;
+footer {
 
-font-size:18px!important;
+display:none !important;
 
 }
 
 
+"""
 
-footer{
 
-display:none!important;
 
-}
+# =========================
+# Interface
+# =========================
 
 
-"""
+chatbot = gr.Chatbot(
+    height=1000
+)
+
 
 
 demo = gr.ChatInterface(
@@ -387,40 +372,32 @@ demo = gr.ChatInterface(
 
 دستیار هوشمند آمار و احتمال مهندسی
 
-سطح آموزشی:
+سطح:
 کارشناسی مهندسی
 
-حل مسائل به سبک استاد دانشگاه:
-
-✓ توضیح مفهوم  
-✓ فرمول‌ها  
-✓ حل مرحله‌ای  
-✓ مثال مشابه  
-✓ نکات امتحانی  
+حل تشریحی مانند استاد دانشگاه:
 
-""",
+✓ توضیح مفهوم
 
+✓ فرمول
 
-    chatbot=gr.Chatbot(
+✓ حل مرحله‌ای
 
-        height=1200,
+✓ مثال مشابه
 
-        rtl=True,
+✓ نکات امتحانی
 
-        show_copy_button=True,
+""",
 
-        render_markdown=True
 
-    ),
+    chatbot=chatbot,
 
 
     textbox=gr.Textbox(
 
-        placeholder="سؤال آمار و احتمال خود را وارد کنید ...",
-
-        lines=4,
+        placeholder="سؤال آمار و احتمال خود را وارد کنید",
 
-        rtl=True
+        lines=4
 
     ),
 
@@ -431,9 +408,9 @@ demo = gr.ChatInterface(
 
 
 
-# ==========================
+# =========================
 # Run
-# ==========================
+# =========================
 
 
 demo.launch(