Upload app_improved.py

app_improved.py

@@ -0,0 +1,534 @@
+import gradio as gr
+import re
+import os
+import requests
+import logging
+from typing import Dict, List, Tuple
+
+logging.basicConfig(level=logging.INFO)
+logger = logging.getLogger(__name__)
+
+class AnonymizerAdvanced:
+    """ناشناس‌ساز پیشرفته با روش‌های متعدد"""
+    
+    def __init__(self, cerebras_key: str = None, gpt_key: str = None):
+        self.cerebras_key = cerebras_key or os.getenv("CEREBRAS_API_KEY")
+        self.gpt_key = gpt_key or os.getenv("OPENAI_API_KEY")
+        self.mapping_table = {}  # {placeholder: original_text}
+        self.reverse_mapping = {}  # {original_text: placeholder}
+        
+        logger.info("✅ Anonymizer Advanced مقداردهی شد")
+    
+
+    def anonymize_with_cerebras(self, text: str) -> Tuple[str, Dict]:
+        """ناشناس‌سازی با Cerebras"""
+        logger.info("🧠 روش Cerebras...")
+        
+        if not self.cerebras_key:
+            logger.error("❌ Cerebras API Key موجود نیست")
+            raise ValueError("Cerebras API Key مورد نیاز است")
+        
+        try:
+            prompt = f"""متن زیر را ناشناس کنید. قوانین:
+1. اسامی اشخاص → person-01, person-02, ...
+2. نام شرکت‌ها/سازمان‌ها → company-01, company-02, ...
+3. مقادیر پولی → amount-01, amount-02, ...
+4. درصدها → percent-01, percent-02, ...
+5. فقط این توکن‌ها استفاده کنید
+6. شماره‌های نسخه را درست حفظ کنید
+7. اگر موجودیت تکرار شود از شماره قدیمی استفاده کنید
+
+متن:
+{text}
+
+خروجی: فقط متن ناشناس شده"""
+            
+            response = requests.post(
+                "https://api.cerebras.ai/v1/chat/completions",
+                headers={
+                    "Authorization": f"Bearer {self.cerebras_key}",
+                    "Content-Type": "application/json"
+                },
+                json={
+                    "model": "llama-3.3-70b",
+                    "messages": [{"role": "user", "content": prompt}],
+                    "max_tokens": 4096,
+                    "temperature": 0.1
+                },
+                timeout=60
+            )
+            
+            if response.status_code == 200:
+                anonymized_text = response.json()['choices'][0]['message']['content'].strip()
+                logger.info("✅ Cerebras: موفق")
+                
+                # استخراج mapping از متن
+                self._extract_mapping_from_text(text, anonymized_text)
+                return anonymized_text, self.mapping_table
+            else:
+                logger.error(f"❌ Cerebras Error: {response.status_code}")
+                raise Exception(f"Cerebras API Error: {response.status_code}")
+                
+        except Exception as e:
+            logger.error(f"❌ Cerebras Exception: {e}")
+            raise
+    
+
+    def _extract_mapping_from_text(self, original: str, anonymized: str):
+        """استخراج mapping از متن‌های اصلی و ناشناس شده"""
+        # الگوهای موجودیت
+        patterns = {
+            'person': r'\b[ء-ي]+\s+[ء-ي]+(?:\s+[ء-ي]+)*\b',
+            'company': r'(?:شرکت|بانک|سازمان|گروه|هلدینگ)\s+[ء-ي]+(?:\s+[ء-ي]+)*',
+            'amount': r'\d+\s*(?:میلیارد|میلیون|هزار|تومان|ریال|دلار|تن)',
+            'percent': r'\d+\s*(?:درصد|%|درصدی)',
+        }
+        
+        for entity_type, pattern in patterns.items():
+            for match in re.finditer(pattern, original):
+                text_match = match.group()
+                tokens = re.findall(f'{entity_type}-\\d+', anonymized)
+                if tokens:
+                    for token in tokens:
+                        if token not in self.mapping_table:
+                            self.mapping_table[token] = text_match
+                            self.reverse_mapping[text_match] = token
+    
+    def _extract_tokens_from_text(self, text: str) -> List[str]:
+        """استخراج تمام توکن‌های ناشناس از متن"""
+        pattern = r'(person-\d+|company-\d+|amount-\d+|percent-\d+)'
+        return sorted(set(re.findall(pattern, text)))
+    
+    def _validate_tokens_in_response(self, original_tokens: List[str], response_text: str) -> Tuple[bool, List[str], List[str]]:
+        """بررسی اینکه تمام توکن‌های ناشناس در پاسخ محفوظ ماندند"""
+        response_tokens = self._extract_tokens_from_text(response_text)
+        
+        missing_tokens = [t for t in original_tokens if t not in response_tokens]
+        extra_tokens = [t for t in response_tokens if t not in original_tokens]
+        
+        is_valid = len(missing_tokens) == 0 and len(extra_tokens) == 0
+        
+        return is_valid, missing_tokens, extra_tokens
+    
+    def analyze_with_gpt(self, anonymized_text: str, analysis_prompt: str = None, max_retries: int = 2) -> str:
+        """
+        اجرای پرامپت‌های درون متن ناشناس‌سازی شده با ChatGPT
+        
+        🎯 مراحل الگوریتم:
+        1. اعتبارسنجی ورودی‌های اولیه
+        2. استخراج و ثبت توکن‌های ناشناس
+        3. ایجاد پرامپت‌های بهینه‌شده (system + user)
+        4. ارسال درخواست به ChatGPT API
+        5. اعتبارسنجی توکن‌ها در پاسخ
+        6. مدیریت خطاها و retry خودکار
+        """
+        logger.info("🤖 ChatGPT: شروع پردازش...")
+        
+        # ============ مرحله 1: اعتبارسنجی ورودی ============
+        if not self.gpt_key:
+            error_msg = "❌ GPT API Key موجود نیست. متغیر OPENAI_API_KEY را تنظیم کنید."
+            logger.error(error_msg)
+            return error_msg
+        
+        if not anonymized_text or not anonymized_text.strip():
+            error_msg = "❌ متن ناشناس‌سازی شده خالی است"
+            logger.error(error_msg)
+            return error_msg
+        
+        # ============ مرحله 2: استخراج و ثبت توکن‌های اصلی ============
+        original_tokens = self._extract_tokens_from_text(anonymized_text)
+        logger.info(f"🔍 توکن‌های شناسایی شده ({len(original_tokens)}): {original_tokens}")
+        
+        # ============ مرحله 3: ایجاد پرامپت‌های بهینه‌شده ============
+        if not analysis_prompt:
+            analysis_prompt = """لطفاً این متن را تحلیل کنید:
+1. خلاصه اطلاعات مالی
+2. کیان‌های اصلی (با توکن‌های ناشناس شده)
+3. رابطه‌های مهم
+4. داده‌های عددی و درصدها"""
+        
+        # 📋 پرامپت سیستمی بهتر شده - دستورات دقیق
+        system_prompt = """شما دستیار تحلیل متون مالی‌اند که:
+
+📋 قوانین اجباری:
+1. تمام توکن‌های ناشناس (person-01, company-01, amount-01, percent-01) را **دقیقاً** همان‌طور حفظ کنید
+2. توکن‌ها را هرگز تغییر ندهید، تغییر نام ندهید یا حذف نکنید
+3. توکن‌ها را در متن خروجی دقیقاً مثل ورودی استفاده کنید
+
+🎯 دستورات:
+1. متن‌های ناشناس‌سازی شده را با دقت تحلیل کنید
+2. دستورات کاربر را اجرا کنید
+3. فقط نتیجه تحلیل را برگردانید بدون توضیح اضافی
+
+⚠️ مهم: اگر توکنی را حذف یا تغییر دادید، پاسخ نامعتبر است"""
+        
+        # 👤 پیام کاربری بهتر شده
+        user_message = f"""📝 متن ناشناس‌سازی شده:
+---
+{anonymized_text}
+---
+
+🎯 دستورات تحلیلی:
+{analysis_prompt}
+
+⚠️ هشدار: تمام توکن‌های ناشناس را درست‌نویسی شده حفظ کنید!
+📊 توکن‌های مورد انتظار: {', '.join(original_tokens) if original_tokens else 'بدون توکن'}
+
+📤 خروجی: فقط نتیجه تحلیل (بدون توضیح اضافی)"""
+        
+        logger.info(f"📨 آماده‌سازی درخواست...")
+        logger.debug(f"🎯 System Prompt:\n{system_prompt}\n")
+        logger.debug(f"👤 User Message:\n{user_message}\n")
+        
+        # ============ مرحله 4: ارسال درخواست با Retry ============
+        for attempt in range(max_retries + 1):
+            try:
+                logger.info(f"🔄 تلاش {attempt + 1}/{max_retries + 1}...")
+                
+                response = requests.post(
+                    "https://api.openai.com/v1/chat/completions",
+                    headers={
+                        "Authorization": f"Bearer {self.gpt_key}",
+                        "Content-Type": "application/json",
+                        "User-Agent": "AnonymizerAdvanced/1.0"
+                    },
+                    json={
+                        "model": "gpt-4o-mini",
+                        "messages": [
+                            {
+                                "role": "system",
+                                "content": system_prompt
+                            },
+                            {
+                                "role": "user",
+                                "content": user_message
+                            }
+                        ],
+                        "max_tokens": 4096,
+                        "temperature": 0.3,
+                        "top_p": 0.9,
+                        "frequency_penalty": 0.0,
+                        "presence_penalty": 0.0
+                    },
+                    timeout=90
+                )
+                
+                # ============ مرحله 5: پردازش پاسخ ============
+                if response.status_code == 200:
+                    response_data = response.json()
+                    
+                    if 'choices' not in response_data or not response_data['choices']:
+                        logger.error("❌ پاسخ ChatGPT خالی است")
+                        if attempt < max_retries:
+                            logger.info("🔄 دوباره تلاش می‌کنیم...")
+                            continue
+                        return "❌ پاسخ ChatGPT خالی است"
+                    
+                    gpt_response = response_data['choices'][0]['message']['content'].strip()
+                    
+                    logger.info(f"✅ پاسخ دریافت شد ({len(gpt_response)} کاراکتر)")
+                    logger.debug(f"📤 پاسخ (اولین 500 کاراکتر):\n{gpt_response[:500]}...\n")
+                    
+                    # ============ مرحله 6: اعتبارسنجی توکن‌ها ============
+                    is_valid, missing, extra = self._validate_tokens_in_response(original_tokens, gpt_response)
+                    
+                    if is_valid:
+                        logger.info("✅ تمام توکن‌ها صحیح محفوظ شدند")
+                        return gpt_response
+                    else:
+                        logger.warning(f"⚠️ مشکل در توکن‌ها:")
+                        if missing:
+                            logger.warning(f"   - توکن‌های حذف شده: {missing}")
+                        if extra:
+                            logger.warning(f"   - توکن‌های اضافی: {extra}")
+                        
+                        if attempt < max_retries:
+                            logger.info(f"🔄 دوباره تلاش می‌کنیم...")
+                            continue
+                        else:
+                            logger.error("❌ توکن‌ها در پاسخ مطابقت ندارد")
+                            warning_msg = f"⚠️ هشدار: برخی توکن‌ها درست نشدند\n\n{gpt_response}"
+                            return warning_msg
+                
+                else:
+                    # ============ مدیریت خطاهای HTTP ============
+                    error_data = response.json() if response.content else {}
+                    error_message = error_data.get('error', {}).get('message', response.text)
+                    
+                    logger.error(f"❌ GPT API Error ({response.status_code}): {error_message}")
+                    
+                    # تفاوت‌های خاص برای هر نوع خطا
+                    if response.status_code == 401:
+                        return "❌ خطای احراز هویت: کلید API نامعتبر است"
+                    elif response.status_code == 429:
+                        logger.info("⏳ سهمیه تمام شده، 5 ثانیه صبر...")
+                        import time
+                        if attempt < max_retries:
+                            time.sleep(5)
+                            continue
+                        return "❌ سهمیه API تمام شده است"
+                    elif response.status_code == 500:
+                        logger.info("🔄 خطای سرور OpenAI، دوباره تلاش...")
+                        if attempt < max_retries:
+                            continue
+                        return "❌ خطای سرور OpenAI"
+                    else:
+                        if attempt < max_retries:
+                            logger.info("🔄 دوباره تلاش می‌کنیم...")
+                            continue
+                        return f"❌ خطای ChatGPT ({response.status_code}): {error_message}"
+            
+            except requests.Timeout:
+                logger.error("❌ Timeout: درخواست منقضی شد")
+                if attempt < max_retries:
+                    logger.info("🔄 دوباره تلاش می‌کنیم...")
+                    continue
+                return "❌ Timeout: پاسخ ChatGPT تاخیر بیش‌ازحد دارد"
+            
+            except requests.RequestException as e:
+                logger.error(f"❌ Request Error: {str(e)}")
+                if attempt < max_retries:
+                    logger.info("🔄 دوباره تلاش می‌کنیم...")
+                    continue
+                return f"❌ خطای ارتباط: {str(e)}"
+            
+            except Exception as e:
+                logger.error(f"❌ Exception: {str(e)}", exc_info=True)
+                if attempt < max_retries:
+                    logger.info("🔄 دوباره تلاش می‌کنیم...")
+                    continue
+                return f"❌ خطای غیرمنتظره: {str(e)}"
+        
+        return "❌ ناموفق بعد از تمام تلاش‌ها"
+    
+    def restore_text(self, anonymized_text: str) -> str:
+        """بازگردانی متن اصلی"""
+        logger.info("🔄 بازگردانی...")
+        
+        restored = anonymized_text
+        for placeholder, original in sorted(self.mapping_table.items()):
+            restored = restored.replace(placeholder, original)
+        
+        logger.info("✅ بازگردانی کامل")
+        return restored
+    
+    def get_mapping_table_md(self) -> str:
+        """تبدیل جدول نگاشت به Markdown"""
+        if not self.mapping_table:
+            return "### 📋 جدول نگاشت\n\nهیچ موجودیتی شناسایی نشد"
+        
+        table = "### 📋 جدول نگاشت\n\n"
+        table += "| شناسه | متن اصلی |\n"
+        table += "|-------|----------|\n"
+        
+        for token, original in sorted(self.mapping_table.items()):
+            table += f"| **{token}** | {original} |\n"
+        
+        return table
+
+# متغیر سراسری
+anonymizer = None
+
+def process(input_text: str, analysis_prompt: str = None, method: str = "cerebras"):
+    """پردازش متن - 4 مرحله"""
+    global anonymizer
+    
+    if not input_text.strip():
+        return "", "", "", ""
+    
+    cerebras_key = os.getenv("CEREBRAS_API_KEY")
+    gpt_key = os.getenv("OPENAI_API_KEY")
+    
+    if not anonymizer:
+        anonymizer = AnonymizerAdvanced(cerebras_key, gpt_key)
+    else:
+        anonymizer.mapping_table = {}
+        anonymizer.reverse_mapping = {}
+    
+    try:
+        logger.info("=" * 70)
+        logger.info(f"🚀 شروع پردازش - روش: Cerebras")
+        logger.info("=" * 70)
+        
+        # ============================================
+        # مرحله 1: ناشناس‌سازی
+        # ============================================
+        logger.info("📝 مرحله 1: ناشناس‌سازی...")
+        
+        anonymized_text, _ = anonymizer.anonymize_with_cerebras(input_text)
+        
+        logger.info(f"✅ ناشناس‌سازی: {len(anonymized_text)} کاراکتر")
+        
+        # ============================================
+        # مرحله 2: ChatGPT با متن ناشناس‌سازی شده + دستورات
+        # ============================================
+        logger.info("🤖 مرحله 2: ChatGPT...")
+        gpt_response = anonymizer.analyze_with_gpt(anonymized_text, analysis_prompt)
+        logger.info(f"✅ ChatGPT: {len(gpt_response)} کاراکتر")
+        
+        # ============================================
+        # مرحله 3: بازگردانی پاسخ ChatGPT
+        # ============================================
+        logger.info("🔄 مرحله 3: بازگردانی...")
+        restored_text = anonymizer.restore_text(gpt_response)
+        logger.info("✅ بازگردانی کامل")
+        
+        # ============================================
+        # مرحله 4: جدول نگاشت
+        # ============================================
+        logger.info("📋 مرحله 4: جدول نگاشت...")
+        mapping_str = anonymizer.get_mapping_table_md()
+        logger.info(f"✅ {len(anonymizer.mapping_table)} موجودیت")
+        
+        logger.info("=" * 70)
+        logger.info("✅ تمام مراحل کامل!")
+        logger.info("=" * 70)
+        
+        return restored_text, gpt_response, anonymized_text, mapping_str
+        
+    except Exception as e:
+        logger.error(f"❌ خطا: {str(e)}", exc_info=True)
+        return "", f"❌ خطا: {str(e)}", "", ""
+
+def clear_all():
+    """پاک کردن همه"""
+    return "", "", "", "", "", ""
+
+# Gradio Interface
+css_rtl = """
+.input-box { direction: rtl; text-align: right; }
+.textbox textarea { direction: rtl; text-align: right; font-family: 'Tahoma', serif; }
+"""
+
+with gr.Blocks(title="سیستم ناشناس‌سازی متون", theme=gr.themes.Soft(), css=css_rtl) as app:
+    
+    gr.Markdown("# 🔐 سیستم ناشناس‌سازی متون مالی فارسی", elem_classes="input-box")
+    gr.Markdown("#### استخراج و ناشناس‌سازی موجودیت‌های حساس", elem_classes="input-box")
+    
+    # ============================================
+    # صفحه اول: دکمه‌ها (راست) + ورودی (چپ)
+    # ============================================
+    with gr.Row():
+        # سمت راست: دکمه‌ها و تنظیمات
+        with gr.Column(scale=1):
+            gr.Markdown("### ⚙️ تنظیمات", elem_classes="input-box")
+            
+            method = gr.Radio(
+                ["cerebras"],
+                value="cerebras",
+                label="🔧 روش پردازش",
+                elem_classes="input-box"
+            )
+            
+            gr.Markdown("---")
+            
+            analysis_prompt = gr.Textbox(
+                lines=8,
+                placeholder="دستورات تحلیلی برای ChatGPT...",
+                label="📋 دست��رات تحلیلی",
+                elem_classes="textbox",
+                value="خلاصه سازی\nشناسایی موجودیت‌های ناشناس\nنکات کلیدی"
+            )
+            
+            gr.Markdown("---")
+            
+            with gr.Column():
+                process_btn = gr.Button(
+                    "▶️ پردازش",
+                    variant="primary",
+                    size="lg"
+                )
+                
+                clear_btn = gr.Button(
+                    "🗑️ پاک کردن",
+                    variant="stop",
+                    size="lg"
+                )
+        
+        # سمت چپ: متن ورودی (بزرگ‌تر)
+        with gr.Column(scale=3):
+            input_text = gr.Textbox(
+                lines=14,
+                placeholder="متن مالی/خبری را وارد کنید...",
+                label="📝 متن ورودی",
+                elem_classes="textbox"
+            )
+    
+    # ============================================
+    # صفحه دوم: 3 باکس نتایج (وسط)
+    # ============================================
+    gr.Markdown("---")
+    gr.Markdown("## 📊 نتایج پردازش", elem_classes="input-box")
+    
+    with gr.Row():
+        # باکس 1: متن بازگردانی شده (راست)
+        with gr.Column(scale=1):
+            restored_text = gr.Textbox(
+                lines=12,
+                label="✅ متن بازگردانی شده",
+                interactive=False,
+                elem_classes="textbox"
+            )
+        
+        # باکس 2: تحلیل ChatGPT (وسط)
+        with gr.Column(scale=1):
+            gpt_analysis = gr.Textbox(
+                lines=12,
+                label="🤖 تحلیل ChatGPT",
+                interactive=False,
+                elem_classes="textbox"
+            )
+        
+        # باکس 3: متن ناشناس‌شده (چپ)
+        with gr.Column(scale=1):
+            anonymized_text = gr.Textbox(
+                lines=12,
+                label="🔒 متن ناشناس‌شده",
+                interactive=False,
+                elem_classes="textbox"
+            )
+    
+    # ============================================
+    # پایین: جدول نگاشت
+    # ============================================
+    gr.Markdown("---")
+    
+    mapping_table = gr.Textbox(
+        lines=10,
+        label="📋 جدول نگاشت",
+        interactive=False,
+        elem_classes="textbox"
+    )
+    
+    # ============================================
+    # Event Handlers
+    # ============================================
+    process_btn.click(
+        fn=process,
+        inputs=[input_text, analysis_prompt, method],
+        outputs=[restored_text, gpt_analysis, anonymized_text, mapping_table]
+    )
+    
+    clear_btn.click(
+        fn=clear_all,
+        outputs=[input_text, analysis_prompt, restored_text, gpt_analysis, anonymized_text, mapping_table]
+    )
+
+if __name__ == "__main__":
+    print("=" * 70)
+    print("🚀 سیستم ناشناس‌سازی متون در حال راه‌اندازی...")
+    print("=" * 70)
+    print("\n📋 نحوه استفاده:\n")
+    print("1. CEREBRAS_API_KEY و OPENAI_API_KEY را تنظیم کنید")
+    print("2. http://localhost:7860 را باز کنید")
+    print("3. متن را وارد کنید")
+    print("4. 'پردازش' را کلیک کنید\n")
+    print("روش استفاده شده: Cerebras (Llama 3.3-70B)")
+    print("=" * 70 + "\n")
+    
+    app.launch(
+        server_name="0.0.0.0",
+        server_port=7860,
+        share=False,
+        show_error=True
+    )