Update app.py

app.py

@@ -11,7 +11,7 @@ class CerebrasConfig:
     """تنظیمات Cerebras API"""
     api_key: str
     base_url: str = "https://api.cerebras.ai/v1"
-    model: str = "llama-3.1-8b"  # یا llama-3.3-70b برای دقت بیشتر
+    model: str = "llama-3.3-70b"  # یا llama-3.1-8b برای سرعت بیشتر
     max_tokens: int = 2000
     temperature: float = 0.1
 
@@ -41,18 +41,10 @@ class AdvancedCerebrasAnonymizer:
 ### **2. ثبات شناسه‌ها در متن:**
 - اگر "همراه اول" اول‌بار company-01 شد، در تمام متن همان باشد
 - اگر "مهدی احمدی" اول‌بار person-01 شد، در تمام متن همان باشد
--شناسایی و جایگزینی "گروه" و ترکیبات مشابه:
-   - وقتی واژه "گروه" یا ترکیبات مشابه مثل "گروه شرکتی" یا "گروه اقتصادی" در متن ظاهر می‌شود، آن‌ها را به‌عنوان یک "شرکت" در نظر بگیرید.
-   - جایگزینی عبارت "گروه شر کت اقتصادی و خودکفایی آزادگان" با 'company-XX' (به‌جای group-XX).
-   - به‌طور کلی، تمام گروه‌هایی که به مجموعه‌ای از شرکت‌ها اشاره دارند، باید به‌عنوان یک "شرکت" در نظر گرفته شوند و با 'company-XX' جایگزین شوند.
-   -شناسایی و جلوگیری از شناسایی عبارت‌هایی مانند "عملکرد ۵ ماهه سال" یا عبارات مشابه:
-   - اگر عبارتی مانند "عملکرد ۵ ماهه سال" یا هر نوع عبارتی که به دوره‌های زمانی خاص مانند ماه‌ها یا سال‌ها اشاره دارد (و مرتبط با عملکرد مالی یا غیر مالی باشد)، در متن ظاهر شد، این عبارت نباید به‌عنوان موجودیت مبلغ (amount-XX) شناسایی شود.
-   - به‌طور کلی، عباراتی که در آن‌ها واژه‌هایی مانند "عملکرد"، "دوره"، "زمان"، "ماه" یا "سال" به‌تنهایی یا همراه با عدد می‌آید، نباید به‌عنوان مبلغ در نظر گرفته شوند.
-
-
 
 ### **3. تشخیص صحیح انواع:**
 **شرکت/سازمان:** همراه اول، بانک ملی، ایران‌خودرو، سایپا، بانک مرکزی، سامانه کدال، وزارت نفت
+**⚠️ CRITICAL - گروه‌ها:** "گروه همراه اول"، "گروه اقتصادی آزادگان"، "گروه مالی صبا" → همه company-XX هستند (نه group-XX)
 **شخص:** مهدی اخوان بهابادی، محمدرضا فرزین، ابوالفضل نجارزاده
 **عدد:** 37، 70، 677، 73.7، 178 (هر عددی)
 **درصد:** 37 درصدی، 15 درصدی، 53 درصد، 43%
@@ -72,6 +64,16 @@ class AdvancedCerebrasAnonymizer:
 **ورودی:** سایپا و ایران‌خودرو مجموع زیان 620 همت داشتند و سایپا 269 هزار میلیارد زیان اعلام کرد.
 **خروجی:** company-01 و company-02 مجموع زیان amount-01 داشتند و company-01 amount-02 زیان اعلام کرد.
 
+### **مثال 4 (مهم - گروه‌ها):**
+**ورودی:** شرکت صنایع غذایی مینو شرق جزء واحدهای تجاری فرعی شرکت صنعتی مینو و واحدهای تجاری نهایی گروه شرکت اقتصادی و خودکفایی آزادگان می‌باشد.
+**خروجی:** company-01 جزء واحدهای تجاری فرعی company-02 و واحدهای تجاری نهایی company-03 می‌باشد.
+⚠️ **توجه:** "گروه شرکت اقتصادی" → company-03 (نه group-03)
+
+### **مثال 5 (مهم - دوره‌های زمانی):**
+**ورودی:** همراه اول در 9 ماه سال 49 هزار میلیارد درآمد کسب کرد. عملکرد ۵ ماهه شرکت نشان‌دهنده رشد 37 درصدی است. در ۳ ماهه اول سال سود 8003 میلیارد تومان شناسایی شد.
+**خروجی:** company-01 در ۹ ماه سال amount-01 درآمد کسب کرد. عملکرد ۵ ماهه شرکت نشان‌دهنده رشد percent-01 است. در ۳ ماهه اول سال سود amount-02 شناسایی شد.
+⚠️ **توجه:** "۹ ماه" و "۵ ماهه" و "۳ ماهه اول" → حفظ شوند (نه amount)
+
 ## **تشخیص دقیق درصدها:**
 - "37 درصدی" → percent-01 (نه amount)
 - "15 درصد" → percent-02 (نه amount)  
@@ -79,7 +81,23 @@ class AdvancedCerebrasAnonymizer:
 - "بازه 10 تا 20 درصد" → percent-04 تا percent-05
 - «رِنج‌ها» با «تا/الی/بین … و …» باید یک entity واحد باشند:
   مثال: «یک تا 1.5 میلیون تن» → یک amount-# ، «50 الی 70 درصد» → یک percent-# .
--
+
+## **⚠️ CRITICAL - دوره‌های زمانی را حفظ کن:**
+- "۹ ماهه" → حفظ شود (نه amount-XX)
+- "۵ ماهه سال" → حفظ شود (نه amount-XX)
+- "۳ ماهه اول" → حفظ شود (نه amount-XX)
+- "۶ ماهه منتهی به" → حفظ شود (نه amount-XX)
+- "سه‌ماهه نخست" → حفظ شود (نه amount-XX)
+- "در ۹ ماه" → "در ۹ ماه" حفظ شود
+- "عملکرد ۵ ماهه" → "عملکرد ۵ ماهه" حفظ شود
+
+اما:
+- "۹ ماه سپرده" → "amount-XX ماه سپرده" (چون مدت سپرده است)
+- "۹ میلیون تومان" → amount-XX (چون مبلغ است)
+
+**قانون:** اگر عدد + "ماهه" یا "ماهه سال" یا "ماهه اول" باشد → حفظ کن
+**قانون:** اگر عدد + "ماه" بدون "ه" باشد و منظور تعداد ماه است → amount-XX
+
 - تاریخ/ماه/سال و ساعت را فعلاً «اصلاً» انتیتی نگیر (هیچ date-* / time-* تولید نکن).
 
 
@@ -88,11 +106,13 @@ class AdvancedCerebrasAnonymizer:
 - عناوین شغلی: مدیرعامل، رئیس کل، مدیرکل
 - واحدها: میلیارد تومان، همت، ریال، ماه، سال
 - مکان‌ها: تهران، اصفهان، ایران
+- ⚠️ **CRITICAL - دوره‌های زمانی:** "۵ ماهه سال"، "۹ ماهه"، "۳ ماهه اول"، "۶ ماهه منتهی به" → حفظ شوند (نه amount-XX)
 
 ## **ممنوع:**
 - کلمات انگلیسی اضافی
 - تغییر ساختار جمله
 - حذف یا اضافه کردن کلمات
+- ⚠️ **CRITICAL: استفاده از group-XX ممنوع است** - همه گروه‌ها باید company-XX باشند
 
 **فقط متن ناشناس‌شده را برگردان - هیچ توضیح اضافی نیاز نیست.**
 
@@ -101,13 +121,14 @@ class AdvancedCerebrasAnonymizer:
 
 انواع موجودیت‌ها:
 
-company-XX: نام شرکت‌ها، سازمان‌ها، بانک‌ها، هلدینگ‌ها، گروه‌های مالی (مثال: ایران خودرو، بانک ملی، گروه مالی صبا، سازمان حسابرسی)
+company-XX: نام شرکت‌ها، سازمان‌ها، بانک‌ها، هلدینگ‌ها، گروه‌های مالی (مثال: ایران خودرو، بانک ملی، گروه مالی صبا، گروه اقتصادی آزادگان، سازمان حسابرسی)
+⚠️ **توجه:** "گروه X" همیشه company-XX است، نه group-XX
 
 person-XX: نام و نام خانوادگی اشخاص (مثال: محمد رضایی، مهدی اخوان بهابادی، فرج‌اله قدمی)
 
-amount-XX: مبالغ مالی شامل ریال، تومان، همت، دلار، تن، دستگاه و واحدهای اندازه‌گیری (مثال: ۲۳ هزار و ۲۹۶ میلیارد تومان، ۵۰۰ میلیون دلار، ۷۳.۷ میلیون نفر، 636 ریال)
+amount-XX: مبالغ مالی شامل ریال، تومان، همت، دلار، تن، دستگاه و واحدهای اندازه‌گیری (مثال: ۲۳ هزار و ۲۹۶ میلیارد تومان، ۵۰۰ میلیون دلار، ۷۳.۷ میلیون نفر، 636 ریال، ۹۴ تن)
 
-percent-XX: درصدها و نسبت‌ها (مثال: ۴.۵۸ درصد، ۷۵ درصد، ۱۴٪، منفی 345 درصد)
+percent-XX: درصدها و نسبت‌ها (مثال: ۴.۵۸ درصد، ۷۵ درصد، ۱۴٪، منفی 345 درصد، ۲۲ درصد)
 
 قوانین کلیدی:
 
@@ -117,11 +138,13 @@ percent-XX: درصدها و نسبت‌ها (مثال: ۴.۵۸ درصد، ۷۵
 
 3. تشخیص نام‌های مختلف: "فولاد مبارکه اصفهان" و "فولاد مبارکه" و "این شرکت" همه company-01 هستند. "همراه اول" و "گروه همراه اول" و "این اپراتور" همه company-01 هستند. اما "بانک پاسارگاد" و "سرزمین هوشمند پاد" دو company مختلف هستند.
 
-4. مبالغ و درصدهای مختلف: هر عدد جدید، شماره جدید می‌گیرد
+4. ⚠️ **گروه‌ها = company:** "گروه X" همیشه company-XX است، نه group-XX. مثلاً "گروه اقتصادی آزادگان" → company-03
 
-5. حفظ ساختار: ساختار جمله را حفظ کن، تاریخ‌ها را تغییر نده، کلمات توصیفی مثل "شرکت"، "بانک"، "گروه" را قبل از برچسب حفظ کن
+5. مبالغ و درصدهای مختلف: هر عدد جدید، شماره جدید می‌گیرد
 
-6. هیچ توضیح اضافه‌ای نده: فقط متن ناشناس‌شده را برگردان، بدون توضیح یا تفسیر
+6. حفظ ساختار: ساختار جمله را حفظ کن، تاریخ‌ها را تغییر نده، کلمات توصیفی مثل "شرکت"، "بانک"، "گروه" را قبل از برچسب حفظ کن
+
+7. هیچ توضیح اضافه‌ای نده: فقط متن ناشناس‌شده را برگردان، بدون توضیح یا تفسیر
 
 نمونه‌های آموزشی:
 
@@ -135,7 +158,21 @@ percent-XX: درصدها و نسبت‌ها (مثال: ۴.۵۸ درصد، ۷۵
 
 نمونه ۳:
 متن اصلی: مهدی اخوان بهابادی، مدیرعامل همراه اول، در مجمع عمومی عادی سالیانه اعلام کرد درآمد عملیاتی شرکت اصلی با رشد قابل توجه 37 درصدی نسبت به سال 1402، به 70 هزار و 677 میلیارد تومان رسیده است. سود خالص تلفیقی گروه همراه اول در پایان سال مالی 1403 به 8003 میلیارد تومان رسید.
-متن ناشناس‌شده: person-01، مدیرعامل company-01، در مجمع عمومی عادی سالیانه اعلام کرد درآمد عملیاتی شرکت اصلی با رشد قابل توجه percent-01 نسبت به سال 1402، به amount-01 رسیده است. سود خالص تلفیقی گروه company-01 در پایان سال مالی 1403 به amount-02 رسید.
+متن ناشناس‌شده: person-01، مدیرعامل company-01، در مجمع عمومی عادی سالیانه اعلام کرد درآمد عملیاتی شرکت اصلی با رشد قابل توجه percent-01 نسبت به سال 1402، به amount-01 رسیده است. سود خالص تلفیقی company-01 در پایان سال مالی 1403 به amount-02 رسید.
+⚠️ **توجه:** "گروه همراه اول" = company-01 (چون همان همراه اول است)
+
+نمونه ۴:
+متن اصلی: شرکت صنایع غذایی مینو شرق جزء واحدهای تجاری فرعی شرکت صنعتی مینو و واحدهای تجاری نهایی گروه شرکت اقتصادی و خودکفایی آزادگان می‌باشد. شرکت در اسفند مقدار ۹۴ تن تافی با نرخ هر تن ۹ میلیون تومان فروخته است.
+متن ناشناس‌شده: company-01 جزء واحدهای تجاری فرعی company-02 و واحدهای تجاری نهایی company-03 می‌باشد. شرکت در اسفند مقدار amount-01 تافی با نرخ هر تن amount-02 فروخته است.
+⚠️ **توجه:** "گروه شرکت اقتصادی و خودکفایی آزادگان" → company-03
+
+نمونه ۵:
+متن اصلی: بانک پاسارگاد با شناسایی سود خالص 155 هزار میلیارد ریالی در رده دوم سودآورترین بانک‌های کشور قرار گرفت و رقابت تنگاتنگی با بانک ملت داشت. در مقابل، بانک سرمایه با مدیرعاملی فرج‌اله قدمی وضعیت بحرانی دارد.
+متن ناشناس‌شده: company-01 با شناسایی سود خالص amount-01 در رده دوم سودآورترین بانک‌های کشور قرار گرفت و رقابت تنگاتنگی با company-02 داشت. در مقابل، company-03 با مدیرعاملی person-01 وضعیت بحرانی دارد.
+
+نمونه ۶:
+متن اصلی: گزارش عملکرد ۵ ماهه سال 1403 نشان می‌دهد همراه اول در ۹ ماه سال 49 هزار میلیارد تومان درآمد کسب کرده و رشد 37 درصدی داشته است. سود ۳ ماهه اول به 8003 میلیارد تومان رسید.
+متن ناشناس‌شده: گزارش عملکرد ۵ ماهه سال 1403 نشان می‌دهد company-01 در ۹ ماه سال amount-01 درآمد کسب کرده و رشد percent-01 داشته است. سود ۳ ماهه اول به amount-02 رسید.
 
 حالا وظیفه شما: متن زیر را طبق الگوی بالا ناشناس‌سازی کنید. فقط متن ناشناس‌شده را بدون هیچ توضیح اضافه برگردانید.
 
@@ -246,16 +283,14 @@ percent-XX: درصدها و نسبت‌ها (مثال: ۴.۵۸ درصد، ۷۵
         persons = re.findall(r'person-(\d+)', text)
         amounts = re.findall(r'amount-(\d+)', text)
         percents = re.findall(r'percent-(\d+)', text)
-        groups = re.findall(r'group-(\d+)', text)
         
-        # آمار کلی
+        # آمار کلی (group حذف شد - همه گروه‌ها company هستند)
         statistics = {
             "company": len(set(companies)),
             "person": len(set(persons)),
             "amount": len(set(amounts)),
             "percent": len(set(percents)),
-            "group": len(set(groups)),
-            "total_replacements": len(companies) + len(persons) + len(amounts) + len(percents) + len(groups)
+            "total_replacements": len(companies) + len(persons) + len(amounts) + len(percents)
         }
         
         # جزئیات موجودیت‌ها
@@ -263,8 +298,7 @@ percent-XX: درصدها و نسبت‌ها (مثال: ۴.۵۸ درصد، ۷۵
             "companies": sorted(list(set(companies)), key=lambda x: int(x)),
             "persons": sorted(list(set(persons)), key=lambda x: int(x)),
             "amounts": sorted(list(set(amounts)), key=lambda x: int(x)),
-            "percents": sorted(list(set(percents)), key=lambda x: int(x)),
-            "groups": sorted(list(set(groups)), key=lambda x: int(x))
+            "percents": sorted(list(set(percents)), key=lambda x: int(x))
         }
         
         # تحلیل دقیق‌تر
@@ -285,12 +319,11 @@ percent-XX: درصدها و نسبت‌ها (مثال: ۴.۵۸ درصد، ۷۵
         """اعتبارسنجی پیشرفته متن ناشناس‌شده"""
         import re
         
-        # استخراج همه موجودیت‌ها
+        # استخراج همه موجودیت‌ها (group حذف شد)
         companies = re.findall(r'company-(\d+)', text)
         persons = re.findall(r'person-(\d+)', text)
         amounts = re.findall(r'amount-(\d+)', text)
         percents = re.findall(r'percent-(\d+)', text)
-        groups = re.findall(r'group-(\d+)', text)
         
         validation_issues = []
         
@@ -299,8 +332,7 @@ percent-XX: درصدها و نسبت‌ها (مثال: ۴.۵۸ درصد، ۷۵
             ("company", companies),
             ("person", persons),
             ("amount", amounts),
-            ("percent", percents),
-            ("group", groups)
+            ("percent", percents)
         ]:
             if indices:
                 unique_indices = sorted(list(set([int(x) for x in indices])))
@@ -326,8 +358,7 @@ percent-XX: درصدها و نسبت‌ها (مثال: ۴.۵۸ درصد، ۷۵
                 "company": len(set(companies)),
                 "person": len(set(persons)),
                 "amount": len(set(amounts)),
-                "percent": len(set(percents)),
-                "group": len(set(groups))
+                "percent": len(set(percents))
             }
         }
 
@@ -543,6 +574,7 @@ def create_advanced_interface():
                     <div class="stat-card">
                         <h3>🏢 شرکت‌ها</h3>
                         <h2>{stats.get('company', 0)}</h2>
+                        <small>(شامل گروه‌ها)</small>
                     </div>
                     <div class="stat-card">
                         <h3>👤 اشخاص</h3>
@@ -556,10 +588,6 @@ def create_advanced_interface():
                         <h3>📊 درصدها</h3>
                         <h2>{stats.get('percent', 0)}</h2>
                     </div>
-                    <div class="stat-card">
-                        <h3>👥 گروه‌ها</h3>
-                        <h2>{stats.get('group', 0)}</h2>
-                    </div>
                     <div class="stat-card">
                         <h3>🔢 کل تغییرات</h3>
                         <h2>{stats.get('total_replacements', 0)}</h2>
@@ -593,15 +621,13 @@ def create_advanced_interface():
                 entities_md = "🏷️ **موجودیت‌های شناسایی شده:**\n\n"
                 
                 if entities.get("companies"):
-                    entities_md += f"🏢 **شرکت‌ها:** company-{', company-'.join(entities['companies'])}\n\n"
+                    entities_md += f"🏢 **شرکت‌ها (شامل گروه‌ها):** company-{', company-'.join(entities['companies'])}\n\n"
                 if entities.get("persons"):
                     entities_md += f"👤 **اشخاص:** person-{', person-'.join(entities['persons'])}\n\n"
                 if entities.get("amounts"):
                     entities_md += f"💰 **مبالغ:** amount-{', amount-'.join(entities['amounts'])}\n\n"
                 if entities.get("percents"):
                     entities_md += f"📊 **درصدها:** percent-{', percent-'.join(entities['percents'])}\n\n"
-                if entities.get("groups"):
-                    entities_md += f"👥 **گروه‌ها:** group-{', group-'.join(entities['groups'])}\n\n"
                 
                 # تحلیل دقیق
                 detailed = result.get("detailed_analysis", {})
@@ -674,10 +700,11 @@ def create_advanced_interface():
         # مثال‌های پیشرفته
         gr.Examples(
             examples=[
-                ["صورت‌های مالی حسابرسی شده شرکت آسان پادرو منتهی به 30 آذر 1403 نشان می‌دهد این شرکت سال مالی جاری بیش از 6 میلیارد تومان زیان خالص شناسایی کرده است. پادرو سال مالی 1403 حدود 30 میلیارد تومان درآمد عملیاتی کسب کرد که این رقم در مقایسه با سال 1402 رشد تقریباً دوبرابری دارد. 97 درصد درآمد پادرو از «پردازش حمل» است که مربوط به مشتریان متقاضی خدمات پستی بوده و بیش از 60 درصد درآمد آن از سرزمین هوشمند پاد (زیرمجموعه بانک پاسارگاد) و بابت حمل مرسوله کارت‌های بانکی است."],
+                ["گزارش عملکرد ۵ ماهه سال 1403 نشان می‌دهد همراه اول در ۹ ماه سال 49 هزار میلیارد تومان درآمد کسب کرده و رشد 37 درصدی داشته است. سود ۳ ماهه اول به 8003 میلیارد تومان رسید."],
+                ["شرکت صنایع غذایی مینو شرق جزء واحد‌های تجاری فرعی شرکت صنعتی مینو و واحد‌های تجاری نهایی گروه شرکت اقتصادی و خودکفایی آزادگان می‌باشد. این شرکت در زمینه تولید انواع فرآورده‌های غذایی و صنایع تبدیلی به ویژه محصولات آردی از جمله انواع بیسکوئیت، کیک، ویفر، نان و محصولات شکری فعالیت می‌کند. شرکت در اسفند مقدار ۹۴ تن تافی با نرخ هر تن ۹ میلیون تومان فروخته است که نسبت به ماه قبل مقدار فروش ۲۲ درصد افزایش داشته است."],
+                ["صورت‌های مالی حسابرسی شده شرکت آسان پادرو منتهی به 30 آذر 1403 نشان می‌دهد این شرکت سال مالی جاری بیش از 6 میلیارد تومان زیان خالص شناسایی کرده است. پادرو سال مالی 1403 حدود 30 میلیارد تومان درآمد عملیاتی کسب کرد که این رقم در مقایسه با سال 1402 رشد تقریباً دوبرابری دارد."],
                 ["بانک پاسارگاد با شناسایی سود خالص 155 هزار میلیارد ریالی در رده دوم سودآورترین بانک‌های کشور قرار گرفت."],
                 ["مهدی اخوان بهابادی، مدیرعامل همراه اول، اعلام کرد درآمد عملیاتی شرکت با رشد 37 درصدی به 70 هزار و 677 میلیارد تومان رسیده است."],
-                ["هزینه لجستیکی بوعلی حدود 100 میلیون دلار بود؛ 40٪ خوراک از خط لوله و 60٪ معادل 1 تا 1.5 میلیون تن در سال."],
                 ["گروه دتا با سود خالص 45.3 میلیارد تومان و EPS برابر 2850 ریال، رشد 15.7 درصدی نسبت به مدت مشابه سال قبل داشته است."]
             ],
             inputs=input_text,
@@ -696,9 +723,9 @@ def create_advanced_interface():
             - **API ساده:** سازگار با OpenAI
             
             ### 🏷️ انواع برچسب‌ها:
-            - **company-XX:** شرکت‌ها، سازمان‌ها، برندها، نهادها
+            - **company-XX:** شرکت‌ها، سازمان‌ها، برندها، نهادها، **گروه‌ها**
+              - ⚠️ **مهم:** "گروه همراه اول"، "گروه اقتصادی آزادگان" → همه company-XX هستند
             - **person-XX:** اشخاص حقیقی (نام و نام‌خانوادگی)
-            - **group-XX:** گروه‌ها، هلدینگ‌ها، کنسرسیوم‌ها
             - **amount-XX:** تمام اعداد (پولی، تعدادی، حجمی، زمانی)
             - **percent-XX:** درصدها و بازه‌های درصدی
             
@@ -709,6 +736,7 @@ def create_advanced_interface():
             - 📈 شاخص‌های مالی (EPS, P/E, ARPU, NPL)
             - 🗺️ نام مکان‌ها و آدرس‌ها
             - 📝 ساختار جمله و لحن
+            - ⏰ **دوره‌های زمانی:** "۵ ماهه سال"، "۹ ماهه"، "۳ ماهه اول" (حفظ می‌شوند)
             
             ### 🔍 کنترل کیفیت:
             - بررسی شروع اندیس‌ها از 01
@@ -722,6 +750,11 @@ def create_advanced_interface():
             - در بازه‌های عددی: amount-01—amount-02
             - برای درصدها: percent-01—percent-02
             - اعداد چسبیده: "5هزار" → "amount-01 هزار"
+            - ⚠️ **دوره‌های زمانی حفظ می‌شوند:**
+              - "۵ ماهه سال" → حفظ (نه amount-XX)
+              - "۹ ماهه" → حفظ (نه amount-XX)
+              - "در ۹ ماه" → حفظ
+              - اما "۹ میلیون تومان" → amount-XX
             
             ### 🚀 مدل‌های موجود Cerebras:
             - `llama-3.3-70b`: مدل اصلی و قدرتمند (پیشنهادی)