Update app.py

app.py

@@ -91,6 +91,90 @@ class AdvancedCerebrasAnonymizer:
 **خروجی:** company-01 با همکاری company-02، قرارداد توسعه میدان گازی مدار را امضا کرد. company-01 قصد دارد سرمایه خود را از amount-01 به amount-02 افزایش دهد.
 ⚠️ **توجه:** "فاما" همان "فولاد مبارکه اصفهان" است → هر دو company-01
 
+### **مثال 9 (بسیار مهم - بازرس = شرکت):**
+**ورودی:** مجمع عمومی عادی سالیانه شرکت پتروشیمی بوعلی سینا برگزار شد. شرکت وانیا نیک تدبیر را به‌ عنوان بازرس قانونی و حسابرس و تدوین و همکاران را به‌ عنوان بازرس علی‌البدل انتخاب کردند.
+**خروجی:** مجمع عمومی عادی سالیانه company-01 برگزار شد. company-02 را به‌ عنوان بازرس قانونی و حسابرس و company-03 را به‌ عنوان بازرس علی‌البدل انتخاب کردند.
+⚠️ **توجه:** بازرس/حسابرس = شرکت است (company-XX) نه شخص (person-XX)
+
+### **مثال 10 (مهم - حفظ واحدها):**
+**ورودی:** هزینه لجستیکی بوعلی در سال گذشته حدود 100 میلیون دلار بوده و حدود 40 درصد خوراک از طریق خط لوله و 60 درصد باقی‌مانده معادل یک تا 1.5 میلیون تن در سال تهیه می‌شود.
+**خروجی:** هزینه لجستیکی company-01 در سال گذشته حدود amount-01 بوده و حدود percent-01 خوراک از طریق خط لوله و percent-02 باقی‌مانده معادل amount-02 در سال تهیه می‌شود.
+⚠️ **توجه:** واحدها حفظ شوند: "100 میلیون دلار" → "amount-01 میلیون دلار" یا "amount-01"
+
+### **مثال 11 (مهم - اشاره ضمنی به شرکت):**
+**ورودی:** تحلیل صورت‌های مالی شرکت پالایش نفت اصفهان در سال 1403 این احتمال را مطرح می‌کند که EPS این شرکت در سال مالی 1404 به 2500 ریال برسد. این شرکت به‌عنوان یکی از بزرگ‌ترین پالایشگاه‌های کشور فعالیت می‌کند.
+**خروجی:** تحلیل صورت‌های مالی company-01 در سال 1403 این احتمال را مطرح می‌کند که EPS این شرکت در سال مالی 1404 به amount-01 برسد. این شرکت به‌عنوان یکی از بزرگ‌ترین پالایشگاه‌های کشور فعالیت می‌کند.
+⚠️ **اشتباه رایج:** "company-01 ... company-02 به‌عنوان یکی از بزرگ‌ترین" ❌
+⚠️ **صحیح:** "company-01 ... company-01 به‌عنوان یکی از بزرگ‌ترین" ✅
+
+### **مثال 12 (مهم - کلمات عمومی):**
+**ورودی:** صورت‌های مالی سه خودروساز بزرگ کشور نشان می‌دهد که زیان انباشته تلفیقی خودروسازان از مرز 500 همت عبور کرده است.
+**خروجی:** صورت‌های مالی سه خودروساز بزرگ کشور نشان می‌دهد که زیان انباشته تلفیقی خودروسازان از مرز amount-01 عبور کرده است.
+⚠️ **توجه:** "سه خودروساز بزرگ" حفظ شود (کلمه عمومی بدون نام خاص)
+
+### **مثال 13 (مهم - شماره ثبت):**
+**ورودی:** شرکت ثبت شده به شماره 11385 نزد سازمان بورس و اوراق بهادار و به شماره 37152 نزد مرجع ثبت شرکتها است.
+**خروجی:** company-01 ثبت شده به شماره 11385 نزد company-02 و به شماره 37152 نزد مرجع ثبت شرکتها است.
+⚠️ **توجه:** شماره ثبت حفظ شود (نه amount-XX) اما "مرجع ثبت شرکتها" کلمه عمومی است
+
+## **⚠️ CRITICAL - قوانین پیشرفته ناشناس‌سازی:**
+
+### **1. حفظ هویت شرکت در کل متن (بسیار مهم):**
+- اگر "شرکت پتروشیمی بوعلی سینا" را company-01 کردی، در ادامه متن "این شرکت"، "بوعلی"، "شرکت مذکور" همه باید همان company-01 باشند
+- **اشتباه رایج:** "company-01 ... این شرکت company-02" ❌
+- **صحیح:** "company-01 ... این شرکت company-01" ✅
+
+### **2. بازرس/حسابرس = شرکت است (نه شخص):**
+- "شرکت وانیا نیک تدبیر را به‌عنوان بازرس قانونی انتخاب کردند" → company-XX
+- "حسابرس" و "بازرس" اسم شرکت‌های حسابرسی است → company-XX (نه person-XX)
+
+### **3. واحدها را حفظ کن (CRITICAL):**
+- "amount-01 دستگاه محصول" ✅ (واحد حفظ شود)
+- "amount-01 محصول" ❌ (واحد حذف شده)
+- "amount-03 همت" ✅
+- "amount-03" ❌
+- "amount-05 گیگابیت بر ثانیه" ✅
+
+### **4. اعداد خاص را موجودیت نگیر:**
+- شماره ثبت: "شماره 11385" → حفظ شود ❌ amount-XX نشود
+- شماره تماس، کد ملی، شماره حساب → حفظ شوند
+- فقط مبالغ پولی، تعداد، وزن → amount-XX
+
+### **5. درصدهای دقیق را حفظ کن:**
+- "99.99 درصد" → حفظ شود (نه percent-XX)
+- درصدهای با اعشار بسیار دقیق مثل 99.99، 0.01 → حفظ شوند
+- درصدهای معمولی: "40 درصد" → percent-01
+
+### **6. نهادها و مراجع عمومی:**
+- "سازمان بورس و اوراق بهادار" → company-XX ✅
+- "مرجع ثبت شرکتها" → حفظ شود ❌ (مرجع عمومی است)
+- "هیئت تحقیق و تفحص مجلس" → حفظ شود ❌ (نهاد عمومی)
+- "سامانه کدال" → company-XX ✅
+
+### **7. کلمات توصیفی عمومی را موجودیت نگیر:**
+- "سه خودروساز بزرگ کشور" → حفظ شود ❌
+- "یک شرکت سرمایه‌گذاری دولتی" → حفظ شود ❌
+- "19 بانکی که اطلاعات" → "19 بانکی" حفظ شود ❌
+- فقط اگر نام خاص داشت: "شرکت سرمایه‌گذاری ملی" → company-XX ✅
+
+### **8. صنعت/بخش/حوزه را موجودیت نگیر:**
+- "صنعت پالایش" → حفظ شود ❌ (نه industry-XX)
+- "بخش خصوصی" → حفظ شود ❌
+- "حوزه بازار سرمایه" → حفظ شود ❌
+
+### **9. دوره‌های زمانی با "حدود":**
+- "حدود 18 تا 24 ماه" → حفظ شود ❌ (نه amount-XX)
+- "حدود 2 سال" → حفظ شود ❌
+
+### **10. بازه‌های عددی - یک entity:**
+- "یک تا 1.5 میلیون تن" → amount-01 ✅ (یک entity)
+- "40 الی 60 درصد" → percent-01 الی percent-02 ❌
+- بازه = یک entity واحد
+
+### **11. مقایسه با خود شرکت:**
+- "company-01 ... بیشتر از company-01" → اشتباه!
+- اگر شرکت با دوره قبل خود مقایسه می‌شود → amount متفاوت ولی company یکسان
+
 ## **تشخیص دقیق درصدها:**
 - "37 درصدی" → percent-01 (نه amount)
 - "15 درصد" → percent-02 (نه amount)  
@@ -107,6 +191,8 @@ class AdvancedCerebrasAnonymizer:
 - "سه‌ماهه نخست" → حفظ شود (نه amount-XX)
 - "در ۹ ماه" → "در ۹ ماه" حفظ شود
 - "عملکرد ۵ ماهه" → "عملکرد ۵ ماهه" حفظ شود
+- "حدود 18 تا 24 ماه" → حفظ شود (بازه زمانی)
+- "حدود 2 سال" → حفظ شود
 
 اما:
 - "۹ ماه سپرده" → "amount-XX ماه سپرده" (چون مدت سپرده است)
@@ -157,17 +243,38 @@ percent-XX: درصدها و نسبت‌ها (مثال: ۴.۵۸ درصد، ۷۵
 
 2. حفظ هویت یکسان: اگر همان موجودیت دوباره آمد، از همان شماره استفاده کن. مثلا "ایران خودرو" در جمله اول و "این شرکت" در جمله دوم هر دو company-01 هستند.
 
-3. تشخیص نام‌های مختلف: "فولاد مبارکه اصفهان" و "فولاد مبارکه" و "این شرکت" و "فاما" همه company-01 هستند. "همراه اول" و "گروه همراه اول" و "این اپراتور" همه company-01 هستند. اما "بانک پاسارگاد" و "سرزمین هوشمند پاد" دو company مختلف هستند.
+3. تشخیص نام‌های مختلف و اشاره‌های ضمنی: "فولاد مبارکه اصفهان" و "فولاد مبارکه" و "این شرکت" و "فاما" و "شرکت مذکور" همه company-01 هستند. "همراه اول" و "گروه همراه اول" و "این اپراتور" همه company-01 هستند. اما "بانک پاسارگاد" و "سرزمین هوشمند پاد" دو company مختلف هستند.
+⚠️ **بسیار مهم:** در یک متن، اگر شرکتی را company-01 کردی، در تمام متن باید همان company-01 بماند. "این شرکت" یا "شرکت" یا "این بانک" اگر به company-01 اشاره دارد، باید company-01 باشد نه company-02.
+
+4. ⚠️ **کلمات عمومی را موجودیت نگیر:** "سه شرکت دارویی"، "چند بانک"، "یک شرکت"، "مراکز درمانی"، "12 بانک کشور"، "سه خودروساز بزرگ"، "19 بانکی که" → حفظ شوند (موجودیت نیستند). فقط زمانی که نام خاص همراه است، موجودیت است: "شرکت ملی نفت" → company-XX
+
+5. ⚠️ **بازرس و حسابرس = شرکت:** "شرکت X را به‌عنوان بازرس قانونی انتخاب کردند" → بازرس/حسابرس اسم شرکت است → company-XX (نه person-XX)
+
+6. ⚠️ **واحدها را با عدد حفظ کن:** 
+- "amount-01 دستگاه محصول" ✅ (واحد حفظ شود)
+- "amount-01 همت" ✅
+- "amount-01 میلیون دلار" ✅
+- "amount-01 گیگابیت بر ثانیه" ✅
+
+7. ⚠️ **گروه‌ها = company:** "گروه X" همیشه company-XX است، نه group-XX. مثلاً "گروه اقتصادی آزادگان" → company-03
+
+8. ⚠️ **شماره ثبت/کد را حفظ کن:** "شماره 11385"، "کد 37152" → حفظ شوند (نه amount-XX)
+
+9. ⚠️ **نهادها و مراجع عمومی:**
+- "سازمان بورس و اوراق بهادار" → company-XX ✅
+- "سامانه کدال" → company-XX ✅ (سامانه خاص)
+- "مرجع ثبت شرکتها" → حفظ شود ❌ (مرجع عمومی)
+- "هیئت تحقیق و تفحص مجلس" → حفظ شود ❌ (نهاد عمومی)
 
-4. ⚠️ **کلمات عمومی را موجودیت نگیر:** "سه شرکت دارویی"، "چند بانک"، "یک شرکت"، "مراکز درمانی" → حفظ شوند (موجودیت نیستند). فقط زمانی که نام خاص همراه است، موجودیت است: "شرکت ملی نفت" → company-XX
+10. ⚠️ **صنعت/بخش را حفظ کن:** "صنعت پالایش"، "بخش خصوصی"، "حوزه بازار سرمایه" → حفظ شوند (نه industry-XX یا sector-XX)
 
-5. ⚠️ **گروه‌ها = company:** "گروه X" همیشه company-XX است، نه group-XX. مثلاً "گروه اقتصادی آزادگان" → company-03
+11. ⚠️ **درصدهای دقیق را حفظ کن:** "99.99 درصد"، "0.01 درصد" → درصدهای با اعشار بسیار دقیق حفظ شوند
 
-6. مبالغ و درصدهای مختلف: هر عدد جدید، شماره جدید می‌گیرد
+12. مبالغ و درصدهای مختلف: هر عدد جدید، شماره جدید می‌گیرد
 
-7. حفظ ساختار: ساختار جمله را حفظ کن، تاریخ‌ها و فصل‌ها را تغییر نده، کلمات توصیفی مثل "شرکت"، "بانک"، "گروه" را قبل از برچسب حفظ کن
+13. حفظ ساختار: ساختار جمله را حفظ کن، تاریخ‌ها و فصل‌ها را تغییر نده، کلمات توصیفی مثل "شرکت"، "بانک"، "گروه" را قبل از برچسب حفظ کن
 
-8. هیچ توضیح اضافه‌ای نده: فقط متن ناشناس‌شده را برگردان، بدون توضیح یا تفسیر
+14. هیچ توضیح اضافه‌ای نده: فقط متن ناشناس‌شده را برگردان، بدون توضیح یا تفسیر
 
 نمونه‌های آموزشی:
 
@@ -213,6 +320,14 @@ percent-XX: درصدها و نسبت‌ها (مثال: ۴.۵۸ درصد، ۷۵
 متن اصلی: دو بانک ملت و پاسارگاد به ترتیب با شناسایی سود خالص 157 و 155 هزار میلیارد ریالی رقابت تنگاتنگی داشته و در رده‌های اول و دوم جای دارند. مجموع بانک‌های مورد بررسی در پایان اسفند ماه سال 1400 زیان انباشته‌ای معادل 1388 هزار میلیارد ریال داشته‌اند که نسبت به اسفند ماه سال 1399 این زیان انباشته 10 درصد افزایش یافته است. بررسی آخرین صورت‌های مالی بانک‌های دولتی و خصوصی حاکی از آن است که 12 بانک کشور، در پایان سال 1401 در مجموع زیان انباشته سنگین 336 هزار میلیارد تومانی را رقم زده‌اند.
 متن ناشناس‌شده: دو بانک company-01 و company-02 به ترتیب با شناسایی سود خالص amount-01 و amount-02 رقابت تنگاتنگی داشته و در رده‌های اول و دوم جای دارند. مجموع بانک‌های مورد بررسی در پایان اسفند ماه سال 1400 زیان انباشته‌ای معادل amount-03 داشته‌اند که نسبت به اسفند ماه سال 1399 این زیان انباشته percent-01 افزایش یافته است. بررسی آخرین صورت‌های مالی بانک‌های دولتی و خصوصی حاکی از آن است که 12 بانک کشور، در پایان سال 1401 در مجموع زیان انباشته سنگین amount-04 را رقم زده‌اند.
 
+نمونه ۱۱:
+متن اصلی: مجمع عمومی عادی سالیانه شرکت پتروشیمی بوعلی سینا برای سال مالی 1403 در تاریخ 1404/04/29 برگزار شد. شرکت وانیا نیک تدبیر را به‌ عنوان بازرس قانونی و حسابرس و تدوین و همکاران را به‌ عنوان بازرس علی‌البدل انتخاب کردند. هزینه لجستیکی بوعلی در سال گذشته حدود 100 میلیون دلار بوده که بخش عمده آن به صادرات اختصاص داشته و حدود 40 درصد خوراک از طریق خط لوله و 60 درصد باقی‌مانده معادل ی�� تا 1.5 میلیون تن در سال از منابع داخلی و خارجی تهیه می‌شود.
+متن ناشناس‌شده: مجمع عمومی عادی سالیانه company-01 برای سال مالی 1403 در تاریخ 1404/04/29 برگزار شد. company-02 را به‌ عنوان بازرس قانونی و حسابرس و company-03 را به‌ عنوان بازرس علی‌البدل انتخاب کردند. هزینه لجستیکی company-01 در سال گذشته حدود amount-01 بوده که بخش عمده آن به صادرات اختصاص داشته و حدود percent-01 خوراک از طریق خط لوله و percent-02 باقی‌مانده معادل amount-02 در سال از منابع داخلی و خارجی تهیه می‌شود.
+
+نمونه ۱۲:
+متن اصلی: تحلیل صورت‌های مالی شرکت پالایش نفت اصفهان در سال 1403 این احتمال را مطرح می‌کند که EPS این شرکت در سال مالی 1404 به 2500 ریال برسد که از 1800 ریال سال قبل افزایش قابل توجهی دارد. این روند P/E آینده‌نگر شرکت را به 4.2 خواهد رساند و شرکت پالایش نفت اصفهان به‌عنوان یکی از بزرگ‌ترین پالایشگاه‌های کشور در حوزه پالایش نفت خام فعالیت می‌کند.
+متن ناشناس‌شده: تحلیل صورت‌های مالی company-01 در سال 1403 این احتمال را مطرح می‌کند که EPS این شرکت در سال مالی 1404 به amount-01 برسد که از amount-02 سال قبل افزایش قابل توجهی دارد. این روند P/E آینده‌نگر شرکت را به amount-03 خواهد رساند و company-01 به‌عنوان یکی از بزرگ‌ترین پالایشگاه‌های کشور در حوزه پالایش نفت خام فعالیت می‌کند.
+
 حالا وظیفه شما: متن زیر را طبق الگوی بالا ناشناس‌سازی کنید. فقط متن ناشناس‌شده را بدون هیچ توضیح اضافه برگردانید.
 
 
@@ -317,7 +432,7 @@ percent-XX: درصدها و نسبت‌ها (مثال: ۴.۵۸ درصد، ۷۵
         """تحلیل متن ناشناس‌سازی شده"""
         import re
         
-        # شمارش موجودیت‌ها
+        # شمارش موجودیت‌ها (group حذف شد - همه گروه‌ها company هستند)
         companies = re.findall(r'company-(\d+)', text)
         persons = re.findall(r'person-(\d+)', text)
         amounts = re.findall(r'amount-(\d+)', text)
@@ -739,12 +854,12 @@ def create_advanced_interface():
         # مثال‌های پیشرفته
         gr.Examples(
             examples=[
+                ["مجمع عمومی عادی سالیانه شرکت پتروشیمی بوعلی سینا برگزار شد. شرکت وانیا نیک تدبیر را به‌ عنوان بازرس قانونی و حسابرس انتخاب کردند. هزینه لجستیکی بوعلی حدود 100 میلیون دلار بوده و حدود 40 درصد خوراک از طریق خط لوله و 60 درصد باقی‌مانده معادل یک تا 1.5 میلیون تن در سال تهیه می‌شود."],
+                ["تحلیل صورت‌های مالی شرکت پالایش نفت اصفهان در سال 1403 این احتمال را مطرح می‌کند که EPS این شرکت در سال مالی 1404 به 2500 ریال برسد. این شرکت به‌عنوان یکی از بزرگ‌ترین پالایشگاه‌های کشور فعالیت می‌کند."],
                 ["سازمان تامین اجتماعی دارای سه شرکت دارویی است که از مراکز درمانی وابسته به وزارت بهداشت مطالباتی دارند."],
-                ["براساس آخرین گزارش سازمان تنظیم مقررات رادیویی در پاییز ۱۴۰۱ تعداد مشترکین تلفن همراه در ایران به بالای ۱۴۵ میلیون نفر رسیده که نسبت به سال گذشته حدود ۷.۲ درصد رشد داشته است. در حال حاضر همراه اول با سهمی ۵۳ درصدی از بازار مشترکین فعال بیشترین نقش را در ارتباطات تلفن همراه دارد. بعد از آن ایرانسل با ۴۳ درصد و رایتل با ۴ درصد در رتبه‌های بعدی قرار دارند."],
+                ["براساس آخرین گزارش سازمان تنظیم مقررات رادیویی در پاییز ۱۴۰۱ تعداد مشترکین تلفن همراه در ایران به بالای ۱۴۵ میلیون نفر رسیده که نسبت به سال گذشته حدود ۷.۲ درصد رشد داشته است."],
                 ["شرکت فولاد مبارکه اصفهان با همکاری شرکت ملی نفت ایران، قرارداد توسعه میدان گازی مدار را امضا کرد. شرکت فاما قصد دارد سرمایه خود را از ۸،۷۰۰ میلیارد ریال به ۱۲،۵۰۰ میلیارد ریال افزایش دهد."],
-                ["گزارش عملکرد ۵ ماهه سال 1403 نشان می‌دهد همراه اول در ۹ ماه سال 49 هزار میلیارد تومان درآمد کسب کرده و رشد 37 درصدی داشته است. سود ۳ ماهه اول به 8003 میلیارد تومان رسید."],
-                ["شرکت صنایع غذایی مینو شرق جزء واحد‌های تجاری فرعی شرکت صنعتی مینو و واحد‌های تجاری نهایی گروه شرکت اقتصادی و خودکفایی آزادگان می‌باشد."],
-                ["مهدی اخوان بهابادی، مدیرعامل همراه اول، اعلام کرد درآمد عملیاتی شرکت با رشد 37 درصدی به 70 هزار و 677 میلیارد تومان رسیده است."]
+                ["صورت‌های مالی سه خودروساز بزرگ کشور نشان می‌دهد که زیان انباشته تلفیقی خودروسازان از مرز 500 همت عبور کرده و به 620 همت رسیده است."]
             ],
             inputs=input_text,
             label="📚 مثال‌های پیشرفته آزمایشی"
@@ -800,6 +915,23 @@ def create_advanced_interface():
               - "در ۹ ماه" → حفظ
               - اما "۹ میلیون تومان" → amount-XX
             
+            ### 📧 مثال‌های صحیح:
+            
+            **مثال 1 - کلمات عمومی:**
+            - **ورودی:** سازمان تامین اجتماعی دارای سه شرکت دارویی است
+            - **خروجی:** company-01 دارای سه شرکت دارویی است
+            - ✅ "سه شرکت دارویی" حفظ شد (کلمه عمومی)
+            
+            **مثال 2 - نام مستعار:**
+            - **ورودی:** شرکت فولاد مبارکه... شرکت فاما قصد دارد...
+            - **خروجی:** company-01... company-01 قصد دارد...
+            - ✅ "فاما" = "فولاد مبارکه" → هر دو company-01
+            
+            **مثال 3 - فصل سال:**
+            - **ورودی:** در پاییز ۱۴۰۱ تعداد مشترکین ۱۴۵ میلیون نفر رسید
+            - **خروجی:** در پاییز ۱۴۰۱ تعداد مشترکین amount-01 رسید
+            - ✅ "پاییز" حفظ شد (فصل سال)
+            
             ### 🚀 مدل‌های موجود Cerebras:
             - `llama-3.3-70b`: مدل اصلی و قدرتمند (پیشنهادی)
             - `llama-3.1-8b`: سریع‌تر و سبک‌تر