leilaghomashchi commited on
Commit
78e4899
·
verified ·
1 Parent(s): d8d557b

Upload improved_anonymizer (10).py

Browse files
Files changed (1) hide show
  1. improved_anonymizer (10).py +759 -0
improved_anonymizer (10).py ADDED
@@ -0,0 +1,759 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ import gradio as gr
2
+ import re
3
+ import os
4
+ import requests
5
+ import time
6
+ import logging
7
+
8
+ # تنظیم logging
9
+ logging.basicConfig(level=logging.INFO)
10
+ logger = logging.getLogger(__name__)
11
+
12
+ class UniversalAnonymizer:
13
+ def __init__(self):
14
+ self.mapping_table = {}
15
+ self.counters = {
16
+ 'company': 0,
17
+ 'person': 0,
18
+ 'amount': 0,
19
+ 'percent': 0
20
+ }
21
+ self.api_key = os.getenv("OPENAI_API_KEY", "")
22
+
23
+ def anonymize_text(self, original_text, lang='fa'):
24
+ """ناشناس‌سازی جامع با تشخیص خودکار الگوها"""
25
+ try:
26
+ if not original_text or not original_text.strip():
27
+ return "⚠ Please enter input text!" if lang == 'en' else "⚠ لطفاً متن ورودی را وارد کنید!"
28
+
29
+ # ریست متغیرها
30
+ self.mapping_table = {}
31
+ self.counters = {key: 0 for key in self.counters.keys()}
32
+
33
+ anonymized = original_text
34
+
35
+ # مرحله 1: درصدها (اول از همه چون ممکن است در توضیحات باشند)
36
+ anonymized = self._anonymize_percentages(anonymized)
37
+
38
+ # مرحله 2: مبالغ مالی (قبل از شرکت‌ها تا اعداد درون نام شرکت‌ها تغییر نکند)
39
+ anonymized = self._anonymize_amounts(anonymized)
40
+
41
+ # مرحله 3: نام‌های اشخاص
42
+ anonymized = self._anonymize_persons(anonymized)
43
+
44
+ # مرحله 4: نام‌های شرکت‌ها
45
+ anonymized = self._anonymize_companies(anonymized)
46
+
47
+ logger.info(f"✅ Anonymization completed. Found {len(self.mapping_table)} entities.")
48
+ return anonymized
49
+
50
+ except Exception as e:
51
+ return f"⚠ Error in anonymization: {str(e)}" if lang == 'en' else f"⚠ خطا در ناشناس‌سازی: {str(e)}"
52
+
53
+ def _anonymize_percentages(self, text):
54
+ """تشخیص و ناشناس‌سازی همه انواع درصدها"""
55
+
56
+ # الگوهای جامع درصدها
57
+ percent_patterns = [
58
+ # درصدهای منفی
59
+ r'منفی \d+\.?\d* درصد',
60
+
61
+ # درصدهای با کلمه درصدی
62
+ r'\d+\.?\d* درصدی',
63
+
64
+ # درصدهای ساده
65
+ r'\d+\.?\d* درصد',
66
+
67
+ # بازه‌های درصدی
68
+ r'\d+\.?\d* تا \d+\.?\d* درصد',
69
+ r'\d+\.?\d*–\d+\.?\d*٪',
70
+ r'\d+\.?\d*-\d+\.?\d*٪',
71
+
72
+ # درصدهای با توضیحات
73
+ r'بیش از \d+\.?\d* درصد',
74
+ r'حدود \d+\.?\d* درصد',
75
+ r'نزدیک به \d+\.?\d* درصد',
76
+ r'کمتر از \d+\.?\d* درصد',
77
+ r'بالای \d+\.?\d* درصد',
78
+ r'زیر \d+\.?\d* درصد',
79
+ r'حداقل \d+\.?\d* درصد',
80
+ r'حداکثر \d+\.?\d* درصد',
81
+
82
+ # نمادهای درصد
83
+ r'\d+\.?\d*%',
84
+ r'\d+\.?\d*٪',
85
+
86
+ # درصدهای دهگانی
87
+ r'\d+\.\d+ درصد',
88
+
89
+ # بازه‌هایی با خط فاصله
90
+ r'\d+–\d+٪',
91
+ ]
92
+
93
+ return self._apply_patterns(text, percent_patterns, 'percent')
94
+
95
+ def _anonymize_amounts(self, text):
96
+ """تشخیص و ناشناس‌سازی همه انواع مبالغ مالی"""
97
+
98
+ # الگوهای جامع مبالغ مالی
99
+ amount_patterns = [
100
+ # مبالغ با کاما و نقطه
101
+ r'\d+,\d{3},\d{3} میلیون ریال',
102
+ r'\d+\.\d{3}\.\d{3} میلیون ریال',
103
+ r'\d+,\d{3} میلیارد ریال',
104
+ r'\d+\.\d{3} میلیارد ریال',
105
+
106
+ # مبالغ با واحد همت
107
+ r'\d+\.?\d* همت',
108
+ r'بیش از \d+\.?\d* همت',
109
+ r'نزدیک به \d+\.?\d* همت',
110
+ r'حدود \d+\.?\d* همت',
111
+ r'کمتر از \d+\.?\d* همت',
112
+ r'بالغ بر \d+\.?\d* همت',
113
+
114
+ # مبالغ ترکیبی با هزار
115
+ r'\d+ هزار و \d+ میلیارد تومان',
116
+ r'\d+ هزار و \d+ میلیارد ریال',
117
+ r'\d+ هزار و \d+ میلیون تومان',
118
+ r'\d+ هزار و \d+ میلیون ریال',
119
+ r'\d+ هزار و \d+ دستگاه',
120
+ r'\d+ هزار و \d+ تن',
121
+ r'\d+ هزار و \d+ نفر',
122
+
123
+ # مبالغ با توضیحات
124
+ r'بیش از \d+ هزار میلیارد تومان',
125
+ r'نزدیک به \d+ هزار میلیارد تومان',
126
+ r'حدود \d+ هزار میلیارد تومان',
127
+ r'کمتر از \d+ هزار میلیارد تومان',
128
+ r'بالغ بر \d+ هزار میلیارد تومان',
129
+
130
+ r'بیش از \d+ میلیارد تومان',
131
+ r'نزدیک به \d+ میلیارد تومان',
132
+ r'حدود \d+ میلیارد تومان',
133
+ r'کمتر از \d+ میلیارد تومان',
134
+ r'بالغ بر \d+ میلیارد تومان',
135
+
136
+ r'بیش از \d+ میلیون تومان',
137
+ r'حدود \d+ میلیون تومان',
138
+ r'نزدیک به \d+ میلیون تومان',
139
+
140
+ # مبالغ ارزی
141
+ r'حدود \d+ میلیون دلار',
142
+ r'بیش از \d+ میلیون دلار',
143
+ r'نزدیک به \d+ میلیون دلار',
144
+ r'\d+ میلیون دلار',
145
+ r'\d+ میلیون یورو',
146
+
147
+ # مبالغ خاص
148
+ r'یک‌هزار میلیارد تومان',
149
+ r'یکهزار میلیارد تومان',
150
+ r'دویست میلیارد تومان',
151
+ r'سیصد میلیارد تومان',
152
+ r'چهارصد میلیارد تومان',
153
+ r'پانصد میلیارد تومان',
154
+
155
+ # مبالغ با کاما
156
+ r'\d+,\d+ میلیارد تومان',
157
+ r'\d+,\d+ میلیارد ریال',
158
+ r'\d+,\d+ میلیون تومان',
159
+ r'\d+,\d+ میلیون ریال',
160
+ r'\d+,\d+ هزار میلیارد تومان',
161
+ r'\d+,\d+ هزار میلیارد ریال',
162
+
163
+ # مبالغ ساده
164
+ r'\d+ میلیارد تومان',
165
+ r'\d+ میلیارد ریال',
166
+ r'\d+ میلیون تومان',
167
+ r'\d+ میلیون ریال',
168
+ r'\d+ هزار میلیارد تومان',
169
+ r'\d+ هزار میلیارد ریال',
170
+ r'\d+ هزارمیلیارد تومان',
171
+ r'\d+ هزارمیلیون تومان',
172
+ r'\d+ ریال',
173
+ r'\d+ تومان',
174
+
175
+ # واحدهای تولیدی و اندازه‌گیری
176
+ r'\d+ هزار تن',
177
+ r'\d+,\d+ هزار تن',
178
+ r'\d+ میلیون تن',
179
+ r'\d+ تن',
180
+ r'\d+ مگا واتی',
181
+ r'\d+ مگاوات',
182
+ r'\d+ کیلووات',
183
+ r'\d+ واحد',
184
+ r'\d+ دستگاه',
185
+ r'\d+ میلیون دستگاه',
186
+ r'\d+ هزار دستگاه',
187
+
188
+ # تعداد افراد
189
+ r'\d+\.?\d* میلیون نفر',
190
+ r'\d+ میلیون نفر',
191
+ r'\d+ هزار نفر',
192
+ r'\d+ نفر',
193
+
194
+ # مبالغ اعشاری
195
+ r'\d+\.\d+ میلیارد تومان',
196
+ r'\d+\.\d+ میلیارد ریال',
197
+ r'\d+\.\d+ میلیون تومان',
198
+ r'\d+\.\d+ میلیون ریال',
199
+ r'\d+\.\d+ هزار میلیارد تومان',
200
+ r'\d+\.\d+ هزار میلیارد ریال',
201
+ r'\d+\.\d+ همت',
202
+
203
+ # بازه‌های مقداری
204
+ r'\d+ تا \d+ میلیارد تومان',
205
+ r'\d+ تا \d+ میلیون تومان',
206
+ r'\d+ تا \d+ ماه',
207
+ r'\d+ تا \d+ سال',
208
+ r'\d+ الی \d+ میلیارد تومان',
209
+ ]
210
+
211
+ return self._apply_patterns(text, amount_patterns, 'amount')
212
+
213
+ def _anonymize_persons(self, text):
214
+ """تشخیص و ناشناس‌سازی همه انواع نام‌های اشخاص"""
215
+
216
+ # الگوهای جامع نام‌های اشخاص
217
+ person_patterns = [
218
+ # نام‌های کامل با عناوین
219
+ r'دکتر\s+[آ-ی]+\s+[آ-ی]+\s+[آ-ی]+',
220
+ r'مهندس\s+[آ-ی]+\s+[آ-ی]+\s+[آ-ی]+',
221
+ r'آقای\s+[آ-ی]+\s+[آ-ی]+\s+[آ-ی]+',
222
+ r'خانم\s+[آ-ی]+\s+[آ-ی]+\s+[آ-ی]+',
223
+
224
+ # نام‌های کامل با سید
225
+ r'سید\s+[آ-ی]+\s+[آ-ی]+',
226
+ r'سید\s+[آ-ی]+\s+[آ-ی]+\s+[آ-ی]+',
227
+ r'سیدعلی\s+[آ-ی]+',
228
+ r'سیدمحمد\s+[آ-ی]+',
229
+ r'سیدحسن\s+[آ-ی]+',
230
+
231
+ # نام و نام خانوادگی ساده
232
+ r'[آ-ی]{3,}\s+[آ-ی]{3,}(?:\s+[آ-ی]{3,})?',
233
+
234
+ # نام‌هایی که با مدیرعامل همراه هستند
235
+ r'[آ-ی]+\s+[آ-ی]+\s*،?\s*مدیرعامل',
236
+ r'[آ-ی]+\s+[آ-ی]+\s+[آ-ی]+\s*،?\s*مدیرعامل',
237
+
238
+ # نام‌هایی که با سمت همراه هستند
239
+ r'[آ-ی]+\s+[آ-ی]+\s*،?\s*رئیس',
240
+ r'[آ-ی]+\s+[آ-ی]+\s*،?\s*مدیر',
241
+ r'[آ-ی]+\s+[آ-ی]+\s*،?\s*نایب',
242
+
243
+ # نام‌های خاص (باید در آخر باشند تا اولویت کمتری داشته باشند)
244
+ r'محمدرضا\s+[آ-ی]+',
245
+ r'علیرضا\s+[آ-ی]+',
246
+ r'محمدعلی\s+[آ-ی]+',
247
+ r'حسینعلی\s+[آ-ی]+',
248
+ ]
249
+
250
+ return self._apply_patterns(text, person_patterns, 'person')
251
+
252
+ def _anonymize_companies(self, text):
253
+ """تشخیص و ناشناس‌سازی همه انواع نام‌های شرکت‌ها"""
254
+
255
+ # الگوهای جامع نام‌های شرکت‌ها
256
+ company_patterns = [
257
+ # شرکت‌های کامل با پرانتز
258
+ r'شرکت\s+[آ-ی\s]+\([آ-ی\s]+\)',
259
+ r'بانک\s+[آ-ی\s]+\([آ-ی\s]+\)',
260
+ r'گروه\s+[آ-ی\s]+\([آ-ی\s]+\)',
261
+ r'هلدینگ\s+[آ-ی\s]+\([آ-ی\s]+\)',
262
+
263
+ # شرکت‌های با کلمه شرکت
264
+ r'شرکت\s+[آ-ی\s]{5,}',
265
+ r'شرکت\s+گروه\s+[آ-ی\s]+',
266
+ r'شرکت\s+سرمایه‌گذاری\s+[آ-ی\s]+',
267
+ r'شرکت\s+بیمه\s+[آ-ی\s]+',
268
+ r'شرکت\s+پتروشیمی\s+[آ-ی\s]+',
269
+ r'شرکت\s+فولاد\s+[آ-ی\s]+',
270
+ r'شرکت\s+پالایش\s+[آ-ی\s]+',
271
+ r'شرکت\s+انرژی\s+[آ-ی\s]+',
272
+ r'شرکت\s+ملی\s+[آ-ی\s]+',
273
+
274
+ # بانک‌ها
275
+ r'بانک\s+[آ-ی\s]{3,}',
276
+ r'موسسه\s+اعتباری\s+[آ-ی\s]+',
277
+ r'موسسه\s+مالی\s+[آ-ی\s]+',
278
+
279
+ # گروه‌ها و هلدینگ‌ها
280
+ r'گروه\s+[آ-ی\s]{3,}',
281
+ r'هلدینگ\s+[آ-ی\s]{3,}',
282
+ r'گروه\s+مالی\s+[آ-ی\s]+',
283
+ r'گروه\s+صنعتی\s+[آ-ی\s]+',
284
+
285
+ # صندوق‌ها و سازمان‌ها
286
+ r'صندوق\s+[آ-ی\s]{3,}',
287
+ r'سازمان\s+[آ-ی\s]{3,}',
288
+ r'موسسه\s+[آ-ی\s]{3,}',
289
+
290
+ # شرکت‌های خاص
291
+ r'[آ-ی]+\s+خودرو',
292
+ r'[آ-ی]+\s+فولاد',
293
+ r'بیمه\s+[آ-ی]+',
294
+ r'[آ-ی]+\s+انرژی',
295
+ r'[آ-ی]+\s+پتروشیمی',
296
+
297
+ # نام‌های کوتاه شرکت‌ها (باید در آخر باشند)
298
+ r'همراه\s+اول',
299
+ r'ایران\s*[-‌]*\s*خودرو',
300
+ r'فولاد\s+مبارکه',
301
+
302
+ # مجله‌ها و نشریات
303
+ r'مجله\s+[آ-ی\s]+',
304
+ r'نشریه\s+[آ-ی\s]+',
305
+ r'روزنامه\s+[آ-ی\s]+',
306
+ ]
307
+
308
+ return self._apply_patterns(text, company_patterns, 'company')
309
+
310
+ def _apply_patterns(self, text, patterns, category):
311
+ """اعمال الگوها و جایگزینی با کدهای ناشناس"""
312
+
313
+ # مرتب‌سازی الگوها بر اساس طول (طولانی‌ترین اول)
314
+ patterns.sort(key=len, reverse=True)
315
+
316
+ for pattern in patterns:
317
+ matches = list(re.finditer(pattern, text, re.IGNORECASE))
318
+
319
+ for match in matches:
320
+ matched_text = match.group(0)
321
+
322
+ # اگر قبلاً جایگزین نشده باشد
323
+ if matched_text not in self.mapping_table and matched_text in text:
324
+ # بررسی که کلمه کامل باشد (نه بخشی از کلمه بزرگ‌تر)
325
+ if self._is_complete_word(text, match):
326
+ self.counters[category] += 1
327
+ code = f"{category}-{self.counters[category]:02d}"
328
+ self.mapping_table[matched_text] = code
329
+ text = text.replace(matched_text, code)
330
+ logger.info(f"{category.title()} replaced: {matched_text} -> {code}")
331
+
332
+ return text
333
+
334
+ def _is_complete_word(self, text, match):
335
+ """بررسی اینکه آیا کلمه کامل است یا بخشی از کلمه بزرگ‌تر"""
336
+ start, end = match.span()
337
+
338
+ # بررسی کاراکتر قبل و بعد
339
+ if start > 0 and text[start-1].isalnum():
340
+ return False
341
+ if end < len(text) and text[end].isalnum():
342
+ return False
343
+
344
+ return True
345
+
346
+ def send_to_chatgpt(self, anonymized_text, lang='fa'):
347
+ """ارسال به ChatGPT"""
348
+ try:
349
+ if not anonymized_text or not anonymized_text.strip():
350
+ return "⚠ Anonymized text is empty!" if lang == 'en' else "⚠ متن ناشناس‌شده خالی است!"
351
+
352
+ if not self.api_key:
353
+ return "⚠ API Key not configured! Please set OPENAI_API_KEY environment variable." if lang == 'en' else "⚠ کلید API تنظیم نشده است! لطفاً OPENAI_API_KEY را در متغیرهای محیطی تنظیم کنید."
354
+
355
+ system_msg = "You are a professional financial analyst. The text contains anonymous codes. Answer questions accurately." if lang == 'en' else "شما یک تحلیلگر مالی حرفه‌ای هستید. متن حاوی کدهای ناشناس است. به سوالات با دقت پاسخ دهید."
356
+
357
+ headers = {
358
+ "Authorization": f"Bearer {self.api_key}",
359
+ "Content-Type": "application/json"
360
+ }
361
+
362
+ data = {
363
+ "model": "gpt-4o-mini",
364
+ "messages": [
365
+ {"role": "system", "content": system_msg},
366
+ {"role": "user", "content": anonymized_text}
367
+ ],
368
+ "max_tokens": 2000,
369
+ "temperature": 0.7
370
+ }
371
+
372
+ response = requests.post(
373
+ "https://api.openai.com/v1/chat/completions",
374
+ headers=headers,
375
+ json=data,
376
+ timeout=30
377
+ )
378
+
379
+ if response.status_code == 200:
380
+ result = response.json()
381
+ return result['choices'][0]['message']['content']
382
+ else:
383
+ error_data = response.json() if response.content else {}
384
+ error_message = error_data.get('error', {}).get('message', response.text)
385
+
386
+ if 'Incorrect API key' in error_message:
387
+ return "⚠ Invalid API key." if lang == 'en' else "⚠ کلید API نامعتبر است."
388
+ elif 'quota' in error_message:
389
+ return "⚠ API quota exceeded." if lang == 'en' else "⚠ سهمیه API تمام شده است."
390
+ else:
391
+ return f"⚠ API Error: {error_message}"
392
+
393
+ except Exception as e:
394
+ return f"⚠ Error connecting to ChatGPT: {str(e)}" if lang == 'en' else f"⚠ خطا در ارتباط با ChatGPT: {str(e)}"
395
+
396
+ def deanonymize_response(self, gpt_response, lang='fa'):
397
+ """بازگردانی"""
398
+ try:
399
+ if not gpt_response or not gpt_response.strip():
400
+ return "⚠ ChatGPT response is empty!" if lang == 'en' else "⚠ پاسخ ChatGPT خالی است!"
401
+
402
+ if not self.mapping_table:
403
+ return "⚠ Mapping table is empty!" if lang == 'en' else "⚠ جدول نگاشت خالی است!"
404
+
405
+ final_result = gpt_response
406
+ reverse_mapping = {code: original for original, code in self.mapping_table.items()}
407
+
408
+ # جایگزینی از طولانی‌ترین کد اول
409
+ sorted_codes = sorted(reverse_mapping.items(), key=lambda x: len(x[0]), reverse=True)
410
+ for code, original in sorted_codes:
411
+ final_result = final_result.replace(code, original)
412
+
413
+ return final_result
414
+
415
+ except Exception as e:
416
+ return f"⚠ Deanonymization error: {str(e)}" if lang == 'en' else f"⚠ خطا در بازگردانی: {str(e)}"
417
+
418
+ def process_all_steps(input_text, language):
419
+ """پردازش خودکار تمام مراحل"""
420
+ lang = 'en' if language == 'English' else 'fa'
421
+
422
+ if not input_text.strip():
423
+ error_msg = "⚠ Please enter input text!" if lang == 'en' else "⚠ لطفاً متن ورودی را وارد کنید!"
424
+ return error_msg, "", "", ""
425
+
426
+ try:
427
+ start_time = time.time()
428
+
429
+ anonymized_text = anonymizer.anonymize_text(input_text, lang)
430
+ if anonymized_text.startswith("⚠"):
431
+ return anonymized_text, "", "", ""
432
+
433
+ gpt_response = anonymizer.send_to_chatgpt(anonymized_text, lang)
434
+ if gpt_response.startswith("⚠"):
435
+ entities_found = len(anonymizer.mapping_table)
436
+ success_msg = (f"✅ Anonymization completed!\n"
437
+ f"📊 Total: {entities_found} entities protected")
438
+ return success_msg, anonymized_text, gpt_response, ""
439
+
440
+ final_result = anonymizer.deanonymize_response(gpt_response, lang)
441
+
442
+ total_time = time.time() - start_time
443
+ entities_found = len(anonymizer.mapping_table)
444
+
445
+ # آمار تفصیلی
446
+ company_count = anonymizer.counters['company']
447
+ amount_count = anonymizer.counters['amount']
448
+ percent_count = anonymizer.counters['percent']
449
+ person_count = anonymizer.counters['person']
450
+
451
+ success_msg = (f"🎉 Universal anonymization & restoration successful!\n"
452
+ f"🏢 Companies: {company_count} | 💰 Amounts: {amount_count} | 📊 Percentages: {percent_count} | 👤 Persons: {person_count}\n"
453
+ f"📊 Total: {entities_found} entities | ��️ Time: {total_time:.2f}s")
454
+
455
+ return success_msg, anonymized_text, gpt_response, final_result
456
+
457
+ except Exception as e:
458
+ error_msg = f"⚠ Processing error: {str(e)}" if lang == 'en' else f"⚠ خطا در پردازش: {str(e)}"
459
+ return error_msg, "", "", ""
460
+
461
+ def get_mapping_table(language):
462
+ """نمایش جدول نگاشت"""
463
+ lang = 'en' if language == 'English' else 'fa'
464
+
465
+ if not anonymizer.mapping_table:
466
+ return "⚠ Mapping table is empty! Please process some text first." if lang == 'en' else "⚠ جدول نگاشت خالی است! ابتدا متنی را پردازش کنید."
467
+
468
+ result = "📋 **Universal Mapping Table:**\n\n" if lang == 'en' else "📋 **جدول نگاشت جامع:**\n\n"
469
+
470
+ # گروه‌بندی بر اساس نوع
471
+ categories = {
472
+ 'company': '🏢 **Companies**',
473
+ 'amount': '💰 **Amounts**',
474
+ 'percent': '📊 **Percentages**',
475
+ 'person': '👤 **Persons**'
476
+ }
477
+
478
+ for category, title in categories.items():
479
+ category_items = {k: v for k, v in anonymizer.mapping_table.items() if v.startswith(category)}
480
+ if category_items:
481
+ result += f"{title}:\n"
482
+ for original, code in category_items.items():
483
+ result += f" • `{original}` → `{code}`\n"
484
+ result += "\n"
485
+
486
+ # آمار کلی
487
+ result += f"📊 **Summary**: {len(anonymizer.mapping_table)} total entities anonymized\n"
488
+
489
+ return result
490
+
491
+ def clear_all():
492
+ """پاک کردن همه"""
493
+ anonymizer.mapping_table = {}
494
+ anonymizer.counters = {key: 0 for key in anonymizer.counters.keys()}
495
+ return "", "", "", "", ""
496
+
497
+ def update_ui_text(language):
498
+ """به‌روزرسانی متن‌های رابط کاربری"""
499
+ if language == 'English':
500
+ return {
501
+ 'title': 'Universal Business Data Anonymization System',
502
+ 'step1': 'Input Text & Settings',
503
+ 'step2': 'Anonymized Text',
504
+ 'step3': 'Raw ChatGPT Response',
505
+ 'step4': 'Final Restored Response',
506
+ 'input_placeholder': 'Enter your business text here...\nThe system will automatically detect and anonymize all types of company names, financial amounts, percentages, and personal names using advanced pattern recognition...',
507
+ 'process_btn': 'Process with Universal Detection',
508
+ 'clear_btn': 'Clear All',
509
+ 'mapping_btn': 'Show Universal Mapping Table',
510
+ 'direction': 'ltr'
511
+ }
512
+ else:
513
+ return {
514
+ 'title': 'سیستم ناشناس‌سازی جامع اطلاعات تجاری',
515
+ 'step1': 'متن ورودی و تنظیمات',
516
+ 'step2': 'متن ناشناس‌شده',
517
+ 'step3': 'پاسخ خام ChatGPT',
518
+ 'step4': 'پاسخ نهایی بازگردانده شده',
519
+ 'input_placeholder': 'متن تجاری خود را اینجا وارد کنید...\nسیستم به صورت خودکار تمام انواع نام شرکت‌ها، مبالغ مالی، درصدها و نام‌های اشخاص را با تشخیص الگوی پیشرفته شناسایی و ناشناس می‌کند...',
520
+ 'process_btn': 'پردازش با تشخیص جامع',
521
+ 'clear_btn': 'پاک کردن همه',
522
+ 'mapping_btn': 'نمایش جدول نگاشت جامع',
523
+ 'direction': 'rtl'
524
+ }
525
+
526
+ def update_interface(language):
527
+ """تغییر رابط کاربری بر اساس زبان"""
528
+ ui_text = update_ui_text(language)
529
+ is_english = (language == 'English')
530
+
531
+ workflow_css = "workflow ltr" if is_english else "workflow rtl"
532
+
533
+ return [
534
+ gr.update(value=f"<h1 style='text-align: center; color: #FFD700; font-size: 3.5em; font-weight: bold; text-shadow: 3px 3px 6px rgba(0,0,0,0.5); margin: 20px 0; background: linear-gradient(45deg, #FFD700, #FFA500); -webkit-background-clip: text; -webkit-text-fill-color: transparent; background-clip: text;'>📊 {ui_text['title']}</h1>"),
535
+ gr.update(value=f"<h2 style='direction: {ui_text['direction']};'>🔍 {ui_text['step1']}</h2>"),
536
+ gr.update(placeholder=ui_text['input_placeholder'], rtl=not is_english),
537
+ gr.update(value=f"🚀 {ui_text['process_btn']}"),
538
+ gr.update(value=f"🗑️ {ui_text['clear_btn']}"),
539
+ gr.update(rtl=not is_english),
540
+ gr.update(value=f"<h2 style='direction: {ui_text['direction']};'>🎭 {ui_text['step2']}</h2>"),
541
+ gr.update(rtl=not is_english),
542
+ gr.update(value=f"<h2 style='direction: {ui_text['direction']};'>🤖 {ui_text['step3']}</h2>"),
543
+ gr.update(rtl=not is_english),
544
+ gr.update(value=f"<h2 style='direction: {ui_text['direction']};'>✅ {ui_text['step4']}</h2>"),
545
+ gr.update(rtl=not is_english),
546
+ gr.update(value=f"📋 {ui_text['mapping_btn']}"),
547
+ gr.update(rtl=not is_english),
548
+ gr.update(elem_classes=workflow_css)
549
+ ]
550
+
551
+ # ایجاد instance
552
+ anonymizer = UniversalAnonymizer()
553
+
554
+ # CSS
555
+ custom_css = """
556
+ body, .gradio-container {
557
+ font-family: 'Segoe UI', Tahoma, Arial, sans-serif !important;
558
+ background: linear-gradient(135deg, #667eea 0%, #764ba2 100%) !important;
559
+ min-height: 100vh !important;
560
+ padding: 20px !important;
561
+ }
562
+
563
+ .rtl {
564
+ direction: rtl !important;
565
+ text-align: right !important;
566
+ }
567
+
568
+ .ltr {
569
+ direction: ltr !important;
570
+ text-align: left !important;
571
+ }
572
+
573
+ .workflow {
574
+ display: grid !important;
575
+ grid-template-columns: 1fr 1fr 1fr 1fr !important;
576
+ gap: 25px !important;
577
+ padding: 30px !important;
578
+ align-items: start !important;
579
+ align-content: start !important;
580
+ grid-auto-rows: auto !important;
581
+ }
582
+
583
+ .gradio-textbox {
584
+ border-radius: 10px !important;
585
+ box-shadow: 0 4px 15px rgba(0,0,0,0.1) !important;
586
+ min-height: 380px !important;
587
+ max-height: 380px !important;
588
+ height: 380px !important;
589
+ }
590
+
591
+ .gradio-textbox textarea {
592
+ min-height: 350px !important;
593
+ max-height: 350px !important;
594
+ height: 350px !important;
595
+ resize: vertical !important;
596
+ }
597
+
598
+ .status-box {
599
+ background: linear-gradient(135deg, #4CAF50, #45a049) !important;
600
+ border: 3px solid #2E7D32 !important;
601
+ border-radius: 15px !important;
602
+ padding: 15px !important;
603
+ margin: 10px 0 !important;
604
+ box-shadow: 0 8px 32px rgba(76, 175, 80, 0.3) !important;
605
+ animation: pulse 2s infinite !important;
606
+ min-height: 120px !important;
607
+ max-height: 120px !important;
608
+ }
609
+
610
+ @keyframes pulse {
611
+ 0% { box-shadow: 0 8px 32px rgba(76, 175, 80, 0.3); }
612
+ 50% { box-shadow: 0 8px 40px rgba(76, 175, 80, 0.6); }
613
+ 100% { box-shadow: 0 8px 32px rgba(76, 175, 80, 0.3); }
614
+ }
615
+
616
+ .gradio-button {
617
+ border-radius: 25px !important;
618
+ font-weight: bold !important;
619
+ transition: all 0.3s ease !important;
620
+ margin: 5px 0 !important;
621
+ min-height: 50px !important;
622
+ max-height: 50px !important;
623
+ }
624
+
625
+ h1 {
626
+ background: linear-gradient(45deg, #FFD700, #FFA500) !important;
627
+ -webkit-background-clip: text !important;
628
+ -webkit-text-fill-color: transparent !important;
629
+ background-clip: text !important;
630
+ min-height: 80px !important;
631
+ }
632
+ """
633
+
634
+ # رابط کاربری Gradio
635
+ with gr.Blocks(title="📊 Universal Anonymization System", theme=gr.themes.Soft(), css=custom_css) as app:
636
+
637
+ with gr.Row():
638
+ language_selector = gr.Radio(
639
+ choices=["فارسی", "English"],
640
+ value="فارسی",
641
+ label="Language / زبان",
642
+ interactive=True
643
+ )
644
+
645
+ with gr.Column():
646
+ title = gr.HTML("<h1 style='text-align: center; color: #FFD700; font-size: 3.5em; font-weight: bold; text-shadow: 3px 3px 6px rgba(0,0,0,0.5); margin: 20px 0; background: linear-gradient(45deg, #FFD700, #FFA500); -webkit-background-clip: text; -webkit-text-fill-color: transparent; background-clip: text;'>📊 سیستم ناشناس‌سازی جامع اطلاعات تجاری</h1>")
647
+
648
+ with gr.Row(elem_classes="workflow rtl") as workflow_row:
649
+ with gr.Column():
650
+ step1_title = gr.HTML('<h2 style="direction: rtl;">🔍 متن ورودی و تنظیمات</h2>')
651
+
652
+ input_text = gr.Textbox(
653
+ lines=15,
654
+ placeholder="متن تجاری خود را اینجا وارد کنید...\nسیستم به صورت خودکار تمام انواع نام شرکت‌ها، مبالغ مالی، درصدها و نام‌های اشخاص را با تشخیص الگوی پیشرفته شناسایی و ناشناس می‌کند...",
655
+ label="",
656
+ rtl=True
657
+ )
658
+
659
+ process_btn = gr.Button("🚀 پردازش با تشخیص جامع", variant="primary")
660
+ clear_btn = gr.Button("🗑️ پاک کردن همه", variant="stop")
661
+
662
+ status = gr.Textbox(
663
+ label="وضعیت",
664
+ lines=4,
665
+ interactive=False,
666
+ rtl=True,
667
+ elem_classes=["status-box"]
668
+ )
669
+
670
+ with gr.Column():
671
+ step2_title = gr.HTML('<h2 style="direction: rtl;">🎭 متن ناشناس‌شده</h2>')
672
+
673
+ anonymized_output = gr.Textbox(
674
+ lines=15,
675
+ placeholder="متن ناشناس‌شده اینجا نمایش داده می‌شود...",
676
+ label="",
677
+ interactive=False,
678
+ rtl=True
679
+ )
680
+
681
+ with gr.Column():
682
+ step3_title = gr.HTML('<h2 style="direction: rtl;">🤖 پاسخ خام ChatGPT</h2>')
683
+
684
+ gpt_output = gr.Textbox(
685
+ lines=15,
686
+ placeholder="پاسخ خام ChatGPT اینجا نمایش داده می‌شود...",
687
+ label="",
688
+ interactive=False,
689
+ rtl=True
690
+ )
691
+
692
+ with gr.Column():
693
+ step4_title = gr.HTML('<h2 style="direction: rtl;">✅ پاسخ نهایی بازگردانده شده</h2>')
694
+
695
+ final_output = gr.Textbox(
696
+ lines=15,
697
+ placeholder="پاسخ نهایی اینجا نمایش داده می‌شود...",
698
+ label="",
699
+ interactive=False,
700
+ rtl=True
701
+ )
702
+
703
+ with gr.Row():
704
+ with gr.Column():
705
+ mapping_title = gr.HTML('<h2>🗂️ جدول نگاشت جامع</h2>')
706
+ mapping_btn = gr.Button("📋 نمایش جدول نگاشت جامع")
707
+
708
+ mapping_output = gr.Textbox(
709
+ lines=10,
710
+ label="جدول نگاشت اطلاعات",
711
+ interactive=False,
712
+ visible=False,
713
+ rtl=True
714
+ )
715
+
716
+ # Event handlers
717
+ language_selector.change(
718
+ fn=update_interface,
719
+ inputs=[language_selector],
720
+ outputs=[title, step1_title, input_text, process_btn, clear_btn,
721
+ status, step2_title, anonymized_output, step3_title, gpt_output,
722
+ step4_title, final_output, mapping_btn, mapping_output, workflow_row]
723
+ )
724
+
725
+ process_btn.click(
726
+ fn=process_all_steps,
727
+ inputs=[input_text, language_selector],
728
+ outputs=[status, anonymized_output, gpt_output, final_output]
729
+ )
730
+
731
+ clear_btn.click(
732
+ fn=clear_all,
733
+ outputs=[input_text, anonymized_output, gpt_output, final_output, status]
734
+ )
735
+
736
+ mapping_btn.click(
737
+ fn=get_mapping_table,
738
+ inputs=[language_selector],
739
+ outputs=[mapping_output]
740
+ )
741
+
742
+ mapping_btn.click(
743
+ fn=lambda: gr.update(visible=True),
744
+ outputs=[mapping_output]
745
+ )
746
+
747
+ if __name__ == "__main__":
748
+ # تست سیستم با نمونه از داده‌های شما
749
+ test_text = """مهدی اخوان بهابادی، مدیرعامل همراه اول، در مجمع عمومی عادی سالیانه اعلام کرد درآمد عملیاتی شرکت اصلی با رشد قابل توجه 37 درصدی نسبت به سال 1402، به 70 هزار و 677 میلیارد تومان رسیده است. شرکت گروه توسعه مالی مهر آیندگان (ومهان) در گزارش عملکرد مردادماه 1404 بار دیگر توانست با رشد 14 درصدی سرمایه‌گذاری‌ها جایگاه خود را تثبیت کند."""
750
+
751
+ anonymizer_test = UniversalAnonymizer()
752
+ result = anonymizer_test.anonymize_text(test_text)
753
+ print("نتیجه ناشناس‌سازی جامع:")
754
+ print(result)
755
+ print("\nجدول نگاشت:")
756
+ for original, code in anonymizer_test.mapping_table.items():
757
+ print(f"{original} -> {code}")
758
+
759
+ app.launch()