KashefTech commited on
Commit
2baac53
·
verified ·
1 Parent(s): 711e5e2

Upload app (63).py

Browse files

رفعع باگهای برنامه 2 اسفند

Files changed (1) hide show
  1. app (63).py +662 -0
app (63).py ADDED
@@ -0,0 +1,662 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ import gradio as gr
2
+ import re
3
+ import os
4
+ import requests
5
+ import json
6
+ import logging
7
+ from typing import Dict, List, Tuple, Optional
8
+ from llm_sender_unified import create_llm_sender
9
+
10
+ logging.basicConfig(level=logging.INFO)
11
+ logger = logging.getLogger(__name__)
12
+
13
+ # ─────────────────────────────────────────────────────────────
14
+ # مدل‌های موجود — برای تحلیل LLM
15
+ # ─────────────────────────────────────────────────────────────
16
+ AVAILABLE_MODELS = {
17
+ "chatgpt": ["gpt-5.1", "gpt-5", "gpt-4.1", "gpt-4o", "gpt-4o-mini", "gpt-4-turbo"],
18
+ "grok": ["grok-4-0709", "grok-3", "grok-3-mini", "grok-2-1212"],
19
+ "deepinfra": [
20
+ "Qwen/Qwen3-14B", "Qwen/Qwen3-32B", "Qwen/Qwen3-30B-A3B",
21
+ "Qwen/Qwen2.5-72B-Instruct", "Qwen/Qwen2.5-14B-Instruct",
22
+ ],
23
+ }
24
+
25
+ # ─────────────────────────────────────────────────────────────
26
+ # DeepInfra — ناشناس‌سازی با Qwen3-14B
27
+ # بهینه‌سازی‌ها:
28
+ # ۱. thinking mode خاموش (chat_template_kwargs)
29
+ # ۲. یک call: ناشناس‌سازی + mapping با هم در JSON
30
+ # ─────────────────────────────────────────────────────────────
31
+ ANON_MODEL = "Qwen/Qwen3-14B"
32
+ ANON_API_URL = "https://api.deepinfra.com/v1/openai/chat/completions"
33
+
34
+ # ─────────────────────────────────────────────────────────────
35
+ # SYSTEM PROMPT ناشناس‌سازی
36
+ # fix: «company-XX» فقط برای نام‌های مشخص، نه کلمات عمومی
37
+ # ─────────────────────────────────────────────────────────────
38
+ ANON_SYSTEM_PROMPT = """You are a Persian text anonymizer. Output ONLY valid JSON, no explanation.
39
+
40
+ TOKENS: company-01/02... | person-01/02... | amount-01/02... | percent-01/02...
41
+
42
+ ENTITY RULES:
43
+ - company-XX: ONLY specific named organizations (بانک پاسارگاد, فولاد مبارکه, ...)
44
+ - NEVER use company-XX for generic words: بانک‌ها, شرکت‌ها, این بانک, این شرکت, سازمان‌ها
45
+ - NEVER use company-XX for pronouns/references: این, آن, همین
46
+ - person-XX: ONLY full personal names (نام + نام‌خانوادگی)
47
+ - amount-XX: number + monetary/measurement unit TOGETHER as one token
48
+ - percent-XX: number + درصد/٪ TOGETHER as one token
49
+ - ALL org types use company-XX: banks→company-XX, funds→company-XX, auditors→company-XX
50
+ - NEVER: bank-01, org-01, شرکت-01 — ONLY company-XX in English
51
+ - Same named entity = same token. New named entity = next number."""
52
+
53
+
54
+ # ─────────────────────────────────────────────────────────────
55
+ # ساخت prompt — یک call، JSON output
56
+ # ─────────────────────────────────────────────────────────────
57
+
58
+ def build_single_call_prompt(text: str, entities: list) -> str:
59
+ """
60
+ یک prompt = یک call = ناشناس‌سازی + mapping با هم در JSON
61
+ بهینه‌سازی‌ها:
62
+ - /no_think در ابتدا → thinking mode خاموش
63
+ - JSON output → دو call به یک تبدیل شد
64
+ - fix: کلمات عمومی ناشناس نشوند
65
+ """
66
+ rules = []
67
+
68
+ if "company" in entities:
69
+ rules.append(
70
+ "company-XX → فقط نام‌های مشخص سازمان‌ها\n"
71
+ " ✅ «بانک پاسارگاد» → company-01\n"
72
+ " ✅ «ایران خودرو» → company-02 (بدون پیشوند هم ناشناس شود)\n"
73
+ " ❌ «بانک‌های کشور»، «این بانک»، «سودآورترین بانک‌ها» → دست نزن"
74
+ )
75
+ if "person" in entities:
76
+ rules.append(
77
+ "person-XX → فقط نام کامل اشخاص (نام + نام‌خانوادگی)\n"
78
+ " ✅ «فرج‌اله قدمی» → person-01\n"
79
+ " ❌ «مدیرعامل»، «رئیس» → دست نزن"
80
+ )
81
+ if "amount" in entities:
82
+ rules.append(
83
+ "amount-XX → عدد + واحد را کاملاً با هم جایگزین کن\n"
84
+ " ✅ «155 هزار میلیارد ریال» → amount-01\n"
85
+ " ✅ «2700 میلیارد تومانی» �� amount-02\n"
86
+ " ✅ «67 هزار میلیارد تومان» → amount-03\n"
87
+ " ❌ «amount-01 میلیارد ریال» — واحد نباید بیرون بماند"
88
+ )
89
+ if "percent" in entities:
90
+ rules.append(
91
+ "percent-XX → عدد + درصد/٪ را کاملاً با هم جایگزین کن\n"
92
+ " ✅ «منفی 345 درصد» → منفی percent-01\n"
93
+ " ✅ «50 الی 70 درصد» → percent-02 الی percent-03 (دو توکن)\n"
94
+ " ❌ «percent-01 درصد» — کلمه درصد نباید بیرون بماند"
95
+ )
96
+
97
+ rules.append(
98
+ "اعداد سال (1402، 1403، 1404) را ناشناس نکن\n"
99
+ "کلمات عمومی مثل «بانک‌ها»، «شرکت‌ها»، «این بانک»، «سودآورترین بانک‌ها» را دست نزن"
100
+ )
101
+
102
+ rules_text = "\n".join(rules)
103
+
104
+ mapping_hints = []
105
+ if "person" in entities: mapping_hints.append('"person-XX": "نام کامل"')
106
+ if "company" in entities: mapping_hints.append('"company-XX": "نام کامل سازمان"')
107
+ if "amount" in entities: mapping_hints.append('"amount-XX": "عدد + واحد کامل"')
108
+ if "percent" in entities: mapping_hints.append('"percent-XX": "عدد + درصد کامل"')
109
+ hints = ", ".join(mapping_hints)
110
+
111
+ # /no_think در ابتدای پیام → Qwen3 thinking mode خاموش می‌شود
112
+ return f"""/no_think
113
+ متن فارسی زیر را ناشناس کن. خروجی فقط JSON، بدون هیچ توضیح اضافه.
114
+
115
+ قوانین:
116
+ {rules_text}
117
+
118
+ فرمت خروجی:
119
+ {{
120
+ "anonymized": "متن ناشناس شده اینجا",
121
+ "mapping": {{ {hints} }}
122
+ }}
123
+
124
+ متن:
125
+ {text}"""
126
+
127
+
128
+ def build_analysis_prompt(anonymized_text: str, analysis_prompt: str, entities: list) -> str:
129
+ tokens = []
130
+ if "person" in entities: tokens.append("person-XX")
131
+ if "company" in entities: tokens.append("company-XX")
132
+ if "amount" in entities: tokens.append("amount-XX")
133
+ if "percent" in entities: tokens.append("percent-XX")
134
+
135
+ return f"""متن ناشناس‌سازی شده:
136
+ {anonymized_text}
137
+
138
+ دستورات:
139
+ {analysis_prompt}
140
+
141
+ قوانین:
142
+ - فقط از توکن‌های موجود استفاده کن: {', '.join(tokens)}
143
+ - هیچ کلمه‌ای قبل/بعد از توکن‌ها اضافه نکن
144
+ - توکن جدید ایجاد نکن"""
145
+
146
+
147
+ # ─────────────────────────────────────────────────────────────
148
+ # توابع کمکی
149
+ # ─────────────────────────────────────────────────────────────
150
+
151
+ def strip_thinking(text: str) -> str:
152
+ """حذف بلوک think — احتیاطی اگر thinking هنوز فعال بود"""
153
+ if not text:
154
+ return text
155
+ return re.sub(r"<think>.*?</think>", "", text, flags=re.DOTALL).strip()
156
+
157
+
158
+ def parse_json_response(raw: str) -> dict:
159
+ """parse JSON مقاوم در برابر markdown fence و think blocks"""
160
+ raw = strip_thinking(raw)
161
+ raw = re.sub(r"```(?:json)?", "", raw).replace("```", "").strip()
162
+ start = raw.find("{")
163
+ end = raw.rfind("}") + 1
164
+ if start == -1 or end == 0:
165
+ raise ValueError("JSON یافت نشد در خروجی مدل")
166
+ return json.loads(raw[start:end])
167
+
168
+
169
+ def post_deepinfra(prompt: str, system: str, max_tokens: int = 4096) -> str:
170
+ """
171
+ ارسال به DeepInfra Qwen3-14B با thinking mode خاموش
172
+ دو روش غیرفعال کردن thinking:
173
+ ۱. /no_think در ابتدای prompt (در build_single_call_prompt)
174
+ ۲. chat_template_kwargs در API parameters
175
+ """
176
+ api_key = os.getenv("DEEPINFRA_API_KEY")
177
+ if not api_key:
178
+ raise ValueError("DEEPINFRA_API_KEY موجود نیست")
179
+
180
+ resp = requests.post(
181
+ ANON_API_URL,
182
+ headers={
183
+ "Authorization": f"Bearer {api_key}",
184
+ "Content-Type": "application/json"
185
+ },
186
+ json={
187
+ "model": ANON_MODEL,
188
+ "messages": [
189
+ {"role": "system", "content": system},
190
+ {"role": "user", "content": prompt}
191
+ ],
192
+ "max_tokens": max_tokens,
193
+ "temperature": 0.1,
194
+ # ── غیرفعال کردن thinking mode — روش API ──
195
+ "chat_template_kwargs": {"enable_thinking": False},
196
+ },
197
+ timeout=90
198
+ )
199
+
200
+ if resp.status_code != 200:
201
+ raise Exception(f"DeepInfra API {resp.status_code}: {resp.text[:300]}")
202
+
203
+ content = resp.json()["choices"][0]["message"]["content"]
204
+ # احتیاطی: strip_thinking اگر باز هم think داشت
205
+ return strip_thinking(content)
206
+
207
+
208
+ # ─────────────────────────────────────────────────────────────
209
+ # کلاس اصلی
210
+ # ─────────────────────────────────────────────────────────────
211
+ class AnonymizerAdvanced:
212
+
213
+ def __init__(
214
+ self,
215
+ llm_provider: str = "chatgpt",
216
+ llm_model: str = None,
217
+ entities_to_anonymize: List[str] = None
218
+ ):
219
+ self.llm_provider = llm_provider
220
+ self.llm_model = llm_model
221
+ self.entities_to_anonymize = entities_to_anonymize or ["person", "company", "amount", "percent"]
222
+ self.mapping_table: Dict[str, str] = {}
223
+ self.reverse_mapping: Dict[str, str] = {}
224
+ self._create_llm_sender()
225
+ logger.info(f"✅ Anonymizer مقداردهی شد — {llm_provider}")
226
+
227
+ # ── LLM sender (برای تحلیل) ─────────────────────────────
228
+
229
+ def _create_llm_sender(self):
230
+ try:
231
+ key_map = {
232
+ "chatgpt": os.getenv("OPENAI_API_KEY"),
233
+ "grok": os.getenv("XAI_API_KEY"),
234
+ "deepinfra": os.getenv("DEEPINFRA_API_KEY"),
235
+ }
236
+ self.llm_sender = create_llm_sender(
237
+ provider=self.llm_provider,
238
+ api_key=key_map.get(self.llm_provider),
239
+ model=self.llm_model
240
+ )
241
+ logger.info(f"✅ LLM Sender: {self.llm_provider} — {self.llm_sender.model}")
242
+ except Exception as e:
243
+ logger.error(f"❌ خطا در LLM Sender: {e}")
244
+ self.llm_sender = create_llm_sender("chatgpt")
245
+
246
+ def set_llm_provider(self, provider: str, model: str = None, entities: List[str] = None):
247
+ self.llm_provider = provider
248
+ self.llm_model = model
249
+ if entities is not None:
250
+ self.entities_to_anonymize = entities
251
+ self._create_llm_sender()
252
+
253
+ # ── ناشناس‌سازی — یک call، بدون thinking ──────────────
254
+
255
+ def anonymize(self, text: str) -> Tuple[str, Dict]:
256
+ """
257
+ ناشناس‌سازی با Qwen3-14B روی DeepInfra
258
+ بهینه‌سازی‌ها:
259
+ - thinking mode خاموش: /no_think + chat_template_kwargs
260
+ - یک API call: anonymized + mapping با هم در JSON
261
+ """
262
+ logger.info(f"⚡ Qwen3-14B (no-think, single call)...")
263
+
264
+ if not self.entities_to_anonymize:
265
+ return text, {}
266
+
267
+ prompt = build_single_call_prompt(text, self.entities_to_anonymize)
268
+
269
+ try:
270
+ raw = post_deepinfra(prompt, ANON_SYSTEM_PROMPT, max_tokens=4096)
271
+ logger.info(f"✅ پاسخ دریافت شد ({len(raw)} کاراکتر)")
272
+
273
+ result = parse_json_response(raw)
274
+ anonymized_text = result.get("anonymized", "")
275
+ self.mapping_table = result.get("mapping", {})
276
+
277
+ # پاک‌سازی mapping از توکن‌های company-XX عمومی
278
+ self._clean_generic_tokens(anonymized_text)
279
+ self._fix_mapping()
280
+ self.reverse_mapping = {v: k for k, v in self.mapping_table.items()}
281
+
282
+ for etype in self.entities_to_anonymize:
283
+ found = sorted(set(re.findall(rf'{etype}-\d+', anonymized_text)))
284
+ if found:
285
+ logger.info(f" {etype}: {found}")
286
+
287
+ logger.info(f"✅ mapping: {len(self.mapping_table)} موجودیت")
288
+ return anonymized_text, self.mapping_table
289
+
290
+ except json.JSONDecodeError as e:
291
+ logger.warning(f"⚠️ JSON parse خطا: {e} — fallback")
292
+ return self._anonymize_fallback(text)
293
+ except Exception as e:
294
+ logger.error(f"❌ DeepInfra Exception: {e}")
295
+ raise
296
+
297
+ def _anonymize_fallback(self, text: str) -> Tuple[str, Dict]:
298
+ """
299
+ Fallback: اگر JSON parse شکست خورد
300
+ دو call جداگانه با Qwen3 (بدون JSON mode)
301
+ """
302
+ logger.info("🔄 fallback: دو call...")
303
+
304
+ # Call 1: فقط متن ناشناس
305
+ rules = []
306
+ if "company" in self.entities_to_anonymize:
307
+ rules.append("company-XX → فقط نام‌های مشخص سازمان (نه بانک‌ها یا این بانک)")
308
+ if "person" in self.entities_to_anonymize:
309
+ rules.append("person-XX → نام کامل اشخاص")
310
+ if "amount" in self.entities_to_anonymize:
311
+ rules.append("amount-XX → عدد + واحد با هم")
312
+ if "percent" in self.entities_to_anonymize:
313
+ rules.append("percent-XX → عدد + درصد با هم")
314
+ rules.append("اعداد سال و کلمات عمومی را دست نزن. فقط متن ناشناس شده.")
315
+
316
+ prompt1 = "/no_think\n" + "\n".join(rules) + f"\n\nمتن:\n{text}"
317
+ anonymized_text = post_deepinfra(prompt1, ANON_SYSTEM_PROMPT, max_tokens=4096)
318
+
319
+ # Call 2: mapping
320
+ hints = []
321
+ if "person" in self.entities_to_anonymize: hints.append('"person-XX": "نام کامل"')
322
+ if "company" in self.entities_to_anonymize: hints.append('"company-XX": "نام سازمان"')
323
+ if "amount" in self.entities_to_anonymize: hints.append('"amount-XX": "عدد+واحد"')
324
+ if "percent" in self.entities_to_anonymize: hints.append('"percent-XX": "عدد+درصد"')
325
+
326
+ prompt2 = (
327
+ f"/no_think\n"
328
+ f"متن اصلی: {text}\n"
329
+ f"متن ناشناس: {anonymized_text}\n\n"
330
+ f"فقط JSON mapping:\n{{ {', '.join(hints)} }}"
331
+ )
332
+
333
+ try:
334
+ raw2 = post_deepinfra(prompt2, "Output ONLY valid JSON. No explanation.", max_tokens=2048)
335
+ self.mapping_table = parse_json_response(raw2)
336
+ except Exception:
337
+ self._extract_mapping_fallback(text, anonymized_text)
338
+
339
+ self._clean_generic_tokens(anonymized_text)
340
+ self._fix_mapping()
341
+ self.reverse_mapping = {v: k for k, v in self.mapping_table.items()}
342
+ return anonymized_text, self.mapping_table
343
+
344
+ # ── پاک‌سازی mapping ────────────────────────────────────
345
+
346
+ def _clean_generic_tokens(self, anonymized_text: str):
347
+ """
348
+ حذف توکن‌هایی از mapping که در متن ناشناس وجود ندارند
349
+ (مدل ممکنه mapping بیشتر از چیزی که واقعاً گذاشته تولید کرده باشد)
350
+ """
351
+ to_remove = [
352
+ token for token in list(self.mapping_table.keys())
353
+ if token not in anonymized_text
354
+ ]
355
+ for token in to_remove:
356
+ del self.mapping_table[token]
357
+ logger.info(f" 🗑️ حذف توکن اضافی از mapping: {token}")
358
+
359
+ def _fix_mapping(self):
360
+ """اطمینان از صحت مقادیر percent"""
361
+ for token, value in list(self.mapping_table.items()):
362
+ val = str(value).strip()
363
+ if token.startswith("percent-") and not re.search(r"(درصد|%|٪|درصدی)", val):
364
+ self.mapping_table[token] = f"{val} درصد"
365
+ logger.info(f" اصلاح {token}: '{val}' → '{val} درصد'")
366
+
367
+ # ── fallback mapping با regex ────────────────────────────
368
+
369
+ def _extract_mapping_fallback(self, original: str, anonymized: str):
370
+ pats: Dict[str, str] = {}
371
+ if "person" in self.entities_to_anonymize:
372
+ pats["person"] = r'(?<![ء-یa-zA-Z])[ء-ی]+\s+[ء-ی]+(?:\s+[ء-ی]+)*(?![ء-یa-zA-Z])'
373
+ if "company" in self.entities_to_anonymize:
374
+ pats["company"] = r'(?:(?:شرکت|بانک|سازمان|گروه|هلدینگ|صندوق)\s+)?[ء-ی][ء-ی\s]+'
375
+ if "amount" in self.entities_to_anonymize:
376
+ pats["amount"] = r'[\d۰-۹][,،\d۰-۹]*(?:\.\d+)?\s*(?:هزار|میلیون|میلیارد)?\s*(?:میلیارد|میلیون|هزار|تومان|ریال|دلار|دستگاه|تن)?'
377
+ if "percent" in self.entities_to_anonymize:
378
+ pats["percent"] = r'[\d۰-۹]+(?:\.\d+)?\s*(?:درصد|%|٪|درصدی)'
379
+
380
+ orig_entities = {
381
+ etype: [m.strip() for m in re.findall(pat, original) if m.strip()]
382
+ for etype, pat in pats.items()
383
+ }
384
+
385
+ for etype in self.entities_to_anonymize:
386
+ tokens = sorted(set(re.findall(rf'{etype}-(\d+)', anonymized)), key=int)
387
+ values = orig_entities.get(etype, [])
388
+ for tok_num in tokens:
389
+ token = f"{etype}-{tok_num}"
390
+ idx = int(tok_num) - 1
391
+ self.mapping_table[token] = values[idx] if idx < len(values) else (values[-1] if values else token)
392
+
393
+ self.reverse_mapping = {v: k for k, v in self.mapping_table.items()}
394
+ logger.info(f"✅ Fallback mapping: {len(self.mapping_table)} موجودیت")
395
+
396
+ # ── تحلیل با LLM ────────────────────────────────────────
397
+
398
+ def analyze_with_llm(self, anonymized_text: str, analysis_prompt: str = None) -> str:
399
+ logger.info(f"🤖 {self.llm_provider.upper()} تحلیل...")
400
+
401
+ if not analysis_prompt or not analysis_prompt.strip():
402
+ return "⚠️ هیچ دستور تحلیل داده نشده است"
403
+
404
+ prompt = build_analysis_prompt(anonymized_text, analysis_prompt, self.entities_to_anonymize)
405
+ try:
406
+ response = self.llm_sender.send(prompt, lang="fa", temperature=0.2, max_tokens=2000)
407
+ logger.info(f"✅ {self.llm_provider.upper()}: {len(response)} کاراکتر")
408
+ return response
409
+ except Exception as e:
410
+ logger.error(f"❌ {self.llm_provider.upper()} Exception: {e}")
411
+ return f"❌ خطا در ارتباط با {self.llm_provider.upper()}: {str(e)}"
412
+
413
+ # ── بازگردانی ────────────────────────────────────────────
414
+
415
+ def restore_text(self, anonymized_text: str) -> str:
416
+ logger.info("🔄 بازگردانی متن...")
417
+
418
+ if not self.mapping_table:
419
+ logger.warning("⚠️ جدول نگاشت خالی")
420
+ return anonymized_text
421
+
422
+ restored = self._normalize_tokens(anonymized_text)
423
+ count = 0
424
+
425
+ for placeholder, original in sorted(self.mapping_table.items(), key=lambda x: len(x[0]), reverse=True):
426
+ if placeholder in restored:
427
+ restored = restored.replace(placeholder, original)
428
+ count += 1
429
+ logger.info(f" ✅ {placeholder} → {original[:40]}")
430
+ else:
431
+ logger.warning(f" ⚠️ {placeholder} یافت نشد")
432
+
433
+ logger.info(f"✅ {count}/{len(self.mapping_table)} توکن بازگردانی شد")
434
+
435
+ if count < len(self.mapping_table):
436
+ restored = self._restore_with_regex(restored)
437
+
438
+ return restored
439
+
440
+ def _normalize_tokens(self, text: str) -> str:
441
+ normalized = text
442
+ unicode_hyphens = r'[\u2010\u2011\u2012\u2013\u2014\u2212]'
443
+ for etype in self.entities_to_anonymize:
444
+ normalized = re.sub(rf'{etype}{unicode_hyphens}(\d+)', rf'{etype}-\1', normalized)
445
+ normalized = re.sub(rf'{etype}\s+-\s+(\d+)', rf'{etype}-\1', normalized)
446
+ normalized = re.sub(rf'({etype}-\d+)([ء-ی])', r'\1 \2', normalized)
447
+ normalized = re.sub(rf'({etype}-\d+)([،؛:.!?])', r'\1 \2', normalized)
448
+ return normalized
449
+
450
+ def _restore_with_regex(self, text: str) -> str:
451
+ restored = text
452
+ for placeholder, original in self.mapping_table.items():
453
+ if placeholder not in restored:
454
+ continue
455
+ etype, num = placeholder.split("-")
456
+ if re.search(rf'{etype}\s*-\s*{num}', restored):
457
+ restored = re.sub(rf'{etype}\s*-\s*{num}', original, restored)
458
+ logger.info(f" ✅ regex: {placeholder} → {original[:40]}")
459
+ return restored
460
+
461
+ def get_mapping_table_md(self) -> str:
462
+ if not self.mapping_table:
463
+ return "### 📋 جدول نگاشت\n\nهیچ موجودیتی شناسایی نشد"
464
+ table = "### 📋 جدول نگاشت\n\n| شناسه | متن اصلی |\n|-------|----------|\n"
465
+ for token, original in sorted(self.mapping_table.items()):
466
+ table += f"| **{token}** | {original} |\n"
467
+ return table
468
+
469
+
470
+ # ─────────────────────────────────────────────────────────────
471
+ # متغیر سراسری
472
+ # ─────────────────────────────────────────────────────────────
473
+ anonymizer: Optional[AnonymizerAdvanced] = None
474
+
475
+
476
+ # ─────────────────────────────────────────────────────────────
477
+ # تابع اصلی پردازش
478
+ # ─────────────────────────────────────────────────────────────
479
+ def process(
480
+ input_text: str,
481
+ analysis_prompt: str,
482
+ llm_provider: str,
483
+ llm_model: str,
484
+ anonymize_all: bool,
485
+ anonymize_person: bool,
486
+ anonymize_company: bool,
487
+ anonymize_amount: bool,
488
+ anonymize_percent: bool
489
+ ):
490
+ global anonymizer
491
+
492
+ if not input_text.strip():
493
+ return "", "", "", ""
494
+
495
+ entities = ["person", "company", "amount", "percent"] if anonymize_all else [
496
+ e for e, flag in [
497
+ ("person", anonymize_person),
498
+ ("company", anonymize_company),
499
+ ("amount", anonymize_amount),
500
+ ("percent", anonymize_percent),
501
+ ] if flag
502
+ ]
503
+
504
+ if not entities:
505
+ return "", "❌ لطفاً حداقل یک موجودیت انتخاب کنید", "", ""
506
+
507
+ if not anonymizer:
508
+ anonymizer = AnonymizerAdvanced(
509
+ llm_provider=llm_provider,
510
+ llm_model=llm_model,
511
+ entities_to_anonymize=entities
512
+ )
513
+ else:
514
+ anonymizer.set_llm_provider(llm_provider, llm_model, entities)
515
+ anonymizer.mapping_table = {}
516
+ anonymizer.reverse_mapping = {}
517
+
518
+ try:
519
+ logger.info("=" * 60)
520
+ logger.info(f"⚡ ناشناس‌سازی: Qwen3-14B (no-think | single-call)")
521
+ logger.info(f"🤖 تحلیل: {llm_provider} ({llm_model})")
522
+ logger.info(f"🎯 موجودیت‌ها: {entities}")
523
+ logger.info("=" * 60)
524
+
525
+ # مرحله ۱: ناشناس‌سازی — Qwen3 بدون thinking، یک call
526
+ anon_text, _ = anonymizer.anonymize(input_text)
527
+
528
+ # مرحله ۲: تحلیل — LLM انتخابی
529
+ has_analysis = bool(analysis_prompt and analysis_prompt.strip())
530
+ llm_response = anonymizer.analyze_with_llm(anon_text, analysis_prompt) if has_analysis \
531
+ else "⚠️ هیچ دستور تحلیل داده نشده است"
532
+
533
+ # مرحله ۳: بازگردانی
534
+ source = llm_response if has_analysis else anon_text
535
+ restored = anonymizer.restore_text(source)
536
+
537
+ mapping_str = anonymizer.get_mapping_table_md()
538
+
539
+ logger.info("✅ پردازش کامل")
540
+ return restored, llm_response, anon_text, mapping_str
541
+
542
+ except Exception as e:
543
+ logger.error(f"❌ خطا: {e}", exc_info=True)
544
+ return "", f"❌ خطا: {str(e)}", "", ""
545
+
546
+
547
+ def clear_all():
548
+ return "", "", "", "", "", "", True, False, False, False, False
549
+
550
+
551
+ # ─────────────────────────────────────────────────────────────
552
+ # رابط کاربری Gradio
553
+ # ─────────────────────────────────────────────────────────────
554
+ css_rtl = """
555
+ .textbox textarea { direction: rtl; text-align: right; font-family: 'Tahoma', serif; }
556
+ .input-box { direction: rtl; text-align: right; }
557
+ .compact-checkbox label { padding: 5px 10px !important; font-size: 0.95em !important; }
558
+ """
559
+
560
+ with gr.Blocks(title="سیستم ناشناس‌سازی متون", theme=gr.themes.Soft(), css=css_rtl) as app:
561
+
562
+ gr.Markdown(
563
+ "# 🔐 پلتفرم ناشناس‌سازی متون فارسی\n"
564
+ "> ⚡ ناشناس‌سازی: **Qwen3-14B** (بدون thinking — یک call) &nbsp;|&nbsp; "
565
+ "🤖 تحلیل: مدل انتخابی شما",
566
+ elem_classes="input-box"
567
+ )
568
+
569
+ with gr.Row():
570
+ with gr.Column(scale=1):
571
+ with gr.Group():
572
+ gr.Markdown("### ⚙️ مدل تحلیل", elem_classes="input-box")
573
+ llm_provider = gr.Dropdown(
574
+ choices=["chatgpt", "grok", "deepinfra"],
575
+ value="chatgpt", label="🤖 مدل زبانی تحلیل", interactive=True
576
+ )
577
+ llm_model = gr.Dropdown(
578
+ choices=AVAILABLE_MODELS["chatgpt"],
579
+ value="gpt-4o-mini", label="📦 نسخه مدل", interactive=True
580
+ )
581
+
582
+ with gr.Column(scale=1):
583
+ with gr.Group():
584
+ gr.Markdown("### 🎯 موجودیت‌های ناشناس‌سازی", elem_classes="input-box")
585
+ anonymize_all = gr.Checkbox(label="✅ همه موجودیت‌ها", value=True, elem_classes="compact-checkbox")
586
+ anonymize_person = gr.Checkbox(label="👤 اسامی اشخاص", value=False, elem_classes="compact-checkbox")
587
+ anonymize_company = gr.Checkbox(label="🏢 نام شرکت‌ها", value=False, elem_classes="compact-checkbox")
588
+ anonymize_amount = gr.Checkbox(label="💰 ارقام مالی", value=False, elem_classes="compact-checkbox")
589
+ anonymize_percent = gr.Checkbox(label="📊 درصدها", value=False, elem_classes="compact-checkbox")
590
+
591
+ gr.Markdown("---")
592
+
593
+ with gr.Row():
594
+ with gr.Column(scale=1):
595
+ gr.Markdown("### 📋 دستورات تحلیل (اختیاری)", elem_classes="input-box")
596
+ analysis_prompt = gr.Textbox(
597
+ lines=20,
598
+ placeholder="مثال: این متن را خلاصه کن\nیا: نکات کلیدی را استخراج کن",
599
+ label="", elem_classes="textbox"
600
+ )
601
+ with gr.Column(scale=1):
602
+ gr.Markdown("### 📝 متن ورودی", elem_classes="input-box")
603
+ input_text = gr.Textbox(
604
+ lines=20, placeholder="متن فارسی را وارد کنید...",
605
+ label="", elem_classes="textbox"
606
+ )
607
+
608
+ with gr.Row():
609
+ process_btn = gr.Button("▶️ پردازش", variant="primary", size="lg", scale=2)
610
+ clear_btn = gr.Button("🗑️ پاک کردن", variant="stop", size="lg", scale=1)
611
+
612
+ gr.Markdown("## 📊 نتایج", elem_classes="input-box")
613
+
614
+ with gr.Row():
615
+ restored_text = gr.Textbox(lines=12, label="✅ متن بازگردانی شده", interactive=False, elem_classes="textbox")
616
+ llm_analysis = gr.Textbox(lines=12, label="🤖 تحلیل LLM", interactive=False, elem_classes="textbox")
617
+ anonymized_output = gr.Textbox(lines=12, label="🔒 متن ناشناس‌شده", interactive=False, elem_classes="textbox")
618
+
619
+ mapping_table = gr.Markdown("### 📋 جدول نگاشت\n\nهنوز پردازشی انجام نشده", elem_classes="input-box")
620
+
621
+ # Event handlers
622
+ def handle_provider_change(provider):
623
+ models = AVAILABLE_MODELS.get(provider, [])
624
+ return gr.update(choices=models, value=models[0] if models else None)
625
+
626
+ llm_provider.change(fn=handle_provider_change, inputs=[llm_provider], outputs=[llm_model])
627
+
628
+ def handle_select_all(select_all):
629
+ s = gr.update(value=False, interactive=not select_all)
630
+ return s, s, s, s
631
+
632
+ anonymize_all.change(
633
+ fn=handle_select_all, inputs=[anonymize_all],
634
+ outputs=[anonymize_person, anonymize_company, anonymize_amount, anonymize_percent]
635
+ )
636
+
637
+ process_btn.click(
638
+ fn=process,
639
+ inputs=[
640
+ input_text, analysis_prompt, llm_provider, llm_model,
641
+ anonymize_all, anonymize_person, anonymize_company, anonymize_amount, anonymize_percent
642
+ ],
643
+ outputs=[restored_text, llm_analysis, anonymized_output, mapping_table]
644
+ )
645
+
646
+ clear_btn.click(
647
+ fn=clear_all,
648
+ outputs=[
649
+ input_text, analysis_prompt, restored_text, llm_analysis,
650
+ anonymized_output, mapping_table,
651
+ anonymize_all, anonymize_person, anonymize_company, anonymize_amount, anonymize_percent
652
+ ]
653
+ )
654
+
655
+
656
+ # ─────────────────────────────────────────────────────────────
657
+ if __name__ == "__main__":
658
+ print("=" * 60)
659
+ print(f"⚡ ناشناس‌سازی: Qwen3-14B (no-think | single-call)")
660
+ print("🤖 تحلیل: مدل انتخابی کاربر")
661
+ print("=" * 60)
662
+ app.launch(server_name="0.0.0.0", server_port=7860, share=False, show_error=True)