KashefTech commited on
Commit
3db4172
·
verified ·
1 Parent(s): b4b5386

Upload app (64).py

Browse files

رفع باگهای برنامه دوم اسففند

Files changed (1) hide show
  1. app (64).py +653 -0
app (64).py ADDED
@@ -0,0 +1,653 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ import gradio as gr
2
+ import re
3
+ import os
4
+ import requests
5
+ import json
6
+ import logging
7
+ from typing import Dict, List, Tuple, Optional
8
+ from llm_sender_unified import create_llm_sender
9
+
10
+ logging.basicConfig(level=logging.INFO)
11
+ logger = logging.getLogger(__name__)
12
+
13
+ # ─────────────────────────────────────────────────────────────
14
+ # مدل‌های موجود
15
+ # ─────────────────────────────────────────────────────────────
16
+ AVAILABLE_MODELS = {
17
+ "chatgpt": ["gpt-5.1", "gpt-5", "gpt-4.1", "gpt-4o", "gpt-4o-mini", "gpt-4-turbo"],
18
+ "grok": ["grok-4-0709", "grok-3", "grok-3-mini", "grok-2-1212"],
19
+ "deepinfra": [
20
+ "Qwen/Qwen3-14B", "Qwen/Qwen3-32B", "Qwen/Qwen3-30B-A3B",
21
+ "Qwen/Qwen2.5-72B-Instruct", "Qwen/Qwen2.5-14B-Instruct",
22
+ ],
23
+ }
24
+
25
+ ANON_MODEL = "Qwen/Qwen3-14B"
26
+ ANON_API_URL = "https://api.deepinfra.com/v1/openai/chat/completions"
27
+
28
+ # ─────────────────────────────────────────────────────────────
29
+ # SYSTEM PROMPT — قوانین پایه + رفع باگ‌های ساختاری
30
+ # ─────────────────────────────────────────────────────────────
31
+ ANON_SYSTEM_PROMPT = """You are a Persian financial text anonymizer. Output ONLY valid JSON, no explanation.
32
+
33
+ PLACEHOLDER FORMAT:
34
+ company-01/02/03... | person-01/02/03... | amount-01/02/03... | percent-01/02/03...
35
+
36
+ CRITICAL RULES:
37
+
38
+ [COMPANY]
39
+ - Covers: بانک، شرکت، بیمه، پتروشیمی، هلدینگ، صندوق، سازمان، گروه، ملی، سرمایه‌گذاری
40
+ - The token replaces the COMPLETE name — no word left outside:
41
+ ✅ «شرکت فولاد مبارکه اصفهان» → company-01 (all 4 words inside)
42
+ ❌ «company-01 اصفهان» ← WRONG, splits the name
43
+ - Abbreviation in parentheses = part of the same entity, same token:
44
+ «شرکت گروه توسعه مالی مهر آیندگان (ومهان)» → company-01
45
+ Later «ومهان» alone → company-01 (same token, not new)
46
+ - Short form / nickname = same token as full name already seen:
47
+ «شرکت پتروشیمی بوعلی سینا» → company-01 … later «بوعلی» → company-01
48
+ - Do NOT anonymize generic words: بانک‌ها، شرکت‌ها، این بانک، 12 بانک کشور
49
+
50
+ [AMOUNT]
51
+ - Token = number + unit TOGETHER, nothing left outside:
52
+ ✅ «1,429,349 میلیون ریال» → amount-01 (unit inside)
53
+ ✅ «89 ریال» → amount-01
54
+ ✅ «636 ریال» → amount-01
55
+ ✅ «41.5 همت» → amount-01
56
+ ❌ «amount-01 میلیون ریال» ← WRONG, unit must be inside
57
+
58
+ [PERCENT]
59
+ - Token = number + درصد/% TOGETHER, nothing left outside:
60
+ ✅ «14%» → percent-01
61
+ ✅ «38 درصد» → percent-01
62
+ ✅ «99.99 درصد» → percent-01
63
+ ✅ «منفی 345 درصد» → منفی percent-01
64
+ ✅ «40–60٪» → percent-01–percent-02 (two tokens for ranges)
65
+ ❌ «percent-01 درصد» ← WRONG, درصد must be inside
66
+ - Keep year numbers (1402,1403,1404) unchanged
67
+
68
+ OUTPUT: exactly this JSON structure, nothing else:
69
+ {"anonymized": "...", "mapping": {"token": "original", ...}}"""
70
+
71
+
72
+ # ─────────────────────────────────────────────────────────────
73
+ # few-shot examples — دقیقاً از باگ‌های واقعی
74
+ # ─────────────────────────────────────────────────────────────
75
+ FEW_SHOT_EXAMPLES = """
76
+ === EXAMPLES (learn these patterns) ===
77
+
78
+ EXAMPLE 1 — نام مرکب + نام مختصر در پرانتز + تکرار:
79
+ INPUT: شرکت گروه توسعه مالی مهر آیندگان (ومهان) با رشد 14 درصدی سرمایه‌گذاری‌ها به 16 هزار و 495 میلیارد تومان رسید. سرمایه‌گذاری‌های ومهان چشم‌انداز روشنی دارد.
80
+ OUTPUT: company-01 با رشد percent-01 سرمایه‌گذاری‌ها به amount-01 رسید. سرمایه‌گذاری‌های company-01 چشم‌انداز روشنی دارد.
81
+ mapping: {"company-01": "شرکت گروه توسعه مالی مهر آیندگان (ومهان)", "percent-01": "14 درصد", "amount-01": "16 هزار و 495 میلیارد تومان"}
82
+ NOTE: «ومهان» = company-01 (same entity). Percent and amount units are INSIDE the token.
83
+
84
+ EXAMPLE 2 — نام چندکلمه‌ای با مکان:
85
+ INPUT: شرکت فولاد مبارکه اصفهان EPS این شرکت از 636 ریال به 614 ریال رسید.
86
+ OUTPUT: company-01 EPS این شرکت از amount-01 به amount-02 رسید.
87
+ mapping: {"company-01": "شرکت فولاد مبارکه اصفهان", "amount-01": "636 ریال", "amount-02": "614 ریال"}
88
+ NOTE: «اصفهان» is part of company-01, not left outside. Small ریال amounts ARE anonymized.
89
+
90
+ EXAMPLE 3 — چند شرکت پارسیان:
91
+ INPUT: شرکت بیمه پارسیان از شرکت سرمایه گذاری پارسیان 1,429,349 میلیون ریال سود شناسایی کرد. جواد شکرخواه مدیرعامل بانک پارسیان گفت سود خالص 41.5 همت شد.
92
+ OUTPUT: company-01 از company-02 amount-01 سود شناسایی کرد. person-01 مدیرعامل company-03 گفت سود خالص amount-02 شد.
93
+ mapping: {"company-01": "شرکت بیمه پارسیان", "company-02": "شرکت سرمایه گذاری پارسیان", "amount-01": "1,429,349 میلیون ریال", "person-01": "جواد شکرخواه", "company-03": "بانک پارسیان", "amount-02": "41.5 همت"}
94
+ NOTE: Each distinct entity = new token. Units fully inside token.
95
+
96
+ EXAMPLE 4 — بانک بدون پیشوند شرکت + نام مختصر:
97
+ INPUT: بانک ملت و بانک پاسارگاد 157 و 155 هزار میلیارد ریال سود داشتند. زیان انباشته 10 درصد افزایش یافت.
98
+ OUTPUT: company-01 و company-02 amount-01 و amount-02 سود داشتند. زیان انباشته percent-01 افزایش یافت.
99
+ mapping: {"company-01": "بانک ملت", "company-02": "بانک پاسارگاد", "amount-01": "157 هزار میلیارد ریال", "amount-02": "155 هزار میلیارد ریال", "percent-01": "10 درصد"}
100
+ NOTE: بانک‌ها without شرکت prefix ARE company-XX. «بانک‌های» (generic plural) is NOT anonymized.
101
+
102
+ EXAMPLE 5 — نام کوتاه، % علامت، بازه درصد:
103
+ INPUT: شرکت پتروشیمی بوعلی سینا هزینه لجستیکی 100 میلیون دلار داشت که 14% افزایش یافت. سهم سودهای ارزی به 40–60٪ رسیده است.
104
+ OUTPUT: company-01 هزینه لجستیکی amount-01 داشت که percent-01 افزایش یافت. سهم سودهای ارزی به percent-02–percent-03 رسیده است.
105
+ mapping: {"company-01": "شرکت پتروشیمی بوعلی سینا", "amount-01": "100 میلیون دلار", "percent-01": "14%", "percent-02": "40٪", "percent-03": "60٪"}
106
+ NOTE: Later «بوعلی» = company-01. «14%» IS percent (% = درصد).
107
+
108
+ EXAMPLE 6 — زیرمجموعه و حسابرس:
109
+ INPUT: وانیا نیک تدبیر به عنوان بازرس قانونی انتخاب شد. بانک سرمایه زیان منفی 345 درصد داشت.
110
+ OUTPUT: company-01 به عنوان بازرس قانونی انتخاب شد. company-02 زیان منفی percent-01 داشت.
111
+ mapping: {"company-01": "وانیا نیک تدبیر", "company-02": "بانک سرمایه", "percent-01": "345 درصد"}
112
+ NOTE: Auditors/subsidiaries ARE company-XX. «منفی» stays outside the token.
113
+
114
+ === END EXAMPLES ===
115
+ """
116
+
117
+
118
+ # ─────────────────────────────────────────────────────────────
119
+ # ساخت prompt — یک call، بدون thinking، با few-shot
120
+ # ─────────────────────────────────────────────────────────────
121
+
122
+ def build_single_call_prompt(text: str, entities: list) -> str:
123
+ """
124
+ یک prompt = یک call = anonymized + mapping در JSON
125
+ /no_think → thinking mode خاموش
126
+ few-shot examples از باگ‌های واقعی
127
+ """
128
+ # فیلتر examples بر اساس entities انتخابی
129
+ relevant_examples = FEW_SHOT_EXAMPLES
130
+
131
+ mapping_hints = []
132
+ if "person" in entities: mapping_hints.append('"person-XX": "نام کامل"')
133
+ if "company" in entities: mapping_hints.append('"company-XX": "نام کامل سازمان"')
134
+ if "amount" in entities: mapping_hints.append('"amount-XX": "عدد + واحد کامل"')
135
+ if "percent" in entities: mapping_hints.append('"percent-XX": "عدد + درصد/% کامل"')
136
+
137
+ active = []
138
+ if "company" in entities: active.append("company-XX (همه سازمان‌ها)")
139
+ if "person" in entities: active.append("person-XX (نام اشخاص)")
140
+ if "amount" in entities: active.append("amount-XX (اعداد+واحد)")
141
+ if "percent" in entities: active.append("percent-XX (درصدها)")
142
+
143
+ return f"""/no_think
144
+ {relevant_examples}
145
+
146
+ موجودیت‌های فعال: {' | '.join(active)}
147
+
148
+ متن زیر را مطابق قوانین و examples بالا ناشناس کن.
149
+ خروجی فقط JSON، بدون هیچ توضیح:
150
+ {{
151
+ "anonymized": "متن ناشناس شده",
152
+ "mapping": {{ {", ".join(mapping_hints)} }}
153
+ }}
154
+
155
+ متن:
156
+ {text}"""
157
+
158
+
159
+ def build_analysis_prompt(anonymized_text: str, analysis_prompt: str, entities: list) -> str:
160
+ tokens = []
161
+ if "person" in entities: tokens.append("person-XX")
162
+ if "company" in entities: tokens.append("company-XX")
163
+ if "amount" in entities: tokens.append("amount-XX")
164
+ if "percent" in entities: tokens.append("percent-XX")
165
+
166
+ return f"""متن ناشناس‌سازی شده:
167
+ {anonymized_text}
168
+
169
+ دستورات:
170
+ {analysis_prompt}
171
+
172
+ قوانین:
173
+ - فقط از توکن‌های موجود استفاده کن: {', '.join(tokens)}
174
+ - هیچ کلمه‌ای قبل/بعد از توکن‌ها اضافه نکن
175
+ - توکن جدید ایجاد نکن"""
176
+
177
+
178
+ # ─────────────────────────────────────────────────────────────
179
+ # توابع کمکی
180
+ # ─────────────────────────────────────────────────────────────
181
+
182
+ def strip_thinking(text: str) -> str:
183
+ if not text:
184
+ return text
185
+ return re.sub(r"<think>.*?</think>", "", text, flags=re.DOTALL).strip()
186
+
187
+
188
+ def parse_json_response(raw: str) -> dict:
189
+ raw = strip_thinking(raw)
190
+ raw = re.sub(r"```(?:json)?", "", raw).replace("```", "").strip()
191
+ start = raw.find("{")
192
+ end = raw.rfind("}") + 1
193
+ if start == -1 or end == 0:
194
+ raise ValueError("JSON یافت نشد")
195
+ return json.loads(raw[start:end])
196
+
197
+
198
+ def post_deepinfra(prompt: str, system: str, max_tokens: int = 4096) -> str:
199
+ """
200
+ DeepInfra Qwen3-14B
201
+ thinking خاموش: /no_think + chat_template_kwargs
202
+ """
203
+ api_key = os.getenv("DEEPINFRA_API_KEY")
204
+ if not api_key:
205
+ raise ValueError("DEEPINFRA_API_KEY موجود نیست")
206
+
207
+ resp = requests.post(
208
+ ANON_API_URL,
209
+ headers={
210
+ "Authorization": f"Bearer {api_key}",
211
+ "Content-Type": "application/json"
212
+ },
213
+ json={
214
+ "model": ANON_MODEL,
215
+ "messages": [
216
+ {"role": "system", "content": system},
217
+ {"role": "user", "content": prompt}
218
+ ],
219
+ "max_tokens": max_tokens,
220
+ "temperature": 0.1,
221
+ "chat_template_kwargs": {"enable_thinking": False},
222
+ },
223
+ timeout=90
224
+ )
225
+
226
+ if resp.status_code != 200:
227
+ raise Exception(f"DeepInfra {resp.status_code}: {resp.text[:300]}")
228
+
229
+ return strip_thinking(resp.json()["choices"][0]["message"]["content"])
230
+
231
+
232
+ # ─────────────────────────────────────────────────────────────
233
+ # کلاس اصلی
234
+ # ─────────────────────────────────────────────────────────────
235
+ class AnonymizerAdvanced:
236
+
237
+ def __init__(
238
+ self,
239
+ llm_provider: str = "chatgpt",
240
+ llm_model: str = None,
241
+ entities_to_anonymize: List[str] = None
242
+ ):
243
+ self.llm_provider = llm_provider
244
+ self.llm_model = llm_model
245
+ self.entities_to_anonymize = entities_to_anonymize or ["person", "company", "amount", "percent"]
246
+ self.mapping_table: Dict[str, str] = {}
247
+ self.reverse_mapping: Dict[str, str] = {}
248
+ self._create_llm_sender()
249
+ logger.info(f"✅ Anonymizer — {llm_provider}")
250
+
251
+ # ── LLM sender (تحلیل) ──────────────────────────────────
252
+
253
+ def _create_llm_sender(self):
254
+ try:
255
+ key_map = {
256
+ "chatgpt": os.getenv("OPENAI_API_KEY"),
257
+ "grok": os.getenv("XAI_API_KEY"),
258
+ "deepinfra": os.getenv("DEEPINFRA_API_KEY"),
259
+ }
260
+ self.llm_sender = create_llm_sender(
261
+ provider=self.llm_provider,
262
+ api_key=key_map.get(self.llm_provider),
263
+ model=self.llm_model
264
+ )
265
+ logger.info(f"✅ LLM Sender: {self.llm_provider} — {self.llm_sender.model}")
266
+ except Exception as e:
267
+ logger.error(f"❌ LLM Sender خطا: {e}")
268
+ self.llm_sender = create_llm_sender("chatgpt")
269
+
270
+ def set_llm_provider(self, provider: str, model: str = None, entities: List[str] = None):
271
+ self.llm_provider = provider
272
+ self.llm_model = model
273
+ if entities is not None:
274
+ self.entities_to_anonymize = entities
275
+ self._create_llm_sender()
276
+
277
+ # ── ناشناس‌سازی — یک call، بدون thinking ──────────────
278
+
279
+ def anonymize(self, text: str) -> Tuple[str, Dict]:
280
+ logger.info("⚡ Qwen3-14B (no-think | single-call | few-shot)...")
281
+
282
+ if not self.entities_to_anonymize:
283
+ return text, {}
284
+
285
+ prompt = build_single_call_prompt(text, self.entities_to_anonymize)
286
+
287
+ try:
288
+ raw = post_deepinfra(prompt, ANON_SYSTEM_PROMPT, max_tokens=4096)
289
+ logger.info(f"✅ پاسخ: {len(raw)} کاراکتر")
290
+
291
+ result = parse_json_response(raw)
292
+ anonymized_text = result.get("anonymized", "")
293
+ self.mapping_table = result.get("mapping", {})
294
+
295
+ self._clean_orphan_tokens(anonymized_text)
296
+ self._fix_mapping()
297
+ self.reverse_mapping = {v: k for k, v in self.mapping_table.items()}
298
+
299
+ for etype in self.entities_to_anonymize:
300
+ found = sorted(set(re.findall(rf'{etype}-\d+', anonymized_text)))
301
+ if found:
302
+ logger.info(f" {etype}: {found}")
303
+
304
+ logger.info(f"✅ mapping: {len(self.mapping_table)} موجودیت")
305
+ return anonymized_text, self.mapping_table
306
+
307
+ except json.JSONDecodeError as e:
308
+ logger.warning(f"⚠️ JSON خطا: {e} — fallback")
309
+ return self._anonymize_fallback(text)
310
+ except Exception as e:
311
+ logger.error(f"❌ Exception: {e}")
312
+ raise
313
+
314
+ def _anonymize_fallback(self, text: str) -> Tuple[str, Dict]:
315
+ """Fallback دو call اگر JSON parse شکست خورد"""
316
+ logger.info("🔄 fallback: دو call...")
317
+
318
+ prompt1 = (
319
+ f"/no_think\n"
320
+ f"{FEW_SHOT_EXAMPLES}\n"
321
+ f"موجودیت‌های فعال: {' | '.join(self.entities_to_anonymize)}\n"
322
+ f"متن زیر را ناشناس کن، فقط متن ناشناس شده:\n{text}"
323
+ )
324
+ anonymized_text = post_deepinfra(prompt1, ANON_SYSTEM_PROMPT, max_tokens=4096)
325
+
326
+ hints = []
327
+ if "person" in self.entities_to_anonymize: hints.append('"person-XX": "نام کامل"')
328
+ if "company" in self.entities_to_anonymize: hints.append('"company-XX": "نام کامل سازمان"')
329
+ if "amount" in self.entities_to_anonymize: hints.append('"amount-XX": "عدد+واحد"')
330
+ if "percent" in self.entities_to_anonymize: hints.append('"percent-XX": "عدد+درصد"')
331
+
332
+ prompt2 = (
333
+ f"/no_think\n"
334
+ f"متن اصلی: {text}\n"
335
+ f"متن ناشناس: {anonymized_text}\n\n"
336
+ f"فقط JSON mapping:\n{{ {', '.join(hints)} }}"
337
+ )
338
+
339
+ try:
340
+ raw2 = post_deepinfra(prompt2, "Output ONLY valid JSON. No explanation.", max_tokens=2048)
341
+ self.mapping_table = parse_json_response(raw2)
342
+ except Exception:
343
+ self._extract_mapping_fallback(text, anonymized_text)
344
+
345
+ self._clean_orphan_tokens(anonymized_text)
346
+ self._fix_mapping()
347
+ self.reverse_mapping = {v: k for k, v in self.mapping_table.items()}
348
+ return anonymized_text, self.mapping_table
349
+
350
+ # ── پاک‌سازی mapping ────────────────────────────────────
351
+
352
+ def _clean_orphan_tokens(self, anonymized_text: str):
353
+ to_remove = [t for t in self.mapping_table if t not in anonymized_text]
354
+ for t in to_remove:
355
+ logger.info(f" 🗑️ توکن اضافی: {t}")
356
+ del self.mapping_table[t]
357
+
358
+ def _fix_mapping(self):
359
+ for token, value in list(self.mapping_table.items()):
360
+ val = str(value).strip()
361
+ if token.startswith("percent-") and not re.search(r"(درصد|%|٪|درصدی)", val):
362
+ self.mapping_table[token] = f"{val} درصد"
363
+ logger.info(f" اصلاح {token}: '{val}' → '{val} درصد'")
364
+
365
+ # ── fallback mapping با regex ────────────────────────────
366
+
367
+ def _extract_mapping_fallback(self, original: str, anonymized: str):
368
+ pats: Dict[str, str] = {}
369
+ if "person" in self.entities_to_anonymize:
370
+ pats["person"] = r'(?<![ء-یa-zA-Z])[ء-ی]+\s+[ء-ی]+(?:\s+[ء-ی]+)*(?![ء-یa-zA-Z])'
371
+ if "company" in self.entities_to_anonymize:
372
+ pats["company"] = (
373
+ r'(?:(?:شرکت|بانک|سازمان|گروه|هلدینگ|صندوق|بیمه|پتروشیمی|ملی|سرمایه\s*گذاری)\s+)'
374
+ r'[ء-ی][ء-ی\s]+(?:\([ء-یa-zA-Z]+\))?'
375
+ )
376
+ if "amount" in self.entities_to_anonymize:
377
+ pats["amount"] = r'[\d۰-۹][,،\d۰-۹]*(?:\.\d+)?\s*(?:هزار\s+و\s+\d+|هزار|میلیون|میلیارد|همت)?\s*(?:میلیارد|میلیون|هزار|تومان|ریال|دلار|دستگاه|تن)?'
378
+ if "percent" in self.entities_to_anonymize:
379
+ pats["percent"] = r'[\d۰-۹]+(?:\.\d+)?\s*(?:درصد|%|٪|درصدی)'
380
+
381
+ orig_entities = {
382
+ etype: [m.strip() for m in re.findall(pat, original) if m.strip()]
383
+ for etype, pat in pats.items()
384
+ }
385
+
386
+ for etype in self.entities_to_anonymize:
387
+ tokens = sorted(set(re.findall(rf'{etype}-(\d+)', anonymized)), key=int)
388
+ values = orig_entities.get(etype, [])
389
+ for tok_num in tokens:
390
+ token = f"{etype}-{tok_num}"
391
+ idx = int(tok_num) - 1
392
+ self.mapping_table[token] = values[idx] if idx < len(values) else (values[-1] if values else token)
393
+
394
+ self.reverse_mapping = {v: k for k, v in self.mapping_table.items()}
395
+ logger.info(f"✅ Fallback mapping: {len(self.mapping_table)} موجودیت")
396
+
397
+ # ── تحلیل LLM ───────────────────────────────────────────
398
+
399
+ def analyze_with_llm(self, anonymized_text: str, analysis_prompt: str = None) -> str:
400
+ logger.info(f"🤖 {self.llm_provider.upper()} تحلیل...")
401
+
402
+ if not analysis_prompt or not analysis_prompt.strip():
403
+ return "⚠️ هیچ دستور تحلیل داده نشده است"
404
+
405
+ prompt = build_analysis_prompt(anonymized_text, analysis_prompt, self.entities_to_anonymize)
406
+ try:
407
+ response = self.llm_sender.send(prompt, lang="fa", temperature=0.2, max_tokens=2000)
408
+ logger.info(f"✅ {self.llm_provider.upper()}: {len(response)} کاراکتر")
409
+ return response
410
+ except Exception as e:
411
+ logger.error(f"❌ {self.llm_provider.upper()} Exception: {e}")
412
+ return f"❌ خطا: {str(e)}"
413
+
414
+ # ── بازگردانی ────────────────────────────────────────────
415
+
416
+ def restore_text(self, anonymized_text: str) -> str:
417
+ logger.info("🔄 بازگردانی...")
418
+
419
+ if not self.mapping_table:
420
+ return anonymized_text
421
+
422
+ restored = self._normalize_tokens(anonymized_text)
423
+ count = 0
424
+
425
+ for placeholder, original in sorted(
426
+ self.mapping_table.items(), key=lambda x: len(x[0]), reverse=True
427
+ ):
428
+ if placeholder in restored:
429
+ restored = restored.replace(placeholder, original)
430
+ count += 1
431
+ logger.info(f" ✅ {placeholder} → {original[:40]}")
432
+ else:
433
+ logger.warning(f" ⚠️ {placeholder} یافت نشد")
434
+
435
+ logger.info(f"✅ {count}/{len(self.mapping_table)} توکن بازگردانی شد")
436
+
437
+ if count < len(self.mapping_table):
438
+ restored = self._restore_with_regex(restored)
439
+
440
+ return restored
441
+
442
+ def _normalize_tokens(self, text: str) -> str:
443
+ normalized = text
444
+ unicode_hyphens = r'[\u2010\u2011\u2012\u2013\u2014\u2212]'
445
+ for etype in self.entities_to_anonymize:
446
+ normalized = re.sub(rf'{etype}{unicode_hyphens}(\d+)', rf'{etype}-\1', normalized)
447
+ normalized = re.sub(rf'{etype}\s+-\s+(\d+)', rf'{etype}-\1', normalized)
448
+ normalized = re.sub(rf'({etype}-\d+)([ء-ی])', r'\1 \2', normalized)
449
+ normalized = re.sub(rf'({etype}-\d+)([،؛:.!?])', r'\1 \2', normalized)
450
+ return normalized
451
+
452
+ def _restore_with_regex(self, text: str) -> str:
453
+ restored = text
454
+ for placeholder, original in self.mapping_table.items():
455
+ if placeholder not in restored:
456
+ continue
457
+ etype, num = placeholder.split("-")
458
+ if re.search(rf'{etype}\s*-\s*{num}', restored):
459
+ restored = re.sub(rf'{etype}\s*-\s*{num}', original, restored)
460
+ logger.info(f" ✅ regex: {placeholder} → {original[:40]}")
461
+ return restored
462
+
463
+ def get_mapping_table_md(self) -> str:
464
+ if not self.mapping_table:
465
+ return "### 📋 جدول نگاشت\n\nهیچ موجودیتی شناسایی نشد"
466
+ table = "### 📋 جدول نگاشت\n\n| شناسه | متن اصلی |\n|-------|----------|\n"
467
+ for token, original in sorted(self.mapping_table.items()):
468
+ table += f"| **{token}** | {original} |\n"
469
+ return table
470
+
471
+
472
+ # ─────────────────────────────────────────────────────────────
473
+ # متغیر سراسری
474
+ # ─────────────────────────────────────────────────────────────
475
+ anonymizer: Optional[AnonymizerAdvanced] = None
476
+
477
+
478
+ # ─────────────────────────────────────────────────────────────
479
+ # تابع اصلی
480
+ # ─────────────────────────────────────────────────────────────
481
+ def process(
482
+ input_text: str,
483
+ analysis_prompt: str,
484
+ llm_provider: str,
485
+ llm_model: str,
486
+ anonymize_all: bool,
487
+ anonymize_person: bool,
488
+ anonymize_company: bool,
489
+ anonymize_amount: bool,
490
+ anonymize_percent: bool
491
+ ):
492
+ global anonymizer
493
+
494
+ if not input_text.strip():
495
+ return "", "", "", ""
496
+
497
+ entities = ["person", "company", "amount", "percent"] if anonymize_all else [
498
+ e for e, flag in [
499
+ ("person", anonymize_person),
500
+ ("company", anonymize_company),
501
+ ("amount", anonymize_amount),
502
+ ("percent", anonymize_percent),
503
+ ] if flag
504
+ ]
505
+
506
+ if not entities:
507
+ return "", "❌ لطفاً حداقل یک موجودیت انتخاب کنید", "", ""
508
+
509
+ if not anonymizer:
510
+ anonymizer = AnonymizerAdvanced(
511
+ llm_provider=llm_provider,
512
+ llm_model=llm_model,
513
+ entities_to_anonymize=entities
514
+ )
515
+ else:
516
+ anonymizer.set_llm_provider(llm_provider, llm_model, entities)
517
+ anonymizer.mapping_table = {}
518
+ anonymizer.reverse_mapping = {}
519
+
520
+ try:
521
+ logger.info("=" * 60)
522
+ logger.info(f"⚡ Qwen3-14B (no-think | single-call | few-shot)")
523
+ logger.info(f"🤖 تحلیل: {llm_provider} ({llm_model})")
524
+ logger.info(f"🎯 موجودیت‌ها: {entities}")
525
+ logger.info("=" * 60)
526
+
527
+ anon_text, _ = anonymizer.anonymize(input_text)
528
+
529
+ has_analysis = bool(analysis_prompt and analysis_prompt.strip())
530
+ llm_response = anonymizer.analyze_with_llm(anon_text, analysis_prompt) if has_analysis \
531
+ else "⚠️ هیچ دستور تحلیل داده نشده است"
532
+
533
+ source = llm_response if has_analysis else anon_text
534
+ restored = anonymizer.restore_text(source)
535
+
536
+ return restored, llm_response, anon_text, anonymizer.get_mapping_table_md()
537
+
538
+ except Exception as e:
539
+ logger.error(f"❌ خطا: {e}", exc_info=True)
540
+ return "", f"❌ خطا: {str(e)}", "", ""
541
+
542
+
543
+ def clear_all():
544
+ return "", "", "", "", "", "", True, False, False, False, False
545
+
546
+
547
+ # ─────────────────────────────────────────────────────────────
548
+ # رابط کاربری Gradio
549
+ # ─────────────────────────────────────────────────────────────
550
+ css_rtl = """
551
+ .textbox textarea { direction: rtl; text-align: right; font-family: 'Tahoma', serif; }
552
+ .input-box { direction: rtl; text-align: right; }
553
+ .compact-checkbox label { padding: 5px 10px !important; font-size: 0.95em !important; }
554
+ """
555
+
556
+ with gr.Blocks(title="سیستم ناشناس‌سازی متون", theme=gr.themes.Soft(), css=css_rtl) as app:
557
+
558
+ gr.Markdown(
559
+ "# 🔐 پلتفرم ناشناس‌سازی متون فارسی\n"
560
+ "> ⚡ **Qwen3-14B** بدون thinking — یک call — few-shot examples",
561
+ elem_classes="input-box"
562
+ )
563
+
564
+ with gr.Row():
565
+ with gr.Column(scale=1):
566
+ with gr.Group():
567
+ gr.Markdown("### ⚙️ مدل تحلیل", elem_classes="input-box")
568
+ llm_provider = gr.Dropdown(
569
+ choices=["chatgpt", "grok", "deepinfra"],
570
+ value="chatgpt", label="🤖 مدل زبانی تحلیل", interactive=True
571
+ )
572
+ llm_model = gr.Dropdown(
573
+ choices=AVAILABLE_MODELS["chatgpt"],
574
+ value="gpt-4o-mini", label="📦 نسخه مدل", interactive=True
575
+ )
576
+
577
+ with gr.Column(scale=1):
578
+ with gr.Group():
579
+ gr.Markdown("### 🎯 موجودیت‌های ناشناس‌سازی", elem_classes="input-box")
580
+ anonymize_all = gr.Checkbox(label="✅ همه", value=True, elem_classes="compact-checkbox")
581
+ anonymize_person = gr.Checkbox(label="👤 اشخاص", value=False, elem_classes="compact-checkbox")
582
+ anonymize_company = gr.Checkbox(label="🏢 سازمان‌ها", value=False, elem_classes="compact-checkbox")
583
+ anonymize_amount = gr.Checkbox(label="💰 ارقام مالی", value=False, elem_classes="compact-checkbox")
584
+ anonymize_percent = gr.Checkbox(label="📊 درصدها", value=False, elem_classes="compact-checkbox")
585
+
586
+ gr.Markdown("---")
587
+
588
+ with gr.Row():
589
+ with gr.Column(scale=1):
590
+ gr.Markdown("### 📋 دستورات تحلیل (اختیاری)", elem_classes="input-box")
591
+ analysis_prompt = gr.Textbox(
592
+ lines=20, placeholder="مثال: این متن را خلاصه کن",
593
+ label="", elem_classes="textbox"
594
+ )
595
+ with gr.Column(scale=1):
596
+ gr.Markdown("### 📝 متن ورودی", elem_classes="input-box")
597
+ input_text = gr.Textbox(
598
+ lines=20, placeholder="متن فارسی را وارد کنید...",
599
+ label="", elem_classes="textbox"
600
+ )
601
+
602
+ with gr.Row():
603
+ process_btn = gr.Button("▶️ پردازش", variant="primary", size="lg", scale=2)
604
+ clear_btn = gr.Button("🗑️ پاک کردن", variant="stop", size="lg", scale=1)
605
+
606
+ gr.Markdown("## 📊 نتایج", elem_classes="input-box")
607
+
608
+ with gr.Row():
609
+ restored_text = gr.Textbox(lines=12, label="✅ متن بازگردانی شده", interactive=False, elem_classes="textbox")
610
+ llm_analysis = gr.Textbox(lines=12, label="🤖 تحلیل LLM", interactive=False, elem_classes="textbox")
611
+ anonymized_output = gr.Textbox(lines=12, label="🔒 متن ناشناس‌شده", interactive=False, elem_classes="textbox")
612
+
613
+ mapping_table = gr.Markdown("### 📋 جدول نگاشت\n\nهنوز پردازشی انجام نشده", elem_classes="input-box")
614
+
615
+ def handle_provider_change(provider):
616
+ models = AVAILABLE_MODELS.get(provider, [])
617
+ return gr.update(choices=models, value=models[0] if models else None)
618
+
619
+ llm_provider.change(fn=handle_provider_change, inputs=[llm_provider], outputs=[llm_model])
620
+
621
+ def handle_select_all(select_all):
622
+ s = gr.update(value=False, interactive=not select_all)
623
+ return s, s, s, s
624
+
625
+ anonymize_all.change(
626
+ fn=handle_select_all, inputs=[anonymize_all],
627
+ outputs=[anonymize_person, anonymize_company, anonymize_amount, anonymize_percent]
628
+ )
629
+
630
+ process_btn.click(
631
+ fn=process,
632
+ inputs=[
633
+ input_text, analysis_prompt, llm_provider, llm_model,
634
+ anonymize_all, anonymize_person, anonymize_company, anonymize_amount, anonymize_percent
635
+ ],
636
+ outputs=[restored_text, llm_analysis, anonymized_output, mapping_table]
637
+ )
638
+
639
+ clear_btn.click(
640
+ fn=clear_all,
641
+ outputs=[
642
+ input_text, analysis_prompt, restored_text, llm_analysis,
643
+ anonymized_output, mapping_table,
644
+ anonymize_all, anonymize_person, anonymize_company, anonymize_amount, anonymize_percent
645
+ ]
646
+ )
647
+
648
+
649
+ if __name__ == "__main__":
650
+ print("=" * 60)
651
+ print("⚡ Qwen3-14B | no-think | single-call | few-shot")
652
+ print("=" * 60)
653
+ app.launch(server_name="0.0.0.0", server_port=7860, share=False, show_error=True)