KashefTech commited on
Commit
6590265
·
verified ·
1 Parent(s): 38b2ac5

Delete app.py

Browse files
Files changed (1) hide show
  1. app.py +0 -653
app.py DELETED
@@ -1,653 +0,0 @@
1
- import gradio as gr
2
- import re
3
- import os
4
- import requests
5
- import json
6
- import logging
7
- from typing import Dict, List, Tuple, Optional
8
- from llm_sender_unified import create_llm_sender
9
-
10
- logging.basicConfig(level=logging.INFO)
11
- logger = logging.getLogger(__name__)
12
-
13
- # ─────────────────────────────────────────────────────────────
14
- # مدل‌های موجود
15
- # ─────────────────────────────────────────────────────────────
16
- AVAILABLE_MODELS = {
17
- "chatgpt": ["gpt-5.1", "gpt-5", "gpt-4.1", "gpt-4o", "gpt-4o-mini", "gpt-4-turbo"],
18
- "grok": ["grok-4-0709", "grok-3", "grok-3-mini", "grok-2-1212"],
19
- "deepinfra": [
20
- "Qwen/Qwen3-14B", "Qwen/Qwen3-32B", "Qwen/Qwen3-30B-A3B",
21
- "Qwen/Qwen2.5-72B-Instruct", "Qwen/Qwen2.5-14B-Instruct",
22
- ],
23
- }
24
-
25
- ANON_MODEL = "Qwen/Qwen3-14B"
26
- ANON_API_URL = "https://api.deepinfra.com/v1/openai/chat/completions"
27
-
28
- # ─────────────────────────────────────────────────────────────
29
- # SYSTEM PROMPT — قوانین پایه + رفع باگ‌های ساختاری
30
- # ─────────────────────────────────────────────────────────────
31
- ANON_SYSTEM_PROMPT = """You are a Persian financial text anonymizer. Output ONLY valid JSON, no explanation.
32
-
33
- PLACEHOLDER FORMAT:
34
- company-01/02/03... | person-01/02/03... | amount-01/02/03... | percent-01/02/03...
35
-
36
- CRITICAL RULES:
37
-
38
- [COMPANY]
39
- - Covers: بانک، شرکت، بیمه، پتروشیمی، هلدینگ، صندوق، سازمان، گروه، ملی، سرمایه‌گذاری
40
- - The token replaces the COMPLETE name — no word left outside:
41
- ✅ «شرکت فولاد مبارکه اصفهان» → company-01 (all 4 words inside)
42
- ❌ «company-01 اصفهان» ← WRONG, splits the name
43
- - Abbreviation in parentheses = part of the same entity, same token:
44
- «شرکت گروه توسعه مالی مهر آیندگان (ومهان)» → company-01
45
- Later «ومهان» alone → company-01 (same token, not new)
46
- - Short form / nickname = same token as full name already seen:
47
- «شرکت پتروشیمی بوعلی سینا» → company-01 … later «بوعلی» → company-01
48
- - Do NOT anonymize generic words: بانک‌ها، شرکت‌ها، این بانک، 12 بانک کشور
49
-
50
- [AMOUNT]
51
- - Token = number + unit TOGETHER, nothing left outside:
52
- ✅ «1,429,349 میلیون ریال» → amount-01 (unit inside)
53
- ✅ «89 ریال» → amount-01
54
- ✅ «636 ریال» → amount-01
55
- ✅ «41.5 همت» → amount-01
56
- ❌ «amount-01 میلیون ریال» ← WRONG, unit must be inside
57
-
58
- [PERCENT]
59
- - Token = number + درصد/% TOGETHER, nothing left outside:
60
- ✅ «14%» → percent-01
61
- ✅ «38 درصد» → percent-01
62
- ✅ «99.99 درصد» → percent-01
63
- ✅ «منفی 345 درصد» → منفی percent-01
64
- ✅ «40–60٪» → percent-01–percent-02 (two tokens for ranges)
65
- ❌ «percent-01 درصد» ← WRONG, درصد must be inside
66
- - Keep year numbers (1402,1403,1404) unchanged
67
-
68
- OUTPUT: exactly this JSON structure, nothing else:
69
- {"anonymized": "...", "mapping": {"token": "original", ...}}"""
70
-
71
-
72
- # ─────────────────────────────────────────────────────────────
73
- # few-shot examples — دقیقاً از باگ‌های واقعی
74
- # ─────────────────────────────────────────────────────────────
75
- FEW_SHOT_EXAMPLES = """
76
- === EXAMPLES (learn these patterns) ===
77
-
78
- EXAMPLE 1 — نام مرکب + نام مختصر در پرانتز + تکرار:
79
- INPUT: شرکت گروه توسعه مالی مهر آیندگان (ومهان) با رشد 14 درصدی سرمایه‌گذاری‌ها به 16 هزار و 495 میلیارد تومان رسید. سرمایه‌گذاری‌های ومهان چشم‌انداز روشنی دارد.
80
- OUTPUT: company-01 با رشد percent-01 سرمایه‌گذاری‌ها به amount-01 رسید. سرمایه‌گذاری‌های company-01 چشم‌انداز روشنی دارد.
81
- mapping: {"company-01": "شرکت گروه توسعه مالی مهر آیندگان (ومهان)", "percent-01": "14 درصد", "amount-01": "16 هزار و 495 میلیارد تومان"}
82
- NOTE: «ومهان» = company-01 (same entity). Percent and amount units are INSIDE the token.
83
-
84
- EXAMPLE 2 — نام چندکلمه‌ای با مکان:
85
- INPUT: شرکت فولاد مبارکه اصفهان EPS این شرکت از 636 ریال به 614 ریال رسید.
86
- OUTPUT: company-01 EPS این شرکت از amount-01 به amount-02 رسید.
87
- mapping: {"company-01": "شرکت فولاد مبارکه اصفهان", "amount-01": "636 ریال", "amount-02": "614 ریال"}
88
- NOTE: «اصفهان» is part of company-01, not left outside. Small ریال amounts ARE anonymized.
89
-
90
- EXAMPLE 3 — چند شرکت پارسیان:
91
- INPUT: شرکت بیمه پارسیان از شرکت سرمایه گذاری پارسیان 1,429,349 میلیون ریال سود شناسایی کرد. جواد شکرخواه مدیرعامل بانک پارسیان گفت سود خالص 41.5 همت شد.
92
- OUTPUT: company-01 از company-02 amount-01 سود شناسایی کرد. person-01 مدیرعامل company-03 گفت سود خالص amount-02 شد.
93
- mapping: {"company-01": "شرکت بیمه پارسیان", "company-02": "شرکت سرمایه گذاری پارسیان", "amount-01": "1,429,349 میلیون ریال", "person-01": "جواد شکرخواه", "company-03": "بانک پارسیان", "amount-02": "41.5 همت"}
94
- NOTE: Each distinct entity = new token. Units fully inside token.
95
-
96
- EXAMPLE 4 — بانک بدون پیشوند شرکت + نام مختصر:
97
- INPUT: بانک ملت و بانک پاسارگاد 157 و 155 هزار میلیارد ریال سود داشتند. زیان انباشته 10 درصد افزایش یافت.
98
- OUTPUT: company-01 و company-02 amount-01 و amount-02 سود داشتند. زیان انباشته percent-01 افزایش یافت.
99
- mapping: {"company-01": "بانک ملت", "company-02": "بانک پاسارگاد", "amount-01": "157 هزار میلیارد ریال", "amount-02": "155 هزار میلیارد ریال", "percent-01": "10 درصد"}
100
- NOTE: بانک‌ها without شرکت prefix ARE company-XX. «بانک‌های» (generic plural) is NOT anonymized.
101
-
102
- EXAMPLE 5 — نام کوتاه، % علامت، بازه درصد:
103
- INPUT: شرکت پتروشیمی بوعلی سینا هزینه لجستیکی 100 میلیون دلار داشت که 14% افزایش یافت. سهم سودهای ارزی به 40–60٪ رسیده است.
104
- OUTPUT: company-01 هزینه لجستیکی amount-01 داشت که percent-01 افزایش یافت. سهم سودهای ارزی به percent-02–percent-03 رسیده است.
105
- mapping: {"company-01": "شرکت پتروشیمی بوعلی سینا", "amount-01": "100 میلیون دلار", "percent-01": "14%", "percent-02": "40٪", "percent-03": "60٪"}
106
- NOTE: Later «بوعلی» = company-01. «14%» IS percent (% = درصد).
107
-
108
- EXAMPLE 6 — زیرمجموعه و حسابرس:
109
- INPUT: وانیا نیک تدبیر به عنوان بازرس قانونی انتخاب شد. بانک سرمایه زیان منفی 345 درصد داشت.
110
- OUTPUT: company-01 به عنوان بازرس قانونی انتخاب شد. company-02 زیان منفی percent-01 داشت.
111
- mapping: {"company-01": "وانیا نیک تدبیر", "company-02": "بانک سرمایه", "percent-01": "345 درصد"}
112
- NOTE: Auditors/subsidiaries ARE company-XX. «منفی» stays outside the token.
113
-
114
- === END EXAMPLES ===
115
- """
116
-
117
-
118
- # ─────────────────────────────────────────────────────────────
119
- # ساخت prompt — یک call، بدون thinking، با few-shot
120
- # ─────────────────────────────────────────────────────────────
121
-
122
- def build_single_call_prompt(text: str, entities: list) -> str:
123
- """
124
- یک prompt = یک call = anonymized + mapping در JSON
125
- /no_think → thinking mode خاموش
126
- few-shot examples از باگ‌های واقعی
127
- """
128
- # فیلتر examples بر اساس entities انتخابی
129
- relevant_examples = FEW_SHOT_EXAMPLES
130
-
131
- mapping_hints = []
132
- if "person" in entities: mapping_hints.append('"person-XX": "نام کامل"')
133
- if "company" in entities: mapping_hints.append('"company-XX": "نام کامل سازمان"')
134
- if "amount" in entities: mapping_hints.append('"amount-XX": "عدد + واحد کامل"')
135
- if "percent" in entities: mapping_hints.append('"percent-XX": "عدد + درصد/% کامل"')
136
-
137
- active = []
138
- if "company" in entities: active.append("company-XX (همه سازمان‌ها)")
139
- if "person" in entities: active.append("person-XX (نام اشخاص)")
140
- if "amount" in entities: active.append("amount-XX (اعداد+واحد)")
141
- if "percent" in entities: active.append("percent-XX (درصدها)")
142
-
143
- return f"""/no_think
144
- {relevant_examples}
145
-
146
- موجودیت‌های فعال: {' | '.join(active)}
147
-
148
- متن زیر را مطابق قوانین و examples بالا ناشناس کن.
149
- خروجی فقط JSON، بدون هیچ توضیح:
150
- {{
151
- "anonymized": "متن ناشناس شده",
152
- "mapping": {{ {", ".join(mapping_hints)} }}
153
- }}
154
-
155
- متن:
156
- {text}"""
157
-
158
-
159
- def build_analysis_prompt(anonymized_text: str, analysis_prompt: str, entities: list) -> str:
160
- tokens = []
161
- if "person" in entities: tokens.append("person-XX")
162
- if "company" in entities: tokens.append("company-XX")
163
- if "amount" in entities: tokens.append("amount-XX")
164
- if "percent" in entities: tokens.append("percent-XX")
165
-
166
- return f"""متن ناشناس‌سازی شده:
167
- {anonymized_text}
168
-
169
- دستورات:
170
- {analysis_prompt}
171
-
172
- قوانین:
173
- - فقط از توکن‌های موجود استفاده کن: {', '.join(tokens)}
174
- - هیچ کلمه‌ای قبل/بعد از توکن‌ها اضافه نکن
175
- - توکن جدید ایجاد نکن"""
176
-
177
-
178
- # ─────────────────────────────────────────────────────────────
179
- # توابع کمکی
180
- # ─────────────────────────────────────────────────────────────
181
-
182
- def strip_thinking(text: str) -> str:
183
- if not text:
184
- return text
185
- return re.sub(r"<think>.*?</think>", "", text, flags=re.DOTALL).strip()
186
-
187
-
188
- def parse_json_response(raw: str) -> dict:
189
- raw = strip_thinking(raw)
190
- raw = re.sub(r"```(?:json)?", "", raw).replace("```", "").strip()
191
- start = raw.find("{")
192
- end = raw.rfind("}") + 1
193
- if start == -1 or end == 0:
194
- raise ValueError("JSON یافت نشد")
195
- return json.loads(raw[start:end])
196
-
197
-
198
- def post_deepinfra(prompt: str, system: str, max_tokens: int = 4096) -> str:
199
- """
200
- DeepInfra Qwen3-14B
201
- thinking خاموش: /no_think + chat_template_kwargs
202
- """
203
- api_key = os.getenv("DEEPINFRA_API_KEY")
204
- if not api_key:
205
- raise ValueError("DEEPINFRA_API_KEY موجود نیست")
206
-
207
- resp = requests.post(
208
- ANON_API_URL,
209
- headers={
210
- "Authorization": f"Bearer {api_key}",
211
- "Content-Type": "application/json"
212
- },
213
- json={
214
- "model": ANON_MODEL,
215
- "messages": [
216
- {"role": "system", "content": system},
217
- {"role": "user", "content": prompt}
218
- ],
219
- "max_tokens": max_tokens,
220
- "temperature": 0.1,
221
- "chat_template_kwargs": {"enable_thinking": False},
222
- },
223
- timeout=90
224
- )
225
-
226
- if resp.status_code != 200:
227
- raise Exception(f"DeepInfra {resp.status_code}: {resp.text[:300]}")
228
-
229
- return strip_thinking(resp.json()["choices"][0]["message"]["content"])
230
-
231
-
232
- # ─────────────────────────────────────────────────────────────
233
- # کلاس اصلی
234
- # ─────────────────────────────────────────────────────────────
235
- class AnonymizerAdvanced:
236
-
237
- def __init__(
238
- self,
239
- llm_provider: str = "chatgpt",
240
- llm_model: str = None,
241
- entities_to_anonymize: List[str] = None
242
- ):
243
- self.llm_provider = llm_provider
244
- self.llm_model = llm_model
245
- self.entities_to_anonymize = entities_to_anonymize or ["person", "company", "amount", "percent"]
246
- self.mapping_table: Dict[str, str] = {}
247
- self.reverse_mapping: Dict[str, str] = {}
248
- self._create_llm_sender()
249
- logger.info(f"✅ Anonymizer — {llm_provider}")
250
-
251
- # ── LLM sender (تحلیل) ──────────────────────────────────
252
-
253
- def _create_llm_sender(self):
254
- try:
255
- key_map = {
256
- "chatgpt": os.getenv("OPENAI_API_KEY"),
257
- "grok": os.getenv("XAI_API_KEY"),
258
- "deepinfra": os.getenv("DEEPINFRA_API_KEY"),
259
- }
260
- self.llm_sender = create_llm_sender(
261
- provider=self.llm_provider,
262
- api_key=key_map.get(self.llm_provider),
263
- model=self.llm_model
264
- )
265
- logger.info(f"✅ LLM Sender: {self.llm_provider} — {self.llm_sender.model}")
266
- except Exception as e:
267
- logger.error(f"❌ LLM Sender خطا: {e}")
268
- self.llm_sender = create_llm_sender("chatgpt")
269
-
270
- def set_llm_provider(self, provider: str, model: str = None, entities: List[str] = None):
271
- self.llm_provider = provider
272
- self.llm_model = model
273
- if entities is not None:
274
- self.entities_to_anonymize = entities
275
- self._create_llm_sender()
276
-
277
- # ── ناشناس‌سازی — یک call، بدون thinking ──────────────
278
-
279
- def anonymize(self, text: str) -> Tuple[str, Dict]:
280
- logger.info("⚡ Qwen3-14B (no-think | single-call | few-shot)...")
281
-
282
- if not self.entities_to_anonymize:
283
- return text, {}
284
-
285
- prompt = build_single_call_prompt(text, self.entities_to_anonymize)
286
-
287
- try:
288
- raw = post_deepinfra(prompt, ANON_SYSTEM_PROMPT, max_tokens=4096)
289
- logger.info(f"✅ پاسخ: {len(raw)} کاراکتر")
290
-
291
- result = parse_json_response(raw)
292
- anonymized_text = result.get("anonymized", "")
293
- self.mapping_table = result.get("mapping", {})
294
-
295
- self._clean_orphan_tokens(anonymized_text)
296
- self._fix_mapping()
297
- self.reverse_mapping = {v: k for k, v in self.mapping_table.items()}
298
-
299
- for etype in self.entities_to_anonymize:
300
- found = sorted(set(re.findall(rf'{etype}-\d+', anonymized_text)))
301
- if found:
302
- logger.info(f" {etype}: {found}")
303
-
304
- logger.info(f"✅ mapping: {len(self.mapping_table)} موجودیت")
305
- return anonymized_text, self.mapping_table
306
-
307
- except json.JSONDecodeError as e:
308
- logger.warning(f"⚠️ JSON خطا: {e} — fallback")
309
- return self._anonymize_fallback(text)
310
- except Exception as e:
311
- logger.error(f"❌ Exception: {e}")
312
- raise
313
-
314
- def _anonymize_fallback(self, text: str) -> Tuple[str, Dict]:
315
- """Fallback دو call اگر JSON parse شکست خورد"""
316
- logger.info("🔄 fallback: دو call...")
317
-
318
- prompt1 = (
319
- f"/no_think\n"
320
- f"{FEW_SHOT_EXAMPLES}\n"
321
- f"موجودیت‌های فعال: {' | '.join(self.entities_to_anonymize)}\n"
322
- f"متن زیر را ناشناس کن، فقط متن ناشناس شده:\n{text}"
323
- )
324
- anonymized_text = post_deepinfra(prompt1, ANON_SYSTEM_PROMPT, max_tokens=4096)
325
-
326
- hints = []
327
- if "person" in self.entities_to_anonymize: hints.append('"person-XX": "نام کامل"')
328
- if "company" in self.entities_to_anonymize: hints.append('"company-XX": "نام کامل سازمان"')
329
- if "amount" in self.entities_to_anonymize: hints.append('"amount-XX": "عدد+واحد"')
330
- if "percent" in self.entities_to_anonymize: hints.append('"percent-XX": "عدد+درصد"')
331
-
332
- prompt2 = (
333
- f"/no_think\n"
334
- f"متن اصلی: {text}\n"
335
- f"متن ناشناس: {anonymized_text}\n\n"
336
- f"فقط JSON mapping:\n{{ {', '.join(hints)} }}"
337
- )
338
-
339
- try:
340
- raw2 = post_deepinfra(prompt2, "Output ONLY valid JSON. No explanation.", max_tokens=2048)
341
- self.mapping_table = parse_json_response(raw2)
342
- except Exception:
343
- self._extract_mapping_fallback(text, anonymized_text)
344
-
345
- self._clean_orphan_tokens(anonymized_text)
346
- self._fix_mapping()
347
- self.reverse_mapping = {v: k for k, v in self.mapping_table.items()}
348
- return anonymized_text, self.mapping_table
349
-
350
- # ── پاک‌سازی mapping ────────────────────────────────────
351
-
352
- def _clean_orphan_tokens(self, anonymized_text: str):
353
- to_remove = [t for t in self.mapping_table if t not in anonymized_text]
354
- for t in to_remove:
355
- logger.info(f" 🗑️ توکن اضافی: {t}")
356
- del self.mapping_table[t]
357
-
358
- def _fix_mapping(self):
359
- for token, value in list(self.mapping_table.items()):
360
- val = str(value).strip()
361
- if token.startswith("percent-") and not re.search(r"(درصد|%|٪|درصدی)", val):
362
- self.mapping_table[token] = f"{val} درصد"
363
- logger.info(f" اصلاح {token}: '{val}' → '{val} درصد'")
364
-
365
- # ── fallback mapping با regex ────────────────────────────
366
-
367
- def _extract_mapping_fallback(self, original: str, anonymized: str):
368
- pats: Dict[str, str] = {}
369
- if "person" in self.entities_to_anonymize:
370
- pats["person"] = r'(?<![ء-یa-zA-Z])[ء-ی]+\s+[ء-ی]+(?:\s+[ء-ی]+)*(?![ء-یa-zA-Z])'
371
- if "company" in self.entities_to_anonymize:
372
- pats["company"] = (
373
- r'(?:(?:شرکت|بانک|سازمان|گروه|هلدینگ|صندوق|بیمه|پتروشیمی|ملی|سرمایه\s*گذاری)\s+)'
374
- r'[ء-ی][ء-ی\s]+(?:\([ء-یa-zA-Z]+\))?'
375
- )
376
- if "amount" in self.entities_to_anonymize:
377
- pats["amount"] = r'[\d۰-۹][,،\d۰-۹]*(?:\.\d+)?\s*(?:هزار\s+و\s+\d+|هزار|میلیون|میلیارد|همت)?\s*(?:میلیارد|میلیون|هزار|تومان|ریال|دلار|دستگاه|تن)?'
378
- if "percent" in self.entities_to_anonymize:
379
- pats["percent"] = r'[\d۰-۹]+(?:\.\d+)?\s*(?:درصد|%|٪|درصدی)'
380
-
381
- orig_entities = {
382
- etype: [m.strip() for m in re.findall(pat, original) if m.strip()]
383
- for etype, pat in pats.items()
384
- }
385
-
386
- for etype in self.entities_to_anonymize:
387
- tokens = sorted(set(re.findall(rf'{etype}-(\d+)', anonymized)), key=int)
388
- values = orig_entities.get(etype, [])
389
- for tok_num in tokens:
390
- token = f"{etype}-{tok_num}"
391
- idx = int(tok_num) - 1
392
- self.mapping_table[token] = values[idx] if idx < len(values) else (values[-1] if values else token)
393
-
394
- self.reverse_mapping = {v: k for k, v in self.mapping_table.items()}
395
- logger.info(f"✅ Fallback mapping: {len(self.mapping_table)} موجودیت")
396
-
397
- # ── تحلیل LLM ───────────────────────────────────────────
398
-
399
- def analyze_with_llm(self, anonymized_text: str, analysis_prompt: str = None) -> str:
400
- logger.info(f"🤖 {self.llm_provider.upper()} تحلیل...")
401
-
402
- if not analysis_prompt or not analysis_prompt.strip():
403
- return "⚠️ هیچ دستور تحلیل داده نشده است"
404
-
405
- prompt = build_analysis_prompt(anonymized_text, analysis_prompt, self.entities_to_anonymize)
406
- try:
407
- response = self.llm_sender.send(prompt, lang="fa", temperature=0.2, max_tokens=2000)
408
- logger.info(f"✅ {self.llm_provider.upper()}: {len(response)} کاراکتر")
409
- return response
410
- except Exception as e:
411
- logger.error(f"❌ {self.llm_provider.upper()} Exception: {e}")
412
- return f"❌ خطا: {str(e)}"
413
-
414
- # ── بازگردانی ────────────────────────────────────────────
415
-
416
- def restore_text(self, anonymized_text: str) -> str:
417
- logger.info("🔄 بازگردانی...")
418
-
419
- if not self.mapping_table:
420
- return anonymized_text
421
-
422
- restored = self._normalize_tokens(anonymized_text)
423
- count = 0
424
-
425
- for placeholder, original in sorted(
426
- self.mapping_table.items(), key=lambda x: len(x[0]), reverse=True
427
- ):
428
- if placeholder in restored:
429
- restored = restored.replace(placeholder, original)
430
- count += 1
431
- logger.info(f" ✅ {placeholder} → {original[:40]}")
432
- else:
433
- logger.warning(f" ⚠️ {placeholder} یافت نشد")
434
-
435
- logger.info(f"✅ {count}/{len(self.mapping_table)} توکن بازگردانی شد")
436
-
437
- if count < len(self.mapping_table):
438
- restored = self._restore_with_regex(restored)
439
-
440
- return restored
441
-
442
- def _normalize_tokens(self, text: str) -> str:
443
- normalized = text
444
- unicode_hyphens = r'[\u2010\u2011\u2012\u2013\u2014\u2212]'
445
- for etype in self.entities_to_anonymize:
446
- normalized = re.sub(rf'{etype}{unicode_hyphens}(\d+)', rf'{etype}-\1', normalized)
447
- normalized = re.sub(rf'{etype}\s+-\s+(\d+)', rf'{etype}-\1', normalized)
448
- normalized = re.sub(rf'({etype}-\d+)([ء-ی])', r'\1 \2', normalized)
449
- normalized = re.sub(rf'({etype}-\d+)([،؛:.!?])', r'\1 \2', normalized)
450
- return normalized
451
-
452
- def _restore_with_regex(self, text: str) -> str:
453
- restored = text
454
- for placeholder, original in self.mapping_table.items():
455
- if placeholder not in restored:
456
- continue
457
- etype, num = placeholder.split("-")
458
- if re.search(rf'{etype}\s*-\s*{num}', restored):
459
- restored = re.sub(rf'{etype}\s*-\s*{num}', original, restored)
460
- logger.info(f" ✅ regex: {placeholder} → {original[:40]}")
461
- return restored
462
-
463
- def get_mapping_table_md(self) -> str:
464
- if not self.mapping_table:
465
- return "### 📋 جدول نگاشت\n\nهیچ موجودیتی شناسایی نشد"
466
- table = "### 📋 جدول نگاشت\n\n| شناسه | متن اصلی |\n|-------|----------|\n"
467
- for token, original in sorted(self.mapping_table.items()):
468
- table += f"| **{token}** | {original} |\n"
469
- return table
470
-
471
-
472
- # ─────────────────────────────────────────────────────────────
473
- # متغیر سراسری
474
- # ─────────────────────────────────────────────────────────────
475
- anonymizer: Optional[AnonymizerAdvanced] = None
476
-
477
-
478
- # ─────────────────────────────────────────────────────────────
479
- # تابع اصلی
480
- # ─────────────────────────────────────────────────────────────
481
- def process(
482
- input_text: str,
483
- analysis_prompt: str,
484
- llm_provider: str,
485
- llm_model: str,
486
- anonymize_all: bool,
487
- anonymize_person: bool,
488
- anonymize_company: bool,
489
- anonymize_amount: bool,
490
- anonymize_percent: bool
491
- ):
492
- global anonymizer
493
-
494
- if not input_text.strip():
495
- return "", "", "", ""
496
-
497
- entities = ["person", "company", "amount", "percent"] if anonymize_all else [
498
- e for e, flag in [
499
- ("person", anonymize_person),
500
- ("company", anonymize_company),
501
- ("amount", anonymize_amount),
502
- ("percent", anonymize_percent),
503
- ] if flag
504
- ]
505
-
506
- if not entities:
507
- return "", "❌ لطفاً حداقل یک موجودیت انتخاب کنید", "", ""
508
-
509
- if not anonymizer:
510
- anonymizer = AnonymizerAdvanced(
511
- llm_provider=llm_provider,
512
- llm_model=llm_model,
513
- entities_to_anonymize=entities
514
- )
515
- else:
516
- anonymizer.set_llm_provider(llm_provider, llm_model, entities)
517
- anonymizer.mapping_table = {}
518
- anonymizer.reverse_mapping = {}
519
-
520
- try:
521
- logger.info("=" * 60)
522
- logger.info(f"⚡ Qwen3-14B (no-think | single-call | few-shot)")
523
- logger.info(f"🤖 تحلیل: {llm_provider} ({llm_model})")
524
- logger.info(f"🎯 موجودیت‌ها: {entities}")
525
- logger.info("=" * 60)
526
-
527
- anon_text, _ = anonymizer.anonymize(input_text)
528
-
529
- has_analysis = bool(analysis_prompt and analysis_prompt.strip())
530
- llm_response = anonymizer.analyze_with_llm(anon_text, analysis_prompt) if has_analysis \
531
- else "⚠️ هیچ دستور تحلیل داده نشده است"
532
-
533
- source = llm_response if has_analysis else anon_text
534
- restored = anonymizer.restore_text(source)
535
-
536
- return restored, llm_response, anon_text, anonymizer.get_mapping_table_md()
537
-
538
- except Exception as e:
539
- logger.error(f"❌ خطا: {e}", exc_info=True)
540
- return "", f"❌ خطا: {str(e)}", "", ""
541
-
542
-
543
- def clear_all():
544
- return "", "", "", "", "", "", True, False, False, False, False
545
-
546
-
547
- # ─────────────────────────────────────────────────────────────
548
- # رابط کاربری Gradio
549
- # ─────────────────────────────────────────────────────────────
550
- css_rtl = """
551
- .textbox textarea { direction: rtl; text-align: right; font-family: 'Tahoma', serif; }
552
- .input-box { direction: rtl; text-align: right; }
553
- .compact-checkbox label { padding: 5px 10px !important; font-size: 0.95em !important; }
554
- """
555
-
556
- with gr.Blocks(title="سیستم ناشناس‌سازی متون", theme=gr.themes.Soft(), css=css_rtl) as app:
557
-
558
- gr.Markdown(
559
- "# 🔐 پلتفرم ناشناس‌سازی متون فارسی\n"
560
- "> ⚡ **Qwen3-14B** بدون thinking — یک call — few-shot examples",
561
- elem_classes="input-box"
562
- )
563
-
564
- with gr.Row():
565
- with gr.Column(scale=1):
566
- with gr.Group():
567
- gr.Markdown("### ⚙️ مدل تحلیل", elem_classes="input-box")
568
- llm_provider = gr.Dropdown(
569
- choices=["chatgpt", "grok", "deepinfra"],
570
- value="chatgpt", label="🤖 مدل زبانی تحلیل", interactive=True
571
- )
572
- llm_model = gr.Dropdown(
573
- choices=AVAILABLE_MODELS["chatgpt"],
574
- value="gpt-4o-mini", label="📦 نسخه مدل", interactive=True
575
- )
576
-
577
- with gr.Column(scale=1):
578
- with gr.Group():
579
- gr.Markdown("### 🎯 موجودیت‌های ناشناس‌سازی", elem_classes="input-box")
580
- anonymize_all = gr.Checkbox(label="✅ همه", value=True, elem_classes="compact-checkbox")
581
- anonymize_person = gr.Checkbox(label="👤 اشخاص", value=False, elem_classes="compact-checkbox")
582
- anonymize_company = gr.Checkbox(label="🏢 سازمان‌ها", value=False, elem_classes="compact-checkbox")
583
- anonymize_amount = gr.Checkbox(label="💰 ارقام مالی", value=False, elem_classes="compact-checkbox")
584
- anonymize_percent = gr.Checkbox(label="📊 درصدها", value=False, elem_classes="compact-checkbox")
585
-
586
- gr.Markdown("---")
587
-
588
- with gr.Row():
589
- with gr.Column(scale=1):
590
- gr.Markdown("### 📋 دستورات تحلیل (اختیاری)", elem_classes="input-box")
591
- analysis_prompt = gr.Textbox(
592
- lines=20, placeholder="مثال: این متن را خلاصه کن",
593
- label="", elem_classes="textbox"
594
- )
595
- with gr.Column(scale=1):
596
- gr.Markdown("### 📝 متن ورودی", elem_classes="input-box")
597
- input_text = gr.Textbox(
598
- lines=20, placeholder="متن فارسی را وارد کنید...",
599
- label="", elem_classes="textbox"
600
- )
601
-
602
- with gr.Row():
603
- process_btn = gr.Button("▶️ پردازش", variant="primary", size="lg", scale=2)
604
- clear_btn = gr.Button("🗑️ پاک کردن", variant="stop", size="lg", scale=1)
605
-
606
- gr.Markdown("## 📊 نتایج", elem_classes="input-box")
607
-
608
- with gr.Row():
609
- restored_text = gr.Textbox(lines=12, label="✅ متن بازگردانی شده", interactive=False, elem_classes="textbox")
610
- llm_analysis = gr.Textbox(lines=12, label="🤖 تحلیل LLM", interactive=False, elem_classes="textbox")
611
- anonymized_output = gr.Textbox(lines=12, label="🔒 متن ناشناس‌شده", interactive=False, elem_classes="textbox")
612
-
613
- mapping_table = gr.Markdown("### 📋 جدول نگاشت\n\nهنوز پردازشی انجام نشده", elem_classes="input-box")
614
-
615
- def handle_provider_change(provider):
616
- models = AVAILABLE_MODELS.get(provider, [])
617
- return gr.update(choices=models, value=models[0] if models else None)
618
-
619
- llm_provider.change(fn=handle_provider_change, inputs=[llm_provider], outputs=[llm_model])
620
-
621
- def handle_select_all(select_all):
622
- s = gr.update(value=False, interactive=not select_all)
623
- return s, s, s, s
624
-
625
- anonymize_all.change(
626
- fn=handle_select_all, inputs=[anonymize_all],
627
- outputs=[anonymize_person, anonymize_company, anonymize_amount, anonymize_percent]
628
- )
629
-
630
- process_btn.click(
631
- fn=process,
632
- inputs=[
633
- input_text, analysis_prompt, llm_provider, llm_model,
634
- anonymize_all, anonymize_person, anonymize_company, anonymize_amount, anonymize_percent
635
- ],
636
- outputs=[restored_text, llm_analysis, anonymized_output, mapping_table]
637
- )
638
-
639
- clear_btn.click(
640
- fn=clear_all,
641
- outputs=[
642
- input_text, analysis_prompt, restored_text, llm_analysis,
643
- anonymized_output, mapping_table,
644
- anonymize_all, anonymize_person, anonymize_company, anonymize_amount, anonymize_percent
645
- ]
646
- )
647
-
648
-
649
- if __name__ == "__main__":
650
- print("=" * 60)
651
- print("⚡ Qwen3-14B | no-think | single-call | few-shot")
652
- print("=" * 60)
653
- app.launch(server_name="0.0.0.0", server_port=7860, share=False, show_error=True)