KashefTech commited on
Commit
b4b5386
·
verified ·
1 Parent(s): 231e8c1

Delete app.py

Browse files
Files changed (1) hide show
  1. app.py +0 -662
app.py DELETED
@@ -1,662 +0,0 @@
1
- import gradio as gr
2
- import re
3
- import os
4
- import requests
5
- import json
6
- import logging
7
- from typing import Dict, List, Tuple, Optional
8
- from llm_sender_unified import create_llm_sender
9
-
10
- logging.basicConfig(level=logging.INFO)
11
- logger = logging.getLogger(__name__)
12
-
13
- # ─────────────────────────────────────────────────────────────
14
- # مدل‌های موجود — برای تحلیل LLM
15
- # ─────────────────────────────────────────────────────────────
16
- AVAILABLE_MODELS = {
17
- "chatgpt": ["gpt-5.1", "gpt-5", "gpt-4.1", "gpt-4o", "gpt-4o-mini", "gpt-4-turbo"],
18
- "grok": ["grok-4-0709", "grok-3", "grok-3-mini", "grok-2-1212"],
19
- "deepinfra": [
20
- "Qwen/Qwen3-14B", "Qwen/Qwen3-32B", "Qwen/Qwen3-30B-A3B",
21
- "Qwen/Qwen2.5-72B-Instruct", "Qwen/Qwen2.5-14B-Instruct",
22
- ],
23
- }
24
-
25
- # ─────────────────────────────────────────────────────────────
26
- # DeepInfra — ناشناس‌سازی با Qwen3-14B
27
- # بهینه‌سازی‌ها:
28
- # ۱. thinking mode خاموش (chat_template_kwargs)
29
- # ۲. یک call: ناشناس‌سازی + mapping با هم در JSON
30
- # ─────────────────────────────────────────────────────────────
31
- ANON_MODEL = "Qwen/Qwen3-14B"
32
- ANON_API_URL = "https://api.deepinfra.com/v1/openai/chat/completions"
33
-
34
- # ─────────────────────────────────────────────────────────────
35
- # SYSTEM PROMPT ناشناس‌سازی
36
- # fix: «company-XX» فقط برای نام‌های مشخص، نه کلمات عمومی
37
- # ─────────────────────────────────────────────────────────────
38
- ANON_SYSTEM_PROMPT = """You are a Persian text anonymizer. Output ONLY valid JSON, no explanation.
39
-
40
- TOKENS: company-01/02... | person-01/02... | amount-01/02... | percent-01/02...
41
-
42
- ENTITY RULES:
43
- - company-XX: ONLY specific named organizations (بانک پاسارگاد, فولاد مبارکه, ...)
44
- - NEVER use company-XX for generic words: بانک‌ها, شرکت‌ها, این بانک, این شرکت, سازمان‌ها
45
- - NEVER use company-XX for pronouns/references: این, آن, همین
46
- - person-XX: ONLY full personal names (نام + نام‌خانوادگی)
47
- - amount-XX: number + monetary/measurement unit TOGETHER as one token
48
- - percent-XX: number + درصد/٪ TOGETHER as one token
49
- - ALL org types use company-XX: banks→company-XX, funds→company-XX, auditors→company-XX
50
- - NEVER: bank-01, org-01, شرکت-01 — ONLY company-XX in English
51
- - Same named entity = same token. New named entity = next number."""
52
-
53
-
54
- # ─────────────────────────────────────────────────────────────
55
- # ساخت prompt — یک call، JSON output
56
- # ─────────────────────────────────────────────────────────────
57
-
58
- def build_single_call_prompt(text: str, entities: list) -> str:
59
- """
60
- یک prompt = یک call = ناشناس‌سازی + mapping با هم در JSON
61
- بهینه‌سازی‌ها:
62
- - /no_think در ابتدا → thinking mode خاموش
63
- - JSON output → دو call به یک تبدیل شد
64
- - fix: کلمات عمومی ناشناس نشوند
65
- """
66
- rules = []
67
-
68
- if "company" in entities:
69
- rules.append(
70
- "company-XX → فقط نام‌های مشخص سازمان‌ها\n"
71
- " ✅ «بانک پاسارگاد» → company-01\n"
72
- " ✅ «ایران خودرو» → company-02 (بدون پیشوند هم ناشناس شود)\n"
73
- " ❌ «بانک‌های کشور»، «این بانک»، «سودآورترین بانک‌ها» → دست نزن"
74
- )
75
- if "person" in entities:
76
- rules.append(
77
- "person-XX → فقط نام کامل اشخاص (نام + نام‌خانوادگی)\n"
78
- " ✅ «فرج‌اله قدمی» → person-01\n"
79
- " ❌ «مدیرعامل»، «رئیس» → دست نزن"
80
- )
81
- if "amount" in entities:
82
- rules.append(
83
- "amount-XX → عدد + واحد را کاملاً با هم جایگزین کن\n"
84
- " ✅ «155 هزار میلیارد ریال» → amount-01\n"
85
- " ✅ «2700 میلیارد تومانی» �� amount-02\n"
86
- " ✅ «67 هزار میلیارد تومان» → amount-03\n"
87
- " ❌ «amount-01 میلیارد ریال» — واحد نباید بیرون بماند"
88
- )
89
- if "percent" in entities:
90
- rules.append(
91
- "percent-XX → عدد + درصد/٪ را کاملاً با هم جایگزین کن\n"
92
- " ✅ «منفی 345 درصد» → منفی percent-01\n"
93
- " ✅ «50 الی 70 درصد» → percent-02 الی percent-03 (دو توکن)\n"
94
- " ❌ «percent-01 درصد» — کلمه درصد نباید بیرون بماند"
95
- )
96
-
97
- rules.append(
98
- "اعداد سال (1402، 1403، 1404) را ناشناس نکن\n"
99
- "کلمات عمومی مثل «بانک‌ها»، «شرکت‌ها»، «این بانک»، «سودآورترین بانک‌ها» را دست نزن"
100
- )
101
-
102
- rules_text = "\n".join(rules)
103
-
104
- mapping_hints = []
105
- if "person" in entities: mapping_hints.append('"person-XX": "نام کامل"')
106
- if "company" in entities: mapping_hints.append('"company-XX": "نام کامل سازمان"')
107
- if "amount" in entities: mapping_hints.append('"amount-XX": "عدد + واحد کامل"')
108
- if "percent" in entities: mapping_hints.append('"percent-XX": "عدد + درصد کامل"')
109
- hints = ", ".join(mapping_hints)
110
-
111
- # /no_think در ابتدای پیام → Qwen3 thinking mode خاموش می‌شود
112
- return f"""/no_think
113
- متن فارسی زیر را ناشناس کن. خروجی فقط JSON، بدون هیچ توضیح اضافه.
114
-
115
- قوانین:
116
- {rules_text}
117
-
118
- فرمت خروجی:
119
- {{
120
- "anonymized": "متن ناشناس شده اینجا",
121
- "mapping": {{ {hints} }}
122
- }}
123
-
124
- متن:
125
- {text}"""
126
-
127
-
128
- def build_analysis_prompt(anonymized_text: str, analysis_prompt: str, entities: list) -> str:
129
- tokens = []
130
- if "person" in entities: tokens.append("person-XX")
131
- if "company" in entities: tokens.append("company-XX")
132
- if "amount" in entities: tokens.append("amount-XX")
133
- if "percent" in entities: tokens.append("percent-XX")
134
-
135
- return f"""متن ناشناس‌سازی شده:
136
- {anonymized_text}
137
-
138
- دستورات:
139
- {analysis_prompt}
140
-
141
- قوانین:
142
- - فقط از توکن‌های موجود استفاده کن: {', '.join(tokens)}
143
- - هیچ کلمه‌ای قبل/بعد از توکن‌ها اضافه نکن
144
- - توکن جدید ایجاد نکن"""
145
-
146
-
147
- # ─────────────────────────────────────────────────────────────
148
- # توابع کمکی
149
- # ─────────────────────────────────────────────────────────────
150
-
151
- def strip_thinking(text: str) -> str:
152
- """حذف بلوک think — احتیاطی اگر thinking هنوز فعال بود"""
153
- if not text:
154
- return text
155
- return re.sub(r"<think>.*?</think>", "", text, flags=re.DOTALL).strip()
156
-
157
-
158
- def parse_json_response(raw: str) -> dict:
159
- """parse JSON مقاوم در برابر markdown fence و think blocks"""
160
- raw = strip_thinking(raw)
161
- raw = re.sub(r"```(?:json)?", "", raw).replace("```", "").strip()
162
- start = raw.find("{")
163
- end = raw.rfind("}") + 1
164
- if start == -1 or end == 0:
165
- raise ValueError("JSON یافت نشد در خروجی مدل")
166
- return json.loads(raw[start:end])
167
-
168
-
169
- def post_deepinfra(prompt: str, system: str, max_tokens: int = 4096) -> str:
170
- """
171
- ارسال به DeepInfra Qwen3-14B با thinking mode خاموش
172
- دو روش غیرفعال کردن thinking:
173
- ۱. /no_think در ابتدای prompt (در build_single_call_prompt)
174
- ۲. chat_template_kwargs در API parameters
175
- """
176
- api_key = os.getenv("DEEPINFRA_API_KEY")
177
- if not api_key:
178
- raise ValueError("DEEPINFRA_API_KEY موجود نیست")
179
-
180
- resp = requests.post(
181
- ANON_API_URL,
182
- headers={
183
- "Authorization": f"Bearer {api_key}",
184
- "Content-Type": "application/json"
185
- },
186
- json={
187
- "model": ANON_MODEL,
188
- "messages": [
189
- {"role": "system", "content": system},
190
- {"role": "user", "content": prompt}
191
- ],
192
- "max_tokens": max_tokens,
193
- "temperature": 0.1,
194
- # ── غیرفعال کردن thinking mode — روش API ──
195
- "chat_template_kwargs": {"enable_thinking": False},
196
- },
197
- timeout=90
198
- )
199
-
200
- if resp.status_code != 200:
201
- raise Exception(f"DeepInfra API {resp.status_code}: {resp.text[:300]}")
202
-
203
- content = resp.json()["choices"][0]["message"]["content"]
204
- # احتیاطی: strip_thinking اگر باز هم think داشت
205
- return strip_thinking(content)
206
-
207
-
208
- # ─────────────────────────────────────────────────────────────
209
- # کلاس اصلی
210
- # ─────────────────────────────────────────────────────────────
211
- class AnonymizerAdvanced:
212
-
213
- def __init__(
214
- self,
215
- llm_provider: str = "chatgpt",
216
- llm_model: str = None,
217
- entities_to_anonymize: List[str] = None
218
- ):
219
- self.llm_provider = llm_provider
220
- self.llm_model = llm_model
221
- self.entities_to_anonymize = entities_to_anonymize or ["person", "company", "amount", "percent"]
222
- self.mapping_table: Dict[str, str] = {}
223
- self.reverse_mapping: Dict[str, str] = {}
224
- self._create_llm_sender()
225
- logger.info(f"✅ Anonymizer مقداردهی شد — {llm_provider}")
226
-
227
- # ── LLM sender (برای تحلیل) ─────────────────────────────
228
-
229
- def _create_llm_sender(self):
230
- try:
231
- key_map = {
232
- "chatgpt": os.getenv("OPENAI_API_KEY"),
233
- "grok": os.getenv("XAI_API_KEY"),
234
- "deepinfra": os.getenv("DEEPINFRA_API_KEY"),
235
- }
236
- self.llm_sender = create_llm_sender(
237
- provider=self.llm_provider,
238
- api_key=key_map.get(self.llm_provider),
239
- model=self.llm_model
240
- )
241
- logger.info(f"✅ LLM Sender: {self.llm_provider} — {self.llm_sender.model}")
242
- except Exception as e:
243
- logger.error(f"❌ خطا در LLM Sender: {e}")
244
- self.llm_sender = create_llm_sender("chatgpt")
245
-
246
- def set_llm_provider(self, provider: str, model: str = None, entities: List[str] = None):
247
- self.llm_provider = provider
248
- self.llm_model = model
249
- if entities is not None:
250
- self.entities_to_anonymize = entities
251
- self._create_llm_sender()
252
-
253
- # ── ناشناس‌سازی — یک call، بدون thinking ──────────────
254
-
255
- def anonymize(self, text: str) -> Tuple[str, Dict]:
256
- """
257
- ناشناس‌سازی با Qwen3-14B روی DeepInfra
258
- بهینه‌سازی‌ها:
259
- - thinking mode خاموش: /no_think + chat_template_kwargs
260
- - یک API call: anonymized + mapping با هم در JSON
261
- """
262
- logger.info(f"⚡ Qwen3-14B (no-think, single call)...")
263
-
264
- if not self.entities_to_anonymize:
265
- return text, {}
266
-
267
- prompt = build_single_call_prompt(text, self.entities_to_anonymize)
268
-
269
- try:
270
- raw = post_deepinfra(prompt, ANON_SYSTEM_PROMPT, max_tokens=4096)
271
- logger.info(f"✅ پاسخ دریافت شد ({len(raw)} کاراکتر)")
272
-
273
- result = parse_json_response(raw)
274
- anonymized_text = result.get("anonymized", "")
275
- self.mapping_table = result.get("mapping", {})
276
-
277
- # پاک‌سازی mapping از توکن‌های company-XX عمومی
278
- self._clean_generic_tokens(anonymized_text)
279
- self._fix_mapping()
280
- self.reverse_mapping = {v: k for k, v in self.mapping_table.items()}
281
-
282
- for etype in self.entities_to_anonymize:
283
- found = sorted(set(re.findall(rf'{etype}-\d+', anonymized_text)))
284
- if found:
285
- logger.info(f" {etype}: {found}")
286
-
287
- logger.info(f"✅ mapping: {len(self.mapping_table)} موجودیت")
288
- return anonymized_text, self.mapping_table
289
-
290
- except json.JSONDecodeError as e:
291
- logger.warning(f"⚠️ JSON parse خطا: {e} — fallback")
292
- return self._anonymize_fallback(text)
293
- except Exception as e:
294
- logger.error(f"❌ DeepInfra Exception: {e}")
295
- raise
296
-
297
- def _anonymize_fallback(self, text: str) -> Tuple[str, Dict]:
298
- """
299
- Fallback: اگر JSON parse شکست خورد
300
- دو call جداگانه با Qwen3 (بدون JSON mode)
301
- """
302
- logger.info("🔄 fallback: دو call...")
303
-
304
- # Call 1: فقط متن ناشناس
305
- rules = []
306
- if "company" in self.entities_to_anonymize:
307
- rules.append("company-XX → فقط نام‌های مشخص سازمان (نه بانک‌ها یا این بانک)")
308
- if "person" in self.entities_to_anonymize:
309
- rules.append("person-XX → نام کامل اشخاص")
310
- if "amount" in self.entities_to_anonymize:
311
- rules.append("amount-XX → عدد + واحد با هم")
312
- if "percent" in self.entities_to_anonymize:
313
- rules.append("percent-XX → عدد + درصد با هم")
314
- rules.append("اعداد سال و کلمات عمومی را دست نزن. فقط متن ناشناس شده.")
315
-
316
- prompt1 = "/no_think\n" + "\n".join(rules) + f"\n\nمتن:\n{text}"
317
- anonymized_text = post_deepinfra(prompt1, ANON_SYSTEM_PROMPT, max_tokens=4096)
318
-
319
- # Call 2: mapping
320
- hints = []
321
- if "person" in self.entities_to_anonymize: hints.append('"person-XX": "نام کامل"')
322
- if "company" in self.entities_to_anonymize: hints.append('"company-XX": "نام سازمان"')
323
- if "amount" in self.entities_to_anonymize: hints.append('"amount-XX": "عدد+واحد"')
324
- if "percent" in self.entities_to_anonymize: hints.append('"percent-XX": "عدد+درصد"')
325
-
326
- prompt2 = (
327
- f"/no_think\n"
328
- f"متن اصلی: {text}\n"
329
- f"متن ناشناس: {anonymized_text}\n\n"
330
- f"فقط JSON mapping:\n{{ {', '.join(hints)} }}"
331
- )
332
-
333
- try:
334
- raw2 = post_deepinfra(prompt2, "Output ONLY valid JSON. No explanation.", max_tokens=2048)
335
- self.mapping_table = parse_json_response(raw2)
336
- except Exception:
337
- self._extract_mapping_fallback(text, anonymized_text)
338
-
339
- self._clean_generic_tokens(anonymized_text)
340
- self._fix_mapping()
341
- self.reverse_mapping = {v: k for k, v in self.mapping_table.items()}
342
- return anonymized_text, self.mapping_table
343
-
344
- # ── پاک‌سازی mapping ────────────────────────────────────
345
-
346
- def _clean_generic_tokens(self, anonymized_text: str):
347
- """
348
- حذف توکن‌هایی از mapping که در متن ناشناس وجود ندارند
349
- (مدل ممکنه mapping بیشتر از چیزی که واقعاً گذاشته تولید کرده باشد)
350
- """
351
- to_remove = [
352
- token for token in list(self.mapping_table.keys())
353
- if token not in anonymized_text
354
- ]
355
- for token in to_remove:
356
- del self.mapping_table[token]
357
- logger.info(f" 🗑️ حذف توکن اضافی از mapping: {token}")
358
-
359
- def _fix_mapping(self):
360
- """اطمینان از صحت مقادیر percent"""
361
- for token, value in list(self.mapping_table.items()):
362
- val = str(value).strip()
363
- if token.startswith("percent-") and not re.search(r"(درصد|%|٪|درصدی)", val):
364
- self.mapping_table[token] = f"{val} درصد"
365
- logger.info(f" اصلاح {token}: '{val}' → '{val} درصد'")
366
-
367
- # ── fallback mapping با regex ────────────────────────────
368
-
369
- def _extract_mapping_fallback(self, original: str, anonymized: str):
370
- pats: Dict[str, str] = {}
371
- if "person" in self.entities_to_anonymize:
372
- pats["person"] = r'(?<![ء-یa-zA-Z])[ء-ی]+\s+[ء-ی]+(?:\s+[ء-ی]+)*(?![ء-یa-zA-Z])'
373
- if "company" in self.entities_to_anonymize:
374
- pats["company"] = r'(?:(?:شرکت|بانک|سازمان|گروه|هلدینگ|صندوق)\s+)?[ء-ی][ء-ی\s]+'
375
- if "amount" in self.entities_to_anonymize:
376
- pats["amount"] = r'[\d۰-۹][,،\d۰-۹]*(?:\.\d+)?\s*(?:هزار|میلیون|میلیارد)?\s*(?:میلیارد|میلیون|هزار|تومان|ریال|دلار|دستگاه|تن)?'
377
- if "percent" in self.entities_to_anonymize:
378
- pats["percent"] = r'[\d۰-۹]+(?:\.\d+)?\s*(?:درصد|%|٪|درصدی)'
379
-
380
- orig_entities = {
381
- etype: [m.strip() for m in re.findall(pat, original) if m.strip()]
382
- for etype, pat in pats.items()
383
- }
384
-
385
- for etype in self.entities_to_anonymize:
386
- tokens = sorted(set(re.findall(rf'{etype}-(\d+)', anonymized)), key=int)
387
- values = orig_entities.get(etype, [])
388
- for tok_num in tokens:
389
- token = f"{etype}-{tok_num}"
390
- idx = int(tok_num) - 1
391
- self.mapping_table[token] = values[idx] if idx < len(values) else (values[-1] if values else token)
392
-
393
- self.reverse_mapping = {v: k for k, v in self.mapping_table.items()}
394
- logger.info(f"✅ Fallback mapping: {len(self.mapping_table)} موجودیت")
395
-
396
- # ── تحلیل با LLM ────────────────────────────────────────
397
-
398
- def analyze_with_llm(self, anonymized_text: str, analysis_prompt: str = None) -> str:
399
- logger.info(f"🤖 {self.llm_provider.upper()} تحلیل...")
400
-
401
- if not analysis_prompt or not analysis_prompt.strip():
402
- return "⚠️ هیچ دستور تحلیل داده نشده است"
403
-
404
- prompt = build_analysis_prompt(anonymized_text, analysis_prompt, self.entities_to_anonymize)
405
- try:
406
- response = self.llm_sender.send(prompt, lang="fa", temperature=0.2, max_tokens=2000)
407
- logger.info(f"✅ {self.llm_provider.upper()}: {len(response)} کاراکتر")
408
- return response
409
- except Exception as e:
410
- logger.error(f"❌ {self.llm_provider.upper()} Exception: {e}")
411
- return f"❌ خطا در ارتباط با {self.llm_provider.upper()}: {str(e)}"
412
-
413
- # ── بازگردانی ────────────────────────────────────────────
414
-
415
- def restore_text(self, anonymized_text: str) -> str:
416
- logger.info("🔄 بازگردانی متن...")
417
-
418
- if not self.mapping_table:
419
- logger.warning("⚠️ جدول نگاشت خالی")
420
- return anonymized_text
421
-
422
- restored = self._normalize_tokens(anonymized_text)
423
- count = 0
424
-
425
- for placeholder, original in sorted(self.mapping_table.items(), key=lambda x: len(x[0]), reverse=True):
426
- if placeholder in restored:
427
- restored = restored.replace(placeholder, original)
428
- count += 1
429
- logger.info(f" ✅ {placeholder} → {original[:40]}")
430
- else:
431
- logger.warning(f" ⚠️ {placeholder} یافت نشد")
432
-
433
- logger.info(f"✅ {count}/{len(self.mapping_table)} توکن بازگردانی شد")
434
-
435
- if count < len(self.mapping_table):
436
- restored = self._restore_with_regex(restored)
437
-
438
- return restored
439
-
440
- def _normalize_tokens(self, text: str) -> str:
441
- normalized = text
442
- unicode_hyphens = r'[\u2010\u2011\u2012\u2013\u2014\u2212]'
443
- for etype in self.entities_to_anonymize:
444
- normalized = re.sub(rf'{etype}{unicode_hyphens}(\d+)', rf'{etype}-\1', normalized)
445
- normalized = re.sub(rf'{etype}\s+-\s+(\d+)', rf'{etype}-\1', normalized)
446
- normalized = re.sub(rf'({etype}-\d+)([ء-ی])', r'\1 \2', normalized)
447
- normalized = re.sub(rf'({etype}-\d+)([،؛:.!?])', r'\1 \2', normalized)
448
- return normalized
449
-
450
- def _restore_with_regex(self, text: str) -> str:
451
- restored = text
452
- for placeholder, original in self.mapping_table.items():
453
- if placeholder not in restored:
454
- continue
455
- etype, num = placeholder.split("-")
456
- if re.search(rf'{etype}\s*-\s*{num}', restored):
457
- restored = re.sub(rf'{etype}\s*-\s*{num}', original, restored)
458
- logger.info(f" ✅ regex: {placeholder} → {original[:40]}")
459
- return restored
460
-
461
- def get_mapping_table_md(self) -> str:
462
- if not self.mapping_table:
463
- return "### 📋 جدول نگاشت\n\nهیچ موجودیتی شناسایی نشد"
464
- table = "### 📋 جدول نگاشت\n\n| شناسه | متن اصلی |\n|-------|----------|\n"
465
- for token, original in sorted(self.mapping_table.items()):
466
- table += f"| **{token}** | {original} |\n"
467
- return table
468
-
469
-
470
- # ─────────────────────────────────────────────────────────────
471
- # متغیر سراسری
472
- # ─────────────────────────────────────────────────────────────
473
- anonymizer: Optional[AnonymizerAdvanced] = None
474
-
475
-
476
- # ─────────────────────────────────────────────────────────────
477
- # تابع اصلی پردازش
478
- # ─────────────────────────────────────────────────────────────
479
- def process(
480
- input_text: str,
481
- analysis_prompt: str,
482
- llm_provider: str,
483
- llm_model: str,
484
- anonymize_all: bool,
485
- anonymize_person: bool,
486
- anonymize_company: bool,
487
- anonymize_amount: bool,
488
- anonymize_percent: bool
489
- ):
490
- global anonymizer
491
-
492
- if not input_text.strip():
493
- return "", "", "", ""
494
-
495
- entities = ["person", "company", "amount", "percent"] if anonymize_all else [
496
- e for e, flag in [
497
- ("person", anonymize_person),
498
- ("company", anonymize_company),
499
- ("amount", anonymize_amount),
500
- ("percent", anonymize_percent),
501
- ] if flag
502
- ]
503
-
504
- if not entities:
505
- return "", "❌ لطفاً حداقل یک موجودیت انتخاب کنید", "", ""
506
-
507
- if not anonymizer:
508
- anonymizer = AnonymizerAdvanced(
509
- llm_provider=llm_provider,
510
- llm_model=llm_model,
511
- entities_to_anonymize=entities
512
- )
513
- else:
514
- anonymizer.set_llm_provider(llm_provider, llm_model, entities)
515
- anonymizer.mapping_table = {}
516
- anonymizer.reverse_mapping = {}
517
-
518
- try:
519
- logger.info("=" * 60)
520
- logger.info(f"⚡ ناشناس‌سازی: Qwen3-14B (no-think | single-call)")
521
- logger.info(f"🤖 تحلیل: {llm_provider} ({llm_model})")
522
- logger.info(f"🎯 موجودیت‌ها: {entities}")
523
- logger.info("=" * 60)
524
-
525
- # مرحله ۱: ناشناس‌سازی — Qwen3 بدون thinking، یک call
526
- anon_text, _ = anonymizer.anonymize(input_text)
527
-
528
- # مرحله ۲: تحلیل — LLM انتخابی
529
- has_analysis = bool(analysis_prompt and analysis_prompt.strip())
530
- llm_response = anonymizer.analyze_with_llm(anon_text, analysis_prompt) if has_analysis \
531
- else "⚠️ هیچ دستور تحلیل داده نشده است"
532
-
533
- # مرحله ۳: بازگردانی
534
- source = llm_response if has_analysis else anon_text
535
- restored = anonymizer.restore_text(source)
536
-
537
- mapping_str = anonymizer.get_mapping_table_md()
538
-
539
- logger.info("✅ پردازش کامل")
540
- return restored, llm_response, anon_text, mapping_str
541
-
542
- except Exception as e:
543
- logger.error(f"❌ خطا: {e}", exc_info=True)
544
- return "", f"❌ خطا: {str(e)}", "", ""
545
-
546
-
547
- def clear_all():
548
- return "", "", "", "", "", "", True, False, False, False, False
549
-
550
-
551
- # ─────────────────────────────────────────────────────────────
552
- # رابط کاربری Gradio
553
- # ─────────────────────────────────────────────────────────────
554
- css_rtl = """
555
- .textbox textarea { direction: rtl; text-align: right; font-family: 'Tahoma', serif; }
556
- .input-box { direction: rtl; text-align: right; }
557
- .compact-checkbox label { padding: 5px 10px !important; font-size: 0.95em !important; }
558
- """
559
-
560
- with gr.Blocks(title="سیستم ناشناس‌سازی متون", theme=gr.themes.Soft(), css=css_rtl) as app:
561
-
562
- gr.Markdown(
563
- "# 🔐 پلتفرم ناشناس‌سازی متون فارسی\n"
564
- "> ⚡ ناشناس‌سازی: **Qwen3-14B** (بدون thinking — یک call) &nbsp;|&nbsp; "
565
- "🤖 تحلیل: مدل انتخابی شما",
566
- elem_classes="input-box"
567
- )
568
-
569
- with gr.Row():
570
- with gr.Column(scale=1):
571
- with gr.Group():
572
- gr.Markdown("### ⚙️ مدل تحلیل", elem_classes="input-box")
573
- llm_provider = gr.Dropdown(
574
- choices=["chatgpt", "grok", "deepinfra"],
575
- value="chatgpt", label="🤖 مدل زبانی تحلیل", interactive=True
576
- )
577
- llm_model = gr.Dropdown(
578
- choices=AVAILABLE_MODELS["chatgpt"],
579
- value="gpt-4o-mini", label="📦 نسخه مدل", interactive=True
580
- )
581
-
582
- with gr.Column(scale=1):
583
- with gr.Group():
584
- gr.Markdown("### 🎯 موجودیت‌های ناشناس‌سازی", elem_classes="input-box")
585
- anonymize_all = gr.Checkbox(label="✅ همه موجودیت‌ها", value=True, elem_classes="compact-checkbox")
586
- anonymize_person = gr.Checkbox(label="👤 اسامی اشخاص", value=False, elem_classes="compact-checkbox")
587
- anonymize_company = gr.Checkbox(label="🏢 نام شرکت‌ها", value=False, elem_classes="compact-checkbox")
588
- anonymize_amount = gr.Checkbox(label="💰 ارقام مالی", value=False, elem_classes="compact-checkbox")
589
- anonymize_percent = gr.Checkbox(label="📊 درصدها", value=False, elem_classes="compact-checkbox")
590
-
591
- gr.Markdown("---")
592
-
593
- with gr.Row():
594
- with gr.Column(scale=1):
595
- gr.Markdown("### 📋 دستورات تحلیل (اختیاری)", elem_classes="input-box")
596
- analysis_prompt = gr.Textbox(
597
- lines=20,
598
- placeholder="مثال: این متن را خلاصه کن\nیا: نکات کلیدی را استخراج کن",
599
- label="", elem_classes="textbox"
600
- )
601
- with gr.Column(scale=1):
602
- gr.Markdown("### 📝 متن ورودی", elem_classes="input-box")
603
- input_text = gr.Textbox(
604
- lines=20, placeholder="متن فارسی را وارد کنید...",
605
- label="", elem_classes="textbox"
606
- )
607
-
608
- with gr.Row():
609
- process_btn = gr.Button("▶️ پردازش", variant="primary", size="lg", scale=2)
610
- clear_btn = gr.Button("🗑️ پاک کردن", variant="stop", size="lg", scale=1)
611
-
612
- gr.Markdown("## 📊 نتایج", elem_classes="input-box")
613
-
614
- with gr.Row():
615
- restored_text = gr.Textbox(lines=12, label="✅ متن بازگردانی شده", interactive=False, elem_classes="textbox")
616
- llm_analysis = gr.Textbox(lines=12, label="🤖 تحلیل LLM", interactive=False, elem_classes="textbox")
617
- anonymized_output = gr.Textbox(lines=12, label="🔒 متن ناشناس‌شده", interactive=False, elem_classes="textbox")
618
-
619
- mapping_table = gr.Markdown("### 📋 جدول نگاشت\n\nهنوز پردازشی انجام نشده", elem_classes="input-box")
620
-
621
- # Event handlers
622
- def handle_provider_change(provider):
623
- models = AVAILABLE_MODELS.get(provider, [])
624
- return gr.update(choices=models, value=models[0] if models else None)
625
-
626
- llm_provider.change(fn=handle_provider_change, inputs=[llm_provider], outputs=[llm_model])
627
-
628
- def handle_select_all(select_all):
629
- s = gr.update(value=False, interactive=not select_all)
630
- return s, s, s, s
631
-
632
- anonymize_all.change(
633
- fn=handle_select_all, inputs=[anonymize_all],
634
- outputs=[anonymize_person, anonymize_company, anonymize_amount, anonymize_percent]
635
- )
636
-
637
- process_btn.click(
638
- fn=process,
639
- inputs=[
640
- input_text, analysis_prompt, llm_provider, llm_model,
641
- anonymize_all, anonymize_person, anonymize_company, anonymize_amount, anonymize_percent
642
- ],
643
- outputs=[restored_text, llm_analysis, anonymized_output, mapping_table]
644
- )
645
-
646
- clear_btn.click(
647
- fn=clear_all,
648
- outputs=[
649
- input_text, analysis_prompt, restored_text, llm_analysis,
650
- anonymized_output, mapping_table,
651
- anonymize_all, anonymize_person, anonymize_company, anonymize_amount, anonymize_percent
652
- ]
653
- )
654
-
655
-
656
- # ─────────────────────────────────────────────────────────────
657
- if __name__ == "__main__":
658
- print("=" * 60)
659
- print(f"⚡ ناشناس‌سازی: Qwen3-14B (no-think | single-call)")
660
- print("🤖 تحلیل: مدل انتخابی کاربر")
661
- print("=" * 60)
662
- app.launch(server_name="0.0.0.0", server_port=7860, share=False, show_error=True)