KashefTech commited on
Commit
376fab5
·
verified ·
1 Parent(s): 0615a86

Upload complete_anonymizer_fixed (1).py

Browse files
Files changed (1) hide show
  1. complete_anonymizer_fixed (1).py +701 -0
complete_anonymizer_fixed (1).py ADDED
@@ -0,0 +1,701 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ import gradio as gr
2
+ import re
3
+ import os
4
+ import requests
5
+ import json
6
+ import logging
7
+ from typing import Dict, List, Tuple, Optional
8
+ from llm_sender_unified import create_llm_sender, AVAILABLE_MODELS
9
+
10
+ logging.basicConfig(level=logging.INFO)
11
+ logger = logging.getLogger(__name__)
12
+
13
+ class AnonymizerAdvanced:
14
+ """ناشناس‌ساز پیشرفته با روش‌های متعدد"""
15
+
16
+ def __init__(
17
+ self,
18
+ cerebras_key: str = None,
19
+ llm_provider: str = "chatgpt",
20
+ llm_model: str = None,
21
+ llm_api_key: str = None,
22
+ entities_to_anonymize: List[str] = None
23
+ ):
24
+ self.cerebras_key = cerebras_key or os.getenv("CEREBRAS_API_KEY")
25
+ self.llm_provider = llm_provider
26
+ self.llm_model = llm_model
27
+ self.llm_api_key = llm_api_key
28
+ self.entities_to_anonymize = entities_to_anonymize or ["person", "company", "amount", "percent"]
29
+ self.mapping_table = {}
30
+ self.reverse_mapping = {}
31
+
32
+ # ایجاد LLM sender
33
+ self._create_llm_sender()
34
+
35
+ logger.info(f"✅ Anonymizer Advanced مقداردهی شد با {llm_provider}")
36
+
37
+ def _create_llm_sender(self):
38
+ """ایجاد LLM sender مناسب"""
39
+ try:
40
+ # ✅ تصمیم‌گیری برای API key
41
+ if self.llm_provider == "chatgpt" and self.llm_model == "gpt-4o-mini":
42
+ # فقط برای gpt-4o-mini از secret بخوان
43
+ api_key = os.getenv("OPENAI_API_KEY")
44
+ logger.info("🔑 استفاده از API key از Secret برای gpt-4o-mini")
45
+ else:
46
+ # برای بقیه مدل‌ها از input کاربر
47
+ api_key = self.llm_api_key
48
+ logger.info("🔑 استفاده از API key ورودی کاربر")
49
+
50
+ # ایجاد sender
51
+ self.llm_sender = create_llm_sender(
52
+ provider=self.llm_provider,
53
+ api_key=api_key,
54
+ model=self.llm_model
55
+ )
56
+
57
+ logger.info(f"✅ LLM Sender ایجاد شد: {self.llm_provider} - {self.llm_sender.model}")
58
+
59
+ except Exception as e:
60
+ logger.error(f"❌ خطا در ایجاد LLM Sender: {e}")
61
+ # fallback to ChatGPT
62
+ self.llm_sender = create_llm_sender("chatgpt")
63
+
64
+ def set_llm_provider(self, provider: str, model: str = None, api_key: str = None, entities: List[str] = None):
65
+ """تغییر provider و مدل LLM و موجودیت‌های ناشناس‌سازی"""
66
+ self.llm_provider = provider
67
+ self.llm_model = model
68
+ self.llm_api_key = api_key
69
+ if entities is not None:
70
+ self.entities_to_anonymize = entities
71
+ self._create_llm_sender()
72
+ logger.info(f"✅ LLM تغییر یافت به: {provider} - {model}")
73
+ logger.info(f"✅ موجودیت‌های ناشناس‌سازی: {self.entities_to_anonymize}")
74
+
75
+ def anonymize_with_cerebras(self, text: str) -> Tuple[str, Dict]:
76
+ """ناشناس‌سازی با Cerebras - بر اساس موجودیت‌های انتخابی"""
77
+ logger.info("🧠 روش Cerebras...")
78
+
79
+ if not self.cerebras_key:
80
+ logger.error("❌ Cerebras API Key موجود نیست")
81
+ raise ValueError("Cerebras API Key مورد نیاز است")
82
+
83
+ # ✅ ساخت دستورات بر اساس موجودیت‌های انتخابی
84
+ instructions = []
85
+ instruction_number = 1
86
+
87
+ if "person" in self.entities_to_anonymize:
88
+ instructions.append(f"{instruction_number}. اسامی اشخاص → person-01, person-02, ...")
89
+ instruction_number += 1
90
+
91
+ if "company" in self.entities_to_anonymize:
92
+ instructions.append(f"{instruction_number}. نام شرکت‌ها/سازمان‌ها → company-01, company-02, ...")
93
+ instruction_number += 1
94
+
95
+ if "amount" in self.entities_to_anonymize:
96
+ instructions.append(f"{instruction_number}. مقادیر پولی → amount-01, amount-02, ...")
97
+ instruction_number += 1
98
+
99
+ if "percent" in self.entities_to_anonymize:
100
+ instructions.append(f"{instruction_number}. درصدها → percent-01, percent-02, ...")
101
+ instruction_number += 1
102
+
103
+ # اگه هیچی انتخاب نشده، متن رو همون‌طور برگردون
104
+ if not instructions:
105
+ logger.warning("⚠️ هیچ موجودیتی برای ناشناس‌سازی انتخاب نشده!")
106
+ return text, {}
107
+
108
+ instructions_text = "\n".join(instructions)
109
+ instructions_text += f"\n{instruction_number}. فقط این توکن‌ها استفاده کنید"
110
+ instructions_text += f"\n{instruction_number + 1}. شماره‌های نسخه را درست حفظ کنید"
111
+ instructions_text += f"\n{instruction_number + 2}. اگر موجودیت تکرار شود از شماره قدیمی استفاده کنید"
112
+
113
+ try:
114
+ # مرحله 1: ناشناس‌سازی متن
115
+ prompt1 = f"""متن زیر را ناشناس کنید. قوانین:
116
+ {instructions_text}
117
+
118
+ متن:
119
+ {text}
120
+
121
+ خروجی: فقط متن ناشناس شده"""
122
+
123
+ response1 = requests.post(
124
+ "https://api.cerebras.ai/v1/chat/completions",
125
+ headers={
126
+ "Authorization": f"Bearer {self.cerebras_key}",
127
+ "Content-Type": "application/json"
128
+ },
129
+ json={
130
+ "model": "llama-3.3-70b",
131
+ "messages": [{"role": "user", "content": prompt1}],
132
+ "max_tokens": 4096,
133
+ "temperature": 0.1
134
+ },
135
+ timeout=60
136
+ )
137
+
138
+ if response1.status_code != 200:
139
+ logger.error(f"❌ Cerebras Error: {response1.status_code}")
140
+ raise Exception(f"Cerebras API Error: {response1.status_code}")
141
+
142
+ anonymized_text = response1.json()['choices'][0]['message']['content'].strip()
143
+ logger.info("✅ Cerebras: ناشناس‌سازی موفق")
144
+
145
+ # مرحله 2: استخراج mapping - فقط برای موجودیت‌های انتخابی
146
+ mapping_instructions = []
147
+ json_example = "{\n"
148
+
149
+ if "person" in self.entities_to_anonymize:
150
+ mapping_instructions.append('- برای person-XX: نام کامل شخص (مثلاً "علی احمدی")')
151
+ json_example += ' "person-01": "متن اصلی کامل",\n'
152
+
153
+ if "company" in self.entities_to_anonymize:
154
+ mapping_instructions.append('- برای company-XX: نام کامل شرکت/سازمان (مثلاً "شرکت پتروشیمی")')
155
+ json_example += ' "company-01": "متن اصلی کامل",\n'
156
+
157
+ if "amount" in self.entities_to_anonymize:
158
+ mapping_instructions.append('- برای amount-XX: عدد + واحد (مثلاً "80 هزار تومان" یا "50 میلیارد ریال")')
159
+ json_example += ' "amount-01": "متن اصلی کامل با واحد",\n'
160
+
161
+ if "percent" in self.entities_to_anonymize:
162
+ mapping_instructions.append('- برای percent-XX: عدد + کلمه "درصد" (مثلاً "40 درصد" نه فقط "40")')
163
+ json_example += ' "percent-01": "عدد + درصد",\n'
164
+
165
+ json_example += " ...\n}"
166
+ mapping_instructions_text = "\n".join(mapping_instructions)
167
+
168
+ prompt2 = f"""متن اصلی:
169
+ {text}
170
+
171
+ متن ناشناس شده:
172
+ {anonymized_text}
173
+
174
+ لطفاً یک جدول mapping برای همه توکن‌های ناشناس ایجاد کن.
175
+ برای هر توکن، متن اصلی کامل آن را مشخص کن.
176
+
177
+ **مهم:**
178
+ {mapping_instructions_text}
179
+
180
+ خروجی را به این فرمت JSON بده (فقط JSON، بدون توضیح اضافی):
181
+ {json_example}"""
182
+
183
+ response2 = requests.post(
184
+ "https://api.cerebras.ai/v1/chat/completions",
185
+ headers={
186
+ "Authorization": f"Bearer {self.cerebras_key}",
187
+ "Content-Type": "application/json"
188
+ },
189
+ json={
190
+ "model": "llama-3.3-70b",
191
+ "messages": [{"role": "user", "content": prompt2}],
192
+ "max_tokens": 2048,
193
+ "temperature": 0.1
194
+ },
195
+ timeout=60
196
+ )
197
+
198
+ if response2.status_code == 200:
199
+ mapping_text = response2.json()['choices'][0]['message']['content'].strip()
200
+ mapping_text = mapping_text.replace('```json', '').replace('```', '').strip()
201
+
202
+ try:
203
+ self.mapping_table = json.loads(mapping_text)
204
+ self._fix_percent_mapping()
205
+ self.reverse_mapping = {v: k for k, v in self.mapping_table.items()}
206
+ logger.info(f"✅ Mapping استخراج شد: {len(self.mapping_table)} موجودیت")
207
+ except json.JSONDecodeError:
208
+ logger.warning("⚠️ خطا در parse کردن JSON mapping - استفاده از روش fallback")
209
+ self._extract_mapping_from_text(text, anonymized_text)
210
+ else:
211
+ logger.warning("⚠️ خطا در دریافت mapping - استفاده از روش fallback")
212
+ self._extract_mapping_from_text(text, anonymized_text)
213
+
214
+ return anonymized_text, self.mapping_table
215
+
216
+ except Exception as e:
217
+ logger.error(f"❌ Cerebras Exception: {e}")
218
+ raise
219
+
220
+ def _fix_percent_mapping(self):
221
+ """اصلاح mapping برای درصدها"""
222
+ for token, value in self.mapping_table.items():
223
+ value_str = str(value).strip()
224
+
225
+ if token.startswith('percent-'):
226
+ if not re.search(r'(درصد|%|درصدی)', value_str):
227
+ self.mapping_table[token] = f"{value_str} درصد"
228
+ logger.info(f"✅ اصلاح {token}: '{value_str}' → '{value_str} درصد'")
229
+
230
+ elif token.startswith('amount-'):
231
+ if not re.search(r'(میلیارد|میلیون|هزار|تومان|ریال|دلار|یورو|تن)', value_str):
232
+ logger.warning(f"⚠️ {token}: فقط عدد '{value_str}' - واحد مشخص نیست")
233
+
234
+ def _extract_mapping_from_text(self, original: str, anonymized: str):
235
+ """استخراج mapping از متن‌های اصلی و ناشناس شده - فقط برای موجودیت‌های انتخابی"""
236
+
237
+ # ✅ استخراج فقط توکن‌های انتخابی
238
+ all_tokens = []
239
+ for entity_type in self.entities_to_anonymize:
240
+ tokens = re.findall(f'{entity_type}-\\d+', anonymized)
241
+ all_tokens.extend([(t, entity_type) for t in tokens])
242
+
243
+ all_tokens = sorted(set(all_tokens), key=lambda x: (x[1], int(x[0].split('-')[1])))
244
+
245
+ # ✅ الگوهای موجودیت - فقط برای انتخابی‌ها
246
+ patterns = {}
247
+ if "person" in self.entities_to_anonymize:
248
+ patterns['person'] = r'\b[ء-ي]+\s+[ء-ي]+(?:\s+[ء-ي]+)*\b'
249
+ if "company" in self.entities_to_anonymize:
250
+ patterns['company'] = r'(?:شرکت|بانک|سازمان|گروه|هلدینگ)\s+[ء-ي]+(?:\s+[ء-ي]+)*'
251
+ if "amount" in self.entities_to_anonymize:
252
+ patterns['amount'] = r'\d+(?:\.\d+)?\s*(?:میلیارد|میلیون|هزار|تومان|ریال|دلار|یورو|تن)'
253
+ if "percent" in self.entities_to_anonymize:
254
+ patterns['percent'] = r'\d+(?:\.\d+)?\s*(?:درصد|%|درصدی)'
255
+
256
+ original_entities = {}
257
+ for entity_type, pattern in patterns.items():
258
+ matches = list(re.finditer(pattern, original))
259
+ original_entities[entity_type] = [m.group().strip() for m in matches]
260
+
261
+ for token, entity_type in all_tokens:
262
+ if entity_type in original_entities and original_entities[entity_type]:
263
+ token_num = int(token.split('-')[1]) - 1
264
+
265
+ if token_num < len(original_entities[entity_type]):
266
+ original_text = original_entities[entity_type][token_num]
267
+ self.mapping_table[token] = original_text
268
+ self.reverse_mapping[original_text] = token
269
+ else:
270
+ original_text = original_entities[entity_type][-1]
271
+ if token not in self.mapping_table:
272
+ self.mapping_table[token] = original_text
273
+ self.reverse_mapping[original_text] = token
274
+
275
+ def analyze_with_llm(self, anonymized_text: str, analysis_prompt: str = None) -> str:
276
+ """استفاده از LLM یکپارچه"""
277
+ logger.info(f"🤖 {self.llm_provider.upper()} اجرای پرامپت...")
278
+
279
+ if not analysis_prompt or not analysis_prompt.strip():
280
+ logger.info("⚠️ پرامپت خالی - بدون تحلیل")
281
+ return "⚠️ هیچ دستور تحلیل داده نشده است"
282
+
283
+ # ✅ ساخت پیام توجه بر اساس موجودیت‌های انتخاب‌شده
284
+ tokens_instruction = []
285
+ if "person" in self.entities_to_anonymize:
286
+ tokens_instruction.append("person-XX")
287
+ if "company" in self.entities_to_anonymize:
288
+ tokens_instruction.append("company-XX")
289
+ if "amount" in self.entities_to_anonymize:
290
+ tokens_instruction.append("amount-XX")
291
+ if "percent" in self.entities_to_anonymize:
292
+ tokens_instruction.append("percent-XX")
293
+
294
+ tokens_str = ", ".join(tokens_instruction)
295
+
296
+ combined_text = f"""متن ناشناس‌سازی شده:
297
+ {anonymized_text}
298
+
299
+ دستورات:
300
+ {analysis_prompt}
301
+
302
+ توجه: در پاسخ از همان کدهای ناشناس ({tokens_str}) استفاده کن. فقط این کدها را استفاده کن و کد جدید ایجاد نکن."""
303
+
304
+ try:
305
+ response = self.llm_sender.send_simple(combined_text, lang='fa')
306
+ logger.info(f"✅ {self.llm_provider.upper()}: {len(response)} کاراکتر")
307
+ return response
308
+ except Exception as e:
309
+ logger.error(f"❌ {self.llm_provider.upper()} Exception: {e}")
310
+ return f"❌ خطا در ارتباط با {self.llm_provider.upper()}: {str(e)}"
311
+
312
+ def restore_text(self, anonymized_text: str) -> str:
313
+ """بازگردانی متن"""
314
+ logger.info("🔄 بازگردانی متن...")
315
+
316
+ if not self.mapping_table:
317
+ logger.warning("⚠️ جدول نگاشت خالی است")
318
+ return anonymized_text
319
+
320
+ restored = anonymized_text
321
+ for placeholder, original in sorted(self.mapping_table.items()):
322
+ restored = restored.replace(placeholder, original)
323
+
324
+ logger.info("✅ بازگردانی کامل")
325
+ return restored
326
+
327
+ def get_mapping_table_md(self) -> str:
328
+ """تبدیل جدول نگاشت به Markdown"""
329
+ if not self.mapping_table:
330
+ return "### 📋 جدول نگاشت\n\nهیچ موجودیتی شناسایی نشد"
331
+
332
+ table = "### 📋 جدول نگاشت\n\n"
333
+ table += "| شناسه | متن اصلی |\n"
334
+ table += "|-------|----------|\n"
335
+
336
+ for token, original in sorted(self.mapping_table.items()):
337
+ table += f"| **{token}** | {original} |\n"
338
+
339
+ return table
340
+
341
+ # متغیر سراسری
342
+ anonymizer = None
343
+
344
+ def process(
345
+ input_text: str,
346
+ analysis_prompt: str,
347
+ llm_provider: str,
348
+ llm_model: str,
349
+ api_key_input: str,
350
+ anonymize_all: bool,
351
+ anonymize_person: bool,
352
+ anonymize_company: bool,
353
+ anonymize_amount: bool,
354
+ anonymize_percent: bool
355
+ ):
356
+ """پردازش متن - 4 مرحله"""
357
+ global anonymizer
358
+
359
+ if not input_text.strip():
360
+ return "", "", "", ""
361
+
362
+ # ✅ ساخت لیست موجودیت‌های انتخابی
363
+ if anonymize_all:
364
+ entities = ["person", "company", "amount", "percent"]
365
+ else:
366
+ entities = []
367
+ if anonymize_person:
368
+ entities.append("person")
369
+ if anonymize_company:
370
+ entities.append("company")
371
+ if anonymize_amount:
372
+ entities.append("amount")
373
+ if anonymize_percent:
374
+ entities.append("percent")
375
+
376
+ # اگه هیچی انتخاب نشده
377
+ if not entities:
378
+ return "", "❌ لطفاً حداقل یک موجودیت برای ناشناس‌سازی انتخاب کنید", "", ""
379
+
380
+ cerebras_key = os.getenv("CEREBRAS_API_KEY")
381
+
382
+ # ایجاد یا آپدیت anonymizer
383
+ if not anonymizer:
384
+ anonymizer = AnonymizerAdvanced(
385
+ cerebras_key,
386
+ llm_provider=llm_provider,
387
+ llm_model=llm_model,
388
+ llm_api_key=api_key_input,
389
+ entities_to_anonymize=entities
390
+ )
391
+ else:
392
+ anonymizer.set_llm_provider(llm_provider, llm_model, api_key_input, entities)
393
+ anonymizer.mapping_table = {}
394
+ anonymizer.reverse_mapping = {}
395
+
396
+ try:
397
+ logger.info("=" * 70)
398
+ logger.info(f"🚀 شروع پردازش - LLM: {llm_provider} ({llm_model})")
399
+ logger.info(f"🎯 موجودیت‌های انتخابی: {', '.join(entities)}")
400
+ logger.info("=" * 70)
401
+
402
+ # مرحله 1: ناشناس‌سازی
403
+ logger.info("🔐 مرحله 1: ناشناس‌سازی...")
404
+ anonymized_text, _ = anonymizer.anonymize_with_cerebras(input_text)
405
+ logger.info(f"✅ ناشناس‌سازی: {len(anonymized_text)} کاراکتر")
406
+
407
+ # مرحله 2: LLM
408
+ logger.info(f"🤖 مرحله 2: {llm_provider.upper()}...")
409
+ llm_response = anonymizer.analyze_with_llm(anonymized_text, analysis_prompt)
410
+ logger.info(f"✅ {llm_provider.upper()}: {len(llm_response)} کاراکتر")
411
+
412
+ # مرحله 3: بازگردانی
413
+ logger.info("🔄 مرحله 3: بازگردانی...")
414
+ restored_text = anonymizer.restore_text(llm_response)
415
+ logger.info("✅ بازگردانی کامل")
416
+
417
+ # مرحله 4: جدول نگاشت
418
+ logger.info("📋 مرحله 4: جدول نگاشت...")
419
+ mapping_str = anonymizer.get_mapping_table_md()
420
+ logger.info(f"✅ {len(anonymizer.mapping_table)} موجودیت")
421
+
422
+ logger.info("=" * 70)
423
+ logger.info("✅ تمام مراحل کامل!")
424
+ logger.info("=" * 70)
425
+
426
+ return restored_text, llm_response, anonymized_text, mapping_str
427
+
428
+ except Exception as e:
429
+ logger.error(f"❌ خطا: {str(e)}", exc_info=True)
430
+ return "", f"❌ خطا: {str(e)}", "", ""
431
+
432
+ def clear_all():
433
+ """پاک کردن همه"""
434
+ return "", "", "", "", "", "", "", True, False, False, False, False
435
+
436
+ # Gradio Interface
437
+ css_rtl = """
438
+ .input-box { direction: rtl; text-align: right; }
439
+ .textbox textarea { direction: rtl; text-align: right; font-family: 'Tahoma', serif; }
440
+ """
441
+
442
+ with gr.Blocks(title="سیستم ناشناس‌سازی متون", theme=gr.themes.Soft(), css=css_rtl) as app:
443
+
444
+ gr.Markdown("# 🔐 سیستم ناشناس‌سازی متون مالی فارسی", elem_classes="input-box")
445
+
446
+ with gr.Row():
447
+ # سمت راست: تنظیمات و دکمه‌ها
448
+ with gr.Column(scale=1):
449
+ # تنظیمات مدل
450
+ with gr.Group():
451
+ gr.Markdown("### ⚙️ تنظیمات مدل", elem_classes="input-box")
452
+
453
+ llm_provider = gr.Dropdown(
454
+ choices=["chatgpt", "grok"],
455
+ value="chatgpt",
456
+ label="🤖 انتخاب LLM",
457
+ interactive=True
458
+ )
459
+
460
+ llm_model = gr.Dropdown(
461
+ choices=AVAILABLE_MODELS["chatgpt"],
462
+ value="gpt-4o-mini",
463
+ label="📦 انتخاب مدل",
464
+ interactive=True
465
+ )
466
+
467
+ api_key_input = gr.Textbox(
468
+ label="🔑 API Key",
469
+ placeholder="فقط برای مدل‌های غیر از gpt-4o-mini",
470
+ type="password",
471
+ visible=False,
472
+ elem_classes="textbox"
473
+ )
474
+
475
+ gr.Markdown(
476
+ "💡 **نکته:** gpt-4o-mini از Secret خوانده می‌شود. برای بقیه مدل‌ها API key وارد کنید.",
477
+ elem_classes="input-box"
478
+ )
479
+
480
+ gr.Markdown("---")
481
+
482
+ # انتخاب موجودیت‌ها برای ناشناس‌سازی
483
+ with gr.Group():
484
+ gr.Markdown("### 🎯 انتخاب موجودیت‌ها", elem_classes="input-box")
485
+
486
+ anonymize_all = gr.Checkbox(
487
+ label="✅ همه موجودیت‌ها",
488
+ value=True,
489
+ elem_classes="input-box"
490
+ )
491
+
492
+ anonymize_person = gr.Checkbox(
493
+ label="👤 اسامی اشخاص",
494
+ value=False,
495
+ elem_classes="input-box"
496
+ )
497
+
498
+ anonymize_company = gr.Checkbox(
499
+ label="🏢 نام شرکت‌ها",
500
+ value=False,
501
+ elem_classes="input-box"
502
+ )
503
+
504
+ anonymize_amount = gr.Checkbox(
505
+ label="💰 ارقام مالی",
506
+ value=False,
507
+ elem_classes="input-box"
508
+ )
509
+
510
+ anonymize_percent = gr.Checkbox(
511
+ label="📊 درصدها",
512
+ value=False,
513
+ elem_classes="input-box"
514
+ )
515
+
516
+ gr.Markdown(
517
+ "💡 اگر 'همه' را انتخاب کنید، بقیه نادیده گرفته می‌شوند",
518
+ elem_classes="input-box"
519
+ )
520
+
521
+ gr.Markdown("---")
522
+
523
+ analysis_prompt = gr.Textbox(
524
+ lines=6,
525
+ placeholder="مثال: این متن را خلاصه کن\nیا: نکات کلیدی را استخراج کن",
526
+ label="📋 دستورات LLM (اختیاری)",
527
+ elem_classes="textbox"
528
+ )
529
+
530
+ gr.Markdown("---")
531
+
532
+ with gr.Column():
533
+ process_btn = gr.Button(
534
+ "▶️ پردازش",
535
+ variant="primary",
536
+ size="lg"
537
+ )
538
+
539
+ clear_btn = gr.Button(
540
+ "🗑️ پاک کردن",
541
+ variant="stop",
542
+ size="lg"
543
+ )
544
+
545
+ # سمت چپ: متن ورودی
546
+ with gr.Column(scale=3):
547
+ input_text = gr.Textbox(
548
+ lines=22,
549
+ placeholder="متن مالی/خبری را وارد کنید...",
550
+ label="📝 متن ورودی",
551
+ elem_classes="textbox"
552
+ )
553
+
554
+ # نتایج
555
+ gr.Markdown("---")
556
+ gr.Markdown("## 📊 نتایج پردازش", elem_classes="input-box")
557
+
558
+ with gr.Row():
559
+ with gr.Column(scale=1):
560
+ restored_text = gr.Textbox(
561
+ lines=12,
562
+ label="✅ متن بازگردانی شده",
563
+ interactive=False,
564
+ elem_classes="textbox"
565
+ )
566
+
567
+ with gr.Column(scale=1):
568
+ llm_analysis = gr.Textbox(
569
+ lines=12,
570
+ label="🤖 تحلیل LLM",
571
+ interactive=False,
572
+ elem_classes="textbox"
573
+ )
574
+
575
+ with gr.Column(scale=1):
576
+ anonymized_text = gr.Textbox(
577
+ lines=12,
578
+ label="🔒 متن ناشناس‌شده",
579
+ interactive=False,
580
+ elem_classes="textbox"
581
+ )
582
+
583
+ gr.Markdown("---")
584
+
585
+ mapping_table = gr.Markdown(
586
+ value="### 📋 جدول نگاشت\n\nهنوز پردازشی انجام نشده",
587
+ label="📋 جدول نگاشت",
588
+ elem_classes="input-box"
589
+ )
590
+
591
+ # Event Handlers
592
+ def handle_provider_change(provider):
593
+ models = AVAILABLE_MODELS.get(provider, [])
594
+ default_model = models[0] if models else None
595
+ show_api = not (provider == "chatgpt" and default_model == "gpt-4o-mini")
596
+
597
+ return (
598
+ gr.Dropdown(choices=models, value=default_model),
599
+ gr.Textbox(visible=show_api, value="")
600
+ )
601
+
602
+ llm_provider.change(
603
+ fn=handle_provider_change,
604
+ inputs=[llm_provider],
605
+ outputs=[llm_model, api_key_input]
606
+ )
607
+
608
+ def handle_model_change(provider, model):
609
+ show_api = not (provider == "chatgpt" and model == "gpt-4o-mini")
610
+ return gr.Textbox(visible=show_api, value="")
611
+
612
+ llm_model.change(
613
+ fn=handle_model_change,
614
+ inputs=[llm_provider, llm_model],
615
+ outputs=[api_key_input]
616
+ )
617
+
618
+ def handle_select_all(select_all):
619
+ if select_all:
620
+ return (
621
+ gr.Checkbox(value=False, interactive=False),
622
+ gr.Checkbox(value=False, interactive=False),
623
+ gr.Checkbox(value=False, interactive=False),
624
+ gr.Checkbox(value=False, interactive=False)
625
+ )
626
+ else:
627
+ return (
628
+ gr.Checkbox(value=False, interactive=True),
629
+ gr.Checkbox(value=False, interactive=True),
630
+ gr.Checkbox(value=False, interactive=True),
631
+ gr.Checkbox(value=False, interactive=True)
632
+ )
633
+
634
+ anonymize_all.change(
635
+ fn=handle_select_all,
636
+ inputs=[anonymize_all],
637
+ outputs=[anonymize_person, anonymize_company, anonymize_amount, anonymize_percent]
638
+ )
639
+
640
+ # پردازش
641
+ process_btn.click(
642
+ fn=process,
643
+ inputs=[
644
+ input_text,
645
+ analysis_prompt,
646
+ llm_provider,
647
+ llm_model,
648
+ api_key_input,
649
+ anonymize_all,
650
+ anonymize_person,
651
+ anonymize_company,
652
+ anonymize_amount,
653
+ anonymize_percent
654
+ ],
655
+ outputs=[restored_text, llm_analysis, anonymized_text, mapping_table]
656
+ )
657
+
658
+ # پاک کردن
659
+ clear_btn.click(
660
+ fn=clear_all,
661
+ outputs=[
662
+ input_text,
663
+ analysis_prompt,
664
+ api_key_input,
665
+ restored_text,
666
+ llm_analysis,
667
+ anonymized_text,
668
+ mapping_table,
669
+ anonymize_all,
670
+ anonymize_person,
671
+ anonymize_company,
672
+ anonymize_amount,
673
+ anonymize_percent
674
+ ]
675
+ )
676
+
677
+ if __name__ == "__main__":
678
+ print("=" * 70)
679
+ print("🚀 سیستم ناشناس‌سازی متون در حال راه‌اندازی...")
680
+ print("=" * 70)
681
+ print("\n📋 نحوه استفاده:\n")
682
+ print("1. کلیدهای API را تنظیم کنید:")
683
+ print(" - CEREBRAS_API_KEY (ضروری)")
684
+ print(" - OPENAI_API_KEY (فقط برای gpt-4o-mini)")
685
+ print("2. http://localhost:7860 را باز کنید")
686
+ print("3. LLM و مدل را انتخاب کنید")
687
+ print("4. موجودیت‌های مورد نظر برای ناشناس‌سازی را انتخاب کنید")
688
+ print("5. برای مدل‌های غیر از gpt-4o-mini، API key وارد کنید")
689
+ print("6. متن را وارد کنید")
690
+ print("7. 'پردازش' را کلیک کنید\n")
691
+ print("💡 فقط gpt-4o-mini از Secret می‌خواند")
692
+ print(" بقیه مدل‌ها نیاز به API key دارند")
693
+ print(" اکنون می‌توانید موجودیت‌های خاص را انتخاب کنید")
694
+ print("=" * 70 + "\n")
695
+
696
+ app.launch(
697
+ server_name="0.0.0.0",
698
+ server_port=7860,
699
+ share=False,
700
+ show_error=True
701
+ )