leilaghomashchi commited on
Commit
dc2386c
·
verified ·
1 Parent(s): a26f7b1

Delete app.py

Browse files
Files changed (1) hide show
  1. app.py +0 -363
app.py DELETED
@@ -1,363 +0,0 @@
1
- import gradio as gr
2
- import re
3
- import os
4
- import requests
5
- import logging
6
- from typing import Dict, List, Tuple
7
-
8
- logging.basicConfig(level=logging.INFO)
9
- logger = logging.getLogger(__name__)
10
-
11
- class AnonymizerAdvanced:
12
- """ناشناس‌ساز پیشرفته با روش‌های متعدد"""
13
-
14
- def __init__(self, cerebras_key: str = None, gpt_key: str = None):
15
- self.cerebras_key = cerebras_key or os.getenv("CEREBRAS_API_KEY")
16
- self.gpt_key = gpt_key or os.getenv("OPENAI_API_KEY")
17
- self.mapping_table = {} # {placeholder: original_text}
18
- self.reverse_mapping = {} # {original_text: placeholder}
19
-
20
- logger.info("✅ Anonymizer Advanced مقداردهی شد")
21
-
22
-
23
- def anonymize_with_cerebras(self, text: str) -> Tuple[str, Dict]:
24
- """ناشناس‌سازی با Cerebras"""
25
- logger.info("🧠 روش Cerebras...")
26
-
27
- if not self.cerebras_key:
28
- logger.error("❌ Cerebras API Key موجود نیست")
29
- raise ValueError("Cerebras API Key مورد نیاز است")
30
-
31
- try:
32
- prompt = f"""متن زیر را ناشناس کنید. قوانین:
33
- 1. اسامی اشخاص → person-01, person-02, ...
34
- 2. نام شرکت‌ها/سازمان‌ها → company-01, company-02, ...
35
- 3. مقادیر پولی → amount-01, amount-02, ...
36
- 4. درصدها → percent-01, percent-02, ...
37
- 5. فقط این توکن‌ها استفاده کنید
38
- 6. شماره‌های نسخه را درست حفظ کنید
39
- 7. اگر موجودیت تکرار شود از شماره قدیمی استفاده کنید
40
-
41
- متن:
42
- {text}
43
-
44
- خروجی: فقط متن ناشناس شده"""
45
-
46
- response = requests.post(
47
- "https://api.cerebras.ai/v1/chat/completions",
48
- headers={
49
- "Authorization": f"Bearer {self.cerebras_key}",
50
- "Content-Type": "application/json"
51
- },
52
- json={
53
- "model": "llama-3.3-70b",
54
- "messages": [{"role": "user", "content": prompt}],
55
- "max_tokens": 4096,
56
- "temperature": 0.1
57
- },
58
- timeout=60
59
- )
60
-
61
- if response.status_code == 200:
62
- anonymized_text = response.json()['choices'][0]['message']['content'].strip()
63
- logger.info("✅ Cerebras: موفق")
64
-
65
- # استخراج mapping از متن
66
- self._extract_mapping_from_text(text, anonymized_text)
67
- return anonymized_text, self.mapping_table
68
- else:
69
- logger.error(f"❌ Cerebras Error: {response.status_code}")
70
- raise Exception(f"Cerebras API Error: {response.status_code}")
71
-
72
- except Exception as e:
73
- logger.error(f"❌ Cerebras Exception: {e}")
74
- raise
75
-
76
-
77
- def _extract_mapping_from_text(self, original: str, anonymized: str):
78
- """استخراج mapping از متن‌های اصلی و ناشناس شده"""
79
- # الگوهای موجودیت
80
- patterns = {
81
- 'person': r'\b[ء-ي]+\s+[ء-ي]+(?:\s+[ء-ي]+)*\b',
82
- 'company': r'(?:شرکت|بانک|سازمان|گروه|هلدینگ)\s+[ء-ي]+(?:\s+[ء-ي]+)*',
83
- 'amount': r'\d+\s*(?:میلیارد|میلیون|هزار|تومان|ریال|دلار|تن)',
84
- 'percent': r'\d+\s*(?:درصد|%|درصدی)',
85
- }
86
-
87
- for entity_type, pattern in patterns.items():
88
- for match in re.finditer(pattern, original):
89
- text_match = match.group()
90
- tokens = re.findall(f'{entity_type}-\\d+', anonymized)
91
- if tokens:
92
- for token in tokens:
93
- if token not in self.mapping_table:
94
- self.mapping_table[token] = text_match
95
- self.reverse_mapping[text_match] = token
96
-
97
- def analyze_with_gpt(self, anonymized_text: str) -> str:
98
- """تحلیل و خلاصه‌سازی متن ناشناس‌سازی شده با ChatGPT"""
99
- logger.info("🤖 ChatGPT تحلیل...")
100
-
101
- if not self.gpt_key:
102
- logger.warning("⚠️ GPT API Key نیست")
103
- return "❌ API Key موجود نیست"
104
-
105
- try:
106
- # متن ناشناس‌سازی شده خودش شامل پرامپت است
107
- # فقط متن را به ChatGPT بدهید و پرامپت درون متن را اجرا کنید
108
- prompt = anonymized_text
109
-
110
- response = requests.post(
111
- "https://api.openai.com/v1/chat/completions",
112
- headers={
113
- "Authorization": f"Bearer {self.gpt_key}",
114
- "Content-Type": "application/json"
115
- },
116
- json={
117
- "model": "gpt-4o-mini",
118
- "messages": [
119
- {
120
- "role": "system",
121
- "content": "دستورات و پرامپت‌های درون متن را دقیقاً اجرا کنید. توکن‌های ناشناس (person-01, company-01, amount-01, percent-01) را حفظ کنید."
122
- },
123
- {"role": "user", "content": prompt}
124
- ],
125
- "max_tokens": 4096,
126
- "temperature": 0.7
127
- },
128
- timeout=60
129
- )
130
-
131
- if response.status_code == 200:
132
- gpt_response = response.json()['choices'][0]['message']['content']
133
- logger.info("✅ ChatGPT: تحلیل کامل شد")
134
- return gpt_response
135
- else:
136
- logger.error(f"❌ GPT Error: {response.status_code}")
137
- return "❌ خطای ChatGPT"
138
-
139
- except Exception as e:
140
- logger.error(f"❌ GPT Exception: {e}")
141
- return f"❌ خطا: {str(e)}"
142
-
143
- def restore_text(self, anonymized_text: str) -> str:
144
- """بازگردانی متن اصلی"""
145
- logger.info("🔄 بازگردانی...")
146
-
147
- restored = anonymized_text
148
- for placeholder, original in sorted(self.mapping_table.items()):
149
- restored = restored.replace(placeholder, original)
150
-
151
- logger.info("✅ بازگردانی کامل")
152
- return restored
153
-
154
- def get_mapping_table_md(self) -> str:
155
- """تبدیل جدول نگاشت به Markdown"""
156
- if not self.mapping_table:
157
- return "### 📋 جدول نگاشت\n\nهیچ موجودیتی شناسایی نشد"
158
-
159
- table = "### 📋 جدول نگاشت\n\n"
160
- table += "| شناسه | متن اصلی |\n"
161
- table += "|-------|----------|\n"
162
-
163
- for token, original in sorted(self.mapping_table.items()):
164
- table += f"| **{token}** | {original} |\n"
165
-
166
- return table
167
-
168
- # متغیر سراسری
169
- anonymizer = None
170
-
171
- def process(input_text: str, method: str = "cerebras"):
172
- """پردازش متن - 4 مرحله"""
173
- global anonymizer
174
-
175
- if not input_text.strip():
176
- return "", "", "", ""
177
-
178
- cerebras_key = os.getenv("CEREBRAS_API_KEY")
179
- gpt_key = os.getenv("OPENAI_API_KEY")
180
-
181
- if not anonymizer:
182
- anonymizer = AnonymizerAdvanced(cerebras_key, gpt_key)
183
- else:
184
- anonymizer.mapping_table = {}
185
- anonymizer.reverse_mapping = {}
186
-
187
- try:
188
- logger.info("=" * 70)
189
- logger.info(f"🚀 شروع پردازش - روش: Cerebras")
190
- logger.info("=" * 70)
191
-
192
- # ============================================
193
- # مرحله 1: ناشناس‌سازی
194
- # ============================================
195
- logger.info("📝 مرحله 1: ناشناس‌سازی...")
196
-
197
- anonymized_text, _ = anonymizer.anonymize_with_cerebras(input_text)
198
-
199
- logger.info(f"✅ ناشناس‌سازی: {len(anonymized_text)} کاراکتر")
200
-
201
- # ============================================
202
- # مرحله 2: ChatGPT با متن ناشناس‌سازی شده
203
- # ============================================
204
- logger.info("🤖 مرحله 2: ChatGPT...")
205
- gpt_response = anonymizer.analyze_with_gpt(anonymized_text)
206
- logger.info(f"✅ ChatGPT: {len(gpt_response)} کاراکتر")
207
-
208
- # ============================================
209
- # مرحله 3: بازگردانی پاسخ ChatGPT
210
- # ============================================
211
- logger.info("🔄 مرحله 3: بازگردانی...")
212
- restored_text = anonymizer.restore_text(gpt_response)
213
- logger.info("✅ بازگردانی کامل")
214
-
215
- # ============================================
216
- # مرحله 4: جدول نگاشت
217
- # ============================================
218
- logger.info("📋 مرحله 4: جدول نگاشت...")
219
- mapping_str = anonymizer.get_mapping_table_md()
220
- logger.info(f"✅ {len(anonymizer.mapping_table)} موجودیت")
221
-
222
- logger.info("=" * 70)
223
- logger.info("✅ تمام مراحل کامل!")
224
- logger.info("=" * 70)
225
-
226
- return restored_text, gpt_response, anonymized_text, mapping_str
227
-
228
- except Exception as e:
229
- logger.error(f"❌ خطا: {str(e)}", exc_info=True)
230
- return "", f"❌ خطا: {str(e)}", "", ""
231
-
232
- def clear_all():
233
- """پاک کردن همه"""
234
- return "", "", "", "", ""
235
-
236
- # Gradio Interface
237
- css_rtl = """
238
- .input-box { direction: rtl; text-align: right; }
239
- .textbox textarea { direction: rtl; text-align: right; font-family: 'Tahoma', serif; }
240
- """
241
-
242
- with gr.Blocks(title="سیستم ناشناس‌سازی متون", theme=gr.themes.Soft(), css=css_rtl) as app:
243
-
244
- gr.Markdown("# 🔐 سیستم ناشناس‌سازی متون مالی فارسی", elem_classes="input-box")
245
- gr.Markdown("#### استخراج و ناشناس‌سازی موجودیت‌های حساس", elem_classes="input-box")
246
-
247
- # ============================================
248
- # صفحه اول: دکمه‌ها (راست) + ورودی (چپ)
249
- # ============================================
250
- with gr.Row():
251
- # سمت راست: دکمه‌ها و تنظیمات
252
- with gr.Column(scale=1):
253
- gr.Markdown("### ⚙️ تنظیمات", elem_classes="input-box")
254
-
255
- method = gr.Radio(
256
- ["cerebras"],
257
- value="cerebras",
258
- label="🔧 روش پردازش",
259
- elem_classes="input-box"
260
- )
261
-
262
- gr.Markdown("---")
263
-
264
- with gr.Column():
265
- process_btn = gr.Button(
266
- "▶️ پردازش",
267
- variant="primary",
268
- size="lg"
269
- )
270
-
271
- clear_btn = gr.Button(
272
- "🗑️ پاک کردن",
273
- variant="stop",
274
- size="lg"
275
- )
276
-
277
- # سمت چپ: متن ورودی (بزرگ‌تر)
278
- with gr.Column(scale=3):
279
- input_text = gr.Textbox(
280
- lines=14,
281
- placeholder="متن مالی/خبری را وارد کنید...",
282
- label="📝 متن ورودی",
283
- elem_classes="textbox"
284
- )
285
-
286
- # ============================================
287
- # صفحه دوم: 3 باکس نتایج (وسط)
288
- # ============================================
289
- gr.Markdown("---")
290
- gr.Markdown("## 📊 نتایج پردازش", elem_classes="input-box")
291
-
292
- with gr.Row():
293
- # باکس 1: متن بازگردانی شده (راست)
294
- with gr.Column(scale=1):
295
- restored_text = gr.Textbox(
296
- lines=12,
297
- label="✅ متن بازگردانی شده",
298
- interactive=False,
299
- elem_classes="textbox"
300
- )
301
-
302
- # باکس 2: تحلیل ChatGPT (وسط)
303
- with gr.Column(scale=1):
304
- gpt_analysis = gr.Textbox(
305
- lines=12,
306
- label="🤖 تحلیل ChatGPT",
307
- interactive=False,
308
- elem_classes="textbox"
309
- )
310
-
311
- # باکس 3: متن ناشناس‌شده (چپ)
312
- with gr.Column(scale=1):
313
- anonymized_text = gr.Textbox(
314
- lines=12,
315
- label="🔒 متن ناشناس‌شده",
316
- interactive=False,
317
- elem_classes="textbox"
318
- )
319
-
320
- # ============================================
321
- # پایین: جدول نگاشت
322
- # ============================================
323
- gr.Markdown("---")
324
-
325
- mapping_table = gr.Textbox(
326
- lines=10,
327
- label="📋 جدول نگاشت",
328
- interactive=False,
329
- elem_classes="textbox"
330
- )
331
-
332
- # ============================================
333
- # Event Handlers
334
- # ============================================
335
- process_btn.click(
336
- fn=process,
337
- inputs=[input_text, method],
338
- outputs=[restored_text, gpt_analysis, anonymized_text, mapping_table]
339
- )
340
-
341
- clear_btn.click(
342
- fn=clear_all,
343
- outputs=[input_text, restored_text, gpt_analysis, anonymized_text, mapping_table]
344
- )
345
-
346
- if __name__ == "__main__":
347
- print("=" * 70)
348
- print("🚀 سیستم ناشناس‌سازی متون در حال راه‌اندازی...")
349
- print("=" * 70)
350
- print("\n📋 نحوه استفاده:\n")
351
- print("1. CEREBRAS_API_KEY و OPENAI_API_KEY را تنظیم کنید")
352
- print("2. http://localhost:7860 را باز کنید")
353
- print("3. متن را وارد کنید")
354
- print("4. 'پردازش' را کلیک کنید\n")
355
- print("روش استفاده شده: Cerebras (Llama 3.3-70B)")
356
- print("=" * 70 + "\n")
357
-
358
- app.launch(
359
- server_name="0.0.0.0",
360
- server_port=7860,
361
- share=False,
362
- show_error=True
363
- )