leilaghomashchi commited on
Commit
7390ced
·
verified ·
1 Parent(s): 8f02bed

Delete app.py

Browse files
Files changed (1) hide show
  1. app.py +0 -370
app.py DELETED
@@ -1,370 +0,0 @@
1
- import gradio as gr
2
- import re
3
- import os
4
- import requests
5
- import logging
6
- from typing import Dict, List, Tuple
7
-
8
- logging.basicConfig(level=logging.INFO)
9
- logger = logging.getLogger(__name__)
10
-
11
- class AnonymizerAdvanced:
12
- """ناشناس‌ساز پیشرفته با روش‌های متعدد"""
13
-
14
- def __init__(self, cerebras_key: str = None, gpt_key: str = None):
15
- self.cerebras_key = cerebras_key or os.getenv("CEREBRAS_API_KEY")
16
- self.gpt_key = gpt_key or os.getenv("OPENAI_API_KEY")
17
- self.mapping_table = {} # {placeholder: original_text}
18
- self.reverse_mapping = {} # {original_text: placeholder}
19
-
20
- logger.info("✅ Anonymizer Advanced مقداردهی شد")
21
-
22
-
23
- def anonymize_with_cerebras(self, text: str) -> Tuple[str, Dict]:
24
- """ناشناس‌سازی با Cerebras"""
25
- logger.info("🧠 روش Cerebras...")
26
-
27
- if not self.cerebras_key:
28
- logger.error("❌ Cerebras API Key موجود نیست")
29
- raise ValueError("Cerebras API Key مورد نیاز است")
30
-
31
- try:
32
- prompt = f"""متن زیر را ناشناس کنید. قوانین:
33
- 1. اسامی اشخاص → person-01, person-02, ...
34
- 2. نام شرکت‌ها/سازمان‌ها → company-01, company-02, ...
35
- 3. مقادیر پولی → amount-01, amount-02, ...
36
- 4. درصدها → percent-01, percent-02, ...
37
- 5. فقط این توکن‌ها استفاده کنید
38
- 6. شماره‌های نسخه را درست حفظ کنید
39
- 7. اگر موجودیت تکرار شود از شماره قدیمی استفاده کنید
40
-
41
- متن:
42
- {text}
43
-
44
- خروجی: فقط متن ناشناس شده"""
45
-
46
- response = requests.post(
47
- "https://api.cerebras.ai/v1/chat/completions",
48
- headers={
49
- "Authorization": f"Bearer {self.cerebras_key}",
50
- "Content-Type": "application/json"
51
- },
52
- json={
53
- "model": "llama-3.3-70b",
54
- "messages": [{"role": "user", "content": prompt}],
55
- "max_tokens": 4096,
56
- "temperature": 0.1
57
- },
58
- timeout=60
59
- )
60
-
61
- if response.status_code == 200:
62
- anonymized_text = response.json()['choices'][0]['message']['content'].strip()
63
- logger.info("✅ Cerebras: موفق")
64
-
65
- # استخراج mapping از متن
66
- self._extract_mapping_from_text(text, anonymized_text)
67
- return anonymized_text, self.mapping_table
68
- else:
69
- logger.error(f"❌ Cerebras Error: {response.status_code}")
70
- raise Exception(f"Cerebras API Error: {response.status_code}")
71
-
72
- except Exception as e:
73
- logger.error(f"❌ Cerebras Exception: {e}")
74
- raise
75
-
76
-
77
- def _extract_mapping_from_text(self, original: str, anonymized: str):
78
- """استخراج mapping از متن‌های اصلی و ناشناس شده"""
79
- # الگوهای موجودیت
80
- patterns = {
81
- 'person': r'\b[ء-ي]+\s+[ء-ي]+(?:\s+[ء-ي]+)*\b',
82
- 'company': r'(?:شرکت|بانک|سازمان|گروه|هلدینگ)\s+[ء-ي]+(?:\s+[ء-ي]+)*',
83
- 'amount': r'\d+\s*(?:میلیارد|میلیون|هزار|تومان|ریال|دلار|تن)',
84
- 'percent': r'\d+\s*(?:درصد|%|درصدی)',
85
- }
86
-
87
- for entity_type, pattern in patterns.items():
88
- for match in re.finditer(pattern, original):
89
- text_match = match.group()
90
- tokens = re.findall(f'{entity_type}-\\d+', anonymized)
91
- if tokens:
92
- for token in tokens:
93
- if token not in self.mapping_table:
94
- self.mapping_table[token] = text_match
95
- self.reverse_mapping[text_match] = token
96
-
97
- def analyze_with_gpt(self, anonymized_text: str) -> str:
98
- """تحلیل متن ناشناس‌شده با ChatGPT"""
99
- logger.info("🤖 ChatGPT تحلیل...")
100
-
101
- if not self.gpt_key:
102
- logger.warning("⚠️ GPT API Key نیست")
103
- return "❌ API Key موجود نیست"
104
-
105
- try:
106
- prompt = f"""متن مالی ناشناس‌شده زیر را تحلیل و خلاصه کنید:
107
-
108
- متن:
109
- {anonymized_text}
110
-
111
- لطفاً:
112
- 1. خلاصه‌ای مختصر و معنادار بنویسید
113
- 2. نکات اصلی را مشخص کنید
114
- 3. تمام توکن‌های ناشناس (person-01, company-01, amount-01, percent-01) را حفظ کنید
115
- 4. تنها اطلاعات موجود در متن را بیان کنید"""
116
-
117
- response = requests.post(
118
- "https://api.openai.com/v1/chat/completions",
119
- headers={
120
- "Authorization": f"Bearer {self.gpt_key}",
121
- "Content-Type": "application/json"
122
- },
123
- json={
124
- "model": "gpt-4o-mini",
125
- "messages": [
126
- {
127
- "role": "system",
128
- "content": "شما دستیار تحلیل متون مالی فارسی هستید. توکن‌های ناشناس را حفظ کنید."
129
- },
130
- {"role": "user", "content": prompt}
131
- ],
132
- "max_tokens": 1500,
133
- "temperature": 0.7
134
- },
135
- timeout=60
136
- )
137
-
138
- if response.status_code == 200:
139
- gpt_response = response.json()['choices'][0]['message']['content']
140
- logger.info("✅ ChatGPT: تحلیل کامل")
141
- return gpt_response
142
- else:
143
- logger.error(f"❌ GPT Error: {response.status_code}")
144
- return "❌ خطای ChatGPT"
145
-
146
- except Exception as e:
147
- logger.error(f"❌ GPT Exception: {e}")
148
- return f"❌ خطا: {str(e)}"
149
-
150
- def restore_text(self, anonymized_text: str) -> str:
151
- """بازگردانی متن اصلی"""
152
- logger.info("🔄 بازگردانی...")
153
-
154
- restored = anonymized_text
155
- for placeholder, original in sorted(self.mapping_table.items()):
156
- restored = restored.replace(placeholder, original)
157
-
158
- logger.info("✅ بازگردانی کامل")
159
- return restored
160
-
161
- def get_mapping_table_md(self) -> str:
162
- """تبدیل جدول نگاشت به Markdown"""
163
- if not self.mapping_table:
164
- return "### 📋 جدول نگاشت\n\nهیچ موجودیتی شناسایی نشد"
165
-
166
- table = "### 📋 جدول نگاشت\n\n"
167
- table += "| شناسه | متن اصلی |\n"
168
- table += "|-------|----------|\n"
169
-
170
- for token, original in sorted(self.mapping_table.items()):
171
- table += f"| **{token}** | {original} |\n"
172
-
173
- return table
174
-
175
- # متغیر سراسری
176
- anonymizer = None
177
-
178
- def process(input_text: str, method: str = "cerebras"):
179
- """پردازش متن - 4 مرحله"""
180
- global anonymizer
181
-
182
- if not input_text.strip():
183
- return "", "", "", ""
184
-
185
- cerebras_key = os.getenv("CEREBRAS_API_KEY")
186
- gpt_key = os.getenv("OPENAI_API_KEY")
187
-
188
- if not anonymizer:
189
- anonymizer = AnonymizerAdvanced(cerebras_key, gpt_key)
190
- else:
191
- anonymizer.mapping_table = {}
192
- anonymizer.reverse_mapping = {}
193
-
194
- try:
195
- logger.info("=" * 70)
196
- logger.info(f"🚀 شروع پردازش - روش: Cerebras")
197
- logger.info("=" * 70)
198
-
199
- # ============================================
200
- # مرحله 1: ناشناس‌سازی
201
- # ============================================
202
- logger.info("📝 مرحله 1: ناشناس‌سازی...")
203
-
204
- anonymized_text, _ = anonymizer.anonymize_with_cerebras(input_text)
205
-
206
- logger.info(f"✅ ناشناس‌سازی: {len(anonymized_text)} کاراکتر")
207
-
208
- # ============================================
209
- # مرحله 2: تحلیل ChatGPT
210
- # ============================================
211
- logger.info("🤖 مرحله 2: تحلیل ChatGPT...")
212
- gpt_response = anonymizer.analyze_with_gpt(anonymized_text)
213
- logger.info(f"✅ تحلیل: {len(gpt_response)} کاراکتر")
214
-
215
- # ============================================
216
- # مرحله 3: بازگردانی
217
- # ============================================
218
- logger.info("🔄 مرحله 3: بازگردانی...")
219
- restored_text = anonymizer.restore_text(anonymized_text)
220
- logger.info("✅ بازگردانی کامل")
221
-
222
- # ============================================
223
- # مرحله 4: جدول نگاشت
224
- # ============================================
225
- logger.info("📋 مرحله 4: جدول نگاشت...")
226
- mapping_str = anonymizer.get_mapping_table_md()
227
- logger.info(f"✅ {len(anonymizer.mapping_table)} موجودیت")
228
-
229
- logger.info("=" * 70)
230
- logger.info("✅ تمام مراحل کامل!")
231
- logger.info("=" * 70)
232
-
233
- return restored_text, gpt_response, anonymized_text, mapping_str
234
-
235
- except Exception as e:
236
- logger.error(f"❌ خطا: {str(e)}", exc_info=True)
237
- return "", f"❌ خطا: {str(e)}", "", ""
238
-
239
- def clear_all():
240
- """پاک کردن همه"""
241
- return "", "", "", "", ""
242
-
243
- # Gradio Interface
244
- css_rtl = """
245
- .input-box { direction: rtl; text-align: right; }
246
- .textbox textarea { direction: rtl; text-align: right; font-family: 'Tahoma', serif; }
247
- """
248
-
249
- with gr.Blocks(title="سیستم ناشناس‌سازی متون", theme=gr.themes.Soft(), css=css_rtl) as app:
250
-
251
- gr.Markdown("# 🔐 سیستم ناشناس‌سازی متون مالی فارسی", elem_classes="input-box")
252
- gr.Markdown("#### استخراج و ناشناس‌سازی موجودیت‌های حساس", elem_classes="input-box")
253
-
254
- # ============================================
255
- # صفحه اول: دکمه‌ها (راست) + ورودی (چپ)
256
- # ============================================
257
- with gr.Row():
258
- # سمت راست: دکمه‌ها و تنظیمات
259
- with gr.Column(scale=1):
260
- gr.Markdown("### ⚙️ تنظیمات", elem_classes="input-box")
261
-
262
- method = gr.Radio(
263
- ["cerebras"],
264
- value="cerebras",
265
- label="🔧 روش پردازش",
266
- elem_classes="input-box"
267
- )
268
-
269
- gr.Markdown("---")
270
-
271
- with gr.Column():
272
- process_btn = gr.Button(
273
- "▶️ پردازش",
274
- variant="primary",
275
- size="lg"
276
- )
277
-
278
- clear_btn = gr.Button(
279
- "🗑️ پاک کردن",
280
- variant="stop",
281
- size="lg"
282
- )
283
-
284
- # سمت چپ: متن ورودی (بزرگ‌تر)
285
- with gr.Column(scale=3):
286
- input_text = gr.Textbox(
287
- lines=14,
288
- placeholder="متن مالی/خبری را وارد کنید...",
289
- label="📝 متن ورودی",
290
- elem_classes="textbox"
291
- )
292
-
293
- # ============================================
294
- # صفحه دوم: 3 باکس نتایج (وسط)
295
- # ============================================
296
- gr.Markdown("---")
297
- gr.Markdown("## 📊 نتایج پردازش", elem_classes="input-box")
298
-
299
- with gr.Row():
300
- # باکس 1: متن بازگردانی شده (راست)
301
- with gr.Column(scale=1):
302
- restored_text = gr.Textbox(
303
- lines=12,
304
- label="✅ متن بازگردانی شده",
305
- interactive=False,
306
- elem_classes="textbox"
307
- )
308
-
309
- # باکس 2: تحلیل ChatGPT (وسط)
310
- with gr.Column(scale=1):
311
- gpt_analysis = gr.Textbox(
312
- lines=12,
313
- label="🤖 تحلیل ChatGPT",
314
- interactive=False,
315
- elem_classes="textbox"
316
- )
317
-
318
- # باکس 3: متن ناشناس‌شده (چپ)
319
- with gr.Column(scale=1):
320
- anonymized_text = gr.Textbox(
321
- lines=12,
322
- label="🔒 متن ناشناس‌شده",
323
- interactive=False,
324
- elem_classes="textbox"
325
- )
326
-
327
- # ============================================
328
- # پایین: جدول نگاشت
329
- # ============================================
330
- gr.Markdown("---")
331
-
332
- mapping_table = gr.Textbox(
333
- lines=10,
334
- label="📋 جدول نگاشت",
335
- interactive=False,
336
- elem_classes="textbox"
337
- )
338
-
339
- # ============================================
340
- # Event Handlers
341
- # ============================================
342
- process_btn.click(
343
- fn=process,
344
- inputs=[input_text, method],
345
- outputs=[restored_text, gpt_analysis, anonymized_text, mapping_table]
346
- )
347
-
348
- clear_btn.click(
349
- fn=clear_all,
350
- outputs=[input_text, restored_text, gpt_analysis, anonymized_text, mapping_table]
351
- )
352
-
353
- if __name__ == "__main__":
354
- print("=" * 70)
355
- print("🚀 سیستم ناشناس‌سازی متون در حال راه‌اندازی...")
356
- print("=" * 70)
357
- print("\n📋 نحوه استفاده:\n")
358
- print("1. CEREBRAS_API_KEY و OPENAI_API_KEY را تنظیم کنید")
359
- print("2. http://localhost:7860 را باز کنید")
360
- print("3. متن را وارد کنید")
361
- print("4. 'پردازش' را کلیک کنید\n")
362
- print("روش استفاده شده: Cerebras (Llama 3.3-70B)")
363
- print("=" * 70 + "\n")
364
-
365
- app.launch(
366
- server_name="0.0.0.0",
367
- server_port=7860,
368
- share=False,
369
- show_error=True
370
- )