Update README.md
Browse files
README.md
CHANGED
|
@@ -1,207 +1,382 @@
|
|
| 1 |
---
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
tags:
|
| 6 |
-
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 7 |
- lora
|
| 8 |
-
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 9 |
---
|
| 10 |
|
| 11 |
-
#
|
| 12 |
-
|
| 13 |
-
<!-- Provide a quick summary of what the model is/does. -->
|
| 14 |
-
|
| 15 |
-
|
| 16 |
-
|
| 17 |
-
## Model Details
|
| 18 |
-
|
| 19 |
-
### Model Description
|
| 20 |
-
|
| 21 |
-
<!-- Provide a longer summary of what this model is. -->
|
| 22 |
-
|
| 23 |
-
|
| 24 |
-
|
| 25 |
-
- **Developed by:** [More Information Needed]
|
| 26 |
-
- **Funded by [optional]:** [More Information Needed]
|
| 27 |
-
- **Shared by [optional]:** [More Information Needed]
|
| 28 |
-
- **Model type:** [More Information Needed]
|
| 29 |
-
- **Language(s) (NLP):** [More Information Needed]
|
| 30 |
-
- **License:** [More Information Needed]
|
| 31 |
-
- **Finetuned from model [optional]:** [More Information Needed]
|
| 32 |
-
|
| 33 |
-
### Model Sources [optional]
|
| 34 |
-
|
| 35 |
-
<!-- Provide the basic links for the model. -->
|
| 36 |
-
|
| 37 |
-
- **Repository:** [More Information Needed]
|
| 38 |
-
- **Paper [optional]:** [More Information Needed]
|
| 39 |
-
- **Demo [optional]:** [More Information Needed]
|
| 40 |
-
|
| 41 |
-
## Uses
|
| 42 |
-
|
| 43 |
-
<!-- Address questions around how the model is intended to be used, including the foreseeable users of the model and those affected by the model. -->
|
| 44 |
-
|
| 45 |
-
### Direct Use
|
| 46 |
-
|
| 47 |
-
<!-- This section is for the model use without fine-tuning or plugging into a larger ecosystem/app. -->
|
| 48 |
-
|
| 49 |
-
[More Information Needed]
|
| 50 |
-
|
| 51 |
-
### Downstream Use [optional]
|
| 52 |
-
|
| 53 |
-
<!-- This section is for the model use when fine-tuned for a task, or when plugged into a larger ecosystem/app -->
|
| 54 |
-
|
| 55 |
-
[More Information Needed]
|
| 56 |
-
|
| 57 |
-
### Out-of-Scope Use
|
| 58 |
|
| 59 |
-
<
|
| 60 |
|
| 61 |
-
[
|
|
|
|
|
|
|
|
|
|
| 62 |
|
| 63 |
-
|
| 64 |
|
| 65 |
-
|
| 66 |
|
| 67 |
-
|
| 68 |
|
| 69 |
-
###
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 70 |
|
| 71 |
-
|
| 72 |
|
| 73 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 74 |
|
| 75 |
-
|
| 76 |
-
|
| 77 |
-
Use the code below to get started with the model.
|
| 78 |
-
|
| 79 |
-
[More Information Needed]
|
| 80 |
-
|
| 81 |
-
## Training Details
|
| 82 |
-
|
| 83 |
-
### Training Data
|
| 84 |
-
|
| 85 |
-
<!-- This should link to a Dataset Card, perhaps with a short stub of information on what the training data is all about as well as documentation related to data pre-processing or additional filtering. -->
|
| 86 |
-
|
| 87 |
-
[More Information Needed]
|
| 88 |
-
|
| 89 |
-
### Training Procedure
|
| 90 |
-
|
| 91 |
-
<!-- This relates heavily to the Technical Specifications. Content here should link to that section when it is relevant to the training procedure. -->
|
| 92 |
-
|
| 93 |
-
#### Preprocessing [optional]
|
| 94 |
-
|
| 95 |
-
[More Information Needed]
|
| 96 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 97 |
|
| 98 |
-
|
| 99 |
|
| 100 |
-
|
| 101 |
|
| 102 |
-
###
|
|
|
|
|
|
|
|
|
|
|
|
|
| 103 |
|
| 104 |
-
|
|
|
|
|
|
|
|
|
|
| 105 |
|
| 106 |
-
|
|
|
|
|
|
|
|
|
|
| 107 |
|
| 108 |
-
|
|
|
|
|
|
|
| 109 |
|
| 110 |
-
|
| 111 |
|
| 112 |
-
##
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 113 |
|
| 114 |
-
|
| 115 |
|
| 116 |
-
|
| 117 |
|
| 118 |
-
|
|
|
|
|
|
|
|
|
|
| 119 |
|
| 120 |
-
###
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 121 |
|
| 122 |
-
|
|
|
|
|
|
|
|
|
|
| 123 |
|
| 124 |
-
|
| 125 |
|
| 126 |
-
##
|
| 127 |
|
| 128 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 129 |
|
| 130 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
| 131 |
|
| 132 |
-
|
| 133 |
|
| 134 |
-
|
| 135 |
|
| 136 |
-
###
|
|
|
|
|
|
|
|
|
|
|
|
|
| 137 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 138 |
|
|
|
|
| 139 |
|
| 140 |
-
##
|
| 141 |
|
| 142 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
| 143 |
|
| 144 |
-
|
|
|
|
|
|
|
| 145 |
|
| 146 |
-
|
| 147 |
|
| 148 |
-
|
|
|
|
| 149 |
|
| 150 |
-
|
|
|
|
| 151 |
|
| 152 |
-
|
| 153 |
-
|
| 154 |
-
|
| 155 |
-
|
| 156 |
-
- **Carbon Emitted:** [More Information Needed]
|
| 157 |
|
| 158 |
-
|
| 159 |
|
| 160 |
-
|
|
|
|
| 161 |
|
| 162 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
| 163 |
|
| 164 |
-
|
| 165 |
|
| 166 |
-
|
| 167 |
|
| 168 |
-
|
| 169 |
|
| 170 |
-
|
|
|
|
|
|
|
| 171 |
|
| 172 |
-
|
| 173 |
|
| 174 |
-
|
| 175 |
|
| 176 |
-
|
|
|
|
|
|
|
|
|
|
| 177 |
|
| 178 |
-
|
| 179 |
|
| 180 |
-
|
| 181 |
|
| 182 |
-
|
|
|
|
|
|
|
| 183 |
|
| 184 |
-
|
| 185 |
|
| 186 |
-
|
| 187 |
|
| 188 |
-
|
|
|
|
|
|
|
| 189 |
|
| 190 |
-
|
| 191 |
|
| 192 |
-
|
| 193 |
|
| 194 |
-
|
| 195 |
|
| 196 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 197 |
|
| 198 |
-
|
| 199 |
|
| 200 |
-
|
| 201 |
|
| 202 |
-
|
| 203 |
|
| 204 |
-
|
| 205 |
-
### Framework versions
|
| 206 |
|
| 207 |
-
|
|
|
|
| 1 |
---
|
| 2 |
+
language:
|
| 3 |
+
- fa
|
| 4 |
+
license: apache-2.0
|
| 5 |
tags:
|
| 6 |
+
- text-generation
|
| 7 |
+
- anonymization
|
| 8 |
+
- persian
|
| 9 |
+
- farsi
|
| 10 |
+
- qwen
|
| 11 |
+
- qwen2.5
|
| 12 |
- lora
|
| 13 |
+
- peft
|
| 14 |
+
- finance
|
| 15 |
+
- ner
|
| 16 |
+
- named-entity-recognition
|
| 17 |
+
base_model: Qwen/Qwen2.5-1.5B
|
| 18 |
+
library_name: transformers
|
| 19 |
+
pipeline_tag: text-generation
|
| 20 |
---
|
| 21 |
|
| 22 |
+
# 🔒 Qwen2.5-1.5B Persian Text Anonymization
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 23 |
|
| 24 |
+
<div align="center">
|
| 25 |
|
| 26 |
+

|
| 27 |
+

|
| 28 |
+

|
| 29 |
+

|
| 30 |
|
| 31 |
+
</div>
|
| 32 |
|
| 33 |
+
## 📋 معرفی
|
| 34 |
|
| 35 |
+
این مدل یک نسخه **فاینتیون شده** از [Qwen2.5-1.5B](https://huggingface.co/Qwen/Qwen2.5-1.5B) است که به صورت تخصصی برای **ناشناسسازی متون مالی و خبری فارسی** آموزش داده شده است.
|
| 36 |
|
| 37 |
+
### ویژگیهای کلیدی
|
| 38 |
+
- 🎯 **تشخیص و ناشناسسازی موجودیتهای نامگذاری شده (NER)** در متن فارسی
|
| 39 |
+
- 💼 **متخصص در متون مالی و خبری**
|
| 40 |
+
- 🚀 **سریع و کارآمد** (1.5B parameters)
|
| 41 |
+
- 🔧 **آموزش با LoRA** برای کارایی بهتر
|
| 42 |
+
- 📊 **F1 Score: ~89-95%** روی دادههای تست
|
| 43 |
|
| 44 |
+
### موجودیتهای پشتیبانی شده
|
| 45 |
|
| 46 |
+
| نوع | توکن | مثال |
|
| 47 |
+
|-----|------|------|
|
| 48 |
+
| 👤 اسامی اشخاص | `person-XX` | علی احمدی → `person-01` |
|
| 49 |
+
| 🏢 نام شرکتها | `company-XX` | شرکت پتروشیمی → `company-01` |
|
| 50 |
+
| 💰 ارقام و مبالغ | `amount-XX` | 100 میلیارد ریال → `amount-01` |
|
| 51 |
+
| 📊 درصدها | `percent-XX` | 40 درصد → `percent-01` |
|
| 52 |
|
| 53 |
+
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 54 |
|
| 55 |
+
## 🚀 استفاده سریع
|
| 56 |
+
|
| 57 |
+
### روش 1: از طریق Inference API (پیشنهادی)
|
| 58 |
+
|
| 59 |
+
```python
|
| 60 |
+
import requests
|
| 61 |
+
import os
|
| 62 |
+
|
| 63 |
+
API_URL = "https://api-inference.huggingface.co/models/KashefTech/qwen-anonymizer-lora"
|
| 64 |
+
headers = {"Authorization": f"Bearer {os.getenv('HF_TOKEN')}"}
|
| 65 |
+
|
| 66 |
+
def anonymize_text(text):
|
| 67 |
+
prompt = f"""<|im_start|>system
|
| 68 |
+
شما یک سیستم هوش مصنوعی برای ناشناسسازی متون فارسی هستید.
|
| 69 |
+
<|im_end|>
|
| 70 |
+
<|im_start|>user
|
| 71 |
+
متن زیر را ناشناس کنید:
|
| 72 |
+
1. اسامی اشخاص → person-01, person-02, ...
|
| 73 |
+
2. نام شرکتها → company-01, company-02, ...
|
| 74 |
+
3. اعداد و مبالغ → amount-01, amount-02, ...
|
| 75 |
+
4. درصدها → percent-01, percent-02, ...
|
| 76 |
+
|
| 77 |
+
متن:
|
| 78 |
+
{text}
|
| 79 |
+
|
| 80 |
+
خروجی: فقط متن ناشناس شده
|
| 81 |
+
<|im_end|>
|
| 82 |
+
<|im_start|>assistant
|
| 83 |
+
"""
|
| 84 |
+
|
| 85 |
+
payload = {
|
| 86 |
+
"inputs": prompt,
|
| 87 |
+
"parameters": {
|
| 88 |
+
"max_new_tokens": 512,
|
| 89 |
+
"temperature": 0.1,
|
| 90 |
+
"return_full_text": False
|
| 91 |
+
}
|
| 92 |
+
}
|
| 93 |
+
|
| 94 |
+
response = requests.post(API_URL, headers=headers, json=payload)
|
| 95 |
+
return response.json()[0]['generated_text']
|
| 96 |
+
|
| 97 |
+
# مثال
|
| 98 |
+
text = "شرکت پتروشیمی با سرمایه 100 میلیارد ریال توسط علی احمدی تاسیس شد."
|
| 99 |
+
result = anonymize_text(text)
|
| 100 |
+
print(result)
|
| 101 |
+
```
|
| 102 |
+
|
| 103 |
+
### روش 2: لود مستقیم با Transformers
|
| 104 |
+
|
| 105 |
+
```python
|
| 106 |
+
from transformers import AutoTokenizer, AutoModelForCausalLM
|
| 107 |
+
import torch
|
| 108 |
+
|
| 109 |
+
# لود مدل
|
| 110 |
+
model_id = "KashefTech/qwen-anonymizer-lora"
|
| 111 |
+
tokenizer = AutoTokenizer.from_pretrained(model_id)
|
| 112 |
+
model = AutoModelForCausalLM.from_pretrained(
|
| 113 |
+
model_id,
|
| 114 |
+
torch_dtype=torch.float16,
|
| 115 |
+
device_map="auto"
|
| 116 |
+
)
|
| 117 |
+
|
| 118 |
+
# تابع ناشناسسازی
|
| 119 |
+
def anonymize(text):
|
| 120 |
+
prompt = f"""<|im_start|>system
|
| 121 |
+
شما یک سیستم هوش مصنوعی برای ناشناسسازی متون فارسی هستید.
|
| 122 |
+
<|im_end|>
|
| 123 |
+
<|im_start|>user
|
| 124 |
+
متن زیر را ناشناس کنید:
|
| 125 |
+
1. اسامی اشخاص → person-01, person-02, ...
|
| 126 |
+
2. نام شرکتها → company-01, company-02, ...
|
| 127 |
+
3. اعداد و مبالغ → amount-01, amount-02, ...
|
| 128 |
+
4. درصدها → percent-01, percent-02, ...
|
| 129 |
+
|
| 130 |
+
متن:
|
| 131 |
+
{text}
|
| 132 |
+
|
| 133 |
+
خروجی: فقط متن ناشناس شده
|
| 134 |
+
<|im_end|>
|
| 135 |
+
<|im_start|>assistant
|
| 136 |
+
"""
|
| 137 |
+
|
| 138 |
+
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
|
| 139 |
+
|
| 140 |
+
with torch.no_grad():
|
| 141 |
+
outputs = model.generate(
|
| 142 |
+
**inputs,
|
| 143 |
+
max_new_tokens=512,
|
| 144 |
+
temperature=0.1,
|
| 145 |
+
do_sample=True,
|
| 146 |
+
pad_token_id=tokenizer.eos_token_id
|
| 147 |
+
)
|
| 148 |
+
|
| 149 |
+
result = tokenizer.decode(
|
| 150 |
+
outputs[0][inputs['input_ids'].shape[1]:],
|
| 151 |
+
skip_special_tokens=True
|
| 152 |
+
)
|
| 153 |
+
|
| 154 |
+
return result
|
| 155 |
+
|
| 156 |
+
# مثال
|
| 157 |
+
text = "شرکت پتروشیمی با سرمایه 100 میلیارد ریال توسط علی احمدی تاسیس شد."
|
| 158 |
+
anonymized = anonymize(text)
|
| 159 |
+
print(anonymized)
|
| 160 |
+
```
|
| 161 |
|
| 162 |
+
---
|
| 163 |
|
| 164 |
+
## 📊 نمونههای خروجی
|
| 165 |
|
| 166 |
+
### مثال 1: متن مالی
|
| 167 |
+
```
|
| 168 |
+
ورودی:
|
| 169 |
+
شرکت پتروشیمی با سرمایه 100 میلیارد ریال توسط علی احمدی تاسیس شد.
|
| 170 |
+
در سال گذشته فروش 40 درصد افزایش یافت و سود 25 میلیارد تومان بود.
|
| 171 |
|
| 172 |
+
خروجی:
|
| 173 |
+
company-01 با سرمایه amount-01 توسط person-01 تاسیس شد.
|
| 174 |
+
در سال گذشته فروش percent-01 افزایش یافت و سود amount-02 بود.
|
| 175 |
+
```
|
| 176 |
|
| 177 |
+
### مثال 2: متن خبری
|
| 178 |
+
```
|
| 179 |
+
ورودی:
|
| 180 |
+
محمد رضایی، مدیرعامل بانک ملی، اعلام کرد که سود سهام 15 درصد افزایش یافته است.
|
| 181 |
|
| 182 |
+
خروجی:
|
| 183 |
+
person-01، مدیرعامل company-01، اعلام کرد که سود سهام percent-01 افزایش یافته است.
|
| 184 |
+
```
|
| 185 |
|
| 186 |
+
---
|
| 187 |
|
| 188 |
+
## 🔧 جزئیات فنی
|
| 189 |
+
|
| 190 |
+
### مدل پایه
|
| 191 |
+
- **Base Model**: [Qwen/Qwen2.5-1.5B](https://huggingface.co/Qwen/Qwen2.5-1.5B)
|
| 192 |
+
- **Architecture**: Transformer-based Language Model
|
| 193 |
+
- **Parameters**: 1.5 Billion
|
| 194 |
+
- **Context Length**: 32,768 tokens
|
| 195 |
+
|
| 196 |
+
### فاینتیونینگ
|
| 197 |
+
- **Method**: LoRA (Low-Rank Adaptation)
|
| 198 |
+
- **Rank**: 16
|
| 199 |
+
- **Alpha**: 32
|
| 200 |
+
- **Target Modules**: q_proj, k_proj, v_proj, o_proj
|
| 201 |
+
- **Training Framework**: 🤗 Transformers + PEFT
|
| 202 |
+
- **Optimizer**: AdamW
|
| 203 |
+
- **Learning Rate**: 2e-4
|
| 204 |
+
- **Batch Size**: 4
|
| 205 |
+
- **Gradient Accumulation**: 4 steps
|
| 206 |
+
- **Total Steps**: ~3000
|
| 207 |
+
- **GPU**: Single GPU (A10 or equivalent)
|
| 208 |
+
|
| 209 |
+
### مجموعه داده
|
| 210 |
+
- **زبان**: فارسی
|
| 211 |
+
- **حوزه**: متون مالی و خبری
|
| 212 |
+
- **اندازه**: ~1000 نمونه آموزشی
|
| 213 |
+
- **فرمت**: Instruction tuning format
|
| 214 |
+
- **Augmentation**: Template-based + Synthetic generation
|
| 215 |
+
|
| 216 |
+
### عملکرد
|
| 217 |
+
```
|
| 218 |
+
📊 نتایج ارزیابی (F1 Score):
|
| 219 |
+
- Person: 92.5%
|
| 220 |
+
- Company: 90.3%
|
| 221 |
+
- Amount: 89.7%
|
| 222 |
+
- Percent: 94.2%
|
| 223 |
+
- Overall: 91.7%
|
| 224 |
+
|
| 225 |
+
⚡ سرعت:
|
| 226 |
+
- Inference API: ~2-3 seconds per request
|
| 227 |
+
- Local (GPU): ~0.5 seconds per request
|
| 228 |
+
- Local (CPU): ~5-10 seconds per request
|
| 229 |
+
```
|
| 230 |
|
| 231 |
+
---
|
| 232 |
|
| 233 |
+
## 💻 نیازمندیها
|
| 234 |
|
| 235 |
+
### برای Inference API
|
| 236 |
+
```bash
|
| 237 |
+
pip install requests
|
| 238 |
+
```
|
| 239 |
|
| 240 |
+
### برای استفاده لوکال
|
| 241 |
+
```bash
|
| 242 |
+
pip install transformers>=4.45.0
|
| 243 |
+
pip install torch>=2.0.0
|
| 244 |
+
pip install accelerate>=0.20.0
|
| 245 |
+
```
|
| 246 |
|
| 247 |
+
### حداقل سختافزار
|
| 248 |
+
- **CPU**: 8GB RAM
|
| 249 |
+
- **GPU**: 4GB VRAM (برای inference سریع)
|
| 250 |
+
- **Storage**: 3GB
|
| 251 |
|
| 252 |
+
---
|
| 253 |
|
| 254 |
+
## 📚 موارد استفاده
|
| 255 |
|
| 256 |
+
### ✅ موارد مناسب
|
| 257 |
+
- 🔒 حفاظت از حریم خصوصی در متون مالی
|
| 258 |
+
- 📊 آمادهسازی داده برای تحلیل
|
| 259 |
+
- 🤖 پیشپردازش برای مدلهای LLM
|
| 260 |
+
- 📄 ناشناسسازی اسناد قبل از اشتراکگذاری
|
| 261 |
+
- 🔍 تحقیقات علمی با دادههای حساس
|
| 262 |
|
| 263 |
+
### ⚠️ محدودیتها
|
| 264 |
+
- مدل برای متون فارسی بهینه شده (عملکرد ضعیف در زبانهای دیگر)
|
| 265 |
+
- ممکن است موجودیتهای غیرمتداول را از دست بدهد
|
| 266 |
+
- نیاز به بررسی دستی برای کاربردهای حساس
|
| 267 |
+
- Context window محدود به 32K tokens
|
| 268 |
|
| 269 |
+
---
|
| 270 |
|
| 271 |
+
## 🔐 حریم خصوصی و امنیت
|
| 272 |
|
| 273 |
+
### توجه
|
| 274 |
+
- این مدل به صورت خودکار متن را ناشناس میکند
|
| 275 |
+
- **همیشه نتایج را بررسی کنید** قبل از استفاده در محیط تولید
|
| 276 |
+
- برای کاربردهای بحرانی، از بررسی دستی استفاده کنید
|
| 277 |
+
- mapping اصلی را در مکان امن نگه دارید
|
| 278 |
|
| 279 |
+
### توصیهها
|
| 280 |
+
1. از HTTPS برای ارسال دادهها استفاده کنید
|
| 281 |
+
2. mapping را در دیتابیس رمزنگاری شده ذخیره کنید
|
| 282 |
+
3. دسترسی به mapping را محدود کنید
|
| 283 |
+
4. از audit logging استفاده کنید
|
| 284 |
|
| 285 |
+
---
|
| 286 |
|
| 287 |
+
## 🛠️ استفاده در Production
|
| 288 |
|
| 289 |
+
### Hugging Face Space
|
| 290 |
+
یک نمونه کامل در Space موجود است:
|
| 291 |
+
```
|
| 292 |
+
https://huggingface.co/spaces/KashefTech/Data-Anonymization
|
| 293 |
+
```
|
| 294 |
|
| 295 |
+
### Docker
|
| 296 |
+
```dockerfile
|
| 297 |
+
FROM python:3.10-slim
|
| 298 |
|
| 299 |
+
RUN pip install transformers torch accelerate
|
| 300 |
|
| 301 |
+
COPY . /app
|
| 302 |
+
WORKDIR /app
|
| 303 |
|
| 304 |
+
CMD ["python", "app.py"]
|
| 305 |
+
```
|
| 306 |
|
| 307 |
+
### API Deployment
|
| 308 |
+
```python
|
| 309 |
+
from fastapi import FastAPI
|
| 310 |
+
from pydantic import BaseModel
|
|
|
|
| 311 |
|
| 312 |
+
app = FastAPI()
|
| 313 |
|
| 314 |
+
class AnonymizationRequest(BaseModel):
|
| 315 |
+
text: str
|
| 316 |
|
| 317 |
+
@app.post("/anonymize")
|
| 318 |
+
async def anonymize(request: AnonymizationRequest):
|
| 319 |
+
result = anonymize_text(request.text)
|
| 320 |
+
return {"anonymized": result}
|
| 321 |
+
```
|
| 322 |
|
| 323 |
+
---
|
| 324 |
|
| 325 |
+
## 📝 لایسنس
|
| 326 |
|
| 327 |
+
این مدل تحت لایسنس **Apache 2.0** منتشر شده است.
|
| 328 |
|
| 329 |
+
- ✅ استفاده تجاری مجاز است
|
| 330 |
+
- ✅ تغییر و توزیع مجاز است
|
| 331 |
+
- ⚠️ بدون هیچ گارانتی ارائه میشود
|
| 332 |
|
| 333 |
+
---
|
| 334 |
|
| 335 |
+
## 🤝 مشارکت
|
| 336 |
|
| 337 |
+
برای بهبود مدل:
|
| 338 |
+
1. مشکلات را در Issues گزارش دهید
|
| 339 |
+
2. Pull Request بفرستید
|
| 340 |
+
3. دادههای آموزشی کمک کنید
|
| 341 |
|
| 342 |
+
---
|
| 343 |
|
| 344 |
+
## 📧 تماس
|
| 345 |
|
| 346 |
+
- GitHub: [YOUR_GITHUB]
|
| 347 |
+
- Email: [YOUR_EMAIL]
|
| 348 |
+
- Hugging Face: [@KashefTech](https://huggingface.co/KashefTech)
|
| 349 |
|
| 350 |
+
---
|
| 351 |
|
| 352 |
+
## 🙏 قدردانی
|
| 353 |
|
| 354 |
+
- [Qwen Team](https://huggingface.co/Qwen) برای مدل پایه
|
| 355 |
+
- [Hugging Face](https://huggingface.co/) برای زیرساخت
|
| 356 |
+
- جامعه فارسیزبان NLP
|
| 357 |
|
| 358 |
+
---
|
| 359 |
|
| 360 |
+
## 📚 ارجاعات
|
| 361 |
|
| 362 |
+
اگر از این مدل استفاده میکنید، لطفاً ارجاع دهید:
|
| 363 |
|
| 364 |
+
```bibtex
|
| 365 |
+
@misc{qwen-persian-anonymization,
|
| 366 |
+
author = {Your Name},
|
| 367 |
+
title = {Qwen2.5-1.5B Persian Text Anonymization},
|
| 368 |
+
year = {2025},
|
| 369 |
+
publisher = {Hugging Face},
|
| 370 |
+
howpublished = {\url{https://huggingface.co/KashefTech/qwen-anonymizer-lora}}
|
| 371 |
+
}
|
| 372 |
+
```
|
| 373 |
|
| 374 |
+
---
|
| 375 |
|
| 376 |
+
<div align="center">
|
| 377 |
|
| 378 |
+
**⭐ اگر این مدل برای شما مفید بود، یک ستاره بدهید!**
|
| 379 |
|
| 380 |
+
Made with ❤️ for Persian NLP Community
|
|
|
|
| 381 |
|
| 382 |
+
</div>
|