Datasets:
Update README.md
Browse files
README.md
CHANGED
|
@@ -1,3 +1,37 @@
|
|
| 1 |
-
---
|
| 2 |
-
|
| 3 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
language:
|
| 3 |
+
- tr
|
| 4 |
+
license: mit
|
| 5 |
+
tags:
|
| 6 |
+
- epdk
|
| 7 |
+
- turkish
|
| 8 |
+
- question-answering
|
| 9 |
+
- sft
|
| 10 |
+
configs:
|
| 11 |
+
- config_name: default
|
| 12 |
+
data_files:
|
| 13 |
+
- split: train
|
| 14 |
+
path: epdk_sft.jsonl
|
| 15 |
+
---
|
| 16 |
+
|
| 17 |
+
# EPDK SFT Veri Seti (v1.0) - Sentetik Soru-Cevap
|
| 18 |
+
|
| 19 |
+
Bu repository, [`ogulcanakca/epdk_corpus`](https://huggingface.co/datasets/ogulcanakca/epdk_corpus) veri setindeki ham EPDK mevzuat metinleri kullanılarak üretilmiş, **sentetik bir Soru-Cevap (QA) veri seti** içerir.
|
| 20 |
+
|
| 21 |
+
## 1. Pipeline
|
| 22 |
+
|
| 23 |
+
1. **Kaynak Veri:** [`ogulcanakca/epdk_corpus`](https://huggingface.co/datasets/ogulcanakca/epdk_corpus) (v2)
|
| 24 |
+
2. **Jeneratör Model:** [`obss/mt5-small-3task-both-tquad2`](https://huggingface.co/obss/mt5-small-3task-both-tquad2)
|
| 25 |
+
3. **Pipeline:** `obss/turkish-question-generation` reposundaki `GenerationAPI` kullanılmıştır.
|
| 26 |
+
4. **Süreç:**
|
| 27 |
+
* `epdk_corpus`'taki uzun dokümanlar, `mt5-small` modelinin bağlam penceresine (`max_source_length: 512`) sığması için yönetilebilir chunk'lara bölünmüştür.
|
| 28 |
+
* `GenerationAPI`'nin `answer-extraction` görevi, önce bu parçalardan "cevap olabilecek" anahtar kelimeleri çıkarmıştır.
|
| 29 |
+
* `question-generation` görevi, bu cevapları kullanarak metne sadık ve halüsinasyondan uzak sorular üretmiştilmeye amaçlanmıştır.
|
| 30 |
+
|
| 31 |
+
### Örnek Veri (Data Instance)
|
| 32 |
+
|
| 33 |
+
```json
|
| 34 |
+
{
|
| 35 |
+
"question": "Çevresel Etki Değerlendirmesi Olumlu Kararının mücbir sebepler dışında ne kadar süre içerisinde Kuruma sunulması zorunludur?",
|
| 36 |
+
"answer": "bir yıl içerisinde"
|
| 37 |
+
}
|