Datasets:
File size: 2,192 Bytes
ce75968 52f0b08 ce75968 2088edc ce75968 2088edc 52f0b08 ce75968 2088edc |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 |
---
language:
- tr
license: mit
tags:
- epdk
- turkish
- question-answering
- sft
configs:
- config_name: default
data_files:
- split: train
path: epdk_sft.jsonl
---
# EPDK SFT Veri Seti (v1.0) - Sentetik Soru-Cevap
Bu repository, [`ogulcanakca/epdk_corpus`](https://huggingface.co/datasets/ogulcanakca/epdk_corpus) veri setindeki ham EPDK mevzuat metinleri kullanılarak üretilmiş, **sentetik Soru-Cevap (QA) veri seti** içerir.
## 1. Pipeline
1. **Kaynak Veri:** [`ogulcanakca/epdk_corpus`](https://huggingface.co/datasets/ogulcanakca/epdk_corpus) (v2)
2. **Generator Model:** [`obss/mt5-small-3task-both-tquad2`](https://huggingface.co/obss/mt5-small-3task-both-tquad2)
3. **Pipeline:** `obss/turkish-question-generation` reposundaki `GenerationAPI` kullanılmıştır.
4. **Süreç:**
* `epdk_corpus`'taki uzun dokümanlar, `mt5-small` modelinin bağlam penceresine (`max_source_length: 512`) sığması için yönetilebilir chunk'lara bölünmüştür.
* `GenerationAPI`'nin `answer-extraction` görevi, önce bu parçalardan "cevap olabilecek" anahtar kelimeleri çıkarmıştır.
* `question-generation` görevi, bu cevapları kullanarak metne sadık ve halüsinasyondan uzak sorular üretmiştilmeye amaçlanmıştır.
```python
from datasets import load_dataset
ds = load_dataset("ogulcanakca/epdk_sft", revision="main")
```
### Örnek Veri
```json
{
"question": "Çevresel Etki Değerlendirmesi Olumlu Kararının mücbir sebepler dışında ne kadar süre içerisinde Kuruma sunulması zorunludur?",
"answer": "bir yıl içerisinde"
}
```
#### Citation
* [`obss/mt5-small-3task-both-tquad2`](https://huggingface.co/obss/mt5-small-3task-both-tquad2) model:
```bibtex
@article{akyon2022questgen,
author = {Akyon, Fatih Cagatay and Cavusoglu, Ali Devrim Ekin and Cengiz, Cemil and Altinuc, Sinan Onur and Temizel, Alptekin},
doi = {10.3906/elk-1300-0632.3914},
journal = {Turkish Journal of Electrical Engineering and Computer Sciences},
title = {{Automated question generation and question answering from Turkish texts}},
url = {https://journals.tubitak.gov.tr/elektrik/vol30/iss5/17/},
year = {2022}
}
``` |