Datasets:
Update README.md
Browse files
README.md
CHANGED
|
@@ -21,17 +21,37 @@ Bu repository, [`ogulcanakca/epdk_corpus`](https://huggingface.co/datasets/ogulc
|
|
| 21 |
## 1. Pipeline
|
| 22 |
|
| 23 |
1. **Kaynak Veri:** [`ogulcanakca/epdk_corpus`](https://huggingface.co/datasets/ogulcanakca/epdk_corpus) (v2)
|
| 24 |
-
2. **
|
| 25 |
3. **Pipeline:** `obss/turkish-question-generation` reposundaki `GenerationAPI` kullanılmıştır.
|
| 26 |
4. **Süreç:**
|
| 27 |
* `epdk_corpus`'taki uzun dokümanlar, `mt5-small` modelinin bağlam penceresine (`max_source_length: 512`) sığması için yönetilebilir chunk'lara bölünmüştür.
|
| 28 |
* `GenerationAPI`'nin `answer-extraction` görevi, önce bu parçalardan "cevap olabilecek" anahtar kelimeleri çıkarmıştır.
|
| 29 |
* `question-generation` görevi, bu cevapları kullanarak metne sadık ve halüsinasyondan uzak sorular üretmiştilmeye amaçlanmıştır.
|
| 30 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 31 |
### Örnek Veri (Data Instance)
|
| 32 |
|
| 33 |
```json
|
| 34 |
{
|
| 35 |
"question": "Çevresel Etki Değerlendirmesi Olumlu Kararının mücbir sebepler dışında ne kadar süre içerisinde Kuruma sunulması zorunludur?",
|
| 36 |
"answer": "bir yıl içerisinde"
|
| 37 |
-
}
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 21 |
## 1. Pipeline
|
| 22 |
|
| 23 |
1. **Kaynak Veri:** [`ogulcanakca/epdk_corpus`](https://huggingface.co/datasets/ogulcanakca/epdk_corpus) (v2)
|
| 24 |
+
2. **Generator Model:** [`obss/mt5-small-3task-both-tquad2`](https://huggingface.co/obss/mt5-small-3task-both-tquad2)
|
| 25 |
3. **Pipeline:** `obss/turkish-question-generation` reposundaki `GenerationAPI` kullanılmıştır.
|
| 26 |
4. **Süreç:**
|
| 27 |
* `epdk_corpus`'taki uzun dokümanlar, `mt5-small` modelinin bağlam penceresine (`max_source_length: 512`) sığması için yönetilebilir chunk'lara bölünmüştür.
|
| 28 |
* `GenerationAPI`'nin `answer-extraction` görevi, önce bu parçalardan "cevap olabilecek" anahtar kelimeleri çıkarmıştır.
|
| 29 |
* `question-generation` görevi, bu cevapları kullanarak metne sadık ve halüsinasyondan uzak sorular üretmiştilmeye amaçlanmıştır.
|
| 30 |
|
| 31 |
+
|
| 32 |
+
```python
|
| 33 |
+
from datasets import load_dataset
|
| 34 |
+
ds = load_dataset("ogulcanakca/epdk_sft", revision="main")
|
| 35 |
+
```
|
| 36 |
+
|
| 37 |
### Örnek Veri (Data Instance)
|
| 38 |
|
| 39 |
```json
|
| 40 |
{
|
| 41 |
"question": "Çevresel Etki Değerlendirmesi Olumlu Kararının mücbir sebepler dışında ne kadar süre içerisinde Kuruma sunulması zorunludur?",
|
| 42 |
"answer": "bir yıl içerisinde"
|
| 43 |
+
}
|
| 44 |
+
```
|
| 45 |
+
|
| 46 |
+
#### Citation
|
| 47 |
+
* [`obss/mt5-small-3task-both-tquad2`](https://huggingface.co/obss/mt5-small-3task-both-tquad2) model:
|
| 48 |
+
```bibtex
|
| 49 |
+
@article{akyon2022questgen,
|
| 50 |
+
author = {Akyon, Fatih Cagatay and Cavusoglu, Ali Devrim Ekin and Cengiz, Cemil and Altinuc, Sinan Onur and Temizel, Alptekin},
|
| 51 |
+
doi = {10.3906/elk-1300-0632.3914},
|
| 52 |
+
journal = {Turkish Journal of Electrical Engineering and Computer Sciences},
|
| 53 |
+
title = {{Automated question generation and question answering from Turkish texts}},
|
| 54 |
+
url = {https://journals.tubitak.gov.tr/elektrik/vol30/iss5/17/},
|
| 55 |
+
year = {2022}
|
| 56 |
+
}
|
| 57 |
+
```
|