ogulcanakca commited on
Commit
2088edc
·
verified ·
1 Parent(s): ce75968

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +22 -2
README.md CHANGED
@@ -21,17 +21,37 @@ Bu repository, [`ogulcanakca/epdk_corpus`](https://huggingface.co/datasets/ogulc
21
  ## 1. Pipeline
22
 
23
  1. **Kaynak Veri:** [`ogulcanakca/epdk_corpus`](https://huggingface.co/datasets/ogulcanakca/epdk_corpus) (v2)
24
- 2. **Jeneratör Model:** [`obss/mt5-small-3task-both-tquad2`](https://huggingface.co/obss/mt5-small-3task-both-tquad2)
25
  3. **Pipeline:** `obss/turkish-question-generation` reposundaki `GenerationAPI` kullanılmıştır.
26
  4. **Süreç:**
27
  * `epdk_corpus`'taki uzun dokümanlar, `mt5-small` modelinin bağlam penceresine (`max_source_length: 512`) sığması için yönetilebilir chunk'lara bölünmüştür.
28
  * `GenerationAPI`'nin `answer-extraction` görevi, önce bu parçalardan "cevap olabilecek" anahtar kelimeleri çıkarmıştır.
29
  * `question-generation` görevi, bu cevapları kullanarak metne sadık ve halüsinasyondan uzak sorular üretmiştilmeye amaçlanmıştır.
30
 
 
 
 
 
 
 
31
  ### Örnek Veri (Data Instance)
32
 
33
  ```json
34
  {
35
  "question": "Çevresel Etki Değerlendirmesi Olumlu Kararının mücbir sebepler dışında ne kadar süre içerisinde Kuruma sunulması zorunludur?",
36
  "answer": "bir yıl içerisinde"
37
- }
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
21
  ## 1. Pipeline
22
 
23
  1. **Kaynak Veri:** [`ogulcanakca/epdk_corpus`](https://huggingface.co/datasets/ogulcanakca/epdk_corpus) (v2)
24
+ 2. **Generator Model:** [`obss/mt5-small-3task-both-tquad2`](https://huggingface.co/obss/mt5-small-3task-both-tquad2)
25
  3. **Pipeline:** `obss/turkish-question-generation` reposundaki `GenerationAPI` kullanılmıştır.
26
  4. **Süreç:**
27
  * `epdk_corpus`'taki uzun dokümanlar, `mt5-small` modelinin bağlam penceresine (`max_source_length: 512`) sığması için yönetilebilir chunk'lara bölünmüştür.
28
  * `GenerationAPI`'nin `answer-extraction` görevi, önce bu parçalardan "cevap olabilecek" anahtar kelimeleri çıkarmıştır.
29
  * `question-generation` görevi, bu cevapları kullanarak metne sadık ve halüsinasyondan uzak sorular üretmiştilmeye amaçlanmıştır.
30
 
31
+
32
+ ```python
33
+ from datasets import load_dataset
34
+ ds = load_dataset("ogulcanakca/epdk_sft", revision="main")
35
+ ```
36
+
37
  ### Örnek Veri (Data Instance)
38
 
39
  ```json
40
  {
41
  "question": "Çevresel Etki Değerlendirmesi Olumlu Kararının mücbir sebepler dışında ne kadar süre içerisinde Kuruma sunulması zorunludur?",
42
  "answer": "bir yıl içerisinde"
43
+ }
44
+ ```
45
+
46
+ #### Citation
47
+ * [`obss/mt5-small-3task-both-tquad2`](https://huggingface.co/obss/mt5-small-3task-both-tquad2) model:
48
+ ```bibtex
49
+ @article{akyon2022questgen,
50
+ author = {Akyon, Fatih Cagatay and Cavusoglu, Ali Devrim Ekin and Cengiz, Cemil and Altinuc, Sinan Onur and Temizel, Alptekin},
51
+ doi = {10.3906/elk-1300-0632.3914},
52
+ journal = {Turkish Journal of Electrical Engineering and Computer Sciences},
53
+ title = {{Automated question generation and question answering from Turkish texts}},
54
+ url = {https://journals.tubitak.gov.tr/elektrik/vol30/iss5/17/},
55
+ year = {2022}
56
+ }
57
+ ```