--- language: - tr license: mit tags: - epdk - turkish - question-answering - sft configs: - config_name: default data_files: - split: train path: epdk_sft.jsonl --- # EPDK SFT Veri Seti (v1.0) - Sentetik Soru-Cevap Bu repository, [`ogulcanakca/epdk_corpus`](https://huggingface.co/datasets/ogulcanakca/epdk_corpus) veri setindeki ham EPDK mevzuat metinleri kullanılarak üretilmiş, **sentetik Soru-Cevap (QA) veri seti** içerir. ## 1. Pipeline 1. **Kaynak Veri:** [`ogulcanakca/epdk_corpus`](https://huggingface.co/datasets/ogulcanakca/epdk_corpus) (v2) 2. **Generator Model:** [`obss/mt5-small-3task-both-tquad2`](https://huggingface.co/obss/mt5-small-3task-both-tquad2) 3. **Pipeline:** `obss/turkish-question-generation` reposundaki `GenerationAPI` kullanılmıştır. 4. **Süreç:** * `epdk_corpus`'taki uzun dokümanlar, `mt5-small` modelinin bağlam penceresine (`max_source_length: 512`) sığması için yönetilebilir chunk'lara bölünmüştür. * `GenerationAPI`'nin `answer-extraction` görevi, önce bu parçalardan "cevap olabilecek" anahtar kelimeleri çıkarmıştır. * `question-generation` görevi, bu cevapları kullanarak metne sadık ve halüsinasyondan uzak sorular üretmiştilmeye amaçlanmıştır. ```python from datasets import load_dataset ds = load_dataset("ogulcanakca/epdk_sft", revision="main") ``` ### Örnek Veri ```json { "question": "Çevresel Etki Değerlendirmesi Olumlu Kararının mücbir sebepler dışında ne kadar süre içerisinde Kuruma sunulması zorunludur?", "answer": "bir yıl içerisinde" } ``` #### Citation * [`obss/mt5-small-3task-both-tquad2`](https://huggingface.co/obss/mt5-small-3task-both-tquad2) model: ```bibtex @article{akyon2022questgen, author = {Akyon, Fatih Cagatay and Cavusoglu, Ali Devrim Ekin and Cengiz, Cemil and Altinuc, Sinan Onur and Temizel, Alptekin}, doi = {10.3906/elk-1300-0632.3914}, journal = {Turkish Journal of Electrical Engineering and Computer Sciences}, title = {{Automated question generation and question answering from Turkish texts}}, url = {https://journals.tubitak.gov.tr/elektrik/vol30/iss5/17/}, year = {2022} } ```