The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.
Not: Bu veri setinin dokümantasyonu Türk yapay zeka topluluğuna katkı sağlamak amacıyla VeriPazarı tarafından Türkçeye çevrilmiştir. Orijinal veri seti obss tarafından geliştirilmiş olup, VeriPazarı tarafından Türk AI ekosistemi için arşivlenmiştir.
🔗 Orijinal Kaynak: obss/turkish-question-generation 🔗 Derleyen Platform: VeriPazarı
Türkçe Soru Üretimi
"Automated question generation & question answering from Turkish texts"
atıf
Bu yazılımı çalışmalarınızda kullanırsanız, lütfen şu şekilde atıfta bulunun:
@article{akyon2022questgen,
author = {Akyon, Fatih Cagatay and Cavusoglu, Ali Devrim Ekin and Cengiz, Cemil and Altinuc, Sinan Onur and Temizel, Alptekin},
doi = {10.3906/elk-1300-0632.3914},
journal = {Turkish Journal of Electrical Engineering and Computer Sciences},
title = {{Automated question generation and question answering from Turkish texts}},
url = {https://journals.tubitak.gov.tr/elektrik/vol30/iss5/17/},
year = {2022}
}
kurulum
git clone https://github.com/obss/turkish-question-generation.git
cd turkish-question-generation
pip install -r requirements.txt
eğitim
- Argümanları kullanarak eğitimi başlatın:
python run.py --model_name_or_path google/mt5-small --output_dir runs/exp1 --do_train --do_eval --tokenizer_name_or_path mt5_qg_tokenizer --per_device_train_batch_size 4 --gradient_accumulation_steps 2 --learning_rate 1e-4 --seed 42 --save_total_limit 1
- json yapılandırma dosyasını indirin ve eğitimi başlatın:
python run.py config.json
- yaml yapılandırma dosyasını indirin ve eğitimi başlatın:
python run.py config.yaml
değerlendirme
- İlgili parametreleri yapılandırma dosyasında düzenleyin:
do_train: false
do_eval: true
eval_dataset_list: ["tquad2-valid", "xquad.tr"]
prepare_data: true
mt5_task_list: ["qa", "qg", "ans_ext"]
mt5_qg_format: "both"
no_cuda: false
- Değerlendirmeyi başlatın:
python run.py config.yaml
neptune
- neptune kurulumu:
pip install neptune-client
- yapılandırma dosyasını indirin ve neptune parametrelerini düzenleyin:
run_name: 'exp1'
neptune_project: 'name/project'
neptune_api_token: 'YOUR_API_TOKEN'
- Eğitimi başlatın:
python train.py config.yaml
wandb
- wandb kurulumu:
pip install wandb
- yapılandırma dosyasını indirin ve wandb parametrelerini düzenleyin:
run_name: 'exp1'
wandb_project: 'turque'
- Eğitimi başlatın:
python train.py config.yaml
ince ayar yapılmış kontrol noktaları (checkpoints)
| isim | model | eğitim · verisi | eğitilen · görevler | model boyutu · (GB) |
|---|---|---|---|---|
| mt5-small-3task-highlight-tquad2 | mt5-small | tquad2-train | QA,QG,AnsExt | 1.2GB |
| mt5-small-3task-prepend-tquad2 | mt5-small | tquad2-train | QA,QG,AnsExt | 1.2GB |
| mt5-small-3task-highlight-combined3 | mt5-small | tquad2-train+tquad2-valid+xquad.tr | QA,QG,AnsExt | 1.2GB |
| mt5-base-3task-highlight-tquad2 | mt5-base | tquad2-train | QA,QG,AnsExt | 2.3GB |
| mt5-base-3task-highlight-combined3 | mt5-base | tquad2-train+tquad2-valid+xquad.tr | QA,QG,AnsExt | 2.3GB |
format
- cevap çıkarma (answer extraction):
girdi:
"<hl> Osman Bey 1258 yılında Söğüt’te doğdu. <hl> Osman Bey 1 Ağustos 1326’da Bursa’da hayatını kaybetmiştir.1281 yılında Osman Bey 23 yaşında iken Ahi teşkilatından olan Şeyh Edebali’nin kızı Malhun Hatun ile evlendi."
hedef:
<sep> 1258 <sep> Söğüt’te <sep>
- soru cevaplama (question answering):
girdi:
"question: Osman Bey nerede doğmuştur? context: Osman Bey 1258 yılında Söğüt’te doğdu. Osman Bey 1 Ağustos 1326’da Bursa’da hayatını kaybetmiştir.1281 yılında Osman Bey 23 yaşında iken Ahi teşkilatından olan Şeyh Edebali’nin kızı Malhun Hatun ile evlendi."
hedef:
"Söğüt’te"
- soru üretimi (prepend):
girdi:
"answer: Söğüt’te context: Osman Bey 1258 yılında Söğüt’te doğdu. Osman Bey 1 Ağustos 1326’da Bursa’da hayatını kaybetmiştir.1281 yılında Osman Bey 23 yaşında iken Ahi teşkilatından olan Şeyh Edebali’nin kızı Malhun Hatun ile evlendi."
hedef:
"Osman Bey nerede doğmuştur?"
- soru üretimi (highlight):
girdi:
"generate question: Osman Bey 1258 yılında <hl> Söğüt’te <hl> doğdu. Osman Bey 1 Ağustos 1326’da Bursa’da hayatını kaybetmiştir.1281 yılında Osman Bey 23 yaşında iken Ahi teşkilatından olan Şeyh Edebali’nin kızı Malhun Hatun ile evlendi."
hedef:
"Osman Bey nerede doğmuştur?"
- soru üretimi (both):
girdi:
"answer: Söğüt’te context: Osman Bey 1258 yılında <hl> Söğüt’te <hl> doğdu. Osman Bey 1 Ağustos 1326’da Bursa’da hayatını kaybetmiştir.1281 yılında Osman Bey 23 yaşında iken Ahi teşkilatından olan Şeyh Edebali’nin kızı Malhun Hatun ile evlendi."
hedef:
"Osman Bey nerede doğmuştur?"
makale sonuçları
TQuADv2 ince ayarı için BERTurk-base ve mT5-base soru cevaplama (QA) değerlendirme sonuçları.
TQuADv2 ince ayarı için tek görevli (ST) ve çok görevli (MT) mT5-base soru üretimi (QG) değerlendirme sonuçları.
Çok görevli mT5 varyantları için TQuADv1 ve TQuADv2 ince ayarlı soru üretimi (QG) değerlendirme sonuçları. MT-Both, mT5 modelinin 'Both' girdi formatı ile ve çok görevli bir ortamda ince ayarlandığı anlamına gelir.
makale yapılandırmaları
Makalede kullanılan yapılandırma dosyalarını configs/paper altında bulabilirsiniz.
katkıda bulunma
Bir PR (çekme isteği) açmadan önce:
- Gerekli geliştirme paketlerini kurun:
pip install "black==21.7b0" "flake8==3.9.2" "isort==5.9.2"
- black ve isort ile yeniden biçimlendirin:
black . --config pyproject.toml
isort .
Bu dosya veripazari.com.tr topluluğu tarafından Hugging Face altyapısında barındırılmaktadır. Orijinal emeğe saygı gereği lisans, metadata ve kaynak referansları korunmuştur.
- Downloads last month
- 35


