hayriyigit commited on
Commit
b84eb4f
·
verified ·
1 Parent(s): c102e6c

Turkish answerability set

Browse files
Files changed (4) hide show
  1. .gitattributes +1 -0
  2. README.md +68 -0
  3. data/test.jsonl +0 -0
  4. data/train.jsonl +3 -0
.gitattributes CHANGED
@@ -58,3 +58,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
58
  # Video files - compressed
59
  *.mp4 filter=lfs diff=lfs merge=lfs -text
60
  *.webm filter=lfs diff=lfs merge=lfs -text
 
 
58
  # Video files - compressed
59
  *.mp4 filter=lfs diff=lfs merge=lfs -text
60
  *.webm filter=lfs diff=lfs merge=lfs -text
61
+ data/train.jsonl filter=lfs diff=lfs merge=lfs -text
README.md ADDED
@@ -0,0 +1,68 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - tr
4
+ license: other
5
+ license_name: synthetic-llm-generated
6
+ task_categories:
7
+ - text-classification
8
+ tags:
9
+ - answerability
10
+ - rag
11
+ - turkish
12
+ - synthetic
13
+ size_categories:
14
+ - 10K<n<100K
15
+ configs:
16
+ - config_name: default
17
+ data_files:
18
+ - split: train
19
+ path: data/train.jsonl
20
+ - split: test
21
+ path: data/test.jsonl
22
+ ---
23
+
24
+ # Cevaplanabilirlik minimal çiftleri (sentetik, Türkçe)
25
+
26
+ **Bu belge bu soruyu cevaplayabilir mi?** LLM ile yazılmış gerçekçi Türkçe belgeler (haber, ürün sayfası, resmi duyuru, rapor,
27
+ SSS, teknik özellik listesi, başlık listesi…) ve her belge için hem cevaplanabilir sorular hem de konuyla ilgili ama belgenin
28
+ cevaplamadığı **tuzak** sorular. Public veri setlerinin kapsamadığı durumlar için üretildi: belge aynı türden bilgiyi
29
+ içeriyor, ama başka bir kurum, varlık, yer, dönem ya da yön için.
30
+
31
+ | Split | Satır | Belge | Evet | Hayır |
32
+ |---|---:|---:|---:|---:|
33
+ | train | 10.774 | 1.757 | 3.245 | 7.529 |
34
+ | test | 1.170 | 195 | 352 | 818 |
35
+
36
+ ## Soru türleri (`kind`)
37
+
38
+ | Tür | Satır | Ne |
39
+ |---|---:|---|
40
+ | `answerable` | 3.597 | Cevabı belgede açıkça yazıyor (evet) |
41
+ | `kismi` | 2.330 | İki parçalı soru: bir parçası cevapsız |
42
+ | `varlik` | 1.260 | Aynı türden başka bir varlığın aynı özniteliği |
43
+ | `eksik_oznitelik` | 1.234 | Belgede olmayan bir öznitelik |
44
+ | `kurum` | 1.227 | Aynı işi yapan başka bir kurumun aynı bilgisi |
45
+ | `zaman` | 1.158 | Yayın tarihinden sonraki ya da kapsanmayan bir dönem |
46
+ | `yer_facet` | 1.138 | Başka bir şehir/bölge ya da istenenden farklı bir yön |
47
+
48
+ ## Nasıl üretildi
49
+
50
+ 1. **Yazar** (`mimo-v2.6-pro`, düşünme kapalı, `temperature=0.9`): her tohum için (25 konu × 10 belge türü, 2025-2026'dan bir
51
+ yayın tarihi, 6 tuzak türünden 5'i) 120-250 kelimelik bir belge (başlık, yayın tarihi, kaynak, metin), 2 cevaplanabilir soru
52
+ (belgeden birebir kanıt alıntısıyla) ve her tuzak türü için 1 cevaplanamaz soru yazdı. Kurgusal şirket, ürün ve kişi adları;
53
+ gerçek kamu kurumları geçebilir, rakamlar kurgusaldır.
54
+ 2. **Yargıç** (`deepseek-v4.1-flash`, düşük düşünme): her (belge, soru) çiftini yazarın etiketini görmeden yeniden etiketledi.
55
+ 3. **Tutulanlar:** yalnızca yargıcın yazarla aynı etiketi verdiği ve cevaplanabilir sorularda kanıt alıntısının metinde birebir
56
+ geçtiği sorular. Yazılan 12.934 sorudan 617 tanesinde yargıç yazarla ayrıştı ve soru atıldı.
57
+ 4. Belirli bir değerlendirme setiyle (judge set) örtüşmemesi için bazı adlar ve kombinasyonlar üretimden çıkarıldı.
58
+
59
+ `document`: başlık, yayın tarihi, kaynak ve metin, tek bir metin olarak. `meta`: konu, belge türü, tarih, yazarın gerekçesi ve
60
+ kanıt alıntısı. Test bölümü, train'de hiç geçmeyen belgelerden oluşur (belgeler bütün olarak ayrıldı).
61
+
62
+ ## Sınırlamalar
63
+
64
+ - Belgeler ve sorular LLM ürünüdür; bir insan tarafından kontrol edilmedi. İki modelin anlaşması etiket gürültüsünü azaltır,
65
+ sıfırlamaz.
66
+ - Hayır soruları evetlerin yaklaşık iki katıdır; eğitimde dengeleyin.
67
+ - Çıktıları üreten modellerin ve servis sağlayıcının kullanım şartları bu veri için de geçerli olabilir; ticari kullanımdan önce
68
+ kontrol edin.
data/test.jsonl ADDED
The diff for this file is too large to render. See raw diff
 
data/train.jsonl ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:43594485a3137b8a2a0e6bd72257c3dcd7d8663024a6fea27fab4f36247e180a
3
+ size 19612040