hayriyigit commited on
Commit
484b123
·
verified ·
1 Parent(s): b84eb4f

Card: technical terms in English

Browse files
Files changed (1) hide show
  1. README.md +6 -6
README.md CHANGED
@@ -21,7 +21,7 @@ configs:
21
  path: data/test.jsonl
22
  ---
23
 
24
- # Cevaplanabilirlik minimal çiftleri (sentetik, Türkçe)
25
 
26
  **Bu belge bu soruyu cevaplayabilir mi?** LLM ile yazılmış gerçekçi Türkçe belgeler (haber, ürün sayfası, resmi duyuru, rapor,
27
  SSS, teknik özellik listesi, başlık listesi…) ve her belge için hem cevaplanabilir sorular hem de konuyla ilgili ama belgenin
@@ -47,16 +47,16 @@ içeriyor, ama başka bir kurum, varlık, yer, dönem ya da yön için.
47
 
48
  ## Nasıl üretildi
49
 
50
- 1. **Yazar** (`mimo-v2.6-pro`, düşünme kapalı, `temperature=0.9`): her tohum için (25 konu × 10 belge türü, 2025-2026'dan bir
51
  yayın tarihi, 6 tuzak türünden 5'i) 120-250 kelimelik bir belge (başlık, yayın tarihi, kaynak, metin), 2 cevaplanabilir soru
52
  (belgeden birebir kanıt alıntısıyla) ve her tuzak türü için 1 cevaplanamaz soru yazdı. Kurgusal şirket, ürün ve kişi adları;
53
  gerçek kamu kurumları geçebilir, rakamlar kurgusaldır.
54
- 2. **Yargıç** (`deepseek-v4.1-flash`, düşük düşünme): her (belge, soru) çiftini yazarın etiketini görmeden yeniden etiketledi.
55
- 3. **Tutulanlar:** yalnızca yargıcın yazarla aynı etiketi verdiği ve cevaplanabilir sorularda kanıt alıntısının metinde birebir
56
- geçtiği sorular. Yazılan 12.934 sorudan 617 tanesinde yargıç yazarla ayrıştı ve soru atıldı.
57
  4. Belirli bir değerlendirme setiyle (judge set) örtüşmemesi için bazı adlar ve kombinasyonlar üretimden çıkarıldı.
58
 
59
- `document`: başlık, yayın tarihi, kaynak ve metin, tek bir metin olarak. `meta`: konu, belge türü, tarih, yazarın gerekçesi ve
60
  kanıt alıntısı. Test bölümü, train'de hiç geçmeyen belgelerden oluşur (belgeler bütün olarak ayrıldı).
61
 
62
  ## Sınırlamalar
 
21
  path: data/test.jsonl
22
  ---
23
 
24
+ # Cevaplanabilirlik minimal pair'leri (sentetik, Türkçe)
25
 
26
  **Bu belge bu soruyu cevaplayabilir mi?** LLM ile yazılmış gerçekçi Türkçe belgeler (haber, ürün sayfası, resmi duyuru, rapor,
27
  SSS, teknik özellik listesi, başlık listesi…) ve her belge için hem cevaplanabilir sorular hem de konuyla ilgili ama belgenin
 
47
 
48
  ## Nasıl üretildi
49
 
50
+ 1. **Writer** (`mimo-v2.6-pro`, reasoning kapalı, `temperature=0.9`): her seed için (25 konu × 10 belge türü, 2025-2026'dan bir
51
  yayın tarihi, 6 tuzak türünden 5'i) 120-250 kelimelik bir belge (başlık, yayın tarihi, kaynak, metin), 2 cevaplanabilir soru
52
  (belgeden birebir kanıt alıntısıyla) ve her tuzak türü için 1 cevaplanamaz soru yazdı. Kurgusal şirket, ürün ve kişi adları;
53
  gerçek kamu kurumları geçebilir, rakamlar kurgusaldır.
54
+ 2. **Judge** (`deepseek-v4.1-flash`, `reasoning_effort=low`): her (belge, soru) çiftini writer'ın label'ını görmeden yeniden etiketledi.
55
+ 3. **Tutulanlar:** yalnızca judge'ın writer ile aynı label'ı verdiği ve cevaplanabilir sorularda kanıt alıntısının metinde birebir
56
+ geçtiği sorular. Yazılan 12.934 sorudan 617 tanesinde judge writer'dan ayrıştı ve soru atıldı.
57
  4. Belirli bir değerlendirme setiyle (judge set) örtüşmemesi için bazı adlar ve kombinasyonlar üretimden çıkarıldı.
58
 
59
+ `document`: başlık, yayın tarihi, kaynak ve metin, tek bir metin olarak. `meta`: konu, belge türü, tarih, writer'ın gerekçesi ve
60
  kanıt alıntısı. Test bölümü, train'de hiç geçmeyen belgelerden oluşur (belgeler bütün olarak ayrıldı).
61
 
62
  ## Sınırlamalar