Datasets:
Tasks:
Text Classification
Modalities:
Text
Formats:
json
Languages:
Turkish
Size:
10K - 100K
License:
Card: technical terms in English
Browse files
README.md
CHANGED
|
@@ -21,7 +21,7 @@ configs:
|
|
| 21 |
path: data/test.jsonl
|
| 22 |
---
|
| 23 |
|
| 24 |
-
# Cevaplanabilirlik minimal
|
| 25 |
|
| 26 |
**Bu belge bu soruyu cevaplayabilir mi?** LLM ile yazılmış gerçekçi Türkçe belgeler (haber, ürün sayfası, resmi duyuru, rapor,
|
| 27 |
SSS, teknik özellik listesi, başlık listesi…) ve her belge için hem cevaplanabilir sorular hem de konuyla ilgili ama belgenin
|
|
@@ -47,16 +47,16 @@ içeriyor, ama başka bir kurum, varlık, yer, dönem ya da yön için.
|
|
| 47 |
|
| 48 |
## Nasıl üretildi
|
| 49 |
|
| 50 |
-
1. **
|
| 51 |
yayın tarihi, 6 tuzak türünden 5'i) 120-250 kelimelik bir belge (başlık, yayın tarihi, kaynak, metin), 2 cevaplanabilir soru
|
| 52 |
(belgeden birebir kanıt alıntısıyla) ve her tuzak türü için 1 cevaplanamaz soru yazdı. Kurgusal şirket, ürün ve kişi adları;
|
| 53 |
gerçek kamu kurumları geçebilir, rakamlar kurgusaldır.
|
| 54 |
-
2. **
|
| 55 |
-
3. **Tutulanlar:** yalnızca
|
| 56 |
-
geçtiği sorular. Yazılan 12.934 sorudan 617 tanesinde
|
| 57 |
4. Belirli bir değerlendirme setiyle (judge set) örtüşmemesi için bazı adlar ve kombinasyonlar üretimden çıkarıldı.
|
| 58 |
|
| 59 |
-
`document`: başlık, yayın tarihi, kaynak ve metin, tek bir metin olarak. `meta`: konu, belge türü, tarih,
|
| 60 |
kanıt alıntısı. Test bölümü, train'de hiç geçmeyen belgelerden oluşur (belgeler bütün olarak ayrıldı).
|
| 61 |
|
| 62 |
## Sınırlamalar
|
|
|
|
| 21 |
path: data/test.jsonl
|
| 22 |
---
|
| 23 |
|
| 24 |
+
# Cevaplanabilirlik minimal pair'leri (sentetik, Türkçe)
|
| 25 |
|
| 26 |
**Bu belge bu soruyu cevaplayabilir mi?** LLM ile yazılmış gerçekçi Türkçe belgeler (haber, ürün sayfası, resmi duyuru, rapor,
|
| 27 |
SSS, teknik özellik listesi, başlık listesi…) ve her belge için hem cevaplanabilir sorular hem de konuyla ilgili ama belgenin
|
|
|
|
| 47 |
|
| 48 |
## Nasıl üretildi
|
| 49 |
|
| 50 |
+
1. **Writer** (`mimo-v2.6-pro`, reasoning kapalı, `temperature=0.9`): her seed için (25 konu × 10 belge türü, 2025-2026'dan bir
|
| 51 |
yayın tarihi, 6 tuzak türünden 5'i) 120-250 kelimelik bir belge (başlık, yayın tarihi, kaynak, metin), 2 cevaplanabilir soru
|
| 52 |
(belgeden birebir kanıt alıntısıyla) ve her tuzak türü için 1 cevaplanamaz soru yazdı. Kurgusal şirket, ürün ve kişi adları;
|
| 53 |
gerçek kamu kurumları geçebilir, rakamlar kurgusaldır.
|
| 54 |
+
2. **Judge** (`deepseek-v4.1-flash`, `reasoning_effort=low`): her (belge, soru) çiftini writer'ın label'ını görmeden yeniden etiketledi.
|
| 55 |
+
3. **Tutulanlar:** yalnızca judge'ın writer ile aynı label'ı verdiği ve cevaplanabilir sorularda kanıt alıntısının metinde birebir
|
| 56 |
+
geçtiği sorular. Yazılan 12.934 sorudan 617 tanesinde judge writer'dan ayrıştı ve soru atıldı.
|
| 57 |
4. Belirli bir değerlendirme setiyle (judge set) örtüşmemesi için bazı adlar ve kombinasyonlar üretimden çıkarıldı.
|
| 58 |
|
| 59 |
+
`document`: başlık, yayın tarihi, kaynak ve metin, tek bir metin olarak. `meta`: konu, belge türü, tarih, writer'ın gerekçesi ve
|
| 60 |
kanıt alıntısı. Test bölümü, train'de hiç geçmeyen belgelerden oluşur (belgeler bütün olarak ayrıldı).
|
| 61 |
|
| 62 |
## Sınırlamalar
|