license: cc-by-4.0
language:
- tr
task_categories:
- sentence-similarity
- text-classification
tags:
- sts
- semantic-textual-similarity
- turkish
size_categories:
- n<1K
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
Türkçe Cümle Benzerliği Veri Seti (STS-TR)
Bu veri seti, trmteb/stsb-tr yapısı örnek alınarak elle (manuel) hazırlanmış Türkçe bir Semantic Textual Similarity (STS) veri setidir.
Veri Yapısı
| Alan | Tip | Açıklama |
|---|---|---|
sentence1 |
string | Birinci cümle |
sentence2 |
string | İkinci cümle |
score |
float | Anlamsal benzerlik puanı, 0.0 – 5.0 (STS-B ölçeği) |
label |
int | İkili etiket: 1 = anlamca benzer/alakalı, 0 = alakasız |
label, score'dan türetilmiştir: score >= 2.0 → 1, aksi hâlde 0.
Puanlama Ölçeği (STS-B standardı)
| Puan | Anlam |
|---|---|
| 5 | Tamamen aynı anlam; biri diğerinin yeniden ifadesi |
| 4 | Büyük ölçüde aynı; küçük ayrıntı farkı var |
| 3 | Kısmen aynı; bazı önemli bilgiler farklı |
| 2 | Aynı konu, farklı bilgi |
| 1 | Aynı alan/tema, anlamca farklı |
| 0 | Tamamen alakasız |
İstatistikler
- Toplam çift sayısı: 40
- Ödev üst sınırı: maksimum 80 çift — bu sette 40 kullanılmıştır
- Dağılım: 20 yüksek benzerlik (score ≥ 3.8), 6 orta (2.0 ≤ score < 3.8), 14 düşük/alakasız (score < 2.0)
- label = 1: 26 çift | label = 0: 14 çift
Dağılım bilinçli olarak dengelenmiştir: yalnızca "aynı" ve "tamamen alakasız" uçları içeren bir set, modelin ara bölgeyi öğrenmesini engeller. Bu yüzden "adam gitar çalıyor / adam gitarı tamir ediyor" gibi aynı varlık, farklı eylem ve "fiyatlar arttı / maaşlar arttı" gibi aynı kalıp, farklı özne örnekleri özellikle eklenmiştir.
İş Bölümü (İki Kişilik Grup Çalışması)
| Rol | Görev |
|---|---|
| 1. Kişi | sentence1 ve sentence2 çiftlerini oluşturdu |
| 2. Kişi | Her çiftin anlamsal ilişkisini score ve label olarak puanladı/etiketledi |
Not: Puanlama tek bir değerlendiriciye aittir. İki değerlendirici bağımsız puanlama yapıp Pearson/Spearman uyumu ölçülürse (inter-annotator agreement) veri setinin güvenilirliği raporlanabilir.
Kullanım
from datasets import load_dataset
ds = load_dataset("KULLANICI_ADI/sts-tr")
print(ds["train"][0])
# {'sentence1': 'Bir adam gitar çalıyor.', 'sentence2': 'Bir erkek gitar çalmakta.', 'score': 5.0, 'label': 1}
Sentence-transformers ile eğitim/değerlendirme için puanlar 0–1 aralığına ölçeklenmelidir:
from sentence_transformers import InputExample
examples = [
InputExample(texts=[r["sentence1"], r["sentence2"]], label=r["score"] / 5.0)
for r in ds["train"]
]
Sınırlar
- Veri seti küçüktür (40 çift); eğitim için değil, değerlendirme/gösterim amaçlıdır.
- Cümleler elle yazılmıştır, doğal metinlerden örneklenmemiştir; bu nedenle gerçek dünya dağılımını yansıtmaz.
- Tek değerlendiricili puanlama öznellik içerir.
Lisans
CC BY 4.0