sts-tr / README.md
seali's picture
Upload README.md with huggingface_hub
f6f6a6a verified
|
Raw
History Blame Contribute Delete
3.26 kB
---
license: cc-by-4.0
language:
- tr
task_categories:
- sentence-similarity
- text-classification
tags:
- sts
- semantic-textual-similarity
- turkish
size_categories:
- n<1K
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---
# Türkçe Cümle Benzerliği Veri Seti (STS-TR)
Bu veri seti, [trmteb/stsb-tr](https://huggingface.co/datasets/trmteb/stsb-tr) yapısı örnek alınarak **elle (manuel)** hazırlanmış Türkçe bir Semantic Textual Similarity (STS) veri setidir.
## Veri Yapısı
| Alan | Tip | Açıklama |
|---|---|---|
| `sentence1` | string | Birinci cümle |
| `sentence2` | string | İkinci cümle |
| `score` | float | Anlamsal benzerlik puanı, **0.0 – 5.0** (STS-B ölçeği) |
| `label` | int | İkili etiket: **1** = anlamca benzer/alakalı, **0** = alakasız |
`label`, `score`'dan türetilmiştir: `score >= 2.0` → 1, aksi hâlde 0.
### Puanlama Ölçeği (STS-B standardı)
| Puan | Anlam |
|---|---|
| 5 | Tamamen aynı anlam; biri diğerinin yeniden ifadesi |
| 4 | Büyük ölçüde aynı; küçük ayrıntı farkı var |
| 3 | Kısmen aynı; bazı önemli bilgiler farklı |
| 2 | Aynı konu, farklı bilgi |
| 1 | Aynı alan/tema, anlamca farklı |
| 0 | Tamamen alakasız |
## İstatistikler
- **Toplam çift sayısı:** 40
- **Ödev üst sınırı:** maksimum 80 çift — bu sette 40 kullanılmıştır
- **Dağılım:** 20 yüksek benzerlik (score ≥ 3.8), 6 orta (2.0 ≤ score < 3.8), 14 düşük/alakasız (score < 2.0)
- **label = 1:** 26 çift &nbsp;|&nbsp; **label = 0:** 14 çift
Dağılım bilinçli olarak dengelenmiştir: yalnızca "aynı" ve "tamamen alakasız" uçları içeren bir set, modelin ara bölgeyi öğrenmesini engeller. Bu yüzden "adam gitar çalıyor / adam gitarı tamir ediyor" gibi **aynı varlık, farklı eylem** ve "fiyatlar arttı / maaşlar arttı" gibi **aynı kalıp, farklı özne** örnekleri özellikle eklenmiştir.
## İş Bölümü (İki Kişilik Grup Çalışması)
| Rol | Görev |
|---|---|
| **1. Kişi** | `sentence1` ve `sentence2` çiftlerini oluşturdu |
| **2. Kişi** | Her çiftin anlamsal ilişkisini `score` ve `label` olarak puanladı/etiketledi |
> **Not:** Puanlama tek bir değerlendiriciye aittir. İki değerlendirici bağımsız puanlama yapıp Pearson/Spearman uyumu ölçülürse (inter-annotator agreement) veri setinin güvenilirliği raporlanabilir.
## Kullanım
```python
from datasets import load_dataset
ds = load_dataset("KULLANICI_ADI/sts-tr")
print(ds["train"][0])
# {'sentence1': 'Bir adam gitar çalıyor.', 'sentence2': 'Bir erkek gitar çalmakta.', 'score': 5.0, 'label': 1}
```
Sentence-transformers ile eğitim/değerlendirme için puanlar 0–1 aralığına ölçeklenmelidir:
```python
from sentence_transformers import InputExample
examples = [
InputExample(texts=[r["sentence1"], r["sentence2"]], label=r["score"] / 5.0)
for r in ds["train"]
]
```
## Sınırlar
- Veri seti küçüktür (40 çift); eğitim için değil, **değerlendirme/gösterim** amaçlıdır.
- Cümleler elle yazılmıştır, doğal metinlerden örneklenmemiştir; bu nedenle gerçek dünya dağılımını yansıtmaz.
- Tek değerlendiricili puanlama öznellik içerir.
## Lisans
CC BY 4.0