sts-tr / README.md
seali's picture
Upload README.md with huggingface_hub
f6f6a6a verified
|
Raw
History Blame Contribute Delete
3.26 kB
metadata
license: cc-by-4.0
language:
  - tr
task_categories:
  - sentence-similarity
  - text-classification
tags:
  - sts
  - semantic-textual-similarity
  - turkish
size_categories:
  - n<1K
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*

Türkçe Cümle Benzerliği Veri Seti (STS-TR)

Bu veri seti, trmteb/stsb-tr yapısı örnek alınarak elle (manuel) hazırlanmış Türkçe bir Semantic Textual Similarity (STS) veri setidir.

Veri Yapısı

Alan Tip Açıklama
sentence1 string Birinci cümle
sentence2 string İkinci cümle
score float Anlamsal benzerlik puanı, 0.0 – 5.0 (STS-B ölçeği)
label int İkili etiket: 1 = anlamca benzer/alakalı, 0 = alakasız

label, score'dan türetilmiştir: score >= 2.0 → 1, aksi hâlde 0.

Puanlama Ölçeği (STS-B standardı)

Puan Anlam
5 Tamamen aynı anlam; biri diğerinin yeniden ifadesi
4 Büyük ölçüde aynı; küçük ayrıntı farkı var
3 Kısmen aynı; bazı önemli bilgiler farklı
2 Aynı konu, farklı bilgi
1 Aynı alan/tema, anlamca farklı
0 Tamamen alakasız

İstatistikler

  • Toplam çift sayısı: 40
  • Ödev üst sınırı: maksimum 80 çift — bu sette 40 kullanılmıştır
  • Dağılım: 20 yüksek benzerlik (score ≥ 3.8), 6 orta (2.0 ≤ score < 3.8), 14 düşük/alakasız (score < 2.0)
  • label = 1: 26 çift  |  label = 0: 14 çift

Dağılım bilinçli olarak dengelenmiştir: yalnızca "aynı" ve "tamamen alakasız" uçları içeren bir set, modelin ara bölgeyi öğrenmesini engeller. Bu yüzden "adam gitar çalıyor / adam gitarı tamir ediyor" gibi aynı varlık, farklı eylem ve "fiyatlar arttı / maaşlar arttı" gibi aynı kalıp, farklı özne örnekleri özellikle eklenmiştir.

İş Bölümü (İki Kişilik Grup Çalışması)

Rol Görev
1. Kişi sentence1 ve sentence2 çiftlerini oluşturdu
2. Kişi Her çiftin anlamsal ilişkisini score ve label olarak puanladı/etiketledi

Not: Puanlama tek bir değerlendiriciye aittir. İki değerlendirici bağımsız puanlama yapıp Pearson/Spearman uyumu ölçülürse (inter-annotator agreement) veri setinin güvenilirliği raporlanabilir.

Kullanım

from datasets import load_dataset

ds = load_dataset("KULLANICI_ADI/sts-tr")
print(ds["train"][0])
# {'sentence1': 'Bir adam gitar çalıyor.', 'sentence2': 'Bir erkek gitar çalmakta.', 'score': 5.0, 'label': 1}

Sentence-transformers ile eğitim/değerlendirme için puanlar 0–1 aralığına ölçeklenmelidir:

from sentence_transformers import InputExample

examples = [
    InputExample(texts=[r["sentence1"], r["sentence2"]], label=r["score"] / 5.0)
    for r in ds["train"]
]

Sınırlar

  • Veri seti küçüktür (40 çift); eğitim için değil, değerlendirme/gösterim amaçlıdır.
  • Cümleler elle yazılmıştır, doğal metinlerden örneklenmemiştir; bu nedenle gerçek dünya dağılımını yansıtmaz.
  • Tek değerlendiricili puanlama öznellik içerir.

Lisans

CC BY 4.0