GoktugD's picture
Release v2.0 with provenance and quality audits
68c06e3 verified
|
Raw
History Blame Contribute Delete
2.88 kB
metadata
license: cc0-1.0
language:
  - tr
task_categories:
  - text-generation
size_categories:
  - 100K<n<1M
tags:
  - turkish
  - synthetic
  - parquet
  - provenance
  - deduplicated
pretty_name: Turkish Datetime Normalization 500K v2
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*.parquet
      - split: validation
        path: data/validation-*.parquet
      - split: test
        path: data/test-*.parquet

Turkish Datetime Normalization 500K v2

Türkçe tarih-saat ifadelerini ISO-8601 ve Europe/Istanbul saat dilimine eşler.

Doğrulanmış boyut

  • Train: 490,000
  • Validation: 5,000
  • Test: 5,000
  • Toplam: 500,000
  • Ana görev sütunları: id, text, normalized_datetime, timezone

Provenance

Veri insan mesajlarından, belgelerinden veya web kazımasından alınmamıştır. Tamamı depodaki üretici koduyla deterministik olarak oluşturulur. Her satırda source_type, provenance, generator_version, generator_sha256, generation_seed, template_id, split_group ve record_fingerprint alanları bulunur. Üretici sürümü: 2.0.0. Üretici SHA-256: 38b7e8061db2634a80d7f77ee75d8eeed3bccf7a30e29407dd79fd87f4d5cf6c.

Split politikası

Kişi, şehir, kurum, nesne, zaman ifadesi ve bağlam şablonu havuzları train, validation ve test arasında ayrılmıştır. Değerlendirme split'leri eğitimde görülmeyen birincil varlık ve bağlam şablonlarını kullanır. Sayı ve tarih veri setlerinde ise mod-100 tabanlı hash-stratified ayırma uygulanır: 0–97 train, 98 validation, 99 test. Kesin içerik parmak izleri split'ler arasında çakışamaz.

Deduplication ve contamination

record_fingerprint; kimlik ve provenance alanları çıkarıldıktan, Unicode NFC, casefold, boşluk normalizasyonu ve sentetik kimlik maskelemesi uygulandıktan sonra SHA-256 ile hesaplanır. Tam dedup, split leakage, yakın-benzerlik örneklemesi ve haricî benchmark contamination sonuçları QUALITY_REPORT.md dosyasında yayımlanır.

Lisans

Üretici ve ortaya çıkan sentetik veri CC0-1.0 olarak sunulur. Haricî benchmark metinleri bu depoya kopyalanmaz; yalnızca contamination denetiminde hash/benzerlik karşılaştırması için kullanılır.

Sınırlamalar

Bu büyük, kontrollü bir sentetik veri setidir; gerçek Türkçe kullanımının bütün bölgesel, toplumsal ve söylemsel çeşitliliğini temsil etmez. Şablon yapısı ölçülebilir biçimde mevcuttur. Bağımsız insan değerlendirmesi yapılmamıştır; model-assisted örnek incelemesi insan anotasyonu olarak sunulmaz. Yüksek riskli kullanım için tek başına uygun değildir.

Raporlar