GoktugD's picture
Release v2.0 with provenance and quality audits
68c06e3 verified
|
Raw
History Blame Contribute Delete
2.88 kB
---
license: cc0-1.0
language:
- tr
task_categories:
- text-generation
size_categories:
- 100K<n<1M
tags:
- turkish
- synthetic
- parquet
- provenance
- deduplicated
pretty_name: Turkish Datetime Normalization 500K v2
configs:
- config_name: default
data_files:
- split: train
path: data/train-*.parquet
- split: validation
path: data/validation-*.parquet
- split: test
path: data/test-*.parquet
---
# Turkish Datetime Normalization 500K v2
Türkçe tarih-saat ifadelerini ISO-8601 ve Europe/Istanbul saat dilimine eşler.
## Doğrulanmış boyut
- Train: 490,000
- Validation: 5,000
- Test: 5,000
- Toplam: 500,000
- Ana görev sütunları: id, text, normalized_datetime, timezone
## Provenance
Veri insan mesajlarından, belgelerinden veya web kazımasından alınmamıştır. Tamamı
depodaki üretici koduyla deterministik olarak oluşturulur. Her satırda source_type,
provenance, generator_version, generator_sha256, generation_seed, template_id,
split_group ve record_fingerprint alanları bulunur. Üretici sürümü: 2.0.0.
Üretici SHA-256: 38b7e8061db2634a80d7f77ee75d8eeed3bccf7a30e29407dd79fd87f4d5cf6c.
## Split politikası
Kişi, şehir, kurum, nesne, zaman ifadesi ve bağlam şablonu havuzları train,
validation ve test arasında ayrılmıştır. Değerlendirme split'leri eğitimde görülmeyen
birincil varlık ve bağlam şablonlarını kullanır. Sayı ve tarih veri setlerinde ise
mod-100 tabanlı hash-stratified ayırma uygulanır: 0–97 train, 98 validation,
99 test. Kesin içerik parmak izleri split'ler arasında çakışamaz.
## Deduplication ve contamination
record_fingerprint; kimlik ve provenance alanları çıkarıldıktan, Unicode NFC,
casefold, boşluk normalizasyonu ve sentetik kimlik maskelemesi uygulandıktan sonra
SHA-256 ile hesaplanır. Tam dedup, split leakage, yakın-benzerlik örneklemesi ve
haricî benchmark contamination sonuçları QUALITY_REPORT.md dosyasında yayımlanır.
## Lisans
Üretici ve ortaya çıkan sentetik veri CC0-1.0 olarak sunulur. Haricî benchmark
metinleri bu depoya kopyalanmaz; yalnızca contamination denetiminde hash/benzerlik
karşılaştırması için kullanılır.
## Sınırlamalar
Bu büyük, kontrollü bir sentetik veri setidir; gerçek Türkçe kullanımının bütün
bölgesel, toplumsal ve söylemsel çeşitliliğini temsil etmez. Şablon yapısı ölçülebilir
biçimde mevcuttur. Bağımsız insan değerlendirmesi yapılmamıştır; model-assisted
örnek incelemesi insan anotasyonu olarak sunulmaz. Yüksek riskli kullanım için tek
başına uygun değildir.
## Raporlar
- [Datasheet](DATASHEET.md)
- [Provenance ve yeniden üretilebilirlik](PROVENANCE.md)
- [Kalite ve contamination raporu](QUALITY_REPORT.md)
- [Makine tarafından okunabilir metrikler](quality_metrics.json)
- [Sabitlenmiş contamination kaynakları](contamination_sources.json)