license: cc0-1.0
language:
- tr
task_categories:
- text-generation
size_categories:
- 1M<n<10M
tags:
- turkish
- synthetic
- parquet
- provenance
- deduplicated
pretty_name: Turkish Text Normalization 1M v2
configs:
- config_name: default
data_files:
- split: train
path: data/train-*.parquet
- split: validation
path: data/validation-*.parquet
- split: test
path: data/test-*.parquet
Turkish Text Normalization 1M v2
Kontrollü altı gürültü türüyle Türkçe metin normalizasyon çiftleri.
Doğrulanmış boyut
- Train: 980,000
- Validation: 10,000
- Test: 10,000
- Toplam: 1,000,000
- Ana görev sütunları: id, noisy_text, normalized_text, noise_type
Provenance
Veri insan mesajlarından, belgelerinden veya web kazımasından alınmamıştır. Tamamı depodaki üretici koduyla deterministik olarak oluşturulur. Her satırda source_type, provenance, generator_version, generator_sha256, generation_seed, template_id, split_group ve record_fingerprint alanları bulunur. Üretici sürümü: 2.0.0. Üretici SHA-256: 38b7e8061db2634a80d7f77ee75d8eeed3bccf7a30e29407dd79fd87f4d5cf6c.
Split politikası
Kişi, şehir, kurum, nesne, zaman ifadesi ve bağlam şablonu havuzları train, validation ve test arasında ayrılmıştır. Değerlendirme split'leri eğitimde görülmeyen birincil varlık ve bağlam şablonlarını kullanır. Sayı ve tarih veri setlerinde ise mod-100 tabanlı hash-stratified ayırma uygulanır: 0–97 train, 98 validation, 99 test. Kesin içerik parmak izleri split'ler arasında çakışamaz.
Deduplication ve contamination
record_fingerprint; kimlik ve provenance alanları çıkarıldıktan, Unicode NFC, casefold, boşluk normalizasyonu ve sentetik kimlik maskelemesi uygulandıktan sonra SHA-256 ile hesaplanır. Tam dedup, split leakage, yakın-benzerlik örneklemesi ve haricî benchmark contamination sonuçları QUALITY_REPORT.md dosyasında yayımlanır.
Lisans
Üretici ve ortaya çıkan sentetik veri CC0-1.0 olarak sunulur. Haricî benchmark metinleri bu depoya kopyalanmaz; yalnızca contamination denetiminde hash/benzerlik karşılaştırması için kullanılır.
Sınırlamalar
Bu büyük, kontrollü bir sentetik veri setidir; gerçek Türkçe kullanımının bütün bölgesel, toplumsal ve söylemsel çeşitliliğini temsil etmez. Şablon yapısı ölçülebilir biçimde mevcuttur. Bağımsız insan değerlendirmesi yapılmamıştır; model-assisted örnek incelemesi insan anotasyonu olarak sunulmaz. Yüksek riskli kullanım için tek başına uygun değildir.