serda-dev/turkish-raw-text-cleaned

Turkish Raw Text Cleaned

turkish-raw-text-cleaned, Türkçe dil modeli çalışmaları için hazırlanmış temizlenmiş ham metin veri kümesidir. Veri kümesi, turkish-nlp-suite çatısı altında yayımlanan Türkçe metin kaynaklarının temizlenmesi, filtrelenmesi ve model eğitimine daha uygun hale getirilmesiyle oluşturulmuştur.

Bu çalışma özellikle Türkçe LLM ön-eğitimi, continual pre-training (CPT), tokenizer analizi, embedding modeli eğitimi, alan bağımsız Türkçe metin modelleme ve veri kalitesi deneyleri için kullanılabilecek genel amaçlı bir metin korpusu sunmayı hedefler.

Dataset Summary

Bu veri kümesi, farklı kaynaklardan gelen Türkçe ham metinlerin normalize edilmesi ve filtrelenmesiyle hazırlanmıştır. Orijinal kaynaklarda yer alan tekrarlar, aşırı kısa/uzun bozuk kayıtlar, teknik artıklar, sayfa kalıntıları, düşük kaliteli web metinleri ve eğitim için verimsiz örnekler mümkün olduğunca elenmiştir.

Dataset temel olarak aşağıdaki alanları içerir:

Column	Type	Description
text	string	Temizlenmiş Türkçe metin içeriği
corpus	string	Metnin geldiği kaynak/korpus bilgisi
original_id	int	Kaynak veri içindeki orijinal kayıt kimliği

Dataset tek split olarak yayımlanmıştır:

Split	Approx. Rows
train	~3.95M

Source Data

Bu dataset, turkish-nlp-suite altında yer alan Türkçe NLP veri kaynaklarının temizlenmiş bir türevidir. Kaynak veri farklı türlerde Türkçe metinler içerebilir: web metinleri, genel alan yazıları, haber benzeri içerikler, açıklayıcı metinler, blog/paragraf verileri ve çeşitli doğal dil parçaları.

Kaynak veri doğrudan görev etiketli bir instruction veya supervised fine-tuning veri kümesi değildir. Bu nedenle veri, daha çok aşağıdaki kullanım senaryoları için uygundur:

• Türkçe continual pre-training (CPT)
• Türkçe causal language modeling
• Masked language modeling deneyleri
• Türkçe embedding modeli eğitimi
• Dil modeli veri kalitesi analizi
• Tokenizer / vocabulary çalışmaları
• Türkçe metin filtreleme ve veri seçimi deneyleri
• Downstream görevler için ön-eğitim korpusu oluşturma

Cleaning and Filtering Process

Veri kümesi hazırlanırken ham metinler doğrudan kullanılmamış, model eğitimine daha uygun hale getirmek için çok aşamalı bir temizlik ve filtreleme sürecinden geçirilmiştir.

Uygulanan genel işlem akışı:

1. Metin alanı standardizasyonu

   • Farklı kaynaklardan gelen metin alanları ortak text kolonuna indirgenmiştir.
   • Kaynak takibi için corpus ve original_id alanları korunmuştur.

2. Boş ve hatalı kayıt temizliği

   • Boş metinler,
   • yalnızca sembol veya anlamsız karakterlerden oluşan kayıtlar,
   • metin içeriği taşımayan teknik satırlar filtrelenmiştir.

3. Uzunluk bazlı filtreleme

   • Çok kısa ve model eğitimi için anlamsal katkısı düşük kayıtlar elenmiştir.
   • Aşırı uzun, muhtemelen sayfa birleşimi veya bozuk crawl çıktısı olan kayıtlar kontrol edilmiştir.
   • Amaç, tek başına anlamlı paragraf veya metin parçası olarak kullanılabilecek örnekleri korumaktır.

4. Dil ve karakter kalitesi kontrolü

   • Türkçe karakter oranı,
   • Latin karakter yoğunluğu,
   • sayı/sembol oranı,
   • bozuk encoding izleri,
   • aşırı URL, HTML, CSS, JavaScript veya menü kalıntısı içeren yapılar dikkate alınmıştır.

5. Web artığı ve şablon metin azaltma

   • Çerez bildirimi,
   • site menüsü,
   • telif/uyar-kaldır blokları,
   • navigasyon metinleri,
   • reklam ve tekrar eden sayfa şablonları gibi düşük kaliteli parçalar mümkün olduğunca azaltılmıştır.

6. Deduplication / tekrar azaltma

   • Aynı veya çok benzer metinlerin dataset içinde aşırı tekrar etmesini engellemek için tekrar azaltma uygulanmıştır.
   • Bu aşama, dil modeli eğitiminde ezberleme riskini ve gereksiz token tekrarını azaltmayı hedefler.

7. Model eğitimine uygun çıktı formatı

   • Temizlenen kayıtlar JSON tabanlı, kolay yüklenebilir bir yapıya dönüştürülmüştür.
   • Hugging Face datasets kütüphanesiyle doğrudan kullanılabilecek şekilde yayımlanmıştır.

Intended Use

Bu veri kümesi özellikle aşağıdaki çalışmalar için uygundur:

Continual Pre-training

Türkçe’ye daha iyi adapte edilmek istenen açık ağırlıklı dil modelleri için CPT verisi olarak kullanılabilir. Özellikle İngilizce veya çok dilli bir temel modelin Türkçe akıcılığını, morfolojik örüntüleri ve genel Türkçe metin dağılımını daha iyi öğrenmesi için kullanılabilir.

Turkish Language Modeling

Causal LM veya masked LM eğitimlerinde genel Türkçe metin korpusu olarak kullanılabilir.

Embedding Model Training

Paragraf, cümle veya doküman temsili öğrenmek için pozitif/negatif çift üretimi, contrastive learning veya unsupervised embedding eğitimi süreçlerinde ham metin kaynağı olarak değerlendirilebilir.

Data Filtering Research

Türkçe web metinlerinde kalite filtreleme, deduplication, domain seçimi ve veri seçimi stratejilerini test etmek için kullanılabilir.

Out-of-Scope Use

Bu dataset doğrudan aşağıdaki amaçlar için tasarlanmamıştır:

• Instruction tuning
• Chatbot davranış hizalama
• RLHF / preference training
• Etiketli sınıflandırma benchmark’ı
• Hukuki, tıbbi veya finansal karar verme sistemi
• Kişisel veri çıkarımı
• Kaynak metinlerin birebir yeniden yayımlanması

Bu veri kümesi ham metin temelli olduğu için, instruction-following kabiliyeti kazandırmak amacıyla doğrudan SFT verisi gibi kullanılmamalıdır. SFT için ayrıca instruction-response formatında veri oluşturulması gerekir.

Limitations

Bu dataset temizlenmiş olsa da tamamen kusursuz değildir. Özellikle büyük ölçekli web tabanlı Türkçe metinlerde aşağıdaki sorunlar kısmen bulunabilir:

• Tekrarlı veya yarı tekrarlı metinler
• Web sayfası şablon kalıntıları
• Reklam, menü veya çerez bildirimi parçaları
• Eski tarihli haber/metin içerikleri
• Yazım hataları
• Düşük kaliteli SEO metinleri
• Tartışmalı, saldırgan veya hassas içerikler
• Kaynaklardan gelen olası telif ve lisans kısıtları
• Otomatik filtreleme nedeniyle bazı kaliteli metinlerin elenmiş olması
• Otomatik filtreleme nedeniyle bazı düşük kaliteli metinlerin korunmuş olması

Veri, büyük ölçekli model eğitiminde kullanılmadan önce hedef modele, eğitim bütçesine ve güvenlik gereksinimlerine göre tekrar örneklenmeli veya ek filtrelerden geçirilmelidir.

Bias, Risks and Ethical Considerations

Dataset, internet ve açık kaynaklı Türkçe metinlerden türetildiği için toplumdaki önyargıları, dönemsel politik/kültürel tartışmaları, argo ifadeleri, hatalı bilgileri veya dengesiz temsil problemlerini içerebilir. Bu nedenle dataset ile eğitilen modeller:

• Yanlı veya hatalı genellemeler üretebilir.
• Güncel olmayan bilgileri doğruymuş gibi sunabilir.
• Web kaynaklı toksik veya saldırgan ifadeleri öğrenebilir.
• Bazı alanlarda aşırı temsil, bazı alanlarda düşük temsil gösterebilir.
• Kaynak metinlerde bulunan hatalı bilgileri model davranışına taşıyabilir.

Bu dataset ile eğitilen modellerin üretimleri özellikle yüksek riskli alanlarda insan denetimi olmadan kullanılmamalıdır.

Personal and Sensitive Information

Temizlik sürecinde düşük kaliteli web kalıntıları ve açıkça sorunlu yapılar azaltılmış olsa da, büyük ölçekli web tabanlı metinlerde kişisel veri veya hassas bilgi kalıntısı bulunma ihtimali tamamen sıfırlanamaz.

Bu nedenle kullanıcıların:

• Ek PII filtreleri uygulaması,
• regex/NER tabanlı kişisel veri temizliği yapması,
• hedef kullanım alanına göre manuel örnek denetimi gerçekleştirmesi,
• üretim ortamında güvenlik ve gizlilik kontrolleri eklemesi

önerilir.

Recommended Preprocessing Before Training

Model eğitimi öncesinde aşağıdaki ek adımlar önerilir:

• Token uzunluğuna göre yeniden filtreleme
• Yakın tekrar temizliği
• Domain/korpus bazlı dengeleme
• Toksisite filtresi
• Kişisel veri filtresi
• Eğitim/validasyon ayrımı
• Çok uzun metinleri chunk’lara ayırma
• Çok kısa metinleri eleme
• İstenmeyen domain veya konu alanlarını çıkarma
• Kaynak bazlı sampling oranı belirleme

Örnek kullanım:

from datasets import load_dataset

dataset = load_dataset("serda-dev/turkish-raw-text-cleaned")

print(dataset)
print(dataset["train"][0])