Squezilia/Turkish-Insult-Unified

Turkish Insult Unified Dataset

Türkçe küfür, hakaret ve zararlı dil tespiti için hazırlanmış birleşik text classification datasetidir.

Dataset, farklı Türkçe offensive language kaynaklarının birleştirilmesiyle oluşturulmuştur.

Dataset Purpose

Amaç:

Türkçe metinlerde zararlı dil tespiti yapan modeller için temiz, dengeli ve kullanılabilir bir eğitim dataseti sağlamaktır.

Özellikle:

• moderation systems
• chatbot filtering
• community management
• social media analysis

senaryoları hedeflenmiştir.

Source Datasets

Dataset aşağıdaki kaynaklardan oluşturulmuştur:

Turkish Hate Speech Tweets

K Musadiq Pasha · saqlain22 · Ayush Muralidharan - turkish_hatespeech_tweets

Original dataset:

• K Musadiq Pasha
• saqlain22
• Ayush Muralidharan

Turkish Offensive Language Detection

Toygar Tanyel - turkish offensive language detection

Original dataset:

• Toygar Tanyel

Processing

Kaynak datasetler:

1. Birleştirildi
2. Label formatları normalize edildi
3. Eğitim için binary classification formatına dönüştürüldü
4. Hatalı veya tutarsız etiketlenmiş örnekler temizlendi

Temizleme sonrası: ~3000 sample silindi.

Dataset Statistics

Total: 82,096 samples

Distribution:

Label	Samples	Percentage
0 Clean	43,657	53.18%
1 Offensive	38,439	46.82%

Features

Dataset format:

{
"text": "...",
"label": 0
}

Labels:

0 -> Clean / Non offensive

1 -> Insult / Offensive

Split

Model training için:

80% Train
20% Validation

split kullanılmıştır.

Usage

Örnek:

from datasets import load_dataset

dataset = load_dataset(
    "Squezilia/Turkish-Insult-Unified"
)

Notes

Bu dataset otomatik moderasyon sistemleri geliştirmek için hazırlanmıştır.

Türkçe argo ve internet dili sürekli değiştiği için yeni veri eklemeleri ile genişletilebilir.