# 🗂️ Reddit Dataset — Türkçe/İngilizce Talimat-Yanıt Veri Seti

Kendi oluşturduğum veri toplama ağıyla (crawler) toplanan Reddit yorumlarından derlenen, talimat–yanıt (instruction–output) formatında yapılandırılmış bir veri seti. Türkiye'deki LLM ekosistemine katkı sağlamak amacıyla paylaşılmıştır.

## 📦 Dosya

| Dosya | Kayıt Sayısı | Açıklama |
|---|---|---|
| `133kReddit.jsonl` | ~133.333 | Kaliteye göre filtrelenmiş alt küme: %60 TR · %40 EN |

> Not: `reddit.jsonl` (tam veri seti, 530.536 kayıt) yayından kaldırılmıştır. Yalnızca `133kReddit.jsonl` yayınlanmaktadır.

## 📊 İstatistikler

**Mini set:** %60 Türkçe (80.000) · %40 İngilizce (53.333)

Mini set, her dil grubundan `quality_signal` skoruna göre en kaliteli örnekler seçilip `seed=42` ile karıştırılarak oluşturuldu.

## 🏆 Kapsanan Subredditler

- **İngilizce:** Sadece kaliteli, düşük-meme içerikli 20 subreddit (r/programming, r/Python, r/AskReddit, r/space, r/eu4 vb.) meme/shitposting subredditleri hariç tutuldu.
- **Türkçe:** r/Turkey, r/BiriyleKonus, r/LinuxTurkey, r/felsefe gibi 140+ subreddit.

## 🔍 Veri Alanları (özet)

`id`, `instruction`, `output`, `lang`, `is_duplicate`, `is_toxic`, `toxicity_score`, `quality_signal`, `topic_id`, `perspective_label` gibi alanlar içerir. Toksisite ve tekrar (duplicate) filtreleme yapılmıştır; kullanıcı adları (`author`) anonimleştirilmemiştir.

## 🚀 Kullanım

```python
import json
with open("133kReddit.jsonl", encoding="utf-8") as f:
    for line in f:
        s = json.loads(line)
        print(s["instruction"], "→", s["output"])
```

Hugging Face `datasets` ile de doğrudan yüklenebilir:

```python
from datasets import load_dataset
ds = load_dataset("json", data_files="133kReddit.jsonl", split="train")
```

## 🔒 Etik Notlar

- Sadece halka açık Reddit verisi kullanılmıştır.
- Toksik içerik etiketlenmiştir ama tamamen çıkarılmamıştır. kullanıcı ek filtreleme uygulamalıdır.
- Tekrar eden (duplicate) kayıtlar mini setten çıkarılmıştır.

## 📄 Lisans

Bu veri seti **Apache License 2.0** ile lisanslanmıştır. Ayrıca Reddit'in [Public Content Policy](https://www.redditinc.com/policies/content-policy) ve [Terms of Service](https://www.reddit.com/wiki/tos/) koşullarına da uyulmalıdır.

## 🎯 Amaç

Bu veri seti, kendi oluşturduğum veri toplama ağıyla derlenen daha büyük bir koleksiyonun küçük bir alt kümesidir ve Türkiye'deki LLM ekosistemine katkı sağlamak amacıyla açık şekilde paylaşılmıştır.
Ayrıca bir LLM Ekibi kuruyorum benimle iletişime geçebilirsin: deniz.cap@proton.me