questions / README.md
nassimjp's picture
Update README.md
eb47004 verified
|
Raw
History Blame Contribute Delete
2.82 kB
---
dataset_name: "questions"
tags:
- pashto
- questions
- nlp
- llm-training
- instruction
- sft
- clean-data
language:
- ps
license: "mit"
task_categories:
- text-generation
- question-answering
size_categories:
- 10K+
pretty_name: "Pashto Questions Dataset"
annotations_creators:
- machine-generated
source_datasets:
- original
---
## 📝 Overview
**Questions** یو پاک، deduplicated، shuffled Pashto پوښتنو ډیټاسیټ دی چې د Pashto ژبې د پوښتنې–ځواب، reasoning، instruction-following، او general-purpose SFT لپاره کارول کېږي.
دا ډیټاسیټ د مختلفو Pashto سرچینو څخه اخیستل شوی، پاک شوی، duplicate لرې شوي، او د ماډل د ښه عمومي کولو لپاره ګډوډ شوی دی.
---
## 🎯 Purpose
دا ډیټاسیټ د لاندې کارونو لپاره جوړ شوی:
- Pashto **instruction-tuning**
- Pashto **question-answering**
- Pashto **reasoning**
- Pashto **dialogue modeling**
- Pashto **general SFT**
- د Pashto LLMونو د روزنې لپاره د high-quality input corpora جوړول
---
## 📂 Dataset Structure
هره کرښه په JSONL بڼه ده:
```json
{"question": "پوښتنه دلته"}
```
### Example
```json
{"question": "تشریح کړئ چې ولې د انتقادي فکر کولو مهارتونو کارول مهم دي."}
```
---
## 🔧 Data Processing Pipeline
دا ډیټاسیټ د لاندې مرحلو له لارې جوړ شوی:
1. **Extraction** — د مختلفو Pashto datasets څخه پوښتنې راایستل
2. **Cleaning** — د ALPACA، boilerplate، meta-text لرې کول
3. **Normalization** — د Pashto متن پاکول
4. **Deduplication** — د repeated پوښتنو لرې کول
5. **Shuffling** — د uniform sampling لپاره ګډوډول
6. **Export** — JSONL format
---
## 📊 Statistics
- **Format:** JSONL
- **Field:** `question`
- **Language:** Pashto
- **Encoding:** UTF‑8
- **Duplicates:** Removed
- **Order:** Randomized
---
## 🔍 Use Cases
- Pashto LLM training
- Pashto QA systems
- Pashto educational AI
- Pashto reasoning datasets
- Pashto chatbot fine-tuning
- Pashto instruction-following models
---
## 📜 License
MIT License
(که غواړې زه یې بدل کړم، راته ووایه)
---
## 🤝 Contributions
که څوک غواړي د Pashto پوښتنو نورې سرچینې اضافه کړي، PRs او Issues خلاص دي.
---
## 📬 Contact
**Nassim**
Founder — Spinzar Enterprises Inc.
Pashto AI Research & Development
Soka, Saitama, Japan
---
## 🔗 Related Datasets
- **PashtoNanoChat**
- **Pashto-SFT-263k-Cleaned**
- **PashtoMoralBench-Reasoning**
---