|
|
--- |
|
|
license: mit |
|
|
task_categories: |
|
|
- text-generation |
|
|
- feature-extraction |
|
|
- text-classification |
|
|
language: |
|
|
- hi |
|
|
- en |
|
|
tags: |
|
|
- hindiwikipedia |
|
|
- hiwiki |
|
|
- hindi |
|
|
- english |
|
|
- noisy-to-clean |
|
|
- text-cleaning |
|
|
- aadimind |
|
|
- ADITYA |
|
|
pretty_name: THE SONA CORPUS |
|
|
size_categories: |
|
|
- 100K<n<1M |
|
|
--- |
|
|
|
|
|
# THE SONA CORPUS — Noisy-to-Clean Hindi–English Parallel Dataset |
|
|
|
|
|
A clean, bilingual dataset card you can read at a glance and use immediately. |
|
|
|
|
|
- Curated by: Aditya (AADIMIND) |
|
|
- Languages: Hindi, English |
|
|
- Total examples: 581312 (INPUT: 256 TOKEN• TARGET: 256 TOKEN) |
|
|
- Tasks: Text cleaning, GEC, OCR post-processing, Seq2Seq fine-tuning |
|
|
- License: MIT |
|
|
- Source: Hindi Wikipedia (HiWiki) processed into noisy–clean pairs |
|
|
- Repo: https://huggingface.co/datasets/AADIMIND/sona-corpus |
|
|
|
|
|
--- |
|
|
|
|
|
## Overview |
|
|
|
|
|
THE SONA CORPUS is a parallel dataset of noisy inputs and their cleaned/corrected targets in Hindi and English. It’s built for models that transform imperfect text (typos, OCR errors, informal writing) into clean, standardized text. |
|
|
|
|
|
- Input: Noisy text (with errors) |
|
|
- Target: Corrected / clean text |
|
|
- Great for: Seq2Seq training, GEC, OCR post-processing, text normalization |
|
|
|
|
|
--- |
|
|
|
|
|
## Dataset Structure |
|
|
|
|
|
- Columns: |
|
|
- input_text: string (noisy text) |
|
|
- target_text: string (clean/corrected text) |
|
|
|
|
|
- SIZE OF DATA: |
|
|
- TRAIN LINES OF DATASET: 581312 |
|
|
|
|
|
- INPUT: 256 TOKEN |
|
|
|
|
|
- TARGET: 256 TOKEN |
|
|
|
|
|
--- |
|
|
|
|
|
## Data Sources and Creation |
|
|
|
|
|
- Source data: Hindi Wikipedia dump (HiWiki) |
|
|
- Processing: |
|
|
- Extracted sentences from HiWiki |
|
|
- Added artificial noise and OCR-like errors |
|
|
- Aligned with manually cleaned target text |
|
|
- Annotations: Expert-generated (Aditya); manual cleaning + selective automated scripts |
|
|
|
|
|
--- |
|
|
|
|
|
## Intended Uses |
|
|
|
|
|
- Direct: |
|
|
- Train encoder–decoder (Seq2Seq) models for Hindi text correction |
|
|
- Benchmark for noisy-to-clean conversion |
|
|
- OCR post-processing and spell correction |
|
|
- Out-of-scope: |
|
|
- Conversational chatbot training |
|
|
- Sensitive/private data processing |
|
|
|
|
|
--- |
|
|
|
|
|
## Limitations and Notes |
|
|
|
|
|
- Domain: Primarily Wikipedia-style text; limited colloquial/code-mixed coverage |
|
|
- Generalization: May require adaptation for social-media style, heavy code-mixing, or domain-specific jargon |
|
|
- License note: If source content includes Wikipedia text (CC BY-SA), ensure compliance with attribution and share-alike requirements when redistributing derivatives |
|
|
|
|
|
--- |
|
|
|
|
|
## How to Use |
|
|
|
|
|
```python |
|
|
from datasets import load_dataset |
|
|
|
|
|
dataset = load_dataset("AADIMIND/sona-corpus") |
|
|
|
|
|
# 95% train और 5% validation split |
|
|
dataset = dataset["train"].train_test_split(test_size=0.05) |
|
|
|
|
|
train_data = dataset["train"] |
|
|
val_data = dataset["test"] |
|
|
|
|
|
print(train_data[0]) |
|
|
print(val_data[0]) |
|
|
|
|
|
``` |
|
|
|
|
|
Model training tip: |
|
|
- For encoder–decoder models (e.g., T5, mT5), concatenate language/task prompts if helpful (e.g., "gec: <text>"). |
|
|
- Evaluate with normalization-aware metrics (e.g., chrF, token-level accuracy, or edit distance). |
|
|
|
|
|
--- |
|
|
|
|
|
## Citation |
|
|
|
|
|
BibTeX: |
|
|
```bibtex |
|
|
@misc{aadimind-sona-corpus-2025, |
|
|
title={THE SONA CORPUS: Noisy-to-Clean Hindi-English Text Dataset}, |
|
|
author={Aditya}, |
|
|
year={2025}, |
|
|
howpublished={\url{https://huggingface.co/datasets/AADIMIND/sona-corpus}} |
|
|
} |
|
|
``` |
|
|
|
|
|
APA: |
|
|
Aditya. (2025). THE SONA CORPUS: Noisy-to-Clean Hindi-English Text Dataset. Hugging Face. https://huggingface.co/datasets/AADIMIND/sona-corpus |
|
|
|
|
|
--- |
|
|
|
|
|
## Maintainer |
|
|
|
|
|
- Aditya (AADIMIND) |
|
|
- Contact: https://huggingface.co/AADIMIND |
|
|
- EMAIL : AK332575@GMAIL.COM |
|
|
- INSTAGRAM : @thinker.aditya |
|
|
--- |
|
|
|
|
|
# THE SONA CORPUS — डेटासेट कार्ड (हिंदी) |
|
|
|
|
|
- क्यूरेटर: आदित्य (AADIMIND) |
|
|
- भाषाएँ: हिंदी, अंग्रेज़ी |
|
|
- कुल उदाहरण: 38,497 (ट्रेन: 36,572 • वैलिडेशन: 1,925) |
|
|
- कार्य: टेक्स्ट क्लीनिंग, GEC, OCR पोस्ट-प्रोसेसिंग, Seq2Seq फाइन-ट्यूनिंग |
|
|
- लाइसेंस: MIT |
|
|
- स्रोत: हिंदी विकिपीडिया (HiWiki) से प्रोसेस्ड नॉइज़ी–क्लीन पेयर्स |
|
|
- रिपो: https://huggingface.co/datasets/AADIMIND/sona-corpus |
|
|
|
|
|
--- |
|
|
|
|
|
## परिचय |
|
|
|
|
|
THE SONA CORPUS में नॉइज़ी इनपुट और उनके साफ/सही (करेक्टेड) टारगेट पेयर्स हैं। इसका उद्देश्य ऐसे मॉडल ट्रेन करना है जो गलत/अधूरा टेक्स्ट (टाइपो, OCR त्रुटियाँ, अनौपचारिक लेखन) को मानकीकृत, साफ टेक्स्ट में बदल सकें। |
|
|
|
|
|
- इनपुट: नॉइज़ी टेक्स्ट (त्रुटियों सहित) |
|
|
- टारगेट: साफ/सही किया हुआ टेक्स्ट |
|
|
- उपयोग: Seq2Seq प्रशिक्षण, GEC, OCR पोस्ट-प्रोसेसिंग, टेक्स्ट नॉर्मलाइज़ेशन |
|
|
|
|
|
--- |
|
|
|
|
|
## डेटासेट संरचना |
|
|
|
|
|
- कॉलम: |
|
|
- input_text: string (नॉइज़ी टेक्स्ट) |
|
|
- target_text: string (क्लीन/करेक्टेड टेक्स्ट) |
|
|
|
|
|
- स्प्लिट्स: |
|
|
- ट्रेन: 36,572 |
|
|
- वैलिडेशन: 1,925 |
|
|
- कुल: 38,497 |
|
|
|
|
|
--- |
|
|
|
|
|
## स्रोत और निर्माण |
|
|
|
|
|
- स्रोत डेटा: हिंदी विकिपीडिया (HiWiki) |
|
|
- प्रोसेस: |
|
|
- HiWiki से वाक्य निकाले गए |
|
|
- कृत्रिम नॉइज़ व OCR-जैसी त्रुटियाँ जोड़ी गईं |
|
|
- मैन्युअल रूप से साफ/करेक्टेड टारगेट के साथ एलाइन किया गया |
|
|
- एनोटेशन: विशेषज्ञ (आदित्य) द्वारा—मैन्युअल क्लीनिंग + चयनित ऑटो स्क्रिप्ट्स |
|
|
|
|
|
--- |
|
|
|
|
|
## उपयोग |
|
|
|
|
|
- सीधे उपयोग: |
|
|
- हिंदी टेक्स्ट करेक्शन के लिए एन्कोडर–डिकोडर (Seq2Seq) मॉडल ट्रेनिंग |
|
|
- नॉइज़ी-टू-क्लीन कन्वर्ज़न के लिए बेंचमार्क |
|
|
- OCR पोस्ट-प्रोसेसिंग और स्पेल करेक्शन |
|
|
- अनुपयुक्त: |
|
|
- बातचीत-आधारित चैटबॉट ट्रेनिंग |
|
|
- संवेदनशील/निजी डेटा प्रोसेसिंग |
|
|
|
|
|
--- |
|
|
|
|
|
## सीमाएँ और नोट्स |
|
|
|
|
|
- डोमेन: मुख्यतः विकिपीडिया-शैली; बोलचाल/कोड-मिक्स्ड कंटेंट का सीमित प्रतिनिधित्व |
|
|
- सामान्यीकरण: सोशल मीडिया-स्टाइल, भारी कोड-मिक्सिंग या विशिष्ट डोमेन जार्गन के लिए अतिरिक्त अनुकूलन अपेक्षित |
|
|
- लाइसेंस नोट: यदि स्रोत में विकिपीडिया टेक्स्ट (CC BY-SA) शामिल है/से व्युत्पन्न है, तो पुनर्वितरण में एट्रिब्यूशन और शेयर-अलाइक शर्तों का पालन सुनिश्चित करें |
|
|
|
|
|
--- |
|
|
|
|
|
## उपयोग कैसे करें |
|
|
|
|
|
```python |
|
|
from datasets import load_dataset |
|
|
|
|
|
dataset = load_dataset("AADIMIND/sona-corpus") |
|
|
|
|
|
# 95% train और 5% validation split |
|
|
dataset = dataset["train"].train_test_split(test_size=0.05) |
|
|
|
|
|
train_data = dataset["train"] |
|
|
val_data = dataset["test"] |
|
|
|
|
|
print(train_data[0]) |
|
|
print(val_data[0]) |
|
|
|
|
|
``` |
|
|
|
|
|
ट्रेनिंग सुझाव: |
|
|
- T5/mT5 जैसे मॉडलों के लिए टास्क/भाषा प्रॉम्प्ट जोड़ना लाभकारी हो सकता है (जैसे, "gec: <text>"). |
|
|
- मूल्यांकन में chrF, टोकन-स्तरीय एक्यूरेसी या एडिट-डिस्टेंस जैसे मेट्रिक उपयोगी हैं। |
|
|
|
|
|
--- |
|
|
|
|
|
## उद्धरण |
|
|
|
|
|
BibTeX: |
|
|
```bibtex |
|
|
@misc{aadimind-sona-corpus-2025, |
|
|
title={THE SONA CORPUS: Noisy-to-Clean Hindi-English Text Dataset}, |
|
|
author={Aditya}, |
|
|
year={2025}, |
|
|
howpublished={\url{https://huggingface.co/datasets/AADIMIND/sona-corpus}} |
|
|
} |
|
|
``` |
|
|
|
|
|
APA: |
|
|
आदित्य. (2025). THE SONA CORPUS: Noisy-to-Clean Hindi-English Text Dataset. Hugging Face. https://huggingface.co/datasets/AADIMIND/sona-corpus |
|
|
|
|
|
--- |
