Datasets:

AADIMIND
/

sona-corpus

license: mit
task_categories:
  - text-generation
  - feature-extraction
  - text-classification
language:
  - hi
  - en
tags:
  - hindiwikipedia
  - hiwiki
  - hindi
  - english
  - noisy-to-clean
  - text-cleaning
  - aadimind
  - ADITYA
pretty_name: THE SONA CORPUS
size_categories:
  - 100K<n<1M

THE SONA CORPUS — Noisy-to-Clean Hindi–English Parallel Dataset

A clean, bilingual dataset card you can read at a glance and use immediately.

Curated by: Aditya (AADIMIND)
Languages: Hindi, English
Total examples: 581312 (INPUT: 256 TOKEN• TARGET: 256 TOKEN)
Tasks: Text cleaning, GEC, OCR post-processing, Seq2Seq fine-tuning
License: MIT
Source: Hindi Wikipedia (HiWiki) processed into noisy–clean pairs
Repo: https://huggingface.co/datasets/AADIMIND/sona-corpus

Overview

THE SONA CORPUS is a parallel dataset of noisy inputs and their cleaned/corrected targets in Hindi and English. It’s built for models that transform imperfect text (typos, OCR errors, informal writing) into clean, standardized text.

Input: Noisy text (with errors)
Target: Corrected / clean text
Great for: Seq2Seq training, GEC, OCR post-processing, text normalization

Dataset Structure

Columns:
- input_text: string (noisy text)
- target_text: string (clean/corrected text)
SIZE OF DATA:
- TRAIN LINES OF DATASET: 581312
- INPUT: 256 TOKEN
- TARGET: 256 TOKEN

Data Sources and Creation

Source data: Hindi Wikipedia dump (HiWiki)
Processing:
- Extracted sentences from HiWiki
- Added artificial noise and OCR-like errors
- Aligned with manually cleaned target text
Annotations: Expert-generated (Aditya); manual cleaning + selective automated scripts

Intended Uses

Direct:
- Train encoder–decoder (Seq2Seq) models for Hindi text correction
- Benchmark for noisy-to-clean conversion
- OCR post-processing and spell correction
Out-of-scope:
- Conversational chatbot training
- Sensitive/private data processing

Limitations and Notes

Domain: Primarily Wikipedia-style text; limited colloquial/code-mixed coverage
Generalization: May require adaptation for social-media style, heavy code-mixing, or domain-specific jargon
License note: If source content includes Wikipedia text (CC BY-SA), ensure compliance with attribution and share-alike requirements when redistributing derivatives

How to Use

from datasets import load_dataset

dataset = load_dataset("AADIMIND/sona-corpus")

# 95% train और 5% validation split
dataset = dataset["train"].train_test_split(test_size=0.05)

train_data = dataset["train"]
val_data = dataset["test"]

print(train_data[0])
print(val_data[0])

Model training tip:

For encoder–decoder models (e.g., T5, mT5), concatenate language/task prompts if helpful (e.g., "gec:
Evaluate with normalization-aware metrics (e.g., chrF, token-level accuracy, or edit distance).

Citation

BibTeX:

@misc{aadimind-sona-corpus-2025,
  title={THE SONA CORPUS: Noisy-to-Clean Hindi-English Text Dataset},
  author={Aditya},
  year={2025},
  howpublished={\url{https://huggingface.co/datasets/AADIMIND/sona-corpus}}
}

APA: Aditya. (2025). THE SONA CORPUS: Noisy-to-Clean Hindi-English Text Dataset. Hugging Face. https://huggingface.co/datasets/AADIMIND/sona-corpus

Maintainer

Aditya (AADIMIND)
Contact: https://huggingface.co/AADIMIND
EMAIL : AK332575@GMAIL.COM
INSTAGRAM : @thinker.aditya

THE SONA CORPUS — डेटासेट कार्ड (हिंदी)

क्यूरेटर: आदित्य (AADIMIND)
भाषाएँ: हिंदी, अंग्रेज़ी
कुल उदाहरण: 38,497 (ट्रेन: 36,572 • वैलिडेशन: 1,925)
कार्य: टेक्स्ट क्लीनिंग, GEC, OCR पोस्ट-प्रोसेसिंग, Seq2Seq फाइन-ट्यूनिंग
लाइसेंस: MIT
स्रोत: हिंदी विकिपीडिया (HiWiki) से प्रोसेस्ड नॉइज़ी–क्लीन पेयर्स
रिपो: https://huggingface.co/datasets/AADIMIND/sona-corpus

परिचय

THE SONA CORPUS में नॉइज़ी इनपुट और उनके साफ/सही (करेक्टेड) टारगेट पेयर्स हैं। इसका उद्देश्य ऐसे मॉडल ट्रेन करना है जो गलत/अधूरा टेक्स्ट (टाइपो, OCR त्रुटियाँ, अनौपचारिक लेखन) को मानकीकृत, साफ टेक्स्ट में बदल सकें।

इनपुट: नॉइज़ी टेक्स्ट (त्रुटियों सहित)
टारगेट: साफ/सही किया हुआ टेक्स्ट
उपयोग: Seq2Seq प्रशिक्षण, GEC, OCR पोस्ट-प्रोसेसिंग, टेक्स्ट नॉर्मलाइज़ेशन

डेटासेट संरचना

कॉलम:
- input_text: string (नॉइज़ी टेक्स्ट)
- target_text: string (क्लीन/करेक्टेड टेक्स्ट)
स्प्लिट्स:
- ट्रेन: 36,572
- वैलिडेशन: 1,925
- कुल: 38,497

स्रोत और निर्माण

स्रोत डेटा: हिंदी विकिपीडिया (HiWiki)
प्रोसेस:
- HiWiki से वाक्य निकाले गए
- कृत्रिम नॉइज़ व OCR-जैसी त्रुटियाँ जोड़ी गईं
- मैन्युअल रूप से साफ/करेक्टेड टारगेट के साथ एलाइन किया गया
एनोटेशन: विशेषज्ञ (आदित्य) द्वारा—मैन्युअल क्लीनिंग + चयनित ऑटो स्क्रिप्ट्स

उपयोग

सीधे उपयोग:
- हिंदी टेक्स्ट करेक्शन के लिए एन्कोडर–डिकोडर (Seq2Seq) मॉडल ट्रेनिंग
- नॉइज़ी-टू-क्लीन कन्वर्ज़न के लिए बेंचमार्क
- OCR पोस्ट-प्रोसेसिंग और स्पेल करेक्शन
अनुपयुक्त:
- बातचीत-आधारित चैटबॉट ट्रेनिंग
- संवेदनशील/निजी डेटा प्रोसेसिंग

सीमाएँ और नोट्स

डोमेन: मुख्यतः विकिपीडिया-शैली; बोलचाल/कोड-मिक्स्ड कंटेंट का सीमित प्रतिनिधित्व
सामान्यीकरण: सोशल मीडिया-स्टाइल, भारी कोड-मिक्सिंग या विशिष्ट डोमेन जार्गन के लिए अतिरिक्त अनुकूलन अपेक्षित
लाइसेंस नोट: यदि स्रोत में विकिपीडिया टेक्स्ट (CC BY-SA) शामिल है/से व्युत्पन्न है, तो पुनर्वितरण में एट्रिब्यूशन और शेयर-अलाइक शर्तों का पालन सुनिश्चित करें

उपयोग कैसे करें

from datasets import load_dataset

dataset = load_dataset("AADIMIND/sona-corpus")

# 95% train और 5% validation split
dataset = dataset["train"].train_test_split(test_size=0.05)

train_data = dataset["train"]
val_data = dataset["test"]

print(train_data[0])
print(val_data[0])

ट्रेनिंग सुझाव:

T5/mT5 जैसे मॉडलों के लिए टास्क/भाषा प्रॉम्प्ट जोड़ना लाभकारी हो सकता है (जैसे, "gec:
मूल्यांकन में chrF, टोकन-स्तरीय एक्यूरेसी या एडिट-डिस्टेंस जैसे मेट्रिक उपयोगी हैं।

उद्धरण

BibTeX:

@misc{aadimind-sona-corpus-2025,
  title={THE SONA CORPUS: Noisy-to-Clean Hindi-English Text Dataset},
  author={Aditya},
  year={2025},
  howpublished={\url{https://huggingface.co/datasets/AADIMIND/sona-corpus}}
}

APA: आदित्य. (2025). THE SONA CORPUS: Noisy-to-Clean Hindi-English Text Dataset. Hugging Face. https://huggingface.co/datasets/AADIMIND/sona-corpus