|
|
--- |
|
|
dataset_info: |
|
|
features: |
|
|
- name: text |
|
|
dtype: string |
|
|
splits: |
|
|
- name: train |
|
|
num_bytes: 20000000000 |
|
|
num_examples: 20000000 |
|
|
download_size: 20000000000 |
|
|
dataset_size: 20000000000 |
|
|
license: cc-by-4.0 |
|
|
doi: 10.57967/hf/6460 |
|
|
language: |
|
|
- si |
|
|
tags: |
|
|
- sinhala |
|
|
- clean-corpus |
|
|
- low-resource-languages |
|
|
- nlp |
|
|
- embeddings |
|
|
- remeinium |
|
|
- CleanSinhalaTextCorpus |
|
|
pretty_name: Cleaned Sinhala Text Corpus |
|
|
size_categories: |
|
|
- 10M<n<100M |
|
|
task_categories: |
|
|
- text-generation |
|
|
- token-classification |
|
|
--- |
|
|
|
|
|
# 📚 Cleaned Sinhala Text Corpus |
|
|
|
|
|
The **Cleaned Sinhala Text Corpus** is a large-scale, high-quality Sinhala text dataset prepared and released by **Remeinium**. |
|
|
|
|
|
### 📄 Sample Data (randomly copied from 4 different files) |
|
|
|
|
|
``` |
|
|
විවෘත පුඩු අවස්ථාවේ විවෘත පුඩු ලාභය කාරකාත්මක වර්ධකයක ඉතා විශාලය එය පරාසයේ වේ එනිසා කුඩා ප්රදාන වෝල්ටීයතාවකට වුවද විශාල ප්රතිදාන වෝල්ටීයතාවක් ලබා දීමේ හැකියාව ඇත එනම් ප්රදාන වෝල්ටීයතා කුඩා පරාසයක් තුළ වැඩි කිරීමේදී ප්රතිදාන වෝලිටීයතාව විශාල පරාසයක් තුළ වැඩි වේ |
|
|
මෙසේ වැඩි කරගෙන යනවිට ප්රතිදාන වෝල්ටීයතාව තවත් ඉහළ නොයා නියතව පවතින සංතෘප්ත අවස්ථාවකට එළඹේ මෙම සංතෘප්ත මට්ටමේ වෝල්ටීයතාව සැපයුම් වෝල්ටීයතාවට වඩා ඉහළ යා නොහැකිය |
|
|
හෝ වීම අනුව සඵල ප්රධාන වෝල්ටීයතාවට ධන හෝ ඍණ අගයක් ලැබේ ඒ අනුව එය ඍණ අගයක සිට ධන අගයක් දක්වා කුඩා පරාසයක් තුළ වැඩි කරගෙන යාමේදී සමීකරණයට අනුව ඊට සමානුපාතිකව ප්රතිදානය විශාල පරාසයක් තුළ විචලනය වේ |
|
|
මෙහිදී කාරකාත්මක වර්ධකය රේඛීය ප්රදේශයක් තුළ වෙනස් වේ යැයි කියයි මෙම විචලනයේ අන්ත දෙකෙහිදී ප්රතිදානය ඍණ සහ ධන සංතෘප්ත අවස්ථාවන්ට ලඟාවේ |
|
|
ප්රදාන වෝල්ටීයතාව කුඩා පරාසයෙන් පිටත පවතින අවස්ථාවේ ප්රතිධානය සංතෘප්ත අවස්ථාවේම නියතව පවතී එවිට කාරකාත්මක වර්ධකය සංතෘප්ත අවස්තාවේ ක්රියාකරන්නේ යැයි කියයි |
|
|
කාරකාත්මක වර්ධකයක විවෘත පුඩු ලාභය ද එහි සැපයුම් වෝල්ටීයතාව ද වේ එහි අග්රයට වොල්ටීයතාවයක්ද අග්රයට ශූන්ය වොල්ටීයතාවක් ද ලබා දුන්නේනම් එවිට කාරකාත්මක වර්ධකය සංතෘප්ත වේ දැයි සොයන්න |
|
|
``` |
|
|
``` |
|
|
ඔබ එක්සත් ජනපදයට යාමට සිහින මැව්වාද එසේ නම් විවිධත්ව වීසා ලොතරැයිය එහි නැවත පදිංචි වීමට ඔබට ඇති සැබෑ අවස්ථාවයි නමුත් ඇතුළත් වීමේ කාලය සාමාන්යයෙන් ඔක්තෝම්බර් මාසයේදී පවත්වන විට ප්රතිඵල මැයි මාසයේදී දැනගත හැකිය එබැවින් ඔබ ඔබේ තහවුරු කිරීමේ අංකය මාස හයක් ආරක්ෂිත සහ ආරක්ෂිත ස්ථානයක තබා ගත යුතුය |
|
|
ඔබ විවාහක නම් හෝ වැඩිහිටි දරුවන් සිටී නම් ඔවුන්ට ඔවුන්ගේ ප්රවේශය කළ හැකි අතර එමඟින් ඔබේ තේරීමේ අවස්ථා වැඩි වේ එමනිසා ඔබට තබා ගැනීමට තහවුරු කිරීමේ අංක දෙකක් හෝ වැඩි ගණනක් ඇත |
|
|
නමුත් වසරෙන් අඩක් යනු විශාල කාලයකි ඔබ අංකය තබා ඇති ඔබේ පරිගණකය වෙනස් කිරීමට හෝ අහම්බෙන් එය සමඟ ඔබේ සටහන් පොත ඉවතට විසි කළ හැකිය නැත්තම් නැති වෙන්න වෙන ක්රමයක් තියෙන්න පුළුවන් |
|
|
ඉතින් ඒ කියන්නේ ඔයාව තෝරගත්තොත් යන්න බෑ කියන එකද කෙටි පිළිතුර වන්නේ නැත යන්නයි |
|
|
``` |
|
|
``` |
|
|
ඇමරිකානු ජනාධිපතිවරණය නොවැම්බර් දින පැවැත්වුනා ඒ අනුව මේ වනවිට එහි ප්රතිඵල ලැබෙමින් පවතින අතර රිපබ්ලිකන් අපේක්ෂක ජනාධිපති ඩොනල්ඩ් සහ ඩිමොක්රටික් අපේක්ෂක ජෝ බයිඩන් අතර ප්රබල සටනක් තිබෙන බව ඡන්ද ප්රතිඵල පෙන්වා දෙනවා |
|
|
මේ වනවිට ඡන්ද විද්යාල න් ක ප්රතිඵල නිකුත් කර ඇති අතර එයි ඡන්ද විද්යාල ජයග්රහණය ජෝ බයිඩන් විසින් තහවුරු කරගෙන තිබෙන අතර ක ජයග්රහණය ඩොනල්ඩ් ට්රම්ප් විසින් තහවුරු කරගෙන තිබෙනවා |
|
|
තීරණාත්මක ප්රතිඵල කිහිපයක් ලැබීමට නියමිත අතර ඇරිසෝනා පෙන්සිල්වේනියා විස්කොන්සින් සහ මිචිගන් යන ප්රාන්තවල ප්රතිඵල තීරණාත්මක බැවින් ඒ සම්බන්ධයෙන් දැඩි අවධානයක් යොමුව තිබෙනවා |
|
|
මෙතෙක් ප්රතිඵල නිකුත් කර නොමැති ප්රාන්ත වන්නේ ඇරිසෝනා නෙවාඩා විස්කොන්සින් මිචිගන් පෙන්සිල්වේනියා උතුරු කැරොලිනා ජෝර්ජියා මේයින් හා ඇලස්කා යන ඒවායි ඒ අතරින් දැනට වාර්තා වන පරිදි ඇරිසෝනා නෙවාඩා සහ මේයින් යන ප්රාන්තවල ජෝ බයිඩන් ඉදිරියෙන් සිටින අතර පෙන්සිල්වේනියා මිචිගන් විස්කොන්සින් ඇලස්කා උතුරු කැරොලිනා සහ ජෝර්ජියා යන ප්රාන්තවල ඩොනල්ඩ් ට්රම්ප් ඉදිරියෙන් සිටී කෙසේ වෙතත් ඉදිරියෙන් සිටීම මගින් අවසන් තීරණය අනුමාන කිරීමට යොදා ගැනීම නිවැරදි නොවිය හැක |
|
|
ජයග්රහණය සඳහා ඡන්ද විද්යාල ක ජයග්රහණය තහවුරු කර ගැනීම අවශ්ය වේ |
|
|
``` |
|
|
``` |
|
|
මෙගාවල රඟපාලා නාගන්න කැමැති නැහැ බර්මින් ලයිලි ප්රනාන්දු අධ්යක්ෂණය කළ සිකුරු |
|
|
එබැවින් එම ප්රකාශය මන්ත්රිවරයා වගකීමකින් තොරව කරන ප්රකාශයක් ලෙස දැක්විය හැකිය |
|
|
අර විශ්වකර්ම ආයතනය මා සමග සාකච්ඡාවක් කර රූහඬ පටයක් |
|
|
මම කොටට අදින්නේ නැත්තේ මම ආස නෑ මගේ දේවල් අනිත් අයට පෙන්නන්න හෂිනි ගෝනගල |
|
|
මෝවබ්වරුන්ට විරුද්ධ ව සටන් කිරීම මෝවබ්හි රජු වූ මෙෂා බැටළු හිමියෙකු ව සිටියේ ය |
|
|
``` |
|
|
|
|
|
This dataset contains **20GB** of Sinhala-only text (20 × 1GB `.gz` files when uncompressed), carefully cleaned and tokenized. |
|
|
It is designed for **language modeling, embeddings, and NLP research**. |
|
|
|
|
|
--- |
|
|
|
|
|
## ✨ Key Features |
|
|
|
|
|
* **Language**: Sinhala (si) |
|
|
* **Size**: \~20GB uncompressed (20 × 1GB files) |
|
|
* **Format**: Plain text (`.gz` compressed), one sentence per line |
|
|
* **Cleaning**: |
|
|
|
|
|
* Removed all non-Sinhala characters |
|
|
* No punctuation, numbers, or symbols |
|
|
* Deduplicated and normalized |
|
|
* **Tokenization**: Pre-tokenized with consistent whitespace separation |
|
|
|
|
|
--- |
|
|
|
|
|
## 🔧 Usage |
|
|
|
|
|
You can load this dataset with `datasets`: |
|
|
|
|
|
```python |
|
|
from datasets import load_dataset |
|
|
|
|
|
dataset = load_dataset("Remeinium/Cleaned_Sinhala_Text") |
|
|
print(dataset["train"][0]) |
|
|
``` |
|
|
|
|
|
Or download individual `.gz` files directly from the repo. |
|
|
|
|
|
--- |
|
|
|
|
|
## 📂 Source & Processing |
|
|
|
|
|
* This dataset is a **curated blend** of multiple publicly available Sinhala text corpora (\~90%). |
|
|
* Combined, normalized, and filtered down to **only Sinhala letters** for maximum cleanliness. |
|
|
* Randomly sampled from a larger **283GB raw Sinhala dataset**. |
|
|
|
|
|
⚠️ **Note**: This is **not an original dataset**. It is a cleaned and prepared derivative for easier NLP use. |
|
|
|
|
|
--- |
|
|
|
|
|
## 🗜️ License |
|
|
|
|
|
This dataset is released under CC BY 4.0 (attribution required). |
|
|
For commercial partnerships, contact: support@remeinium.com |
|
|
|
|
|
--- |
|
|
|
|
|
## ⚠️ Limitations |
|
|
|
|
|
* Contains **only Sinhala** (no multilingual support). |
|
|
* Cleaning removed punctuation and numerics — not suitable for tasks that require them. |
|
|
* Not exhaustive; represents only a portion of available Sinhala text data. |
|
|
|
|
|
--- |
|
|
|
|
|
## 🤝 Collaboration |
|
|
|
|
|
We welcome: |
|
|
|
|
|
* Benchmarking and performance reports |
|
|
* Downstream tasks (embedding, classification, translation) |
|
|
* Community contributions for expanding and improving |
|
|
|
|
|
Contact us: |
|
|
📧 [support@remeinium.com](mailto:support@remeinium.com) |
|
|
|
|
|
--- |
|
|
|
|
|
## 📖 Citation |
|
|
|
|
|
If you use this dataset in your research or projects, please cite it as: |
|
|
```BibTeX |
|
|
@misc{remeinium_ai_2025, |
|
|
author = {Remeinium AI and Kusal Darshana}, |
|
|
title = {CleanSinhalaTextCorpus (Revision df405b1)}, |
|
|
year = 2025, |
|
|
url = {https://huggingface.co/datasets/Remeinium/CleanSinhalaTextCorpus}, |
|
|
doi = {10.57967/hf/6460}, |
|
|
publisher = {Hugging Face} |
|
|
} |
|
|
``` |
|
|
|
|
|
--- |
|
|
|
|
|
**Remeinium AI** — *Intelligence for a Greater Tomorrow* 🌍 |
