Datasets:
File size: 5,947 Bytes
323e3a4 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 | ---
license: apache-2.0
task_categories:
- text-generation
language:
- my
size_categories:
- 10M<n<100M
---
# myX-Mega-Corpus (Myanmar NLP Resource)
## 📌 Project Overview
**myX-Mega-Corpus** is a comprehensive, large-scale Burmese language dataset curated by **DatarrX**. It consists of approximately **16 million rows** of cleaned and shuffled Burmese text. While originally designed for training the **myX-Semantic** word embedding model, this corpus is highly versatile and can be used for any NLP task, including LLM fine-tuning, sentiment analysis, and machine translation.
## 📚 Dataset Sources & Attribution
This corpus is an aggregation of the following high-quality resources. We strictly adhere to open-source ethics and acknowledge the original authors:
1. **Myanmar Spoken Corpus**: Compiled by [freococo](https://huggingface.co/datasets/freococo/myanmar_spoken_corpus). License: **CC-BY-4.0**. This dataset contributes approximately 15 million rows of spoken and social media text.
2. **myX-Corpus**: Compiled by [**Khant Sint Heinn (Kalix Louis)**](https://huggingface.co/kalixlouiis). This dataset includes a diverse range of Burmese literary and technical text.
## 🛠 Data Specifications
* **Total Rows:** 16,000,000+
* **File Format:** Raw Text (.txt)
* **Language:** Burmese (Unicode Standard)
* **Encoding:** UTF-8
* **Preprocessing:** Zawgyi to Unicode normalization, duplicate removal, and noise filtering were performed.
## ⚖️ License
**CC-BY-4.0 (Creative Commons Attribution 4.0 International)**
You are free to share, copy, and adapt this material for any purpose, even commercially, as long as you provide appropriate credit to the original authors and **DatarrX**.
---
## 📌 စီမံကိန်းအကျဉ်း
**myX-Mega-Corpus** သည် **DatarrX** မှ စုစည်းဖန်တီးထားသော အကြီးစား မြန်မာဘာသာစကား ဒေတာစု (Dataset) ဖြစ်သည်။ စုစုပေါင်း စာကြောင်းရေ **၁၆ သန်းကျော်** (၅.၃ GB ဝန်းကျင်) ပါဝင်ပြီး သန့်စင်ပြီးသား (Cleaned) ဒေတာများကို စနစ်တကျ ရောနှော (Shuffled) ထားသည်။ မူလက **myX-Semantic** (Word Embedding Model) လေ့ကျင့်ရန် ရည်ရွယ်ခဲ့သော်လည်း ယခုအခါ မည်သည့် NLP လုပ်ငန်းစဉ်များ (ဥပမာ - LLM training, Sentiment analysis) အတွက်မဆို အခမဲ့ အသုံးပြုနိုင်သည်။
## 📚 ရင်းမြစ်နှင့် ကျေးဇူးတင်လွှာ
ဤ Corpus ကို အောက်ပါ အရည်အသွေးမြင့် ရင်းမြစ်များမှ စုစည်းပေါင်းစပ်ထားခြင်းဖြစ်ပြီး မူရင်းပိုင်ရှင်များကို လေးစားစွာဖြင့် မှတ်တမ်းတင်အပ်ပါသည် -
၁။ **Myanmar Spoken Corpus**: [freococo](https://huggingface.co/datasets/freococo/myanmar_spoken_corpus) မှ စုစည်းထားခြင်းဖြစ်ပြီး လိုင်စင်မှာ **CC-BY-4.0** ဖြစ်သည်။ (စကားပြောဒေတာနှင့် လူမှုကွန်ရက်စာသား ၁၅ သန်းခန့် ပါဝင်သည်)။
၂။ **myX-Corpus**: [**Khant Sint Heinn (Kalix Louis)**](https://huggingface.co/kalixlouiis) မှ စုစည်းထားသော မြန်မာစာပေနှင့် နည်းပညာဆိုင်ရာ စာသားများ ဖြစ်သည်။
## 🛠 ဒေတာဆိုင်ရာ အချက်အလက်များ
* **စုစုပေါင်း စာကြောင်းရေ:** ၁၆,၀၀၀,၀၀၀ ကျော်
* **ဖိုင်အမျိုးအစား:** Raw Text (.txt)
* **ဘာသာစကား:** မြန်မာဘာသာ (ယူနီကုဒ်စံနှုန်း), အင်္ဂလိပ်ဘာသာ (အနည်းငယ်)
* **Encoding:** UTF-8
* **Preprocessing:** ဇော်ဂျီမှ ယူနီကုဒ်သို့ ပြောင်းလဲခြင်း၊ ထပ်နေသောစာကြောင်းများ ဖယ်ရှားခြင်းနှင့် အမှိုက်ဒေတာများ သန့်စင်ခြင်းတို့ကို ပြုလုပ်ထားသည်။
## ⚖️ လိုင်စင်
**CC-BY-4.0 (Creative Commons Attribution 4.0 International)**
ဤဒေတာများကို မည်သည့်ရည်ရွယ်ချက်ဖြင့်မဆို (စီးပွားရေးအရ အသုံးပြုခြင်းအပါအဝင်) လွတ်လပ်စွာ ကူးယူခြင်း၊ ပြုပြင်မွမ်းမံခြင်းနှင့် ဖြန့်ဝေခြင်းများ ပြုလုပ်နိုင်သည်။ သို့သော် မူရင်းရင်းမြစ်များနှင့် **DatarrX** ကို Credit (Attribution) သေချာစွာ ပေးရန် လိုအပ်သည်။
## 👥 About DatarrX
**DatarrX** is an open-source non-governmental organization dedicated to developing advanced Natural Language Processing (NLP) resources for the Burmese language။ |