Datasets:
license: apache-2.0
task_categories:
- text-generation
language:
- my
size_categories:
- 10M<n<100M
myX-Mega-Corpus (Myanmar NLP Resource)
📌 Project Overview
myX-Mega-Corpus is a comprehensive, large-scale Burmese language dataset curated by DatarrX. It consists of approximately 16 million rows of cleaned and shuffled Burmese text. While originally designed for training the myX-Semantic word embedding model, this corpus is highly versatile and can be used for any NLP task, including LLM fine-tuning, sentiment analysis, and machine translation.
📚 Dataset Sources & Attribution
This corpus is an aggregation of the following high-quality resources. We strictly adhere to open-source ethics and acknowledge the original authors:
- Myanmar Spoken Corpus: Compiled by freococo. License: CC-BY-4.0. This dataset contributes approximately 15 million rows of spoken and social media text.
- myX-Corpus: Compiled by Khant Sint Heinn (Kalix Louis). This dataset includes a diverse range of Burmese literary and technical text.
🛠 Data Specifications
- Total Rows: 16,000,000+
- File Format: Raw Text (.txt)
- Language: Burmese (Unicode Standard)
- Encoding: UTF-8
- Preprocessing: Zawgyi to Unicode normalization, duplicate removal, and noise filtering were performed.
⚖️ License
CC-BY-4.0 (Creative Commons Attribution 4.0 International) You are free to share, copy, and adapt this material for any purpose, even commercially, as long as you provide appropriate credit to the original authors and DatarrX.
📌 စီမံကိန်းအကျဉ်း
myX-Mega-Corpus သည် DatarrX မှ စုစည်းဖန်တီးထားသော အကြီးစား မြန်မာဘာသာစကား ဒေတာစု (Dataset) ဖြစ်သည်။ စုစုပေါင်း စာကြောင်းရေ ၁၆ သန်းကျော် (၅.၃ GB ဝန်းကျင်) ပါဝင်ပြီး သန့်စင်ပြီးသား (Cleaned) ဒေတာများကို စနစ်တကျ ရောနှော (Shuffled) ထားသည်။ မူလက myX-Semantic (Word Embedding Model) လေ့ကျင့်ရန် ရည်ရွယ်ခဲ့သော်လည်း ယခုအခါ မည်သည့် NLP လုပ်ငန်းစဉ်များ (ဥပမာ - LLM training, Sentiment analysis) အတွက်မဆို အခမဲ့ အသုံးပြုနိုင်သည်။
📚 ရင်းမြစ်နှင့် ကျေးဇူးတင်လွှာ
ဤ Corpus ကို အောက်ပါ အရည်အသွေးမြင့် ရင်းမြစ်များမှ စုစည်းပေါင်းစပ်ထားခြင်းဖြစ်ပြီး မူရင်းပိုင်ရှင်များကို လေးစားစွာဖြင့် မှတ်တမ်းတင်အပ်ပါသည် -
၁။ Myanmar Spoken Corpus: freococo မှ စုစည်းထားခြင်းဖြစ်ပြီး လိုင်စင်မှာ CC-BY-4.0 ဖြစ်သည်။ (စကားပြောဒေတာနှင့် လူမှုကွန်ရက်စာသား ၁၅ သန်းခန့် ပါဝင်သည်)။ ၂။ myX-Corpus: Khant Sint Heinn (Kalix Louis) မှ စုစည်းထားသော မြန်မာစာပေနှင့် နည်းပညာဆိုင်ရာ စာသားများ ဖြစ်သည်။
🛠 ဒေတာဆိုင်ရာ အချက်အလက်များ
- စုစုပေါင်း စာကြောင်းရေ: ၁၆,၀၀၀,၀၀၀ ကျော်
- ဖိုင်အမျိုးအစား: Raw Text (.txt)
- ဘာသာစကား: မြန်မာဘာသာ (ယူနီကုဒ်စံနှုန်း), အင်္ဂလိပ်ဘာသာ (အနည်းငယ်)
- Encoding: UTF-8
- Preprocessing: ဇော်ဂျီမှ ယူနီကုဒ်သို့ ပြောင်းလဲခြင်း၊ ထပ်နေသောစာကြောင်းများ ဖယ်ရှားခြင်းနှင့် အမှိုက်ဒေတာများ သန့်စင်ခြင်းတို့ကို ပြုလုပ်ထားသည်။
⚖️ လိုင်စင်
CC-BY-4.0 (Creative Commons Attribution 4.0 International) ဤဒေတာများကို မည်သည့်ရည်ရွယ်ချက်ဖြင့်မဆို (စီးပွားရေးအရ အသုံးပြုခြင်းအပါအဝင်) လွတ်လပ်စွာ ကူးယူခြင်း၊ ပြုပြင်မွမ်းမံခြင်းနှင့် ဖြန့်ဝေခြင်းများ ပြုလုပ်နိုင်သည်။ သို့သော် မူရင်းရင်းမြစ်များနှင့် DatarrX ကို Credit (Attribution) သေချာစွာ ပေးရန် လိုအပ်သည်။
👥 About DatarrX
DatarrX is an open-source non-governmental organization dedicated to developing advanced Natural Language Processing (NLP) resources for the Burmese language။