Update README.md

README.md

@@ -1,6 +1,184 @@
 ---
-license: odc-by
+language:
+- my
+license: cc-by-4.0
+size_categories:
+- 100K<n<1M
+task_categories:
+- text-generation
+- text-classification
+- fill-mask
+tags:
+- myanmar
+- burmese
+- nlp
+- moi
+- articles
+- government
+- sentences
+dataset_info:
+  features:
+  - name: text
+    dtype: string
+  splits:
+  - name: train
+    num_examples: 241099
+pretty_name: Ministry of Information (MOI) Articles Dataset (Line-by-Line)
 ---
-# DatarrX/moi-myanmar-articles-lines
 
-Dataset automatically uploaded from MOI Article project.
+# MOI Myanmar Articles Dataset - Lines (DatarrX/moi-myanmar-articles-lines)
+
+## Dataset Description
+
+The **MOI Myanmar Articles - Lines** dataset is a derivative corpus created from the official articles published on the Ministry of Information (MOI) website of the Republic of the Union of Myanmar. 
+
+Unlike the main dataset (`moi-myanmar-articles`), which contains full-length article texts, **this dataset has been systematically split line-by-line (sentence-by-sentence)**. This granular format provides a massive, ready-to-use corpus of over 240,000 Myanmar sentences, making it highly optimized for Natural Language Processing (NLP) tasks such as Language Modeling, Fill-Mask, Text Generation, and Machine Translation.
+
+### Dataset Summary
+
+- **Publisher / Organization:** DatarrX (Burmese: ဒေတာအက်စ်)
+- **Creator:** Khant Sint Heinn (Burmese: ခန့်ဆင့်ဟိဏ်း)
+- **Original Source:** [Ministry of Information (MOI)](https://www.moi.gov.mm/)
+- **Language:** Myanmar (Burmese) (`my`)
+- **Total Records:** 241,099 lines/sentences
+
+---
+
+## Dataset Structure
+
+The dataset is formatted as a `DatasetDict` containing a single `train` split. 
+
+- **Split:** `train`
+- **Number of rows:** 241,099
+- **Output Format:** `.parquet`
+
+### Features
+
+| Feature Name | Type | Description |
+| :--- | :--- | :--- |
+| `text` | `string` | An individual sentence or line of text extracted from the main content body of an MOI article. |
+
+---
+
+## Creation Process & Methodology
+
+This dataset is the second phase of our MOI data extraction pipeline. Initially, a robust Python web-scraping script was used to collect the full articles from the official MOI portal. 
+
+For this specific `lines` dataset, the full `content` of those extracted articles was processed and parsed. The text was programmatically split into individual lines/sentences using the standard Myanmar punctuation mark (။), while strategically filtering out arbitrarily short or empty strings to maintain data quality. The result is a clean, structured `.parquet` file consisting purely of standalone Myanmar sentences.
+
+For transparency, the complete source code of the scraping and text-processing methodology can be reviewed in our GitHub repository:
+**[MOI Myanmar Scraper Repository](https://github.com/DatarrX/moi-myanmar-scraper)**
+
+---
+
+## Legal Notice, Disclaimer, & Terms of Use
+
+Please read this section carefully before utilizing the dataset. This dataset intersects with governmental intellectual property and is bound by specific terms of use.
+
+### 1. Purpose and Non-Profit Declaration
+This dataset was created and released by **DatarrX** with **zero commercial intent**. Our sole purpose is the advancement of the Myanmar language in artificial intelligence, machine learning, and natural language processing. DatarrX derives absolutely no financial benefit or profit from the distribution of this data.
+
+### 2. Copyright & Intellectual Property
+The original ownership, copyright, and intellectual property rights of all texts within this dataset belong entirely to the **Ministry of Information (MOI), Myanmar**. We provide this dataset "as is" and make no claims of ownership over the content itself. 
+
+### 3. Usage & Licensing
+This dataset is distributed as open-source under the **Creative Commons Attribution 4.0 International (CC BY 4.0)** license for research and educational purposes. **However, for any commercial utilization, it is highly recommended to seek direct and explicit permission from the Ministry of Information.**
+
+### 4. Zero Modification Policy (Exact Replica)
+To preserve the integrity of the data, the dataset has been created identically to the source material. Aside from programmatically splitting the text into individual sentences for structural formatting, **we have not altered, modified, omitted, or edited a single character.** The data is presented as an exact replica of what was published on the official website. Nothing has been hidden, deleted, or adjusted to fit any specific narrative. We maintain profound respect for the original authors.
+
+### 5. Disclaimer of Liability and Bias
+The terminologies, vocabulary, statements, ideologies, and narratives present in this dataset strictly reflect the personal views, perspectives, and intent of the original authors and the publishing entity. **Therefore, the data may contain inherent biases, political perspectives, or subjective opinions.** These views **do not** belong to, nor do they reflect the stance of, Khant Sint Heinn, DatarrX, or any associated contributors. Regardless of how biased the original text may be, we have objectively extracted the data without imposing our own views or making any personal adjustments. 
+
+DatarrX provides no warranty or guarantee for the content. Any issues, disputes, controversies, or differences of opinion regarding the subject matter lie strictly between the reader and the original author/publisher.
+
+---
+
+## Citation (APA Format)
+
+If you use this dataset in your research or application, please cite it using the following format:
+
+```APA
+Khant Sint Heinn, & DatarrX. (2026). *MOI Myanmar Articles Dataset - Lines* [Data set]. Hugging Face. [https://huggingface.co/datasets/DatarrX/moi-myanmar-articles-lines](https://huggingface.co/datasets/DatarrX/moi-myanmar-articles-lines)
+```
+---
+*Created with dedication for the advancement of Myanmar NLP by DatarrX.*
+
+---
+
+## Dataset အကြောင်း
+
+**MOI Myanmar Articles - Lines** dataset ဆိုတာ ပြည်ထောင်စု သမ္မတမြန်မာနိုင်ငံတော် အစိုးရ၊ ပြန်ကြားရေးဝန်ကြီးဌာန (MOI) ရဲ့ တရားဝင် website ကနေ လွှင့်တင်ထားတဲ့ ဆောင်းပါးတွေကနေ ဖန်တီးထုတ်ယူထားတဲ့ derivative corpus တစ်ခု ဖြစ်ပါတယ်။ 
+
+ဆောင်းပါးအပြည့်အစုံတွေ ပါဝင်တဲ့ မူရင်း dataset (`DatarrX/moi-myanmar-articles`) နဲ့မတူတာကတော့၊ **ဒီ dataset မှာ စာကြောင်းတစ်ကြောင်းချင်းစီ စနစ်တကျ ခွဲထုတ်ထားတာပါ။** ဒီလို အသေးစိတ်ခွဲထုတ်ထားတဲ့အတွက် အသင့်သုံးလို့ရတဲ့ မြန်မာစာကြောင်းရေ ၂၄၀,၀၀၀ ကျော်ပါဝင်တဲ့ corpus အကြီးကြီးတစ်ခု ရရှိသွားတာပေါ့။ ဒါကြောင့် Language Modeling, Fill-Mask, Text Generation နဲ့ Machine Translation စတဲ့ Natural Language Processing (NLP) task တွေအတွက် အရမ်းကို အဆင်ပြေစေပါတယ်။
+
+### Dataset အချက်အလက်များ
+
+- **ထုတ်ဝေတဲ့အဖွဲ့အစည်း** - ဒေတာအက်စ် (English: DatarrX)
+- **ဖန်တီးသူ** - ခန့်ဆင့်ဟိဏ်း (English: Khant Sint Heinn)
+- **မူရင်း Source** - [Ministry of Information (MOI)](https://www.moi.gov.mm/)
+- **ဘာသာစကား** - မြန်မာ (Burmese) (`my`)
+- **စုစုပေါင်း မှတ်တမ်း** - စာကြောင်းရေ ၂၄၁,၀၉၉ ကြောင်း
+
+---
+
+## Dataset ဖွဲ့စည်းပုံ
+
+ဒီ dataset ကို `train` split တစ်ခုတည်းပါတဲ့ `DatasetDict` ပုံစံနဲ့ ဖန်တီးထားပါတယ်။ 
+
+- **Split:** `train`
+- **Row အရေအတွက်:** ၂၄၁,၀၉၉
+- **Output Format:** `.parquet`
+
+### Features များ
+
+| Feature နာမည် | အမျိုးအစား (Type) | ရှင်းလင်းချက် (Description) |
+| :--- | :--- | :--- |
+| `text` | `string` | MOI ဆောင်းပါးတွေရဲ့ အဓိက content ထဲကနေ ခွဲထုတ်ထားတဲ့ စာကြောင်း ဒါမှမဟုတ် text တစ်ကြောင်းချင်းစီ ဖြစ်ပါတယ်။ |
+
+---
+
+## ဖန်တီးတည်ဆောက်ပုံ အဆင့်ဆင့်
+
+ဒီ dataset ဟာ ကျွန်တော်တို့ရဲ့ MOI data extraction pipeline ရဲ့ ဒုတိယအဆင့် ဖြစ်ပါတယ်။ ပထမတုန်းက MOI ရဲ့ တရားဝင် portal ကနေ ဆောင်းပါးအပြည့်အစုံတွေကို ရယူဖို့ ခိုင်မာတဲ့ Python web-scraping script တစ်ခုကို အသုံးပြုခဲ့တာပါ။ 
+
+ဒီ `lines` dataset အတွက်ကတော့၊ အဲဒီထုတ်ယူထားတဲ့ ဆောင်းပါးတွေရဲ့ `content` အပြည့်အစုံကို ထပ်ပြီး process လုပ်၊ parse လုပ်ခဲ့တာပါ။ Data quality ကောင်းနေဖို့အတွက် အရမ်းတိုတဲ့ ဒါမှမဟုတ် အလွတ်ဖြစ်နေတဲ့ စာသားတွေကို သေချာစစ်ထုတ်ပြီး၊ စံကိုက် မြန်မာပုဒ်မ (။) ကိုသုံးပြီး စာ��ြောင်းတစ်ကြောင်းချင်းစီကို program သုံးပြီး စနစ်တကျ ခွဲထုတ်လိုက်တာပါ။ ရလဒ်အနေနဲ့ သီးသန့် မြန်မာစာကြောင်းတွေချည်းပဲ ပါဝင်တဲ့ သန့်ရှင်းသပ်ရပ်တဲ့ `.parquet` file တစ်ခု ရလာတာပေါ့။
+
+ပွင့်လင်းမြင်သာမှုရှိစေဖို့အတွက် scraping နဲ့ text-processing လုပ်ခဲ့တဲ့ ပြီးပြည့်စုံတဲ့ source code ကို ကျွန်တော်တို့ရဲ့ GitHub repository မှာ ဝင်ရောက်ကြည့်ရှုနိုင်ပါတယ်-
+**[MOI Myanmar Scraper Repository](https://github.com/DatarrX/moi-myanmar-scraper)**
+
+---
+
+## ဥပဒေရေးရာ၊ တာဝန်ယူမှုကင်းလွတ်ခွင့်နဲ့ အသုံးပြုမှုဆိုင်ရာ သတ်မှတ်ချက်များ
+
+ဒီ dataset ကို မသုံးခင် ဒီအပိုင်းကို သေချာလေး ဖတ်ပေးပါနော်။ ဒီ dataset ဟာ အစိုးရရဲ့ ဉာဏပိုင်ဆိုင်မှုတွေနဲ့ ဆက်စပ်နေပြီးတော့ သတ်မှတ်ထားတဲ့ စည်းမျဉ်းစည်းကမ်းတွေနဲ့ အကျုံးဝင်ပါတယ်။
+
+### ၁။ ရည်ရွယ်ချက်နဲ့ အကျိုးအမြတ်မယူကြောင်း ကြေညာချက်
+ဒီ dataset ကို **DatarrX** ကနေ စီးပွားရေးရည်ရွယ်ချက် လုံးဝမပါဘဲ ဖန်တီးဖြန့်ဝေထားတာပါ။ ကျွန်တော်တို့ရဲ့ တစ်ခုတည်းသော ရည်ရွယ်ချက်ကတော့ AI, Machine Learning နဲ့ NLP နယ်ပယ်တွေမှာ မြန်မာစာ တိုးတက်လာစေဖို့အတွက်ပဲ ဖြစ်ပါတယ်။ DatarrX အနေနဲ့ ဒီ data တွေကို ဖြန့်ဝေတာကနေ ငွေကြေးအကျိုးအမြတ် တစ်ပြားတစ်ချပ်မှ မရယူထားပါဘူး။
+
+### ၂။ မူပိုင်ခွင့်နဲ့ ဉာဏပိုင်ဆိုင်မှု
+ဒီ dataset ထဲမှာပါတဲ့ စာသားတွေအားလုံးရဲ့ မူလပိုင်ဆိုင်မှု၊ မူပိုင်ခွင့်နဲ့ ဉာဏပိုင်ဆိုင်မှု အခွင့်အရေးတွေ အကုန်လုံးက **မြန်မာနိုင်ငံ ပြန်ကြားရေးဝန်ကြီးဌာန (MOI)** နဲ့ပဲ အပြည့်အဝသက်ဆိုင်ပါတယ်။ ကျွန်တော်တို့က ဒီ dataset ကို "အရှိကို အရှိအတိုင်း" (as is) ပေးထားတာဖြစ်ပြီး၊ content တွေအပေါ်မှာ ကျွန်တော်တို့ပိုင်ပါတယ်လို့ လုံးဝမပြောပါဘူး။
+
+### ၃။ အသုံးပြုခွင့်နဲ့ လိုင်စင်
+ဒီ dataset ကို သုတေသနနဲ့ ပညာရေးရည်ရွယ်ချက်တွေအတွက် open-source အနေနဲ့ **Creative Commons Attribution 4.0 International (CC BY 4.0)** လိုင်စင်အောက်မှာ ဖြန့်ဝေထားပါတယ်။ **ဒါပေမယ့် စီးပွားရေးအတွက် အသုံးပြုမယ်ဆိုရင်တော့ ပြန်ကြားရေးဝန်ကြီးဌာနဆီကနေ ခွင့်ပြုချက်ကို တိုက်ရိုက် သေချာတောင်းခံဖို့ အထူးပဲ အကြံပြုချင်ပါတယ်။**
+
+### ၄။ လုံးဝမပြုပြင်ခြင်း မူဝါဒ (တစ်ထေရာတည်း ပုံတူ)
+Data ရဲ့ မှန်ကန်မှုကို ထိန်းသိမ်းဖို့အတွက်၊ ဒီ dataset ကို မူရင်းအချက်အလက်တွေနဲ့ တစ်ထေရာတည်း ဖြစ်အောင် ဖန်တီးထားပါတယ်။ Structure ကျကျဖြစ်အောင် စာကြောင်းတစ်ကြောင်းချင်းစီ program သုံးပြီး ခွဲထုတ်လိုက်တာကလွဲရင်၊ **ကျွန်တော်တို့ စာတစ်လု��းကိုတောင်မှ ပြင်တာ၊ ပြောင်းတာ၊ ချန်လှပ်တာ၊ တည်းဖြတ်တာတွေ လုံးဝမလုပ်ထားပါဘူး။** တရားဝင် website မှာ လွှင့်တင်ထားတဲ့အတိုင်း အတိအကျကို ပြသထားတာပါ။ ဘယ်အရာကိုမှ ဖျက်ထားတာ၊ ကွယ်ထားတာ၊ ဒါမှမဟုတ် ကိုယ်ဖြစ်စေချင်တဲ့ ပုံစံမျိုးဖြစ်အောင် ပြင်ထားတာ လုံးဝမရှိပါဘူး။ မူရင်းရေးသားသူတွေကို ကျွန်တော်တို့ အထူးပဲ လေးစားမှုရှိပါတယ်။
+
+### ၅။ တာဝန်ယူမှုကင်းလွတ်ခွင့်နဲ့ ဘက်လိုက်မှုများ
+ဒီ dataset ထဲမှာပါတဲ့ အသုံးအနှုန်းတွေ၊ ဝေါဟာရတွေ၊ အဆိုအမိန့်တွေ၊ သဘောတရားတွေနဲ့ ဇာတ်ကြောင်းတွေ အကုန်လုံးဟာ မူရင်းရေးသားသူတွေနဲ့ ထုတ်ဝေတဲ့အဖွဲ့အစည်းရဲ့ ကိုယ်ပိုင်အမြင်တွေ၊ ရှုထောင့်တွေနဲ့ ရည်ရွယ်ချက်တွေကိုသာ အတိအကျ ထင်ဟပ်နေတာပါ။ **ဒါကြောင့် ဒီ data ထဲမှာ မူလကတည်းက ပါနေတဲ့ ဘက်လိုက်မှုတွေ၊ နိုင်ငံရေးရှုထောင့်တွေ၊ ဒါမှမဟုတ် ကိုယ်ပိုင်အမြင်တွေ ပါဝင်နေနိုင်ပါတယ်။** ဒီအမြင်တွေဟာ Khant Sint Heinn၊ DatarrX ဒါမှမဟုတ် ပါဝင်ကူညီသူတွေရဲ့ အမြင် လုံးဝမဟုတ်သလို၊ ကျွန်တော်တို့ရဲ့ ရပ်တည်ချက်ကိုလည်း ထင်ဟပ်နေတာ မဟုတ်ပါဘူး။ မူရင်းစာသားတွေက ဘယ်လောက်ပဲ ဘက်လိုက်နေပါစေ၊ ကျွန်တော်တို့ကတော့ ကိုယ့်အမြင်တွေထည့်တာ၊ ကိုယ့်စိတ်ကြိုက် ပြင်တာတွေ လုံးဝမလုပ်ဘဲ data ကို အရှိကိုအရှိအတိုင်းပဲ ထုတ်ယူထားတာပါ။
+
+DatarrX အနေနဲ့ ဒီ content တွေနဲ့ ပတ်သက်ပြီး ဘယ်လိုအာမခံချက်မျိုးမှ မပေးပါဘူး။ ဒီအကြောင်းအရာတွေနဲ့ပတ်သက်ပြီး ပြဿနာတစ်စုံတစ်ရာ ရှိလာရင်ဖြစ်စေ၊ အငြင်းပွားစရာဖြစ်စေ၊ အမြင်ကွဲလွဲမှုဖြစ်စေ စာဖတ်သူနဲ့ မူရင်းရေးသားသူ/ထုတ်ဝေသူတို့ကြားမှာသာ အတိအကျ သက်ဆိုင်ပါတယ်။
+
+---
+
+## ကိုးကားရန် (APA Format)
+
+တကယ်လို့ သင်က ဒီ dataset ကို သင့်ရဲ့ သုတေသန ဒါမှမဟုတ် application တွေမှာ အသုံးပြုမယ်ဆိုရင် အောက်ပါ format အတိုင်း ကိုးကားပေးပါနော်-
+
+```APA
+Khant Sint Heinn, & DatarrX. (2026). *MOI Myanmar Articles Dataset - Lines* [Data set]. Hugging Face. [https://huggingface.co/datasets/DatarrX/moi-myanmar-articles-lines](https://huggingface.co/datasets/DatarrX/moi-myanmar-articles-lines)
+```
+
+---
+*DatarrX မှ မြန်မာ NLP နယ်ပယ် တိုးတက်စေဖို့အတွက် စေတနာထားပြီး ဖန်တီးထားပါတယ်။*