kalixlouiis commited on
Commit
befc800
·
verified ·
1 Parent(s): 3885968

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +81 -1
README.md CHANGED
@@ -109,4 +109,84 @@ Khant Sint Heinn, & DatarrX. (2026). *MOI Myanmar Articles Dataset* [Data set].
109
  ```
110
 
111
  ---
112
- *Created with dedication for the advancement of Myanmar NLP by DatarrX.*
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
109
  ```
110
 
111
  ---
112
+ *Created with dedication for the advancement of Myanmar NLP by DatarrX.*
113
+
114
+ ---
115
+
116
+ ## Dataset အကြောင်း
117
+
118
+ **MOI Myanmar Articles** dataset ဆိုတာ ပြည်ထောင်စု သမ္မတမြန်မာနိုင်ငံတော် အစိုးရ၊ ပြန်ကြားရေးဝန်ကြီးဌာန (MOI) ရဲ့ တရားဝင် website ကနေ တိုက်ရိုက်ထုတ်ယူထားတဲ့ တရားဝင်ဆောင်းပါးတွေ စုစည်းထားတာဖြစ်ပါတယ်။ ဒီ dataset ကို Natural Language Processing (NLP) နဲ့ Machine Learning (ML) နယ်ပယ်တွေမှာ မြန်မာဘာသာစကား ပိုမိုတိုးတက်လာဖို့၊ သုတေသနလုပ်နိုင်ဖို့နဲ့ ဖွံ့ဖြိုးလာစေဖို့ သီးသန့်ရည်ရွယ်ပြီး ဖန်တီးထားတာပါ။
119
+
120
+ ### Dataset အချက်အလက်များ
121
+
122
+ - **ထုတ်ဝေတဲ့အဖွဲ့အစည်း** - DatarrX (ဒေတာအက်စ်)
123
+ - **ဖန်တီးသူ** - Khant Sint Heinn (ခန့်ဆင့်ဟိဏ်း)
124
+ - **မူရင်း Source** - [Ministry of Information (MOI)](https://www.moi.gov.mm/)
125
+ - **ဘာသာစကား** - မြန်မာ (Burmese) (`my`)
126
+ - **စုစုပေါင်း မှတ်တမ်းများ** - ဆောင်းပါး ၄,၂၅၃ ပုဒ်
127
+
128
+ ---
129
+
130
+ ## Dataset ဖွဲ့စည်းပုံ
131
+
132
+ ဒီ dataset ကို `train` split တစ်ခုတည်းပါတဲ့ `DatasetDict` ပုံစံနဲ့ ဖန်တီးထားပါတယ်။
133
+
134
+ - **Split:** `train`
135
+ - **Row အရေအတွက်:** ၄,၂၅၃
136
+ - **Output Format:** `.parquet`
137
+
138
+ ### Features များ
139
+ | Feature နာမည် | အမျိုးအစား (Type) | ရှင်းလင်းချက် (Description) |
140
+ | :--- | :--- | :--- |
141
+ | `url` | `string` | MOI website ပေါ်က မူရင်းဆောင်းပါးဆီကို တိုက်ရိုက်သွားလို့ရတဲ့ URL ပါ။ |
142
+ | `title` | `string` | ဆောင်းပါးရဲ့ တရားဝင် ခေါင်းစဉ်ပါ။ |
143
+ | `content` | `string` | ဆောင်းပါးရဲ့ စာသားအပြည့်အစုံပါ။ |
144
+
145
+ ---
146
+
147
+ ## ဖန်တီးတည်ဆောက်ပုံ အဆင့်ဆင့်
148
+
149
+ ဒီ data တွေကို MOI ရဲ့ တရားဝင် portal နဲ့ ချိတ်ဆက်ပြီး အလုပ်လုပ်နိုင်ဖို့ သေချာရေးဆွဲထားတဲ့ Python web-scraping script တစ်ခုကို သုံးပြီး စုစည်းထားတာပါ။ အဲဒီ scraper က page တွေကို program သုံးပြီး အလိုအလျောက်ကူးပြောင်းသွားတယ်၊ ဆောင်းပါး URL တွေကို ထုတ်ယူတယ်၊ ပြီးတော့ `BeautifulSoup` ကို သုံးပြီး ခေါင်းစဉ်နဲ့ အဓိကစာသားတွေကို တိတိကျကျ ဆွဲထုတ်ယူထားတာပါ။
150
+
151
+ အဲဒီလို ဆွဲထုတ်ပြီးတော့ လိုချင်တဲ့ အချက်အလက်တွေကို သန့်ရှင်းသပ်ရပ်တဲ့ `.parquet` file (`train-full-00001-of-00001.parquet`) အနေနဲ့ သိမ်းဆည်းလိုက်ပါတယ်။ ဒါကြောင့် machine learning pipeline တွေမှာ ချက်ချင်းအသုံးပြုဖို့ သင့်တော်တဲ့ အရည်အသွေးမြင့် format တစ်ခု ရလာတာပေါ့။
152
+
153
+ ပွင့်လင်းမြင်သာမှုရှိစေဖို့အတွက် scraping လုပ်ခဲ့တဲ့ source code အပြည့်အစုံကို ကျွန်တော်တို့ရဲ့ GitHub repository မှာ ဝင်ရောက်လေ့လာကြည့်ရှုနိုင်ပါတယ်-
154
+ **[MOI Myanmar Scraper Repository](https://github.com/DatarrX/moi-myanmar-scraper)**
155
+
156
+ ---
157
+
158
+ ## ဥပဒေရေးရာ၊ တာဝန်ယူမှုကင်းလွတ်ခွင့်နဲ့ အသုံးပြုမှုဆိုင်ရာ သတ်မှတ်ချက်များ
159
+
160
+ ဒီ dataset ကို မသုံးခင် ဒီအပိုင်းလေးကို သေချာဖတ်ပေးပါနော်။ ဒီ dataset ဟာ အစိုးရရဲ့ ဉာဏပိုင်ဆိုင်မှုတွေနဲ့ ဆက်စပ်နေပြီးတော့ သတ်မှတ်ထားတဲ့ စည်းမျဉ်းစည်းကမ်းတွေနဲ့ အကျုံးဝင်ပါတယ်။
161
+
162
+ ### ၁။ ရည်ရွယ်ချက်နဲ့ အကျိုးအမြတ်မယူကြောင်း ကြေညာချက်
163
+ ဒီ dataset ကို **DatarrX** ကနေ စီးပွားရေးရည်ရွယ်ချက် လုံးဝမပါဘဲ ဖန်တီးဖြန့်ဝေထားတာပါ။ ကျွန်တော်တို့ရဲ့ တစ်ခုတည်းသော ရည်ရွယ်ချက်ကတော့ AI, Machine Learning နဲ့ NLP နယ်ပယ်တွေမှာ မြန်မာစာ ပိုတိုးတက်လာစေဖို့အတွက်ပဲ ဖြစ်ပါတယ်။ DatarrX အနေနဲ့ ဒီ data တွေကို ဖြန့်ဝေတာကနေ ငွေကြေးအကျိုးအမြတ် တစ်ပြားတစ်ချပ်မှ မရယူထားပါဘူး။
164
+
165
+ ### ၂။ မူပိုင်ခွင့်နဲ့ ဉာဏပိုင်ဆိုင်မှု
166
+ ဒီ dataset ထဲမှာပါတဲ့ စာသားတွေအားလုံးရဲ့ မူလပိုင်ဆိုင်မှု၊ မူပိုင်ခွင့်နဲ့ ဉာဏပိုင်ဆိုင်မှု အခွင့်အရေးတွေ အကုန်လုံးက **မြန်မာနိုင်ငံ ပြန်ကြားရေးဝန်ကြီးဌာန (MOI)** နဲ့ပဲ အပြည့်အဝသက်ဆိုင်ပါတယ်။ ကျွန်တော်တို့က ဒီ dataset ကို "အရှိကို အရှိအတိုင်း" (as is) ပေးထားတာဖြစ်ပြီး၊ content တွေအပေါ်မှာ ကျွန်တော်တို့ပိုင်ပါတယ်လို့ လုံးဝမပြောပါဘူး။
167
+
168
+ ### ၃။ အသုံးပြုခွင့်နဲ့ လိုင်စင်
169
+ ဒီ dataset ကို သုတေသနနဲ့ ပညာရေးရည်ရွယ်ချက်တွေအတွက် open-source အနေနဲ့ **Creative Commons Attribution 4.0 International (CC BY 4.0)** လိုင်စင်အောက်မှာ ဖြန့်ဝေထားပါတယ်။ **ဒါပေမယ့် စီးပွားရေးအတွက် အသုံးပြုမယ်ဆိုရင်တော့ ပြန်ကြားရေးဝန်ကြီးဌာနဆီကနေ ခွင့်ပြုချက်ကို တိုက်ရိုက် သေချာတောင်းခံဖို့ အထူးပဲ အကြံပြုချင်ပါတယ်။**
170
+
171
+ ### ၄။ လုံးဝမပြုပြင်ခြင်း မူဝါဒ (တစ်ထေရာတည်း ပုံတူ)
172
+ Data ရဲ့ မှန်ကန်မှုကို ထိန်းသိမ်းဖို့အတွက်၊ ဒီ dataset ကို မူရင်းအချက်အလက်တွေနဲ့ တစ်ထေရာတည်း ဖြစ်အောင် ဖန်တီးထားပါတယ်။ **ကျွန်တော်တို့ စာတစ်လုံးကိုတောင်မှ ပြင်တာ၊ ပြောင်းတာ၊ ချန်လှပ်တာ၊ တည်းဖြတ်တာတွေ လုံးဝမလုပ်ထားပါဘူး။** တရားဝင် website မှာ လွှင့်တင်ထားတဲ့အတိုင်း အတိအကျကို ပြသထားတာပါ။ ဘယ်အရာကိုမှ ဖျက်ထားတာ၊ ကွယ်ထားတာ၊ ဒါမှမဟုတ် ကိုယ်ဖြစ်စေချင်တဲ့ ပုံစံမျိုးဖြစ်အောင် ပြင်ထားတာ လုံးဝမရှိပါဘူး။ မူရင်းရေးသားသူတွေကို ကျွန်တော်တို့ အထူးပဲ လေးစားမှုရှိပါတယ်။
173
+
174
+ ### ၅။ တာဝန်ယူမှုကင်းလွတ်ခွင့်နဲ့ ဘက်လိုက်မှုများ
175
+ ဒီ dataset ထဲမှာပါတဲ့ အသုံးအနှုန်းတွေ၊ ဝေါဟာရတွေ၊ အဆိုအမိန့်တွေ၊ သဘောတရားတွေနဲ့ ဇာတ်ကြောင်းတွေ အကုန်လုံးဟာ မူရင်းရေးသားသူတွေနဲ့ ထုတ်ဝေတဲ့အဖွဲ့အစည်းရဲ့ ကိုယ်ပိုင်အမြင်တွေ၊ ရှုထောင့်တွေနဲ့ ရည်ရွယ်ချက်တွေကိုသာ အတိအကျ ထင်ဟပ်နေတာပါ။ **ဒါကြောင့် ဒီ data ထဲမှာ မူလကတည်းက ပါနေတဲ့ ဘက်လိုက်မှုတွေ၊ နိုင်ငံရေးရှုထောင့်တွေ၊ ဒါမှမဟုတ် ကိုယ်ပိုင်အမြင်တွေ ပါဝင်နေနိုင်ပါတယ်။**
176
+
177
+ ဒီအမြင်တွေဟာ Khant Sint Heinn၊ DatarrX ဒါမှမဟုတ် ပါဝင်ကူညီသူတွေရဲ့ အမြင် လုံးဝမဟုတ်သလို၊ ကျွန်တော်တို့ရဲ့ ရပ်တည်ချက်ကိုလည်း ထင်ဟပ်နေတာ မဟုတ်ပါဘူး။ မူရင်းစာသားတွေက ဘယ်လောက်ပဲ ဘက်လိုက်နေပါစေ၊ ကျွန်တော်တို့ကတော့ ကိုယ့်အမြင်တွေထည့်တာ၊ ကိုယ့်စိတ်ကြိုက် ပြင်တာတွေ လုံးဝမလုပ်ဘဲ data ကို အရှိကိုအရှိအတိုင်းပဲ ထုတ်ယူထားတာပါ။
178
+
179
+ DatarrX အနေနဲ့ ဒီ content တွေနဲ့ ပတ်သက်ပြီး ဘယ်လိုအာမခံချက်မျိုးမှ မပေးပါဘူး။ ဒီအကြောင်းအရာတွေနဲ့ပတ်သက်ပြီး ပြဿနာတစ်စုံတစ်ရာ ရှိလာရင်ဖြစ်စေ၊ အငြင်းပွားစရာဖြစ်စေ၊ အမြင်ကွဲလွဲမှုဖြစ်စေ စာဖတ်သူနဲ့ မူရင်းရေးသားသူ/ထုတ်ဝေသူတို့ကြားမှာသာ အတိအကျ သက်ဆိုင်ပါတယ်။
180
+
181
+ ---
182
+
183
+ ## ကိုးကားရန် (APA Format)
184
+
185
+ တကယ်လို့ သင်က ဒီ dataset ကို သင့်ရဲ့ သုတေသန ဒါမှမဟုတ် application တွေမှာ အသုံးပြုမယ်ဆိုရင် အောက်ပါ format အတိုင်း ကိုးကားပေးပါနော်-
186
+
187
+ ```APA
188
+ Khant Sint Heinn, & DatarrX. (2026). *MOI Myanmar Articles Dataset* [Data set]. Hugging Face. [https://huggingface.co/datasets/DatarrX/moi-myanmar-articles](https://huggingface.co/datasets/DatarrX/moi-myanmar-articles)
189
+ ```
190
+
191
+ ---
192
+ *DatarrX မှ မြန်မာ NLP နယ်ပယ် တိုးတက်စေဖို့အတွက် စေတနာထားပြီး ဖန်တီးထားပါတယ်။*