Uyghur-Corpus/Uyghur-Corpus

🌟 Uyghur AI Corpus: Bridging Heritage & Technology

🌟 ئۇيغۇرچە سۈنئىي ئىدراك خەزىنىسى: مىراس ۋە تېخنىكا كۆۋرۈكى

🌹 Introduction / كىرىش سۆز

In the era of Artificial Intelligence, language is data, and data is survival. The Uyghur AI Corpus is an initiative to ensure the Uyghur language thrives in the digital age. This dataset serves as a foundational resource to train Large Language Models (LLMs), enabling them to understand, generate, and translate Uyghur with native-level proficiency.

سۈنئىي ئىدراك (AI) دەۋرىدە، تىل — سانلىق مەلۇمات دېمەكتۇر. بۇ ئامبار — ئۇيغۇر تىلىنىڭ رەقەملىك دۇنيادىكى ئورنىنى ساقلاپ قېلىش ۋە تېخىمۇ يۈكسەلدۈرۈش ئۈچۈن تەييارلانغان بىر كۆڭۈل سوۋغىسىدۇر. بىزنىڭ مەقسىتىمىز: كەلگۈسىدىكى سۈنئىي ئىدراك مودېللىرىنىڭ ئۇيغۇرچىنى راۋان چۈشىنىشى، تەرجىمە قىلىشى ۋە بىزنىڭ مەدەنىيىتىمىزنى توغرا ئىپادىلىشىگە ھەسسە قوشۇشتۇر.

---

🆕 What's New (Feb 2026 Update) / يېڭىلىنىشلار

• Content Update: Added new Uyghur articles and poetry to the dataset.
• مەزمۇن يېڭىلاندى: ئامبارغا يېڭىدىن نۇرغۇن ماقالىلەر ۋە شېئىرلار قوشۇلدى.

---

💎 Source & Collection / مەنبە ۋە توپلىنىشى

This corpus is a carefully curated collection of texts sourced from the open internet. It represents the collective intellectual heritage of the Uyghur people shared on various public platforms, forums, and websites over the years.

• 🌍 Diverse Origins: Stories, essays, articles, and historical accounts available in the public domain.
• ⚖️ Respect for Authors: While collected for AI training purposes, we deeply respect the original creators. Metadata such as author and source has been preserved wherever possible to credit the intellectual owners.
• 🛠️ Cleaned & Processed: The raw web data has been meticulously cleaned, formatted, and structured to meet high-quality AI training standards.

بۇ خەزىنىنىڭ مەنبەسى — كەڭ ئىنتېرنېت دۇنياسىدۇر. بۇ ئامباردىكى ئەسەرلەر يىللاردىن بۇيان تۈرلۈك تور بەت، مۇنبەر ۋە ئىجتىمائىي تاراتقۇلاردا ئېلان قىلىنغان، خەلقىمىزنىڭ ئەقلىي بايلىقى بولغان ئوچۇق مەنبەلىك ئەسەرلەردىن تاللاپ يىغىلدى.

• 🎯 مەقسەت: بۇ ئەسەرلەرنى توپلاشتىكى بىردىنبىر مەقسەت — سۈنئىي ئىدراكنىڭ ئۇيغۇرچە سەۋىيەسىنى ئۆستۈرۈش، تىلىمىزنىڭ نازۇكلىقى ۋە پاساھىتىنى ماشىنىلارغا ئۆگىتىشتىن ئىبارەت.
• 🌹 ھۆرمەت: بىز ھەر بىر يازمىنىڭ ئاپتورىغا ۋە ئەسلى مەنبەسىگە ئالىي ھۆرمەت بىلدۈرىمىز. شۇڭا، سانلىق مەلۇماتلار تازىلانغاندا author (ئاپتور) ۋە source (مەنبە) ئۇچۇرلىرى ئىمكانقەدەر ساقلاپ قېلىندى.

---

🚀 Technical Highlights / تېخنىكىلىق ئالاھىدىلىكى

To solve the "Lost-in-the-Middle" problem common in LLM training, this dataset features Semantic Chunking:

1. Format / فورماتى: Parquet (Fast, compressed, and ready for Python Pandas/Hugging Face).
   (تېز، پىرىسلانغان ۋە Python ئۈچۈن تەييارلانغان.)
2. Chunking Strategy / پارچىلاش ئىستراتېگىيەسى: Long texts are intelligently split into 2000-word segments without breaking sentences.
   (ئۇزۇن تېكىستلەر جۈملە قۇرۇلمىسىنى بۇزماي تۇرۇپ، 2000 سۆزلۈك بۆلەكلەرگە ئەقىللىق پارچىلاندى.)
3. Compatibility / ماسلىشىشچانلىقى: Standardized columns for instant use with PyTorch/TensorFlow datasets.
   (PyTorch ۋە TensorFlow سىستېمىلىرىدا بىۋاسىتە ئىشلىتىشكە ماسلاشتۇرۇلغان.)

---

📂 Data Structure / سانلىق مەلۇمات قۇرۇلمىسى

Column / ئىستون	Meaning / مەنىسى
title	The title of the work. / ئەسەر ماۋزۇسى.
text	The main content used for training. / ئاساسلىق تېكىست.
author	The original creator. / ئەسەرنىڭ ئاپتورى.
source	The origin platform. / ئەسەر ئېلىنغان مەنبە.
date	Publication date. / ئېلان قىلىنغان ۋاقتى.
translator	Name of the translator. / تەرجىمان.

---

💻 Usage Example / ئىشلىتىش ئۈلگىسى

You can load this dataset directly in Python using the datasets library:

from datasets import load_dataset

# Load the dataset / سانلىق مەلۇماتنى يۈكلەش
dataset = load_dataset("Uyghur-Corpus/Uyghur-Corpus")

# Peek at the first entry / بىرىنچى ئۇچۇرنى كۆرۈپ بېقىش
print(dataset['train'][0])