Dataset Viewer
Auto-converted to Parquet Duplicate
text
stringlengths
419
582k
[Wikipedia:ur] جغرافیہ جغرافیہ ‎‎، جغرافیہ (یونانی: γεωγραφία) یونانی زبان کے الفاظ 'Geo' (زمین کا) اور 'Graphhien' (تفصیل) کا مجموعہ، جس کے معنی ہیں زمین کا بیان۔"جغرافیہ وہ علم ہے، جس میں زمین، اس کی خصوصیات، اس کے باشندوں‎ ،‎اس کے مظاہر اور اس کے نقوش کا مطالعہ کیا جاتا ہے۔" جغرافیہ ایک ہمہ جہت نظم و ضبط ہے جو زمین...
[Wikipedia:ur] پاکستان پاکستان، جس کا سرکاری نام اسلامی جمہوریہ پاکستان ہے، جنوبی ایشیا کا ایک ملک ہے۔ یہ آبادی کے لحاظ سے پانچواں سب سے بڑا ملک ہے، جس کی آبادی 2023 کے مطابق 24 کروڑ 15 لاکھ سے زیادہ ہے، اور اس میں مسلمانوں کی دوسری سب سے بڑی آبادی ہے۔ اسلام آباد اس کا دار الحکومت ہے، جبکہ کراچی اس کا سب سے بڑا شہر او...
[Wikipedia:ur] تاریخ تاریخ جامع انسانی کے انفرادی و اجتماعی اعمال و افعال اور کردار کی آئینہ دار ہوتی ہے۔ تاریخ انسانی زندگی کے مختلف شعبوں میں گذشتہ نسلوں کے بیش بہا تجربات آئندہ نسلوں تک پہنچاتی ہے، تاکہ تمدن انسانی کا کارواں رواں دواں رہے۔ اس کا سب سے بڑا فائدہ یہی ہے کہ اس کے توسط سے افراد و اقوام ماضی کے دریچے سے...
[Wikipedia:ur] لسانيات لسانيات ايک ايسا مضمون ہے جس ميں انسانی زبانوں کا مطالعہ کيا جاتا ہے۔ زبانوں کی موجودہ صورت کا مطالعہ کيا جاتا ہے۔ زبانوں ميں وقت کے ساتھ ساتھ ہونے والی تبديليوں کا مطالعہ کيا جاتا ہے۔ مختلف زبانوں کی آپس ميں مشابہت کے بارے ميں مطالعہ کيا جاتا ہے۔ اس کے ساتھ ساتھ اس چيز کا بھی مطالعہ کيا جاتا ہے...
[Wikipedia:ur] اردو اُردُو، برصغیر پاک و ہند کی معیاری زبانوں میں سے ایک ہے۔ یہ پاکستان کی قومی اور رابطہ عامہ کی زبان ہے، جبکہ بھارت کی چھ ریاستوں کی دفتری زبان کا درجہ رکھتی ہے۔ آئین ہند کے مطابق اسے 22 دفتری شناخت شدہ زبانوں میں شامل کیا جا چکا ہے۔ 2001ء کی مردم شماری کے مطابق اردو کو بطور مادری زبان بھارت میں 5.01...
"[Wikipedia:ur] تاریخ ہند\n\nجدید علم جینیات کی رو سے بالاتفاق ب(...TRUNCATED)
"[Wikipedia:ur] نيا صفحہ\n\nنيا صفحہ کس طرح شروع کيا جا سکتا ہے۔\(...TRUNCATED)
"[Wikipedia:ur] الجزائر\n\nالجزائر جسے انگریزی میں الجیریا بھی (...TRUNCATED)
"[Wikipedia:ur] کراچی\n\nکراچی پاکستان کا سب سے بڑا شہر ہے، جسے (...TRUNCATED)
"[Wikipedia:ur] فلکیات\n\nتصغیر|230px|ہبل دوربین کی مدد سے دریافت (...TRUNCATED)
End of preview. Expand in Data Studio

YAML Metadata Warning:empty or missing yaml metadata in repo card

Check out the documentation for more information.

commonwealth-wiki-mix

FineWeb-style Parquet shards (LLM-training friendly) created by merging multiple Wikipedia language datasets into a single dataset to reduce looping during training.

What’s inside

  • Format: nanochat-parquet-v1
  • Layout: shard_*.parquet + metadata.json
  • Text column: text
  • Parquet settings: zstd (level 3), row_group_size=1024, use_dictionary=False, write_statistics=False

Sources included

This mix was built from the already-exported wiki datasets in ~/.cache/nanochat/datasets/monolingual/:

  • South Asia: Urdu, Hindi, Bengali, Tamil, Telugu, Malayalam, Marathi, Kannada, Gujarati, Punjabi, Nepali, Sinhala
  • Southeast Asia: Malay
  • Africa: Swahili, Yoruba, Afrikaans, Zulu

Loading

In Python, you can load shards directly with PyArrow / Pandas. For HuggingFace datasets, Parquet loading works out of the box:

from datasets import load_dataset

ds = load_dataset("JayJayThrowThrow/commonwealth-wiki-mix", split="train")
print(ds.column_names)  # ["text"]
Downloads last month
2