Datasets:

jangedoo
/

ne-wiki-clean

id stringlengths 3 6	title stringlengths 1 84	text stringlengths 9 125k
804	नेपाल	नेपाल (आधिकारिक नाम: सङ्घीय लोकतान्त्रिक गणतन्त्र नेपाल) दक्षिण एसियाली भूपरिवेष्ठित हिमाली राष्ट्र हो। यो देश मुख्यतया हिमालयमा अवस्थित भएता पनि यसले सिन्धु गङ्गा मैदानको भागहरू पनि समावेश गर्दछ। यो देशको उत्तरमा चीनको तिब्बत स्वायत्त क्षेत्र र दक्षिण, पूर्व तथा पश्चिममा भारतसँग सीमा साझा गर्दछ जबकि सिलिगुडी कोरिडोरद्...
806	साहित्य	साहित्य कुनै भाषाको शास्त्रसमूह मान्न सकिन्छ । भारतीय साहित्य भारतीय वाङ्गमयलाई कालको दृष्टिदेखि निम्नलिखित भागहरूमा विभक्त गरिएको छ - भारतको संस्कृत साहित्य ऋग्वेददेखि आरम्भ हुन्छ। व्यास, वाल्मीकि जस्तै पौराणिक ऋषिहरूले महाभारत एवं रामायण जस्तै महाकाव्यहरूको रचना गरे।भास, कालिदास एवं अन्य कविहरूले संस्कृतमा नाटक ले...
807	भूगोल	भूगोल दुई शब्द भू अनि गोलबाट मिलेर बनेको छ, अर्थात गोलो भूमि अथवा जमीन/पृथ्वी। ग्रीस भाषाका दुई शब्द geo र graphia बाट अङ्ग्रेजी शब्द Geography बनेको हो। पृथ्वी, भूमि र पृथ्वीमाथी अथवा पृथ्वी मुनी रहेको विभिन्न अवयव र तत्वहरूको विश्लेशण गराउने शास्त्र नै भूगोल शास्त्र अथवा भूगोल भनिन्छ। अङ्ग्रेजीमा भूगोललाई Geography...
808	भारत	भारत, आधिकारिक रूपमा गणतन्त्र भारत, दक्षिण एसियाको एक देश हो। यो क्षेत्रफलको आधारमा सातौँ ठुलो र दोस्रो-सबैभन्दा बढी जनसङ्ख्या भएको देश हो। दक्षिणमा हिन्द महासागर, दक्षिणपश्चिममा अरब सागर र दक्षिणपूर्वमा बङ्गालको खाडीले घेरिएको, यसले पश्चिममा पाकिस्तानसँग भूमि सीमाहरू साझा गर्दछ; उत्तरमा चीन, नेपाल र भुटान; र पूर्वमा ब...
809	चन्द्रगुप्त	चन्द्रगुप्त प्रथम गुप्त वंशको एउटा राजा थिए, जसले उत्तरी भारतमा शासन गरेका थिए। उनको शीर्षक महाराजाधिराज ("महान राजाहरूका पनि राजा") बताइने गरिन्छ कि वहाँ राजवंशको पहिला सम्राट थिए। यो कुराको निश्चितता छैन कि वहाँले आफ्ना साना पैतृक साम्राज्यलाई एउटा साम्राज्यमा कसरी परिवर्तन, यद्यपि आधुनिक इतिहासकारहरूका बीचमा व्यापक ...
811	नेपालको झन्डा	नेपालको राष्ट्रिय झन्डा एक मात्र चारकुने आकार नभएको राष्ट्रिय झन्डा हो। यो चारकुने आकार नभएको मात्र दुई सरकारी झन्डा (अर्को झन्डा संयुक्त राज्य अमेरिकाको ओहायो राज्यको हो) मध्येको एक हो। नेपालको झन्डा दुई त्रिकोण (एक माथि अर्को) मिलेर बनेको छ। माथिल्लो त्रिकोणमा अर्ध चन्द्र र तल्लोमा सूर्य छ, जसले आकाशमा चन्द्र र सूर्य...
822	सयौँ थुङ्गा फूलका हामी	सयौँ थुङ्गा फूलका हामी, नेपालको राष्ट्रिय गान हो। यसलाई २०६४ साल साउन १८ गते लागू गरिएको थियो। यसलाई अन्तरिम संसदका सभामुख सुवासचन्द्र नेम्वाङ सिंहदरबार भित्र रहेको राष्ट्रिय योजना आयोगको सम्मेलन भवनमा आयोजित समारोहको बीच २०६४ साउन १८ मा औपचारिक रूपमा राष्ट्रिय गानको रूपमा लिइएको घोषणा गरेका थिए। तत्कालीन शाही परिवारला...
823	श्रीमान् गम्भीर	श्रीमान् गम्भिर नेपाली नेपालको पुरानो राष्ट्रिय गान हो। राष्ट्रगानको रूपमा वि.सं २०१८ देखि अपनाइएको यो गीत तत्कालिन नेपालको राजा र राष्ट्रको निम्ति समर्पित थियो। श्रीमान् गम्भीर नेपालीको शब्द रचना चक्रपाणि चालिसेले सन् १९२४ मा गरेका थिए। तर यो एक सैनिक परेडको सङ्गीतको रूपमा तत्कालिन 'शाही नेपाली सेना' ले पहिले देखि नै...
824	ज्योतिष	"ज्योतिष भनेको सौर्यमण्डलमा रहेका ता(...TRUNCATED)
825	ऋग्वेद	"ऋग्वेद सनातन धर्म अथवा हिन्दु धर्मको(...TRUNCATED)

End of preview. Expand in Data Studio

This dataset is a cleaned version of Nepali Wikipedia articles taken from wikimedia/wikipedia. After analyzing the articles, short lines i.e. less than 50 characters were collected as potential wiki artifacts. Using the document frequency of those short lines, top 100 candidate patterns were extracted. From those candidates, final 16 patterns were identified as wiki artifacts. For each text, if any of the wiki artifacts were seen then the remaining part of the text was removed since it is likely that text following an artifact is also another artifact.

wiki_ds = datasets.load_dataset("wikimedia/wikipedia", "20231101.ne", split="train").select_columns(['id', 'title', 'text'])

import re
import unicodedata

WIKI_ARTIFACT_PATTERNS = [
    # References: सन्दर्भ, सन्दर्भहरू, सन्दर्भ सूची,
    # सन्दर्भ सामग्री, सन्दर्भ सामाग्रीहरू, etc.
    r"^सन्दर्भ(?:\s*(?:हरू|सूची))?$",
    r"^सन्दर्भ\s+(?:सामग्री|सामाग्री)(?:हरू)?$",

    # See also
    r"^(?:यो|यी)\s+पनि\s+हेर्नुहोस(?:्)?$",
    r"^हेर्नुहोस(?:्)?$",

    # External links/sources
    r"^बाह्य\s*(?:कडी|लिङ्क|लिंक|सूत्र)(?:हरू)?$",
    r"^बाहिरी\s*(?:कडी|लिङ्क|लिंक)(?:हरू)?$",

    # Sources and notes
    r"^स्रोत(?:हरू)?$",
    r"^टिप्पणी(?:हरू)?$",

    # Media/navigation sections
    r"^तस्विर\s+सङ्ग्रह$",

    # Standalone external-link labels
    r"^आधिकारिक\s+वेबसाइट$",

    # Wikipedia editing-event/category artifacts
    r"^विकिथन[-–—]?\s*\d+\s+मा\s+बनाइएका\s+वा\s+सुधारिएका\s+लेखहरू$",
    r"^विश्वसम्पदाथन\s+\d{4}\s+मा\s+बनाइएका\s+वा\s+सुधारिएका\s+लेखहरू$",

    # Hindi/English variants
    r"^इन्हें\s+भी\s+देखें$",
    r"^References?$",
    r"^External\s+links?$",
    r"^See\s+also$",
]



WIKI_ARTIFACT_RE = re.compile(
    "|".join(f"(?:{pattern})" for pattern in WIKI_ARTIFACT_PATTERNS),
    flags=re.IGNORECASE,
)


def normalize_wiki_line(line: str) -> str:
    line = unicodedata.normalize("NFKC", line)
    line = line.replace("\xa0", " ")
    line = re.sub(r"\s+", " ", line)
    return line.strip(" \t\r\n:–—-|।")


def is_wiki_artifact(line: str) -> bool:
    return WIKI_ARTIFACT_RE.fullmatch(normalize_wiki_line(line)) is not None

def clean_wiki_text(text: str) -> str:
    if not text:
        return ""

    lines = text.splitlines()
    cutoff = len(lines)

    for index, raw_line in enumerate(lines):
        normalized = normalize_wiki_line(raw_line)

        if normalized and WIKI_ARTIFACT_RE.fullmatch(normalized):
            cutoff = index
            break

    cleaned = "\n".join(lines[:cutoff])

    # Remove excessive blank lines without flattening paragraphs.
    cleaned = re.sub(r"[ \t]+\n", "\n", cleaned)
    cleaned = re.sub(r"\n{3,}", "\n\n", cleaned)

    return cleaned.strip()

import os

def clean_batch(batch):
    return {
        "text": [
            clean_wiki_text(text)
            for text in batch["text"]
        ]
    }

clean_wiki_ds = wiki_ds.filter(lambda row: len(row['text']) > 100, num_proc=4).map(
    clean_batch,
    batched=True,
    batch_size=1_000,
    num_proc=min(8, os.cpu_count() or 1),
    desc="Cleaning Wikipedia articles",
)

Downloads last month: 21